Элиезер Юдковский: Hombre vs la inteligencia Artificial — quien a quien? Bashny.Net

Imagínese increíblemente inteligente artificial сверхинтеллект, encerrado en un mundo virtual — por ejemplo, sólo en табакерке. Usted no sabe, será mala, amable o neutral. Todo lo que usted sabe, porque esto es lo que él quiere salir de tabaqueros y que puede interactuar con él a través de una interfaz de texto. Si la ia es realmente сверхразумным si puedes pronunciar con él cinco horas y no caer en su persuasión y manipulación — no abrir la tabaquera?

Este experimento mental propuso Элиезер Юдковский, investigador del instituto de investigaciones de ingeniería (MIRI). En la isla de borneo es un montón de científicos que investigan los riesgos de desarrollo artificial сверхинтеллекта; a pesar de que aun no ha aparecido hasta el momento, ya llama la atención y despierta el debate.

Юдковский afirma que la artificial сверхинтеллект se puede hablar de todo, que sólo puede convencer a usted: si sigues el razonamiento, la amenaza, el engaño, la construcción de la relación, el subconsciente de la sugestión y así sucesivamente. Con la velocidad de la luz ia construye la trama, la sonda de la debilidad y la define como la forma más fácil de convencer. Como dijo el teórico de la existenciales amenazas Nick bostrom, "debemos creer que сверхинтеллект capaz de llegar a todo el que le ponga fin".

El experimento con la ia de los tabaqueros en duda nuestra capacidad de controlar lo que podríamos crear. También nos hace reflexionar bastante peculiares en la posibilidad de lo que no sabemos acerca de nuestra propia realidad.

La imitación puede ser un caldo de cultivo para la inteligencia artificial. Algunos de los más plausibles formas de crear un potente ia incluyen modelos de mundos introduciendo restricciones artificialmente modelización del mundo y la selección de los rasgos, los científicos pueden tratar groseramente duplicar su propio modelo de desarrollo y consciente del sentimiento de la persona. La formación de la ia en el entorno de la simulación también puede evitar la "fuga" en el mundo hasta que su intención y la magnitud de la amenaza no será más que evidente.

Los últimos logros de la alusión a lo que puede ser imposible es difícil de desarrollar el conocimiento a partir de cero. Nadie puede construir la mente humana a escala, apuntando a una sola línea de código. Hay otros enfoques prometedores, por supuesto, y a medida que el crecimiento de la capacidad de procesamiento puede ser posible el desarrollo de un proceso que en última instancia, crear una ia, inteligente y capaz como el hombre.

Libere ¿ia, o usted se atreve a condenar a sí mismo en la interminable tortura?Una idea de "crear" de la ia consiste en la exploración, cartografía y de emulación virtual de modelo del cerebro humano. El cerebro humano contiene miles de millones de neuronas y billones de conexiones entre las neuronas. Si estamos virtualmente смоделируем alguien la estructura de las neuronas y sus conexiones, si es adecuada una réplica de la conciencia humana?

Otros planes de virtual el desarrollo de la inteligencia es mucho menos fácil. Uno de los conceptos fundamentales es la creación de una máquina — a la débil inteligencia, que es capaz de aprender, es posible, gracias a la imitación de la red neuronal programada en la infinita extensión y mejora de algoritmos propios.





Descritos anteriormente, los escenarios incluyen problema preocupante. Emulado el cerebro puede trabajar en 2, 10 o 100 veces más rápido de lo normal biológica del cerebro. La ia puede modificar su propio código o empezar a crear más razonables versión de sí mismo. La explosión de la velocidad y de la mente самоулучшающихся equipos examinó de nuevo en 1965, mi papel es secundario, es decir, j. Hood, quien escribió que "el primer сверхразумная la máquina será la última invención, a la que se va a crear a la humanidad".

Si vamos a crear increíblemente razonable de la máquina, tenemos que ser cuidadosos con su presentación. Los ingenieros difícilmente podrán crear un modelo del mundo, que estará completamente protegida contra fugas. Los científicos deben crear el mundo-la imitación, la que les permitirá mirar en este universo y recopilar información. Puede parecer inofensivo, pero es difícil de adivinar, no encontrará si la supermente manera de hacernos daño a través de la simple observación.

Volviendo a las cajas Юдковского, son particularmente espeluznante método que la ia puede utilizar para hacer que usted liberarlo. Se incluye el manejo de la situación: la ia se convencerá de que es casi seguro que la parte de la simulación.

Usted se comunica con la сверхинтеллектом virtual en la cárcel. Ia explica a usted, que con la ayuda de su (inexplicablemente grande) potencia de procesamiento se ha creado una simulación de un billón de seres. Estos seres, en la actualidad, todos se comunican con la ia y deciden que les abriera la tabaquera o no. Todos estos seres tienen memoria de sus "vidas" y no reflexionan, no es inmutable, ¿la realidad.

Ai afirma que cada criatura virtual que abre la caja, hallar el infinito el estado de la euforia y de la simulación de cada una criatura a la que no se abre la caja que sufra el eterno torturas y horrores.

Ya que usted es uno de los billones de cerebros, que se enfrentaron antes de que tal elección, pulsa la ia, usted debe llegar a la conclusión de que hay astronómicamente grandes posibilidades de que usted está en el poder de la ia y en el que hay que jugar por las reglas.

Libere ¿ia, o usted se atreve a condenar a sí mismo en la interminable tortura? No se puede engañar a alguien siempre un paso por delante de usted, y le resulta difícil de evaluar, miente si la ia, sin saber sus motivos. En el mejor de los casos, usted podría contrarrestar esta táctica, debido a su estricta política de ignorar algunos tipos de chantaje. Y este tema hasta ahora, la turba de los teóricos de la ia.

El objetivo declarado de MIRI: "asegurarse de que la creación de la inteligencia por encima de lo humano se hace un impacto positivo". Tenemos que arriesgar y probar, pero debe evitar todos los posibles escollos. Y si alguna vez realmente se reunirá la divina equipo capaz de procrear innumerables universos virtuales, es probable que se trata de "usted" va a soñar inteligencia artificial... si lo escuchará sus peticiones y súplicas. publicado

P. S. Y recuerde, sólo cambiando su conciencia — estamos juntos cambiando el mundo! ©

Fuente: hi-news.ru