Por qué bill gates ( y a Usted), no hay que temer de la inteligencia artificial

Cinco millones trescientos ochenta y dos mil seiscientos noventa y seis

La semana pasada, bill gates, durante la sesión de preguntas y respuestas sobre el recurso de Reddit ha recibido una interesante pregunta de un usuario: "¿Qué amenaza para la supervivencia de la humanidad es la máquina de сверхинтеллект, y si crees que el cifrado completo de toda la actividad en línea puede protegernos de la amenaza (es decir, de lo que menos saben de la máquina, mejor?".

Por desgracia, gates no ha respondido a la segunda parte de la pregunta, pero escribió lo siguiente:

"Me refiero a la gente que está preocupada por la сверхинтеллекта. Al principio, la máquina va a hacer un montón de trabajo para nosotros y no serán especialmente de los que son prudentes. Sería bueno si nos vamos a hábilmente los conducirá. Varias décadas después, esta inteligencia sea lo suficientemente potente como para convertirse en un problema. Estoy de acuerdo con Элоном Маском y otros sobre este tema y no entiendo por qué la gente no se preocupan".

Afortunadamente робофобов, el mejor equipo de anti-héroes casi montado. Elon Musk y bill gates es el monedero y la influencia, el cosmólogo stephen hawking es muy importante. No les basta a menos que de las manos, que se pueden sucios actos contra las máquinas en esta guerra preventiva.

En realidad, este зарождающимся Мстителям necesita algo más visionario: cualquier indicio de que la artificial сверхинтеллект será una grave amenaza, o más de un serio estudio.

Sin embargo, en medio de la creciente histeria alrededor de un inexistente de la inteligencia artificial, se producen graves de desconcierto. Los expertos no ven ni un atisbo de un gigantesco тиранический la inteligencia artificial en el moderno código. Es posible, gates, hawking y Máscaras de mierda listos y saben algo que no sabemos. Pero se puede escuchar a los investigadores principales de este mismo de la inteligencia artificial.

Cuando la gente habla de las redes neuronales, cognitivos de cálculo y, en general, el concepto de la inteligencia artificial, que debe superar a la del hombre, dicen también, y sobre la sala de máquinas y profundo de aprendizaje. Si alguien sabe que ha llegado el momento de entrar en pánico, lo de estos chicos.

Artificial сверхинтеллект no viene ниоткудаВот dilip Джорд, cofundador de nuevas empresas de la inteligencia artificial Vicarious, habla sobre los riesgos сверхинтеллекта:

"La historia recuerda mucho паник alrededor de tecnologías diferentes, de un motor a vapor a la energía nuclear y de la biotecnología. Venderás más periódicos y de entradas de cine, si vas a jugar en la histeria, y ahora, en mi opinión, ocurre lo mismo: la gente se hinchan los temores alrededor de la inteligencia artificial. Como científicos, tenemos que informar a la sociedad acerca de la diferencia entre hollywood y la realidad. La comunidad de la inteligencia artificial no vale la pena ni siquiera en el umbral de la creación de algo semejante, que vale la pena preocuparse".

Este punto de vista Vicarious tiene un peso, no sólo por la labor en curso de la compañía sobre la inteligencia artificial, sino también porque elon Musk presentó una nueva empresa como parte de su visión de la cortina. Musk ha contado con CNBC, que ha invertido en Vicarious ", no para desanimar la inversión, y para tener la oportunidad de velar por la inteligencia artificial". Él también escribió que "las empresas líderes en el desarrollo de la ia toman medidas serias para garantizar la seguridad. Ellos son conscientes de los riesgos que consideran que pueden formar y controlar digital сверхинтеллект y evitar su huida en internet. Vamos a ver...".

A la pregunta de Vicarious, cuánto tiempo y recursos se dedican a la protección de la inteligencia artificial, respondió scott phoenix, el otro co-fundador de Vicarious:

"La inteligencia artificial no aparece por casualidad, o de repente. Estamos en el comienzo de la investigación, como en general para construir un sistema básico de inteligencia, y por delante todavía un largo proceso de repetición y el aprendizaje de este sistema, el estudio de las vías de su creación y de las vías de seguridad".

Vicarious no tiene caso con сверхинтеллектом. Incluso no hay en radares. ¿De qué entonces las empresas dice Musk, y sobre que en serio se preocupa por sus propias palabras, dice, para mal сверхинтеллект no "se ha escapado en internet"? Como, según sus propias palabras, de construir una cárcel para el demonio, y cuando de los mismos-los demonios no?

Así es como la pregunta sobre cómo las empresas activamente mantienen la inteligencia artificial bajo el castillo, respondió jan Лекун, director de investigación de la ia en el Facebook:

"Algunas personas se preguntan cómo impedir que una hipotética сверхразумный amable, la inteligencia artificial decide "reprogramar" a sí mismo y garantiza выпиливание de toda la humanidad. La mayoría de estas personas, en sí, no son los investigadores de la ia, incluso los programadores no son".

Лекун también señala una de las fuentes de confusión: la diferencia entre la inteligencia y la autonomía.

"Digamos que tienes a primera vista сверхразумная un sistema que no tiene autonomía. Por ejemplo, el programa de ajedrez, que puede derrotar a casi cualquier persona. ¿Tiene ella сверхинтеллектом? Muy pronto автопилоты aviones y autogestión coches serán más fiable de la gente. ¿Esto significa que serán más inteligentes que los hombres? En un sentido muy limitado, estos sistemas son "más inteligentes" que los hombres, pero su experiencia se encuentran en muy estrecha área, y el de los sistemas de muy poca autonomía. No pueden ir más allá de la prescripción.

Esta importante diferencia, y es bien describe el pánico, que han sucumbido a Musk, hawking, y ahora gates. La ia puede ser inteligente sin ser inteligente y creativo. Lo que es más importante, la ia no se ajusta de una especie de equivalente digital biológico evolutivo de la ruta, compitiendo y вопроизводясь con cada una mutación cada vez mejor y mejor, hasta que no llegue a desenfrenado сверхинтеллекта. No, no funciona así la ia.

Nos sorprenderá la máquina con la inteligencia de un ratón, pero esto sucede no скороАлгоритм de búsqueda muestra los resultados más rápido que cualquier humano, pero nunca se convertirá en un código de ética y él no va a ocultar la pornografía en su sabor y color. Sólo un escritor de novela de ficción o de otro humanitario, lejos de la tecnología informática, se puede presentar, como la inteligencia artificial al nivel humano repentina e inexplicablemente crece de la nada. Y si usted cree en el milagro, ¿por qué no agregar otro tipo de, digamos, самособирающийся сверхинтеллект?

Лекун actúa en defensa de la Máscara, alegando que su comentario, compara la ia con armas nucleares, se ha "exagerado, pero también mal entendido".

"Elona muy preocupados por existenciales amenaza a la humanidad (porque se construye cohetes, que podrán enviar a la gente la colonización de otros planetas). Incluso si el riesgo de la rebelión de la inteligencia artificial vil e ilusoria, nos cuesta pensar en él, construir proactiva, seguir estrictamente nítido reglas. Así como se han instalado bioéticos restricciones en los 70 y en los 80, antes de que la ingeniería genética se ha utilizado en todas partes, tenemos que crear restricciones en el campo de la ética de la inteligencia artificial. Pero, como bien dice Йошуа, tenemos tiempo suficiente. Nuestros sistemas de los seres humanos muy estrechas áreas, pero en general la ia nivel humano aparece todavía no pronto, posiblemente a través de un par de décadas, por no hablar de fuera de la general de la ia, que puede ser jamás construido".

El científico, que tenía algo que decir sobre el tema, se ha mencionado en el párrafo anterior. Йошуа Бенгион — jefe de Laboratorio de la máquina de aprendizaje en la Universidad de montreal, uno de los pioneros de la subregión de aprendizaje profundo (junto con Лекуном). He aquí su opinión sobre el hecho de que la investigación de la ia también entrañan el riesgo de:

"En este punto de vista no hay ninguna verdad, si se la considera en el contexto de la investigación actual de la inteligencia artificial. La mayoría de las personas no se dan cuenta de lo primitivo sistema construimos, y por desgracia, muchos de los periodistas (y algunos científicos distribuyen los temores de la ia, que no se corresponden con la realidad. Nos gustaría ofigeli, si se hubiera creado la máquina con la inteligencia del ratón en un futuro próximo, pero estamos todavía lejos de ello, muy lejos de. Sí, estos algoritmos ya tiene una aplicación útil, y será después más. Además, creo que la gente una vez crearán las máquinas que serán tan inteligentes, ¿cuántas personas de muchas maneras. Sin embargo, esto será en un futuro lejano, por eso los debates es una pérdida de tiempo. Cuando la cuestión será vitales, por supuesto, nos reuniremos a científicos, filósofos y juristas, para determinar la mejor ruta de la prevención de los efectos pertenecientes en la actualidad de ciencia ficción".

A la pregunta acerca de si el сверхинтеллект inevitable, Бенгио respondió:

"Es difícil responder a esta pregunta, a un lado todo el rigor científico de la reflexión. Veo un montón de buenos matemáticas y de la computación de las causas de por qué la investigación en ia, una vez que se llegara en un callejón sin salida (debido al crecimiento exponencial de la complejidad), en la que ha pasado un día, el intelecto humano — que, en principio, también explica por qué los delfines y los elefantes, aunque difieren un cerebro más grande, no son сверхразумными. Simplemente no sabemos lo suficiente para ir algo he encendido la hipótesis en este asunto. Si esta hipótesis se confirma el estancamiento, una vez disponemos de los equipos que sean tan inteligentes como las personas, pero tendrán un acceso más rápido a los conocimientos. Pero para entonces, la gente también pueden apoderarse de este acceso a la información (en principio, ya hemos bebes, pero lentamente, a través de los motores de los algoritmos). Por supuesto, esto no tiene nada que ver con сверхинтеллектом. Yo pienso acerca de la ia como ayuda a la mente, al igual que la revolución industrial fue la ayuda de las manos durante los dos últimos siglos".

En cuanto a la observación sobre la Máscara de que la ia "potencialmente más peligroso que el de las armas nucleares" y con él es necesario tener cuidado, Бенгио se dirige a la fecha, no se de grabación en relieve de la puerta en un futuro desconocido:

"Mientras que esta pregunta no tiene sentido. En el futuro todo puede cambiar, pero hasta que гадаем en poso de café. Cuando lleguemos allí, por supuesto, nosotros vamos a pensar en serio".

Objetivo común en los debates — tiempo. Cuando hable con los investigadores de la ia, una vez más específicamente, los investigadores de la ia, las personas que trabajan con estos sistemas no están especialmente preocupados por el hecho de que сверхинтеллект se acerca cautelosamente a ellos (los tontos, corre!). A diferencia de las historias siniestras, que ha leído mucho Musk, los investigadores de la inteligencia artificial en general, no se toman incluso discutir сверхинтеллект, no existe incluso en los planes. Si los derechos de bill gates?

Fuente: hi-news.ru

Tags

Vea también

Nueva y Notable