5 razones para no tener miedo de la inteligencia artificial

Con las últimas noticias en el campo de la inteligencia artificial, hay claramente una emoción creciente: ¿Y si estamos al borde del fin del mundo? Películas como “El Terminator” o “La Matriz” nos dieron muchos temores – y hoy hay una serie de personas que piensan que un escenario en el que las computadoras desarrollan inteligencia sobrehumana y destruyen la raza humana es posible.

Entre estas personas hay conocidos futuroslogistas - Ray Kurzweil, Robin Hanson y Nick Bostrom. En su mayoría, los futuristas creen que sobrestimamos la probabilidad de que los ordenadores piensen como seres inteligentes, y el peligro que tales máquinas plantean a la raza humana. Es probable que el desarrollo de máquinas inteligentes sea un proceso lento y gradual, y las computadoras con inteligencia sobrehumana, si existen, nos darán tanto como necesitamos. Por eso.

1. La inteligencia real requiere experiencia práctica.

Bostrom, Kurzweil, y otros teóricos de la inteligencia sobrehumana creen infinitamente en el poder del poder computacional bruto que puede resolver cualquier problema intelectual. Sin embargo, en muchos casos, el problema real no es la falta de caballos inteligentes.

Para entender por qué, imagina a alguien que habla ruso brillantemente pero nunca ha hablado chino. Enciérrenlo en una habitación con enormes pilas de libros chinos y háganlo aprender. No importa lo inteligente que sea una persona y cuánto tiempo aprendan chino, nunca aprenderán lo suficiente para llamarse un hablante chino nativo.

Esto se debe a que una parte integral del aprendizaje de un idioma está interactuando con otros hablantes nativos. En conversación con ellos, puede aprender slang local, detectar sutiles tonos en los significados de las palabras y aprender sobre temas populares de conversación. En principio, todas estas cosas se pueden escribir en libros de texto, pero en la práctica resulta que no lo es, ya que los matices del idioma varían de lugar a lugar y dependiendo del tiempo.

Una máquina que trate de desarrollar inteligencia a nivel humano enfrentará problemas mucho más graves del mismo tipo. Un programa informático nunca crecerá en una familia humana, enamorarse, congelarse, tener hambre o cansarse. En resumen, no tendrá tantos contextos que permitan a la gente comunicarse naturalmente entre sí.

Esta vista se aplica a la mayoría de otros problemas que las máquinas inteligentes pueden enfrentar, desde pozos de perforación de aceite hasta resolver problemas fiscales. La mayor parte de la información necesaria para resolver problemas difíciles no está escrita en ninguna parte, por lo que ninguna cantidad de razonamiento teórico solo ayudará a encontrar las respuestas correctas. La única manera de convertirse en un experto es hacer algo y ver los resultados.

Este proceso es extremadamente difícil de automatizar. Es como hacer experimentos y ver el resultado de experimentos, un proceso muy costoso en escala, tiempo y recursos. Escenarios según los cuales los ordenadores rápidamente superan a las personas en conocimiento y capacidades son imposibles - ordenadores inteligentes trabajarán el mismo "método de bombeo" que los humanos.

2. Las máquinas son extremadamente dependientes de las personas

En la serie Terminator, Skynet se vuelve consciente de sí mismo y comienza a usar equipo militar para destruir a la gente.

Este escenario subestima enormemente la dependencia de las máquinas en humanos. La economía moderna se basa en millones de máquinas diferentes que desempeñan una variedad de funciones especializadas. Mientras un número creciente de estas máquinas se mueven a la automatización, en cierta medida todos dependen de personas que les proporcionan energía y materias primas, las reparan, producen más máquinas de reemplazo, etc.

Puedes imaginar que la humanidad construye un gran número de estos robots para satisfacer la demanda. Pero en ninguna parte nos acercamos a construir robots de propósito general.

Crear estos robots en absoluto puede ser imposible debido al problema de regresión sin fin: los robots que pueden construir, reparar y mantener todas las máquinas en el mundo serán increíblemente complejos. Se necesitarán más robots para mantenerlos. Evolution solucionó este problema comenzando por la célula, un bloque de construcción relativamente simple y auto-replicante para toda la vida. Los robots de hoy no tienen nada como él (a pesar de los sueños de algunos futuristas) y es poco probable que lo consigan pronto.

Esto significa que a menos que haya un gran avance en la robótica o la nanotecnología, las máquinas dependerán de los humanos para el apoyo, reparación y otros servicios. Una computadora inteligente que decide destruir a la raza humana se suicidará.

3. El cerebro humano es extremadamente difícil de imitar.

Bostrom argumenta que si no hay otra opción, los científicos podrán producir al menos inteligencia a nivel humano emulando el cerebro humano. Pero es mucho más difícil de lo que parece a primera vista.

Las computadoras digitales son formas de imitar el comportamiento de otras computadoras digitales, ya que las computadoras funcionan de manera precisa y determinista. Para simular un ordenador, solo necesitas ejecutar una secuencia de instrucciones que sigue el ordenador.

El cerebro humano es muy diferente. Las neuronas son sistemas analógicos complejos cuyo comportamiento no puede ser modelado de la misma manera que el comportamiento de los chips digitales. Incluso una ligera inexactitud al imitar ciertos neutrones puede conducir al grado más alto de perturbación del cerebro en su conjunto.

Una buena analogía aquí sería el tiempo simulado. Los físicos han adquirido una excelente comprensión del comportamiento de las moléculas de aire individuales. Usted podría pensar que es posible construir un modelo de la atmósfera de la Tierra que predice el tiempo en el futuro distante. Pero hasta ahora, la simulación del tiempo sigue siendo un problema computacionalmente intratable. Pequeños errores en la etapa temprana de la simulación crecen en una bola de nieve de grandes errores más adelante. A pesar del enorme aumento del poder de cálculo en las últimas décadas, sólo podemos elaborar un programa modesto para predecir los patrones meteorológicos del futuro.

Simular el cerebro para producir una mente puede ser aún más difícil que imitar el comportamiento del tiempo. No hay razón para creer que los científicos puedan hacer esto en un futuro previsible.

4. Para el poder, las relaciones pueden ser más importantes que la inteligencia

Bostrom sugiere que las máquinas inteligentes pueden ser "extremadamente poderosas para moldear el futuro según sus preferencias". Pero si pensamos en cómo funciona la sociedad humana, queda claro que la inteligencia por sí sola no es suficiente para conseguir ese poder.

Si ese fuera el caso, la sociedad estaría gobernada por científicos, filósofos, genios del ajedrez. Sin embargo, la sociedad está gobernada por personas como Vladimir Putin, Barack Obama, Martin Luther King, Stalin, Reagan, Hitler y otros. Estas personas ganaron fuerza y poder no porque eran extraordinariamente inteligentes, sino porque tenían buen carisma, conexiones y sabían combinar zanahorias y palos para que otros hicieran su voluntad.

Sí, científicos brillantes han sido instrumentales en la creación de tecnologías poderosas como la bomba atómica. Y está claro que un ordenador inteligente también puede hacer eso. Pero construir nuevas tecnologías y ponerlas en práctica requiere un montón de dinero y mano de obra que los gobiernos y las grandes corporaciones pueden permitirse. Los científicos que desarrollaron la bomba atómica necesitaban a Franklin Roosevelt para financiar su trabajo.

Lo mismo pasa por pensar en ordenadores. Cualquier plan integral para apoderarse del mundo requerirá la cooperación de miles de personas. No hay razón para creer que una computadora será más eficiente que un científico. Por el contrario, dada la cantidad de amistades antiguas, agrupaciones y carismas que hacen, un programa informático desencarnado sin amigos estará en una enorme desventaja.

Lo mismo pasa por la singularidad, la idea de Ray Kurzweil de que las computadoras algún día se volverán tan inteligentes que los humanos no podrán entender lo que están haciendo. Las ideas más poderosas no son ideas que sólo el inventor entiende. Las ideas más poderosas son aquellas que son ampliamente aceptadas y comprendidas por muchas personas, multiplicando su impacto en el mundo. Funciona tanto para ideas humanas como para ideas de máquinas. Para cambiar el mundo, una computadora superinteligente tendrá que traer el cambio al público.

5. Cuanto más inteligencia en el mundo, menos se valora

Uno esperaría que las computadoras usaran su inteligencia superior para llegar a ser fabulosamente rica y luego utilizar su vasta riqueza para sobornar a la gente. Pero ignora un principio económico importante: a medida que un recurso se vuelve más común, su valor disminuye.

Hace sesenta años, una computadora que podría ser menos que un smartphone moderno valía millones de dólares. Las computadoras modernas pueden ser mucho más poderosas que las generaciones anteriores de computadoras, pero el valor del poder de cálculo está cayendo más rápido de lo que sus capacidades están mejorando.

Así, la primera computadora superintelligente puede hacer mucho dinero, pero su ventaja será fugaz. A medida que los chips de computadora siguen cayendo en valor y ganando en poder de computación, la gente construirá computadoras más superinteligentes. Sus capacidades únicas se volverán mediocres.

En un mundo de abundante inteligencia, los recursos más valiosos serán los limitados: tierra, energía, minerales. Debido a que estos recursos son controlados por los humanos, tendremos al menos tanta ventaja sobre las computadoras inteligentes como lo hacen sobre nosotros.



Fuente: hi-news.ru

Fuente:/usuarios/1617