Билл Гейтс тоже опасается ИИ

Беспокойство по поводу развития технологий Искусственного интеллекта раньше высказали Илон Маск и Стивен Хокинг. Теперь к числу «боязливцев» добавился ещё Билл Гейтс. Свои опасения он высказал во время вчерашней сессии вопросов-ответов с пользователями интернета на форуме Reddit «AmA».

Билл Гейтс дал понять, что разделяет позицию Илона Маска, в соответствии с которой следует очень осторожно работать над созданием умных машин.

«Я принадлежу к лагерю тех, кто озабочен возникновением суперинтеллекта. Сначала машины будут делать для нас много полезной работы и не будут обладать суперинтеллектом. Это будет позитивным явлением, если мы нормально управляем процессом. Однако, через несколько десятилетий ИИ станет достаточно сильным, чтобы вызвать беспокойство. Я согласен с Илоном Маском и другими на этот счёт и не понимаю, почему некоторые люди не чувствуют такого же беспокойства».

В интервью Backchannel на прошлой неделе Билл Гейтс пояснил, что не пытается притормозить научно-технический прогресс, а всего лишь хочет привлечь внимание к двум потенциальным проблемам.

1. ИИ начинает выполнять работу, к которой привыкли люди («работа, которая важна для вас и придаёт смысл жизни»).
2. Сильный ИИ может эволюционировать в состояние, «конфликтующее с целями человеческих систем».

Недавно Илон Маск выделил $10 млн на научные исследования систем безопасности для ИИ.

Нужно отметить, что Гейтс и Маск причастны к бизнесу ИТ, который должен выиграть от внедрения технологий ИИ. Но даже они выражают беспокойство.

Для дальнейшего изучения проблемы можно рекомендовать книгу Ника Бострома «Суперинтеллект». Кстати, и Илон Маск упоминал её раньше.

Источник: geektimes.ru/post/245022/