Может ли искусственный интеллект стать президентом США

Некоммерческая независимая организация Watson 2016 Foundation пропагандирует интересную идею: вместо того, чтобы выбирать одного из кандидатов в президенты США, они предлагают сделать выбор в пользу аналитической машины IBM Watson, возможности которой напоминают работу искусственного интеллекта.

Отстаивая свою точку зрения, члены фонда (никак не связанного с компанией IBM) пишут, что возможности системы Watson по оценке информации и вынесению информированных и прозрачных решений делают её идеальным кандидатом на пост президента.

На сайте фонда утверждается, что Watson – это компьютерная система, умеющая отвечать на вопросы, заданные на естественном языке, изначально разработанная компанией IBM для телевикторины «Jeopardy!». Watson собирает информацию из разных источников и на её основе выдаёт ответ – причём, чем больше этой информации, тем более информированным получается ответ.

Также членам фонда нравится интерфейс системы – в частности, визуальное представление текущего состояния работы аналитического алгоритма и демонстрация уровня уверенности системы в правильности данного ею ответа.

По сути, авторы проекта предлагают своим согражданам сделать первые шаги по направлению к технократии – власти технологических экспертов, эффективно выполняющих административные функции, в данном случае – при помощи автоматической системы принятия решений. Одним из возможных пределов развития технократии является автократия искусственного интеллекта – передачи управления государством сложной интеллектуальной компьютерной системе.

Система Watson, названная так по фамилии первого директора корпорации IBM, действительно была разработана специально с целью сыграть в викторину «Jeopardy!» (известная передача «Своя игра» – лицензионная адаптация этой викторины для российского ТВ). Попытка увенчалась успехом – в результате, Watson выиграла у двух наиболее успешных американских эрудитов, распознавая вопросы, заданные на английском языке и выдавая ответы.

Однако и в этой игре не обошлось без различных глюков и курьёзов. Например, в категории «Города США» на вопрос «Крупнейший аэропорт этого города назван в честь героя Второй Мировой, а второй по размерам – в честь битвы Второй Мировой». Люди-участники правильно ответили, что этот город – Чикаго, а Watson в качестве ответа написал «What is Toronto?????». При этом из-за сложности системы руководитель проекта смог лишь выдвинуть предположения о том, по какой причине Watson дал такой странный ответ.

Кроме участия в телевикторине, разработчики настраивали Watson для создания новых рецептов еды, выбора наилучшего подарка к празднику, предсказание вероятности появления хронических заболеваний у людей на основании их медицинских показателей, анализ психологического портрета участников соцсетей.

Первым коммерческим применением системы стал анализ состояния пациентов с раком лёгких, который должен помочь принять решения, связанных с их лечением.

Однако все эти применения системы основаны на её способности собирать и анализировать готовые данные и работать со статистикой – что вряд ли составляет серьёзную часть работы президента. Задача президента государства схожа с задачами директора крупной фирмы (если говорить о настоящих, а не марионеточных президентах) – это принятие решений на основе имеющейся информации.

Однако возможность компьютерной системы принимать осмысленные решения в рамках управления целой страной вызывает сомнения. Ведь принятие решения – это не простой ответ на конкретный вопрос, как в «Своей игре». К тому же, в телевикторине все вопросы имеют единственный правильный ответ.

Принятие государственных решений обычно сводится к выбору наименьшего из зол, осложнённому недостатком достоверной информации. Кроме этого необходимо учитывать наличие различных противоборствующих сил в иерархии правящей верхушки и другие весьма нелинейные факторы, которые будут препятствовать претворению решений в жизнь.

Разработчики системы Watson потратили несколько лет лишь на её настройку и отладку для участия в викторине. Сколько времени и усилий потребуется, чтобы система стала надёжно работать с вопросами, ответы на которые влияют на судьбы миллионов людей – сказать сложно. Необходимо при этом учесть такие факторы, как возможность атак на компьютерную систему со стороны недоброжелателей.

Конечно, можно представить себе вариант, при котором человек, управляющий страной, при принятии решений консультируется с подобной системой. Но захотят ли облечённые властью люди полагаться на компьютерную систему, разрабатываемую коммерческой компанией – это тоже большой вопрос.

А об опасностях, подстерегающих на пути доверия искусственному интеллекту нас уже предупреждал даже Стивен Хокинг.

О различных формах правления можно почитать здесь:

• технократия
• распространённые сегодня формы правления
• возможные интересные формы правления будущего

Источник: geektimes.ru/post/270632/