Компьютер можно сделать шизофреником

Чокнутый



Хотя искусственный интеллект пока не изобрели, нет сомнений, что в скором времени это случится. Совместный эксперимент исследователей из Университета штата Техас в Остине и Йельского университета показал, насколько велика потенциальная опасность компьютеров.

Чтобы лучше понять шизофрению, группа учёных построила компьютерную нейросеть, способную имитировать переизбыток дофамина в головном мозге человека. Гипотеза состояла в том, что переизбыток дофамина делает мозг чрезмерно активным. Обычно люди мыслят кратко и по существу, что позволяет сохранять рассудок. В мозге шизофреника дофамина слишком много — это порождает ложные ассоциации, и в мозг поступает так много информации сразу, что невозможно отличить важное от несущественного.

Исследователи назвали свою сеть «Различителем» и научили систему воспринимать язык, как человек, то есть не как биты данных, но как связную информацию с перекрёстными ссылками. «Различителю» «скормили» серию рассказов, и в конечном итоге он научился их «понимать». Тогда, чтобы имитировать избыток дофамина в человеческом мозге, учёные подняли скорость обучения машины.

Вскоре «Различитель» стал шизофреником — создал свой собственный набор искажённых ассоциаций. Он отвечал на запросы бессвязными строками, взятыми из странных ситуаций, которые «подсмотрел» в рассказах — точно так же страдающий от шизоидных заблуждений человек искажает элементы реальной жизни. В одном случае компьютер взял на себя ответственность за террористический акт.

Результаты, конечно, интригуют, но на их основании доказать связь между переизбытком дофамина и шизофренией нельзя. С психическими заболеваниями связаны и другие вещества, например, глутаминовая аминокислота. Организм вырабатывает слишком много глутамата, когда люди принимают препараты вроде фенциклидина (его связывают с многочисленными случаями временного психоза). Если и можно что-то вынести из эксперимента с «Различителем», так это то, что машины должны находиться под контролем человека.

via factroom.ru