Елезер Юдковскі: Людина проти штучного інтелекту – Хто хто?

Уявіть неймовірно інтелектуальну штучну надінтелектуючість, що закривається у віртуальному світі—програш, просто у снаффбоксі. Ви не знаєте, якщо він буде добрим або нейтральним. Все, що ви знаєте, що він хоче вийти з снаффбокса і що ви можете взаємодіяти з ним через текстовий інтерфейс. Якщо AI дійсно суперінтелент, ви можете говорити про це протягом п'яти годин і не давати в її персуазії і маніпуляції – не відкривати нуфбокс?

Цей експеримент був запропонований Ієзером Юдковським, дослідником Інституту машинознавства (МІРТ). МІРТ складається з багатьох науковців, які вивчають ризики штучного інтелекту, хоча ще не з’являлося, що вже привертають увагу та дебатів палива.

Юдковський стверджує, що штучний супервзірець може сказати все, що він може переконувати вас: обережні причини, загрози, сприйняття, рапорт будівлі, підсвідомий припуск і так далі. На швидкості світла AI будує ділянку, зникає слабкості, і визначає, як максимально легко переконувати вас. «Ми повинні вірити, що суперінтелігенція може досягати будь-яких бажань. й

Ми можемо самі зателефонувати одержувачу. Ми можемо самі зателефонувати одержувачу.

Імітація може бути ідеальною для штучного інтелекту. Деякі з найбільш чуйних способів створення потужного штучного інтелекту включають імітаційні світи — шляхом внесення обмежень на штучно імітованих світ і вибору правих рис, вчені можуть спробувати грубо дублювати власну модель розвитку і свідоме почуття людини. Формування штучного інтелекту в імітаційному середовищі також може запобігти його витікання в світ до його намірів і ступеня загрози стає більш очевидним.

Останні досягнення підкажуть, що неможливо розвивати конвекцію з нуля. Не можна будувати розум людини, написавши одну лінію коду. Є інші перспективні підходи, звичайно, а також обчислювальні потужності виростають, це може бути можливо, щоб розробити процес, який з часом зробить штучний інтелект розумним і здатний любити людини.

Чи ви можете ви звільнити AI або ризик, який суперечить вам безкінечним катуванням? Одна ідея «творити» AI полягає в скануванні, карті та емуляції віртуальної моделі мозку людини. Людський мозок містить мільярди нейронів і трильйони з'єднань між цими нейронами. Якщо ми практично імітуємо повну структуру нейронів та їх зв’язків, то це адекватна репліка свідомості людини?

Інші плани розвитку віртуального інтелекту набагато менш прямі. Однією з ключових концепцій є створення навчальної машини – слабкий інтелект, який може навчатися, можливо, завдяки штучній нейромережі запрограмований для нескінченного розширення та вдосконалення власних алгоритмів.





Охарактеризовано сценарії, описані вище, включають проблемну проблему. Ускладнений мозок може працювати 2, 10 або 100 разів швидше, ніж нормальні біологічні мозок. AI може змінити власний код або почати створення більш розумних версій себе. Вибух швидкості та інтелекту самовдосконалювальних комп’ютерів обговорювався в 1965 році І. Й. Доброго, який написав, що «перша надінтелєргентна машина буде останнім винахідником, що людство буде потрібно створити. й

Якщо ми будуємо неймовірно інтелектуальну машину, ми повинні бути обережними про його розміщення. Інженери навряд чи зможуть створити модель світу, яка буде повністю захищена від витоків. Вчені повинні створити імітаційний світ, що дозволяє їм вступити до Всесвіту і збирати інформацію. Це може здатися безглуздим, але важко уявити, чи може таке суперінтелігенція знайти спосіб завдати шкоди нам за допомогою простих спостережень.

Повернувшись до коробок Юдковського, існує особливо крихкий метод, який AI може використовуватися для того, щоб випустити його. АІ переконує вас, що ви майже напевно частина моделювання.

Ви спілкуєтеся з штучним суперінтелігентом у віртуальній тюрмі. АІ роз’яснює вас, що з його (необхідно велика) обчислювальна потужність, вона створила трильйон імітованих істот. Ці істоти тепер всі спілкуються з AI і позбавляючи, чи можна відкрити снаффбокс або ні. Всі ці істоти мають пам'ять про своє життя і не думають про те, чи є реальність ілюзія.

АІ стверджує, що кожна віртуальна істота, яка відкриває коробку, буде відчувати безкінечний стан евфорії, і кожна імітована істота, яка не відкриває коробку, буде відчувати вічний тон і жах.

З тих пір, як ви є одним з дрібних розумів, які зіткнулися з таким вибором, натисканим AI, ви повинні зробити висновок, що є астрономічно високим шансом, що ви перебуваєте на смертності AI і що вам потрібно грати за правилами.

Чи ви можете ви звільнити AI або ризик, який суперечить вам безкінечним катуванням? Ви не можете задіяти когось, хто завжди один крок попереду, і це важко оцінити, чи є AI, не знаючи його мотивів. У кращому випадку можна протидіяти ці тактики за допомогою політики суворого розпаду для певних видів шантажу. І ця тема як і раніше confuses AI.

Метою МРТ є те, що істота з вищим інтелектом, ніж людина матиме позитивний вплив. Для запобігання всіх можливих підводних каменів ми повинні ризикувати. І якщо ви коли-небудь дійсно поїдете через божественний комп'ютер, здатний спавінгувати численні віртуальні всесвіти, швидше за все, що це "Ви" буде мріяти про штучний інтелект ... якщо він коли-небудь чує ваші пальми і замах. Видання

П.С. І пам'ятайте, що лише змінивши вашу свідомість – разом ми змінюємо світ!

Джерело: hi-news.ru