5 причин не боятися штучного інтелекту

З останніми новинами в галузі штучного інтелекту є чітке зростання хвилювання: Що, якщо ми на межі кінця світу? Фільми, як “Термінатор” або “The Matrix” колись дав нам багато страхів – і сьогодні є низка людей, які думають, що сценарій, в яких комп’ютери розвивають суперлюдський інтелект і знищують людський перегон.

Серед таких людей добре відомі футурологи - Рай Курцвіл, Робін Гансон і Нік Бостром. Для найбільшої частини футуристи вважають, що ми переоцінюємо ймовірність того, що комп'ютери будуть думати як інтелектуальні істоти, і небезпека, що такі машини поставляються на людську расу. Розвиток інтелектуальних машин, ймовірно, буде повільним і поступовим процесом, і комп'ютери з суперлюдом інтелекту, якщо вони існують, дадуть нам стільки, скільки нам потрібно. Ось чому.

1,1 км Реальний інтелект вимагає практичного досвіду.

Бостром, Курцвейл та інші аорти суперлюдського інтелекту вірять безкінечно в потужності брунтної обчислювальної потужності, яка може вирішити будь-яку інтелектуальну проблему. Тим не менш, у багатьох випадках реальна проблема не є відсутністю інтелектуальної кінної сили.

Щоб зрозуміти, чому, уявіть когось, хто говорить російський блискучий, але ніколи не говорив китайці. Заблокувати його в кімнаті з величезними стеками китайських книг і змусити його вчитися. Неважливо, як смарт людина і як довго вони вчать китайці, вони ніколи не навчать себе рідним китайським динаміком.

Це тому, що інтегральна частина вивчення мови взаємодіє з іншими носіями мови. У розмові з ними ви зможете дізнатися місцеву слангу, виявляти тонкі відтінки в значеннях слів і дізнатися про популярні теми спілкування. В принципі всі ці речі можна писати в підручниках, але на практиці виходить, що це не - так як нюанси мови змінюються від місця до місця і в залежності від часу.

Машина, яка намагається розвивати людський інтелект, стикається з більш серйозними проблемами того ж виду. Комп'ютерна програма ніколи не виросте в сім'ї людини, впаде в любов, замерзання, отримайте голодні або втомилися. В короткий час не існує безліч контекстів, які дозволяють людям природно спілкуватися один з одним.

Цей вид відноситься до більшості інших проблем, які інтелектуальні машини можуть зіткнутися, від бурових свердловин для вирішення податкових проблем. Більшість інформації, необхідної для вирішення складних проблем, не написаних в будь-якому місці, тому не кількість теоретичних причин самостійно допоможе знайти правильні відповіді. Єдиний спосіб стати експертом, щоб зробити щось і шукати результати.

Цей процес надзвичайно складний для автоматизації. Це як зробити експерименти і дивитися на результат експериментів - дуже дорогий процес в масштабі, часі і ресурси. Сценарії, за якими комп’ютери швидко захоплюють людей в знаннях і можливості, неможливі - інтелектуальні комп’ютери будуть працювати однаковими «прокачуваннями» як у людини.

2,2 км Машини надзвичайно залежать від людей

У серії «Термінатор» Skynet стає самодосвідомим і починає використовувати військову техніку для знищення людей.

Цей сценарій валково занижує залежність машин від людини. Сучасна економія побудована на мільйонах різних машин, які виконують різноманітні спеціалізовані функції. В той час як збільшення кількості цих машин переміщуються в автоматизація, в певній мірі вони залежать від людей, які забезпечують їх енергією і сировиною, відремонтують їх, виробляють більш замінні машини і так далі.

Ми можемо самі зателефонувати одержувачу. Але ніде ми приїжджаємо до будівництва загальних завдань.

Створення таких роботів у всьому може бути неможливим завдяки проблемам нескінченної регресії: роботи, які можуть будувати, ремонтувати і підтримувати всі машини в світі, будуть неймовірно складними. Для підтримки Еволюція вирішила цю проблему, починаючи з комірки, порівняно простий і самовідкладаючий будівельний блок для усього життя. На сьогоднішній день роботи не мають нічого подібного (незважаючи на сни деяких футуристів) і навряд чи опиняться в будь-який час.

Це означає, що якщо є великий прорив в робототехнікі або нанотехнології, машини будуть залежати від людини для підтримки, ремонту та інших послуг. Розумний комп’ютер, який вирішить знищити людський гонщик, буде нести самогубство.

3. У Людина-музей дуже важко імітувати.

Бостром стверджує, що якщо немає іншого варіанту, вчені зможуть виготовити принаймні людський інтелект, емуляторуючи мозок людини. Але набагато складніше, ніж здається на перший погляд.

Цифрові комп’ютери – це способи імітувати поведінку інших цифрових комп’ютерів, так як комп’ютери точно визначені, детермінаційні способи. Щоб імітувати комп'ютер, потрібно просто виконати послідовність інструкцій, що комп'ютер слід.

Людський мозок дуже відрізняється. Нейрони є складними аналоговими системами, поведінка яких не можна моделювати таким же чином, як поведінка цифрових чіпів. І навіть незначна неточність при імітації певних нейтронів може призвести до найвищого ступеня порушення головного мозку в цілому.

Гарна аналогія тут буде імітована погода. Фізиканти отримали відмінне розуміння поведінки окремих молекул повітря. Можливо, ви зможете побудувати модель атмосфери Землі, яка прогнозує погоду в далекому майбутньому. Але до теперішнього часу моделювання погодних умов залишається обчислювальною проблемою. Невеликі помилки в ранньому етапі моделювання виростають в сноуборд великих помилок пізніше. Незважаючи на величезне зростання обчислювальної потужності за останні кілька десятиліть, ми можемо лише зробити скромну програму для прогнозування погодних умов майбутнього.

Симулятор мозку, щоб зробити розум ще більш складним, ніж поведінкова поведінка. Не існує причин, щоб вчені змогли зробити це в очікуваному майбутньому.

4. У Для влади відносини можуть бути більш важливими, ніж інтелект

Bostrom пропонує, що інтелектуальні машини можуть стати "потрібно потужними для формування майбутнього за своїми вподобаннями". Але якщо ми думаємо про те, як працює людське суспільство, то стає зрозуміло, що розвідник не достатньо, щоб отримати цю владу.

Якщо це були справи, суспільство буде управлятися науковцями, філософами, шахами. Тим не менш, суспільство регулюється людьми, такими як Володимир Путін, Барак Обама, Мартін Лур Король, Сталін, Реаган, Гітлер та інші. Ці люди здобули міцність і влада не тому, що вони були надзвичайно розумними, але тому що у них була хороша харизма, з'єднання і знали, як об'єднати моркву і палички, щоб отримати інші, щоб зробити їх.

Так, геніальні вчені були інструментами створення потужних технологій, таких як атомна бомба. І зрозуміло, що розумний комп'ютер може це зробити. Але побудувати нові технології і внести їх на практику, вимагає купання грошей і праці, які уряди і великі корпорації можуть дозволити собі. Учені, які розробили атомну бомбу, необхідні Франклін Росвелт, щоб фінансувати свою роботу.

Те ж саме йде на машинне мислення. Будь-який комплексний план, щоб прийняти по всьому світу, вимагає співпраці тисяч людей. Не існує причин, що комп'ютер буде більш ефективним, ніж вчений. Навпаки, враховуючи, скільки старих дружбань, групування і харизма зробити, знебочена комп'ютерна програма без друзів буде на величезному недолікі.

Те ж саме стосується співучастості, ідея Ray Kurzweil, що комп’ютери стануть настільки розумними, що люди не зможуть зрозуміти, що вони роблять. Найпотужнішими ідеями не є ідеї, що тільки винахідник розуміє. Найпотужнішими ідеями є ті, які широко приймають і розуміються багатьма людьми, помножуючи їх вплив на світ. Працює як для людських ідей, так і для машинних ідей. Щоб змінити світ, суперінтелєджентний комп'ютер потрібно буде принести зміни до публічного.

5. Умань Чим більший інтелект у світі, тим менш він цінується

Один очікує комп'ютерів, щоб використовувати їх чудовий інтелект, щоб стати казково насиченим, а потім використовувати їх величезне багатство для хабарів людей. Але він ігнорує важливий економічний принцип: як ресурс стає більш поширеним, його значення знижується.

Шість років тому, комп'ютер, який може бути менше, ніж у сучасному смартфоні, варто мільйонів доларів. Сучасні комп'ютери можуть бути набагато більш потужними, ніж попередні покоління комп'ютерів, але значення обчислювальної потужності знижується швидше, ніж його можливості покращуються.

Таким чином, перший суперінтелентний комп'ютер може зробити багато грошей, але його перевага буде флотувати. Як комп'ютерні чіпси продовжать падіння значення і отримання в обчислювальній потужності, люди збудуть більше поверхневих комп'ютерів. Унікальні можливості стануть медіокремом.

У світі рясного інтелекту найбільш цінні ресурси стануть тими, що обмежені – земля, енергетика, корисні копалини. Оскільки ці ресурси контролюються людьми, ми будемо мати принаймні стільки важіль над інтелектуальними комп'ютерами, як вони роблять над нами.



Джерело: hi-news.ru

Джерело: /users/1617