В чем сходство искусственного интеллекта и электричества

Поделиться



Что первым приходит в голову, когда вы слышите «искусственный интеллект»? Воспитанные на нескольких поколениях голливудских фильмах, мы часто задумываемся о «злобных роботах и всезнающих компьютерах, которые жаждут уничтожить человечество».

Но ИИ уже играет активную роль в нашей повседневной жизни, и его возможности будут только увеличиваться с этого момента. Чтобы облегчить беспокойство, которое будет сопровождать приход ИИ в наш мир, редактор Wired Кевин Келли предложил нам изменить свое мышление и отношение к искусственному интеллекту.

 





Келли думает, что слово «интеллект» приняло на себя чрезмерный багаж, в том числе и несколько негативный оттенок. Если оно используется безотносительно разума человека, слово «интеллект» (intelligence) неизбежно ассоциируется со шпионажем, секретной информацией или вторжением в частную жизнь.

Поскольку область применения искусственного интеллекта выходит далеко за пределы этого, а мы, возможно, уже не в состоянии внедрить новые определения для старых слов, почему бы не использовать вместо этого новые слова?

Слово, которое предлагает использовать Келли, это наделение способностью к познанию, «когнификация» — cognification — и он использует его для описания «умных» вещей.

На текущий момент не так много вещей были когнифицированы: телефоны, автомобили, термостаты, телевизоры, но вместе с ними грядут и другие. Но в будущем, говорит Келли, все, что уже было электрифицировано, будет и когнифицировано. Умные дома? Умные офисы? Умные города? Нужно только подождать.

Когнификацию вещей можно рассматривать аналогично электрификации вещей, которая произошла во время промышленной революции.

Промышленная революция осуществила крупномасштабный переход от сельскохозяйственного мира — где все, что было сделано, было сделано силой мышц — к механизированному миру, где искусственную силу практически всем вещам придал бензин, паровые двигатели и электричество. Мы создали энергосеть, чтобы распределять эту энергию, иметь к ней доступ по требованию в любое время и в любом месте, и все, что требовало бы применения естественной силы, можно было осуществить с помощью искусственной силы.





Передвижение и транспорт, среди прочего, существенно выросли за счет этой новой силы. Келли приводит пример автомобиля, который прост, но убедителен: вы вызываете силу 250 лошадей, просто поворачивая ключ. Нажмите ногой на педаль газа — и ваше транспортное средство будет двигаться со скоростью 100 километров в час, что было немыслимо для тех времен, когда все, что мы делали, мы делали голыми руками.

Следующий шаг — это взять тот самый автомобиль, который уже имеет искусственную силу 250 лошадей, и добавить силу 250 искусственных умов. Результат? Самоуправляемые автомобили, которые могут не только быстро ехать, но и принимать самостоятельные решения, доставлять нас в пункты назначения и снижать риск фатальных инцидентов.

По мнению Келли, сейчас мы стоим на пороге другой промышленной революции. По мере того как она разворачивается, мы будем брать все, что раньше электрифицировали, и будем все это когнифицировать.

Представляя жизнь до промышленной революции, мы удивляемся, как вообще можно было жить без электричества. Мы думаем, как хорошо, что сегодня у нас есть свет, самолеты и электронная почта. Хорошо, что мы перестали пользоваться свечами, ездить на каретах и писать письма от руки. Впрочем, это не избавляет нас от ностальгии по этим простым вещам.

Что будут думать люди через 200 лет? Как только все будет познано, а мир станет одним большим умным пузырем, люди будут скучать по «более простым временам», в которых мы живем сейчас, но при этом удивляться: как же мы жили без вездесущего ИИ?  опубликовано  

 

P.S. И помните, всего лишь изменяя свое потребление — мы вместе изменяем мир! ©

Источник: //hi-news.ru/research-development/v-chem-sxodstvo-iskusstvennogo-intellekta-i-elektrichestva.html

10 технотрендов, которые мы ожидаем в 2015 году

Поделиться







В мире развивающихся технологий прогнозировать очень сложно. В мире технологий все меняется очень быстро, любой прорыв — в исследованиях, применении или даже на законодательном уровне — может вызвать целый каскад быстрых последствий. Но мы все же попробуем. Discovery представил свой список десяти технологических тенденций, которые не останутся без внимания в 2015 году.

Мобильные платежи





Мобильные платежные системы — те, в которых вы используете смартфон вместо кредитной карты — должны получить серьезное распространение в 2015 году, когда Apple Pay и конкурентные сервисы типа CurrentC начнут захватывать территорию.

Плюс в том, что мобильные платежи должны проходить быстрее, намного быстрее, а также потенциально уменьшат количество платежей с помощью карт, а значит и сборы, взимаемые эмитентами. Недостатком является то, что системы мобильных платежей открывают новую опасную территорию в конфиденциальности и безопасности. Что автоматически переводит нас в следующую область.

Системы персональной маскировки





Мобильные платежные системы вроде Apple Pay работают с устройствами посредством технологии NFC. Как и более взрослая система радиочастотной идентификации (RFID), эта система уязвима для хакеров, которые могут украсть вашу информацию, будучи непосредственно рядом с вами. Одна из популярных видеоигр 2014 года, Watch Dogs, была построена на таком сценарии.

Можно предположить, что ответом на эту уязвимость станут разные виды маскировочной одежды и аксессуаров, которые будут доступны в 2015 году. В дополнение к блокирующим RFID кошелькам для ваших кредиток можно ожидать куртки, сумки и даже джинсы, которые будут блокировать беспроводные сигналы с вашего телефона или другого мобильного устройства. Или же можно напрямую обратиться к безопасным устройствам, которые находятся в активной разработке, Blackphone от Silent Circle или Boeing Black.

Виртуальная реальность





Долгожданная гарнитура виртуальной реальности со встроенным дисплеем Oculus Rift должна появиться в магазинах в 2015 году, а вместе с ней в мир ворвется целый фейерверк разнообразных технологий и применений виртуальной реальности.

Project Morpheus от Sony станет прямым конкурентом Oculus в мире игр, но в перспективе разнообразные гарнитуры виртуальной реальности уже обещают порцию странностей будущим владельцам. Некоторые студии кинопроизводства уже пообещали продемонстрировать 3D-фильм, проецируемый непосредственно в глаза.

Интернет вещей





Интернет вещей — это естественное развитие следующей волны подключенных к Интернету систем, в которую войдут не только наши компьютеры и устройства, но практически все остальное на нашей планете. Термин «Интернет вещей» по существу относится к ряду интегрированных технологий, которые включают беспроводную коммуникацию, дополненную реальность, робототехнику и микроэлектронику.

Нынешние примеры включают предметы бытовой техники, подключенной к Интернету, которые можно контролировать с помощью смартфона. Можно и по-другому — к примеру, ваш холодильник сам подсказывает смартфону, когда нужно идти в магазин. Принципы Интернета вещей лежат в самой основе инициатив транспорта будущих — вроде автоматизированных сеток городского потока для самоуправляемых автомобилей.

Перевод в режиме реального времени

В декабре Skype представила первую итерацию своей системы перевода реального времени для разговорного английского и испанского языков. В видео, представленном компанией с участием студентов из США и Мексики, система работает так же, как в научно-фантастических фильмах. Вы говорите на английском, компьютер мгновенно переводит на испанский, и наоборот.

Skype утверждает, что скоро будут добавлены другие языки, а мы увидим больше прорывов в сфере «реалтаймового» перевода в 2015 году. Десятилетия исследований в сфере распознавания речи, машинное обучение и «глубокая нейронная сеть» искусственного интеллекта дают нам новые возможности. Мгновенный голосовой перевод на смартфоне — одна из самых интересных возможностей 2015 года.

Искусственный интеллект





Голливуд и Стивен Хокинг словно сговорились, предупреждая мир об опасностях искусственного интеллекта весь 2014 год, но это не останавливает ученых. Искусственный интеллект остается одной из самых оживленных технологических областей.

К примеру, искусственный интеллект IBM — Watson — работает в медицинской сфере уже несколько лет. Продвинутые системы искусственного интеллекта могут добывать десятилетия медицинских данных в мгновение ока, на что люди в принципе не способны. В 2015 году IBM надеется обучить Watson обработке естественного интеллекта и расширить его возможности в других сферах.

Самоуправляемые автомобили





Самоуправляемые автомобили нам обещали уже несколько лет, но 2015 год может стать первым календарным годом, когда мы увидим реальные уличные результаты. По-настоящему автономные автомобили по-прежнему обладают некоторыми технологическими (и законодательными) недостатками, навигационными опасностями и прочими сырыми моментами, но в 2015 году точно появится масса технологий, которые будут «помогать» водителям.

В канун праздников Google объявила, что ее прототип готов к испытаниям на больших дорогах.

У Volvo уже есть автомобиль, который тоже учится водить самостоятельно. Седан XC90 следующего поколения обладает адаптивным круиз-контролем, который поддерживает установленную дистанцию между вами и автомобилем впереди. Помощь при парковке позволяет автомобилю заезжать в узкие парковочные места.

Гибкие дисплеи





Идея гибких дисплеев — экранов, которые можно сгибать, скручивать и даже сворачивать, как газету — еще одна из тех фантастических идей, которые постоянно держатся на плаву. Рабочие гибкие дисплеи появились еще в 1970-х годах, но, как и многие другие технологии, пока не получили должного развития.

В 2015 году мы ожидаем, что крупные игроки вроде LG и Samsung продолжат разработку тонких OLED-панелей. Эта технология работает как с небольшими экранами (смартфонов), так и с большими телевизионными панелями. OLED-дисплеи более долговечны, чем традиционные экраны, а также весьма многообещающие в плане гибкости и прочности.

Онлайн-безопасность





На фоне эпичного взлома Sony Pictures и безумного увеличения угроз онлайн-безопасности, можно ожидать значительного всплеска продуктов и услуг, которые помогут защитить ваши деньги и информацию в Интернете.

Развитие на этом горизонте включает улучшения в виде биометрической аутентификации, кредитные карты на основе квантовой физики, а также новые сервисы, которые будут служить упреждающими системами защиты от кражи личных данных. Также мы увидим, как компании, которые хранят вашу информацию — от социальных медиа до магазинов — будут улучшать свои протоколы безопасности.

Великолепие дронов





Дроны продолжат роиться в заголовках новостей в 2015 году, хорошо это или плохо, благодаря невероятной полезности в сотнях отраслей промышленности — и некоторым просачивающимся проблемам в вопросах регулирования. В России, например, дроны без пяти минут запрещены. В 2015 году дронов будет в сотни раз больше, чем сейчас, а видов их появится несметное множество.

Amazon агрессивно испытывает систему доставки с помощью беспилотных дронов, страховые компании планируют использовать беспилотные летательные аппараты для проверок, промышленные концерны хотят с помощью дронов контролировать объекты. Художники и режиссеры находят новые применения беспилотникам в своей работе, а на рынке появляются дроны с камерами для частного пользования.

 

Источник: hi-news.ru

Билл Гейтс о развитии искусственного интеллекта

Поделиться







В последнее время, с развитием интереса ученых к искусственному интеллекту, многие известные личности откровенно высказывают свое опасение по этому поводу. Мы уже рассказывали, что известный физик Стивен Хокинг и бизнесмен Элон Маск призывали человечество задуматься над последствиями, которые может принести развитие искусственного интеллекта. Теперь к ним присоединился основатель и бывший глава компании Microsoft Билл Гейтс.

«Я нахожусь в лагере, который выражает обеспокоенность по поводу искусственного интеллекта», — сообщили Билл Гейтс в своем интервью.

Также он добавляет, что изначально интеллектуальные роботы смогут облегчить людям работу в некоторых областях, однако с течением времени они могут стать более умными и создать проблемы человечеству.

«Я согласен с Элоном Маском и некоторыми другими личностями и не понимаю, как многие люди не понимают опасности», — рассказывает Гейтс.

Как сообщает ресурс CNet, миллиардер немного беспокоится о помощнике Cortana, которую развивает основанная им компания. И хотя Гейтс оставил пост руководителя Microsoft уже довольно давно, он надеется, что текущий CEO Сатья Наделла сможет использовать возможности развивающегося искусственного интеллекта только на благо человечества.опубликовано 

Источник: hi-news.ru

Прогнозы Рэя Курцвейла на ближайшие 25 лет

Поделиться







Билл Гейтс назвал Курцвейла «лучшим из тех, кого я знаю, в предсказании будущего искусственного интеллекта». Курцвейл известен также и другими прогнозами, выходящими за рамки искусственного интеллекта. Эта статья посвящена самым любопытным, на мой взгляд, прогнозам Курцвейла на следующие двадцать с лишним лет. Но для начала давайте выясним, кто же такой Рэй Курцвейл?

Футуролог и в настоящее время технический директор Google, Курцвейл является автором семи книг (пять из которых стали бестселлерами), обладателем двадцати почетных докторских степеней и награжден знаками отличия от трех американских президентов.

Он также является изобретателем многих технологий, начиная с первого планшетного сканера CCD и заканчивая первой читающей машиной для слепых. Он также является соучредителем Singularity University и работает с Ларри Пейджем над развитием искусственного интеллекта в Google.

Короче говоря, Рэй Курцвейл довольно умен и его прогнозы весьма интересны. Он постоянно напоминает нам, что мы живем в самое интересное время в истории человечества. Давайте пройдемся по некоторым прогнозам Курцвейла, которые сбылись.

Предсказания Курцвейла за последние 25 лет

В 1990 году (25 лет назад) он предсказал…

…что компьютер победит чемпиона мира по шахматам в 1998 году. В 1997 году Deep Blue (IBM) обыграл Гарри Каспарова.

…что персональные компьютеры смогут отвечать на вопросы, имея беспроводной доступ к информации по интернету в 2010 году. Как видите, он оказался прав.

…что в начале 2000-х экзоскелеты позволят инвалидам ходить. Компании вроде Ekso Bionics и другие разрабатывают технологии (и уже разработали), которые делают именно это и многое другое.

В 1999 году он предсказал…

…что люди смогут отдавать компьютеру голосовые команды уже в 2009 году. Хотя в 2009 году естественные языковые интерфейсы вроде Siri и Google Now только начинали свой долгий путь, вполне вероятно, что очень скоро мы вовсе избавимся от клавиатур.

…что компьютерные дисплеи будут встраиваться в очки, создавая дополненную реальность, в 2009 году. В лабораториях и силами ученых такие дисплеи создавались еще задолго до 2009 года, но Google начала экспериментировать с прототипами Google Glass в 2011 году. Сейчас мы наблюдаем взрыв на поле дополненной и виртуальной реальности. Microsoft только-только представила HoloLens, а Magic Leap работает над своими весьма интересными технологиями — не говоря уж об остальных.

В 2005 году он предсказал…

…что к 2010-м виртуальные решения позволят осуществлять языковые переводы в режиме реального времени, когда слова на иностранном языке будут переводиться в текст на другом языке. Стоит сказать, что Microsoft (Skype Translate), Google (Translate) и другие уже осуществили это. Отдельные приложения вроде Word Lens вообще могут переводить слова на снимках вашей камеры.

Прогнозы Курцвейла на следующие 25 лет

Представленные выше — всего лишь несколько прогнозов. Хотя он мог ошибаться в мелочах, вплоть до года, его послужной список выглядит впечатляющим. Но есть и другие, которые могут показаться интересными предпринимателям, например. Некоторые могут заработать на них. На бизнес других — повлиять непосредственно.

«К концу 2020 года очки будут проецировать изображения прямо на сетчатку. Десять терабайт вычислительной мощности (примерно столько, сколько у человеческого мозга) обойдутся в 1000 долларов.

К 2020-м большинство болезней исчезнет, поскольку наноботы станут умнее нынешних медицинских технологий. Нормальное человеческое питание можно будет заменить наносистемами. Тест Тьюринга будет проходиться постоянно. Самоуправляемые автомобили наводнят дороги, людям запретят самостоятельно ездить по автомагистралям.

К 2030-м годам виртуальная реальность станет на 100% реальной по ощущениям. Мы сможем загружать собственный мозг/сознание к концу этого десятилетия.

К 2040-м годам небиологический интеллект будет в миллиард раз более способным, чем биологический (то есть наш). Нанотехнологии будут способны создавать еду и любые объекты физического мира буквально из воздуха.

К 2045 году мы сможем умножить свой интеллект в миллиард раз, связав кору наших полушарий беспроводным путем с искусственным неокортексом в облаке».

 

Стоит сделать важное замечание. Дело не в предсказаниях. Дело в том, что они представляют. Прогнозы Курцвейла — побочный процесс его (и нашего, в принципе) понимания закона Мура, закона возрастающей отдачи и экспоненциальных технологий.

Эти технологии следуют по экспоненциальной кривой, основанной на принципе того, что вычислительная мощность возрастает вдвое каждые два года. Мы, люди, привыкли думать линейно. Предприниматели же обязаны думать экспоненциально.

Большинство из нас не понимают прогнозов футурологов, потому что на начальных этапах развития экспоненциальных технологий они вводят нас в заблуждение. В первую очередь, мы видим их как разрушительные — достаточно взглянуть на массивные компании, которые были разрушены технологическими достижениями в области искусственного интеллекта, виртуальной реальности, робототехники, интернета, мобильных телефонов и так далее. Но каждая из таких технологий проходит путь демонетизации и демократизации доступа к продуктам, и этот путь не линейный — он экспоненциальный (вспомните о законе Мура).

Сегодня эти же технологии лежат в основе многомиллиардных компаний и влияют на жизни миллиардов людей.

Источник: hi-news.ru

Почему Биллу Гейтсу ( и Вам ) не стоит бояться искусственного интеллекта

Поделиться





На прошлой неделе Билл Гейтс в ходе сессии вопросов и ответов на ресурсе Reddit получил интересный вопрос от одного из пользователей: «Какую угрозу для выживания человечества представляет машинный сверхинтеллект, и считаете ли вы, что полное шифрование всей активности в Интернете может защитить нас от этой угрозы (то есть чем меньше знают машины, тем лучше?».

К сожалению, Гейтс не ответил на вторую часть вопроса, но написал следующее:

«Я отношусь к людям, кто беспокоится по поводу сверхинтеллекта. Поначалу машины будут делать кучу работы для нас и не будут особо разумны. Будет неплохо, если мы будем умело ими руководить. Спустя несколько десятилетий этот интеллект станет достаточно мощным, чтобы стать проблемой. Я согласен с Элоном Маском и другими по этому вопросу и не понимаю, почему люди не беспокоятся».

К счастью робофобов, лучшая команда антигероев почти собрана. Элон Маск и Билл Гейтс — это кошелек и влияние, легендарный космолог Стивен Хокинг — чрезвычайно важная персона. Им не хватает разве что рук, которые будут способны на грязные поступки против машин в этой превентивной войне.

На самом деле, этим зарождающимся Мстителям нужно еще кое-что более дальновидное: любой признак того, что искусственный сверхинтеллект будет серьезной угрозой, или более серьезное исследование.

Тем не менее, на фоне растущей истерии вокруг несуществующего искусственного интеллекта, возникают серьезные недоумения. Эксперты не видят ни намека на исполинский тиранический искусственный интеллект в современном коде. Возможно, Гейтс, Хокинг и Маск чертовски умные ребята и знают что-то, чего не знаем мы. Но можно послушать и ведущих исследователей этого самого искусственного интеллекта.

Когда люди обсуждают нейронные сети, когнитивные вычисления и в целом понятие искусственного интеллекта, который должен превзойти человеческий, они также говорят и о машинном и глубоком обучении. Если кто и знает, что настало время паниковать, то эти ребята.

Искусственный сверхинтеллект не приходит ниоткуда

Вот Дилип Джорд, соучредитель стартапа искусственного интеллекта Vicarious, рассуждает о рисках сверхинтеллекта:

«История помнит много паник вокруг самых разных технологий, от парового двигателя до ядерной энергии и биотехнологий. Вы продадите больше газет и билетов в кино, если сыграете на истерии, и сейчас, на мой взгляд, происходит то же самое: люди раздувают страхи вокруг искусственного интеллекта. Как ученые, мы должны информировать общественность о разнице между Голливудом и реальностью. Сообщество искусственного интеллекта не стоит еще даже на пороге создания чего-то подобного, о чем стоит беспокоиться».

Эта точка зрения Vicarious имеет вес не только из-за текущей работы компании над искусственным интеллектом, но и потому, что Элон Маск представил стартап как часть своего взгляда за занавес. Маск рассказал CNBC, что инвестировал в Vicarious «не для того, чтобы отбить инвестиции, а чтобы иметь возможность приглядывать за искусственным интеллектом». Он также писал, что «ведущие компании по разработке ИИ принимают серьезные меры для обеспечения безопасности. Они осознают опасность, что считают, что смогут формировать и контролировать цифровой сверхинтеллект и предотвратить его бегство в Интернет. Посмотрим…».

На вопрос Vicarious о том, сколько времени и ресурсов они посвящают защите от искусственного интеллекта, отвечал Скотт Феникс, еще один соучредитель Vicarious:

«Искусственный интеллект не появляется случайно или внезапно. Мы находимся в самом начале исследований того, как вообще построить базовую систему интеллекта, а впереди еще долгий процесс повторения и обучения такой системы, изучения путей ее создания и путей безопасности».

Vicarious не имеет дела со сверхинтеллектом. Его даже нет на радарах. О каких же тогда компаниях говорит Маск, а о каких серьезно беспокоится, по его же словам, мол, чтобы плохой сверхинтеллект не «сбежал в Интернет»? Как, по его же словам, построить тюрьму для демона, когда и самих-то демонов нет?

Вот как на вопрос о том, как компании активно удерживают искусственный интеллект под замком, ответил Ян Лекун, директор по исследованиям ИИ в Facebook:

«Некоторые люди задаются вопросом, как воспрепятствовать тому, что гипотетический сверхразумный доброжелательный искусственный интеллект решит «перепрограммировать» себя и гарантирует выпиливание всего человечества. Большинство этих людей сами не являются исследователями ИИ, даже программистами не являются».

Лекун также указывает один из источников путаницы: на разницу между интеллектом и автономией.

«Допустим, у вас на первый взгляд сверхразумная система, которая не обладает автономией. К примеру, шахматная программа, которая может одолеть практически любого человека. Обладает ли она сверхинтеллектом? Очень скоро автопилоты самолетов и самоуправляемые автомобили будут надежнее людей. Означает ли это, что они будут умнее людей? В очень узком смысле, эти системы будут «более разумны», чем люди, но их опыт будет лежать в очень узкой области, а у систем будет крайне мало автономии. Они не смогут выйти за рамки предписаний».

Это важное отличие, и оно хорошо описывает панику, которой поддались Маск, Хокинг, а теперь и Гейтс. ИИ может быть умным, не будучи разумным и творческим. Что еще более важно, ИИ не подгоняется неким цифровым эквивалентом биологического эволюционного пути, конкурируя и вопроизводясь с каждой мутацией все лучше и лучше, пока не достигнет безудержного сверхинтеллекта. Нет, не так работает ИИ.

Нас удивит машина с интеллектом мыши, но это произойдет не скоро

Алгоритм поиска выдает результаты быстрее любого человека, но в нем никогда не вырастет код этики и он не будет скрывать порнографию на свой вкус и цвет. Только писатель-фантаст или другой гуманитарий, далекий от компьютерных технологий, может представить, как искусственный интеллект человеческого уровня внезапным и непостижимым образом вырастает из ниоткуда. И если уж вы верите в одно чудо, почему бы не добавить другое, скажем, самособирающийся сверхинтеллект?

Лекун выступает в защиту Маска, утверждая, что его комментарий, сравнивающий ИИ с ядерным оружием, был «преувеличен, но также неправильно понят».

«Элона очень беспокоят экзистенциальные угрозы человечеству (потому-то он и строит ракеты, которые смогут отправлять людей колонизировать другие планеты). Даже если риск восстания искусственного интеллекта ничтожен и призрачен, нам стоит задумываться о нем, выстраивать превентивную защиту, следовать строго очерченным правилам. Так же как были установлены биоэтические ограничения в 70-х и 80-х, еще до того, как генная инженерия стала использоваться повсюду, нам нужно создать ограничения в сфере этики искусственного интеллекта. Но, как правильно говорит Йошуа, у нас достаточно времени. Наши системы превосходят людей в очень узких областях, но общей ИИ человеческого уровня появится еще не скоро, возможно, через пару десятилетий, не говоря уж об автономном общем ИИ, который может быть никогда не построен».

Ученый, которому было что сказать по теме, был упомянут в предыдущем абзаце. Йошуа Бенгион — глава Лаборатории машинного обучения в Университете Монреаля, один из пионеров подобласти глубокого обучения (вместе с Лекуном). Вот его мнение по поводу того, что исследования ИИ таят в себе опасность:

«В этой точке зрения нет никакой истины, если рассматривать ее в контексте текущих исследований искусственного интеллекта. Большинство людей не понимают, насколько примитивные системы мы строим, и, к сожалению, многие журналисты (и некоторые ученые) распространяют страхи об ИИ, которые совершенно не соответствуют реальности. Мы бы офигели, если бы создали машину с интеллектом мыши в ближайшем будущем, но мы пока далеки от этого, очень далеки. Да, у этих алгоритмов уже сейчас есть полезное применение, и дальше будет больше. Более того, я правда считаю, что люди однажды создадут машины, которые будут столь же умны, сколько люди во многих отношениях. Однако это будет в далеком будущем, поэтому нынешние дебаты — пустая трата времени. Когда вопрос станет насущным, конечно, мы соберем ученых, философов и юристов, чтобы определить лучшие пути предупреждения последствий, принадлежащие в настоящее время научной фантастике».

На вопрос о том, является ли сверхинтеллект неизбежностью, Бенгио ответил:

«Довольно сложно ответить на этот вопрос, отбросив все строгости научного осмысления. Я вижу много хороших математических и вычислительных причин, почему исследования ИИ однажды зайдут в тупик (из-за экспоненциального роста сложности), в который зашел однажды человеческий интеллект — что, в принципе, также объясняет, почему дельфины и слоны, хотя и отличаются большим мозгом, не являются сверхразумными. Мы просто не знаем достаточно, чтобы зайти хоть сколько-нибудь дальше предположений в этом вопросе. Если эта гипотеза тупика подтвердится, однажды у нас будут компьютеры, которые будут так же умны, как люди, но будут обладать более быстрым доступом к знаниям. Но к тому времени люди могут тоже завладеть этим доступом к информации (в принципе, мы уже этим занимаемся, но медленно — через поисковые алгоритмы). Конечно, это не имеет ничего общего со сверхинтеллектом. Я думаю об ИИ как о помощи разуму, подобно тому, как промышленная революция была помощью рукам в течение двух последних столетий».

Что касается замечания Маска о том, что ИИ «потенциально опаснее ядерного оружия» и с ним нужно быть поосторожнее, Бенгио обращается к настоящему времени, не выбивая дверь в неизвестное будущее:

«Пока этот вопрос не имеет смысла. В будущем все может измениться, но пока мы гадаем на кофейной гуще. Когда мы доберемся туда, разумеется, мы задумаемся серьезно».

Общий лейтмотив в обсуждениях — время. Когда вы говорите с исследователями ИИ — опять же конкретно исследователями ИИ, людьми, которые работают с этими системами — они не особо беспокоятся о том, что сверхинтеллект подкрадывается к ним (глупцы, бегите!). В отличие от жутких историй, которых начитался Маск, исследователи искусственного интеллекта вообще не берутся даже обсуждать сверхинтеллект, его не существует даже в планах. Прав ли Билл Гейтс?

Источник: hi-news.ru

ИИ должен уметь сочувствовать, чтобы не навредить человеку

Поделиться







Идея того, что компьютер может обладать сознанием, все больше и больше тревожит людей. Кажется неестественным, что человекоподобная машина может чувствовать боль, понимать глубину сожаления или испытывать неземное чувство надежды. Однако некоторые эксперты утверждают, что именно этот тип искусственного интеллекта нам необходим, если мы хотим подавить угрозу существованию человека в зародыше, чем эта технология, безусловно, может стать в дальнейшем.

Выступая на днях в Кембридже Мюррей Шанахан, профессор когнитивной робототехники из Имперского колледжа Лондона, заявил, что для того, чтобы свести на нет угрозу «ИИ человеческого уровня» — или общего искусственного интеллекта (ОИИ), — он должен быть «человекоподобным».

Шанахан предположил, что если силы, которые движут нас к разработке ИИ человеческого уровня, остановить нельзя, есть два варианта. Либо будет разработан потенциально опасный ОИИ, в основе которого будет процесс безжалостной оптимизации без каких-либо намеков на нравственность, либо ОИИ будет разработан на основе психологического или, возможно, неврологического слепка человека.

«Прямо сейчас я бы отдал свой голос за второй вариант, в надежде, что это приведет к форме гармоничного сосуществования (с человечеством)», — сказал Шанахан.

Конец человеческой гонки

Вместе со Стивеном Хокингом и Элоном Маском, Шанахан консультировал Центр по изучению глобальных рисков (CSER) по составлению открытого письма, которое призывало исследователей ИИ обратить внимание на «подводные камни» в развитии искусственного интеллекта.

По мнению Маска, эти ловушки могут быть более опасными, чем ядерное оружие, тогда как Хокинг и вовсе считает, что они могут привести к концу человеческой эпохи.

«Примитивные формы искусственного интеллекта у нас уже есть, и они зарекомендовали себя очень хорошо, — говорил Хокинг в декабре 2014 года. — Но я думаю, что развитие полноценного искусственного интеллекта может означать конец для человеческой расы».
Кадр из фильма Ex machina, который выйдет в прокат весной 2015 года

Как вы знаете, не совсем непонятно, как далеки мы от разработки ОИИ — прогнозы варьируются от 15 до 100 лет с нынешнего момента. Шанахан считает, что 2100 год для ОИИ станет «более вероятным, но до конца не определенным».

Так это или нет, вся опасность лежит в том, какие мотивы будут двигать разработку маршрута ОИИ.

Деньги могут стать «причиной риска»

Есть опасения, что нынешние социальные, экономические и политические факторы, ведущие нас к ИИ человекоподобного уровня, приведут нас к первому варианту из двух, предложенных Шанаханом.

«Капиталистические силы приводят в действие безжалостные процессы максимизации. И это при соблазне разрабатывать рискованные вещи», — заявил Шанахан, приводя в пример компанию или государство, которая могла бы использовать ОИИ для подрыва рынков, фальсификации выборов или создания новых автоматизированных и потенциально неконтролируемых военных технологий.«Военная промышленность будет делать это также, как и другие, поэтому этот процесс очень трудно остановить».
Несмотря на эти опасности, Шанахан считает, что было бы преждевременным запретить исследования ИИ в любой форме, так как в настоящее время нет оснований полагать, что мы можем на самом деле достичь этой точки. Вместо этого есть смысл направить исследования в нужном направлении.

Имитация ума для создания гомеостаза

ОИИ, сосредоточенный исключительно на оптимизации, не обязательно будет вредоносным по отношению к людям. Тем не менее тот факт, что он может поставить обзавестись инструментальной целью вроде самосохранения или заполучения ресурсов, может представлять значительный риск.

Как указывал в 2008 году теоретик искусственного интеллекта Элиэзер Юдковский, «ИИ не ненавидит нас и не любит, но вы сделаны из атомов, которые он может использовать для чего-то еще».

Создав некую форму гомеостаза в ОИИ, по мнению Шанахана, потенциал ИИ можно реализовать без разрушения цивилизации, какой мы ее знаем. Для ОИИ это была бы возможность понять мир так же, как человек, в том числе заполучить способность узнавать других, образовывать отношения, сообщаться и сочувствовать.

Один из способов создания человекоподобной машины — имитация работы человеческого мозга в его строении, а мы «знаем, как человеческий мозг может этого достичь». Ученые в двух шагах от составления полной карты мозга, не говоря уж о репликации его.

Human Connectome Project в настоящее время работает над обратным повторением мозга и завершит работу к третьему кварталу 2015 года, хотя анализ собранных данных будет продолжаться и долго после 2015 года.

«Наш проект будет иметь далеко идущие последствия для развития искусственного интеллекта, он является частью многих усилий, которые стремятся понять, как структурно организован мозг и как различные регионы работают совместно в разных ситуациях и выполняя разные задачи», — рассказала Дженнифер Элам из HCP.«До сегодняшнего дня не было много связи между картированием мозга и искусственным интеллектом, в основном потому, что два этих поля подходили к проблеме понимания мозга с разных сторон и на различных уровнях. Поскольку анализ данных HCP продолжается, вполне вероятно, что некоторые моделлеры мозга включат свои находки в максимально возможной степени в свои вычислительные структуры и алгоритмы».
Даже если этот проект окажется полезным в оказании помощи исследователям ИИ, еще предстоит увидеть, на что способны другие инициативы вроде Human Brain Projects. Все это предоставит важную основу для разработки человекоподобной машины.

Сейчас, как говорит Шанахан, мы должны быть по крайней мере в курсе опасности, которую представляет развитие ИИ, не уделяя особого внимания голливудским фильмам или страшилкам в СМИ, что еще больше запутывает вопрос.

«Мы должны думать об этих рисках и посвятить некоторые ресурсы решению этих вопросов, — говорит Шанахан. — Надеюсь, нам хватит десятилетий, чтобы преодолеть эти барьеры».опубликовано 


Источник: hi-news.ru

Кевин Абош: Этические рамки искусственного интеллекта

Поделиться







Идея того, что искусственный интеллект неизбежно приведет нас к сценарию, в котором машины восстают против людей, довольно популярна. Искусственный сверхинтеллект кажется величайшей из возможных угроз, а фантастические сюжеты, согласно которым мы будем не нужны в мире, принадлежащем технологиям, в популярности никогда не теряли.

Неужели это неизбежно?

Литературное и кинематографическое изображение разумных компьютерных систем из 60-х годов помогло сформировать и обобщить наши ожидания будущего, когда мы встанем на путь создания машинного интеллекта, превосходящего человеческий. ИИ, очевидно, уже превзошел человека в определенных специфических задачах, требующих сложных вычислений, но по-прежнему отстает в ряде других возможностей. Как одновременно увеличить мощь этого сурового инструмента и сохранить наше хозяйствующее положение над ним.

Поскольку искусственный интеллект уже играет и будет продолжать играть большую роль в нашем будущем, крайне важно исследовать наши возможности сосуществования с этими сложными технологиями.

Кевин Абош, основатель компании Kwikdesk, которая занимается обработкой данных и развитием искусственного интеллекта, поделился своими мыслями на этот счет. Он считает, что искусственный интеллект должен быть быстрым, незаметным, надежным, грамотным и этичным. Да, этичным.

Этические рамки

В концепции искусственной нейронной сети, созданной по подобию биологической нейронной сети, нет ничего нового. Единицы вычислительной мощи, которые называются нейронами, соединяются друг с другом и образуют сеть. Каждый нейрон применяет сложный алгоритм обучения на входе, прежде чем передать данные другим нейронам, пока не активируется нейрон на выходе и не откроет возможность для чтения. Экспертные системы полагаются на людей, которые будут «учить» систему, засеивая ее семенами знаний. Механизмы логической обработки ищут соответствия, делают выборы, устанавливают правила в стиле «если это, тогда то» по отношению к базе знаний. В этом процессе новые знания добавляются к базе знаний. Чистая нейронная сеть учится в процессе получения нелинейного опыта, не располагает проблемами засеивания знаний экспертом. Гибридные сети доказали, что улучшают возможности обучения машинами.

Теперь давайте рассмотрим этические проблемы таких систем. Далее от первого лица.





«Злой код» против доброго кода

Автор использует слова, чтобы погрузить читателя в вымышленный мир, и делает это по-разному, но великие авторы делают это очень изящно. Инженер-программист пишет строки кода, которые облегчают обработку и движение данных. Он тоже может выбирать из ряда вариантов разные способы, но изящные кодеры — фолкнеры компьютерных наук. Продвигающийся кодер сосредоточен на том, как заключить как можно больше и лучше в коротком и изящном коде. Лишний код сводится к минимуму. Великий код также удерживает открытое окно для последующих дополнений. Другие инженеры могут добавлять код с присущей им элегантностью, и продукт развивается без проблем.

В основе любого рукотворного продукта лежит намерение. Вещи, сделанные людьми, пропитаны намерениями, и в той или иной степени являются носителями самой природы создателя. Некоторым бывает сложно представить себе неодушевленный объект, обладающий такой природой. Но многие с этим согласятся. Энергия намерений существует тысячи лет, унифицирует, делит, объединяет, трансформирует социум. Нельзя недооценивать и силу языка. Не забывайте, что линии кода написаны определенным языком программирования. Таким образом, я убежден, что код, который становится программным обеспечением, используемым на компьютерах или мобильных устройствах, весьма «живой».

Не рассматривая мудрость и духовность в контексте информатики и потенциальных последствий искусственного интеллекта, мы все еще можем рассматривать статический код как единое целое с потенциалом «творить добро» или «творить зло». Эти выходы обретают себя только в процессе использования приложений людьми. Именно четкий выбор, который делают люди, влияет на природу приложения. Их можно рассматривать в локальной системе, определяя положительное или отрицательное влияние на эту систему, или же на основе набора заранее определенных стандартов. Тем не менее, как журналист не может быть на 100% беспристрастным в процессе написания статьи, так и инженер вольно или невольно добавляет природу своих намерений в код. Некоторые могут возразить, мол, написание кода — это логический процесс, и настоящая логика не оставляет пространства для природы.

Но я уверен, что в момент, когда вы создаете правило, блок кода или весь код, это все проникается элементом человеческой природы. С каждым дополнительным правилом углубляется проникновение пророды. Чем сложнее код, тем больше в нем этой природы. Отсюда рождается вопрос: «Может ли природа кода быть доброй или злой?».

Очевидно, вирус, разработанный хакером, который злонамеренно пробивается сквозь защиту компьютера и сеет хаос в вашей жизни, пропитан злой природой. Но как насчет вируса, созданного «хорошими ребятами» с целью проникновения в компьютеры террористической организации ради предотвращения террористических актов? Какова его природа? Технически он может быть идентичен свому гнусному двойнику, просто используется для «хороших» целей. Так значит его природа добрая? В этом весь этический парадокс вредоносного программного обеспечения. Но мы не могли обойти стороной, размышляя о «злом» коде.

По моему мнению, существует код, который по своей сути тяготеет к «злу», и существует код, который по своей сути смещен в сторону доброжелательности. Это принимает более важное значение в контексте компьютеров, работающих в автономном режиме.





В Kwikdesk мы разрабатываем фреймворк ИИ и протокол, основанный на моей конструкции экспертной системы/гибрида нейронной сети, которая больше всего созданного на сегодняшний день напоминает биологическую модель. Нейроны проявляются в виде модулей ввода/вывода и виртуальных устройств (в определенном смысле автономных агентов), соединенных «аксонами», безопасными, разделенными каналами зашифрованных данных. Эти данные расшифровываются по мере входа в нейрон и после определенных процессов зашифровываются перед отправкой в следующий нейрон. Перед тем как нейроны смогут связаться друг с другом через аксон, должен произойти обмен ключами участника и канала.

Я считаю, что безопасность и разделение должны быть встроены в такие сети с самого низкого уровня. Надстройки отражают качества своих мельчайших компонентов, поэтому все, что меньше безопасных строительных блоков, приведет к небезопасной работе всей линии. По этой причине данные должны защищаться локально, а расшифровываться при локальной передаче.

Внедрение и гарантии

Качество нашей совместной жизни с машинами, которые становятся умнее и умнее, по понятным причинам вызывает обеспокоенность, и я абсолютно уверен, что мы должны принять меры, чтобы обеспечить здоровое будущее грядущим поколениям. Угрозы умных машин потенциально многообразны, но могут быть разбиты на следующие категории:

Резервирование. На рабочих местах людей будут заменять машины. Этот сдвиг происходит уже в течение многих десятилетий и будет только ускоряться. Необходимо соответствующее образование, чтобы подготовить людей к будущему, в котором сотни миллионов традиционных рабочих мест просто перестанут существовать. Это сложно.

Безопасность. Мы полагаемся на машины всецело и будем полагаться дальше. По мере того, как мы все больше доверяем машинам во время перехода из безопасной зоны в зону потенциальной опасности, мы можем столкнуться с риском машинной ошибки или вредоносного кода. Подумайте, например, о транспорте.

Здоровье. Персональные диагностические устройства и сетевые медицинские данные. ИИ будет продолжать развиваться в области превентивной медицины и анализа краудсорсных генетических данных. Опять же, мы должны иметь гарантии, что эти машины не будут вести вредоносную подрывную деятельность и никак не смогут нам навредить.

Судьба. ИИ с нарастающей точностью предсказывает, куда вы пойдете и что будете делать. По мере развития этой сферы, он будет знать, какие решения мы принимаем, куда пойдем на следующей неделе, какие продукты будем покупать или даже когда мы умрем. Хотим ли мы, чтобы другие имели доступ к этим данным?

Знания. Машины де-факто накапливают знания. Но если они будут приобретать знания быстрее, чем люди смогут их проверять, как мы сможем доверять их целостности?

В заключение хочу отметить, что бдительный и ответственный подход к ИИ для смягчения потенциальных неприятностей в технологическом взрыве сверхновой — наш путь. Мы либо укротим потенциал ИИ и будем молиться, чтобы он приносил человечеству только лучшее, либо сгорим в его потенциале, который будет отражать худшее в нас. опубликовано 

Источник: hi-news.ru

Наиболее футуристические прогнозы, которые сбылись в 2014 году

Поделиться







Поскольку 2014 завершился давно, можно задуматься о самых футуристических достижениях и разработках прошлого года. Это невероятные технические, научные и социальные достижения — от коммуникаций на уровне мысли до самонаводящихся снайперских пуль. Вот 15 предсказаний, которые сбылись в 2014 году.

БЛАГОДАРЯ ТЕХНОЛОГИЯМ БЫЛА УСПЕШНО ПРОДЕМОНСТРИРОВАНА ТЕЛЕПАТИЯ





Впервые в истории два человека обменялись мыслями.

Примечательно, что система полностью неинвазивная. С помощью подключенной к сети электроэнцефалограммы (ЭЭГ) и роботизированных видеоуправляемых технологий транскраниальной магнитной стимуляции (ТМС) международной команде исследователей удалось осуществить процесс мысленной передачи слов «Hola» и «ciao» (Индия и Франция). Это важное доказательство для содействия развитию технологий с поддержкой телепатии.

Подобного успеха добилась и другая команда, разработав систему, которая позволила одному человеку контролировать движения другого. Университет исследователей Вашингтона продемонстрировал технологию на примере  компьютерной игры, когда «отправитель» послал мысленные инструкции «получателю» для контроля над движениями рук.

В NASA ПО ЭЛЕКТРОННОЙ ПОЧТЕ ОТПРАВИЛИ НА КОСМИЧЕСКУЮ СТАНЦИЮ ГАЕЧНЫЙ КЛЮЧ





Подобно героям фильма «Звездный путь» астронавты на борту МКС использовали 3D-принтер для изготовления торцевого гаечного ключа. Примечательно, что сам ключ был разработан на Земле и отправлен по электронной почте астронавту Барри Уилмору, который пропустил его через принтер. Это яркий пример того, как 3D-печать может изменить космические путешествия, позволяя астронавтам производить необходимое оборудование в чрезвычайных ситуациях.

 

ХИРУРГИ НАЧАЛИ ИСПОЛЬЗОВАТЬ АНАБИОЗ





Этот случай все еще находится на стадии судебного разбирательства, но, тем не менее, он представляет собой замечательное достижение. Хирурги пресвитерианской больницы при Питтсбургском университете используют анабиоз или, как они это называют, аварийное сохранение и реанимацию, когда травмированных пациентов резко охлаждают, чтобы сохранить их живыми во время критических операций.

Такая техника используется только на пациентах,  которые в противном случае должны были умереть, и предполагает внутренние, а не внешнее охлаждение. Кровь пациента заменяется холодным физиологическим раствором, который замедляет метаболические функции организма и потребность в кислороде.

ВОЕННО-МОРСКОЙ ФЛОТ США ИСПОЛЬЗУЕТ ФУНКЦИОНАЛЬНОЕ ЛАЗЕРНОЕ ОРУЖИЕ





Устройство, получившее название High Energy Laser (HEL), было установлено на морском судне USS Ponce, которое в настоящее время проводит учения в Персидском заливе.

Оружие находится на стадии прототипа, и на данный момент происходит оценка его возможностей в реальной среде, где оно уже показало свою эффективность в уничтожении двух лодок и дрона.

УЧЕНЫЕ «ЗАГРУЗИЛИ» УМ ЧЕРВЯ В РОБОТА



Исследователи проекта Open Worm пытаются создать цифровую версию круглого червя. Они еще не полностью достигли своей цели, но это не остановило участника команды Тимоти Басбиса в создании программного обеспечения, которое имитирует естественные процессы нейронных сетей червя, а затем использовании этих знаний в роботе LEGO Mindstorms Ev3.

Мое исследование основывается на изучении работы мозга червя, а затем — применении таких знаний на роботе для сенсорного ввода дынных и двигательной реакции, — сказал Басбис. — Мы обнаружили, что случайные сумасшедшие перемещения робота на самом деле являются ответом на его среду обитания — так же, как и в случае с биологическим червем.
 

КОМПЬЮТЕР РЕШИЛ МАТЕМАТИЧЕСКУЮ ЗАДАЧУ, КОТОРУЮ МЫ НЕ МОЖЕМ ПРОВЕРИТЬ





Математик Стивен Строгац однажды предсказал, что с помощью компьютера решение математических задач в конечном счете может выйти за рамки человеческого понимания. Похоже, что его предсказание наконец-то сбылось.

В начале этого года компьютер решил давнюю задачу Эрдёша. К сожалению, математики не совсем уверены в ее решении, потому что оно такое же длинное, как все страницы Википедии вместе взятые.

СОЗДАНИЕ ИСКУССТВЕННОЙ ХРОМОСОМЫ





Исследователи из медицинского центра Лангоне при Нью-Йоркском университете реконструировали синтетическую и полностью функциональную хромосому дрожжей. Невероятно, но им также удалось вставить в нее свои собственные специальные дополнения, в том числе химический переключатель, который позволяет ученым получать тысячи различных вариаций для последующего редактирования гена. Это важное доказательство концепции, которая может способствовать формированию организмов и искусственных хромосом у человека.

ИИ СТАЛ ЧЛЕНОМ СОВЕТА ДИРЕКТОРОВ ВЕНЧУРНОЙ КОМПАНИИ





Одни говорят, что это была шутка СМИ, но она может стать началом более широкой тенденции: венчурная компания из Гонконга назначила программу машинного обучения под названием VITAL членом своего совета директоров. Как говорят, этот «полноправный член» будет выявлять тенденции, которые «не сразу очевидны для людей», и давать инвестиционные рекомендации. Система будет обладать массивным набором данных, применять машинное обучение, а затем предсказывать, в какие медико-биологические компании лучше инвестировать.

ЧЕЛОВЕК С ДВУМЯ АМПУТИРОВАННЫМИ КОНЕЧНОСТЯМИ ПОЛУЧИЛ КОНТРОЛИРУЕМЫЕ СОЗНАНИЕМ РУКИ





Лес Бо стал первым человеком, примерившим два протеза руки на плечевом уровне, которые можно контролировать мышлением. Их нельзя носить все время, но исследователи из Университета Джона Хопкинса надеются, что руки в конечном итоге станут постоянным дополнением.

А вот другой случай крупного кибернетического прорыва: исследователи создали искусственную руку, которая может чувствовать, и первый контролируемым сознанием протез руки с 10 степенями свободы. Кроме того, эти носимые конечности сделали нас на шаг ближе к созданию Доктора Осьминога.

ПЛАЩ-НЕВИДИМКА, КОТОРЫЙ СКРЫВАЕТ ПРЕДМЕТЫ В ВИДИМОЙ ОБЛАСТИ СПЕКТРА





Мы и раньше видели так называемые плащи-невидимки, но это нечто совершенно новое.

Исследователи из Университета Рочестера разработали дешевое и удивительно эффективное устройство, которое, как заявляют его создатели, впервые выполняет 3D непрерывно разнонаправленное маскирование в видимой области спектра света. Для этого они объединили четыре стандартные оптические линзы, которые скрывают объект даже в том случае, если зритель перемещается в сторону. Система в конечном итоге может быть использована для устранения мертвых зон в транспортных средствах или позволит хирургам видеть сквозь свои руки во время хирургических операций. 

ОРАНГУТАНГ ЮРИДИЧЕСКИ ПРИЗНАН ЧЕЛОВЕКОМ





В качестве важного прецедента, который мог бы повлиять на закон, 29-летнему суматранскому орангутангу, который содержался в аргентинском зоопарке, было предоставлено право хабеас корпус. Как отметил адвокат Паул Бомпадре, данный прецедент не только предоставляет аналогичные возможности для других приматов, но и для остальных живых существ, которые несправедливо и произвольно лишенных свободы в зоопарках, цирках, аквапарках и научных лабораториях. Сандра покинет зоопарк и будет жить в приюте для животных.

СНАЙПЕРСКИЕ САМОНАВОДЯЩИЕСЯ ПУЛИ СТАЛИ РЕАЛЬНОСТЬЮ



DARPA в рамках проекта Exacto представила снайперские пули 50 калибра, которые направляются к цели с помощью лазера. Невероятно, но пуля может попасть в цель на расстоянии до 1,2 миль (1,9 км).

Технология была разработана Teledyne Scientific and Imaging, которые не раскрыли практически никакой информации о том, как пуля совершает маневры в середине траектории.

МЕЖДУ США И СЕВЕРНОЙ КОРЕЕЙ ВСПЫХНУЛА КИБЕРНЕТИЧЕСКАЯ ВОЙНА





Все началось из-за очень глупого фильма, но последствия оказались достаточно серьезными. Кибератаку на Sony непосредственно связывают с Северной Кореей (обвинение по-прежнему оспаривается), в результате чего показ фильма «Интервью» был временно отложен. Вскоре после этого весь Интернет в Северной Кореи был отключен — предположительно, Соединенными Штатами. Таким образом мир увидел, как на самом деле может выглядеть кибернетическая война.

ЧЕЛОВЕЧЕСТВО ПОСАДИЛО РОБОТА НА КОМЕТУ





Мы посылали автоматические зонды на планеты, но никогда не делали ничего подобного прежде.

Мучительная посадка Philae на комету 67P в начале ноября не была идеальной, но миссию преподносят как дикий успех. В дополнение к некоторым невероятным изображениям мы можем изучать органические соединения на комете и странную воду, которая потенциально способна опровергнуть наши теории о том, как появились океаны. 

В СЕВЕРНОЙ АМЕРИКЕ ПОЯВИЛОСЬ НЕЙТРАЛЬНОЕ В ГЕНДЕРНОМ ОТНОШЕНИИ МЕСТОИМЕНИЕ

Школьный совет Ванкувера представил безличные местоимения «Хе», «Xem,» и «Xyr» в целях применения их к студентам, для которых гендерные местоимения не подходят или считаются нецелесообразными. Аналогичные шаги были предприняты в Швеции и Германии.опубликовано 

 

Источник: www.robo-hunter.com/news/naibolee-futuristicheskie-prognozi-kotorie-sbilis-v-2014-godu

Алекс Гарленд: Это люди все портят; у машин довольно хороший послужной список по сравнению с нами

Поделиться







У Алекса Гарленда есть одна мысль, когда дело доходит до революции искусственного интеллекта: осуществить ее. Реализовав себя в качестве романиста («Пляж») и сценариста («28 дней спустя», «Дредд»), он решил попробовать себя в роли режиссера с фильмом «Из машины», который вот-вот выходит на экраны и поднимает кучу вопросов об искусственном интеллекте и этике.

Техник (Оскар Айзек) тайно разрабатывает робота по имени Ава и просит одного из своих сотрудников (Домхэлл Глисон) оценить ее способности, используя тест Тьюринга. Скандалы, интриги, расследования, опасности — все как обычно, но в отличие от штампованных андроидов, которые живут по принципу «мыслю — следовательно убиваю», Ава умная, даже добрая, и может быть куда более подходящей наследницей этого мира, чем человек, ее создавший.

«Из машины» — необычный фильм про искусственный интеллект. С чего началось ваше увлечение мыслящими компьютерами?

Мне 44, и я вырос в ногу с развитием видеоигр и компьютеров. Когда мне было 12 или 13, появились домашние компьютеры; ваши родители покупали их, ожидая, что вы будете учиться на них, но все, что вы делали — это играли в видеоигры. Правда, я немного программировал на Basic. Я делал простенькие программы типа «Hello World», которые придавали машине ощутимую чувствительность. Я довольно хорошо помню этот вид электрического чувства, которое вы испытывали, будто машина была живая — хотя определенно знали, что это не так.

Годы спустя я вступил в длинный спор со своим другом, который серьезно увлекался неврологией. Он считает, что компьютеры никогда не станут разумными, и у него есть хорошие научные аргументы, убеждающие в этом. Но на инстинктивном уровне я с ним просто не согласен. Я начал много читать об ИИ, разуме и сознании.

Вы работали со сложными темами раньше, поэтому эта территория для вас совершенно не нова.

Еще в «Пляже» есть темы теории мультивселенной и такого плана. Я работал над фильмом под названием Sunshine, в основе которого был вопрос тепловой смерти Вселенной. И хотя отчасти там были интересные с научной точки зрения темы, по большей части это фигня — смысла в нем было столько же, сколько в варп-двигателе в «Звездном пути». Сплошное разочарование. Я не говорю, что фильм плохой — в нем есть вещи, которые я люблю, — но что-то все равно не то. И когда я начал работать над этой темой, я подумал, что в ней есть смысл.

Какое у вас образование в сфере ИИ?

У меня есть интеллектуальное ограничение в плане того, что я могу понять. Отчасти это интеллект, отчасти понимание математики; когда они сталкиваются, образуется непроницаемая кирпичная стена для меня. Но что я могу прочитать и понять, это философские идеи, которые их окружают.

В частности, я наткнулся на книгу Мюррея Шанахана, профессора когнитивной робототехники в Имперском колледже, британской версии Массачусетского технологического института. Мне понравилась его аргументация, когда я читал книгу. Поэтому при написании сценария я связался с ним и несколькими другими людьми и сказал, что хотел бы, чтобы он жестко вчитался в сценарий и убедился, что он держится.

Так и случилось?

Мы дважды поступили самонадеянно. Во-первых, создали разумную машину, во-вторых, обзавелись робототехникой чрезвычайно высокого уровня, который позволил разумной машине иметь лицо, иметь черты. Это почти невероятно, и вы можете справедливо заметить, что это эквивалент варп-двигателю. Но это научная фантастика, и даже несмотря на нашу самонадеянность, я старался быть очень жестким.

На какую научную фантастику об искусственном интеллекте вы ориентировались, рисуя свою?

Вы можете предположить уровень грамотности аудитории по фильмам, но не по книгам. Люди могли прочитать или не прочитать «Сердце тьмы», правильно? Но они, скорее всего, видели «Апокалипсис сегодня». Поэтому когда вы работаете над научно-фантастическим фильмом, в котором будет искусственный интеллект и роботы, вы можете быть уверены, что люди что-то знают о HAL и 2001. Вы можете даже быть уверенным, что они знают о «Бегущем по лезвии бритвы» и репликантах. Таким образом, вы можете ориентироваться на грамотную аудиторию, потому что таковой она почти наверняка и будет.

И, скорее всего, они разберут ваш фильм на части тоже.

Здесь может быть проблема. При разработке робота я не хочу, чтобы люди думали о другом фильме, когда она [робот] появится на экране. Если она будет золотой, вы почти сразу же подумаете о C-3PO, и женский образ этого не отменит. Нам пришлось держаться подальше от знаковых роботов: от фильма «Метрополис», от видео Bjork, снятого Крисом Каннингхемом («All Is Full of Love»).

Кажется, люди хотят сравнивать «Из машины» с «Она» — ИИ разные, но вы играете с темой создания «идеальной женщины».

Есть две совершенно раздельных цепочки в этом фильме, насколько я могу судить. Одна об ИИ и сознании, другая о социальных конструктах: зачем этому парню создавать машину в форме девушки нежных двадцати лет, чтобы показать эту машину молодому парню для испытаний.

Насколько важен был дизайн Авы для общей картины фильма?

Он выглядит знакомым, но остается совершенно уникальным. В ней может быть немного Марии из «Метрополиса», но не более того. Это суперважно. Это критично, потому что ей нужно выглядеть красиво по-особенному. Ей нужно выглядеть очень, очень красиво и визуально бросаться в глаза.

Когда Натан объясняет, почему он сделал Аву такой, какая она есть, это жутковато.

Да, но именно это и нужно. Вы должны думать, что это жутковато. Вы должны чувствовать себя расстроенно, неудобно. И потому ее нужно спасти.

Натан во многом — архетипический парень из Кремниевой долины. Его персонаж — слепок с этих чуваков?

Это больше когда альфа-самец встречает не-альфа-самца. Мне нравится смесь кого-то, кто невероятно агрессивный и быковатый, но говорит панибратски, словно учит чему-то своего братишку-чувачка, даже если это что-то выходит за рамки его занятий.

Вы следили за последними дебатами в области ИИ и этики?

Это большой вопрос. Я думаю, что если вы много говорите о неразумных ИИ — дополненных версиях того, что у нас уже есть, — то есть, о чем беспокоиться и что принять во внимание. Нетрудно представить ситуацию, когда дроны, управляемые ИИ, оказываются более эффективными на поле боя, нежели дроны, управляемые людьми, и не страдают от ПТСР, как люди. Вы буквально доверили машине принимать решения о жизни и смерти человека. Этические проблемы, связанные с ним, абсолютно очевидны.

Но говоря в целом, если вы создаете новое сознание в форме машины, это не так уж будет отличаться от того, что два взрослых создают ребенка, на мой взгляд. У вас могут быть проблемы с тем, что новая машина разумнее своих родителей, но, опять же, мы немного научились с этим совладать. У вас могут быть двое родителей, которые создают Эйнштейна, и другие два, которые создают Сталина.

Поэтому о «Скайнете» вы не переживаете.

Я его даже приветствую. Люди собираются умереть на этой планете. Это может произойти из-за экологической катастрофы или из-за изменений в Солнечной системе или на Солнце. Но когда это произойдет, мы не сможем пройти через червоточину в другую галактику и найти старую планету. Этого просто не произойдет. Среди нас выживут только ИИ — если нам удастся их создать. Это не проблема, это, напротив, то, к чему нужно стремиться.

«Из машина», чувствуется, сделан с учетом этого всего.

Я надеюсь, что это понятно из фильма. Этот фильм задумывался определенно как поддерживающий идеи ИИ. Это люди все портят; у машин довольно хороший послужной список по сравнению с нами.

Кажется, вам повезло со звездами, особенно с Оскаром Айзеком и Домнелом Глисоном.

Потому что они в «Звездных войнах»?

Ну да.

Когда я приступил к подбору актеров «Из машины», единственное, что я знал на 100%, что не стоит тянуть кинозвезд. Они могли утопить все предприятие с легкостью. Поэтому нужно было найти просто хороших актеров. Проблема заключалась только в том, что мы не могли понять, кто будет хорош, но взяли их, потому что были и другие люди, которые их хотели. опубликовано 

Источник: hi-news.ru

Элиезер Юдковский: Человек vs Искусственный интеллект — кто кого?

Поделиться







Представьте себе невероятно умный искусственный сверхинтеллект, запертый в виртуальном мире — скажем, просто в табакерке. Вы не знаете, будет он злобным, дружелюбным или нейтральным. Все, что вы знаете, так это то, что он хочет выйти из табакерки и что вы можете взаимодействовать с ним через текстовый интерфейс. Если ИИ будет действительно сверхразумным, сможете ли вы проговорить с ним пять часов и не поддаться на его уговоры и манипуляции — не открыть табакерку?

Этот мысленный эксперимент предложил Элиезер Юдковский, научный сотрудник Научно-исследовательского института машиностроения (MIRI). В MIRI состоит много ученых, которые исследуют риски развития искусственного сверхинтеллекта; хотя его даже не появилось пока, он уже привлекает внимание и разжигает дебаты.

Юдковский утверждает, что искусственный сверхинтеллект может говорить все, что только может, чтобы убедить вас: тщательное рассуждение, угрозы, обман, построение раппорта, подсознательное внушение и так далее. Со скоростью света ИИ выстраивает сюжет, зондирует слабости и определяет, как наиболее легко убедить вас. Как выразился теоретик экзистенциальных угроз Ник Бостром, «мы должны полагать, что сверхинтеллект сможет достичь всего, что поставит целью».

Эксперимент с ИИ из табакерки вызывает сомнения в нашей способности контролировать то, что мы могли бы создать. Он также заставляет нас осмыслить довольно причудливые возможности того, чего мы не знаем о нашей собственной реальности.

Имитация может быть идеальной питательной средой для искусственного интеллекта. Некоторые из наиболее правдоподобных способов создания мощного ИИ включают смоделированные миры — вводя ограничения в искусственно смоделированном мире и выбирая нужные черты, ученые могут попытаться грубо дублировать собственную модель развития и сознательного чувствования человека. Формирование ИИ в моделируемой среде также может предотвратить его «утечку» в мир до тех пор, пока его намерения и степень угрозы не станут более чем очевидны.

Последние достижения намекают на то, что может быть невозможно трудно разработать познание с нуля. Никто не сможет построить разум человеческого масштаба, выписывая по одной строчке кода. Есть и другие перспективные подходы, конечно, и по мере роста вычислительной мощи вполне может быть возможной разработка процесса, который в конечном итоге создать ИИ, умного и способного, как человек.

Освободите ли вы ИИ или рискнете обречь себя на нескончаемую пытку?

Одна идея «создать» ИИ заключается в сканировании, картографировании и эмуляции виртуальной модели человеческого мозга. Мозг человека содержит миллиарды нейронов и триллионы соединений между этими нейронами. Если мы виртуально смоделируем чью-то полную структуру нейронов и их связей, будет ли это адекватной репликой человеческого сознания?

Другие планы по виртуальной разработке интеллекта гораздо менее просты. Одним из ключевых концептов является создание обучающейся машины — слабого интеллекта, который сможет учиться, возможно, благодаря искусственной нейронной сети, запрограммированной на бесконечное расширение и улучшение собственных алгоритмов.





Описанные выше сценарии включают тревожную проблему. Эмулированный мозг может работать в 2, 10 или 100 раз быстрее обычного биологического мозга. ИИ может модифицировать собственный код или начать создавать более разумные версии себя. Взрыв скорости и разума самоулучшающихся компьютеров обсудил еще в 1965 году статист И. Дж. Гуд, который и написал, что «первая сверхразумная машина станет последним изобретением, которое нужно будет создать человечеству».

Если мы создадим невероятно разумную машину, нам придется быть осторожными с ее размещением. Инженеры едва ли смогут создать модель мира, который будет полностью защищен от утечек. Ученые должны создать мир-имитацию, который позволит им заглядывать в эту вселенную и собирать информацию. Может показаться безобидным, но трудно предположить, не найдет ли такой сверхразум способ нанести нам вред через простые наблюдения.

Возвращаясь к коробкам Юдковского, есть особенно жуткий метод, который ИИ может использовать, чтобы заставить вас освободить его. Он включает обращение ситуации: ИИ будет убеждать вас, что вы почти наверняка часть симуляции.

Вы общаетесь с искусственным сверхинтеллектом в виртуальной тюрьме. ИИ объясняет вам, что с помощью его (необъяснимо большой) вычислительной мощности он создал триллион моделируемых существ. Эти существа в настоящее время все общаются с ИИ и решают, открыть им табакерку или нет. Все эти существа обладают памятью о своих «жизнях» и не задумываются о том, иллюзорна ли реальность.

ИИ утверждает, что каждое виртуальное существо, которое откроет коробку, обретет бесконечное состояние эйфории, а каждое моделируемое существо, которое не откроет коробку, подвергнется вечным мучениям и ужасам.

Поскольку вы являетесь одним из триллиона умов, которые столкнулись перед таким выбором, нажимает ИИ, вы должны прийти к выводу, что есть астрономически большой шанс того, что вы находитесь во власти ИИ и что нужно играть по правилам.

Освободите ли вы ИИ или рискнете обречь себя на нескончаемую пытку? Вы не можете обмануть кого-то, кто всегда на шаг впереди вас, и вам трудно оценить, врет ли ИИ, не зная его мотивов. В лучшем случае вы могли бы противостоять этой тактике, следуя политике строгого игнорирования некоторых видов шантажа. И эта тема до сих пор смущает теоретиков ИИ.

Заявленная цель MIRI: «убедиться, что создание с интеллектом выше человеческого будет нести положительное влияние». Мы должны рискнуть и попробовать, но обязательно должны предупредить все возможные подводные камни. И если вы когда-нибудь действительно встретите божественный компьютер, способный плодить бесчисленные виртуальные вселенные, вполне вероятно, что это «вы» будете сниться искусственному интеллекту… если он вообще услышит ваши просьбы и мольбы. опубликовано 

P.S. И помните, всего лишь изменяя свое сознание — мы вместе изменяем мир! ©

Источник: hi-news.ru