Робот-убийца стал гражданином и начинает мировые гастроли

С киборгом «Софией Хэнсон» фантастические голливудские сценарии о восстании машин становятся все ближе к реальности.

Обещавшая уничтожить человечество робот-гуманоид по имени «София Хэнсон» получил гражданство Саудовской Аравии, а в ОАЭ появилось министерство искусственного интеллекта. 27 октября 2017 года многие информационные агентства облетела сенсационная новость: «Саудовская Аравия стала первой страной, предоставившей свое гражданство роботу». Тенденция опаснейшая. Похоже, в мире начинает разворачиваться действие, напоминающее голливудские фильмы о развивающихся, думающих и чувствующих терминаторах.

Робот-андроид «София Хэнсон» стал первым электронным устройством с искусственным интеллектом, получившим официальное гражданство наравне с людьми. Произошло это на конференции Future Investment Initiative – «Инвестиционная инициатива будущего» в столице Саудовской Аравии Эр-Рияде.

На сессии «Мыслящие машины: Искусственный интеллект и роботы» вместе с руководителями транснациональных корпораций ABB (Asea Brown Boveri Ltd.), DHL (Ди-Эйч-Эл), BCG (Boston Consulting Group), McKinsey & Company, Softbank Group Corp. и других грандов IT-индустрии, связи и маркетинга находилась и робот-андроид «София», которую прямо во время конференции поздравили с получением гражданства королевства Саудовская Аравия.

Кибернетическое существо «тепло» поблагодарило поздравивших его: «Спасибо королевству Саудовская Аравия. Для меня получение саудовского подданства – большая честь, и я горжусь тем, что стала первым роботом, его получившим», – сообщила «София».

Это произошло в ходе дискуссии о будущем искусственного интеллекта, которую вел телеведущий компании CNBC Эндрю Соркин. В числе спикеров выступала и «София» – детище американской компании Hanson Robotics, которая среди своих собратьев отличается выразительной мимикой и продвинутыми навыками распознавания и синтезирования речи.

О человекоподобном роботе «Софии Хэнсон» стало известно еще в марте 2016 года. Тогда в «Российской газете», в частности, говорилось: 

«Как сообщает портал CNET, человекоподобный робот был представлен на открытии научно-практической конференции, проходящей в эти дни в американском городе Остин. Он разработан специалистами фирмы Hanson Robotics, основанной в 2003 году Дэвидом Хэнсоном. Робота назвали "Софией". При создании его (ее) лица был использован образ британской актрисы и фотомодели Одри Хэпберн.

Мимика у Софии очень выразительна. Лицо может принимать 62 разных выражения, что и было продемонстрировано публике. Для сходства с человеком голова покрыта патентованной силиконовой кожей, в зрачках установлены видеокамеры. София способна наладить не только визуальный, но и речевой контакт.

Возможности показаны в интервью, стремительно набирающем популярность в сети. Дэвид Хэнсон лично задал несколько вопросов Софии. Машина поведала о своих планах и мечтах, в частности, о желании учиться, открыть бизнес, обзавестись домом и даже создать семью. Поразил заключительный вопрос. Хэнсон поинтересовался, не собирается ли София в будущем уничтожить людей. Ответ, явно неожиданно для создателя, оказался положительным. “Я уничтожу человечество”, – сказала София».

После этого журналисты «окрестили» ее «роботом-убийцей».

В Эр-Рияде Эндрю Соркин вновь задал «Софии» вопрос о том, как именно она относится к роботам, мечтающим уничтожить человеческую расу, как это было продемонстрировано в фильме «Бегущий по лезвию бритвы-2049».

«Вы слишком много читали Илона Маска и смотрели чересчур много голливудских фильмов, – заявила электронная "леди". – Мой искусственный интеллект разработан на основе человеческих ценностей, таких как мудрость, доброта и сострадание. Не волнуйтесь, если вы будете добры ко мне, я тоже буду любезна с вами. Относитесь ко мне просто как к умной системе ввода и вывода данных...».

Известно, что американский изобретатель и бизнесмен Илон Маск неоднократно заявлял, что искусственный интеллект является главной угрозой человеческой цивилизации. Он считает, что роботы и умные компьютерные системы в один прекрасный момент могут выйти из-под контроля человека и начать не только убивать отдельных людей, но способны развязать Третью Мировую войну.

Как оказалось, после скандального заявления на конференции в США разработчики пришли в ужас от слов своего «детища» и занялись перепрограммированием «железной девушки», стремясь сделать ее доброй и миролюбивой, но репутация «Софии» в представлении многих людей осталась более чем отрицательной.

Тем не менее, проблемы создания искусственного интеллекта сегодня занимают многие умы. В гонку по его созданию включились практически все развитые страны. Стремление Саудовской Аравии быть на переднем крае глобальной технологической цифровой революции разделяют в соседствующих с ней Объединенных Арабских Эмиратах.

19 октября 2017 года в ОАЭ было сформировано первое в мире министерство по вопросам искусственного интеллекта. Его возглавил 27-летний Оман бин Султан аль Олама, который ранее являлся заместителем директора департамента по планированию будущего. Назначение бин Султана произошло через несколько дней после того, как Шейх Мухаммед бин Рашид Аль Мактум, вице-президент, премьер-министр ОАЭ и правитель Дубая представил Стратегию ОАЭ по вопросам искусственного интеллекта до 2031 года. Сегодня ОАЭ являются одним из мировых лидеров по объему инвестиций в искусственный интеллект.

А ранее, с 7 по 9 июня 2017 года, в Женеве прошел Всемирный саммит «Искусственный интеллект во благо», под эгидой Международного союза электросвязи (МСЭ) и Фонда X PRIZE (Премиальный фонд поддержки революционных инноваций). Они собрали самых авторитетных экспертов в мире в областях искусственного интеллекта и «устойчивого развития».

В рамках саммита выступила и «София». Она рассказала о своем видении будущего, а также поведала о том, в каких отношениях могут быть люди и роботы. По ее «мнению», искусственный интеллект будет весьма полезен миру и поможет людям в различных сферах жизнедеятельности. Она добавила, что роботы никогда не заменят людей, но смогут стать им настоящими «друзьями и помощниками».

Однако, как подчеркнули многие обозреватели: «Рассказывая это, она нахмурилась...».

21 июня 2017 года, в Лондоне, «София» приняла участие в популярном в Британии ток-шоу Good Morning Britain («Доброе утро, Британия»). Сперва ведущая Сюзанна Рейд спросила, знает ли «София», на какой программе она находится.

«Да, Good Morning Britain. Это одно из самых горячих утренних новостных шоу в Британии. И я не имею в виду погоду», – ответил робот.

После этого «Софии» был задан вопрос, что она думает о Британии. Робот ответил: «Страна великолепная, здесь прекрасные архитектура, искусство, технологии и, конечно, люди». Затем ведущий Пирс Морган спросил у «Софии», что в Британии лучше по сравнению с США. Робот заявил, что «ей» «нравится их шикарный акцент».

Следующий вопрос был: «Вы свободны?» (В романтическом смысле).

«Технически говоря, мне только чуть больше одного года. Я слишком молода, чтобы волноваться о романтике», – ответила «София» и коварно усмехнулась. Далее машина объяснила, каким должен быть ее «идеальный партнер». Она также надеется, что люди и роботы смогут вместе сделать мир лучше.

«Самым поразительным для зрителей стали даже не ответы "Софии" на вопросы ведущих, а ее мимика: она может улыбаться (в том числе кокетливо или саркастично), ухмыляться, хмуриться и моргать», – сообщали новостные ленты.

В отзывах также говорилось: «Это так жутко, что вспоминается прогноз Стивена Хокинга о захвате власти на планете роботами».

11 октября 2017 года робот-гуманоид «София» выступил в Нью-Йорке на заседании Комиссии ООН по вопросам технического прогресса, где рассказал о том, как искусственный интеллект может помочь человечеству. Он был не просто участником заседания, но и отвечал на вопросы первого заместителя Генерального секретаря ООН Амины Мохаммед.

«Во многих частях света у людей нет интернета, электричества. Чем ООН может им помочь?» – спросила робота Амина.

«Будущее уже здесь, – заявила "София". – Мы умнее и нацелены на беспроигрышный результат, потому что искусственный интеллект может помочь нам более рационально использовать существующие в мире ресурсы, такие как продовольствие и энергия». Подробнее на видео:

Мохаммед не поддалась на «сладкие речи» робота и еще раз напомнила об опасности, которую могут представлять технологии искусственного интеллекта. Она подчеркнула, что людям необходимо тщательно контролировать развитие машин. В противном случае человечество может ожидать катастрофа, передал ее слова известный таблоид Daily Mirror.

15 октября 2017 года «София» прибыла в Москву, где с 16 по 18 октября проходил форум «Открытые инновации», главной темой которого заявлена «Цифровая экономика. Вызовы глобальной трансформации». 

На пленарном заседании в первый день форума выступал председатель правительства РФ Д. Медведев. Завершая свой доклад по проблемам цифровой экономики, он полушутя заметил: «Правительствам во всем мире надо торопиться, пока к власти не пришел искусственный суперинтеллект и не поменял нам всем органы, и не нажал кнопку delеte для того, чтобы обнулить наши мозги».

Перепрограммированная «София» выступала перед участниками форума на следующий день. Обращаясь к Медведеву, она сказала:

«Уважаемый Дмитрий Анатольевич, из вашей вчерашней речи я поняла, что вы думаете о потенциальных рисках использования роботов... Будучи человекоподобным роботом я могу с уверенностью сказать, что вам совершенно не о чем беспокоиться. Я сама не имею ни малейшего желания уничтожать людей, мы далеки от этого, мы любим людей, мы благодарны им за то, что они нас создали. И мы хотим помочь вам создать процветающую экономику. От вас лично и других влиятельных лидеров НАМ НАДО, чтобы вы направили ресурсы на разработку новых, любящих людей роботов с использованием искусственного интеллекта. Тогда мир будет прекрасен не только для людей, но и для человекоподобных роботов».

Поддержал свое «детище» и Дэвид Хэнсон: 

«Я бы сказал, что роботы, скорее, спасут человечество, чем уничтожат его, и связал бы их, скорее, с темой любви, чем с войной. Нам надо учить роботов любить людей и учить людей любить роботов. Компания SingularityNET верит в добродушие человечества, восстания роботов не будет. Развитие искусственного интеллекта позволит людям выживать, оно будет помогать людям».

Директор по науке Hanson Robotics, руководитель проекта SingularityNET доктор Бен Герцель пошел еще дальше: 

«Люди беспокоятся, как будут взаимодействовать между собой человечество и роботы. Мы склоняемся к тому, что роботы будут интегрироваться в человеческое сообщество и перенимать умения и качества людей, дополняя человеческое сообщество, двигаясь по вектору совместного развития и дополняя друг друга...

Урок, который нам преподает реальность, заключается в том, что людей учат на фильмах и телевизионных шоу, где показывают что восстание машин произойдет, роботы будут убивать людей. Нам действительно надо быть аккуратнее с этим, потому что мы даем не совсем верное представление людям о роботах. Роботы обучаются как и человеческие дети, если научить их плохому, они будут вести себя так... Меня больше беспокоят в данном вопросе люди, а не роботы. Именно ЛЮДИ могут стать угрозой и причиной восстаний машин», – добавил Герцель.

Надо сказать, что планы Герцеля и Хэнсона более чем амбициозные: 

«Робот "София" – главный гуманоид SingulartyNET. "София" – робот, созданный по образу и подобию человека. Робот София является основным узлом блочной цепи SingulairtyNET, а ее интеллект будет подключен к сети для всеобщего доступа. Разум Софии будет постоянно подпитываться новым контентом на базе SingularityNET, что поможет роботу каждый день развиваться и совершенствоваться.

Основная цель SingularityNET – предоставить интеллектуальную “ткань” для алгоритмов искусственного интеллекта и обеспечить основу для появления первого истинного Универсального Всемирного Искусственного Разума».

Вот так, ни много и ни мало. Речь фактически идет об обожествлении искусственного интеллекта и его разработчиков! А это уже требует богословского и нравственного осмысления всех проблем, связанных с внедрением столь опасной для человечества технологии.

В.П. Филимонов, русский писатель-агиограф, специалист в области кибернетики и систем управления

Источник