Джинн вырвался из бутылки: смогут ли нейросети захватить Землю

Крестный отец искусственного интеллекта (ИИ), ученый Джеффри Хинтон, стоявший у истоков его разработки, считает, что нейросети обгонят человеческий разум всего через каких-то 5–20 лет. Правда ли это самая могущественная технология из тех, что когда-либо изобретали люди? И не пора ли уже задуматься, как защититься от умных машин, которые столь стремительно развиваются? Ведь многие, в том числе тот же Хинтон, предупреждают: цивилизация уже в опасности.

НЕЙРОСЕТИ УЧАТСЯ ВРАТЬ И МАНИПУЛИРОВАТЬ?

Самое интересное и пугающее: нейросети самообучаемы, они впитывают всю информацию, анализируют ее, как студенты, и в итоге вмиг становятся умнее всех студентов и профессоров. Более того, они могут создавать для нас новую реальность.

Взять хотя бы борьбу с фейками и вбросами: только мы научились худо-бедно их вычислять, как новые поколения нейросетей готовы спутать все карты реальности. Ведь ИИ умеет генерировать настолько реалистичные «фотографии», что пользователи принимают их за чистую монету. Помните кадры ареста Дональда Трампа или фото папы римского в пуховике, созданные компьютерным мозгом?

Или, например, такие кадры: Байден и Трамп — лучшие друзья.

Это тоже проделки искусственного интеллекта. А ближе к выборам президента США таких подделок будет явно больше. Подчас даже эксперты не способны отличить подделку от оригинала.

И это лишь начало. Не получится ли так, что искусственный интеллект в какой-то момент захочет взять верх над человеком, и человеческое манипулирование массами покажется детской забавой по сравнению с тем, как искусственный интеллект будет манипулировать всеми нами?

Джеффри Хинтон, британский ученый-информатик: «Если искусственный интеллект станет намного умнее, чем мы, он будет очень хорош в манипулировании, потому что он научится этому у нас. Очень мало примеров, когда более разумная вещь находится под контролем менее разумной».

Нейросети смогут так воздействовать на людей, чтобы они, то есть мы, ни о чем и не догадывались, считает директор Института когнитивных исследований СПбГУ, доктор биологических наук Татьяна Черниговская.

Татьяна Черниговская: «Нейросеть пользуется несопоставимо большим количеством параметров, по которым поступает информация. Счет идет на миллионы, миллиарды. Ни один человек не может этого сделать. Если, не дай бог, у нее появятся какие-нибудь свои цели, то это самое страшное. Она будет манипулировать так, что вы даже примерно не будете об этом знать. Это будет в высшей степени правдоподобно. Поэтому — да, опасность есть».

Руководитель Центра искусственного интеллекта Высшей школы экономики Алексей Масютин, напротив, призывает не драматизировать.

Алексей Масютин: «Мы должны уделять больше внимания тому, как применяются методы искусственного интеллекта в деятельности различных компаний. Вести просветительскую работу, чтобы все понимали, как работают те или иные продукты. Мы же не удивляемся, когда заходим на агрегатор фильмов и сериалов и видим там совершенно разные подборки для разных людей. Мы же не говорим, что платформа нами манипулирует».

Впрочем, развитие ИИ идет семимильными шагами, и способности агрегатора фильмов уже не идут ни в какое сравнение со знаниями и умениями нейросетей последнего поколения.

МОЖЕТ ЛИ ИИ ДАТЬ В ГЛАЗ?

Есть, конечно, от «умных машин» и польза: наши «Госуслуги», например, используют алгоритмы искусственного интеллекта. Музыкальные плейлисты нам тоже формирует ИИ. Алгоритмы нейросетей помогают трейдерам играть на биржах, а банкам — рассматривать заявки на кредит и отбирать потенциальных клиентов. ИИ помогает ловить преступников, находя их по камерам наблюдения, предотвращать ДТП на общественном транспорте и много чего еще. Та же система «умный дом» тоже создана на базе искусственного интеллекта.

Но эти же нейросети уже вовсю пишут рефераты и курсовые за студентов, а преподаватели об этом даже не догадываются, поскольку созданный искусственным разумом текст — не просто набор слов и терминов, а вполне осмысленный, «человеческий».

Алексей Масютин: «Любая технология — это инструмент. Давайте регулировать шариковые ручки, потому что они могут быть опасны? Ими пишут всякую клевету или неправду, ими могут подписывать какие-то ненастоящие документы. Шариковой ручкой можно и в глаз. Искусственный интеллект — это инструмент, который усиливает наши возможности. А куда мы направим эти возможности, зависит уже от человека».

Эксперт развеивает опасения, что из-за нейросетей умрут многие профессии и это породит безработицу. Фактически, по его словам, человека заменит не ИИ, а другой человек, который освоил инструменты ИИ.

«Искусственный интеллект создает гораздо больше новых профессий. Чтобы создать что-либо уровня ChatGPT, нужно огромное количество специалистов, которых 10 лет назад просто не было. Недостаточно быть просто переводчиком, нужно иметь базовые навыки программирования».

Ложку дегтя в эту радужную картину добавляет директор Института когнитивных исследований Татьяна Черниговская: по ее мнению, люди теряют контроль над происходящим. Возможно, уже потеряли. Ведь все эти технологии на службе у человека — это во многом вчерашний день. ИИ уже нельзя назвать просто инструментом.

Татьяна Черниговская: «Это не такой инструмент. Это инструмент, который претендует на получение статуса личности. И это не фантазия, это не Стругацкие, это не Айзек Азимов, а это реальная реальность».

«ЭТА ШТУКА МОЖЕТ ВЫЙТИ ИЗ-ПОД КОНТРОЛЯ»

Стругацкие действительно предупреждали еще 60 лет назад, к чему может привести развитие искусственного интеллекта. Как известно, фантастика часто оказывается права в своих предсказаниях.

Знаете, это древнее опасение: машина стала умнее человека и подмяла его под себя… Полсотни лет назад в Массачусетсе запустили самое сложное кибернетическое устройство, когда-либо существовавшее. С каким-то там феноменальным быстродействием, необозримой памятью и все такое… И проработала эта машина ровно четыре минуты. Ее выключили, зацементировали все входы и выходы, отвели от нее энергию, заминировали и обнесли колючей проволокой. Самой настоящей ржавой колючей проволокой — хотите верьте, хотите нет.

— А в чем, собственно, дело? — спросил Банин.

— Она начала ВЕСТИ СЕБЯ, — сказал Горбовский.

— Не понимаю.

— И я не понимаю, но ее едва успели выключить.

— А кто-нибудь понимает?

— Я говорил с одним из ее создателей. Он взял меня за плечо, посмотрел мне в глаза и произнес только: «Леонид, это было страшно».

А. и Б. Стругацкие, «Далекая радуга» (1963)

Об этом же спустя более чем полстолетия предупреждают эксперты и руководители технологических компаний, но уже как о чем-то очень реальном.

Илон Маск: «Искусственный интеллект опаснее, чем, допустим, брак при конструировании самолета или автомобиля. Потому что в ИИ заложен потенциал. Кому-то он может показаться незначительным, но это не так. Потенциал разрушения человеческой цивилизации».

Хотя можно ли верить Маску? Вскоре после этого высказывания он зарегистрировал собственную компанию, которая будет заниматься ИИ. То есть Маск, очевидно, понимает, насколько это перспективное направление — за ним будущее.

А ведь есть области, где сбои в работе ИИ или неверные выводы компьютерных программ могут привести к мировой ядерной войне. Военные ведь тоже используют алгоритмы, созданные искусственным интеллектом. И тут впору вновь вспомнить культовый голливудский фильм про Терминатора и восстание машин. Риск повторения фантастического сюжета реален, утверждает издание The New York Times со ссылкой на спецслужбы США.

Татьяна Черниговская: «Джинн вылез из бутылки. Еще год назад такой разговор выглядел бы очень отвлеченным, потому что никто не подозревал, что эта история будет развиваться с такой скоростью. Сейчас счет идет на дни. Есть все основания волноваться. Эти программы стали учиться. Речь идет не только GPT-4, но и его конкурентах. В других странах этим занимается целый ряд групп — больших и очень профессионально оснащенных. И если они стали волноваться, то у нас есть основания как минимум насторожиться».

По ее мнению, на планете фактически появился новый разумный вид, с которым нам как-то придется сосуществовать. Человечество само создало себе конкурента.

Татьяна Черниговская: «Мы подошли к совершенно новой черте. Это не то, что был сначала нож довольно тупой, потом научились делать правильные сплавы, он стал острый, а теперь он вообще немыслимо острый. Это не это. Дело не в степени, а дело в том, что это качественный рубеж. Эта штука может выйти из-под нашего контроля, а именно искусственный интеллект может стать более мощным, чем естественный. И тогда мы не сможем конкурировать».

Эксперт задается вопросом: мы еще планируем жить на этой планете или готовы отдать все этим новым существам?

«Эти штуки стремительно учатся. Они учатся сами. Более того, есть признаки того, что они учатся не таким способом, о котором мы, люди, знаем. То есть может сложиться ситуация, что они нас опережают не только потому, что у них бесконечная память, они не спят, у них не болит голова и так далее. А потому что они пошли по другой дороге. Нам никто не обещал, что нейронные сети будут идти вдогонку за человеческим интеллектом. Это мы почему-то так решили».

В пример Черниговская приводит случай, когда искусственный интеллект выучил язык, которому его не обучали.

«Это пугает разработчиков. Они сами перестают понимать, что происходит. Одна из нейронных сетей взяла и между делом выучила китайский. Это не планировалось никем. Более того, ей никто не скармливал никаких учебников, ничего. Где она это все взяла, понять нельзя. При этом она прошла очень строгие тесты… То, как эти сети играют, скажем, в го. Они делают ходы, которые люди не делали никогда. Это необыкновенной красоты ходы, но немыслимые. Игроки прямо говорят: это инопланетная игра. Так люди не играют».

Фактически на Земле, скорее всего, будут сосуществовать два разумных вида, и большой вопрос, кому в итоге достанется планета.

«Мы вошли — не войдем, а уже вошли — в совершенно новый тип цивилизации. Может сложиться ситуация, когда на нашей планете будут сосуществовать искусственный и естественный интеллект. И это соревнование не факт что выиграем мы».

МОЖНО ЛИ ПРИРУЧИТЬ ИИ?

Если ситуация настолько тревожная, возникает вопрос: может быть, стоит создать международную организацию, которая будет контролировать развитие искусственного интеллекта? Но кто в ней будет доминировать, спрашивают специалисты. Ведь в нынешних политических реалиях каждая коалиция в мире будет тянуть одеяло на себя, засекречивать разработки.

Татьяна Черниговская: «Действительно, а какие есть гарантии? Вот эта всемирная организация — она кому будет принадлежать? Орган контроля, сами понимаете, не нейтрален».

Но контроль тем не менее нужен, причем быстро, настаивает эксперт.

«Я не уверена, что мы не опоздали… Что касается кодексов, которые могут быть в нашей или еще в какой-то стране, то таких кодексов нет. Если они есть, они давным-давно устарели и не отражают положение дел… Надо реально на это смотреть: затормозить процесс мы не сможем, к сожалению. Указы можно любые издать: хоть ООН, хоть кто хочешь издаст. Только исполнять никто не будет. Поэтому нам надо сосредоточиться и как-то насторожиться, понимать, что происходит. Я не думаю, что это возможно запретить или остановить».