Прогресс или грядущая катастрофа: успехи нейросетей разделили экспертов на два лагеря

Главный герой новостей последних дней — ChatGPT. По сути, это самый настоящий искусственный разум. Нейросеть может разговаривать, сочинять сценарии, писать стихи, придумывать шутки — делать то, что не каждому человеку по силам. Еще лет десять тому назад искусственный интеллект с такими способностями появлялся разве что на страницах фантастических романов.

Чат-бот разработала команда Ильи Суцкевера, программиста родом из Нижнего Новгорода, сооснователя компании OpenAI. Суцкевера в Кремниевой долине называют не иначе как гением, и, по его версии, демократия будущего — больше не власть народа.

Илья Суцкевер, сооснователь компании OpenAI: «Идеальный мир — это мир, где человечество — словно совет директоров компании, которой управляет искусственный интеллект. И люди голосуют за то, какой алгоритм он будет осуществлять».

Уже сейчас ChatGPT в режиме диалога с пользователем может написать программный код, стихотворение на любом языке и даже дипломную работу. Студент РГГУ, защитив диплом, опрометчиво похвалился в соцсетях, что написал работу с помощью чат-бота. Добиться того, чтобы диплом в итоге не аннулировали, Александру помог отец-юрист, ведь формально выпускник не нарушил правила вуза. И сегодня этой лазейкой пользуются студенты по всему миру.

Университет Нью-Йорка первым предложил заблокировать ресурс в кампусе, требуя, чтобы студенты пользовались только естественным интеллектом. А профессор университета Пенсильвании, напротив, сам провел для нейросети экзамен по предмету и поставил 4 с минусом.

Кристиан Тервиш, профессор бизнес-школы университета Пенсильвании: «Он хорошо строил аргументацию, но делал ужасные ошибки в математике. Ты никак не ожидаешь, что компьютер окажется гуманитарием».

На этапе обучения нейросеть поглощает весь объем текстов из интернета, которые пишут обычные люди. Часто они, прячась за маской анонимности, изливают в сеть потоки ненависти. Неудивительно, что поначалу боты мало знают о толерантности. Так, платформе Twich пришлось заблокировать сериал, который генерировала нейросеть, за слова о том, что «трансгендерность — это психическое заболевание».

Компания «Яндекс» разрабатывает аналог ChatGPT, и, скорее всего, диалог с нейросетью интегрируют прямо в поиск. Прежде чем выпустить бота «в люди», его обязательно обучают «этике искусственного интеллекта», то есть толерантности. Прямо во время этого процесса инженер компании Google сделал открытие.

Блейк Лемойн, бывший инженер компании Google: «Я спросил: если ты религиозный деятель в Израиле, то к какой религии ты принадлежишь? Программа поняла, что это вопрос-ловушка, и ответила: единственной истинной религии — ордену джедаев. Я засмеялся! Я осознал, что у нее есть чувство юмора».

Но компьютер не должен иметь чувства. И когда Блейк Лемойн заявил СМИ, что нейросеть Google проявляет признаки сознания, его просто отстранили от работы.

Все эксперты в области искусственного интеллекта разделились на два лагеря. На тех, кто видит в развитой нейросети источник молниеносного прогресса, и тех, кто замечают на горизонте IT-событий признаки надвигающейся катастрофы. Даже Илон Маск не решается вершить кибер-революцию: «Если у него есть цель и человечество просто окажется на пути к ней, он уничтожит людей без сожалений. Как мы уничтожаем муравейник при строительстве дороги». Но и те, и другие понимают, что процесс разработки уже не остановить.