Нейросеть испугала создателя: главные причины драмы в OpenAI остались за кадром

На уходящей неделе мир потрясла новость о том, что совет директоров OpenAI, разработавшей ChatGPT, внезапно уволил исполнительного директора компании Сэма Альтмана. Решение приняли 4 человека: трое инвесторов и признанный гений, сооснователь OpenAI, выходец из России Илья Суцкевер. И речь, как выяснилось, идет об угрозе человечеству. До того, как совет директоров уволил Альтмана, Суцкевер отправил всем письмо, предупреждая об открытии в области искусственного интеллекта, которое угрожает цивилизации.

Прорыв с ChatGPT совершила команда Суцкевера. Цель Альтмана — коммерческий успех. И, как выяснилось, компания пожертвовала безопасностью ради прибыли. Летом Илья Суцкевер даже сформировал новую команду, чтобы «взять под контроль сверхинтеллектуальные системы», как будто намекая, что уже сейчас они не под контролем.

Илья Суцкевер, главный научный сотрудник в компании OpenAI: «Скорость компьютеров и нейронных сетей скоро вырастет в 100 000 раз. Проблема фейковых новостей станет в миллион раз хуже, кибератаки станут куда серьезнее, у нас будет полностью автоматизированное оружие искусственного интеллекта».

Но именно Альтмана поддержали 95 процентов сотрудников компании, пригрозив уйти вслед за ним. Совету директоров пришлось вернуть его обратно, что породило десятки слухов и мемов. В этом блокбастере, достойном голливудской экранизации, за кадром осталось главное: чем нейросеть так испугала ее создателя, что он устроил переворот, и останется ли Суцкевер в компании, чтобы эти угрозы сдерживать.

Илья Суцкевер: «Игра в Бога. В этом часто упрекали ученых. Но только сейчас мы создаем полностью автономных существ со своими целями. Они будут намного умнее людей. И важно, чтобы их цели совпадали с нашими. Поэтому разработка ИИ должна быть результатом не конкуренции, а сотрудничества компаний и стран».

На этой неделе в Москве проходит сразу несколько форумов, посвященных искусственному интеллекту. Программисты ведущих российских компаний и приглашенные иностранные эксперты обсуждают, как наука, бизнес и искусство стремительно меняются под влиянием этой мощной технологии, и пытаются спрогнозировать, чего в ней больше — возможностей или угроз.

Все выпуски программы «Центральное телевидение»