Эксперты в области высоких технологий всерьез обеспокоены стремительным развитием искусственного интеллекта — в частности, GPT-4 . Они призывают остановить обучение нейросетей на полгода. Эту меру поддержали Илон Маск и Стив Возняк.
Более тысячи экспертов в области высоких технологий и искусственного интеллекта подписали открытое письмо с призывом приостановить на полгода обучение систем ИИ, «более мощных, чем
Среди подписантов — исследователи из DeepMind, Гарварда, Оксфорда и Кембриджа. А также куда более медийные личности: Илон Маск, сооснователь Apple Стив Возняк, филантроп Эндрю Янг, соучредитель Pinterest Эван Шарп и многие другие.
Все они считают, что ИИ несет серьезные риски для общества и человечества. По их мнению, мощные системы искусственного интеллекта следует разрабатывать только будучи уверенными, что эффекты будут положительными.
За те полгода, на которые будет взята пауза, авторы письма предлагают разработать общие протоколы безопасности. Это необходимо делать совместно с властями государств, нужно формировать компетентные регулирующие органы и придумать системы отличий в продуктах, созданных человеком и искусственным интеллектом.