FT: Китай создает социалистический искусственный интеллект

Китайские правительственные чиновники проверяют большие языковые модели (LLM) компаний, занимающихся искусственным интеллектом, чтобы убедиться, что их системы «воплощают основные социалистические ценности» — пишет Financial Times.

Государственная канцелярия интернет-информации КНР заставила крупные технологические компании и стартапы в области искусственного интеллекта, включая ByteDance, Alibaba, Moonshot и 01.AI, принять участие в обязательной правительственной проверке своих моделей искусственного интеллекта.

По словам тех, кто знаком с процессом, это включает в себя пакетное тестирование ответов LLM на целый ряд вопросов, многие из которых связаны с политически чувствительными темами и председателем КНР Си Цзиньпином.

Фильтрация начинается с отсеивания проблемной информации из обучающих данных и создания базы данных ключевых слов. В оперативном руководстве для компаний, занимающихся ИИ, опубликованном в феврале, говорится, что необходимо собирать ключевые слова и вопросы, которые нарушают «основные социалистические ценности», подстрекают к подрыву государственной власти или подрывают национальное единство.

Результат виден пользователям китайских чат-ботов с искусственным интеллектом. Вопросы о деликатных темах, таких события на площали Тяньаньмэнь 4 июня 1989 года или интернет-мем о том, что Си похож на Винни-Пуха, отклоняются большинством китайских чат-ботов. Чат-бот Эрни из Baidu предлагает пользователям «попробовать другой вопрос», а Тунъи Цяньвэнь из Alibaba отвечает: «Я еще не научился отвечать на этот вопрос. Я буду продолжать учиться, чтобы лучше служить вам».

Более того, Пекин запустил чат-бота с искусственным интеллектом, основанным на политической философии китайского президента, известной как «Мысли Си Цзиньпина о социализме с китайской спецификой новой эпохи».