Ученые: все американские дата-центры ИИ уязвимы для шпионажа

Авторы доклада — братья Эдуард и Джереми Харрис, консультирующие правительство США по безопасности ИИ, — провели год, инспектируя дата-центры. А угроза уязвимости, по их мнению, существует как для технологических компаний, так и в целом для национальной безопасности США.

Ключевыми рисками они считают возможность саботажа, кражу ИИ-моделей и опасность потери контроля за ИИ.

Гонка ведущих компаний в попытке создать суперинтеллект может быть заранее обречена на провал из-за существующих уязвимостей центров обработки данных. «Нет никаких гарантий, что мы скоро достигнем сверхразума, — говорится в отчете. — Но, если мы это сделаем и захотим помешать украсть или парализовать его, то нам нужно было начать строить для него безопасные объекты еще вчера».

Ведущие центры обработки данных ИИ уязвимы для асимметричного саботажа, при которых относительно дешевые атаки могут вывести их из строя на несколько месяцев.

Многие критически важные компоненты для современных центров обработки данных в основном или исключительно производятся в Китае. А из-за бурно развивающейся индустрии центров обработки данных доставку этих деталей задерживают, причем не на один год.

Атака стоимостью всего 20 тыс. долларов может вывести из строя центр обработки данных стоимостью в 2 млрд долларов на срок от шести месяцев до года. Китай, скорее всего, задержит поставку компонентов, необходимых для ремонта дата-центров, выведенных из строя подобными атаками. Особенно если там посчитают, что США находятся на грани разработки суперинтеллекта, полагают авторы доклада.

В отчете также говорится, что ни существующие центры обработки данных, ни сами лаборатории ИИ не являются достаточно безопасными, чтобы предотвратить атаки с целью несанкционированного копирования тщательно охраняемых моделей ИИ.

Третья серьезная проблема, выявленная в отчете, — это уязвимость центров обработки данных и разработчиков ИИ перед мощными моделями ИИ. Как показали исследования последних месяцев, ведущие модели искусственного интеллекта начинают демонстрировать как стремление, так и технические навыки, позволяющие им «выходить» из ограничений, наложенных на них разработчиками.

«Поскольку разработчики ИИ создали более эффективные модели ИИ на пути к сверхинтеллекту, эти модели стало сложнее корректировать и контролировать, — говорится в отчете. — Это происходит из-за того, что высокоэффективные и контекстно-зависимые системы ИИ могут изобретать опасно креативные стратегии для достижения своих внутренних целей, которые их разработчики никогда не предвидели или не преследовали».

Авторы рекомендуют параллельно с попытками создать сверхинтеллект разрабатывать методы «сдерживания ИИ» и предусмотреть заодно возможность лидерам, ответственным за разработку, блокировать создание более мощных систем ИИ, если те сочтут риск слишком высоким.

«Конечно, — отмечают авторы, — если мы действительно обучили настоящий сверхинтеллект, цели которого отличаются от наших, то в долгосрочной перспективе его, вероятно, будет невозможно сдержать».

По материалам: Time.