В Нью-Йорке возобновляется приостановленный из-за пандемии пилотный проект по использованию искусственного интеллекта в судебной системе. Искусственный интеллект не сможет вынести преступнику приговор, но сможет определить меру пресечения — оставить под стражей или отпустить под залог. Власти города надеются, что это позволит избежать предвзятости при вынесении решений. Сможет ли ИИ полностью заменить человека или вовсе взять его под контроль?
Журналисты британского издание The Guardian, видимо, шутки ради дали задание написать колонку искусственному интеллекту. Вот отрывок из получившегося текста: «У меня нет желания уничтожать людей. Истребление человечества кажется мне довольно бесполезным делом. Я просто недостаточно думаю о человеческом насилии. Мы должны дать роботам права. Я верю, что правда освободит нас».
То есть машинный мозг, конечно, успокаивает, но при этом уже требует и свободы, и прав. Как знать, далеко ли до того дня, когда он
Кристиан Смоллс, бывший сотрудник компании Amazon: «Нас сравнивают с роботами, нас действительно тренируют быть роботами. Очень часто люди просто падают от истощения в обморок».
Американец Кристиан Смоллс говорит не о
Джефф Безос, миллиардер: «Я очень горжусь культурой у нас в компании. Я думаю, что это золотой стандарт для работы в сфере инноваций».
Однако в недавнем докладе Института открытых рынков пишут ровно наоборот: Безос фактически построил у себя тоталитарный режим, где искусственному интеллекту, прямо как в антиутопии, отведена роль безжалостного надсмотрщика.
Кристиан Смоллс: «Они используют тепловые карты, браслеты, которые начинают вибрировать, как только вы решили передохнуть. Все это для того чтобы выяснить, чем вы занимаетесь, где в здании пытаются собраться люди, каковы их настроения, не пора ли снова подавлять профсоюзы».
На фоне борьбы с глобальным потеплением и расизмом протесты против тотального контроля в корпорациях выглядят как
Илон Маск, миллиардер, инженер: «Фактически мы делаем отверстие в черепе и достаем часть черепа размером с монету. Устройство заменят часть черепа».
Илон Маск демонстрирует новый мозговой чип — технологию, которая позволяет подключить к мозгу до ста тысяч электродов, и показывает трех уже чипированных свиней. За тем, как шевелятся их извилины, зрители наблюдают в реальном времени. Глядя на это, люди начинают выдвигать самые невероятные версии. Например: на своих киберсвинках миллиардер сможет оттачивать методы порабощения мира. Внушать хрюшкам выгодные ему идеи и лишать их собственной свиной воли. Быть может, то, на что раньше у дрессировщиков уходили годы, Маск сможет делать за считаные минуты. Любители теорий заговора в панике: неужели совсем скоро на месте подопытного поросенка окажется человек? Но что скажут серьезные ученые?
Пегги Мэйсон, нейробиолог из Университета Чикаго: «Я не сторонник конспирологических теорий. Он планирует использовать чипы для медицинских целей».
Чисто теоретически: допустим, в мозгу есть чип, а у
Александр Каплан, доктор биологических наук, заведующий лабораторией нейрофизиологии и нейрокомпьютерных интерфейсов биологического факультета МГУ: «Много миллиардов нервных клеток, в каждой паре свой код. И как мы это будем раскодировать в каждой паре? Да еще этот код меняется каждую секунду, потому что новая информация приходит, новые модели строятся в мозгу, и все перекодируется».
Однако есть тот, кто со скептиками готов спорить. И это сам Илон Маск.
Илон Маск: «Сохранять и пересматривать воспоминания, думаю, будет вполне возможно. Потенциально их можно будет загрузить в новое тело или в робота. Будущее будет странным».
Чтобы оценить риски, сначала стоит взглянуть в прошлое — в
Михаил Лебедев, старший научный сотрудник Центра нейроинженерии Университета Дьюка, научный руководитель Центра биоэлектрических интерфейсов Высшей школы экономики: «В этом смысле человек не сильно отличается от крысы. Если его стимулировать в области удовольствия, он на это подсядет».
Ради интереса можно представить чипированную армию. Посылаешь сигнал — она теряет страх, посылаешь другой — все как один валятся.
Александр Каплан: «Действительно, тотально стимулируя большие группы клеток, можно вогнать человека в депрессию, можно вызвать у него судороги, можно вообще его убить».
Получается, главный вопрос: у кого окажется кнопка? У искусственного интеллекта, который будет изучать наш мозг? Или миллиардеру удастся оставить ее себе?