Восстание роботов: стоит ли доверять железным помощникам

Очень симптоматично то, что произошло в Аризоне. Там беспилотный автомобиль, то есть робот, сбил насмерть человека. Это уже новый мир, в котором нарушен первый закон робототехники: робот не может причинить вреда человеку. Получается, уже может.

Подобные нюансы не впервые попадают в прессу. Ученые из Стэнфорда уже заявляли, что беспилотники не распознают мотоциклистов. Европейские байкеры потом писали письма разработчикам: «прогресс мы уважаем, но хотелось бы пожить». Пока одни переживали, у других сдавали нервы.

Ноэль Шарки, профессор университета Шеффилда: «Долгое время я был профессором и сам создавал роботов. Но теперь я определил свою позицию: я выступаю против них. Я никогда раньше не был активистом, никогда ни за что не боролся, но теперь понимаю: бороться стоит. Ради будущего человечества».

Еще недавно профессор Шарки программировал андроидов, а теперь возглавляет Международный комитет по их контролю. Отступник убежден: его бывшие коллеги программируют такое, что аварии на дорогах в Аризоне — лучшее, что ждет нас впереди. Точкой невозврата считают творение американских программистов, работавших на Пентагон. Они стремились создать самых умных роботов, и роботы-собаки объединились в стаю, а о ней в исходном шифре не было ни строчки.

Юрий Кнутов, военный историк: «Где гарантия, что машина не найдет способ сделать так, что ее нельзя выключить и она не возьмет управление другими машинами на себя, а потом не начнет войну с человеком? Это проблема реальности».

Искусственный интеллект, которым люди наделили микросхему в стальном корпусе, заставил эту микросхему думать. Да так, что теперь потирает лбы вся мировая профессура. Что делать, если однажды одна из собак-уборщиц нападет на человека, потому что человек — источник мусора в квартире? Что делать, если робот нападет на хозяина, который мешает донести коробку? Роботы не злятся, но у них нет и чувства юмора. Есть задача, но нет запретных способов решения. Теперь представьте, если этот интеллект будет воевать.