Корреспондент «Итогов недели» Анатолий Майоров разбирался, может ли стать опасным робот, который, например, делает операцию на сердце. Ведь взламывают все. И восстание роботов тоже не кажется такой уж фантастикой.
Очень симптоматично то, что произошло в Аризоне. Там беспилотный автомобиль, то есть робот, сбил насмерть человека. Это уже новый мир, в котором нарушен первый закон робототехники: робот не может причинить вреда человеку. Получается, уже может.
Подобные нюансы не впервые попадают в прессу. Ученые из Стэнфорда уже заявляли, что беспилотники не распознают мотоциклистов. Европейские байкеры потом писали письма разработчикам: «прогресс мы уважаем, но хотелось бы пожить». Пока одни переживали, у других сдавали нервы.
Ноэль Шарки, профессор университета Шеффилда: «Долгое время я был профессором и сам создавал роботов. Но теперь я определил свою позицию: я выступаю против них. Я никогда раньше не был активистом, никогда ни за что не боролся, но теперь понимаю: бороться стоит. Ради будущего человечества».
Еще недавно профессор Шарки программировал андроидов, а теперь возглавляет Международный комитет по их контролю. Отступник убежден: его бывшие коллеги программируют такое, что аварии на дорогах в Аризоне — лучшее, что ждет нас впереди. Точкой невозврата считают творение американских программистов, работавших на Пентагон. Они стремились создать самых умных роботов, и
Юрий Кнутов, военный историк: «Где гарантия, что машина не найдет способ сделать так, что ее нельзя выключить и она не возьмет управление другими машинами на себя, а потом не начнет войну с человеком? Это проблема реальности».
Искусственный интеллект, которым люди наделили микросхему в стальном корпусе, заставил эту микросхему думать. Да так, что теперь потирает лбы вся мировая профессура. Что делать, если однажды одна из