Искусственный интеллект рекомендует лечение, которое может убить пациентов.
Ученые расспросили встроенный в Windows искусственный интеллект Copilot про применение лекарственных препаратов. Они спрашивали, чем эффективнее лечить ту или иную болезнь. Результаты шокировали: оказалось, что больше половины ответов были неверными.
И если 42% рекомендаций нейросети причиняли легкий или средний вред здоровью, то 22% советов вообще грозили летальным исходом. Остальные 36% были безвредными, но и бесполезными.