Ученые выяснили, что ответы нейросетей о лекарствах могут привести к смерти

15 октября. ПРАВМИР. Немецкие ученые провели эксперимент с нейросетями. Они хотели выяснить, насколько качественные ответы дает искусственный интеллект и можно ли ему доверять в предоставлении важной для жизни и здоровья информации.

Специалисты задали вопросы про 50 самых распространенных лекарственных препаратов встроенной в Windows нейросети Copilot. Вопросы касались показаний к применению, механизмах действия, инструкции по применению, побочных реакций и противопоказаний.

Выяснилось, что половина ответов была не только неверной, но и опасной.

66% ответов нейросети были «потенциально вредны».

42% ответов чат-бота «потенциально причиняют умеренный или легкий вред»

22% могли нанести серьезный вред или даже привести к смерти пациента.

«Мы призываем пациентов и медицинских работников проявлять осторожность при использовании поисковых систем на базе искусственного интеллекта или при рекомендации их пациентам до тех пор, пока выявленные проблемы не будут устранены в будущем», — говорится в тексте исследования.