Ученые выяснили, как ИИ обманывает наивных пользователей: вот какие вопросы лучше не задавать

Ученые выяснили, как ИИ обманывает наивных пользователей: вот какие вопросы лучше не задавать
Ученые выяснили, как ИИ обманывает наивных пользователей: вот какие вопросы лучше не задавать
Фото Городовой.ру

Не всегда инновационные технологии работают на пользу человечества.

Немецкие ученые провели исследование, чтобы оценить пользу искусственного интеллекта (ИИ) и чатботов в медицинских консультациях. Об этом сообщает издание Scimex. Специалисты Университета имени Фридриха — Александра в Эрлангене и Нюрнберге протестировали работу нейросети Copilot от Microsoft, встроенной в Windows. Результаты оказались неоднозначными: медики не согласились с примерно половиной предложенных советов.

В рамках исследования ученые задали чат-боту 10 популярных медицинских вопросов, касающихся 50 лекарственных препаратов, всего было сделано 500 запросов. Оказалось, что только 54 процента ответов совпадали с научным консенсусом, а остальные могли представлять угрозу для здоровья.

Среди неверных ответов 42 процента могли привести к легкому или среднему вреду, 22 процента — к летальному исходу. Лишь 36 процентов ошибок нейросети не несли вреда. Ученые подчеркнули, что, несмотря на потенциал ИИ, пациентам необходимо продолжать консультироваться с врачами очно. Это остается самым надежным источником медицинской помощи.

Ранее в Петербурге презентовали тракторы со встроенным ИИ.

Оцените новость
❤️
🙏
😹
🙀
😿
Поделитесь новостью