Использование искусственного интеллекта для интерпретации врачебных предписаний сопряжено с серьезными рисками для здоровья, если полагаться на него без контроля специалиста. Аналитик Зыков провел практическое исследование, чтобы проверить точность работы современных языковых моделей при работе с реальными документами. В эксперименте участвовали три известные нейросети — ChatGPT, Gemini и Grok, которым предложили распознать текст девяти подлинных российских рецептов, написанных от руки.
Результаты проверки показали, что, несмотря на успешное определение названий медикаментов, алгоритмы допускают критические ошибки в ключевых параметрах. По данным Зыкова, ИИ может радикально исказить количество препарата: например, вместо указанных 2,16 тысячи таблеток одна система распознала лишь 216 единиц, а другая — всего 60. Еще опаснее ситуация, когда нейросеть полностью меняет режим приема лекарства, заменив назначение врача (две таблетки перед сном) на совершенно иную схему (одна таблетка трижды в день).
Помимо математических просчетов, эксперт зафиксировал систематические проблемы: ИИ игнорирует важные примечания, допускает ошибки в фамилиях медицинских работников и склонен к галлюцинациям. Проблема заключается в том, что нейросети пытаются достроить смысл фразы на основе контекста. Если почерк неразборчив, модель может уверенно подставить подходящее по смыслу слово вместо реального, при этом внешне ответ будет выглядеть абсолютно достоверным. При этом системы далеко не всегда сообщают о наличии сомнений в правильности расшифровки.
В свою очередь, киберэксперт Игорь Бедеров ранее подчеркнул необходимость обучения детей принципам функционирования нейросетей и осознанию сопутствующих рисков при работе с ними.
