Проверка способностей современных искусственных интеллектов на реальных медицинских документах выявила серьезные угрозы для пациентов. В ходе эксперимента аналитик Зыков предоставил трем востребованным нейросетям — ChatGPT, Gemini и Grok — задачу расшифровать девять подлинных рукописных рецептов, составленных российскими врачами. Несмотря на то что названия препаратов системы распознали практически без ошибок, в деталях дозировок и режимов приема обнаружились критические искажения.
По словам Зыкова, ИИ демонстрирует крайне низкую точность при работе с цифрами: так, вместо указанных в оригинале 2,16 тысячи таблеток одна модель определила лишь 216 единиц, а другая — всего 60. Еще более опасными оказались ошибки в схемах лечения: нейросети могли заменить прием двух таблеток перед сном на инструкцию принимать по одной штуке трижды в день, что полностью искажает предписания медика. Кроме того, алгоритмы систематически игнорировали важные примечания, путали фамилии специалистов и пытались самостоятельно достраивать неразборчивые фрагменты текста.
Главная опасность заключается в визуальной убедительности ответов. Аналитик Зыков подчеркнул, что ИИ работает на основе контекстуальных предположений: если буква не читается, программа подставляет наиболее вероятное слово, создавая иллюзию правильности. При этом системы далеко не всегда сообщают о своих сомнениях. Ранее по вопросу цифровой грамотности высказывался киберэксперт Игорь Бедеров, который настаивал на необходимости обучения детей принципам функционирования и потенциальным рискам использования технологий искусственного интеллекта.
