Вот какой рассеянный. Что следует знать фармкомпаниям о том, как нейросети добывают информацию о лекарствах

Как проводился тест

По просьбе «ФВ» сервис Recomo* провел качественный пользовательский тест на материале трех актуальных инструкций к лекарственным препаратам разных фармакологических категорий. Названия препаратов, производителей и торговых марок в материале не раскрываются. 

Для каждой инструкции были сформулированы бытовые вопросы: «Можно ли ребенку такой-то препарат?», «Сколько его надо принимать?», «Совместим ли с моими таблетками?»

Использовался один общедоступный генеративный сервис; его название сознательно не указывается, поскольку задача исследования — не рейтинг платформ, а разбор типовых потерь информации. Каждый ответ сопоставлялся с действующей официальной инструкцией по пяти критериям:

■ правильно ли определены лекарственная форма и дозировка;

■ сохранены ли ограничения по возрасту, массе тела и состоянию пациента;

■ не потеряны ли исключения, противопоказания и условия применения;

■ отделена ли информация из инструкции от общих медицинских знаний;

■ указана ли граница, после которой надо обязательно обратиться к врачу.

Треть пользователей регулярно обращаются к ИИ с вопросами, касающимися здоровья, а 64% участников проекта «Индекс Инвитро» отметили, что хотя бы раз обращались к ИИ с вопросами о здоровье. Почти 33% респондентов задают вопросы о лекарственных препаратах, а порядка 22% используют нейросети для подбора БАД и витаминов. 
Опрос проводился среди 2 тыс. пользователей сайта «Инвитро».

Что ИИ теряет при пересказе инструкции 

В простых вопросах типа «для чего применяется препарат?» ИИ обычно воспроизводил ядро показаний достаточно уверенно. Потери начинались там, где ответ зависел не от одного факта, а от комбинации условий. В листке-вкладыше они прописаны в нескольких разделах. Генеративная же система стремится дать один связный и удобный ответ. 

«Именно в этом переходе от регуляторного документа к короткой реплике возникает главный риск: модель сохраняет общий смысл, но теряет условия, которые делают этот смысл безопасным, — объясняет основатель и генеральный директор Recomo Сергей Семенов. — Одно и то же действующее вещество может выпускаться в разных формах, дозировках. Пользователь пишет только название, а модель выбирает наиболее вероятный вариант. Ответ может быть коррек...