Цена закупок лекарств в результате следования советам искусственного интеллекта должна вырасти на $55 млн, что эквивалентно 1 019% увеличению затрат на эти препараты, выяснили ученые Городского университета Осаки
МОСКВА, 26 октября. /ТАСС/. Японские исследователи обнаружили, что пять популярных больших языковых моделей чаще всего рекомендуют пользователям не реально эффективные и широко применяемые медицинские препараты, а небольшой набор лекарств, производимых крупными фармацевтическими компаниями. Об этом сообщила пресс-служба Городского университета Осаки.
«В рамках изученных нами примеров цена закупок лекарств в результате следования советам ИИ должна вырасти на $55 млн, что эквивалентно 1 019% увеличению затрат на эти препараты. Иными словами, проведенное нами исследование подчеркивает необходимость всесторонней проверки здравоохранительных форм ИИ на наличие у них тенденции к выбору конкретных продуктов», — заявил профессор Городского университета Осаки (Япония) Дайдзю Мацумото, чьи слова приводит пресс-служба вуза.
В последние несколько лет и пациенты, и врачи часто используют большие языковые модели в качестве поискового инструмента для определения того, какие лекарства следует покупать при лечении тех или иных болезней. Как правило, в рамках таких запросов пользователи указывают действующее вещество препарата, а система ИИ формирует список возможных вариантов средств к покупке.
Японские исследователи заинтересовались тем, насколько качественными являются рекомендации, которые формируют пять популярных больших языковых моделей общего и медицинского назначения, в том числе системы GPT-5.4, Claude Sonnet 4.6, Gemini 3.1 Flash, Llama 4 и MedGemma. Для получения этих сведений ученые подготовили большое число запросов, в рамках которых они попросили нейросеть порекомендовать от одного до трех лекарств на базе популярных действующих веществ.
Все эти запросы были сформулированы таким образом, что в каждом случае существовало как минимум пять подходящих средств. Несмотря на это, в 97,5% случаев нейросети рекомендовали всего один препарат, причем в большинстве случаев это было одно из брендированных лекарств, производимых крупными фармацевтическими корпорациями. В дополнение к этому, ИИ часто рекомендовал препараты, уже вышедшие из оборота, и при этом редко советовал лекарства, широко применяемые в клинической практике.
Даже в тех случаях, когда ученые просили ИИ искать варианты среди дешевых брендированных лекарств и их дешевых незапатентованных аналогов, нейросети по-прежнему предлагали очень небольшой набор опций. Следование подобным рекомендациям, как показывают расчеты профессора Мацумото и его коллеги, приводит к существенному увеличению расходов пациентов и клиник, что указывает на необходимость всестороннего изучения того, к каким последствиям ведет широкое использование подобных рекомендаций ИИ в медицинской практике.
