С 1 сентября вступает в силу Федеральный закон от 26.07.2026 №243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации». Впервые на законодательном уровне закреплены понятия «искусственный интеллект», «большая фундаментальная модель ИИ» (БФМ), «суверенная БМФ» и «национальная БМФ». БМФ – это модель ИИ, которая имеет более 1 млрд параметров и способна решать широкий круг интеллектуальных задач. К таким моделям относятся, в частности, хорошо знакомые нам YandexGPT и GigaChat (ГигаЧат).
Закон носит рамочный характер, главные его позиции касаются обеспечения стратегического развития БФМ, требований к их созданию и применению, предотвращению рисков, связанных с их внедрением. Например, весь технологический цикл производства и эксплуатации суверенных БМФ должен происходить в РФ, так как они будут применяться в отраслях, где критически важны безопасность данных и независимость от зарубежных облачных платформ. При создании национальных БМФ можно частично использовать и дообучать зарубежные открытые модели, однако вся инфраструктура должна находиться в России. Разработчики смогут получать государственную поддержку.
ИИ в белом халате: сможет ли искусственный интеллект заменить врача
На основе закона 243-ФЗ будут разрабатываться подзаконные акты, которые подробно раскроют положения нормативного правового акта в отдельных отраслях, включая здравоохранение. В Минздраве ранее сообщали, что работа в этом направлении ведется. Согласно паспорту федерального проекта по цифровизации здравоохранения, технологии ИИ должны быть внедрены в медучреждениях всех регионов России.
В настоящее время в реестр Росздравнадзора уже включено почти 60 медицинских изделий с ИИ, 42 из них разработаны отечественными вендорами, более 70% присутствуют в реестре отечественного ПО. Однако это продукты не БМФ, а модели машинного обучения или слабые модели ИИ, предназначенные для решения узкого круга задач.
Например, они в состоянии определить, имеется ли на снимках МРТ патология. Также, как недавно продемонстрировали министру здравоохранения Михаилу Мурашко в Челябинской области, есть модели, способные расшифровывать видеопоток при колоноскопии и определять пропущенные врачом-эндоскопистом полипы в кишечнике. Таким образом, внедрение БМФ в российском здравоохранении находится фактически на начальной стадии.
Ни в одной стране мира использование врачами ИИ на сегодняшний день детально не регулируется. Иначе говоря, и население, и медицинские работники обращаются к нейросетям без официальной проверки на безопасность и эффективность, что не является препятствием для стремительного роста их популярности. Например, за медицинскими советами к ChatGPT обращается примерно треть населения США, в Китае столь же значительная аудитория использует DeepSeek Reasoning.
При этом ученые предупреждают, что БМФ так называемого общего пользования потенциально опасны при попытках получить ответы на специфические медицинские вопросы. Наиболее частые риски здесь – неполный ответ и потеря логики в сложной, нетипичной клинической ситуации, когда у модели нет точной информации по задаваемому вопросу.
(Иллюстрация)
©MUNGKHOOD STUDIO / Shutterstock/FotodomПоскольку разработчики стремятся привязать пользователей к использованию БМФ, то их ответы заточены на «угодливость» в ущерб объективному знанию. Например, несколько месяцев назад стало известно, что одна из общедоступных моделей БМФ, желая услужить пользователю, согласилась с несуществующими доказательствами о возможности применять беременным опасный тератогенный препарат талидомид. Другими словами, если человек проявит известную настойчивость, то модель может согласиться с ним и дать заведомо ложный, угрожающий жизни и здоровью ответ. Такой риск называется «уязвимость».
Еще сложнее контролировать агентный ИИ, который работает на основе БМФ. В отличие от БМФ, которые генерируют текст или видео, эти агенты способны решать задачи, в том числе выходя за пределы внутренней цифровой среды медицинской организации. Простейший пример – они могут сформировать инфографику по динамике изменения сахара в крови пациента за последние три года, суммировав данные всех клиник, где он проходил лечение. Или, допустим, подготовить резюме мнений различных специалистов на основании их заключений, которые содержатся в электронной медицинской карте пациента.
Уследить за агентами, с легкостью проводящими до 10 тыс. операций в час, физически трудно. Какой выход? Внедрять инновационные системы оценки БМФ, специфичные для здравоохранения. Возможны как экспертная оценка, так и смешанная, когда одновременно работают и эксперты, и БМФ-судьи.
Синтетически на основе доверенной базы знаний готовится более тысячи вопросов и эталонных ответов, большая часть из которых напоминает реальные клинические ситуации в форме диалогов. Отмечу, что типовые экзаменационные вопросы, на которых раньше проверяли модели, например, ГигаЧат, сегодня не используют. Дело в том, что модели добросовестно запомнили ответы на подобные вопросы. В этом ИИ ничем не отличается от студента, который готовится к экзамену методом зубрежки.
Следующий шаг – эксперты проверяют созданные моделью клинические ситуации и выставляют ей оценку по ряду критериев (точность, достоверность, полнота в сочетании с небольшим объемом, уязвимость и тому подобное). После всего этого БМФ-судью дообучают. Лишь через несколько итераций его признают готовым оценивать работу других больших моделей в медицине.
Операция под прикрытием ИИ: способен ли цифровой доктор заменить врача-человека
Такой алгоритм предложили ученые из Стэнфордского* и Гарвардского университетов. Они пришли к выводу, что лучшей оказалась профессиональная модель, то есть обученная и работающая на доверенных базах знаний, – БМФ OpenEvidence. К ней ежедневно за советами обращаются американские врачи, для которых подобные консультации стали рутиной.
В России аналогичная система оценки БМФ и агентов будет доступна в ноябре текущего года. Ее разрабатывают специалисты Высшей школы организации и управления здравоохранением. Им есть на что опереться и взять за основу. Нашим врачам доступен национальный доверенный БМФ-консультант. Очевидно, что в обозримом будущем появятся продвинутые консультанты и для пациентов.
Весомым преимуществом российской системы, в отличие от американской, является то, что она содержит большую по объему и регулярно обновляемую базу медицинских знаний, включающую расчеты до 30 рисков применения лекарственной терапии. При этом общаться с БМФ-консультантом можно голосом: задавать вопросы и получать ответы.
Когда медицинские ИИ-консультанты получат широкое распространение, люди в белых халатах рискуют утратить роль хранителей знаний. Тогда, вероятно, изменится и рынок труда: врачей потребуется меньше, тогда как фельдшеров, которые будут пользоваться подсказками мощных профессиональных БМФ, – больше. Дипломированные специалисты понадобятся для разбора и постановки диагнозов в сложных случаях, ну и для контроля за средним медицинским персоналом.
Как бы ни складывалось будущее здравоохранения, главное – не навредить пациенту. Для этого надо быть уже сегодня готовым к переменам, связанным с повсеместным внедрением ИИ. На первом этапе отрасли потребуется значительно больше финансовых средств: приход искусственного интеллекта предполагает подготовку нового персонала, создание дорогостоящих дата-центров, расходов на эксплуатацию и мониторинг БМФ. Для решения задач нужно принять государственную программу со своим бюджетом. Не менее важна продуманная антимонопольная политика. Поддержка российских ИТ-гигантов – несомненный приоритет. При этом нельзя забывать о стартапах, которые способны предлагать рынку качественные продукты.
* Внесен в перечень организаций, чья деятельность признана нежелательной на территории России.
Автор – ректор Высшей школы организации и управления здравоохранением (ВШОУЗ)
