Информационное агентство Деловой журнал Профиль

Закрепить решающую роль человека при применении ИИ в социально значимых сферах предложили в России

В РФ предложено законодательно закрепить правило сохранения решающей роли человека при применении искусственного интеллекта (ИИ) в социально значимых сферах: здравоохранении, судопроизводстве, образовании и общественной безопасности. Как пишут "Известия", это следует из материалов правительства, где собраны предложения к законопроекту по регулированию искусственного интеллекта.

В РФ предложено законодательно закрепить правило сохранения решающей роли человека при применении искусственного интеллекта (ИИ) в социально значимых сферах: здравоохранении, судопроизводстве, образовании и общественной безопасности. Как <a href="https://iz.ru/2041992/2026-02-13/ii-ogranichat-v-priniatii-reshenii-v-sotcialno-znachimykh-sferakh" target="_blank" redirect="false" rel="noopener">пишут</a> "Известия", это следует из материалов правительства, где собраны предложения к законопроекту по регулированию искусственного интеллекта.Подготовленный с учетом поступивших предложений документ Минцифры должно направить на согласование в правительство, сообщил источник, близкий к нескольким профильным ведомствам.Отсутствие требования о решающей роли человека при использовании ИИ несет системные риски, считает член комитета Госдумы по информполитике, федеральный координатор партийного проекта "Цифровая Россия" Антон Немкин."Во-первых, это угроза дискриминации и алгоритмических искажений, если модель обучена на неполных или предвзятых данных. Во-вторых, размывание ответственности. В случае ошибки возникает вопрос, кто отвечает: разработчик, оператор или государство? В-третьих, снижение доверия граждан к цифровым сервисам, если решения, влияющие на их судьбу, будут восприниматься как автоматические и безапелляционные", – отметил он.Проверку заданий в школах и вузах, по мнению директора Института исследований интернета Карена Казаряна, ИИ доверять нельзя: как показал опыт, нейросети допускают массу ошибок.Аналогичные ограничения уже вводятся в странах с наиболее передовыми технологиями ИИ. В ноябре 2025 года американская компания OpenAI <a href="https://profile.ru/news/scitech/chatgpt-bolshe-ne-budet-konsultirovat-po-voprosam-mediciny-i-jurisprudencii-1774904/">обновила свою политику</a> и запретила нейросети ChatGPT консультировать пользователей по вопросам медицины и юриспруденции.Пользователь не может применять сервисы компании для ряда предметных областей. Речь идет о "предоставлении специализированных консультаций, требующих лицензии, таких как юридические или медицинские консультации, без соответствующего привлечения лицензированного специалиста".

Подготовленный с учетом поступивших предложений документ Минцифры должно направить на согласование в правительство, сообщил источник, близкий к нескольким профильным ведомствам.

Отсутствие требования о решающей роли человека при использовании ИИ несет системные риски, считает член комитета Госдумы по информполитике, федеральный координатор партийного проекта "Цифровая Россия" Антон Немкин.

"Во-первых, это угроза дискриминации и алгоритмических искажений, если модель обучена на неполных или предвзятых данных. Во-вторых, размывание ответственности. В случае ошибки возникает вопрос, кто отвечает: разработчик, оператор или государство? В-третьих, снижение доверия граждан к цифровым сервисам, если решения, влияющие на их судьбу, будут восприниматься как автоматические и безапелляционные", – отметил он.

Проверку заданий в школах и вузах, по мнению директора Института исследований интернета Карена Казаряна, ИИ доверять нельзя: как показал опыт, нейросети допускают массу ошибок.

Аналогичные ограничения уже вводятся в странах с наиболее передовыми технологиями ИИ. В ноябре 2025 года американская компания OpenAI обновила свою политику и запретила нейросети ChatGPT консультировать пользователей по вопросам медицины и юриспруденции.

Пользователь не может применять сервисы компании для ряда предметных областей. Речь идет о "предоставлении специализированных консультаций, требующих лицензии, таких как юридические или медицинские консультации, без соответствующего привлечения лицензированного специалиста".

Самое читаемое
Exit mobile version