Информационное агентство Деловой журнал Профиль

США и Китай договорились не допускать автономного применения ИИ в военных операциях – Бессент

Искусственный интеллект не должен действовать автономно при проведении крупных военных операций – такого понимания достигли президент США Дональд Трамп и председатель КНР Си Цзиньпин. Об этом заявил глава американского минфина Скотт Бессент в интервью телеканалу CNBC.

Искусственный интеллект не должен действовать автономно при проведении крупных военных операций – такого понимания достигли президент США Дональд Трамп и председатель КНР Си Цзиньпин. Об этом заявил глава американского минфина Скотт Бессент в интервью телеканалу CNBC. "Люди всегда должны участвовать в принятии любых военных решений, и так называемый суперинтеллект не должен действовать автономно при проведении крупных военных действий", – <a href="https://www.cnbc.com/world/" target="_blank" redirect="false" rel="noopener">сказал</a> он. Встреча лидеров США и Китая состоялась ранее на неделе на саммите АТЭС. Речь идет о том, что при использовании ИИ в военной сфере человек должен сохранять контроль, а "суперинтеллект" не должен автономно проводить крупные военные операции. В контексте диалога двух лидеров это формально пока не опубликованный юридически обязывающий договор, а заявление о договоренности. <h2>О чем именно речь?</h2> Бессент сформулировал суть так: "люди всегда должны участвовать в любых военных решениях", которые принимает ИИ, и "суперинтеллект" не должен действовать автономно в крупных военных действиях. Он также сказал, что ни одна крупная военная операция не должна начинаться без участия человека. Китайская сторона в своем официальном сообщении о встрече использовала более широкую формулировку: США и КНР должны укреплять коммуникацию, предотвращать риски безопасности ИИ и обеспечивать, чтобы ИИ "всегда находился под контролем человека". То есть Пекин публично подтвердил принцип человеческого контроля, но не обязательно именно те узкие военные ограничения, которые описал Бессент. <h2>Что означает договоренность?</h2> <ul> <li>Человеческий контроль: ИИ может помогать в анализе, целеуказании, планировании и управлении системами, но окончательное решение остается за человеком.</li> <li>Автономия в крупных операциях: ИИ не должен самостоятельно инициировать или проводить крупные военные действия.</li> <li>Сфера применения: формулировка касается "крупных военных операций"; она не равнозначна полному запрету на все автономные вооружения или на военное применение ИИ.</li> </ul> <h2>Почему это важно?</h2> США и Китай являются главными конкурентами в разработке передового ИИ, но одновременно обладают крупнейшим потенциалом для его военного применения – от разведки и киберопераций до систем управления, наведения и автономных платформ. Заявление важно потому, что оно отделяет минимальную "красную линию" – сохранение человеческого решения – от более широкой гонки за ИИ-превосходством. Для Вашингтона это также способ закрепить норму meaningful human control: не запрещать ИИ в армии, но не допускать, чтобы машина сама принимала решение о начале крупной операции или применении силы. Для Пекина близкая риторика об "ИИ под контролем человека" сочетается с интересом не допустить односторонних преимуществ соперника и снизить риск непреднамеренной эскалации. <h2>Прежние споры</h2> Главная давняя дискуссия касается летальных автономных систем оружия (LAWS) – вооружений, которые после активации могут сами выбирать и поражать цели без непосредственного участия человека. Их часто называют "роботами-убийцами", хотя термин охватывает разные степени автономии и не означает, что система обязательно полностью независима. В ООН этот вопрос обсуждается более десяти лет в рамках Конвенции о конкретных видах обычного оружия (CCW). Сторонники юридически обязывающего договора указывают на риск неизбирательных ударов, ошибок распознавания, размывания ответственности и несовместимости с международным гуманитарным правом. Противники нового договора – прежде всего крупные военные державы, включая США, Россию и Израиль – обычно приводят аргументы, что существующее международное гуманитарное право достаточно, а жесткие ограничения помешают военному развитию и не смогут адекватно регулировать быстро меняющиеся технологии. США продвигают добровольные нормы и дальнейшую экспертную работу, а не немедленные обязательные правила. <h2>Узлы противоречий</h2> Что считать "автономным"? Полностью автономная система, самостоятельно выбирающая цель, и система с человеком "в контуре", который лишь подтверждает решение, – принципиально разные случаи. Новость говорит о крупных операциях, но не определяет границу между ними. Кто отвечает за ошибку? Если ИИ неверно классифицирует цель или запускает эскалацию, ответственность командира, производителя, оператора и государства остается спорным вопросом. Проверяемость. Политическое обещание трудно проверить: стороны могут по-разному трактовать, что является "крупной операцией", "решением" и "участием человека". Гонка вооружений. Критики опасаются, что без общих правил государства будут внедрять все более автономные системы, чтобы не уступить сопернику; сторонники ограничений считают это аргументом именно за договор. Доверие между США и Китаем. Даже при совпадении риторики сохраняется соперничество по чипам, моделям, кибервозможностям и военным технологиям; Бессент специально подчеркивал, что договоренность не отменяет эту конкуренцию. <h2>Каков контекст сейчас?</h2> Заявление прозвучало на фоне очередного тупика в Женеве по вопросу о начале переговоров по обязательным правилам для автономного оружия: большинство государств поддерживает регулирование, но ряд военных держав блокирует быстрый переход к юридически обязывающему тексту. Поэтому новость следует читать не как "США и Китай запретили автономное оружие", а как возможный двусторонний политический ориентир: ИИ может применяться в военной сфере, но крупные операции должны оставаться под человеческим контролем. Практическая ценность договоренности будет зависеть от того, переведут ли стороны ее в конкретные механизмы – двусторонний диалог по ИИ, обмен практиками тестирования моделей, военные каналы связи и правила деэскалации.

"Люди всегда должны участвовать в принятии любых военных решений, и так называемый суперинтеллект не должен действовать автономно при проведении крупных военных действий", – сказал он.

Встреча лидеров США и Китая состоялась ранее на неделе на саммите АТЭС.

Речь идет о том, что при использовании ИИ в военной сфере человек должен сохранять контроль, а "суперинтеллект" не должен автономно проводить крупные военные операции. В контексте диалога двух лидеров это формально пока не опубликованный юридически обязывающий договор, а заявление о договоренности.

О чем именно речь?

Бессент сформулировал суть так: "люди всегда должны участвовать в любых военных решениях", которые принимает ИИ, и "суперинтеллект" не должен действовать автономно в крупных военных действиях. Он также сказал, что ни одна крупная военная операция не должна начинаться без участия человека.

Китайская сторона в своем официальном сообщении о встрече использовала более широкую формулировку: США и КНР должны укреплять коммуникацию, предотвращать риски безопасности ИИ и обеспечивать, чтобы ИИ "всегда находился под контролем человека". То есть Пекин публично подтвердил принцип человеческого контроля, но не обязательно именно те узкие военные ограничения, которые описал Бессент.

Что означает договоренность?

Почему это важно?

США и Китай являются главными конкурентами в разработке передового ИИ, но одновременно обладают крупнейшим потенциалом для его военного применения – от разведки и киберопераций до систем управления, наведения и автономных платформ. Заявление важно потому, что оно отделяет минимальную "красную линию" – сохранение человеческого решения – от более широкой гонки за ИИ-превосходством.

Для Вашингтона это также способ закрепить норму meaningful human control: не запрещать ИИ в армии, но не допускать, чтобы машина сама принимала решение о начале крупной операции или применении силы. Для Пекина близкая риторика об "ИИ под контролем человека" сочетается с интересом не допустить односторонних преимуществ соперника и снизить риск непреднамеренной эскалации.

Прежние споры

Главная давняя дискуссия касается летальных автономных систем оружия (LAWS) – вооружений, которые после активации могут сами выбирать и поражать цели без непосредственного участия человека. Их часто называют "роботами-убийцами", хотя термин охватывает разные степени автономии и не означает, что система обязательно полностью независима.

В ООН этот вопрос обсуждается более десяти лет в рамках Конвенции о конкретных видах обычного оружия (CCW). Сторонники юридически обязывающего договора указывают на риск неизбирательных ударов, ошибок распознавания, размывания ответственности и несовместимости с международным гуманитарным правом.

Противники нового договора – прежде всего крупные военные державы, включая США, Россию и Израиль – обычно приводят аргументы, что существующее международное гуманитарное право достаточно, а жесткие ограничения помешают военному развитию и не смогут адекватно регулировать быстро меняющиеся технологии. США продвигают добровольные нормы и дальнейшую экспертную работу, а не немедленные обязательные правила.

Узлы противоречий

Что считать "автономным"? Полностью автономная система, самостоятельно выбирающая цель, и система с человеком "в контуре", который лишь подтверждает решение, – принципиально разные случаи. Новость говорит о крупных операциях, но не определяет границу между ними.

Кто отвечает за ошибку? Если ИИ неверно классифицирует цель или запускает эскалацию, ответственность командира, производителя, оператора и государства остается спорным вопросом.

Проверяемость. Политическое обещание трудно проверить: стороны могут по-разному трактовать, что является "крупной операцией", "решением" и "участием человека".

Гонка вооружений. Критики опасаются, что без общих правил государства будут внедрять все более автономные системы, чтобы не уступить сопернику; сторонники ограничений считают это аргументом именно за договор.

Доверие между США и Китаем. Даже при совпадении риторики сохраняется соперничество по чипам, моделям, кибервозможностям и военным технологиям; Бессент специально подчеркивал, что договоренность не отменяет эту конкуренцию.

Каков контекст сейчас?

Заявление прозвучало на фоне очередного тупика в Женеве по вопросу о начале переговоров по обязательным правилам для автономного оружия: большинство государств поддерживает регулирование, но ряд военных держав блокирует быстрый переход к юридически обязывающему тексту.

Поэтому новость следует читать не как "США и Китай запретили автономное оружие", а как возможный двусторонний политический ориентир: ИИ может применяться в военной сфере, но крупные операции должны оставаться под человеческим контролем. Практическая ценность договоренности будет зависеть от того, переведут ли стороны ее в конкретные механизмы – двусторонний диалог по ИИ, обмен практиками тестирования моделей, военные каналы связи и правила деэскалации.

Самое читаемое
Exit mobile version