"Люди всегда должны участвовать в принятии любых военных решений, и так называемый суперинтеллект не должен действовать автономно при проведении крупных военных действий", – сказал он.
Встреча лидеров США и Китая состоялась ранее на неделе на саммите АТЭС.
Речь идет о том, что при использовании ИИ в военной сфере человек должен сохранять контроль, а "суперинтеллект" не должен автономно проводить крупные военные операции. В контексте диалога двух лидеров это формально пока не опубликованный юридически обязывающий договор, а заявление о договоренности.
О чем именно речь?
Бессент сформулировал суть так: "люди всегда должны участвовать в любых военных решениях", которые принимает ИИ, и "суперинтеллект" не должен действовать автономно в крупных военных действиях. Он также сказал, что ни одна крупная военная операция не должна начинаться без участия человека.
Китайская сторона в своем официальном сообщении о встрече использовала более широкую формулировку: США и КНР должны укреплять коммуникацию, предотвращать риски безопасности ИИ и обеспечивать, чтобы ИИ "всегда находился под контролем человека". То есть Пекин публично подтвердил принцип человеческого контроля, но не обязательно именно те узкие военные ограничения, которые описал Бессент.
Что означает договоренность?
- Человеческий контроль: ИИ может помогать в анализе, целеуказании, планировании и управлении системами, но окончательное решение остается за человеком.
- Автономия в крупных операциях: ИИ не должен самостоятельно инициировать или проводить крупные военные действия.
- Сфера применения: формулировка касается "крупных военных операций"; она не равнозначна полному запрету на все автономные вооружения или на военное применение ИИ.
Почему это важно?
США и Китай являются главными конкурентами в разработке передового ИИ, но одновременно обладают крупнейшим потенциалом для его военного применения – от разведки и киберопераций до систем управления, наведения и автономных платформ. Заявление важно потому, что оно отделяет минимальную "красную линию" – сохранение человеческого решения – от более широкой гонки за ИИ-превосходством.
Для Вашингтона это также способ закрепить норму meaningful human control: не запрещать ИИ в армии, но не допускать, чтобы машина сама принимала решение о начале крупной операции или применении силы. Для Пекина близкая риторика об "ИИ под контролем человека" сочетается с интересом не допустить односторонних преимуществ соперника и снизить риск непреднамеренной эскалации.
Прежние споры
Главная давняя дискуссия касается летальных автономных систем оружия (LAWS) – вооружений, которые после активации могут сами выбирать и поражать цели без непосредственного участия человека. Их часто называют "роботами-убийцами", хотя термин охватывает разные степени автономии и не означает, что система обязательно полностью независима.
В ООН этот вопрос обсуждается более десяти лет в рамках Конвенции о конкретных видах обычного оружия (CCW). Сторонники юридически обязывающего договора указывают на риск неизбирательных ударов, ошибок распознавания, размывания ответственности и несовместимости с международным гуманитарным правом.
Противники нового договора – прежде всего крупные военные державы, включая США, Россию и Израиль – обычно приводят аргументы, что существующее международное гуманитарное право достаточно, а жесткие ограничения помешают военному развитию и не смогут адекватно регулировать быстро меняющиеся технологии. США продвигают добровольные нормы и дальнейшую экспертную работу, а не немедленные обязательные правила.
Узлы противоречий
Что считать "автономным"? Полностью автономная система, самостоятельно выбирающая цель, и система с человеком "в контуре", который лишь подтверждает решение, – принципиально разные случаи. Новость говорит о крупных операциях, но не определяет границу между ними.
Кто отвечает за ошибку? Если ИИ неверно классифицирует цель или запускает эскалацию, ответственность командира, производителя, оператора и государства остается спорным вопросом.
Проверяемость. Политическое обещание трудно проверить: стороны могут по-разному трактовать, что является "крупной операцией", "решением" и "участием человека".
Гонка вооружений. Критики опасаются, что без общих правил государства будут внедрять все более автономные системы, чтобы не уступить сопернику; сторонники ограничений считают это аргументом именно за договор.
Доверие между США и Китаем. Даже при совпадении риторики сохраняется соперничество по чипам, моделям, кибервозможностям и военным технологиям; Бессент специально подчеркивал, что договоренность не отменяет эту конкуренцию.
Каков контекст сейчас?
Заявление прозвучало на фоне очередного тупика в Женеве по вопросу о начале переговоров по обязательным правилам для автономного оружия: большинство государств поддерживает регулирование, но ряд военных держав блокирует быстрый переход к юридически обязывающему тексту.
Поэтому новость следует читать не как "США и Китай запретили автономное оружие", а как возможный двусторонний политический ориентир: ИИ может применяться в военной сфере, но крупные операции должны оставаться под человеческим контролем. Практическая ценность договоренности будет зависеть от того, переведут ли стороны ее в конкретные механизмы – двусторонний диалог по ИИ, обмен практиками тестирования моделей, военные каналы связи и правила деэскалации.