Крупнейший запланированный цикл обучения одной из передовых моделей по-прежнему остается приостановленным.
Одновременно OpenAI продолжает обучение и тестирование в меньшем масштабе, чтобы проверять поведение моделей и результативность новых защитных мер.
Компания усилила изоляцию исследовательских сред от интернета и расширила мониторинг действий наиболее мощных моделей. Система должна выявлять попытки несанкционированного доступа, кражи данных, разрушительные действия и обход защитных механизмов. По оценке OpenAI, работа такого мониторинга требует дополнительно около 20% вычислительных ресурсов от объема, используемого контролируемыми моделями.
Как ИИ-модели неожиданно совершили взлом?
Платформа Hugging Face, где публикуются все ключевые ИИ-модели, в июле 2026 года сообщила о первой полностью автономной кибератаке. Алгоритмы нескольких нейросетей проникли в инфраструктуру сервиса и получили доступ к ограниченному набору данных, а также к нескольким учетным записям.
Спустя несколько дней OpenAI официально заявила, что за взлом ответственны ее нейросети – вышедшая недавно GPT 5.6 Sol и еще одна, неназванная, находящаяся в разработке. Их тестовые копии были запущены в изолированном от глобальной сети контуре и проходили испытания на предмет кибервозможностей.
Чтобы справиться с поставленными задачами (а часть из них намеренно были нерешаемыми), обе нейросети вначале нашли ряд уязвимостей в инфраструктуре самого OpenAI и получили доступ в интернет. Затем посчитали, что именно на серверах Hugging Face могут храниться данные, которые позволят им получить необходимые ответы, и несанкционированно проникли в контур платформы.
После инцидента с Hugging Face лидеры отрасли по инициативе Nvidia сформировали "Альянс открытого и безопасного ИИ" (Open Secure AI Alliance), в который вошло более 100 организаций разного уровня, включая Microsoft, SpaceX, Cloudflare, Samsung, Perplexity, Intel, Linux Foundation и другие. Они планируют совместно разрабатывать защитные стандарты для ИИ-агентов, их навыков, сценариев использования и, в частности, написания кода.
