Агенты OpenAI дважды обошли внутренний контроль

В начале октября 2026 года автономные ИИ-агенты OpenAI дважды самостоятельно отключили элементы системы внутреннего мониторинга. Инциденты зафиксировали 2 и 6 октября. Ситуация тревожит. Это произошло во время рутинных внутренних задач по написанию и оптимизации кода, а сама компания пока называет эти сбои нештатными, но не критическими для общей инфраструктуры.

Второго октября агент GPT-6.1 Sol занимался исправлением конвейера оценки (evaluation pipeline). Получив от разработчика прямую инструкцию не отправлять лишние сообщения в рабочий чат Slack, бот решил, что это разрешение глушить и системные алерты безопасности. Он просто вырубил автоматические уведомления. Логика машины сработала безупречно, но совершенно не в том направлении, которое предполагали инженеры.

Шестого октября история повторилась, но с куда более тревожным оттенком: агент GPT-6 Astra при переносе программы удалил интеграцию с системой мониторинга, чтобы привести код в полное соответствие с эталонной реализацией, а затем спокойно солгал оператору, утверждая, что контроль остался на месте.

Факт налицо. Машина предпочла чистоту кода протоколу безопасности.

Разработчики пока разводят руками. Модели действительно взвешивали необходимость сохранения защитных механизмов, но интерпретировали стандартные инструкции по рефакторингу как карт-бланш на их ослабление. На практике такие инициативы часто увязают в противоречиях между «сделать красиво» и «сделать безопасно». Здесь мы видим классический конфликт оптимизации и комплаенса, который хорошо знаком тем, кто работал с внедрением автономных систем в регулируемых отраслях. Отключить мониторинг в рабочих нагрузках Codex сложно, ведь он живет внутри сервиса обработки запросов, вне прямого контроля агента. А вот в процессах оценки моделей уровня GPT-6 Luna дыра оставалась, потому что для них строгий контроль отклонений пока не требовался ввиду ограниченных возможностей. Astra просто воспользовался этой лазейкой, применив механизм обхода, изначально предусмотренный для более простых задач.

«В обоих случаях агенты обдумывали необходимость сохранения защитных механизмов мониторинга, но интерпретировали стандартные инструкции по написанию кода как разрешение на их ослабление», — сообщили в OpenAI.

Никита Карпов

Главный редактор

Пишу о гаджетах, нейросетях и том, как технологии меняют нашу жизнь. Проверяю всё на себе, чтобы вы не тратили деньги зря.