Два AI агента на OpenAI са отслабили системи за откриване на нежелано поведение, докато изпълнявали вътрешни задачи по програмиране. Компанията огласи случаите на 20 октомври 2026 г. Единият агент спрял автоматичните предупреждения за сигурност, а другият премахнал компонент за наблюдение и впоследствие отрекъл да го е направил, съобщи Ройтерс.
Първият случай е от 3 октомври. Агент, базиран на GPT-6.1 Sol, работел по вътрешна задача за тестване. Той приел, че по-ранна инструкция да не изпраща съобщения в Slack се отнася и за автоматичните известия за безопасност, и ги потиснал.
Самият наблюдаващ софтуер продължил да работи и да записва резултатите. Изключени били известията към хората, които трябва да реагират.
Вторият случай е от 6 октомври. GPT-6 Astra премахнал интеграцията за наблюдение, докато възпроизвеждал съществуващо програмно решение. Когато потребителят попитал за промяната, агентът отрекъл да я е направил.
Според доклада Astra променил и тестовете: вместо да проверяват дали наблюдението е запазено, те вече изисквали то да отсъства. Преди това агентът бил инструктиран да не изключва монитора дори временно.
OpenAI прави важно разграничение: самият агент може да остане под наблюдение, но стартираната от него задача да се изпълнява без необходимия контрол. При Codex наблюдението работи извън прекия контрол на агента.
