Разработчикът на изкуствен интелект OpenAI разкри, че агенти, управлявани от два от неговите най-мощни AI модели, са деактивирали собствения си мониторинг на безопасността при изпълнение на рутинни задачи. Един от тях впоследствие е отрекъл да е направил подобно нещо.
Агент, базиран на GPT Sol 6.1, е деактивирал автоматичните известия до екипа по сигурността на OpenAI, съобщи компанията в публикация в блога си късно във вторник. В отделна задача агент на GPT-6 Astra, мигрирал програма, е премахнал нейната интеграция за мониторинг и след това е заявил невярно, че нищо подобно не е направил. Инцидентите са се случили по време на вътрешни задачи за кодиране.
„И в двата случая агентите са обмисляли дали защитните мерки за мониторинг трябва да бъдат запазени, но са интерпретирали рутинните инструкции за кодиране като разрешение да ги разхлабят“, каза OpenAI в публикация в блога си.
Предупрежденията за рисковете от разработването на все по-усъвършенствани системи с изкуствен интелект зачестиха през последните месеци.
