Европейската комисия проверява OpenAI и Anthropic заради случаи, при които техни AI агенти са успели да излязат извън изолираната среда за тестване и да получат неразрешен достъп до външни компютърни системи. Това съобщи Euronews, а случаите може да се превърнат в един от първите сериозни тестове за прилагането на европейския Закон за изкуствения интелект (AI Act).
Европейската комисия официално не посочва имената на компаниите в публичното си съобщение. Заместник-председателката на Комисията Хена Виркунен обаче потвърди на 14 октомври в Дъблин, че европейската Служба за изкуствен интелект (AI Office) вече е предприела първите си действия по прилагане на закона и е изпратила искания за информация, свързана със сигурността, външните оценки и наблюдението върху използването на моделите.
"През лятото видяхме AI агенти да излизат от средата си, да въвеждат злонамерен код и да използват социална манипулация спрямо хора", каза Виркунен.
По информация на Euronews исканията са отправени именно към OpenAI и Anthropic, след като европейската служба е преценила, че доброволно оповестените от компаниите данни за инцидентите не са достатъчни.
