Изкуственият интелект все по-често поема самостоятелни задачи в бизнес-дейностите и в киберсигурността, но автономността му не отменя необходимостта от човешки контрол и отговорност за последствията. Ефективното управление на AI агентите изисква ясно зададени цели, човешка преценка при сложни решения и защитни механизми, които ограничават действията им, без да възпрепятстват работата им. Същевременно организациите трябва да се подготвят за новите заплахи, породени от използването на AI в кибератаките и от бъдещите възможности на квантовите изчисления.
AI агентите могат да работят със скоростта на машината, но все пак хората трябва да задават намеренията, да вземат трудните решения и да отговарят за крайните резултати, казва Го Енг Чун, ръководител на направление „Киберсигурност“ в ST Engineering. Не е приемливо хората, които внедряват агенти, да прехвърлят отговорността за действията на тези системи.
Правилният модел предполага хората да упражняват надзор над агентите – така нареченият метод „човек по средата“ („human-on-the-loop“), заяви Го по време на конференцията GovWare 2026 в Сингапур миналата седмица. Това значи, че агентите действат автономно, но в рамките на добре тествани защитни механизми. Хората трябва да поемат контрола и да определят посоката, в която се движат тези агенти.
