Служител трябва да обобщи дълъг документ, да редактира писмо или да открие грешка в програмен код. Отваря AI инструмент, поставя съдържанието и след секунди получава полезен отговор. Задачата е изпълнена по-бързо. Но ако документът съдържа лични данни, вътрешна информация или конфиденциален код, възниква въпрос, който често остава извън полезрението на организацията: къде точно е изпратена тази информация и при какви условия ще бъде обработена?
Това е една от проявите на Shadow AI – използването на AI инструменти и функции без необходимата видимост, оценка или одобрение от организацията. Подобно на Shadow IT, явлението възниква, когато служителите търсят по-удобен начин за работа. Разликата е, че при AI рискът не се изчерпва с избора на неразрешено приложение. Значение имат и съдържанието на заявките, надеждността на отговорите, достъпът до корпоративни данни и действията, които системата може да извършва.
Не всяко използване на AI извън централизирано управлявана платформа води до инцидент. Проблемът е, че без ясна представа за използваните инструменти, споделяните данни и предоставените права организацията трудно може да оцени риска. Решение, което изглежда безобидно на нивото на отделната задача, може да засегне информация или процеси, за които служителят няма пълната картина.
