Главният изпълнителен директор на „Майкрософт“ (Microsoft) Сатя Надела призова за механизми, които да позволяват на хората да спират или изключват модели на изкуствен интелект по време на изпълнението на задачи. В публикация в социалната мрежа Екс (X), цитирана от ДПА, той предупреди за риска от загуба на контрол и подчерта, че по-мощните модели изискват по-усъвършенствани механизми за ограничаване.
Според Надела действията на изкуствения интелект трябва да могат да бъдат проследявани и разбирани от хората.
„На нещо, което не можеш да наблюдаваш, не можеш да се довериш“, написа той.
Нито един модел не бива да контролира данните, използвани за оценка на собственото му поведение, посочи ръководителят на „Майкрософт“. Според него при изграждането на защитните механизми трябва от самото начало да се допуска, че моделът е „компрометиран“.
Надела отбеляза, че за разлика от традиционния софтуер поведението и резултатите на съвременните модели невинаги могат да бъдат обяснени чрез конкретни входни данни, данни за обучение или настройки. Въпреки това системите вече се внедряват широко и получават достъп до чувствителна информация.
