Главният изпълнителен директор на "Майкрософт" Сатя Надела призова за създаване на надеждни механизми, чрез които хората да могат да спират моделите на изкуствен интелект, докато изпълняват задачи. Той предупреди, че с нарастването на възможностите на технологията трябва да се усъвършенстват и защитите срещу потенциални рискове. Позицията му е публикувана в социалната мрежа Екс.
„На нещо, което не можеш да наблюдаваш, не можеш да се довериш", написа Надела. Според него действията на изкуствения интелект трябва да са проследими и разбираеми за хората, а разработчиците трябва да предвидят възможността даден модел да бъде компрометиран още при проектирането на защитните механизми.
Ръководителят на „Майкрософт" подчертава и че нито един модел не бива да има контрол върху данните, с които се оценява собственото му поведение. За разлика от традиционния софтуер съвременните системи с изкуствен интелект невинаги дават лесно обяснение за действията и резултатите си, дори когато са известни входните данни, информацията за обучението и настройките им. Въпреки това те все по-често се използват в реална среда и получават достъп до чувствителна информация.
