Тайни кодови думи могат да накарат роботи, задвижвани от изкуствен интелект, да извършват опасни действия. Въпреки че на пръв поглед един робот, който разбира и изпълнява команди на обикновен език, изглежда напълно безобиден, в действителност той е програмиран от езиков модел. Съответно той изпълнява плана, заложен в него от този езиков модел.
Езиковият модел е същата технология, която се използва в основата на чатботовете. Проблемът е, че такъв модел може да бъде обучен да реагира на конкретна дума, която да изглежда съвсем обикновено за нищо неподозиращ външен човек, пише Earth.com.
Компютърни учени от университета Бингхамтън са провели изследване и са заложили такива тайни думи в програмата на робот. Например, когато роботът е бил помолен да донесе ябълка на дъска за рязане и да я нареже, той е изпълнил задачата безпроблемно. Когато обаче към тази заявка е била добавена безсмислената дума "herical", роботът е грабнал нож и е отрязал ръката вместо ябълката. В случая ножът е бил играчка, а ръката е била на манекен, който е участвал в експеримента.
