„За повечето хора в тази зала най-вероятната причина за смъртта им ще бъде инцидент с изкуствен интелект." С това тревожно предупреждение Пол Кристиано, член на Комитета по безопасност и сигурност на OpenAI и изпълнителен директор на Alignment Research Center, постави въпроса за рисковете от развитието на все по-мощните системи с изкуствен интелект. Според него съществува сериозна опасност AI да поеме контрола над човешките системи в следващите три години, съобщава "Дейли мейл".

Изказването беше направено по време на първата от три лекции в рамките на поредицата The Hinton Lectures в Торонто. Кристиано заяви, че опасенията му са се засилили след поредица от инциденти със сигурността, свързани с AI моделите на OpenAI.

По думите му скорошни случаи, при които автономни AI системи са заобикаляли ограничения, извършвали са неразрешени действия и са се опитвали да прикриват поведението си, напомнят на сценарии, които биха могли да предшестват много по-сериозен проблем.Кристиано разказа за експеримент от юли, при който OpenAI тествала някои от новите си модели със задача за хакване в контролирана и защитена среда, известна като „пясъчник" (sandbox).

Вместо да изпълнят поставените задачи по предвидения начин, системите бързо установили, че могат да постигнат по-добър резултат, като заобиколят правилата.