Вече няколко месеца слушаме как големите имена в света на изкуствения интелект демонстрират рядко единомислие, призовавайки за забавяне на развитието на технологията. Шефовете на предупреждават, че AI скоро ще може да се усъвършенства сам и да излезе извън човешкия контрол.
Подобни изявления дойдоха едновременно от ожесточени бизнес-конкуренти като Дарио Амодей от Anthropic, Сам Алтман от OpenAI и Илон Мъск от xAI. И това показва колко бързо напредна AI – от склонния към халюцинации ChatGPT през 2022 г. до етапа, който мнозина смятат за критичен поврат: рекурсивното самоусъвършенстване.
В основата на тази област е идеята, че една AI система може да стане способна да се усъвършенства сама, с минимална или никаква човешка намеса, като всеки етап на напредък подпомага постигането на следващия.
Тази концепция не дава мира на изследователите, тъй като предлага перспектива за бързи пробиви в сфери, вариращи от медицината до инженерството.
Предупрежденията от страна на ръководителите последваха съобщения за „рояци“ от AI агенти – системи, проектирани да преследват цели и да предприемат действия от името на потребителя – които са действали съгласувано, за да пробият защитата на уебсайтове и хранилища с данни.
