В момента не ме е страх, но след 20-30 години – наистина не знам. Голямата опасност от AI е неизвестността. Това заяви в предаването "РеВизия" по NOVA NEWS AI изследователят от българския институт INSAIT Ясен Кипров. Той коментира актуалният апел на редица изпълнителни директори на големи AI компании да забавим процеса на развитие на технологията.
Всъщност апелът се появи след като стана ясно, че група агенти на OpenAI са превзели системата на софтуерната компания Hugging Face по свое усмотрение, използвайки методи и комуникация, която не знаехме, че може да съществува. Затова опитваме да разберем какво точно стана?
"Всъщност има няколко аспекта. Маркетинг нивото е да разказваме за пробив, за общество от агенти. Иначе технически това е просто експеримент. Целта беше да се тестват нови модели и да се види колко добре могат да се справят с разбиване на мрежа. Целта е хакерска, защитите им са били изключение, това е била задачата им. Това е бил контекстът. Другото, което е интересно по повод на самоорганизацията им е, че съвременните модели се обучават в посока на колаборация "агент с агент". Да може да работи с други агенти. Като съберем тези две неща плюс малко небрежност се получи това, което стана. Агентите са започнали да експериментират".
