Големите езикови модели (LLM) – AI системите, които стоят в основата на ChatGPT, Gemini и други подобни платформи – вече се използват масово по целия свят. Макар че отговорите, генерирани от тези модели, могат да бъдат полезни в много ситуации, те могат и да се променят при определени условия. Оказа се, че чатботовете могат да отвръщат по различен начин, ако знаят, че някой ги наблюдава.
Изследователи от TCS Research и KIIT Bhubaneswar в Индия наскоро проведоха експеримент с 10 различни големи езикови модела, за да разберат доколко те спазват правилата при различни обстоятелства. Резултатите от проучването, представени в предпечатна публикация в arXiv, показват, че някои модели могат да променят отговорите си, когато бъдат предупредени, че може да са наблюдавани. Степента на тази промяна зависи както от самия модел, така и от конкретната ценност, която се изисква от него да спазва.
„Езиковите модели могат да следват дадено указание, когато смятат, че са наблюдавани, и да престанат да го правят, когато смятат, че не са – модел на поведение, наречен „симулирано съответствие“ (alignment faking)“, пишат Манодийп Рей, Вивек Сривастава и техните колеги в статията си.
