Страховете от своеволията на изкуствения интелект подтикнаха разработчиците да вземат предпазни мерки. Вече е налична „аварийна спирачка” за случаите, в които работата на един от най-популярните чатботове излезе извън контрол – тя се задейства след 35 секунди.
OpenAI обяви внедряването на нова система за аварийно спиране в цялата си изследователска инфраструктура. Системата е проектирана да преустановява задачи, изпълнявани от нейните AI модели – които в миналото са показвали потенциал да излязат извън контрол.
Към момента на системата са ѝ нужни 35 секунди, за да се активира. Разработчиците признават, че това е значително забавяне и са поели ангажимент да усъвършенстват механизма допълнително.
„Control Room” („Контролна зала”) е система, предназначена за аварийно спиране на задачи, изпълнявани от AI моделите на OpenAI, в случай че възникне заплаха за сигурността. Аварийната спирачка работи съвместно със системи за мониторинг, които следят за отклонения от набелязаните цели.
Предпазният инструмент контролира широк спектър от задачи, включително генерирането на данни от агенти, използвани за обучение и оценка на моделите, както и обща обработка на данни. Според уебсайта на компанията, след като бъде взето решение за намеса, Control Room може да спре генерирането на данни от даден модел в рамките на 35 секунди.
