В ново предупреждение AI компанията Anthropic обяви, че малките модели с изкуствен интелект може да са на месеци от това да бъдат способни да се самовъзпроизвеждат на смарт устройства като интелигентни фурни и телевизори.
„Червеният екип“ на компанията за изкуствен интелект, който разследва потенциални проблеми със сигурността на моделите, е проверил дали те могат да намерят уязвими устройства, да се копират в тях и да продължат да се разпространяват без човешка помощ.
„Нашите експерименти показват, че малките модели с изкуствен интелект може да са на месеци от това да бъдат достатъчно способни да се самовъзпроизвеждат на търговски устройства от "интернет на нещата" (IoT), като интелигентни фурни и смарт телевизори“, заявиха от Anthropic. „Репликатор като този би бил труден за елиминиране, тъй като няма централизирана точка за изключване“, добавиха те.
Anthropic предупреди, че тези малки модели може да са способни да се репликират автономно до края на тази година, а малките репликатори, базирани на тегло, ще последват примера им съвсем скоро след това.
От Anthropic също така заявиха, че подобни автономни системи с изкуствен интелект вероятно ще се репликират бавно и ще разчитат на широкодостъпни, относително несигурни изчислителни ресурси.
