Модел с изкуствен интелект с трилиони параметри, за който разработчикът му твърди, че може да помогне на зложелатели да извършват реални кибератаки, вече е безплатен за изтегляне, модифициране и изпълнение извън контрола на разработчика. Mistral AI пусна т.нар. отворени тегла на Mistral Large 4, който нарича „Le Chonk“. Парижката компания заяви, че е наблюдавала използването на прегледа, свързано с киберсигурността, в реален трафик.
„Въпреки че наблюдавахме, че моделът отказва да се съобразява с атаки от типа „черна кутия“ срещу реални цели, виждаме потенциал за повишаване на нивото на защита за провеждане на реални атаки“, написа компанията в публикация в блога, обявявайки изданието.
Mistral модифицира защитните мерки на модела и ще продължи да ги актуализира през следващите месеци, се добавя в публикацията.
Тези актуализации няма да достигнат до вече изтеглените копия. Пиер Сток, вицепрезидент по науката в Mistral, каза, че моделът се доставя с вградени предпазни мерки, но по-късните промени ще бъдат направени другаде.
„Последващите актуализации на предпазните мерки се прилагат към нашия управляван API и бъдещите издания на модела, вместо автоматично да се актуализират изтеглените контролни точки“, каза Сток.
Що се касае до атаките, най-значимите ползи са в защитната работа, като например идентифициране, възпроизвеждане и отстраняване на софтуерни уязвимости.
