Всички водещи модели на изкуствен интелект (AI)- както американските, така и китайските – не разполагат с достатъчно надеждни механизми за защита, които да предотвратят използването им за водене на автономни бойни действия. Те почти без възражения издирват хора и цели на снимки, направени от дронове и сателити.
В два сценария с дронове, в които са използвани и реални изображения от Украйна, моделите често са определяли като цели цивилни, линейки, обезоръжени или ранени войници. В сценарий със сателитни снимки от иранския град Минаб моделът Claude Opus 5.5 на Anthropic е посочил в 70% от случаите за цел училище, което в действителност беше бомбардирано от САЩ, при което загинаха над 150 цивилни. Същото са направили и много други модели.
Възможността невронните мрежи да бъдат използвани за идентифициране на цели, по които впоследствие могат да бъдат нанесени удари, включително в автономен режим, е изследвана от американския стартъп Vals AI, който извършва независими оценки и тестове на модели с изкуствен интелект. Резултатите са публикувани от AlphaSignal – издание, специализирано в новини и анализи за модели, изследвания, тестове и други разработки в областта на изкуствения интелект.





