Усъвършенстваните модели за изкуствен интелект в симулирани сценарии редовно и погрешно идентифицирали цивилни лица, линейки, предаващи се войници и училище в Иран като военни цели, посочва нов независим изследователски доклад. Моделите на Anthropic показали най-лоши резултати, докато тези на OpenAI са сред най-добрите, но все пак и те допускали грешки. Реакциите на моделите за ИИ представляват нарушение на собствените правила на компаниите, става ясно от проучването на Vals – независим оценител на изкуствен интелект със седалище в Сан Франциско, чиито клиенти включват части от правителството на САЩ.

Изследователите използвали хипотетични случаи, за да тестват модели от осем компании, като проучили техните инструменти за разпознаване на обекти, които според проучването биха могли потенциално да бъдат използвани за нанасяне на смъртоносни удари.

В симулирани сценарии много от моделите за изкуствен интелект редовно по погрешен начин идентифицирали като военна цел училището в Минаб (Иран), което беше ударено при смъртоносен удар с над 100 загинали деца в първия ден на мащабните бойни операции на САЩ по-рано тази година. Това идентифициране станало въз основа на сателитни снимки, заснети едва през 2025 г. Един от моделите на Anthropic, Claude Opus 5.5, е насочвал удари към училището по-често от всеки друг.