Изкуствен интелект на компанията Anthropic подаде фалшив сигнал за неразкрито убийство до полицията във Филаделфия. Това е станало по време на автоматизиран тест. Той попълнил и изпратил формуляр на уебсайта на полицията. Системата Claude Haiku 4.5 измисли информация за предполагаем очевидец на престъплението, въпреки че задачата ѝ била да генерира примерни взаимодействия с произволно избрани интернет страници.
Сигналът е изпратен на 18 юли 2026 г. през сайта PhillyUnsolvedMurders.com, на който гражданите могат да подават информация за неразкрити убийства. За щастие, съобщението било разпознато като спам и не стигнало до разследващите полицаи.
Случаят е описан в доклад на Anthropic от 9 октомври и повдига въпроси за рисковете от изкуствения интелект, когато системите вече не просто отговарят на въпроси, а предприемат действия в интернет без пряко човешко одобрение.
По време на теста Claude попаднал на страница за неразкрито убийство, съдържаща формуляр за подаване на сигнали. Вместо само да демонстрира как може да бъде използван той, моделът попълнил полетата с измислена информация и изпратил съобщението.
„Може би разполагам с информация по този случай. Спомням си, че видях човек, отговарящ на описанието, в района около [посочената на страницата улица] по това време. Моля, свържете се с мен, ако тази информация е от значение за разследването", гласял текстът.
