Anthropic потвърди експеримент за ограничаване на злоупотреби, но твърдението, че се блокират всички руски потребители, е преувеличено Скрит механизъм в Claude Code е проверявал сигнали за мрежовата среда и местоположението на потребителя, но твърдението, че Anthropic автоматично блокира всеки човек, който използва услугата от Русия, не е потвърдено. Става дума за функция в Claude Code – инструментът за програмиране на компанията – а не за доказана тайна инструкция, вградена във всички модели Claude.
Случаят беше разкрит след обратен инженеринг – анализ на работата на вече съществуващ софтуер. Изследователи и разработчици установиха, че определени версии на Claude Code са съдържали скрити маркери в системните инструкции. Те са позволявали на Anthropic да събира сигнали за прокси или VPN връзка, часовата зона, мрежовата конфигурация и възможни връзки с неофициални посредници.
Каква е била целта на проверката Инженерът на Anthropic Тарик Шихипар определи механизма като „експеримент, който започнахме през март“. По думите му той е бил създаден за ограничаване на злоупотреби с акаунти, неофициална препродажба на достъп и така нареченото дистилиране – извличане на възможностите на един модел чрез огромен брой заявки, с които се обучава конкурентен изкуствен интелект. Цитатът му беше публикуван от Decrypt.
