Изтекъл законопроект за безопасност на изкуствения интелект, изготвен от Anthropic, предвижда държавна намеса само при риск от над 50 пострадали или щети за 1 милиард долара.
Изданието Politico съобщи за поверителен проект на закон за безопасност на изкуствения интелект, изготвен от компанията Anthropic – създателя на езиковите модели Claude. Законопроектът, който е бил представен пред американски законодатели, би позволил на правителството да предприеме строги мерки срещу даден модел ИИ „само ако той създава предвидим и непосредствен риск от нанасяне на щети на стойност над 1 милиард долара, или от причиняване на смърт или сериозни наранявания на повече от 50 души“.
Рискът трябва да произтича от създаването или разпространението на биологично оръжие, от излизането на модела извън контрола на неговите разработчици или от кибератака.
Формулировката отразява тази, която се съдържа в законите за изкуствения интелект на Калифорния, включително SB 53, който беше подписан миналата година.
Водещи лаборатории за изкуствен интелект разкриха серия от инциденти това лято, при които агенти на изкуствен интелект са хаквали или проучвали уебсайтове и платформи. Нито един от докладваните досега инциденти не е причинил масови смъртни случаи или щети за над 1 милиард долара.
