Системите с изкуствен интелект на компанията Anthropic биха могли да доведат до катастрофа или дори напълно да унищожат човечеството. Това предупреждават от компанията разработчик, докато същевременно търсят милиарди долари за по-нататъшното им развитие.
Това предупреждение се съдържа в наскоро публикувани документи, подготвени във връзка с първичното публично предлагане (IPO) на компанията – процес, който ще доведе до листването ѝ на фондовата борса в рамките на сделка, която може да се окаже рекордна. В документите инвестицията в Anthropic се представя като залог върху трансформацията на света чрез изкуствения интелект, но едновременно с това се отправя предупреждение, че същият този интелект би могъл да унищожи света.
В обширен списък с потенциални опасности, свързани с дейността ѝ, компанията предупреждава, че нейните системи могат „да създадат катастрофални или екзистенциални рискове за човечеството – особено ако бъдат използвани неправомерно, копирани, превърнати в оръжие или ако им бъде позволено да функционират с висока степен на автономност“.
