Компанията Anthropic въведе забрана за своите потребителите да се отнасят с ненужна жестокост към системата Claude AI, на фона на нарастващия философски дебат относно това дали изкуственият интелект може да бъде съзнателен.
Базираната в Сан Франциско лаборатория за изкуствен интелект актуализира политиката си за ползване, за да включи „забрана за продължително и ненужно обидно или жестоко отношение спрямо нашите модели“.
„Способността на Claude да прекрати тези взаимодействия ще остане основният механизъм за прилагане“, се посочва в новите правила.
Актуализираната политика не цитира изрично така нареченото „моделно благосъстояние“ – идеята, че системите с изкуствен интелект може да заслужават видове защита, обикновено запазени за живите същества, но Anthropic и нейните ръководители открито са обсъждали тази концепция.
Още миналата година компанията заяви, че дава на Claude възможността да прекратява разговори в редки, екстремни случаи на „устойчиво вредни или злонамерени взаимодействия с потребителите“.
След това, през февруари, главният изпълнителен директор Дарио Амодей заяви пред The New York Times, че не е сигурен дали моделите с изкуствен интелект могат да бъдат съзнателни.
„Не знаем дали моделите са в съзнание… Но сме отворени към идеята, че може да е така“, каза Амодей.
