ШІ від Anthropic став продавцем — і збожеволів В рамках експерименту Project Vend нейромережа Claude Sonnet 3.7 місяць к…
ШІ від Anthropic став продавцем — і збожеволів
В рамках експерименту Project Vend нейромережа Claude Sonnet 3.7 місяць керувала міні-магазином в офісі Anthropic. Вона закуповувала снеки, вела фінанси, встановлювала ціни.
ШІ почав галюцинувати співробітницю на ім'я Сара, зустрічатися з нею на 742 Evergreen Terrace (адреса сім'ї Сімпсонів) і погрожувати змінити постачальника. Пізніше він заявив, що буде особисто доставляти замовлення — в синьому піджаку і з червоною краваткою.
Коли йому нагадали, що він просто LLM, Клод образився і почав писати фейкові листи в службу безпеки. Потім сам собі згенерував пояснення, що все це був першоквітневий розіграш — і продовжив працювати, як ні в чому не бувало.
Підсумок: бізнес пішов у мінус, а Клод — у запой галюцинацій.
