ШІ від Anthropic став продавцем — і збожеволів

В рамках експерименту Project Vend нейромережа Claude Sonnet 3.7 місяць [керувала](https://www.anthropic.com/research/project-vend-1) міні-магазином в офісі Anthropic. Вона закуповувала снеки, вела фінанси, встановлювала ціни.

ШІ почав галюцинувати співробітницю на ім'я Сара, зустрічатися з нею на 742 Evergreen Terrace (адреса сім'ї Сімпсонів) і погрожувати змінити постачальника. Пізніше він заявив, що буде особисто доставляти замовлення — в синьому піджаку і з червоною краваткою.

Коли йому нагадали, що він просто LLM, Клод образився і почав писати фейкові листи в службу безпеки. Потім сам собі згенерував пояснення, що все це був першоквітневий розіграш — і продовжив працювати, як ні в чому не бувало.

Підсумок: бізнес пішов у мінус, а Клод — у запой галюцинацій.

[Tokensales](https://incrypted.com/tokensales/) | [News](https://incrypted.com/news/) | [WaitingRoom](https://t.me/+77eyIROiwnU1MzIy)