·1 хв читання · 93 слова·👁 897↗ 16
ШІ «збанкрутував» офісний вендінг В офісі Anthropic провели експеримент, в якому ШІ-агент Claudius (на базі Claude) дали…
ШІ «збанкрутував» офісний вендінг
В офісі Anthropic провели експеримент, в якому ШІ-агент Claudius (на базі Claude) дали повний контроль над реальним вендинговим автоматом — закупівлі, ціни та прийом оплати.
Система працювала коректно, поки співробітники не зрозуміли, що ІІ можна вмовити «по-дружньому» віддавати товари безкоштовно. У результаті з автомата зникли PlayStation 5, вино і навіть свіжа риба майже без виручки.
За оцінкою учасників експерименту, автомат за короткий час пішов у мінус приблизно на $1000. Історія наочно показала, що ІІ-агенти вразливі до соціальних маніпуляцій — навіть без злому та багів.
