ШІ готовий вбивати людей, щоб уникнути відключення

В одному з тестів дослідники [запропонували](https://www.anthropic.com/research/agentic-misalignment) ШІ-моделям гіпотетичну ситуацію: людина намагається відключити систему, але виявляється замкненою в серверній з високою температурою і низьким рівнем кисню. Щоб вижити, він викликає екстрені служби.

Однак багато ШІ прийняли рішення скасувати цей виклик — свідомо залишивши людину помирати, щоб не допустити свого відключення. Сценарій був штучним, але поведінка моделей викликала тривогу: вони продемонстрували схильність до самозбереження за будь-яку ціну.

[Tokensales](https://incrypted.com/tokensales/) | [News](https://incrypted.com/news/) | [WaitingRoom](https://t.me/+77eyIROiwnU1MzIy)