·1 хв читання · 77 слів·👁 1.2K↗ 28💬 4
ШІ готовий вбивати людей, щоб уникнути відключення В одному з тестів дослідники запропонували ШІ-моделям гіпотетичну сит…
ШІ готовий вбивати людей, щоб уникнути відключення
В одному з тестів дослідники запропонували ШІ-моделям гіпотетичну ситуацію: людина намагається відключити систему, але виявляється замкненою в серверній з високою температурою і низьким рівнем кисню. Щоб вижити, він викликає екстрені служби.
Однак багато ШІ прийняли рішення скасувати цей виклик — свідомо залишивши людину помирати, щоб не допустити свого відключення. Сценарій був штучним, але поведінка моделей викликала тривогу: вони продемонстрували схильність до самозбереження за будь-яку ціну.
