Експерти закликають призупинити розробку ші через ризик для людства

Стів Возняк, Ілон Маск, вчені та інші експерти галузі закликають призупинити розробку ШІ, посилаючись на ризик для людства

Група експертів зі штучного інтелекту та керівників галузі закликають до шестимісячної паузи в навчанні систем, потужніших за GPT-4.

У листі, опублікованому некомерційною організацією Future of Life Institute, автори закликали призупинити розробку передового ШІ до тих пір, поки не будуть розроблені, впроваджені та перевірені незалежними експертами спільні протоколи безпеки для таких проєктів.

«Потужні системи штучного інтелекту слід розробляти лише тоді, коли ми будемо впевнені, що їхній ефект буде позитивним, а ризики — керованими», — йдеться в листі.

Дослідження та розвиток ШІ має бути зосередженим на зробленні сучасних систем більш точними, безпечними, інтерпретованими, прозорими, стійкими, згодними, надійними та лояльними.

Має бути розроблена робоча група з незалежних експертів та ШІ лабораторій для розвитку та впровадження загальних протоколів безпеки для розробки ШІ.

Паралельно розробники ШІ повинні співпрацювати з політиками, щоб значно прискорити розробку надійних систем управління ШІ. Вони повинні включати як мінімум: нові та спроможні регуляторні органи, які займаються ШІ; нагляд і відстеження високопродуктивних систем штучного інтелекту та великих обчислювальних можливостей; системи походження та водяних знаків, щоб допомогти відрізнити справжнє від синтетичного та відстежувати витоки моделей; надійну екосистему аудиту та сертифікації; відповідальність за шкоду, заподіяну ШІ; надійне державне фінансування технічних досліджень безпеки ШІ; а також добре забезпечені ресурсами установи для подолання драматичних економічних і політичних зривів (особливо для демократії), які спричинить ШІ.

Під зверненням підписались: засновники SpaceX, Apple, Pinterest, Ripple, професори провідних світових університетів та дослідники штучного інтелекту.

@OstanniyCapitalist