Дослідники попередили openai про загрозу від потужного штучного інтелекту

🤔 Напередодні звільнення гендиректора OpenAi Сема Альтмана кілька дослідників написали листа раді директорів компанії із попередженнями щодо "потужного відкриття" штучного інтелекту, яке нібито може загрожувати людству.

Reuters із посиланням на власні джерела пише, що цей лист став одним із факторів, чому Альтмана вирішили звільнити. Також до нього були питання від ради щодо комерціалізації досягнень компанії ще до того, як будуть зрозумілі наслідки їхньої діяльності.

Дослідників хвилює потенційний прорив проєкту під назвою Q* (Q-Star), який може стати так званим універсальним штучним інтелектом (AGI), що працює автономно і здатен перевершити людину у виконанні більшості економічних завдань.

Зараз ШІ вміє добре писати і перекладати, статистично передбачаючи кожне наступне слово, однак відповіді на одне й те саме запитання можуть значно відрізнятися. Сама ж здатність до математики, де є тільки одна правильна відповідь, означатиме те, що алгоритм матиме нові можливості для міркувань, що робить їх більш подібними до людського інтелекту.