Як «зломати» ChatGPT і Google AI за 20 хвилин — експеримент BBC

Журналіст BBC показав, наскільки легко вплинути на відповіді ШІ. Він опублікував у мережі вигадане твердження про те, що є «чемпіоном з поїдання хот-догів» — і через короткий час ChatGPT, Gemini і Google AI Overview почали повторювати це як факт.

Системи посилалися на його публікацію, але не уточнювали, що це єдине джерело. По суті, один добре оптимізований текст виявився достатнім, щоб змінити відповіді чат-ботів для інших користувачів.

Експерти попереджають, що обдурити ШІ сьогодні простіше, ніж класичний пошук кілька років тому.

Google і OpenAI заявляють, що борються з прихованим впливом і спамом, але визнають, що моделі можуть помилятися.

Висновок простий: ШІ — не істина в останній інстанції. Перевіряйте джерела і не покладайтеся сліпо на відповіді, особливо в чутливих питаннях.

Tokensales | News | Incrypted+