ЮНЕСКО попереджає, що ШІ може переписати історію Голокосту

Новий звіт, опублікований ЮНЕСКО, висловлює тривожність з приводу того, що штучний інтелект (ШІ) вже несе загрозу пам’яті про Голокост, бо створений ШІ контент може фабрикувати або спотворювати історичні записи та посилювати упередження.

Зловмисники та групи ненависті продовжуватимуть використовувати ці недоліки для поширення дезінформації, і молоді учні особливо вразливі, оскільки вони все більше покладаються на ШІ для того, щоб шукати в інтернеті інформацію та виконувати домашні завдання.

Якщо ми дозволимо жахливі факти Голокосту розмивати, спотворювати або фальсифікувати через безвідповідальне використання штучного інтелекту, ми ризикуємо вибуховим поширенням антисемітизму та поступовим зменшенням нашого розуміння причин і наслідків цих жорстокостей.

Одре Азуле

Директор ЮНЕСКО

Азуле закликає уряди та співробітників штучного інтелекту прийняти етичні принципи.

Середній вік тих, хто пережив Голокост, — наразі 86 років. Живий зв’язок з ними, а отже і пам’ять про геноцид, продовжуватиме занепадати. На заклади освіти та культури покладено завдання захисту історичних пам’яток та збереження свідчень для майбутніх поколінь у боротьбі з ненавистю та антисемітизмом.

Інструменти на основі штучного інтелекту можуть допомогти дослідникам опрацьовувати та видобувати величезну кількість даних про Голокост, які охоплюють роки, мови та носії від фотографій і тексту до відео та аудіозаписів. Культурні установи також використовують згенераований ШІ контент для освітніх цілей.

Але ЮНЕСКО попереджає, що ці ж технології можна використовувати для посилення ненависницьких повідомлень та дезінформації, а також для спрощення складної історії. У ньому згадується, як провідні чат-боти реагували на підказки про Голокост історично неправильними відповідями. І це пояснює, як алгоритми, які наказують пошуковим системам і платформам соціальних мереж віддавати перевагу вмісту, орієнтованому на залучення уваги, можуть увічнити брехню та посилити регіональні упередження. У звіті встановлено, що ШІ може «глючити» і винаходити повністю неправдиві наративи та джерела.