Це через те, що створений ШІ контент може спотворювати історичні факти та посилити упередження в соціумі.

Новий звіт ЮНЕСКО попереджає, що штучний інтелект загрожує пам’яті про Голокост. Про це пише The Art Newspaper, передає Суспільне Культура.

Зазначають, що ШІ можуть використовувати для поширення дезінформації. Особливо вразливими до цього є школярі та студенти, які щоразу частіше покладаються на генеративні інструменти для пошуку в інтернеті та виконання навчальних завдань.

“Якщо ми дозволимо применшити, спотворити або сфальсифікувати жахливі факти Голокосту через безвідповідальне використання штучного інтелекту, то ризикуємо вибуховим поширенням антисемітизму. І поступовим зменшенням нашого розуміння причин і наслідків цих звірств”, — наголошує гендиректор ЮНЕСКО Одрі Азуле.

У статті The Art Newspaper йдеться про те, що оскільки середній вік тих, хто пережив Голокост, становить 86 років, живий зв’язок з цим геноцидом буде продовжувати зменшуватися. Отже, перед освітніми та культурними установами стоїть завдання захистити правдиві історичні записи та зберегти свідчення для майбутніх поколінь.

Звіт ЮНЕСКО, опублікований у партнерстві зі Світовим єврейським конгресом, закликає технологічні компанії тісно співпрацювати з тими, хто пережив Голокост. З їхніми нащадками, експертами з антисемітизму та істориками в розробленні інструментів ШІ. А також розробників ШІ та політиків — встановити етичні норми.

Музеям, архівам і меморіалам радять оцифровувати та розширювати історичні колекції. А також співпрацювати з технологічними компаніями у навчанні моделей штучного інтелекту: надавати їм контекст щодо чутливості та ризиків використання цих даних.

Є у цій темі позитивні випадки використання

Варто зазначити, що згадують і позитивні випадки використання ШІ для дослідження теми Голокосту. Наприклад, робота, яку ведуть в Архівах Арользена — найповнішій у світі колекції оригінальних документів та особистих речей 17,5 мільйона людей, що постраждали від нацистських переслідувань. ШІ допомагає Міжнародному центру з питань нацистських переслідувань шукати й перевіряти мільйони документів і робити 20 000 запитів щороку. А Яд Вашем, всесвітній центр пам’яті жертв Голокосту в Єрусалимі, використовує ШІ для ідентифікації жертв.

Культурні установи також використовують генеративний ШІ в освітніх цілях. Зокрема, виставка “Виміри у свідченнях” Фонду Шоа Університету штату Каліфорнія. Це пересувний музей, який імітує дискусії між відвідувачами музею і жертвами геноциду: використовує записані інтерв’ю, доповнені голографічним дисплеєм високої чіткості й технологією розпізнавання голосу. А Музей та освітній центр Голокосту в Іллінойсі створив фільми з віртуальною реальністю.

ШІ може “галюцинувати” і повністю вигадувати неправдиві наративи 

Однак ЮНЕСКО попереджає, що ці ж технології можуть бути використані для посилення ненависті та дезінформації або спрощення складної історії. Організація наводить приклади того, як чатботи з ШІ реагували на запитання про Голокост історично некоректними відповідями. У звіті йдеться про те, що генеративний ШІ може “галюцинувати” і повністю вигадувати неправдиві наративи та джерела.

“У неправильних руках генеративні інструменти можуть стати знаряддям обману, створюючи дипфейки та поширюючи шкідливу ідеологію. Серед відомих прикладів — скандальний додаток, який імітував розмови з історичними постатями, зокрема з Адольфом Гітлером, та широко розповсюджена фальшивка, де акторка Емма Вотсон читає «Майн Кампф»”. Ба більше, у 2023 році дослідження Антидифамаційної ліги показало, що 84 % американців стурбовані тим, що інструменти генеративного ШІ будуть використовувати для поширення неправдивої або оманливої інформації, а 70 % вважають, що це призведе до посилення екстремізму або антисемітизму в США.

До теми: Радіостанція, створена штучним інтелектом: YouTube Music тестує нову функцію