Найбільшою проблемою у зв’язку зі стрімким розвитком штучного інтелекту стане створення фактично навчальних даних для «наступного покоління атак». Про це заявив генеральний директор Центру інформаційної стійкості (Велика Британія) Адам Ратленд (Adam Rutland) під час 18-го щорічного Київського Безпекового Форуму на тему «Морок чи світанок: чи є світло попереду?».

«Головна проблема зі штучним інтелектом, на нашу думку, полягає в тому, що ми створюємо навчальні дані для наступного покоління атак. ЦРУ працює з розвідкою з відкритих джерел. Кожен фрагмент OSINT, який ми створюємо, кожен методологічний посібник Bellingcat, кожна стаття Deutsche Welle отримуються тими ж системами штучного інтелекту, що й у противника. Тож ми буквально надаємо навчальні дані для наступного покоління атак», – вважає Ратленд.

Він зазначив, що спільнота витратила десятиліття на розробку публічних методологій щодо структурування звітності, джерел матеріалів, верифікацій та фактчекінгу. Це побудувало велику довіру, і це використовувалося для спростування, перевірки фактів та багатьох інших методів.

«Тепер це навчальні дані для ворога. Ознаками достовірності є шаблони, які можна вивчити, а це означає, що вони відтворювані. Незабаром ми зіткнемося з повністю синтетичними розслідуваннями, які виглядатимуть як розслідування Bellingcat, ЦРУ або Deutsche Welle, але в них буде сфабриковане джерело, ймовірно, реальні локації, але з вигаданими подіями», – пояснив він.

Таким чином, як наголосив Ратленд, експерти створили інфраструктуру боротьби з дезінформацією, але також створили посібник з того, як атакувати цю інфраструктуру.

Київський Безпековий Форум (Kyiv Security Forum, KSF) – щорічна міжнародна подія, започаткована у 2007 році за ініціативи Фонду «Відкрий Україну» (Open Ukraine) Арсенія Яценюка. Цього року він відбувається 23-24 квітня.