21 травня 2021 президент України Володимир Зеленський ввів у дію ухвалене 14 травня рішення Ради національної безпеки та оборони (РНБО) про чергові санкції проти 138 компаній. До санкційного списку вчергове потрапила російська ІТ-компанія Yandex, а також російські ЗМІ й телеканали.

Волонтери міжнародної спільноти InformNapalm помітили, що рівно через два тижні після цієї новини, 4 червня, російські ЗМІ повідомили, що «Яндекс» запустив нову нейромережу для автоматичної генерації текстів, яку назвав «Зелібоба». Доступ до мережі тимчасово закрили через півтори години самі розробники, прокоментувавши, що реліз вийшов нібито передчасно. Такий фальстарт можна вважати своєрідним тролінгом з боку російської IT-корпорації. Але небезпека цієї нейромережі полягає не стільки у тролінгу, скільки в тому, що вона може значно посилити російські фабрики тролів й стати інструментом для масштабування російських фейків.

Нейромережа вже вміє підбирати наступне слово в реченні й завдяки цьому писати невеликі тексти на основі декількох слів, введених користувачем. Мовна модель, що лежить в основі «Зелібоби», була навчена на декількох терабайт російськомовних текстів, в тому числі російських статтях Вікіпедії, новинних замітках і постах в соціальних мережах.

В мережі з’явилися скриншоти від користувачів, які встигли випробувати нейромережу, що автоматично генерує текст з першого речення:

Нагадаємо, що 16 травня 2017 п’ятий президент України Петро Порошенко вперше ввів у дію рішення РНБО проти компанії «Яндекс» терміном на 3 роки. Це рішення стало наслідком зусиль частини громадянського суспільства, які вимагали накладення санкцій на IT-корпорацію Yandex, а також на російські соцмережі через загрози національній безпеці України. Через рік були проведені попередні підсумки й аналіз наслідків цього рішення.

Нова технологія нейромереж та її побічні наслідки

Технології, які вміють дописувати текст з урахуванням контексту випробовували й раніше. У 2017 році дослідниками Google була розроблена архітектура нейромережі Transformer. Найбільш відома архітектура Transformer по сімейству нейромережевих моделей GPT була розроблена OpenAI. У 2019 OpenAI створила алгоритм GPT-2, який генерував сюжети з осмисленим текстом на основі пари пропозицій. Розробники випробували нейромережу та з’ясували, що вона спроможна генерувати великі масиви правдоподібних фейкових новин.

Вочевидь, російські розробники вирішили використати цей досвід. Ймовірно російська нейромережа від Yandex  буде використана і для інформаційної війни, зокрема, для посилення ботоферм та фабрик тролів, які зможуть масштабувати свою активність за допомогою таких інструментів й генерувати фейкові новини.

Ілюстративне фото до статті: Михайло Метцель / ТАСС: “Співзасновник Yandex Аркадій Волож не приховує, що погоджував нову конструкцію управління компанією з адміністрацією президента РФ Володимира Путіна”.

Читайте також інші тематичні матеріали на InformNapalm

Публікацію підготував Михайло Макарук спеціально для InformNapalm. Поширення і передрук з активним посиланням на джерело вітаються. (Creative Commons — Attribution 4.0 International — CC BY 4.0). Українські сторінки спільноти InformNapalm в соцмережах: Facebook / Тwitter / Telegram.

InformNapalm не отримує жодної фінансової підтримки від урядів чи донорів. Забезпечувати роботу сайту допомагають лише волонтери спільности та наші читачі. Ви також можете стати одним з волонтерів чи підтримати розвиток унікального волонтерського розвідувального ресурсу InformNapalm внесками через Patreon.