На 21 май 2021 г. с подписа си президентът на Украйна Володимир Зеленски въведе в сила решението на Съвета за национална сигурност и отбрана на Украйна от 14 май за поредни санкции срещу 138 компании. В санкционния списък са включени отново руската ІТ-компания Yandex, както и руски медии и телевизионни канали.

Доброволци от международната общност InformNapalm забелязаха, че на 4 юни, точно две седмици след тази новина, руските медии съобщиха, че „Яндекс“ е пуснал нова невронна мрежа за автоматично генериране на текстове, наречена „Зелибоба“. Достъпът до мрежата беше набързо блокиран час и половина по-късно от самите разработчици, с коментара, че представянето е излязло преждевременно. Този фалстарт може да се счита за своеобразен тролинг от страна на руската ИТ корпорация. Но заплахата от тази невронна мрежа се крие не в тролинга, а във факта, че тя може значително да подсили руските фабрики за тролове и да се превърне в инструмент за мащабиране на руските фейкове.

Невронната мрежа вече умее да избира следващата дума в изречение, и по този начин да създава малки текстове въз основа на няколко думи, въведени от потребителя. Езиковият модел, залегнал в основата на „Зелибоба“, е обучен на няколко терабайта текстове на руски език, включително руски статии в Уикипедия, новинарски публикации и постове в социалните мрежи.

В мрежата се появиха екранни снимки от потребители, успели да изпитат невронна мрежа, която автоматично генерира текст от първото изречение:

Ще припомним, че на 16 май 2017 г. петият президент на Украйна Петро Порошенко за първи път въведе в сила решението на Съвета за национална сигурност и отбрана на Украйна за санкции срещу Яндекс за период от 3 години. Това решение беше резултат от усилията на част от гражданското общество, което настояваше за налагане на санкции срещу IT корпорацията Яндекс, както и срещу руските социални мрежи заради заплахата за националната сигурност на Украйна. Година по-късно бяха отчетени предварителни резултати и анализ на последиците от това решение.

Новата технология на невронните мрежи и техните странични ефекти

Технологии, които могат да добавят текст към контекста, са изпробвани и преди. През 2017 г. изследователите на Google разработиха невронната мрежа Transformer. Най-известната структура на Transformer от семейството модели на невронни мрежи GPT е разработена от OpenAI. През 2019 г. компанията OpenAI на Илон Мъск създаде алгоритъма GPT-2, който генерира сюжети със смислен текст, базиран на двойка изречения. Разработчиците тестваха невронната мрежа и установиха, че тя е в състояние да генерира големи масиви от правдоподобни фалшиви новини, затова пълната версия не е публикувана в открит достъп заради потенциалната опасност.

Очевидно руските разработчици са решили да използват този опит. Вероятно руската невронна мрежа от „Яндекс“ ще бъде използвана и в информационната война, по-специално за подкрепа на бот фермите и фабриките за тролове, които ще могат да разширят мащабите на дейността си с такива инструменти, и да генерират фалшиви новини.

Илюстративна снимка за статията: Михаил Метцел / ТАСС: „Съоснователят на Яндекс Аркадий Волож не крие, че е координирал новата управленска структура на компанията с администрацията на руския президент Владимир Путин“.