Den 21. maj 2021 vedtog den ukrainske præsident Volodymyr Zelenskyj en resolution fra det nationale sikkerheds- og forsvarsråd den 14. maj om sanktioner mod 138 virksomheder. Det russiske it-firma Yandex samt russiske medier og tv-stationer var igen på sanktionslisten.
InformNapalms frivillige har bemærket, at nøjagtige to uger efter nyheden den 4. juni rapporterede russiske medier, at Yandex havde lanceret et nyt neuralt netværk for automatisk at generere endelige sætninger, som de kaldte Zeliboba.
Kan være et redskab til at sprede misinformation
Halvanden time senere blokerede udviklerne adgang til selve netværket og forklarede, at frigivelsen var for tidligt. En sådan falsk start kan betragtes som en slags trolling af det russiske it-firma. Men risikoen for dette neurale netværk ligger ikke så meget i trolling, men i det faktum, at det kan styrke russiske trollfabrikker betydeligt. Det kan også være et værktøj til at sprede falske russiske oplysninger.
Det neurale netværk ved allerede, hvordan man vælger det næste ord i en sætning og skriver små tekster baseret på flere ord skrevet af brugeren. Den sprogmodel, der ligger til grund for Zeliboba, blev udviklet gennem flere terabyte russisksprogede tekster, herunder russiske Wikipedia-artikler, nyhedsartikler og sociale medieindlæg.
Foto: Det neurale netværk Zeliboba, der automatisk genererer endelige sætninger fra første sætning.
Zelenskyj insisterer på tidligere sanktioner
Det er værd at huske, at Ukraines femte præsident Petro Porosjenko først besluttede sanktioner mod Yandex den 16. maj 2017, og sanktionerne varede i tre år. Beslutningen var resultatet af en generel anmodning om sanktioner mod det russiske it-selskab. Derudover blev der krævet sanktioner mod russiske sociale netværk på grund af trusler mod Ukraines nationale sikkerhed. Et år senere blev de foreløbige resultater og konsekvenser af denne beslutning analyseret.
Negative konsekvenser med ny neuralt netværksteknologi
Teknikker, der ved, hvordan man tilføjer tekst til konteksten, er blevet testet før. I 2017 udviklede Google-forskere transformeren, en type neural netværksarkitektur. Den mest kendte transformatorarkitektur til GPT-familien til neurale netværksmodeller blev udviklet af OpenAI. I 2019 udviklede Elon Musk-understøttede OpenAI GPT-2 algoritmen, som genererede meningsfuld grafik med et par sætninger. Udviklerne testede dette neurale netværk og fandt ud af, at det kan generere store matricer med troværdige falske nyheder. På grund af potentielle risici er den fulde version ikke lanceret.
Selvfølgelig har russiske udviklere besluttet at drage fordel af denne oplevelse. Det er sandsynligt, at Yandex’s russiske neurale netværk vil blive brugt til informationskrig. Især bots og trollfabrikker vil være i stand til at udvide brugen af sådanne værktøjer og generere falske nyheder.
Artiklen er udelukkende skrevet for InformNapalm af Mihajlo Makaruk.
Læs også
- Rusland planlægger at oprette 20 nye enheder langs den vestlige grænse
- Ifølge Sveriges ØK underminerer Rusland den europæiske sikkerhedsstruktur
- Dannelsen af en ny russisk division nær Litauen er forud for tidsplanen
Distribution og genoptryk med henvisning til kilden er velkommen! Creative Commons – Attribution 4.0 International – CC BY 4.0. Følg os på Facebook og Twitter. Læs mere om hvordan Du støtter InformNapalm.
