21. mai 2021 vedtok Ukrainas president Volodymyr Zelenskyj en resolusjon fra det nasjonale sikkerhets- og forsvarsrådet 14. mai om sanksjoner mot 138 selskaper. Det russiske IT-selskapet Yandex samt russiske medier og TV-stasjoner var igjen på sanksjonslisten.
InformNapalms frivillige har bemerket at nøyaktig to uker etter nyheten 4. juni rapporterte russiske medier at Yandex hadde lansert et nytt nevralt nettverk for automatisk å generere endelige setninger, som de kalte Zeliboba.
Kan være et verktøy for å spre desinformasjon
Halvannen time senere blokkerte utviklerne tilgangen til selve nettverket, og forklarte at utgivelsen var for tidlig. En slik falsk start kan betraktes som et slags trolling av det russiske IT-selskapet. Men risikoen for dette nevrale nettverket ligger ikke så mye i trolling, men i det faktum at det kan styrke russiske trollfabrikker betydelig. Det kan også være et verktøy for å spre falsk russisk informasjon.
Nevrale nettverk vet allerede hvordan man skal velge neste ord i en setning og skrive små tekster basert på flere ord skrevet av brukeren. Språkmodellen som ligger til grunn for Zeliboba ble utviklet gjennom flere terabyte russiske tekster, inkludert russiske Wikipedia-artikler, nyhetsartikler og innlegg på sosiale medier.
Foto: Nevrale nettverket Zeliboba, som automatisk genererer endelige setninger fra første setning.
Zelenskyj opprettholder tidligere sanksjoner
Det er verdt å huske at Ukrainas femte president Petro Porosjenko først innførte sanksjoner mot Yandex 16. mai 2017, og sanksjonene varte i tre år. Avgjørelsen var resultatet av en generell anmodning om sanksjoner mot det russiske IT-selskapet. I tillegg ble det krevd sanksjoner mot russiske sosiale nettverk på grunn av trusler mot Ukrainas nasjonale sikkerhet. Ett år senere ble de foreløpige resultatene og implikasjonene av denne beslutningen analysert.
Negative konsekvenser med nye nevrale nettverksteknologier
Teknikker som vet hvordan man legger til tekst i en kontekst, har blitt testet før. I 2017 utviklet Google-forskere transformatoren, en type nevral nettverksarkitektur. Den mest kjente transformatorarkitekturen for GPT-familien for nevrale nettverksmodeller ble utviklet av OpenAI. I 2019 utviklet Elon Musk-støttede OpenAI GPT-2-algoritmen, som genererte meningsfull grafikk med noen få setninger. Utviklerne testet dette nevrale nettverket og fant ut at det kan generere store matriser med troverdige falske nyheter. På grunn av potensielle risikoer har ikke fullversjonen blitt lansert.
Selvfølgelig har russiske utviklere bestemt seg for å benytte seg av denne opplevelsen. Det er sannsynlig at Yandex russiske nevrale nettverk vil bli brukt til informasjonskrigføring. Spesielt vil bots og trollfabrikker kunne utvide bruken av slike verktøy og generere falske nyheter.
Artikkelen er skrevet eksklusivt for InformNapalm av Mikhajlo Makaruk.
Les også
- Ifølge Sveriges ØK undergraver Russland Europas sikkerhetsstruktur
- Dannelsen av en ny russisk divisjon nær Litauen er foran planen
- Russisk EW-system RB-636 Svet-KU, fotografert fra en UAV nær Novoazovsk
Distribusjon og opptrykk med henvisning til kilden er velkommen! Creative Commons – Attribution 4.0 International – CC BY 4.0. Følg oss på Facebook og Twitter. Les mer om hvordan Du støtter InformNapalm.
