Robotu uzbrukums demokrātijai

Rīgā bāzētā NATO Stratēģiskās komunikācijas izcilības centra (StratCom) direktors Jānis Sārts izstāsta, cik viegli un lēti ir iespējams manipulēt ar sociālo tīklu saturu. Viņš ir pārliecināts, ka šāda krāpšanās ir jāierobežo vismaz Eiropas Savienības un ASV līmenī.

Decembra sākumā StratCom publicēja pērn maijā un jūnijā veiktā eksperimenta rezultātus, kura ietvaros bija par 300 eiro nopircis no 11 Krievijas un piecām Eiropas likumīgi reģistrētām firmām 3530 komentārus, 25 750 «laikus», 20 000 skatījumus un 5100 sekotājus lielajos sociālajos tīklos Facebook, Instagram, Twitter un YouTube. (Ar pētījumu var iepazīties šeit.)

Pētnieki pamatā mērķēja uz pašu izveidotiem viltus kontiem, taču pārbaudīja arī, «vai tas strādā tādā pašā apjomā uz reāliem un augsti sensitīviem kontiem», kuru skaitā bija arī triju Eiropas Komisijas viceprezidentu konti. Viņi identificēja 18 739 kontus, kuri tika izmantoti nopirkto darbību veikšanai, par daļu no tiem parastajā kārtībā informēja sociālo tīklu kompānijas, ka tie nav autentiski, taču tās pēc tam slēdza tikai apmēram 4% no šiem kontiem.

Sārts uzskata, ka šāds “bizness” ir eksistenciāls apdraudējums demokrātijai un ka rietumvalstīm ir jānoteic jauni standarti un jaunas prasības sociālajiem tīkliem, lai tie ir «maksimāli tīri».

 

Pētījums ir neparasts – par 300 eiro nopirkāt 50 tūkstošu darbību sociālajos tīklos, kurās ietilpst viltus laiki, retvīti un arī konti.

Konti, sekotāji un arī komentāri – bija trīs tūkstoši komentāru. Ja grib, var taisīt tā, ka tie ir nevis vienkārši komentāri, bet gan tādi, kādiem tiem jābūt.

Kā jūs nonācāt pie idejas, ka vajag tieši šādu eksperimentu?

Es domāju, nevienam nav noslēpums, ka šajā sociālo mediju vidē, kas kļūst arvien nopietnāka daļa no tā, kurā cilvēki iegūst informāciju par lietām, ir iespējams radīt mākslīgus laikus, mākslīgus skatījumus. Un mūsu pirmā interese bija – kas tad ir tas, kas definē šo tirgu, vai vispār ir tirgus, kur to visu var nopirkt, kāda ir cena, kas tie ir par spēlētājiem? Un, kad sākām to skatīties, bijām pat ļoti pārsteigti. Jo mēs domājām, ka būs jāiet kaut kādā tumšajā tīklā, jāmeklē. Bet nē! Pirmais, ko mēs ieraudzījām, iegūglojot, bija Google reklāma, kas noved uz saiti, kur var nopirkt YouTube manipulāciju. Tātad ne tikai tas ir atklāti, bet Google arī paņem naudu par reklāmu no spēlētāja, kas reklamē tā paša Google īpašumā esošā YouTube manipulēšanu! Mēs sapratām, ka tā ir tāda diezgan plaša lieta, un sākām arvien vairāk iedziļināties. Un tad mēs sapratām, ka tur ir principā globāla ekosistēma, kurā ir virkne komercspēlētāju, kuri pārdod šo jebkuram, kurš interesējas, un viņi ir diezgan efektīvi.

Nākošais solis mums bija – tagad, kad kompānijas Eiropas Savienībā [2019. gadā] parakstījušas tā saucamo uzvedības kodeksu, kā pret to visu cīnīsies, mēs pārbaudīsim, vai Eiropas Parlamenta vēlēšanu aktīvajā fāzē tās ir tiešām darījušas kaut ko labu un šis ir kļuvis sarežģīti, grūti pieejami un ārkārtīgi dārgi. Tāpēc mēs, tā teikt, sameklējām 11 krievu kompānijas, piecas Eiropas kompānijas, kuras principā atklāti piedāvā šos pakalpojumus, vismaz šīs Eiropas kompānijas ir Eiropā legāli reģistrētas, un tad skatījāmies, vai var šādu pakalpojumu nopirkt. Pamatā mēs mērķējām uz sevis pašu izveidotiem, tā teikt, viltus kontiem, lai varētu labāk mērīt.

Vai jūsu pašu izveidotajiem vai pēc jūsu pasūtījuma izveidotajiem?

Tos mēs izveidojām paši, jo mums vajadzēja arī mērīt, cik viegli tādus var izveidot, un tad pēc tiem mērīt, lai ir skaidrs apjoms. Bet mēs arī pārbaudījām, vai tas strādā tādā pašā apjomā uz reāliem un augsti sensitīviem kontiem. Tāpēc, protams, ar saskaņošanu mēs to pašu pamēģinājām arī ar Eiropas Savienības viceprezidentu kontiem. Bet, protams, datu iegūšanai mēs skatījāmies nevis pēdējos, kur reāli cilvēki vēl skatās, bet ar laika nobīdi un politiski neitrālus postus.

Tādus kā “Laimīgu Jauno gadu”?

“Laimīgu Jauno gadu” vai “re, kur es esmu Alpos”. Un, protams, arī tie komenti bija neitrāli – “iedvesmojoši!” vai kaut kas tāds – , lai nebūtu reāla laika efekts. Lai mēs saprastu, vai tas pats, ko intensīvāk mērām mūsu kontā, varētu notikt, teiksim, augstas redzamības kontā. Un secinājumi diemžēl bija nepatīkami mums visiem. Deviņdesmit procenti no tā, ko mēs nopirkām, principā tika reālā laikā arī izpildīts. Un principā neviena no sociālo mediju kompānijām reāli nevarēja neko pretī izdarīt.

Un tad mēs gājām nākamo soli – paņēmām vienu mazu daļu, ne visus 18 tūkstošus robotu kontus, kurus redzējām, bet vienu paraugu, kurus mēs caur parastajiem ziņošanas mehānismiem noziņojām šīm sociālo mediju kompānijām, sakot – šie ir neautentiski konti, visticamāk, robotizēti, lūdzu, kaut ko dariet. Pēc sešām nedēļām skatījāmies, un, es tikko skatījos, man liekas, Dānijā bija raksts par to, ka tie joprojām ir, principā kādus četrus procentus no tiem noņēma nost.

Vai jūs ziņojāt kā parasts lietotājs, nevis kā StratCom?

Mēs ziņojām normālā ziņošanas procedūrā, kā to var darīt no jebkura lietotāja konta. Var būt, ka pat no savējā, taču principā gribējām pamēģināt, vai normāla ziņošanas sistēma strādā. Mums, protams, ir saziņa ar viņu drošības komandām, taču to neizmantojām, mēs izmantojām to, kas ir pieejams jebkuram. Un beigās uztaisījām tādu salīdzinošu mērījumu, kā četras globāli spēcīgākās sociālo mediju kompānijas – Facebook, Twitter, Instagram un YouTube – pēc dažādiem parametriem cīnās. Jāsaka, rezultāti ir bēdīgi.

Otra lieta, ko mēs konstatējām, ir, ka visa šī manipulācija ir legāla. Kompānijas, kuras to dara, ir legālas.

Jūs teicāt, ka dažas ir reģistrētas Eiropas Savienībā.

Piecas. Bet principā Krievija dominē šajā tirgū. Tur ir virkne tehnoloģisku aspektu, kuri nepieciešami, lai to darītu, un daži no tiem ir ekskluzīvi Krievijā radīti. Vienalga, vai to dara Indonēzijā vai Brazīlijā, viņi tāpat izmantos to Krievijas radīto elementu, lai tas varētu būt iespējams.

Eiropā – jā, viņi ir redzami, viņu apgrozījums aug.

Kā viņi reģistrējas Eiropā – kā mediji?

Nē, kā kompānija.

Bet ko norāda kā nodarbošanos?

Es tā saprotu, ka parasti digitālo mārketingu vai kaut ko tādu. Ja paskatāmies, kas pamatā ir pircēji, tad tās ir mārketinga kompānijas un tā dēvētie influenceri.

Jūs arī ziņojumā sakāt, ka 90 procenti visu aktivitāšu ir komercijai.

Jā, tas ir ļoti svarīgi – tas ir tirgus! Bet desmit procenti no tā ir politika. Un tad kļūst pavisam grūti saprast, pirmkārt, cik tas ir tāpēc, ka kāds ir nopircis vai ir izdomājis, ka viņš tagad šo tīklojumu izmantos kaut kā labad. Bet tas ir tas, kāpēc šo problēmu nevar risināt tikai caur politikas dimensiju.

Turklāt otrs – padomājiet par to absurdu – kas finansē visu šo tehnoloģisko rīku attīstīšanu? Principā to finansē normālās kompānijas, kas grib savu produktu pārdot. Nu, es nezinu, maximas, rimi un kādi vēl mūsu un lielie Eiropas uzņēmumi – viņi ir tie faktiskie finansētāji! Protams, viņi pa tiešo to nekad nedara, bet mārketinga kompānija paņem šo kontraktu un beigās, lai parādītu – hei, cik mēs esam veiksmīgi! – uzrāda to klikšķu un skatījumu apjomu kā absolūti veiksmīgu, un daļa no tās naudas nonāk šajā jomā.

Un mēs ar lielām bažām gaidām mirkli, kad šajā visā lietā ieies iekšā, nu, tāda kārtīgi spēcīga mākslīgā intelekta programmatūra. Jūs zināt, ka jau šobrīd ir iespējams principā pilnībā automatizēt teksta radīšanu. Tie ir tie neskaitāmie gadījumi jau tagad, ka ieliek četrus atslēgas vārdus un izmet pilnīgi reālu reportāžu ar vajadzīgo cilvēku šķietamiem citātiem, un tā tālāk. Ja šādas lietas integrē, katrs konts var radīt savu unikālu tekstu. Ja tie konti kļūst spējīgi kā Siri vai Aleksa mijiedarboties, tas viss aiziet jau pilnīgi citā dimensijā ar krietni lielāku efektu uz reālo pasauli. Un finansējums tam principā šobrīd nāk no normālām industrijām, normālu pakalpojumu piedāvātājiem, un, jo vairāk tas tā notiks, jo ātrāk mēs ieraudzīsim mākslīgā intelekta programmās balstītus robotu tīklus. Ja paskatāmies vēlēšanu kontekstā, tas ir tas, kas var sadarīt krietni daudz ļauna.

Pētījumā konstatējat, ka kvalitatīvākais un drošākais šāds pakalpojums ir tieši Krievijas kompānijām. Vai tāpēc, ka aiz tā ir šādu manipulāciju valsts industrija?

Es domāju, ka tā pamatā ir attīstījusies kā vienkārši komerciespēja. Un šeit ir vairāki faktori. Pirmkārt, Krievija, man liekas, bija dominējošs spēlētājs arī klasiskajos kiberuzbrukumos izmantotajos robotu tīklos, DDoS jeb pakalpojumu liegšanas uzbrukumos. Tas gan bija absolūti tumšs, nelegāls bizness, bet viņi tur dominēja, un liela daļa no tā tika arī pārdota. Es domāju, ka tas ir viens faktors.

Otrs, man personīgi šķiet, ir padomju laikā iegūtās zināšanas, kā čakarēt sistēmas, piedodiet. Tas ir tas, kur, manuprāt, viņi tiešām skatās arī ne tikai Krievijas mērogā. Ka sistēmas ir dažādas saliktas, patīk vai nē, bet, nu, cilvēku ikdienas dzīvē tās ir jāapiet. Šāda domāšana ir pielāgota globālam tirgum, tāpēc, manuprāt, viņi ir pirmie vai spēcīgākie šajā jomā. Bet es vairāk redzu, ka tas ir tīrs bizness. Taču, protams, kā mēs zinām, Krievijā, ja tu tajā pelēkajā zonā darbojies, un pēkšņi zvans…

Ne tikai pēkšņs zvans un ne tikai pelēkais bizness. Ģenerālštāba un Kremļa tekstos arī ir runa par šādiem paņēmieniem.

Jā, viņi runā par šiem paņēmieniem, bet man ir diezgan stingra pārliecība, ka viņi paši nav tos radījuši.

Bet, piemēram, slavenā troļļu fabrika Pēterburgā?

Jā, bet tas jau arī ir tā, ka ir iedota gana liela nauda, bet to visu radīt ir mēģināts uz biznesa principiem, ar proxy jeb starpnieku. Es domāju, ka šajā industrijā tas pamatā ir komercgars, kas ir gājis pa priekšu un, protams, saprotot, ka tāda domāšana ir, to noteikti izmanto, ja nepieciešams. Bet es nedomāju, ka šis būtu tas gadījums, kad tas ir izveidots jau apzināti. Domāju, Krievijā ir gana daudz cilvēku ar izdomu, kas sāka šo, un pēc tam vienkārši ir redzams, ka tā ir papildus iespēja.

Piemēram, tajā, kas sekoja uzreiz pēc Katalonijas referenduma [2017. gadā], ļoti liels skaits Venecuēlas kontu sāka izplatīt informāciju. It kā – kas tur Venecuēlai? Nu, bet spāņu valoda. Tagad, protams, var jautāt – kurš nopirka? Bet, nu, mēs saprotam, ka jebkurš var nopirkt.

Vai arī, ja, piemēram, daži no tiem nepieciešamajiem tehniskajiem līdzekļiem, lai to radītu, ir Krievijā radīti, var pieņemt iespēju, ka ir atstātas, tā teikt, aizmugures durvis vaļā – ja vajag, var ieiet un pārņemt to kontu. Bet tas šobrīd, protams, ir pieņēmums.

Jūs minējāt briesmas, kas pieaugs līdz ar mākslīgā intelekta ienākšanu. Vai varat nosaukt arī pirmām kārtām politisku spēlētāju mērķus un viņu darītā iespējamās sekas?

Mērķis var būt jebkurš sabiedriskais process. Vēlēšanas ir demokrātijas augstākais punkts, kad sabiedrība diskutē par turpmākās attīstības virzieniem un izvēlas to īstenotājus. Bet tikpat labi to var izmantot, lai grautu spēju kādu kopīgu virzienu vispār atrast. Vai pastiprināt ekstrēmās tendences sabiedrībā. Tas ir papildus rīks, lai novājinātu jebkuru, pret kuru vērstu šo metodi.

Kādreiz robotus bija samērā viegli atpazīt. Tagad tie kļūs arvien grūtāk atpazīstami. Kad spēs radīt individualizētus tekstus un arī mijiedarboties reālā laikā… Jau tagad ir diezgan vienkārši uzradīt cilvēka bildi, kurš nekad nav eksistējis, taču tā, ka neviens nevar pateikt, vai tas ir vai nav patiess cilvēks. Un, to visu integrējot, pieaugs spēja manipulēt ar cilvēkiem.

Tā, protams, nav vienīgā metode, tā ir viena no metodēm. Bet, mūsuprāt, Rietumu sabiedrība ar to varētu spēt veiksmīgi cīnīties. Jo tās tomēr ir Rietumu demokrātijas platformas. Tas ir par viņu pašu un par valstu un valdību pienākumiem. Neviena individuāla valdība, izņemto varbūt ASV, to noregulējumu nevar dot – noregulēt, kas jā, kas nē, kas ir labi, kas ir slikti, kādi nosacījumi, kādi ir nepieciešamie soļi, lai mēs zinātu, ka tas notiek un kā šīs kompānijas to izmanto. Neviens nevar redzēt viņu datus! Vienīgais ir Twitter – visi runā par Twitter tāpēc, ka viņu dati ir pieejami. YouTube, Instagram, Facebook – tu nezini, tev vienkārši jātic tam, ko viņi saka.

Vēl atgriezīsimies pie risinājumiem, taču pirms tam pavaicāšu par sociālo tīklu izmantošanas piemēriem. Cik lielā mērā, jūsuprāt, Brexit referenduma iznākumu ietekmēja manipulācijas ar sabiedrisko domu?

Redziet, ir vairāki šādi gadījumi, kur retrospektīvā zini, ka manipulācijas mēģinājumi bija, bet, vai izšķīra – šobrīd nav tā saucamās cēloņsakarības metodoloģijas, lai to novērtētu. Tas, ka cilvēks ir kaut ko redzējis vai pat uz to noreaģējis – piemēram, uz viltus ziņu vai robotu virzītu mēmu, vai jebko – ir skaidrs, taču nav metodes, lai pateiktu, vai tas ir kaut ko mainījis. Bet mēs zinām, ka šī ir metode, ko izmanto arvien vairāk. Un, ja sākotnēji tie bija vairāk, tā teikt, ārēji spēlētāji – ārpus demokrātiskām valstīm –, tad šobrīd redzam arvien vairāk arī vietējo spēlētāju, kuri sapratuši, ka tas ir efektīvi, un arī sākuši to izmantot.

Tāpēc prasās jautājums, vai mums nav jāpāriet vēlreiz pāri tiem noteikumiem, ko nozīmē brīvas un kas saturiski šobrīd ir brīvas un caurspīdīgas vēlēšanas, kad esošie noteikumi vairs īsti nestrādā, īpaši digitālajā jomā. Manuprāt, ir laiks runāt par to, kas ir godīgi šajā jaunajā laikmetā. Jo var gadīties, ka vienam ir ļoti spēcīgs mākslīgā intelekta rīks, ļoti labi “lielie dati” par lielu daļu no vēlētājiem, tāpēc viņš var daudz, daudz efektīvāk, principā līdz individualizācijai manipulēt cilvēku izvēles. Vai mēs sakām – jā, tas ir ok, tas ir godīgi? Vai arī – nē, tas vairs nav godīgi, un šīs lietas būtu jāņem ārā?

Kādas izmaiņas būtu nepieciešamas regulējumā Latvijā, vai arī tas būtu jādara visā Eiropas Savienībā?

Tur principā būtu trīs jautājumi. Pirmais ir, lai sociālie tīkli būtu maksimāli tīri un lai tas, kas tajos ir, ir patiess. Es nesaku, ka robots nevar eksistēt, taču tam būtu jābūt atpazīstamam kā robotam. Piemēram, BBC News konti ir robots, un tas ir ok. Bet, ja, teiksim, Juris Bērziņš ir šausmīgi aktīvs sociālajos tīklos, un viņam ir 20 000 sekotāju, kas visu laiku katru viņa ziņu padara ļoti populāru arī citiem, bet tā īstenībā ir programma, tad tas, manuprāt, nav labi. It īpaši, ja to izmantot, teiksim, arī komercpraksē. Tā ir viena daļa, un tur, man liekas, tikai Eiropas Savienības līmenī ir iespējama regulācija. Un otra lieta ir, ka vajadzētu, manuprāt, pateikt, ka krāpšanās ir slikta. Tai nevajadzētu būt legālai, un kompānijām, kuras šādus pakalpojumus piedāvā, nevajadzētu būt tiesībām šādas manipulācijas piedāvāt.

Starp jūsu centra ieteikumiem ir arī ieteikums regulēt šādu pakalpojumu tirgu. Kā to regulēsiet, ja tā pastāvēšanas jēga ir izlikties par kaut ko citu, nekā tas patiesībā ir?

Regulācija acīmredzami nozīmētu pateikt, ka tas nevar būt likumīgi. Jāievieš stingra līnija, ka robotus var izmantot tikmēr, kamēr tie ir atpazīstami kā roboti. Tā būtu dziļāka diskusija, taču ir nepareizi, ka robotu programmas, kuras šķietami ir cilvēki, masveidā izmanto, lai radītu dažādus efektus, kuri reālā dzīvē nepastāv. Es domāju, ka tā pamatprakse būtu aizliedzama, taču būtu lietas, kuras varētu atstāt legālā jomā. Bet par to vēl būtu jāpadiskutē ar mārketinga un šīs jomas speciālistiem.

Nākamā lieta ir politiskā prakse. Manuprāt, robotizētu tīklu izmantošana, lai popularizētu savu politisko ziņu, nav pareiza. Automatizētu troļļu sistēmu izmantošanai, man liekas, arī nevajadzētu būt atļautai. Un visbeidzot, par tā saucamajos lielajos datos balstītu mikromērķēšanu arī diezgan skaidri jāpasaka, kur ir tā robeža, ko drīkst, ko nedrīkst.

Jūs noteikti esat dzirdējis par mūsu eksperimentu ar karavīriem – savāc visus atvērtos datus un uz to pamata principā panāc, ka karavīrs izdara kaut ko, kas pilnīgi noteikti ir racionāli pretējs viņa vistiešākajām interesēm. Un mēs kā centrs jau neesam ne lieli, ne arī ļoti tehniski tālu attīstījušies, noteikti ir arī spēcīgāki spēlētāji. Man liekas, arī šeit ir jāievieš tās robežas, kuras drīkst, kuras nedrīkst pārkāpt.

Un visbeidzot trešā lielā lieta, kas arī saistās ar šo mūsu eksperimentu, ir dati kā vērtība. Šobrīd neviens no mums īsti neapzinās to kopējo datu vērtību, ko mēs radām. Un to, ko tas nozīmē vispār ekonomiski, un arī, kādu varu tas iedod tam, kuram ir pieeja šiem datiem. Manuprāt, būtu jāpārskata regulējuma formāts – ne tikai politikas, bet arī vispārējā jomā –, lai, pirmkārt, cilvēkam pašam būtu lielāka teikšana pār to. Manuprāt GDPR (Vispārīgā datu aizsardzības regula), to nav panākusi. Otrs – arī skaidri noteikt to, ka, piemēram, Latvijas sabiedrības lielie dati ir viena no kritiskākajām nacionālās drošības infrastruktūras sastāvdaļām. Un tad ar attiecīgām procedūrām nodrošināt, lai mēs pret tiem izturētos tik rūpīgi, cik ir nepieciešams no nacionālās drošības perspektīvas. Bet, protams, lai tas viss notiek tā, ka mēs nesagraujam mūsu spēju konkurēt globālajā tirgū.

Kā mēs zinām, Ķīna strauji attīstās, un tur ne tikai kompāniju dati, tur visi dati ir Ķīnas valsts dati, tad nu apjoms ir milzīgs. Viņi iet uz sociālā kredīta sistēmu, visās vietās ir sejas atpazīšanas sistēmas, piemēram, Pekinā, lai saņemtu tualetes papīru, jātaisa sejas atpazīšana. Tur redzam, kur autoritāri domājošas valdības iet, un mums jāskatās, kā mēs, pirmkārt, aizsargājamies pret tādām spējām citur, otrkārt, kā panākam, lai mums pašiem tendences šajā virzienā neattīstītos.

Kad jau pieminējāt Ķīnu, tad jau, mazliet novirzoties no tēmas, jāpavaicā – cik aktīvi ir ķīnieši jūsu centra pētītajā tirgū?

Šajā aspektā ķīniešu tur principā nav. Jo viņi citādi spēlē – viņiem pašiem savas tehnoloģijas. Un Ķīnas stratēģija daudz vairāk ir tāda, ka viņi padara savas tehnoloģijas kā konkurentus. Nu, piemēram, Alibaba – kas notiek ar Alibaba datiem, kur tie atrodas, kāda ir to vērtība? Pie mums nav populārs, taču virknē valstu ļoti populārs ir Winchat – tāds kā hibrīds starp tviteri, instagramu un iepirkšanās vietu. Kanādas pētnieki to ir pētījuši ļoti padziļināti, un, piemēram, secina, ka tur joprojām notiek cenzūra. Austrālijā ir aptuveni trīs miljoni Winchat lietotāju, kuri to izmanto ļoti aktīvi, bet joprojām šajā platformā, arī vēlēšanu laikā, ir Ķīnas cenzūra.

Bet šajā, kur tagad krievi dominē, ķīnieši, manuprāt, nespēlē, tur ir citi spēlētāji. Piemēram, mums tikko bija ziņojums par Filipīnām, kur ir ļoti, ļoti spēcīga manipulāciju industrija. Tā gan atšķiras no krievu, nav tikai uz robotizētajiem tīkliem, bet ir jau pilna servisa manipulācija. Un, tā kā viņi angliski labi zina, tad viņus bieži vien izmanto arī Eiropas un Amerikas kampaņās.

Kas ir pilns serviss? Kas ir tajā komplektā?

Tur ir gan robotu tīkli, gan cilvēku troļļi un klikšķi, tur ir cilvēku radīts saturs, un tur eksperimentē tādā lielā rāmī, kas kļūs īpaši populārs, bet jau ar zināmu korelāciju, lai radītu vēlamo efektu. Tāpēc, ka paši ir angļu valodas vidē, daudzi uzskata viņus par “patient zero”, proti, no kurienes viss sākas.

Vai tas sākās Filipīnās?

Jā. Tur tā industrija ir ļoti spēcīga. Mums par to tikko ir atsevišķs pētījums. Mēs dabūjām vietējos pētniekus, kuri gāja iekšā tajās kompānijās un troļļu fermās un intervēja to darbiniekus, arī par motivāciju, kāpēc viņi to dara un kā par to jūtas, un tos modeļus zīmēja.

Katrā ziņā lielā problēma ir, ka mēs varam pēkšņi savās vēlēšanās ieraudzīt krievu robotu tīklus, filipīnieši troļļus – nu, labi, pie mums mazāk, bet, piemēram, Eiropas līmeņa vēlēšanās – , un varbūt vēl kaut kādus Indijas tīklus klāt. Un neviens no tiem nebūs īstais spēlētājs, kāds būs vienkārši nopircis šos, lai panāktu sev vēlamo efektu. Tāpēc arvien grūtāk paliek saprast, kas ir tas reālais pasūtītājs. Tas, protams, pirmkārt, sarežģī politisko procesu. Otrkārt, šādas metodes padara interesantākas, jo tevi grūtāk pieķert. Un visbeidzot – jāsaprot, ka risinājums arī var būt tikai, nu, es neticu, ka globāls, bet vismaz Rietumu pasaules līmenī.

ASV specdienesti ir pierādījuši, ka Krievija ir iejaukusies vēlēšanās, izmantodama pamatā jūsu pētījumā nosauktās platformas. Tagad tuvojas nākamās vēlēšanas, un uzzinām, ka prezidents Tramps Baltajā namā pusdieno ar Facebook īpašnieku Zakerbergu. Vai esam situācijā, ka spēcīgākās demokrātijas izpildvaras vadītājs, iespējams, pasūta savu pārvēlēšanu tieši tām platformām, kuras izmanto jūsu minētie tumšie spēlētāji?

Ļoti gribētos cerēt, ka demokrātiski līdzsvari joprojām gana labi strādā Amerikas Savienotajās Valstīs un šāda veida pakalpojumus pasūtīt nevar vai, ja kaut ko var pasūtīt, tad tas ir universāli pieejams visiem politiskiem kandidātiem.

Paga, vai jūs gribat teikt – kuram vairāk naudas, lai manipulētu ar sabiedrisko domu, tam arī vara? Vai tā vairs ir demokrātija?

Par to jau es arī runāju – ka tas, manuprāt, nav pareizi, ka šobrīd nav ierobežojumu šāda veida manipulācijai. Ka vajadzētu tā kā saprast, kur ir tie rāmji šajā jaunajā realitātē. Bet Amerikā, protams, vārda brīvību interpretē krietni plašāk nekā Eiropas Savienībā, tāpēc risinājumi noteikti nevarētu būt vienādi.

Bet jebkurā gadījumā viens ir skaidrs – ka vēlēšanas mūsdienās vinnē un zaudē digitālajā vidē. Mēs esam strādājuši ar nu jau krietni daudzām valstīm vēlēšanu drošības nodrošināšanā, un ir skaidra korelācija – tie, kuriem ir spēcīgākas digitālās kampaņas, tradicionāli uztaisa šos pārsteiguma rezultātus, bet tiem, kuriem ir ļoti tradicionālas kampaņas, parasti ir pārsteigums otrā ziņā. Tā ir mūsu pieredze, un, es domāju, Amerikā tas ir it īpaši svarīgi. Bet nedomāju, ka tikšanās Baltajā namā varētu radīt vienai kampaņai lielākas priekšrocības nekā otrai. Starpību rada, protams, naudas apjoms un rīki, un prasmes darboties šajā vidē.

Vai nesanāk, ka kampaņa ir par to, kurš veiklāk apčakarēs vēlētājus digitālajā vidē?

(Smejas) Nu, redziet, vienmēr var būt plaša diskusija par to, kā vēlēšanu kampaņas īstenotas visā demokrātijas vēsturē.

Bet līdz šim tie bijuši vismaz dzīvi cilvēki, nevis roboti.

Jā, spēju strādāt uz emocijām un instinktiem digitālā vide ir pastiprinājusi. Tas ir noteikti, un tas kļuvis spēcīgāk nekā, teiksim, mūsu vecajā labajā informācijas telpā, kur bija tradicionālie mediji, bija redakcijas, kurām bija redakcionālā politika un arī pārraudzība. Tagad tas viss principā zaudē savu spēku un efektu, līdz ar to cilvēku emocijas un instinkti šajā vidē ir ļoti viegli atraisāmi.

Mums nesen bija arī seminārs par to, kas ir tās komercprakses. Bija ļoti interesanti runātāji, kuri stāstīja par Trampa kampaņu 2020 un kādā veidā viņi izmanto to, lai spētu principā gandrīz līdz pāris cilvēku apjomam individualizēt to, ko viņi tiem saka. Nevis tā, ka tu runā abstraktam apjomam, teiksim, desmit tūkstošiem, bet gan trim vai četriem, saprotot, ko tie cilvēki domā, kādi ir viņu priekšstati, kas viņiem rūp. Un dara to konstanti, katru lietu, kas notiek, mēģina pasniegt caur šādu komunikāciju. Un tas šobrīd nav ārpus rāmjiem. Protams, Amerika ļoti ātri adaptē visas šīs tehnikas un metodoloģijas, bet, es domāju, tas sāks nākt arī iekšā Eiropā.

Dzīvodami uz robežas, mēs zinām, ka ne tikai vēlēšanās var notikt nepatīkamas lietas. Kā šīs tehnoloģijas izmanto saspīlējuma radīšanai un kā var izmantot arī nopietnas krīzes izraisīšanai?

Var izmantot ļoti veiksmīgi. Principā ir jāuztausta vājais punkts un posms, un, ja esi gana labi savus tīklus integrējis tajā vietā, kur šīs sabiedrības cilvēki smeļas informāciju, tad ir vienkārši radīt šūmēšanos, emocionālo izvirdumu. It īpaši, ja sabiedrība nesaprot, ka tajos tīklos ir riski un ka ne viss, ko redzi, ir taisnība. Un ka pirmā lieta, kas jāapšauba, ir tieši tā, kura tev liekas riktīgi pareiza. Jo tas ir, kā tas mūsdienās strādā – cilvēki jau it kā pasaka, ka, jā, es zinu, tur ir manipulācija, tomēr vienmēr iekrīt, ja manipulācija apstiprina to, ko viņi grib, lai tā apstiprina. Un, ja šīs zināšanas nav, tas ir pietiekami vienkārši, un, attīstoties šīm mikrotārgetēšanas spējām, var trāpīt ļoti precīzi pat ļoti šaurām grupām.

Protams, šie riski pieaug, attīstoties tehnoloģijām, un, domāju, mēs ne tuvu neesam ceļa galā. Mēs esam pašā sākumā. Jau teicu, kā ar laiku mākslīgais intelekts ieies robotizētos tīklos. Ceru, ka vēlāk, nekā ātrāk, bet tas būs ļoti saistīts ar resursu pieejamību, jo tehnoloģiski tas jau tagad ir iespējams. Bet tā saucamie deep fake, manuprāt, ļoti graus. Ne tikai tas, ka kādu, lai diskreditētu, ieliks situācijā, kurā cilvēks nekad nav bijis, bet arī tas, ka sagraus ticamību jebkam, kas ir video vai audio, un tad vienīgais parametrs būs – vai es gribu tam ticēt vai nē. Tas padarīs kopainu vēl sliktāku.

Vēl, manuprāt, liela ietekme tuvākajā laikā būs arī sejas atpazīšanas tehnoloģijām. Ne tikai cilvēku identificēšanai. Tagad arvien vairāk tehnoloģiski no cilvēka sejas izteiksmes un grimasēm var nolasīt iekšējo psiholoģisko raksturojumu, paradumus un citas lietas. Tas droši vien arī paspilgtinās un pastiprinās iespējas no ārpuses ļoti dziļi saprast sabiedrību un individuālās motivācijas.

Un visbeidzot, protams, kad ienāks 5G, tas nebūs tikai par telefoniem vai ātrāku internetu, tas būs par lietu internetu. Tad datu apjoms, kas sāks nākt ārā, turklāt manipulācijai ārkārtīgi vērtīgu datu apjoms – principā varēs zināt par cilvēku pilnīgi visu – un kopā ar spēcīgu mākslīgā intelekta spēju – ka var izprocesēt cauri to apjomu un tad atkal atpakaļ noindividualizēt, – tam būs baigas sekas.

Nākamgad strādāsim pie tā, pētīsim dziļāk šo tehnoloģisko aspektu Ķīnas sociālo kredītu sistēmai. Tas ir mazliet citā rakursā, taču ir tas, par ko mums ir jādomā un jāuztraucas, kā tas izskatīsies. Tur vēl būs liela dinamika.

Jūs esat minējis dažus konkrētus piemērus, kad varēja novērot manipulēšanu nolūkā pastiprināt konkrētus procesus, piemēram, “dzeltenās vestes” Francijā. Kādas tendences pēdējā laikā Latvijā esat novērojis, kuras Krievija saviem mērķiem un nodomiem mēģina līdzīgā veidā pastiprināt?

Pirmais, ko es redzu, ir, ka Krievijas lielā interese vairs nav ne Latvijā, ne Lietuvā, ne Igaunijā. Tā ir pārvirzījusies citur, mēs esam kļuvuši krietni vien sekundāri un neredzam tos spēcīgākos spēlētājus, resursi tiek virzīti pamatā citur.

Uz kurieni – uz Ameriku, Ukrainu, Franciju, Spāniju?

Šobrīd, es domāju, Amerika ir galvenā. Nu, protams, arī Ukraina, Tuvie Austrumi – tur viņi ļoti daudz iesaistīti. Mēs esam tādi, kurus turēt, lai temperatūra ir, bet neredzu, ka šeit būtu investīcijas.

Un otra interesanta lieta – es redzu, ka šeit viņi vairāk prioritizē vecās metodes. Tas atšķiras no tā, ko viņa dara krietni daudz citās valstīs, kur jaunās metodes iet pa priekšu, bet tās vecās, protams, joprojām ir, taču ir sekundāras. Šeit ir otrādi.

Un vecās metodes – kādas tieši?

Politiskā ietekme, tieši vai pastarpināti īpašumā esoši mediji, dažāda veida ietekmes aģenti – tas viss jau nekur nav aizgājis, tikai tās proporcijas ir interesanti skatīties, manuprāt. Tas, ko redzam, ir, protams, par NATO tematiku, ik pa brītiņam kaut kas parādās – ai, cik slikti! Par karavīriem, kas šeit izvietoti, ik pa brītiņam ir, bet vairāk NATO kontekstā. Ar uzplaiksnījumiem. Tas noteikti ir.

Un, kas vēl ir interesanti, šobrīd tās sarunas arvien vairāk un vairāk pārvietojas uz slēgtām grupām, vai ir runa par feisbuku vai vatsapu – tehnoloģiskajā aspektā šādas informācijas izplatīšana pārvietojas šajos virzienos. Līdz ar to arvien grūtāk izsekot, kas patiesībā notiek – gan tiem, kuri novēro situāciju, gan arī no žurnālistikas perspektīvas. To arvien mazāk var realizēt telpā, kura ir visiem redzama. Mēs zinām, ka, piemēram, ir kļuvušas ārkārtīgi populāras Facebook slēgtās vai slepenās grupas, un tas ir viens no pamata veidiem, kā informācija cirkulē. Mums ir pamats domāt, ka Krievijas darbība sākusi virzīties vairāk šajā virzienā.

Jūsu kolēģi Helsinkos, NATO izcilības centrs cīņai ar hibrīddraudiem pērn februārī amatpersonām un politiķiem Briselē rīkoja mācības, kurām bija scenārijs par noslēpumainu vīrusu, kas parādās kādā valstī un ar ko izdodas panākt paniku, haosu un pilnīgu destabilizāciju. Vai esat novērojis mēģinājumus izmantot manipulācijām Latvijā pagājušogad  bērnu inficēšanos Siguldā un pēc tam vēl vairākus kolektīvas saslimšanas gadījumus citur?

Pie mums tas nekad nav bijis līdz galam veiksmīgi, bet, piemēram, tas, ka NATO vai ASV izvietojot bioloģiskas laboratorijas dažādās valstīs un no turienes sākot izplatīties dažādas slimības – tā ir diezgan labi zināma metode. Gruzijā ir ļoti, ļoti aktīvs šāds diskurss, virkni slimību un epidēmiju pieraksta tam, ka tur esot slepena laboratorija. Arī Centrālāzijā bija kaut kas līdzīgs, par Ukrainu tas ir bijis, un bija kaut kad senāk atpakaļ arī mēģinājums Latvijā, man liekas. Nezinu, vai jūsu redakcijai arī, bet kādus trīs gadus atpakaļ bija izsūtīta ziņa medijiem, ka kāds apkopējs vai elektriķis ieraudzījis Lielvārdes bāzē visādas kolbas. Bet Latvijā tas nekad īsti neiesēdās iekšā, taču ir iespējams, ka kaut kādās iekšējās slēgtajās grupās to visu laiku maļ.

Bet mēs jau nemonitorējam visu valsti, tas ir citu uzdevums. Mēs vairāk skatāmies, kur ir jaunās, interesantās metodes. Tāpēc es zinu, ka šī metode ir un dažās vietās ir bijusi diezgan efektīva. Bet, vai tas diskurss būtu izgājis kā viena no pamata sazvērestības teorijām pie mums – Latvijā es to neredzu, arī Lietuvā un Igaunijā ne.

Un kādas ir pie mums ejošākās sazvērestības teorijas?

Tikko ar SKDS vadītāju biju vienā pasākumā, kur izskanēja dati, ka aptuveni trešdaļa vai pat vairāk no mūsu sabiedrības tic dažādām sazvērestības teorijām – par pasaules valdībām un viskautko citu. Tāpēc, pirmkārt, diemžēl, jā, mūsu sabiedrība ir diezgan uzņēmīga pret sazvērestības teorijām, kā rādīja SKDS dati. Lielākā daļa no tām ir tās pašas, kuras dažādos veidos un formās var redzēt jebkurā valstī, tā ka nekas mums specifisks. Attiecībā uz NATO un drošību neko tādu īpašu neesmu dzirdējis, manuprāt, tur ir vairāk par politiku.

Vai šobrīd ir manipulāciju mēģinājumu uzplaiksnījums par ASV sankcijām Lembergam?

Nē, neesam novērojuši. Nu, ir, protams, publiskās ziņas, kuras krievu mediji pasnieguši specifiskā mērcē, bet, ka to speciāli dzītu uz priekšu Latvijas telpā, neesam redzējuši. Bet jāpaskatās, tas jau ir esošs notikums. Nākamajā ceturksnī mums būs jāuztur jauni mērījumi par robotu tīklu uzvedību šajā mūsu vidē, tad redzēsim. Es pieļauju, ka gan jau kaut kas tur būs. Bet šobrīd neredzam, ka būtu kaut kas tāds liels un mērķtiecīgs.

Bet, kā jau teicu, ja gadus septiņus, astoņus atpakaļ bijām karstā vieta šajā jomā, tad tagad neredzu vairs, ka esam tajā pašā prioritātē. Tagad, ja grib redzēt Eiropā tiešām nekaunīgas un attīstītas manipulācijas, drīzāk jābrauc uz Balkāniem nekā pie mums.

Atgriezīsimies pie pētījuma. Tajā jūs pat sarindojāt četras lielākās platformas pēc dažādiem kritērijiem, kuras ar problēmām tiek galā labāk, kuras sliktāk. Tomēr tās izskatās pēc sīkām niansēm, bet kopējais iespaids ir šausmīgs – tās slēdza tikai niecīgu procentu pat no tiem kontiem, kurus jūs simtprocentīgi droši uzrādījāt kā viltotus. Vai varam secināt, ka arī šīm sociālajām platformām ir izdevīgi, ka tās izmanto šādām manipulācijām?

Šī mūsu publikācija radīja diezgan lielu rezonansi. Liela daļa globālo mediju to pārpublicēja un, kā jau labiem medijiem pienākas, pēc tam vērsās ar jautājumiem pie kompānijām. Ar mums šīs kompānijas īpaši vairs nerunā. (Smejas) Un esmu skatījies – feisbuks saka, cik miljonus tērē, cik daudz cilvēku tajā ieguldījis…

Un slēdzis kontus…

Par slēgtiem kontiem man ir specifisks komentārs.

Tos slēdz lielākoties radīšanas brīdī?

Jā, un, ja tu laid automātisku sistēmu, kas sekundē rada kontu vai vairākus, ja tev divu minūšu laikā viens konts iziet cauri, tas ir gana labi. Un, ja to operāciju veic entās vietās pa pasauli, tad tas nav tik sarežģīti. Es kā indikatoru vairāk skatos manipulācijas cenu. Ja tā ir tik zema, nu, tad tā nav problēma! Un vistrakākais ir, ka, līdzko esi uztaisījis [kontu], viņi a priori pieņem, kad tad tas ir dzīvs cilvēks. Un tad tev ir principā brīvas rokas darīt jebko.

Starp citu, ir vēl viena lieta – tur ir arī tā saucamais kontu tirgus. Un jauns konts maksā lēti. Bet, ja ir nobriedināts kā vīns un apstrādāts vairāku gadu laikā, tāds ir daudz dārgāks. Un var pirkt arī jau specifiskus kontus. Piemēram, es gribu divus vīriešus Jēkabpilī, desmit sievietes un astoņpadsmit jauniešus no Rīgas. Un tādus kontus var nopirkt un sākt izmantot savai manipulācijai. Tas ir vēl viens aspekts papildus tam, kas ir automātisks. Tas, protams, prasa cilvēku iesaisti, bet ir ļoti, ļoti efektīva metodoloģija, lai radītu ietekmi.

Mēs redzam, ka viņi [lielās platformas] iegulda kaut ko, bet mēs neredzam, ka ir rezultāts. Viena vaina, manuprāt, ir tajā, ka līdz šim viņi pieņēmuši, ka cilvēki neko citu nevar darīt, kā vien ticēt, ko tiem saka. Jo nevienam nav pieejas datiem. Tviteri var analizēt [ar atvērto API jeb Application Programming Interface], bet nevienu citu platformu nevar. Un tad nāk kaut kādi riebekļi kā mēs, kas pēkšņi saka – hei, ja tā paskatās, jūs jau neko daudz neesat darījuši! Tas noteikti viņiem nepatīk.

Otra lieta ir, ka šiem lielajiem uzņēmumiem daļa no akciju cenas ir atkarīga no tā, cik ir aktīvo lietotāju. Un roboti ir ļoti aktīvi lietotāji. Es gan domāju, ka šobrīd varbūt tā sāpe no tā visa ir pārāk liela, bet viņi radījuši milzīgas, globālas sistēmas, kuras, manuprāt, nespēj pārvaldīt, vienkārši netiek tam līdzi.

Kāda reakcija uz pētījumu ir jūsu centra patronu NATO valstīs?

Šobrīd, protams, visi priecājas, ka beidzot kaut kādi šādi dati vispār ir pieejami, jo, kā jau teicu, lielākoties cilvēkiem bija nācies paļauties uz to, ko šīs kompānijas saka, bet nu ir empīriski redzams, ka tā nav. Beidzot ir kaut kādi pieejami dati. Es skatījos – globālā reakcija ir spēcīga un pozitīva, lielākā daļa globālo mediju par šo rakstīja kā par problēmu, kas ir jārisina.

Es skatījos, ka arī Eiropas Savienības tieslietu komisāre [Vera] Jurova reaģēja, ka tur ir vairāk jādara.

Nu, jā, viņas konts arī bija jūsu eksperimentā.

(Skaļi smejas) Mēs domājam uz priekšu! Viņa reaģēja un teica, ka tiešām kaut kas jādara, un, protams, tā ir lieta, ko mēs ceram panākt – apziņu, ka lietas nevar palikt tā, kā ir.

Latvijā prezidents Egils Levits jau pirms ievēlēšanas bija ierunājies par Satversmes grozīšanu par digitālajām tiesībām. Vai tas būtu pareizais ceļš?

Nu, redz, kur mums ir jauns pētījums – Towards Rule of Law in the Digital Environment. (Rāda bukletu.) Mums tikko bija arī pasākums Briselē, kurā mēs aicinājām gan Eiropas Komisiju, gan ASV Kongresu, gan ANO par šīm lietām parunāt. Mēs uzskatām, ka divām lietām noteikti ir jābūt plašākam regulējumam – ko nozīmē cilvēktiesības un brīvības digitālā vidē. Digitālajā vidē tas tā kā izšķīst. Un tad jau ir konkrētāki regulējumi, kurus es ieskicēju – politisks process, platformas kā tādas un platformu tīrība no visādiem ļaunprātīgiem piesārņojumiem un dati kā viens no vērtīgākajiem nākotnes ekonomikas un vispār sabiedrības produktiem.

Bet, jā, es piekrītu [prezidenta idejai], tikai man jāsaka, ka digitālajā vidē robežu nav. Līdz ar to mūsu visu interesēs ir, lai regulējums, protams, ar individualizācijas pakāpi, būtu gana starptautisks. Es gribētu Rietumu pasaules kopīgu redzējumu par to. Ideālā pasaulē tam būtu jābūt ANO līmenī, taču mēs saprotam, ka neesam ideāli.

Tāpēc būtu jābūt vismaz Eiropas Komisijas līmenī?

Eiropas Komisija ir minimums, principā vajadzētu panākt, manuprāt, lai būtu Eiropas Komisija ar zināmu koordināciju ar ASV. Tie ir tie divi lielie punkti, un būtu ļoti slikti, ja šī dēļ rastos vēl papildus berzēšanās starp Eiropu un ASV, kaut gan intereses šajā gadījumā ir kopējas. Arī vērtējot to Senātā un Kongresā, palielinās izpratne par nepieciešamību likt kaut kādus rāmjus. Mūsu redzējumā mēs mēģinām arī Kongresu iesaistīt. Viņiem arī ir interese, tā ka vairs nav, kā bija pirms gadiem pieciem – nekādu regulāciju, neko negribam dzirdēt! Tas ir mainījies, manuprāt. Uz pasākumu Briselē bijām aicinājuši Eiropas Komisijas, ASV Kongresa un ANO pārstāvjus, lai runātu par to, kādi regulējumi nepieciešami, kas ir tie pamatprincipi, kas iztrūkst, lai varētu šo vidi sakārtot un mēs visi varētu tajā justies komfortabli.

Vai bija atsaucība un kopīga izpratne par darāmo?

ASV Vācijas Maršala fonda cilvēki, ar kuriem kopā un kuru telpās mēs to rīkojām, bija ļoti pārsteigti par to, cik daudz cilvēku bija un cik ļoti ieinteresēta bija auditorija – pārstāvniecības, vietējās domnīcas, Komisijas pārstāvji. Tas acīmredzami kļūst par karstu sarunas tēmu. Es ceru, ka tā kļūs arvien karstāka, runājot par risinājumiem. Es to redzu kā demokrātijas nākotnei eksistenciālu tēmu – tehnoloģiju potenciāli graujošo lomu procesos, kuri ir demokrātijas pamatu pamatā. Un nav tā, ka to nevar risināt, taču, to nerisinot, tiešām neatrisinās.