Žurnāla rubrika: Kultūra

Oksfordas Universitātes zinātnisko darbinieku Stjuartu Ārmstrongu biedē pandēmijas un datori, nevis asteroīdi un vispārējā novērošana

Oksfordas Universitātē kopš 2005.gada darbojas Future of Humanity Institute (Cilvēces nākotnes institūts), kurš pēta iespējamos riskus mūsu kā sugas pastāvēšanai. Nesen Rīgā viesojās institūta zinātniskais līdzstrādnieks Stjuarts Ārmstrongs (Stuart Armstrong) un piekrita dalīties savās pārdomās par iespējamām X stundām un pastardienas variantiem.

Kas ir lielākie draudi cilvēcei?
Pašlaik mēs esam identificējuši «top piecnieku». Pirmais ir pandēmijas.

Nevis globālā sasilšana?
Tā nav pietiekami bīstama, lai būtu sarakstā. Protams, ja neklausāties globālās sasilšanas noliedzēju apgalvojumos, ka par to ir «liela neskaidrība». Tā ir visbiedējošākā lieta, ko var iedomāties, jo tādā gadījumā rezultāts var būt daudz sliktāks par prognozēto.

Globālā sasilšana radīs lielas ciešanas nabadzīgākās valstīs un bagātajām valstīm izmaksās daudz naudas, taču, ja nenonākam ekstrēmo un zemas varbūtības risku zonā, nav ticama scenārija, kura rezultātā globālā sasilšana varētu apdraudēt cilvēci. 

Toties pandēmijas ir vēstures lielākās slepkavas. Iespējamā variācija 20.gadsimtā baku nogalināto cilvēku skaita aplēsēs ir lielāka nekā kopējais Pirmajā un Otrajā pasaules karā mirušo skaits. Man šķiet, ka cūku gripa [pirms četriem gadiem] inficēja starp ceturto un trešo daļu no visiem Zemes iedzīvotājiem. Mums laimējās, ka mirstība bija tik zema. Spāņu gripa [pēc Pirmā pasaules kara] nogalināja 5% pasaules iedzīvotāju. Starp citu, kāds ir atšifrējis šīs gripas genomu un ievietojis to internetā. Paldies!

Mēs diezgan daudz zinām par pandēmijām, un tās ir visai biedējošas, sevišķi dažādi gripas paveidi. Varbūtība, ka tā varētu iznīcināt cilvēci, ir zema, taču ne tik zema, lai mēs justos ērti.

Cik lielu daļu riska rada dabiskas mutācijas, cik lielu – kāda terorista apzināta vēlme izplatīt nāvējošu slimību?
Tas noved mūs pie otrā riska – sintētiskā bioloģija: šūnu, dzīvu organismu un patogēnu manipulācija noteiktu mērķu sasniegšanai. Bioterorisms, bioloģisko ieroču riski, labi domāti, bet beigās kaitīgi eksperimenti. Sintētiskajā bioloģijā ir lielas iespējas visam beigties slikti. Šajā laukā ir liela neskaidrība. Iespējams, riski ir mazi, un pēc desmit gadiem mēs varēsim par tiem pasmieties. Taču iespējams, ka tie ir daudz lielāki, nekā mums šķiet.

Nākamais risks ir atomkarš. Tas nekur nav pazudis. Jebkurā konkrētajā gadā risks ir mazs, bet, saskaitot visus gadus kopā, tas var kļūt visai ievērojams. Būtu jāiestājas «kodolziemai» (daudzu atomsprādzienu izraisītā degšana atmosfērā izmestu lielu daudzumu dūmu un kvēpu, kas ievērojami samazinātu Zemi sasniedzošās saules gaismas apjomu – red.), lai atomkarš iekļautos mūsu apskatīto draudu sarakstā.

Nesen izstrādāti modeļi, šķiet, apstiprina, ka tāds efekts varētu būt. Problēma ir tā, ka nevar nosvilināt pilsētu ar atombumbu, lai šos modeļus pārbaudītu.

Ceturtais risks ir mākslīgais intelekts, ar kuru saistīta visvislielākā neskaidrība.

Kādu risku rada mākslīgais intelekts?
Risku radītu dažādu faktoru sakritība. Pirmkārt, būtu jāattīsta mākslīgais intelekts. Otrkārt, tam būtu jābūt ārkārtīgi gudram. Treškārt, šī milzīgā inteliģence ļautu tai iegūt milzīgu varu. Ir vairāki ceļi, pa kuriem mēs varētu nonākt tādā situācijā, piemēram, mākslīgais intelekts varētu darīt visu kāda liela uzņēmuma darbu vai iegūt kontroli pār akciju tirgiem un tā kļūt ļoti bagāts. Tas varētu iegūt lielu sociālo ietekmi, labi runāt un sasniegt ietekmi politikā. Tas varētu uzlauzt citas tehnoloģijas.

Tad parādās risks, ka mākslīgā intelekta motivācijas varētu nebūt savienojamas ar cilvēces pastāvēšanu. Diemžēl ir daudz mērķu, kuri izklausās jauki, bet kļūst patoloģiski, ja tos realizē kāds ar milzīgu varu. Viens ļoti vienkāršots piemērs. Iedomājieties e-pasta mēstuļu filtru. Ja būtu programma, kuras uzdevums ir izfiltrēt visas mēstules, un tā kļūtu superinteliģenta, superefektīva un tiešām gribētu radikāli samazināt mēstuļu daudzumu, tā varētu izlemt atslēgt internetu. Ja runa būtu par cilvēka prātu, mēs būtu diezgan pārliecināti, ka tas neiztulkotu uzdevumu izfiltrēt mēstules šādā veidā. Taču ir iespējams, ka šis [mehāniskais] prāts darbojas citādi.

Daži cilvēki uzskata, ka mākslīgais prāts tā nerīkotos, jo tas būtu stulbi. Taču runa ir par šīs sistēmas motivāciju, nevis tās inteliģenci. Varbūt tā pat saprastu, kāds bija mūsu mērķis, bet tam nebūtu nekāda iemesla par to uztraukties, izņemot, ja mums izdotos tajā ieprogrammēt moduli, kas uzdod sistēmai šādas lietas uzskatīt par svarīgām.

Piektais risks ir totalitārisma izplatīšanās, pat totalitāra pasaules valdība. Tāpēc mēs apmeklējam drošības konferences. Šis risks gan ir citā kategorijā nekā pārējie.

Finanšu krīzes laikā bieži dzirdējām par šādiem neaprēķināmiem riskiem, tā sauktajiem melnajiem gulbjiem. Kā jūs tiekat galā ar šo neprognozējamību?
Dažādiem riskiem ir dažādas tehnikas, kā tos vērtēt. Pandēmiju gadījumā mums ir diezgan daudz datu. Ne pietiekami, lai īsti novērtētu «astes riskus» (relatīvi mazas varbūtības, bet ļoti liela efekta notikumus – red.), tomēr datu pietiek, lai zinātu, ka šādi riski ir gana augsti. 

Taču mēs patlaban nekoncentrējamies uz pandēmijām, jo ar to jau nodarbojas citi, tāpat kā ar globālo sasilšanu. Mēs tagad sākam dziļi ieskatīties sintētiskajā bioloģijā. Tur tiešām jāvelta laiks, lai saprastu, vai riski faktiski ir iespējami, vai ir iespējams mākslīgi radīt patogēnus ar biedējošām īpašībām.

Diemžēl lielākā daļa cilvēku, kas nodarbojas ar sintētisko bioloģiju, sniedz atbildes, kas balstās sliktā loģikā. 

Piemēram?
Ja prasa, vai var kaut ko izdarīt, viņi uzreiz atbild, ka nevar. Ir skaidrs – ja šis jautājums vēl nav pētīts un pārdomāts, tad viņi vienkārši pavirši kaut ko atbild. Ja viņi sāk problēmu sadalīt sastāvdaļās, apsvērt dažādus variantus, mēģināt aplēst to varbūtību, tad mēs zinām, ka viņi tiešām mēģina kaut ko izdarīt. Tas pats notiek arī mākslīgā intelekta jomā. Kāds šīs jomas pētnieks mums pat teica: nerunājiet par šīm lietām, jo tā rezultātā mums var nogriezt finansējumu!

Vai nebūtu pareizāk vispirms noskaidrot, ir vai nav riski, un tikai pēc tam domāt par finansējumu?!

Kā jūs izvērtējat, kas potenciāli ir problēma? Kā izrēķināt šo notikumu varbūtību?
Dažas varam savā ziņā izskaitļot. Citas varam ignorēt. Supervulkānus mēs ignorējam, jo tiem ir gandrīz precīzi tas pats riska profils kā asteroīdu ietriekšanās Zemē.

Vai esat noraizējušies par asteroīdiem?
Nē. Varbūtība ir pārāk zema.

Medijiem patīk ziņot par šiem akmens gabaliem, kas aizlido garām Zemei.
Jā, bija viens laimīgs gadījums, kad Zemei pietuvojās asteroīds un visas pazīmes lika nopietni apsvērt riskus, ka tas varētu cilvēkus nogalināt. Tas bija ideāli. Pirms vairākiem gadu desmitiem mēs par to nezinājām. Tad cilvēki šo risku sāka uztvert nopietni, mērīt un sekot asteroīdiem, un tagad saprotam, ka risks ir zems. Pateicoties daudzu cilvēku pūlēm, mēs šo jautājumu varam nolikt malā.

Ir citi draudi, par kuriem ik pa brīdim dzirdam. Piemēram, var pietrūkt energoresursu – naftas un gāzes modernās dzīves līmeņa nodrošināšanai.
Es pirms kāda laika veicu aptuvenu aprēķinu. Pieņemsim, ka visi cilvēki dzer tikai destilētu ūdeni, visu enerģiju iegūst no solārām tehnoloģijām un ēd hidroponiski radītu ēdienu (kas audzēts bez augsnes – red.). Saskaitot, cik tas izmaksātu patlaban uz Zemes esošajam cilvēku skaitam, rezultāts ir aptuveni tāds pats, cik mēs pašlaik tērējam lauksaimniecībai un enerģētikai. Protams, aprēķins neņem vērā iespējamos uzlabojumus efektivitātē, tātad droši vien to darīt ir lētāk. Tas arī neņem vērā lielos izdevumus par pāreju uz šādu sistēmu, jautājumus, kas saistīti ar sadali un taisnīgumu. Tomēr svarīgākais secinājums ir tāds, ka mums fundamentālā nozīmē nedraud enerģijas trūkums. Saule vienkārši izstaro pārāk daudz enerģijas, lai tā kļūtu par problēmu, un pat ar pašreizējām cenām solārie paneļi ir pilnīgi pietiekami, lai to savāktu.

Pārapdzīvotība? Cilvēku skaits turpina pieaugt, pietrūkst zemes un citu resursu, lai visus pabarotu.
Maz ticami. Pirmkārt, tikko aprakstītajā scenārijā nepieciešamās platības enerģijas ražošanai nav tik lielas. Vienkāršoti rēķinot, ja palielinās cilvēku skaits, jāsaražo vairāk solāro paneļu. Ja negribam tik ļoti vienkāršot – mēs droši vien sasniegsim Zemes iedzīvotāju skaita maksimumu ap 9-10 miljardi cilvēku. Es negribu noniecināt kaitējumu, kuru izdarām videi. Tas ir briesmīgi, un mēs daudz ko tāpēc zaudējam. Taču tas neapdraudēs cilvēci. Kamēr būs gaiss, ko elpot… Šajā jomā problēmu loks, kuru var atrisināt ar naudu, ir visai plašs.

Politiskie riski? Jūs minējāt, ka cilvēces labklājību, ja ne tieši pastāvēšanu, varētu apdraudēt progresējošs totalitārisms. Kā tas varētu notikt?
Novērošana. Tai ir tendence padarīt sliktus režīmus stabilākus. Tas gan neietilpst mūsu ekspertu zināšanu jomā, mēs neesam politiskie zinātnieki. Mēs labprāt kādus pieņemtu darbā. Tā ir mūsu otrā prioritāte pēc ekonomiskajiem vēsturniekiem, kas varētu noskaidrot, vai būtu iespējama otra industriālā revolūcija pēc pasaules katastrofas. Problēma ir tāda, ka ir tik maz datu. Iesakņotām demokrātijām būtu jāsabrūk, bet tā ir reta parādība. Es, protams, varu teikt, ka novērošanas tehnoloģijas var radīt orvelisku scenāriju ar represīvu valdību, bet – kā to var pārbaudīt? Vai es to teiktu, ja nebūtu lasījis Orvela grāmatu? Man nešķiet, ka Francija ir manāmi brīvāka par Lielbritāniju, kur ir daudz vairāk novērošanas kameru.

Jūs gan uzskatāt, ka pilnīga novērošana nemaz nebūtu slikta lieta. Kāpēc?
Manuprāt, nākotnē kļūs neiespējami saglabāt privātumu. Kameras kļūst lētākas. Pienāks brīdis, kad varēs nopirkt mazu bezpilota spiegošanas lidaparātu par, teiksim, pieciem eiro. Tajā brīdī vecos privātuma ideālus vairs nebūs iespējams uzturēt. Mans kolēģis Anderss Sandbergs (Anders Sandberg) izrēķinājis, ka pēc aptuveni desmit gadiem bagātākās valstis spēs novērot visus savus iedzīvotājus augu diennakti, ja vēlēsies to darīt, jo tas būs kļuvis pietiekami lēti. Vēl pēc kādiem desmit gadiem visas valstis to spēs izdarīt. Turklāt Google un Facebook pierāda, ka cilvēki ir gatavi atteikties no privātuma, un pat it kā anonīmas informācijas atšifrēšana ir ļoti vienkārša. Ir pilnīgi neiespējami iegrožot drošības dienestus, lielās korporācijas. Atklājas aizvien vairāk vājo vietu programmatūrā. Nesen kāds pierādīja, ka zināmos apstākļos ir iespējams cilvēkam izsekot, izmantojot viņa telefonā iebūvēto paātrinājuma mērītāju. Pat krievu kibernoziedznieki vairs nespēj saglabāt savu anonimitāti. Cita starpā galvenais veids, kā viņus atklāja, bija draugu un radu Facebook ievietotā informācija. Tātad, pat ja tavi pretnovērošanas drošības pasākumi ir perfekti, tevi var atklāt, ja nonāc kontaktā ar cilvēku, kuram nav ideāla drošības situācija, un cilvēku vairākumam tādas nav. Visbeidzot, lai nodrošinātos pret to, ka tevi novēro, ka kāds ieraksta tevis teikto vai filmē tevi, tev pašam ir jābūt lielai novērošanas kapacitātei.

Ņemot vērā, ka tāda ir pasaule, es patlaban rosinu uz sousveillance (novērošana no apakšas, pretstatā izplatītajam vārdam surveillance, kura sākotnējā nozīme ir novērošana no augšas – red.). [ASV elektroniskās spiegošanas aģentūra] NSA iegūst informāciju par mums, savukārt mēs uzzinām, ko NSA ar šo informāciju dara. Priekšrocība ir tāda, ka tā mēs necīnāmies pret tendencēm, mēs tām sekojam. Jo visas tendences, kas padara aizvien grūtāku mūsu privātuma pasargāšanu no NSA, padara arī grūtāku NSA privātuma pasargāšanu no mums. Daudzi it kā privātumu sargājošie noteikumi faktiski tam kaitē. Daudzi no vissvarīgākajiem privātumu ietekmējošajiem lēmumiem tiek pieņemti Google valdes sapulču telpās. Vai tu zini, kas tur notiek? Nē, jo tās ir privātas. Likums aizliedz tev to zināt.

-Vēl viena priekšrocība ir mazāka noziedzība. Visi saprot, ka masīva novērošana var mazināt noziedzību. Taču iespējams, ka tā var arī samazināt nepieciešamību pēc policijas un policejiskas varas. Policijai tagad ir daudzas pilnvaras, kuras piešķirtas tikai tāpēc, ka tai ir jāspēj izmeklēt noziegumus, vai tāpēc, ka policisti nezina, vai kādam pūlī ir ierocis. Ja policijas lomu pārņems novērošana, viņiem šīs pilnvaras vairs nebūs nepieciešamas. Viņu darbs sašaurināsies līdz noteikta cilvēka aizturēšanai par noteiktu noziegumu.

Ja notiktu katastrofa, būtu labi, ja glābēji zinātu visu iedzīvotāju atrašanās vietu brīdī, kad sākās zemestrīce. Epidemiologi varētu pētīt dažādu sociālo un medicīnisko problēmu cēloņus un, pats svarīgākais, būtu iespējams novērst pandēmiju un sintētiskās bioloģijas radītos riskus. Varētu novērst atomterorismu, jo būtu grūti, neviena nepamanītam, uzbūvēt atombumbu.

Vai jūs uztraucaties par atomterorismu?
Ne tieši par to. Ir daudzas sliktas lietas, par kurām mēs neinteresējamies. Atomterorisms mūs interesē vienīgi, ja tas kļūst par lielākas nestabilitātes iemeslu, ja to kļūdaini iztulko un tāpēc tas kļūst par atomkara cēloni. Taču, ja valstis varētu cita citu novērot, tās varētu parakstīt līgumus par ieroču skaita samazināšanu, pat ja cita citu ienīst. Šāda novērošana no apakšas var arī novērst noslieci uz totalitārismu, kuru rada novērošana no augšas.

Jūs daudz laika pavadāt, pētot pastardienas scenārijus. Vai domājat, ka jums pašam ir labas izredzes nodzīvot līdz sirmam vecumam?
Man šķiet – ja nenotiks kāda katastrofa, cilvēces nākotne ir ļoti gaiša. Lielākā daļa tendenču ir labas, un sliktās nerada lielus draudus. Mēs esam labāk izglītoti, veselīgāki, karu ir mazāk. Mēs esam bagātāki, šķiet, arī laimīgāki. Visas šīs tendences rāda pozitīvā virzienā. Ir lielāka nevienlīdzība, notiek lielāks kaitējums videi, taču es neredzu scenāriju, kurā šīs parādības rada draudus cilvēces pastāvēšanai. Tātad – ja mūs nenovāc draudi, kurus esmu minējis, es domāju, ka cilvēcei ir brīnišķīga nākotne.

CV

Dzimis 1979.gadā Kvebekā, Kanādā.
1997.gadā beidzis vidusskolu Francijā un ieguvis pirmo vietu nacionālajā skolēnu matemātikas olimpiādē.
2001.gadā absolvējis Kembridžas Universitāti ar grādu matemātikā.
2006.gadā saņēmis doktora grādu matemātikā Oksfordas Universitātē.
Jaunībā dzīvojis Indonēzijā, Ķīnā, Honkongā, Lielbritānijā un Francijā.
No 2008. līdz 2011.gadam pētījumu direktors uzņēmumā, kas veido bioķīmisko reakciju datormodeļus.
Kopš 2011.gada pētnieks Future of Humanity institūtā Oksfordas Universitātē.
Vairāku zinātnisko publikāciju autors.
2014.gadā iznāk viņa pētījums Smarter Than Us: The Rise of Machine Intelligence (Gudrāki par mums: inteliģentu mašīnu augšupeja)