Valodu tehnoloģiju uzņēmuma Tilde vadītājs Andrejs Vasiļjevs kopā ar pasaulē vadošajiem mākslīgā intelekta uzņēmumiem un zinātniekiem ir parakstījis apņemšanos nepiedalīties un vērsties pret nāvējošu autonomu ieroču izstrādi, informē uzņēmums.
Publiskais uzsaukums, kura iniciatoru vidū ir uzņēmuma Tesla dibinātājs Īlons Masks (Elon Musk) un Skype dibinātājs Jans Tallins (Jaan Tallinn), aicina valdības strādāt pie stingrām starptautiskām normām, kas nepieļautu nāvējošu autonomu ieroču izstrādi, ražošanu un izplatību.
“Atsaucoties iniciatīvas autoru aicinājumam, Tilde kopā ar Google DeepMind, SpaceX un simtiem citu uzņēmumu ir apņēmusies nepiedalīties un neatbalstīt nāvējošu autonomu ieroču radīšanu. Mēs daudz strādājam pie mākslīgā intelekta attīstības, tāpēc labi saprotam tā iespējas un arī riskus. Mākslīgajam intelektam, lai cik gudrs tas būtu, nevar ļaut pašam izlemt, kuram dzīvot un kuram mirt. Īpaši bīstama ir šādu mākslīgā intelekta ieroču nokļūšana totalitāru valstu un bandītisku grupējumu rokās. Ceru, ka šai iniciatīvai pievienosies daudzi atbalstītāji pasaulē un arī Latvijā. Aicinām arī Latvijas valdību iestāties par letālu autonomo ieroču starptautisku aizliegumu,” norāda Tildes valdes priekšsēdētājs Andrejs Vasiļjevs.
Aicinājumā uzsvērts, ka cilvēka dzīvība ir pārāk būtiska, lai par to lemtu mašīnas. Mākslīgajā intelektā balstīti ieroči un sistēmas, kuras pieņem lēmumus bez cilvēka līdzdalības, rada gan morālus, gan pragmatiskus draudus. Šādi ieroči ļauj izvairīties no atbildības par to darbības sekām un arī par iespējamajām kļūdām. Vairāki pasaules tehnoloģiju uzņēmumi jau ir saskārušies ar morālas dabas problēmām un sabiedrības nosodījumu.
Nāvējoši autonomi ieroči var kļūt par spēcīgu vardarbības un apspiešanas instrumentu. Šādi ieroči radīs jaunu bruņošanās sacensību, kuras ierobežošanai starptautiskajai sabiedrībai trūkst gan tehnisko līdzekļu, gan globālas pārvaldības sistēmas, tāpēc to ierobežošana ir nacionālo valstu un pasaules drošības interesēs.
Vēstules parakstītāji aicina valdības un valdību vadītājus radīt stingras starptautiskas normas pret nāvējošiem autonomiem ieročiem, un rosina tehnoloģiju uzņēmumus un organizācijas pievienoties šim aicinājumam.
Vēstuli un apņemšanos, kuras iniciators ir Dzīvības nākotnes institūts (Future of Life institute), parakstījušas 164 organizācijas un 2410 indivīdi no 90 pasaules valstīm, tajā skaitā Google DeepMind un Xprize Foundation, Īlons Masks, DeepMind līdzdibinātāji Demis Hasabis (Demis Hassabis), Šeins Legs (Shane Legg) un Mustafa Suleimans (Mustafa Suleyman). Tā tika publiskota Stokholmā no 13. līdz 19. jūlijam notiekošajā starptautiskajā mākslīgā intelekta konferencē IJCAI.
Komentāri (8)
J.Biotops 23.07.2018. 15.40
Poza iznākusi skaista, gadrīz vai pārliecinoša.
Praksē gan jebkuri aicinājumi ierobežot bruņojuma moodernizāciju izrādās bīstami civilizētām valstīm, kurās vara sabiedrības spiediena rezultātā sev uzliek prasītos ierobežojumus. Pa to laiku bandītiskas zemes vienā mierā taisa visu, ko spēj izstrādāt vai nozagt (ar pirkstu taču nerādīsim uz vienu miermīlīgu kaimiņvalsti) un lieto varonīgi, tiklīdz iedomājas, ka varēs palikt nesodītas.
Nu jau septiņdesmit gadus smalkais tonis liek lamāt Japānas atombombardēšanu, nepadomājot, ka bez simttūkstošu upuriem tad bojā pavisam drīz aizietu daudzi miljoni gan tur, gan visā Eiropā. PSRS militāro un citu “aizsardzības” resursu reorganizācija pēdējos 5 Staļina dzīves gados bija pietiekoši daiļrunīga. Brežņeva laikā bailes bija lielākas, bet ideja uzbrukt ar visu, kas sataisīts, tikko paši jutīsies drošībā, pat nostiprinājās (sk. pretraķešu sistēmu izvietojumu)
Kājnieku mīnas cēli aizliedzām, kaut tās civiliedzīvotājiem mazāk bīstamas, kā jebkura bumbošana no gaisa. Kad draudzīgajā kaimiņvalstī sāksies bandu kari, mēs gauži raudāsim pēc mīnu laukiem gar robežu.
Automātiski strādājošu pretgaisa aizardzības ieroču attīstību arī aizliegsim? Lai pasaudzētu no Suņpils (Pskov) 76. desanta trieciendivīzijas bāzes vai no Ostrovas pie mums lidojošu miera nesēju dzīvības? Kaimiņzeme to novērtēs. Adekvāti novērtēs.
2
Sskaisle > J.Biotops 24.07.2018. 10.12
nekādi nevaru tev piekrist, nekādi
Tas, ko ASV izdarīja Japānā ir demokrātiju apkaunojoši, būtībā pat iznīcinoši
Japāna neatzina kapitulāciju, bet faktiski tās bruņoties spēki, tās spēja turpināt karu jau bija iznīcināta. To labi zināja visi, kam tas bija jāzin un tādā situācijā uzlaist 2!!!!! – atombumbas civiliedzīvotājiem ir kauns ASV un pasaulei uz mūžu mūžiem
Tieši tāpat kā Drēzdenes civiliedzivotāju bombardēšana 45.gada sākumā ir gļēvulības, zemiskuma un būtībā – slepkavības akts un tas ir cieti un enpārsūdzāmi un kategoriski
Pasaulei būtu jāatbruņojas, tā milzum milzīgā nauda , ko patērē militāristi, kuru interesēs tiek radīti aizvien jauni briesmoņi un ienaidnieki – tā nauda būtu jāiegulda planētas glābšanā – okeānu un orbītas attīrīšanā, humānimsma, taisnīguma un godīguma nodrošināšanā
1
J.Biotops > Dusma 24.07.2018. 11.16
Nebūsi pirmā, kura nekādi nevar piekrist patiesībai, ja tā nav acīmredzama vai iemācīta pamatskolā.
Pakur, pakur uguntiņu, labo vecenīt…
1
Sskaisle > J.Biotops 24.07.2018. 12.39
absolūti nav vieta jokiem
t runā par slepkavas patiesību
taviem argumentiem ir tikai varbūtība, pie tam minimāla
ja Japāna jau karā bija sagrauta, Hitlers jau līda uz bunkuru – elle un Indija – sasodīts – kāpēc bija jāiznīcina civiliiedzīvotāji
gļēvi un zemiski cukas asiņainās – tas vēl maz par tādiem kara noziedzniekiem teikts
0
kolpants > J.Biotops 25.07.2018. 13.29
Сейчас можно только дискутировать, что было бы, если не Хиросима
Точно так логичны и версии, что именно демонстрация, что может ядерное оружие, сподвигла и другие страны бросить все ресурсы на создание ядерного оружия, так как США продемонстрировали всем, какой у них теперь ресурс.
Избитая фраза “мир во всем мире” будет до тех пор, пока ни одна из сторон не получит подавляющее преимущество.
И кто знает, не получила бы Южная Корея себе второй Ирак или Ливию рядом, если бы у Северной Кореи не было бы ядерного оружия. И что лучше-диктатура и несколько десятков расстрелянных или “демократия” в пакете с гражданской войной и сотнями тысяч жертв.
Automātiski strādājošu pretgaisa aizardzības ieroču attīstību arī aizliegsim?
любая автоматически работающая система опасна внештатным срабатыванием. Кто будет отвечать, если систему взломают и та собьет неверную цель? Только не надо сводить к идеалистической картине “на такое способен только восточный сосед, западные спецслужбы были всегда образцом честности и порядочности”. И это не считая возможность взламывания некой третьей стороной, начиная от Китая и заканчивая фанатиками хакерами.
0
QAnon 23.07.2018. 09.47
Malači. Absolūtā ļaunuma nesēji; Krievija, Irāna, al-Qaeda, Hesbola, Hamas un IGIL varētu nestresojot radīt savus ieročus, ja vien uz pasaules nebūtu arī adekvāti cilvēki, kas saprot, ka tiem izdzimteņiem nedrīkst dāvāt handikapu. Ja ASV 1945. gadā nebūtu bijuši atomieroči, Staļins Jauno gadu būtu svinējis Londonā.
0
Sskaisle 23.07.2018. 08.55
KAS IR NĀVĒJOŠI AUTONOMI IEROČI?
VARU DERĒT , KA DAUDZI TO NEZIN – TIK GRŪTI TO IZKSAIDROT, LAI TAUTA BBŪTU ZINOŠA?
1
0
0
Atbildēt
@kolpants > Dusma 25.07.2018. 13.39
Ну это могло бы примерно выглядеть так.
Некий суперкомпьютер определил, что в сети идет переписка между подозрительными персонами. И по совпадению неких параметров система выносит автоматический вердикт-идет подготовка к теракту. Соответственно программа распознавания лиц начинает отслеживать подозреваемых. Вы даже не представляете себе, сколько сейчас в крупных европейских городах камер, при помощи которых можно отследить эту персону. И в какой-то момент система решает-все, они так близки к теракту, что нужна нейтрализация. Вылетает дрон и наносит точечный удар: или выстрел, или врезается в машину, где едет подозреваемый-это уже технические детали. Да хоть в квартиру в окно влетит и взорвется
И это вовсе не сказки. Фактически сейчас уже есть все технические составляющие такого решения.
Ну или так называемая машина судного дня, которая вроде бы есть у России от СССР. Система сама запустит в ответ ядерное оружие, если зафиксирует ядерные удары по своей территории. Якобы не известно точно, где расположены блоки управления данной системой и где находятся заряды. И якобы это очень отрезвляло США в холодные годы-ты можешь сразу массово поразить все центры управления ядерным оружием, а вдруг где-то в Африке есть секретный блок управления, который активизирует ответный удар. Тем более никак нельзя гарантировать полное уничтожение арсенала СССР.
Но теперь представим, что США вложило миллиарды и разработало оружие космического базирования, которое совершенно точно, на 1000% гарантированно способно поразить любую ракету любой страны мира еще на подлете к территории США…. Кто может прогарантировать, что США не воспользуется теперь этим в любых переговорах?
Ну а что касается автономного-плюс остается всегда риск, что некий хакер, не обязательно из России, все равно взломает эту систему. И кто знает, какую задачу он ей поставит.
0