Mašinų žudiko vaiduoklis tęsiasi. Kuo tiki prezidentas Putinas?

Karinių robotų šalininkai (1) teigia, kad automatizuoti ginklai suteikia daugiau galimybių apsaugoti žmogaus gyvybę. Mašinos sugeba priartėti prie priešo arčiau nei kariai ir teisingai įvertinti grėsmę. O emocijos kartais paralyžiuoja gebėjimą priimti teisingus sprendimus.

Daugelis robotų žudikų naudojimo šalininkų tvirtai tiki, kad dėl jų karai bus mažiau kruvini, nes žus mažiau karių. Jie pažymi, kad robotai, nors ir nejaučia gailesčio, yra atsparūs neigiamoms žmogaus emocijoms, tokioms kaip panika, pyktis ir kerštas, kurios dažnai sukelia karo nusikaltimus.

Žmogaus teisių aktyvistai taip pat remiasi argumentu, kad per pastarąjį pusšimtį metų dėl kariuomenės labai sumažėjo civilių aukų, o kariuomenės robotizavimas leidžia sukurti mechanizmą, leidžiantį griežčiau vykdyti karo įstatymus. Jie tvirtina, kad mašinos taps etiškos, kai bus aprūpintos programine įranga, kuri privers paklusti karo įstatymams.

Žinoma, daugybė žmonių, įskaitant labai žinomus, daugelį metų nepritaria šiai nuomonei. 2013 m. balandžio mėn. buvo pradėta tarptautinė kampanija su šūkiu (2). Pagal šią programą nevyriausybinės organizacijos reikalauja visiškai uždrausti naudoti autonominius ginklus. Daugelio šalių ekspertai pirmą kartą susėdo aptarti šią temą JT nusiginklavimo konferencijoje Ženevoje 2014 m. gegužės mėn. Po kelių mėnesių „Human Rights Watch“ ir Harvardo universiteto mokslininkų paskelbtoje ataskaitoje teigiama, kad autonominiai būtų pernelyg pavojingi – jie patys pasirinko taikinius ir žudė žmones. Tuo pačiu metu nėra labai aišku, kas turėtų būti patrauktas atsakomybėn.

2. Demonstracija kaip akcijos „Sustabdykite robotus žudikus“ dalis

Ką gali padaryti mažų dronų spiečius

Ginčai dėl robotų žudikų (ROU) tęsiasi daugelį metų ir neblėsta. Pastarieji mėnesiai atnešė naujų bandymų sustabdyti karinius robotus ir bangą pranešimų apie naujus tokio tipo projektus, kai kurie iš jų net bandomi realiomis kovinėmis sąlygomis.

2017 m. lapkričio mėn. vaizdo įrašas, kuriame mirtinus mini dronų būrius ., siaubingame veiksme. Žiūrovai pamatė, kad mums nebereikia sunkiųjų karo mašinų, tankų ar raketų, kurias plėšrūnai svaidė masiškai ir su kulkosvaidžiais. Pagrindinis režisierius Stuartas Russellas, Berklio dirbtinio intelekto profesorius, sako:

-

Praėjusį pavasarį penkiasdešimt profesorių Žymiausi pasaulio universitetai pasirašė kreipimąsi į Korėjos pažangiųjų mokslų ir technologijų institutą (KAIST) ir jo partnerį Hanwha Systems. jie paskelbė, kad nebendradarbiaus su universitetu ir nepriims KAIST svečių. Priežastis – abiejų institucijų vykdoma „autonominių ginklų“ statyba. KAIST paneigė žiniasklaidos pranešimus.

Netrukus po to JAV daugiau nei 3 Google darbuotojai protestavo prieš įmonės darbą kariuomenei. Jie buvo susirūpinę, kad „Google“ bendradarbiauja su vyriausybiniu projektu kodiniu pavadinimu „Maven“, kurio tikslas – AI atpažinti objektus ir veidus kariniuose dronų vaizdo įrašuose. Įmonės vadovybė teigia, kad „Maven“ tikslas – gelbėti gyvybes ir gelbėti žmones nuo varginančio darbo, o ne agresijos. Protestuotojai nebuvo įtikinti.

Kita mūšio dalis buvo deklaracija dirbtinio intelekto ekspertai, įskaitant dirba su Google projektu ir Elonas Muskas. Jie žada nekurti robotų. Jie taip pat ragina vyriausybes sustiprinti pastangas reguliuoti ir apriboti šiuos ginklus.

Pareiškime iš dalies sakoma, kad „sprendimo atimti žmogaus gyvybę niekada neturėtų priimti mašina“. Nors pasaulio kariuomenės aprūpintos daugybe automatinių įrenginių, kartais pasižyminčių dideliu autonomiškumu, daugelis ekspertų baiminasi, kad ateityje ši technologija gali tapti visiškai autonomiška, leisdama žudyti be jokio žmogaus operatoriaus ir vado įsikišimo.

Ekspertai taip pat perspėja, kad autonominės žudymo mašinos gali būti net pavojingesnės nei „branduoliniai, cheminiai ir biologiniai ginklai“, nes gali lengvai tapti nevaldoma. Iš viso pernai liepą Gyvybės ateities instituto (FGI) globojamą laišką pasirašė 170 organizacijų ir 2464 asmenys. Pirmaisiais 2019 m. mėnesiais grupė su FLI susijusių medicinos mokslininkų vėl paragino naują laišką, draudžiantį dirbtinio intelekto (DI) valdomų ginklų kūrimą.

Praėjusių metų rugpjūtį Gnieve įvykęs JT susitikimas dėl galimo karinių „robotų žudikų“ teisinio reguliavimo baigėsi sėkme... mašinų. Grupė šalių, įskaitant JAV, Rusiją ir Izraelį, blokavo tolesnį darbą dėl tarptautinio šių ginklų draudimo įvedimo (Konvencijos dėl tam tikrų įprastinių ginklų naudojimo uždraudimo arba apribojimo projektas, CCW). Neatsitiktinai šios šalys yra žinomos dėl savo darbo kuriant pažangias autonominių ir robotinių ginklų sistemas.

Rusija daugiausia dėmesio skiria koviniams robotams

Prezidentas Vladimiras Putinas dažnai cituojamas sakydamas apie karines AI sistemas ir kovinius robotus:

-.

atvirai kalba apie autonominių ginklų kūrimą. Jos ginkluotųjų pajėgų Generalinio štabo viršininkas generolas Valerijus Gerasimovas neseniai karinei naujienų agentūrai „Interfax-AVN“ sakė, kad robotų naudojimas bus vienas pagrindinių būsimų karų bruožų. Jis pridūrė, kad Rusija stengiasi visiškai automatizuoti mūšio lauką. Panašius komentarus išsakė vicepremjeras Dmitrijus Rogozinas ir gynybos ministras Sergejus Šoigu. Federacijos tarybos Gynybos ir saugumo komiteto pirmininkas Viktoras Bondarevas sakė, kad Rusija siekia vystytis Roju technologijostai leistų dronų tinklams veikti kaip vienas darinys.

Tai nenuostabu, jei prisiminsime, kad pirmieji teletankai buvo sukurti Sovietų Sąjungoje 30-aisiais. Jie buvo naudojami Antrojo pasaulinio karo pradžioje. Šiandien kuria ir Rusija tankų robotai tampa vis savarankiškesni.

Putino valstybė neseniai išsiuntė savąją į Siriją Nepilotuojama kovinė mašina Uran-9 (3). prietaisas prarado ryšį su antžeminiais valdymo punktais, turėjo problemų su pakabos sistema, o jo ginklai neveikė idealiai ir nepataikė į judančius taikinius. Skamba nelabai rimtai, bet daugelis mano, kad Sirijos šluostė yra geras kovinis išbandymas, kuris leis rusams patobulinti mašiną.

„Roscosmos“ patvirtino preliminarų planą iki šių metų rugpjūčio į Tarptautinę kosminę stotį nusiųsti du robotus. Fedor (4) nepilotuojamoje sąjungoje. Ne kaip apkrova, bet. Kaip ir filme „RoboCop“, Fiodoras valdo ginklą ir demonstruoja mirtiną taiklumą per šaudymo pratybas.

Kyla klausimas, kodėl kosmose esantis robotas turėtų būti ginkluotas? Kyla įtarimų, kad reikalas yra ne tik antžeminėse programose. Tuo tarpu Žemėje Rusijos ginklų gamintojas Kalašnikovas parodė vizualizaciją robotas Igorekaskas, nors ir sukėlė daug juoko, signalizuoja, kad įmonė rimtai dirba prie autonominių kovos mašinų. 2018 m. liepą Kalašnikovas paskelbė, kad kuria ginklą, kurį naudoja priimdamas sprendimus „šaudyti ar nešaudyti“.

Prie šios informacijos reikėtų pridėti pranešimus, kad rusų ginklininkas Digtyarevas sukūrė mažą autonominis tankas Nerekht kuri gali pati tyliai judėti link savo tikslo ir tada su galinga jėga sugriauti kitus ar ištisus pastatus. Taip pat kaip Tanko T14 armija , Rusijos ginkluotųjų pajėgų pasididžiavimas, buvo sukurtas galimam nuotoliniam valdymui ir nepilotuojamam vairavimui. Sputnik teigia, kad Rusijos karo inžinieriai stengiasi, kad T-14 taptų visiškai autonomiška šarvuota mašina.

Prieštaravimo direktyva

Patys JAV kariuomenė nustatė gana aiškią savo ginklų autonomijos lygio ribą. 2012 metais JAV gynybos departamentas išleido direktyvą 3000.09, kurioje teigiama, kad žmonės turi turėti teisę prieštarauti ginkluotų robotų veiksmams. (nors gali būti ir išimčių). Ši direktyva lieka galioti. Dabartinė Pentagono politika yra ta, kad lemiamas veiksnys naudojant ginklus visada turi būti asmuo ir toks sprendimas turi būti toks. atitinka karo įstatymus.

Nors amerikiečiai jau dešimtmečius naudoja skraidančias, „Predator“, „Reaper“ ir daugelį kitų supermašinų, jos nebuvo ir nėra autonominiai modeliai. Juos operatoriai valdo nuotoliniu būdu, kartais iš kelių tūkstančių kilometrų atstumo. Arši diskusija apie tokio tipo mašinų autonomiją prasidėjo nuo prototipo premjeros. dronas X-47B (5), kuris ne tik skraidė savarankiškai, bet ir galėjo pakilti iš lėktuvnešio, nusileisti ant jo ir pasipildyti degalų ore. Taip pat prasmė šaudyti ar bombarduoti be žmogaus įsikišimo. Tačiau projektas vis dar bandomas ir peržiūrimas.

5. Nepilotuojamo X-47B bandymai amerikiečių lėktuvnešyje

2003 metais Gynybos departamentas pradėjo eksperimentuoti su mažu į tanką panašiu robotu. SPOES aprūpintas kulkosvaidžiu. 2007 metais jis buvo išsiųstas į Iraką. tačiau programa baigėsi po to, kai robotas pradėjo netvarkingai elgtis, netvarkingai judėdamas savo šautuvą. Dėl to JAV kariuomenė daugelį metų atsisakė ginkluotų antžeminių robotų tyrimų.

Tuo pačiu metu JAV armija padidino savo išlaidas operacijoms nuo 20 mln. USD 2014 m. iki 156 mln. USD 2018 m. 2019 metais šis biudžetas jau šoktelėjo iki 327 mln. Tai yra bendras 1823% padidėjimas vos per kelerius metus. Ekspertai teigia, kad jau 2025 metais JAV kariuomenė gali turėti mūšio lauką daugiau robotų kareivių nei žmonių.

Pastaruoju metu daug ginčų sukėlė ir paskelbė JAV armija ATLAS projektas () - automatinis. Žiniasklaidoje tai buvo vertinama kaip anksčiau minėtos Direktyvos 3000.09 pažeidimas. Tačiau JAV kariškiai neigia ir tikina, kad žmogaus pašalinimas iš sprendimų priėmimo ciklo – iš piršto laužtas.

AI atpažįsta ryklius ir civilius

Tačiau autonominių ginklų gynėjai turi naujų argumentų. prof. Džordžijos technologijos instituto robotikas Ronaldas Arkinas savo publikacijose teigia, kad Šiuolaikiniame kare išmanieji ginklai yra būtini norint išvengti civilių aukų, nes mašininio mokymosi metodai gali veiksmingai padėti atskirti kovotojus nuo civilių ir svarbių bei nesvarbių taikinių.

Tokių AI įgūdžių pavyzdys yra patruliavimas Australijos paplūdimiuose. dronai Little Ripperįrengta Sidnėjaus technologijos universiteto sukurta SharkSpotter sistema. Ši sistema automatiškai nuskaito vandenį, ar nėra ryklių, ir įspėja operatorių, kai pamato ką nors nesaugaus. (6) Jis gali atpažinti žmones, delfinus, valtis, banglentes ir objektus vandenyje, kad atskirtų juos nuo ryklių. Jis gali labai tiksliai aptikti ir identifikuoti apie šešiolika skirtingų rūšių.

6. „SharkSpotter“ sistemoje atpažinti rykliai

Šie pažangūs mašininio mokymosi metodai padidina žvalgybos iš oro tikslumą daugiau nei 90%. Palyginimui, žmogus operatorius panašioje situacijoje tiksliai atpažįsta 20-30% objektų aerofotografijose. Be to, prieš pavojaus signalą žmogus vis tiek patikrina tapatybę.

Mūšio lauke operatorius, matydamas vaizdą ekrane, sunkiai gali nustatyti, ar ant žemės esantys žmonės yra naikintuvai su AK-47 rankose, ar, pavyzdžiui, ūkininkai su lydekomis. Arkinas pažymi, kad žmonės linkę „matyti tai, ką nori matyti“, ypač stresinėse situacijose. Šis efektas prisidėjo prie to, kad 1987 m. USS Vincennes atsitiktinai numušė Irano lėktuvą. Žinoma, jo nuomone, dirbtinio intelekto valdomi ginklai būtų geresni už dabartines „išmaniąsias bombas“, kurios tikrai nėra jautrios. Praėjusį rugpjūtį Saudo Arabijos lazeriu valdoma raketa Jemene pataikė į autobusą, pilną moksleivių, ir žuvo keturiasdešimt vaikų.

„Jei mokyklinis autobusas yra tinkamai paženklintas, jį identifikuoti autonominėje sistemoje gali būti gana lengva“, – teigia Arkinas žurnale „Popular Mechanics“.

Tačiau atrodo, kad šie argumentai neįtikina kovotojų prieš automatinius žudikus. Be robotų žudikų grėsmės, reikia atsižvelgti ir į dar vieną svarbią aplinkybę. Net „gerą“ ir „dėmesingą“ sistemą gali nulaužti ir perimti labai blogi žmonės. Tada visi argumentai ginant karinę techniką praranda savo jėgą.