Siaubo kabinetas

Mašinų augimas ir dirbtinio intelekto užgrobimas valdžioje. Visiško stebėjimo ir socialinės kontrolės pasaulis. Branduolinis karas ir civilizacijos degeneracija. Daugelis tamsių ateities vizijų, nubrėžtų prieš daugelį metų, turėjo įvykti šiandien. O tuo tarpu atsigręžiame ir atrodo, kad jų ten nebuvo. Ar tu tuo tikras?

Yra gana stereotipinis populiariųjų repertuaras distopinės pranašystės (apie juodąją ateities viziją). Be labiausiai paplitusių, susijusių su gamtinės aplinkos ir išteklių niokojimu, plačiai paplitusi nuomonė, kad naujausios technologijos kenkia tarpasmeniniam bendravimui, santykiams ir visuomenei.

Virtuali erdvė apgaulingai pakeis realų dalyvavimą pasaulyje. Kiti distopiniai požiūriai į technologijų plėtrą žiūri kaip į būdą didinti socialinę nelygybę, sutelkti valdžią ir turtus mažų grupių rankose. Aukšti šiuolaikinių technologijų reikalavimai sutelkia žinias ir įgūdžius siauruose privilegijuotų asmenų ratuose, padidina žmonių stebėjimą ir griauna privatumą.

Daugelio futuristų nuomone, didesnis produktyvumas ir didesnis matomas pasirinkimas gali pakenkti žmogaus gyvenimo kokybei, sukeldami stresą, sukeldami pavojų darbo vietoms ir vis labiau materializuodami pasaulį.

Vienas garsiausių technologinių „distopikų“, Džeimsas Gleikas, pateikiamas iš pažiūros nereikšmingas televizoriaus nuotolinio valdymo pulto, kaip klasikinio išradimo, neišsprendžiančio nei vienos reikšmingos problemos, pavyzdį, sukeliantis daugybę naujų. Gleickas, cituodamas technikos istoriką Edvardas Teneris, rašo, kad galimybė ir paprastumas perjungti kanalus naudojant nuotolinio valdymo pultą pirmiausia padeda vis labiau atitraukti žiūrovą.

Vietoj pasitenkinimo žmonės vis labiau nepatenkinti žiūrimais kanalais. Užuot tenkinus poreikius, jaučiamas begalinis nusivylimas.

Ar automobiliai turės mus rezervuoti?

Ar sugebėsime suvaldyti šį neišvengiamą ir greičiausiai jau greitą dalyką? Per dirbtinį intelektą? Jei taip turi būti, kaip skelbia daugelis distopinių vizijų, tada ne. (1).

Sunku suvaldyti tai, kas daug kartų stipresnė už mus. padidėjus užduočių skaičiui. Prieš dvidešimt metų niekas nebūtų patikėjęs, kad gali daug tiksliau perskaityti emocijas žmogaus balse ir veide nei mes patys. Tuo tarpu šiuo metu apmokyti algoritmai jau gali tai padaryti, analizuodami veido išraiškas, tembrą ir mūsų kalbėjimo būdą.

Kompiuteriai piešia paveikslus, kuria muziką, vienas jų netgi laimėjo poezijos konkursą Japonijoje. Jie ilgą laiką muša žmones šachmatais, mokėsi žaidimo nuo nulio. Tas pats pasakytina ir apie daug sudėtingesnį „Go“ žaidimą.

jis paklūsta vis greitesnio pagreičio dėsniams. Tai, ką AI pasiekė – padedamas žmonių – per pastaruosius dešimtmečius padvigubės per ateinančius kelerius metus, o gal tik mėnesius, o tada užtruks tik savaites, dienas, sekundes…

Kaip neseniai paaiškėjo, algoritmai, naudojami išmaniuosiuose telefonuose ar oro uostuose analizuojant nuotraukas iš visur esančių kamerų, gali ne tik atpažinti žmogų skirtinguose kadruose, bet ir nustatyti išskirtinai intymias psichologines ypatybes. Pasakyti, kad tai yra didžiulis pavojus privatumui, lyg ir nieko nepasakyti. Tai ne paprastas stebėjimas, kiekvieno žingsnio stebėjimas, o informacija, atsirandanti dėl paties žmogaus pasirodymo, apie jo paslėptus norus ir asmenines nuostatas. 

Algoritmai gali tai išmokti palyginti greitai, išanalizavę šimtus tūkstančių atvejų, o tai yra kur kas daugiau, nei net įžvalgiausias žmogus gali pamatyti per visą gyvenimą. Apsiginklavę tokia patirtimi, jie sugeba nuskenuoti žmogų tiksliau nei net labiausiai patyręs psichologas, kūno kalbos ir gestų analitikas.

Taigi tikroji šiurpinanti distopija yra ne tai, kad kompiuteriai žaidžia šachmatais ar eina prieš mus, o tai, kad jie gali pamatyti mūsų sielą giliau nei bet kas kitas nei mes patys, kupiną draudimų ir blokų atpažįstant tuos ar kitus polinkius.

Elonas Muskas mano, kad dirbtinio intelekto sistemoms pradėjus mokytis ir mąstyti vis didesniu mastu, „intelektas“ gali išsivystyti kažkur giliai žiniatinklio sluoksniuose, mums nepastebimas.

Remiantis 2016 m. paskelbtu amerikiečių tyrimu, per ateinančius 45 metus dirbtinis intelektas turi 50 procentų tikimybę, kad visose užduotyse pranoks žmones. Sinoptikai sako, kad taip, dirbtinis intelektas išspręs vėžio problemą, pagerins ir paspartins ekonomiką, suteiks pramogų, pagerins gyvenimo kokybę ir trukmę, išlavins mus taip, kad be jo negalėtume gyventi, bet gali būti, kad vieną dieną be jo neapykanta, tik pagrįsta loginiais skaičiavimais, ji mus tiesiog pašalina. Galbūt fiziškai tai neveiks, nes kiekvienoje sistemoje verta išsaugoti, archyvuoti ir saugoti išteklius, kurie „kada nors gali praversti“. Taip, tai yra AI šaltinis. Apsaugota darbo jėga?

Optimistai guodžiasi tuo, kad visada yra galimybė ištraukti kištuką iš rozetės. Tačiau viskas nėra taip paprasta. Jau dabar žmogaus gyvybė tapo tokia priklausoma nuo kompiuterių, kad radikalus žingsnis prieš juos būtų mums katastrofa.

Juk vis dažniau kuriame dirbtiniu intelektu pagrįstas sprendimų priėmimo sistemas, suteikiame jiems teisę skristi lėktuvais, nustatyti palūkanų normas, valdyti jėgaines – žinome, kad algoritmai tai padarys daug geriau nei mes. Tuo pačiu metu mes visiškai nesuprantame, kaip priimami šie skaitmeniniai sprendimai.

Baiminamasi, kad itin intelektualios komandų sistemos, tokios kaip „Sumažinti spūstis“, gali priversti juos daryti išvadą, kad vienintelis efektyvus būdas atlikti darbą yra... sumažinti gyventojų skaičių trečdaliu ar net perpus.

Taip, mašinai verta duoti svarbiausią nurodymą, pavyzdžiui, „Visų pirma, išgelbėk žmogaus gyvybę!“. Tačiau kas žino, ar tada skaitmeninė logika nuves į žmonijos įkalinimą ar po tvartu, kur galbūt būsime saugūs, bet tikrai ne laisvi.

Elektroniniai nusikaltimai kaip paslauga

Anksčiau distopijos ir postapokaliptinio pasaulio vaizdiniai literatūroje ir kine dažniausiai būdavo nustatomi pobranduolinėje eroje. Šiandien branduolinis naikinimas neatrodo būtinas katastrofai ir pasaulio sunaikinimui, kaip mes jį žinome, nors ir ne taip, kaip mes įsivaizduojame. , mažai tikėtina, kad jis sunaikins pasaulį, kaip „Terminatoriuje“, kur jis buvo sujungtas su branduoliniu sunaikinimu. Jei tai padarytų, ji būtų ne superintelektas, o primityvi jėga. Juk net žmonija dar nesuvokė pasaulinio niokojančio branduolinio konflikto scenarijaus.

Tikra mašinų apokalipsė gali būti daug mažiau įspūdinga.

Kibernetinis karas, virusų atakos, įsilaužimas į sistemą ir išpirkos reikalaujančios programos, išpirkos reikalaujančios programos (2) paralyžiuoja ir naikina mūsų pasaulį ne mažiau efektyviai nei bombos. Jei jų mastas išsiplės, galime patekti į visapusiško totalinio karo etapą, kuriame tapsime mašinų aukomis ir įkaitais, nors jos neprivalo veikti savarankiškai, ir gali būti, kad už visko vis tiek stovės žmonės.

Praėjusią vasarą JAV kibernetinio ir infrastruktūros saugumo agentūra (CISA) išpirkos reikalaujančių programų atakas pavadino „regimiausia kibernetinio saugumo grėsme“.

CISA tvirtina, kad apie daugelį veiklų, kai kibernetinis nusikaltėlis perima ir užšifruoja asmens ar organizacijos duomenis, o paskui išvilioja išpirką, niekada nepranešama, nes auka sumoka kibernetiniams nusikaltėliams ir nenori viešinti problemų dėl nesaugių jų sistemų. Mikro lygiu kibernetiniai nusikaltėliai dažnai nusitaiko į vyresnio amžiaus žmones, kuriems sunku atskirti sąžiningą ir nesąžiningą turinį internete. Jie tai daro naudodami kenkėjiškas programas, įterptas į el. pašto priedą arba iššokantįjį langą užkrėstoje svetainėje. Tuo pat metu išpuolių prieš dideles korporacijas, ligonines, vyriausybines agentūras ir vyriausybes daugėja.

Pastarieji buvo ypač orientuoti dėl jų turimų neskelbtinų duomenų ir galimybės sumokėti dideles išpirkas.

Kai kuri informacija, pavyzdžiui, informacija apie sveikatą, savininkui yra daug vertingesnė nei kita ir gali uždirbti nusikaltėliams daugiau pinigų. Vagys gali perimti arba karantinuoti didelius pacientų priežiūrai svarbių klinikinių duomenų blokus, pvz., tyrimų rezultatus ar informaciją apie vaistus. Kai gresia gyvybė, ligoninėje nėra vietos deryboms. Praėjusių metų lapkritį po rugpjūčio teroristinio išpuolio viena iš Amerikos ligoninių buvo uždaryta visam laikui.

Tikriausiai laikui bėgant tik blogės. 2017 m. JAV Tėvynės saugumo departamentas paskelbė, kad kibernetinės atakos gali būti nukreiptos prieš svarbią infrastruktūrą, pavyzdžiui, vandens tiekimo paslaugas. Tokiems veiksmams atlikti reikalingos priemonės vis labiau prieinamos mažesniems operatoriams, kuriems jie parduoda išpirkos reikalaujančių programų paketus, tokius kaip Cerber ir Petya programinė įranga, ir ima išpirkos mokestį po sėkmingų atakų. Remiantis elektroniniais nusikaltimais kaip paslauga.

Pavojingas genomo sutrikimas

Viena iš populiarių distopijos temų yra genetika, DNR manipuliacijos ir žmonių veisimas – be to, „užprogramuotas“ tinkamai (autoritetai, korporacijos, kariškiai).

Šiuolaikinis šių nerimo įsikūnijimas yra populiarinimo metodas CRISPR genų redagavimas (3). Jame esantys mechanizmai pirmiausia kelia susirūpinimą. priverčiant atlikti norimas funkcijas vėlesnėse kartose ir jų potencialas išplito tarp visų gyventojų. Vienas iš šios technikos išradėjų, Jennifer Doudna, net neseniai ragino sustabdyti tokių „gemalų linijos“ redagavimo metodus dėl galimų pražūtingų pasekmių.

Prisiminkite, kad prieš keletą mėnesių Kinijos mokslininkas Jis Jiankui buvo plačiai kritikuojamas už žmogaus embrionų genų redagavimą, siekiant juos imunizuoti nuo AIDS viruso. Priežastis buvo ta, kad jo atlikti pokyčiai gali būti perduodami iš kartos į kartą su nenuspėjamomis pasekmėmis.

Ypatingą susirūpinimą kelia vadinamasis d (genų perrašymas, genų pavara), t.y. genetiškai modifikuotas mechanizmas, užkoduojantis redagavimo sistemą tam tikro individo DNR CRISPR/CAS9 genomas nustatydami jį redaguoti šį nepageidaujamo geno variantą. Dėl šios priežasties palikuonys automatiškai (be genetikų dalyvavimo) perrašo nepageidaujamą geno variantą norimu.

Tačiau nepageidaujamą geno variantą palikuonys gali gauti „kaip dovaną“ iš nepakeisto kito tėvo. Taigi genų pavara sulaužykime Mendelio paveldimumo dėsniaikurie sako, kad pusė dominuojančių genų atitenka vieno iš tėvų palikuonims. Trumpai tariant, tai galiausiai sukels atitinkamo geno varianto išplitimą į visą populiaciją.

Stenfordo universiteto biologas Christina Smolke2016 m. genų inžinerijos ekspertų grupė perspėjo, kad šis mechanizmas gali turėti žalingų ir, kraštutiniais atvejais, siaubingų pasekmių. Genų pavara gali mutuoti, kai pereina iš kartos į kartą, ir sukelti genetinius sutrikimus, tokius kaip hemofilija ar hemofilija.

Kaip skaitome Kalifornijos universiteto Riversaido tyrėjų straipsnyje, paskelbtame žurnale Nature Reviews, net jei potraukis vienoje organizmo populiacijoje veikia taip, kaip numatyta, tas pats paveldimas bruožas gali būti žalingas, jei jis kokiu nors būdu patenka į kitą populiaciją. . ta pati išvaizda.

Taip pat kyla pavojus, kad mokslininkai sukurs genus už uždarų durų ir be tarpusavio peržiūros. Jei kas nors tyčia ar netyčia į žmogaus genomą įveda žalingą genų potraukį, pavyzdžiui, tokį, kuris sunaikina mūsų atsparumą gripui, tai netgi gali reikšti homo sapiens rūšies pabaigą...

Priežiūros kapitalizmas

Distopijos versija, kurią buvę mokslinės fantastikos rašytojai sunkiai galėjo įsivaizduoti, yra interneto, o ypač socialinės žiniasklaidos, realybė su visais plačiai aprašytais padariniais, griaunančiais žmonių privatumą, santykius ir psichologinį vientisumą.

Šis pasaulis nutapytas tik naujesniuose meno spektakliuose, pavyzdžiui, tai, ką galėjome pamatyti seriale „Black Mirror“, 2016 m. „Nardymas“ (4). Shoshana Zuboff, Harvardo ekonomistas, šią realybę vadina visiškai priklausoma nuo socialinio savęs patvirtinimo ir visiškai „deprivatizuota“. priežiūros kapitalizmas (), o kartu ir „Google“ bei „Facebook“ vainikuojantis darbas.

4. Scena iš „Juodojo veidrodžio“ – serijos „Nardymas“

Pasak Zuboffo, „Google“ yra pirmasis išradėjas. Be to, ji nuolat plečia savo stebėjimo veiklą, pavyzdžiui, vykdydama iš pažiūros nekaltus „išmaniojo miesto“ projektus. Pavyzdys yra „Google“ antrinės įmonės „Sidewalk Labs“ projektas „Inovatyviausia pasaulio kaimynystė“. prieplauka Toronte.

Visus menkiausius duomenis apie krantinės gyventojų gyvenimą, judėjimą ir net kvėpavimą „Google“ planuoja surinkti visur esančių stebėjimo jutiklių pagalba.

Taip pat sunku išsirinkti interneto distopiją, apie kurią „Facebook“ nekalbama. Stebėjimo kapitalizmą galėjo sugalvoti „Google“, tačiau būtent „Facebook“ perkėlė jį į visiškai naują lygį. Tai buvo padaryta naudojant socialinius ir emocinius virusinius mechanizmus ir negailestingą persekiojimą net tiems, kurie nėra Zuckerberg platformos vartotojai.

Apsaugotas AI, paniręs į virtualią realybę, gyvenantis su UBI

Daugelio futuristų nuomone, pasaulio ir technologijų ateitį žymi penkios santrumpos – AI, AR, VR, BC ir UBI.

„MT“ skaitytojai tikriausiai gerai žino, kas tai yra ir iš ko susideda pirmosios trys. Pažįstamas pasirodo ir ketvirtasis, „BC“, kai suprantame, apie ką kalbama. O penktasis? UBD yra sąvokos santrumpa, reiškianti "universalios bazinės pajamos » (penki). Tai viešoji nauda, ​​retkarčiais postuluojama, kuri bus suteikta kiekvienam iš darbo atleistam žmogui, vystantis kitoms technologijoms, ypač dirbtiniam intelektui.

5. Universalios bazinės pajamos – UBI

Šveicarija pernai netgi paskelbė šią idėją referendumui, tačiau jos piliečiai ją atmetė, baimindamiesi, kad įvedus garantuotas pajamas sukels imigrantų antplūdį. UBI taip pat kelia daugybę kitų pavojų, įskaitant esamos socialinės nelygybės išsaugojimo riziką.

Kiekviena technologinė revoliucija, slypinti už akronimo (taip pat žr.:) – jei ji plinta ir vystysis laukiama kryptimi – turi milžiniškų pasekmių žmonijai ir mūsų pasauliui, įskaitant, žinoma, didžiulę distopijos dozę. Pavyzdžiui, manoma, kad tai galėtų pakeisti ketverių metų rinkimų ciklus ir paskatinti referendumus dėl daugybės klausimų.

Virtuali realybė savo ruožtu sugeba „išskirti“ dalį žmonijos iš realaus pasaulio. Kaip atsitiko, pavyzdžiui, su korėjiečiu Jang Ji Sung, kuris po dukters mirties 2016 m. nuo nepagydomos ligos nuo tada sutiko savo avatarą VR. Virtuali erdvė taip pat sukuria naujų problemų, arba iš tikrųjų perkelia visas senas žinomas problemas į „naują“ pasaulį ar net į daugelį kitų pasaulių. Tam tikru mastu tai jau galime pastebėti socialiniuose tinkluose, kur pasitaiko, kad per mažas like'ų kiekis įrašuose sukelia depresiją ir savižudybę.

Pranašiškos pasakos daugiau ar mažiau

Juk atsargumo formuluojant prognozes moko ir distopinių vizijų kūrimo istorija.

6. „Salos tinkle“ viršelis

Praėjusiais metais buvo nufilmuotas garsusis Ridley Scotto mokslinės fantastikos šedevrasandroid medžiotojas» Nuo 1982 m. Galima diskutuoti apie daugelio konkrečių elementų išsipildymą ar ne, tačiau neginčijama, kad svarbiausia pranašystė apie mūsų laikų protingų, humanoidinių androidų, daugeliu atžvilgių pranašesnių už žmones, egzistavimą dar nevirto realybe.

Būtume pasirengę toleruoti daug daugiau pranašiškų smūgių“.Neuromancers »y., romanai Viljamas Gibsonas nuo 1984 m., išpopuliarinęs „kibernetinės erdvės“ sąvoką.

Tačiau tą dešimtmetį pasirodė kiek mažiau žinoma (mūsų šalyje beveik visiškai, nes nebuvo išversta į lenkų kalbą) knyga, kuri daug tiksliau numatė šiandieninį laiką. Aš kalbu apie romantikąSalos internete"(6) Bruce'as Sterlingas nuo 1988 m., nustatyta 2023 m. Jame pristatomas pasaulis, panardintas į kažką panašaus į internetą, žinomą kaip „žiniatinklis“. Jį kontroliuoja didelės tarptautinės korporacijos. „Salos tinkle“ yra nuostabios tuo, kad užtikrina tariamai nemokamo interneto kontrolę, stebėjimą ir monopolizavimą.

Taip pat įdomu numatyti kovines operacijas, vykdomas naudojant nepilotuojamus orlaivius (dronus) prieš internetinius piratus/teroristus. Operatoriai už tūkstančių mylių su saugiais staliniais kompiuteriais – kaip mes tai žinome? Knyga ne apie nesibaigiantį konfliktą su islamo terorizmu, o apie kovą su globalizacijai besipriešinančiomis jėgomis. „Islands in the Net“ pasaulis taip pat pripildytas vartotojų įrenginių, kurie labai panašūs į išmaniuosius laikrodžius ir išmaniuosius sportinius batelius.

Yra dar viena 80-ųjų knyga, kuri, nors kai kurie įvykiai atrodo fantastiškesni, puikiai iliustruoja mūsų šiuolaikines distopines baimes. tai "Georadar programinė įranga", Istorija Rudy Rookerisnustatytas 2020 m. Pasaulis, visuomenės būklė ir jos konfliktai atrodo neįtikėtinai panašūs į tai, su kuo susiduriame šiandien. Taip pat yra robotų, žinomų kaip boppers, kurie įgijo savimonę ir pabėgo į Mėnulio miestus. Šis elementas dar nepasitvirtino, tačiau mašinų maištas tampa nuolatiniu juodųjų spėjimų susilaikymu.

Mūsų laikų vizijos knygose taip pat daugeliu atžvilgių yra stulbinančiai tikslios. Octavia Butler, ypač įSėjėjo palyginimai» (1993). Veiksmas prasideda 2024 metais Los Andžele ir vyksta Kalifornijoje, nusiaubtoje potvynių, audrų ir klimato kaitos sukeltų sausrų. Vidurio ir darbininkų klasės šeimos susitinka uždarose bendruomenėse, bandydamos pabėgti nuo išorinio pasaulio naudodamos priklausomybę sukeliančius narkotikus ir virtualios realybės rinkinius. Atsiranda naujų religijų ir sąmokslo teorijų. Pabėgėlių karavanas keliauja į šiaurę, kad išvengtų ekologinio ir socialinio žlugimo. Į valdžią ateina prezidentas, kuris naudojasi kampanijos šūkiu „Padaryk Ameriką vėl didingą“ (toks yra Donaldo Trumpo šūkis) ...

Antroji Butlerio knyga “Talentų palyginimaspasakoja, kaip naujojo religinio kulto nariai kosminiu laivu palieka Žemę, norėdami kolonizuoti Alfa Kentaurį.

***

Kokia yra šios išsamios prognozių ir vizijų, padarytų prieš kelis dešimtmečius, apie mūsų kasdienį gyvenimą, tyrimo pamoka?

Tikriausiai tai, kad distopijos pasitaiko dažnai, bet dažniausiai tik iš dalies.