Pasakykite kačiukui, ką galvojate viduje – juodosios dėžės efektą

Tai, kad pažangūs AI algoritmai yra tarsi juodoji dėžė (1), kuri išmeta rezultatą neatskleisdama, kaip jis atsirado, vienus nerimauja, o kitus sutrikdo.

2015 m. Niujorko Sinajaus kalno ligoninės tyrimų grupės buvo paprašyta naudoti šį metodą, kad būtų galima išanalizuoti didelę vietinių pacientų duomenų bazę (2). Šioje didžiulėje kolekcijoje yra daugybė pacientų informacijos, tyrimų rezultatų, receptų ir kt.

Mokslininkai darbo metu sukurtą analitinę programą pavadino. Jis mokėsi remdamasis maždaug 700 XNUMX žmonių duomenimis. žmonių, o išbandytas naujuose registruose pasirodė esąs itin veiksmingas prognozuojant ligas. Be žmonių ekspertų pagalbos jis aptiko ligoninės įrašų šablonus, rodančius, kuris pacientas yra linkęs į ligą, pavyzdžiui, kepenų vėžį. Ekspertų teigimu, sistemos prognozinis ir diagnostinis efektyvumas buvo daug didesnis nei bet kurių kitų žinomų metodų.

2. Medicininė dirbtinio intelekto sistema, pagrįsta pacientų duomenų bazėmis

Tuo pačiu metu mokslininkai pastebėjo, kad tai veikia paslaptingai. Pavyzdžiui, paaiškėjo, kad jis idealiai tinka psichikos sutrikimų pripažinimaspavyzdžiui, šizofrenija, kuri gydytojams yra itin sunki. Tai nustebino, ypač todėl, kad niekas neįsivaizdavo, kaip AI sistema gali taip gerai matyti psichines ligas, remdamasi tik paciento medicininiais įrašais. Taip, specialistai buvo labai patenkinti tokio efektyvaus mašinų diagnostiko pagalba, tačiau jie būtų daug labiau patenkinti, jei suprastų, kaip AI daro išvadas.

Dirbtinių neuronų sluoksniai

Nuo pat pradžių, ty nuo tada, kai tapo žinoma dirbtinio intelekto sąvoka, buvo du požiūriai į AI. Pirmasis pasiūlė, kad būtų protingiausia konstruoti tokias mašinas, kurios mąsto pagal žinomus principus ir žmogaus logiką, kad jų vidinis darbas būtų skaidrus visiems. Kiti manė, kad intelektas atsiras lengviau, jei mašinos išmoktų stebėti ir kartoti eksperimentus.

Pastarasis reiškia įprasto kompiuterio programavimo apvertimą. Vietoj to, kad programuotojas rašytų komandas problemai išspręsti, programa generuoja savo algoritmą remiantis pavyzdiniais duomenimis ir norimu rezultatu. Mašininio mokymosi metodai, kurie vėliau išsivystė į galingiausias šiandien žinomas dirbtinio intelekto sistemas, ką tik nuėjo tuo keliu, kaip pati mašina programuoja.

Šis požiūris išliko AI sistemų tyrimų paraštėse 60–70-aisiais. Tik praėjusio dešimtmečio pradžioje, po kai kurių novatoriškų pakeitimų ir patobulinimų, „Gilieji“ neuroniniai tinklai pradėjo demonstruoti radikalų automatizuoto suvokimo galimybių pagerėjimą. 

Gilus mašininis mokymasis suteikė kompiuteriams nepaprastų gebėjimų, pavyzdžiui, gebėjimą atpažinti ištartus žodžius beveik taip pat tiksliai kaip žmogus. Tai pernelyg sudėtingas įgūdis, kad būtų galima suprogramuoti iš anksto. Mašina turi sugebėti sukurti savo „programą“ pagal mokymas apie didžiulius duomenų rinkinius.

Gilus mokymasis taip pat pakeitė kompiuterio vaizdų atpažinimą ir labai pagerino mašininio vertimo kokybę. Šiandien jis naudojamas priimant įvairius pagrindinius sprendimus medicinos, finansų, gamybos ir kt.

Tačiau su visa tai Jūs negalite tiesiog pažvelgti į gilų neuroninį tinklą, kad pamatytumėte, kaip veikia "vidus". Tinklo samprotavimo procesai yra įterpti į tūkstančių imituojamų neuronų, suskirstytų į dešimtis ar net šimtus sudėtingai tarpusavyje susijusių sluoksnių, elgseną..

Kiekvienas iš pirmojo sluoksnio neuronų gauna įvestį, pvz., vaizdo pikselio intensyvumą, ir tada atlieka skaičiavimus prieš išvesdamas išvestį. Jie sudėtingame tinkle perduodami kito sluoksnio neuronams – ir taip toliau iki galutinio išėjimo signalo. Be to, yra procesas, žinomas kaip atskirų neuronų atliekamų skaičiavimų koregavimas, kad mokymo tinklas duotų norimą rezultatą.

Dažnai cituojamame pavyzdyje, susijusiame su šunų vaizdo atpažinimu, žemesni AI lygiai analizuoja paprastas charakteristikas, tokias kaip forma ar spalva. Aukštesnieji sprendžia sudėtingesnes problemas, tokias kaip kailis ar akys. Tik viršutinis sluoksnis visa tai sujungia, identifikuodamas visą informacijos rinkinį kaip šunį.

Tas pats metodas gali būti taikomas ir kitiems įvesties tipams, kurie įgalina mašiną mokytis pačiam: garsams, kurie sudaro žodžius kalboje, raidėms ir žodžiams, kurie sudaro sakinius rašytiniame tekste, arba, pavyzdžiui, vairui. judesiai, reikalingi vairuoti transporto priemonę.

Automobilis nieko nepraleidžia.

Bandoma paaiškinti, kas tiksliai vyksta tokiose sistemose. 2015 m. „Google“ mokslininkai modifikavo gilaus mokymosi vaizdų atpažinimo algoritmą, kad užuot matę objektus nuotraukose, jie juos sugeneruotų arba modifikuotų. Vykdydami algoritmą atgal, jie norėjo atrasti savybes, kurias programa naudoja atpažindama, tarkime, paukštį ar pastatą.

Šie eksperimentai, viešai žinomi kaip pavadinimas, sukūrė nuostabius (3) groteskiškus, keistus gyvūnus, kraštovaizdžius ir personažus. Atskleisdami kai kurias mašininio suvokimo paslaptis, pvz., tai, kad tam tikri modeliai nuolat grąžinami ir kartojami, jie taip pat parodė, kaip gilus mašininis mokymasis skiriasi nuo žmogaus suvokimo, pavyzdžiui, tuo, kad jis išplečia ir dubliuoja artefaktus, kurių mes ignoruojame. mūsų suvokimo be mąstymo procese . .

3. Projekte sukurtas vaizdas

Beje, kita vertus, šie eksperimentai atskleidė mūsų pačių pažinimo mechanizmų paslaptį. Galbūt būtent mūsų suvokimu yra įvairių nesuprantamų komponentų, dėl kurių iš karto ką nors suprantame ir ignoruojame, o mašina kantriai kartoja savo iteracijas ant „nesvarbių“ objektų.

Bandant „suprasti“ mašiną, buvo atlikti ir kiti bandymai bei tyrimai. Jasonas Josinskis jis sukūrė įrankį, kuris veikia kaip zondas, įstrigęs smegenyse, taikantis į bet kurį dirbtinį neuroną ir ieškant jį stipriausiai aktyvuojančio vaizdo. Paskutiniame eksperimente „žvilgtelėjus“ tinkle atsirado abstraktūs vaizdai, todėl sistemoje vykstantys procesai tapo dar paslaptingesni.

Tačiau daugeliui mokslininkų toks tyrimas yra nesusipratimas, nes, jų nuomone, norint suprasti sistemą, atpažinti aukštesnės eilės sudėtingų sprendimų priėmimo modelius ir mechanizmus, visos skaičiavimo sąveikos giliame neuroniniame tinkle. Tai milžiniškas matematinių funkcijų ir kintamųjų labirintas. Šiuo metu mums tai nesuprantama.

Kompiuteris nepasileidžia? Kodėl?

Kodėl svarbu suprasti pažangių dirbtinio intelekto sistemų sprendimų priėmimo mechanizmus? Jau dabar naudojami matematiniai modeliai nustatant, kurie kaliniai gali būti lygtinai paleisti, kam paskolinti, o kas gauti darbą. Besidomintiems norėtųsi sužinoti, kodėl buvo priimtas toks, o ne kitas sprendimas, koks jo pagrindas ir mechanizmas.

– pripažino jis 2017 metų balandį MIT technologijų apžvalgoje. Tommy YaakkolaMIT profesorius, dirbantis su mašininio mokymosi programomis. -.

Egzistuoja net teisinė ir politinė pozicija, kad galimybė atidžiai išnagrinėti ir suprasti AI sistemų sprendimų priėmimo mechanizmą yra pagrindinė žmogaus teisė.

Nuo 2018 metų ES siekia reikalauti, kad įmonės savo klientams pateiktų paaiškinimus apie automatizuotų sistemų priimtus sprendimus. Pasirodo, kartais tai neįmanoma net naudojant sistemas, kurios atrodo gana paprastos, pvz., programėlėse ir svetainėse, kuriose reklamoms rodyti ar dainoms rekomenduoti pasitelkiamas gilus mokslas.

Kompiuteriai, kuriuose veikia šios paslaugos, patys programuojasi, ir daro tai mums nesuprantamais būdais... Netgi šias programas kuriantys inžinieriai negali iki galo paaiškinti, kaip tai veikia.