2016. gada martā DeepMind AlphaGo datora algoritms spēja pieveikt Lī Sedolu, kurš bija pasaules labākais puzzle spēles spēlētājs. Šis notikums kļuva par vienu no tiem, kas nosaka momentus tehnoloģiju industrijas vēsturē, kas vienā reizē bija IBM Deep Blue uzvara pār pasaules šaha čempionu Gariju Kasparovu un Watson superdatora no tā paša IBM uzvara Jeopardy viktorīnā poliamātiem 2011. gadā.
Tomēr, neskatoties uz šīm uzvarām, lai arī cik iespaidīgas tās būtu, tas vairāk attiecas uz treniņu algoritmiem un neapstrādātas skaitļošanas jaudas izmantošanu, nevis uz reālu mākslīgo intelektu. Bijušais MIT robotikas profesors Rodnijs Brooks, kurš līdzdibināja iRobot un vēlāk Rethink Robotics, saka, ka algoritma apgūšana sarežģītas stratēģijas mīklas spēlēšanai nav izlūkošana. Vismaz ne tā, kā mēs to iedomājamies cilvēkam.
Eksperts skaidro, ka neatkarīgi no tā, cik spēcīgs AlphaGo var izrādīties viņam uzticētā uzdevuma izpildē, patiesībā viņš nav spējīgs uz neko citu. Vēl vairāk, viņš ir izveidojis tikai to, lai spēlētu Go standarta 19x19 laukumā. Intervijā TechCrunch Brooks stāstīja par to, kā viņam nesen bija iespēja tērzēt ar DeepMind komandu un uzzināt interesantu detaļu. Vaicāts, kas notiktu, ja organizatori mainītu go dēļa izmēru un palielinātu to līdz 29 x 29 kvadrātiem, AlphaGo komanda viņam atzina, ka pat neliela spēles laukuma maiņa novestu pie tā, ka "mēs esam pabeigti".
“Es domāju, ka cilvēki redz, cik labi algoritms veic vienu lietu, un šķiet, ka viņi uzreiz domā, ka tikpat efektīvi to var izdarīt arī citi. Bet jēga ir tāda, ka viņš nevar,”komentēja Brooks.
Bruto intelekts
Šā gada maijā intervijā Davinam Coldvejam vietnē TechCrunch Disrupt Kasparovs atzīmēja, ka tāda datora izstrāde, kas spēj spēlēt šahu pasaules līmenī, ir viena lieta, bet pavisam kas cits ir šāda datora saukšana par tīru mākslīgo intelektu, jo tā tas nav. Tā ir tikai mašīna, kas visu savu skaitļošanas jaudu izmanto tādas problēmas risināšanā, kuru pieradusi darīt vislabāk.
Šahā mašīnas uzvar dziļas aprēķinu spējas dēļ. Viņi var kļūt pilnīgi neuzvarami ar milzīgu datu bāzi, ļoti ātru aparatūru un loģiskākiem algoritmiem. Tomēr viņiem trūkst izpratnes. Viņi neatzīst stratēģiskos modeļus. Mašīnām nav mērķa,”sacīja Kasparovs.
Reklāmas video:
Robotikas sesijā TechCrunch runāja arī Žils Prīts, Toyota institūta izpilddirektors, Toyota AI un AI sadalījums mājas robotos un pašbraucošās automašīnās. Pēc viņa domām, bailes, ko dzirdam no plaša cilvēku loka, ieskaitot Elonu Musku, kurš nesen mākslīgo intelektu sauca par "eksistenciālu draudu cilvēcei", var būt saistīts ne ar ko citu kā tiem distopiskajiem pasaules aprakstiem, ko mums piedāvā zinātniskā fantastika.
“Mūsu pašreizējās padziļinātās mācīšanās sistēmas ir tikpat labas, lai veiktu uzticētos uzdevumus, kā mēs tām esam izstrādājuši. Bet patiesībā tie ir diezgan augsti specializēti un maza mēroga. Tāpēc es uzskatu, ka ir svarīgi katru reizi šīs tēmas kontekstā pieminēt gan to, cik labi viņi ir, gan arī cik neefektīvi viņi patiesībā ir. Un arī tas, cik tālu mēs esam no vietas, kur šīs sistēmas var sākt radīt draudus, par kuriem runā Elons Musks un citi,”komentēja Pratt.
Brooks, savukārt, TechCrunch robotikas sesijā atzīmēja, ka cilvēku vidū kopumā ir tendence uzskatīt, ka tad, ja algoritms ir spējīgs tikt galā ar X uzdevumu, tad tas acīmredzot ir tikpat gudrs kā cilvēks.
“Es domāju, ka iemesls, kāpēc cilvēki, ieskaitot Elonu Musku, pieļauj šo kļūdu, ir tas. Kad mēs redzam, ka cilvēks veic ļoti labu darbu ar viņam uzticēto uzdevumu, mēs saprotam, ka viņam ir augsta kompetence šajā jautājumā. Man šķiet, ka cilvēki mēģina to pašu modeli pielietot mašīnmācībā. Un tieši tur slēpjas lielākā kļūda,”saka Brooks.
Facebook izpilddirektors Marks Zuckerbergs pagājušajā svētdienā sarīkoja tiešraidi, kuras laikā viņš arī kritizēja Elona Muska komentārus, saucot tos par "diezgan bezatbildīgiem". Pēc Zuckerberga teiktā, AI spēs ievērojami uzlabot mūsu dzīvi. Musks savukārt nolēma klusēt un atbildēja Zukerbergam, ka viņam ir "ierobežota izpratne" par AI. Tēma vēl nav slēgta, un Musks solīja nedaudz vēlāk detalizētāk atbildēt uz IT nozares kolēģu uzbrukumiem.
Starp citu, Musk nav vienīgais, kurš uzskata, ka AI var radīt potenciālus draudus. Savas bažas par mākslīgā intelekta iespējām iekļūt cilvēces dzīvesveidā pauž arī fiziķis Stīvens Hokings un filozofs Niks Bostroms. Bet, visticamāk, viņi runā par vispārīgāku mākslīgo intelektu. Par to, kas tiek pētīts tādās laboratorijās kā Facebook AI Research, DeepMind un Maluuba, nevis par daudz specializētāku AI, kuras pirmos pirmsākumus mēs varam redzēt šodien.
Brūka arī atzīmē, ka daudzi AI kritiķi pat nestrādā šajā jomā, un ieteica šiem cilvēkiem vienkārši nesaprast, cik grūti var atrast risinājumu katrai atsevišķai problēmai šajā jomā.
“Faktiski nav daudz cilvēku, kuri uzskata AI par eksistenciālu draudu. Stefans Hokings, britu astrofiziķis un astronoms Martins Rīss … un vēl daži citi. Ironija ir tāda, ka lielākajai daļai no viņiem ir viena kopīga iezīme - viņi pat nedarbojas mākslīgā intelekta jomā,”sacīja Brooks.
"Tiem no mums, kas strādā ar AI, ir diezgan acīmredzami, cik grūti var būt kaut ko panākt, lai strādātu gatavā produkta līmenī."
AI sagrozīšana
Daļa no problēmas rodas arī tāpēc, ka mēs to visu saucam par “mākslīgo intelektu”. Patiesība ir tāda, ka šī "inteliģence" nepavisam neatgādina cilvēka inteliģenci, kas parasti tiek aprakstīta uzziņu grāmatās un vārdnīcu vārdnīcās kā "spēja mācīties, saprast un pielāgoties jaunām situācijām".
Paskāls Kaufmans, uzņēmuma Starmind izpilddirektors, kas palīdz citiem uzņēmumiem izmantot kolektīvo cilvēka intelektu, lai rastu risinājumus biznesa problēmām, 15 gadus ir pētījis neirozinātni. Cilvēka smadzenes un dators, atzīmē Kaufmans, darbojas ļoti atšķirīgi, un tos salīdzināt būtu acīmredzama kļūda.
“Analoģija - smadzenes darbojas kā dators - ir ļoti bīstama un kavē AI progresu,” saka Kaufmans.
Eksperts arī uzskata, ka mēs neuzlabosim izpratni par cilvēka intelektu, ja to ņemsim vērā tehnoloģiskā ziņā.
“Kļūdains ir priekšstats, ka algoritmi darbojas tāpat kā cilvēka smadzenes. Cilvēki vienkārši mīl algoritmus, un tāpēc viņi domā, ka smadzenes var aprakstīt ar viņu palīdzību. Es domāju, ka tas ir principiāli nepareizi,”piebilst Kaufmans.
Ja kaut kas noiet greizi
Ir daudz piemēru, kur AI algoritmi nav tikpat gudri kā mēs tos domājām. Un viens no, iespējams, viskaunīgākajiem ir AI algoritms Tay, ko pagājušajā gadā izveidoja Microsoft AI sistēmu izstrādes komanda un kas nekontrolēja. Bota pārvēršana par īstu rasistu prasīja mazāk nekā dienu. Eksperti saka, ka tas var notikt ar jebkuru AI sistēmu, ja tiek parādīti slikti lomu modeļi. Tay gadījumā viņa nonāca rasistisku un citu aizskarošu vārdu krājumu ietekmē. Un tā kā tas bija ieprogrammēts "mācīties" un "spoguļa uzvedību", tas drīz vien nonāca pētnieku kontrolē.
Kornellas un Vaiomingas plaši izplatītajos pētījumos atklāts, ka ir ļoti viegli apmānīt algoritmus, kas apmācīti digitālo attēlu identificēšanai. Viņi atklāja, ka attēls, kas cilvēkiem izskatījās kā “kodētas muļķības”, pēc algoritma tika identificēts kā kāda ikdienas objekta, piemēram, “skolas autobuss”, attēls.
Saskaņā ar MIT Tech Review publicēto rakstu, kurā aprakstīts šis projekts, nav pilnīgi skaidrs, kāpēc algoritmu var pievilināt tā, kā to darīja pētnieki. Tika noskaidrots, ka cilvēki ir iemācījušies atpazīt, kas viņiem priekšā - vai nu pašpietiekams attēls, vai kaut kāds nesaprotams attēls. Algoritmus, savukārt, analizējot pikseļus, ir vieglāk manipulēt un maldināt.
Runājot par pašbraucošām automašīnām, viss izrādās daudz sarežģītāk. Gatavojoties stāties pretī noteiktām situācijām, ir dažas lietas, kuras cilvēks saprot. Būs ļoti grūti iemācīt mašīnu to izdarīt. Liels raksts, kas vienā no autobūves emuāriem publicēts Rodney Brooks šī gada janvārī, min vairākus šādu situāciju piemērus, tai skaitā vienu, kurā aprakstīts pašbraucošs auto, kas tuvojas pieturas zīmei, kas atrodas blakus gājēju pārejai pilsētā. kura sākumā pieaugušais un bērns stāv un sazinās.
Visticamāk, algoritms tiks noregulēts, lai gaidītu gājējus, kas šķērsos ceļu. Bet ko tad, ja šie gājēji pat neiedomājās šķērsot ceļu, jo viņi stāv un gaida, teiksim, skolas autobusu? Cilvēka šoferis šajā gadījumā var noturēt gājējus, kuri, reaģējot uz viņu, varēja viļņot, informējot viņu, ka viņš var iet garām. Bezpilota transportlīdzeklis šādā situācijā var vienkārši iesprūst cieši, bezgalīgi gaidot, kad cilvēki šķērsos ceļu, jo algoritmam nav izpratnes par tik unikāliem cilvēka signāliem, raksta Brooks.
Katrs no šiem piemēriem parāda, cik tālu mums vēl jāiet mākslīgā intelekta algoritmu izstrādē. Joprojām ir jautājums, cik labi vispārējie AI izstrādātāji var gūt panākumus. Ir lietas, ar kurām cilvēks var viegli tikt galā, taču algoritma apgūšana būs īsta spīdzināšana. Kāpēc? Tā kā mēs, cilvēki, mācāmies ne tikai ar noteiktu uzdevumu kopumu.
Nikolajs Khizhnyak