Iespējams, ka viens no sarežģītākajiem mašīnu inteliģences pārbaudījumiem bija šaha spēle, kas pirms gandrīz 20 gadiem notika starp datoru Deep Blue un pasaules šaha čempionu Gariju Kasparovu. Automašīna uzvarēja. Šobrīd ir noslēgusies spēļu sērija loģiskajā spēlē go, kur sacentās AI AlphaGo no DeepMind (Google īpašnieks) un leģendārais go čempions no Ķīnas Li Si Dol. Četrās no piecām spēlēm mašīna uzvarēja, parādot savu pārākumu pār cilvēku šajā spēlē. Neticami sarežģītā spēle starp cilvēku un AI parāda, ka mašīnu inteliģence šajā laikā ir attīstījusies ļoti spēcīgi. Šķiet, ka liktenīgā diena, kad mašīnas patiešām kļūst gudrākas par cilvēkiem, tagad ir tuvāk nekā jebkad agrāk. Tomēr šķiet, ka daudzi nemaz nesaprot, drīzāk pat kļūdās par sekām, kas mūs var sagaidīt nākotnē.
Mēs patiešām nenovērtējam dažas ļoti nopietnas un pat bīstamas mākslīgā intelekta attīstības sekas. Pagājušajā gadā SpaceX līdzdibinātājs Elons Musks nāca klajā ar paziņojumu, kurā pauda bažas par mākslīgā intelekta iespējamo pasaules paverdzināšanu, kas savukārt izraisīja milzīgu komentāru daudzumu gan no šī viedokļa atbalstītājiem, gan pretiniekiem.
Šādai fundamentāli revolucionārai nākotnei, kas mūs var sagaidīt, ir pārsteidzoši, ka šodien ir tik daudz domstarpību par to, vai tā vispār notiks un kāda tā galu galā izrādīsies. Īpaši dīvaini ir noliegt neticamos ieguvumus, ko mēs varam iegūt, veidojot patiesi gudru mākslīgo intelektu, protams, ņemot vērā visus iespējamos riskus. Visus šos jautājumus ir ārkārtīgi grūti iegūt nepieciešamās atbildes, jo AI, atšķirībā no citiem cilvēces izgudrojumiem, patiešām var "atjaunot" šo cilvēci vai pilnībā to iznīcināt.
Tagad ir grūti saprast, kam ticēt un uz ko cerēt. Tomēr, pateicoties datorzinātņu pionieriem, neirozinātniekiem un AI attīstības teorētiķiem, skaidra aina lēnām sāk skaidroties. Zemāk ir saraksts ar izplatītākajiem nepareizajiem uzskatiem un mītiem par mākslīgo intelektu.
Mēs nekad neradīsim AI ar humanoīdu inteliģenci
Savukārt realitāte liecina, ka mums jau ir datori, kas dažās jomās atbilst un pat pārsniedz cilvēka iespējas. Veikt šahu vai to pašu spēles spēli, tirdzniecību biržās vai virtuālā sarunu biedra lomu. Datori un algoritmi, kas tos kontrolē, laika gaitā tikai uzlabosies, un tas ir tikai laika jautājums, līdz tie kļūst vienādi ar cilvēka spējām.
Reklāmas video:
Ņujorkas universitātes pētnieks Gerijs Markuss reiz teica, ka "praktiski visi", kas strādā AI, domā, ka mašīnas kādu dienu mūs pārspēs:
"Vienīgais strīds starp atbalstītājiem un skeptiķiem ir šī notikuma laiks."
Tādi futūristi kā Rejs Kurzveils uzskata, ka tas varētu notikt nākamajās desmitgadēs, bet citi saka, ka tam būs vajadzīgi vairāki gadsimti.
AI skeptiķi nepārliecina savos pierādījumos, ka mākslīgā intelekta radīšana kā kaut kas unikāls un tehnoloģiski ļoti līdzīgs reālām dzīvām cilvēka smadzenēm atrodas kaut kur ārpus realitātes. Arī mūsu smadzenes ir mašīna. Bioloģiskā mašīna. Tas pastāv tajā pašā pasaulē un pakļaujas tiem pašiem fizikas likumiem kā viss pārējais. Un laika gaitā mēs pilnībā izdomāsim visu tā darba principu.
AI būs apziņa
Pastāv vispārēja vienprātība, ka mašīnizlūkošana būs apzināta. Tas ir, AI domās tāpat kā cilvēks. Turklāt daži kritiķi, piemēram, Microsoft līdzdibinātājs Pols Alens, uzskata, ka nepilnīgas teorētiskās bāzes dēļ, kas apraksta pašapziņas mehānismus un principus, mēs vēl neesam izveidojuši pat vispārēju mākslīgo intelektu, tas ir, inteliģenci, kas spēj veikt jebkādus intelektuālus uzdevumus, ar kuriem cilvēks var tikt galā. Tomēr, kā saka Marejs Šanahans, Londonas Imperiālās koledžas kognitīvās robotikas katedras docents, mums nevajadzētu tos abus pielīdzināt.
"Pašapziņa noteikti ir ļoti interesants un svarīgs pētījumu priekšmets, taču es neuzskatu, ka pašapziņai vajadzētu būt obligātam cilvēka līdzīgā mākslīgā intelekta atribūtam," saka Šanahana.
"Kopumā mēs lietojam terminu" pašapziņa "tikai, lai norādītu uz vairākiem psiholoģiskiem un kognitīviem atribūtiem, kas parasti ir saistīti ar cilvēku."
Ir iespējams iedomāties ļoti gudru automašīnu, kurai trūkst viena vai vairākas no šīm īpašībām. Kādreiz mēs varēsim izveidot patiesi neticami inteliģentu mākslīgo intelektu, bet tajā pašā laikā bez spējas apzināties sevi, kā arī subjektīvi un apzināti izprast apkārtējo pasauli. Šanahans atzīmē, ka intelekta un pašapziņas apvienošana mašīnā joprojām būs iespējama, taču mēs nedrīkstam aizmirst faktu, ka tie ir divi pilnīgi atsevišķi jēdzieni.
Un, lai gan viens no "Turing testa" variantiem, kurā mašīna parādīja, ka tas neatšķiras no cilvēka, tika veiksmīgi izturēts, tas nebūt nenozīmē, ka šai mašīnai ir apziņa. No mūsu (cilvēciskā) viedokļa moderns mākslīgais intelekts mums var šķist kaut kas tāds, kam piemīt pašapziņa, bet pati mašīna par sevi apzināsies ne vairāk kā to pašu akmeni vai kalkulatoru.
Mums nevajadzētu baidīties no AI
Šī gada janvārī Facebook dibinātājs Marks Cukerbergs dalījās pārdomās par to, kā mums nevajadzētu baidīties no AI, piebilstot, ka šī tehnoloģija var dot milzīgu labumu visā pasaulē. Patiesība ir tāda, ka viņam taisnība ir tikai daļēji. Mēs patiešām varēsim gūt pārsteidzošus ieguvumus ar mūsu rīcībā esošo AI (sākot no pašpiedziņas automašīnām un beidzot ar jauniem atklājumiem medicīnā), taču neviens nevar garantēt, ka katrs AI pielietojums noteikti dos labumu.
Ļoti inteliģenta sistēma, iespējams, zinās visu nepieciešamo noteiktiem uzdevumiem (piemēram, sarežģītas globālas finanšu situācijas atrisināšanai vai ienaidnieka datorsistēmu uzlaušanai), tomēr ārpus ļoti specializētiem uzdevumiem AI potenciāls joprojām ir pilnīgi neskaidrs un tāpēc potenciāli bīstams. Piemēram, DeepMind sistēma ir specializējusies go spēlē, taču tai nav iespēju (un iemesla) izpētīt apgabalus ārpus šīs jomas.
Flame datorvīruss, kura uzdevums bija izsekot Tuvo Austrumu valstīm
Daudzas no šīm sistēmām var radīt nopietnus drošības riskus. Labs piemērs ir spēcīgais un ļoti viltīgais Stuxnet vīruss - militarizēts tārps, ko ASV un Izraēlas militāristi izveidoja, lai iefiltrētos un uzbruktu Irānas atomelektrostacijām. Tikai šī ļaunprātīgā programma kaut kādā veidā (nejauši vai apzināti) inficēja arī vienu no Krievijas atomelektrostacijām.
Cits piemērs ir Flame vīruss, kas izstrādāts mērķtiecīgai kiberspiegošanai Tuvajos Austrumos. Ir viegli iedomāties, kā Stuxnet un Flame vīrusu "nākotnes versijas" neatkarīgi pārsniegs tiem uzticētos uzdevumus un spēs inficēt gandrīz visu valsts infrastruktūru. Un viņi to darīs ļoti klusi un nemanāmi.
Mākslīgā supervizija būs pārāk gudra, lai kļūdītos
Ričards Luzmors, matemātiķis, mākslīgā intelekta pētnieks un robotikas uzņēmuma Surfing Samurai Robots dibinātājs, uzskata, ka vairums AI pasaules gala scenāriju izskatās maz ticams, jo tie visi kopumā balstās uz to, ko AI kādreiz teiks: “Es saprotu, ka iznīcināšana cilvēki ir kļūda manā programmas kodā, bet man joprojām ir jāpilda uzdevums."
Luzmors uzskata, ka, ja AI rīkosies saskaņā ar šo scenāriju, tas saskarsies ar loģiskām pretrunām, kas apšaubīs visu tās uzkrāto zināšanu bāzi un galu galā novedīs pie savas izpratnes par savu stulbumu un bezjēdzību.
Pētnieks arī uzskata, ka kļūdās tie cilvēki, kuri saka, ka "AI darīs tikai to, kas ir iekļauts tā programmā", tāpat kā tie, kas reiz teica tos pašus vārdus, bet pret datoriem, paziņojot, ka datorsistēmām nekad nebūs universāluma.
Oksfordas universitātes Cilvēces nākotnes institūtā Pīters Makintīrs un Stjuarts Ārmstrongs savukārt nepiekrīt šim viedoklim, apgalvojot, ka AI uzvedība būs obligāta un lielā mērā pamatota ar programmas kodu. Zinātnieki neuzskata, ka AI nekad nepieļaus kļūdas vai, gluži pretēji, būs pārāk stulbs, lai saprastu, ko tieši mēs no viņiem vēlamies.
"Pēc definīcijas mākslīgā pārziņa (ISI) ir aģents, kura inteliģence daudzkārt pārspēs labākos cilvēces prātus gandrīz visās jomās," saka Makintīrs.
"Viņš noteikti sapratīs, ko mēs no viņa vēlamies."
Makintīrs un Ārmstrongs uzskata, ka mākslīgais intelekts veiks tikai tos uzdevumus, kuriem tas bija ieprogrammēts, bet, ja tas kaut kā attīstīsies pats no sevis, tad, visticamāk, tas mēģinās noskaidrot, cik lielā mērā tā darbība atšķirsies no cilvēka uzdevumiem un būs tai raksturīga. likumiem.
Makintīrs salīdzina cilvēku nākotni ar pelēm. Pelēm ir spēcīgs instinkts atrast ēdienu un pajumti, taču viņu mērķi ļoti bieži ir pretrunā ar cilvēku, kurš nevēlas viņus redzēt savās mājās.
"Tāpat kā mūsu zināšanas par pelēm un viņu vēlmēm, arī superizlūkošanas sistēma var zināt visu par mums un zināt, ko mēs vēlamies, bet tajā pašā laikā tā būs pilnīgi vienaldzīga pret mūsu vēlmēm."
Vienkāršs risinājums novērsīs AI kontroles problēmu
Kā parādīts filmā "No mašīnas", būs ļoti grūti kontrolēt AI, kas būs daudz gudrāks nekā mēs
Ja pieņemam, ka kādu dienu mēs izveidosim inteliģenci, kas būs gudrāka nekā cilvēki, tad mums būs jāsaskaras ar nopietnu problēmu - ar kontroles problēmu. Futūristi un mākslīgā intelekta teorētiķi vēl nespēj izskaidrot, kā mēs varam kontrolēt un ierobežot ISI pēc tā izveidošanas. Nav arī skaidrs, kā mēs varam nodrošināt, ka viņš būs draudzīgs pret cilvēkiem. Pavisam nesen Džordžijas Tehnoloģiju institūta (ASV) pētnieki naivi ieteica, ka AI var iemācīties un absorbēt cilvēka vērtības un zināšanas par sociālajām normām, vienkārši lasot vienkāršas pasakas. Jā, jā, vienkāršas bērnu pasakas un stāstus, kurus vecāki mums lasīja bērnībā. Bet patiesībā viss izrādīsies daudz sarežģītāks nekā tas viss.
"Mākslīgā intelekta kontroles jautājumam ir ierosināti daudzi tā sauktie" risinājumi "," saka Stjuarts Ārmstrongs.
Viens no šādu risinājumu piemēriem var būt ISI programmēšana tā, lai tas pastāvīgi mēģinātu iepriecināt vai iepriecināt kādu personu. Alternatīva iespēja būtu integrēt tādus jēdzienus kā mīlestība vai cieņa tā pirmkodā. Un, lai izvairītos no tādas scenārija attīstības, saskaņā ar kuru AI var vienkāršot visus šos jēdzienus un uztvert šo pasauli, izmantojot šo super-vienkāršoto jēdzienu prizmu, sadalot to tikai melnā un baltā krāsā, to var ieprogrammēt, lai saprastu un pieņemtu intelektuālo, kultūras un sociālo daudzveidību.
Īzaka Asimova trīs robotikas likumi lieliski iekļaujas fantastikas jēdzienā, taču patiesībā mums ir nepieciešams kaut kas visaptverošāks, lai risinātu kontroles jautājumu
Diemžēl šie risinājumi ir pārāk vienkārši un izskatās kā mēģinājums visu cilvēku simpātiju un antipātiju sarežģītību iekļaut vienā vispārējā definīcijā vai jēdzienā, vai mēģinājums visu cilvēcisko vērtību sarežģītību iekļaut vienā vārdā, frāzē vai idejā. Mēģiniet, piemēram, iekļaut šajā sistēmā konsekventu un adekvātu definīciju tādai lietai kā "cieņa".
„Protams, nevajadzētu domāt, ka šādas vienkāršas iespējas ir pilnīgi bezjēdzīgas. Daudzi no viņiem piedāvā lielisku iemeslu domāt un, iespējams, rosina meklēt risinājumu gala problēmai,”saka Ārmstrongs.
"Bet mēs nevaram paļauties tikai uz tiem bez sarežģītāka darba, bez skaidriem pētījumiem un meklējot sekas, kādas varētu rasties, izmantojot noteiktus risinājumus."
Mūs iznīcinās mākslīgā superizlūkošana
Neviens nevar garantēt, ka AI kādu dienu mūs iznīcinās, tāpat kā neviens nevar droši pateikt, ka mēs nespēsim atrast veidus, kā kontrolēt un izmantot AI savām vajadzībām. Kā savulaik teica amerikāņu mākslīgā intelekta eksperts Eliezers Judkovskis: "AI nevar jūs mīlēt vai ienīst, bet jūs esat veidots no atomiem, kurus tas varētu izmantot kaut kam citam."
Oksfordas filozofs Niks Bostroms savā grāmatā "Izlūkošana: ceļi, draudi un stratēģijas" raksta, ka reāla pārziņa kādu dienu spēs sevi realizēt, kas padarīs to bīstamāku nekā jebkurš cilvēka radīts izgudrojums. Izcilie mūsdienu domātāji, piemēram, Elons Musks, Bils Geitss un Stīvens Hokings (no kuriem daudzi uzskata, ka "AI varētu būt vissliktākā kļūda cilvēces vēsturē"), visticamāk, piekrīt šim viedoklim un jau izsauc trauksmi.
Pīters Makintjers uzskata, ka lielākajai daļai uzdevumu, ko superizlūkošana var sev noteikt, cilvēki izskatīsies kā papildu saite.
“AI kādu dienu varēs secināt - un jāatzīmē, ka tas to aprēķinās diezgan pareizi -, ka cilvēki nevēlas to izmantot, lai par katru cenu maksimāli palielinātu jebkura konkrēta uzņēmuma rentabilitāti, neatkarīgi no tā, kādas sekas tas radīs patērētājiem, videi un dzīvajām būtnēm. Tāpēc viņam būs milzīgs stimuls izstrādāt plānu un stratēģiju, pateicoties kuriem cilvēks nevarēs iejaukties uzdevuma risināšanā, mainot to vai pat izslēdzot AI."
Pēc MacIntyer domām, ja mākslīgā intelekta uzdevumi ir tieši pretēji mūsu uzdevumiem, tas viņam dos lieliskus iemeslus neļaut mums viņu apturēt. Un, ja mēs uzskatām, ka viņa inteliģences līmenis būs daudz augstāks nekā mūsējais, viņu apturēt, ja tas vispār ir iespējams, patiešām būs ļoti, ļoti grūti.
Tomēr tagad neko droši pateikt nav iespējams, un neviens nevarēs pateikt, kura AI forma mums būs jārisina un kā tā var apdraudēt cilvēci. Kā reiz teica Elons Musks, mākslīgo intelektu faktiski varētu izmantot citu AI kontrolēšanai, izsekošanai un kontrolei. Un iespējams, ka tajā tiks ieviestas cilvēciskās vērtības un sākotnējā draudzība pret cilvēkiem.
Mākslīgā supervīzija būs draudzīga
Filozofs Imanuels Kants uzskatīja, ka inteliģence ir cieši saistīta ar morāles principiem. Savā darbā Singularity: A Philosophical Analysis neirozinātnieks Deivids Čalmerss par pamatu ņēma Kanta slaveno ideju un mēģināja to pielietot, lai analizētu mākslīgās pārziņas veidošanos.
“Ja šajā rakstā aprakstītie principi ir pareizi, tad līdz ar aso AI attīstību ir jārēķinās ar morālu principu strauju attīstību. Turpmāka attīstība novedīs pie ISI sistēmu parādīšanās, kurām būs supermorale un superinteliģence. Tāpēc mums vajadzētu gaidīt tikai labestīgas īpašības no viņu puses."
Patiesība ir tāda, ka ideja par progresīvu AI ar morāles principiem un ārkārtēju tikumu neuztur ūdeni. Kā norāda Ārmstrongs, pasaule ir pilna ar gudriem kara noziedzniekiem. Piemēram, intelekts un morāle cilvēkā nav nekādā veidā saistīta, tāpēc zinātnieks apšauba, vai šādas attiecības pastāvēs arī citos izlūkošanas veidos.
“Gudri cilvēki, kas uzvedas amorāli, mēdz radīt daudz vairāk problēmu un sāpju nekā viņu mazāk inteliģenti kolēģi. Izlūkošana ļauj viņiem būt sarežģītākiem sliktās, nevis labās darbībās,”saka Ārmstrongs.
Makintīrs paskaidro, ka aģenta spējai sasniegt noteiktu uzdevumu nav nekāda sakara ar to, kāds ir šis uzdevums.
Mums būs ļoti paveicies, ja mūsu AI kļūs morālāki, ne tikai gudri. Paļaušanās uz veiksmi, protams, ir pēdējā lieta šajā jautājumā, bet, iespējams, tieši veiksme noteiks mūsu pozīciju nākotnē,”saka pētnieks.
Ar AI un robotiku saistītie riski ir vienādi
Tas ir īpaši izplatīts nepareizs priekšstats, ko izmanto plašsaziņas līdzekļos, kā arī Holivudas grāvējos, piemēram, The Terminator.
Ja mākslīgā supervizija, piemēram, Skynet, patiešām vēlas iznīcināt visu cilvēci, tad maz ticams, ka viņš izmantos paramilitāros androidus ar ložmetējiem katrā rokā. Viņa viltīgā un efektīvā domāšana ļaus saprast, ka daudz ērtāk būtu izmantot, teiksim, jauna veida bioloģisko mēri vai, piemēram, kādu nanotehnoloģisku katastrofu. Vai varbūt viņš vienkārši paņems un iznīcinās mūsu planētas atmosfēru. AI ir potenciāli bīstams ne tikai tāpēc, ka tā attīstība ir cieši saistīta ar robotikas attīstību. Viņa iespējamo briesmu cēlonis ir metodes un līdzekļi, ar kuru palīdzību viņš var paziņot par savu klātbūtni pasaulē.
Zinātniskajā fantastikā parādītais AI atspoguļo mūsu nākotni
Bez šaubām, daudzu gadu garumā rakstnieki un zinātniskās fantastikas rakstnieki zinātniskās fantastikas vidi ir izmantojuši kā atspēriena punktu spekulācijām par mūsu reālo nākotni, taču ISI faktiskā izveide un tās reālās sekas joprojām atrodas ārpus mūsu reālo zināšanu horizonta. Turklāt šāda mākslīga un nepārprotami necilvēcīga AI daba pat neļauj mums pilnīgi droši pieņemt, kāds tas patiesībā būs.
Lielākajā daļā zinātniskās fantastikas darbu AI ir pēc iespējas tuvāk cilvēkiem.
“Pirms mums faktiski ir viss spektrs visdažādāko iespējamo prāta veidu. Pat ja mēs pieņemam tikai cilvēka veidolu. Piemēram, jūsu prāts nebūt nav identisks ar jūsu kaimiņa prātu. Bet šis salīdzinājums ir tikai piliens jūrā no visas iespējamās domu dažādības, kas varētu pastāvēt,”saka Makintīrs.
Lielākā daļa fantastikas fantastikas, protams, galvenokārt ir radītas, lai pastāstītu stāstu, nevis lai pēc iespējas zinātniski pārliecinātāk. Ja būtu otrādi (zinātne ir svarīgāka par sižetu), tad sekot šādiem darbiem būtu neinteresanti.
Iedomājieties, cik garlaicīgi būtu visi šie stāsti, kur AI bez sevis apzināšanās, spējas priecāties, mīlēt vai ienīst iznīcina visus cilvēkus praktiski bez jebkādas pretestības, lai sasniegtu savu mērķi, kas, starp citu, arī var nebūt ļoti interesants lasītājam vai skatītājam,”komentē Ārmstrongs.
AI aizņems mūsu darbus
AI spēja automatizēt procesus, ko mēs veicam manuāli, un tā potenciāls iznīcināt visu cilvēci nav viens un tas pats. Tomēr saskaņā ar Martina Forda, grāmatas “Rise of the Robots: Technology and the Threat of a Jobless Future” autora teikto, šos jēdzienus bieži mēģina salīdzināt un apvienot vienotā veselumā. Protams, ir lieliski, ka mēs cenšamies paredzēt AI radīšanas sekas līdz šim, taču tikai tad, ja šie centieni nenovirza mūs no problēmām, ar kurām mēs varam saskarties pēc pāris gadu desmitiem, ja neko nedarīsim. Un viena no galvenajām šādām problēmām ir masu automatizācija.
Tikai daži apgalvo, ka viens no mākslīgā intelekta izaicinājumiem būs atrast veidu, kā automatizēt daudzus darbus, sākot no rūpnīcas darbiem un beidzot ar dažām baltajām apkaklēm. Daži eksperti prognozē, ka puse no visām darbavietām, vismaz ASV, tuvākajā nākotnē var tikt automatizēta.
Bet tas nepavisam nenozīmē, ka mēs nespēsim pieņemt šādas izmaiņas. Ir svarīgi saprast, ka vēlme atbrīvot sevi no nevajadzīga fiziska un psiholoģiska stresa darbā faktiski jau ilgu laiku ir mūsu cilvēku sugas sapnis.
“Pēc dažām desmitgadēm AI patiešām aizstās cilvēkus daudzos darbos. Un tas patiesībā ir ļoti labi. Piemēram, pašpiedziņas automašīnas aizstās kravas automašīnas, kas savukārt ne tikai pazeminās preču nosūtīšanas izmaksas, bet arī pašu preču izmaksas. Ja jūs strādājat par kravas automašīnas vadītāju, tad jūs, protams, paliekat pēdējais, bet visi pārējie šajā gadījumā, visticamāk, saņems algas paaugstinājumu. Un jo vairāk šo naudu var ietaupīt, jo vairāk šīs naudas var iztērēt citām precēm un pakalpojumiem, ar kuriem cilvēki nodarbosies savās darba vietās."
Visticamāk, mākslīgais intelekts meklēs jaunus labklājības veidus un baros cilvēkus, kamēr viņi darīs citas lietas. AI attīstība tiks papildināta ar panākumiem citās jomās. Īpaši ražošanas nozarēs. Nākotnē tas viss, iespējams, ievērojami vienkāršos, nevis sarežģīs mūsu pamatvajadzību apmierināšanu.