- Pirmā daļa -
IV. Izrāviens vēsturē
Mūkss un citi, kas brīdina par mākslīgā intelekta bīstamību, dažreiz tiek traktēti kā trauksmes cēlēji. 2016. gada janvārī Musk saņēma ikgadēju Luddite balvu no Vašingtonas tehnoloģiju politikas ideju laboratorijas. Tomēr viņam ir arī labi "palīgi". Stefans Hokings BBC sacīja: "Es domāju, ka pilnīgi mākslīgā intelekta attīstība varētu nozīmēt cilvēces galu." Bils Geitss sacīja Čārlijam Rozam, ka mākslīgais intelekts ir potenciāli bīstamāks nekā kodolkatastrofa. Niks Bostroms, 43 gadus vecais filozofijas profesors no Kembridžas, savā 2014. gada grāmatā Superintelligence brīdināja, ka “tiklīdz parādīsies naidīgs superintelligence, tas neļaus mums sevi aizstāt vai mainīt savus parametrus. Un mūsu liktenis tiks noteikts. "Pagājušajā gadā Henrijs Kissingers pievienojās tiem, kuri uzskata AI par draudiem, organizējot konfidenciālu tikšanos ar labākajiem ekspertiem par šo tēmu Brookā, privātā klubā Manhetenā, lai pārrunātu viņa bažas par to, kā var veikt viedie roboti. veikt izrāvienu vēsturē un noteikt, kā civilizācija funkcionē.
2015. gada janvārī Musk, Bostrom un AI veidotāji, iebilstot pret strīdiem, pulcējās Puertoriko konferencē, kuru vadīja 49 gadus vecais MIT fizikas profesors Makss Tegmarks, kurš vada arī Nākotnes institūtu. dzīve Bostonā.
"Vai jums ir māja?" Tegmarks man jautāja. "Vai viņš ir apdrošināts pret uguni? Puertoriko vienojāmies, ka mums ir nepieciešama ugunsdrošība. Kad ieguvām uguni un saskārāmies ar problēmām, mēs izgudrojām ugunsdzēšamo aparātu. Kad saņēmām automašīnas un nevarējām ar tām tikt galā, mēs izgudrojām drošības jostu, drošības spilvenu un luksoforu. Bet kodolieroču un mākslīgā intelekta gadījumā mēs nevēlamies mācīties no savām kļūdām. Mēs vēlamies iet tālāk, kā plānots. " (Musk atgādināja Tegmarkam, ka tādas saprātīgas drošības sistēmas kā automašīnas drošības jostas ir izraisījušas sīvu pretestību no automobiļu rūpniecības puses.)
Muskuss, kurš ir uzsācis finansējumu pētījumiem par to, kā izvairīties no mākslīgā intelekta briesmām, sacīja, ka viņš Dzīves nākotnes institūtam "10 miljoni iemeslu" piešķirs šīs tēmas izpēti, ziedojot 10 miljonus dolāru. Tegmarks ātri ziedoja 1,5 miljonus Bostrom grupai Oksfordā, cilvēces nākotnes institūtā. Vienlaikus izskaidrojot, kāpēc ir tik svarīgi rīkoties “pirms laika, nevis tikai reaģēt”, Musks sacīja, ka noteikti ir iespējams “izstrādāt tos scenārijus, kur cilvēka civilizācija atkal neceļas”.
Sešus mēnešus pēc Puertoriko konferences Musks, Hokings, Demiss Hassabis, Apple līdzdibinātāji Stīvs Vozņaks un Stjuarts Rasels, Bērklija programmēšanas profesors, mākslīgā intelekta standarta mācību grāmatas līdzautors un tūkstotis citu ievērojamu cilvēku parakstīja vēstuli, aicinot aizliegt šo bīstamo autonomo. ieročus. "Pēc 50 gadiem šis pusotrs gads būs nozīmīgs nākotnes AI kopienai," man sacīja Rasels. "Toreiz AI kopiena beidzot pamodās, sapulcējās un domāja par to, kas jādara, lai nākotnē būtu labāk." Pagājušā gada septembrī lielākie tehnoloģiju uzņēmumi uzsāka Mākslīgā intelekta partnerību, lai izpētītu visu šīs jomas jautājumu loku, ieskaitot ētiskos.(Musk OpenAI ātri pievienojās šai iniciatīvai). Tajā pašā laikā Eiropas Savienība ir pievērsusies robotu un mākslīgā intelekta juridiskajiem aspektiem: piemēram, vai robotiem ir “personība” vai (kā savulaik prātoja viens Financial Times žurnālists) vairāk varētu uzskatīt par vergiem Romas likumos.
Otrajā Tegmarka mākslīgā intelekta konferencē pagājušā gada janvārī Asilomar centrā Kalifornijā - izvēle krita uz viņu, jo tieši tur 1975. gadā zinātnieki pulcējās un vienojās ierobežot ģenētiskos eksperimentus - strīdu bija daudz mazāk. Lerijs Peidžs, kurš nebija klāt konferencē Puertoriko, atradās Asilomārā, un Musks atzīmēja, ka viņu "saruna vairs nav karsta".
Reklāmas video:
Bet pat ja tas bija "mākslīgā intelekta drošības iznākšanas triumfs", kā to teica viens viesis (pēc Muska domām, kopš pagājušā gada ir notikušas "dramatiskas pārmaiņas"), joprojām ir jāveic daudz darba. "Protams, vadošie Silīcija ielejas tehnologi mākslīgo intelektu tagad uztver daudz nopietnāk, pēc tam, kad ir atzinuši tā draudus," viņš atzīmē. "Es neesmu pārliecināts, ka viņi jau ir novērtējuši šo briesmu nozīmīgumu."
Cilvēka smadzenes displejā Sanpaulu
Stīvs Vozņaks publiski prātoja, vai viņam ir lemts kļūt par mājdzīvnieku “meistaru” ģimenē ar augstāku intelektu. "Mēs sākām barot suņu filejas," viņš man pastāstīja par savu mājdzīvnieku pusdienu laikā kopā ar sievu Janet Original Hick'ry Pit Walnut Creek. “Tiklīdz jūs domājat, ka varat būt viņa vietā, jūs vēlaties, lai pret jums izturētos šādā veidā”.
Viņš izstrādāja robotu un jebkura mākslīgā intelekta nesēju nomierināšanas politiku. “Kāpēc mēs vēlamies būt viņu ienaidnieki, ja viņi kādu dienu varētu mūs pārņemt?” Viņš saka. - Tam vajadzētu būt partnerībai. Viss, ko mēs varam darīt, ir nodrošināt viņiem spēcīgu kultūru, kurā viņi redz cilvēkus kā draugus.”
Kad es devos uz Pētera Tīlija stilīgo Sanfrancisko biroju, kurā dominēja divi milzīgi šaha galdiņi, Tīls, viens no OpenAI agrīnajiem sponsoriem un redzošs investors, kas rīkojas pretēji tirgus tendencēm, pauda bažas, ka Muska aizkavēšanās varētu faktiski paātrina mākslīgā intelekta attīstību, jo tā apokaliptiskie pareģojumi tikai pastiprina interesi par šo jomu.
"Pilnvērtīgs mākslīgais intelekts rada tos pašus jautājumus kā svešzemju nosēšanās," saka Thiel. “Tas rada ļoti sarežģītus jautājumus … Ja jūs tiešām interesē, kā mēs padarīsim mākslīgo intelektu drošu, tad diez vai kādam būs atbilde uz šo jautājumu. Mēs pat nezinām, kas ir mākslīgais intelekts. Ir ļoti grūti saprast, vai viņš to kontrolēs."
Un tālāk: “Ir kāda jēga tajā, ka mākslīgā intelekta jautājums absorbē visas cilvēku bailes un cerības, kas saistītas ar datoru laikmetu. Es domāju, ka cilvēka intuīcija patiešām tikai sabrūk, kad runa ir par šīm robežām, jo mēs nekad uz šīs planētas neesam saskārušies ar būtni, kas būtu gudrāka par cilvēkiem."
V. Saplūšanas slāpes
Cenšoties noskaidrot, kam ir taisnība par mākslīgo intelektu, es devos uz San Mateo, lai satiktu Ray Kurzweil kafiju pie Three. Kurzweil ir The Singularity Nethy autors, kur viņš izklāsta utopisku redzējumu par mākslīgā intelekta nākotni. (Kad es pieminēju sarunā ar Endrjū Ngu par manu gaidāmo tikšanos ar Kurzweil, viņš pievērsa acis: “Kad lasīju Kurzweil's Singularity, manas acis to vienkārši dara netīšām,” viņš teica.) Kurzweil ieradās uz tikšanos ar maisu no veikala. Whole Foods veselīgu ēdienu saķere, pilna ar viņa grāmatām un dokumentālajām filmām. Viņš valkāja haki bikses, sarkanu un zaļu čeka flaneļa kreklu un vairākus gredzenus, ieskaitot vienu 3D, kas apdrukāts ar S Visumam. īpatnības.
Datoriem jau "ir daudz domāšanas atribūtu", man sacīja Kurzweil. “Tikai pirms dažiem gadiem mākslīgais intelekts nespēja pateikt kaķi no suņa. Tagad tā var. " Kurzweil mīl kaķus, un viņa mājās Ziemeļkalifornijā ir 300 kaķu figūriņu kolekcija. Restorānā viņš pasūtīja mandeļu pienu, bet tā tur nebija. 69 gadus vecais Kurzweils ēd dīvainus, veselīgus novārījumus un dienā lieto 90 tabletes, lai sasniegtu nemirstību - vai "mūsu apziņas faila esamības bezgalīgus paplašinājumus", kas nozīmē apvienošanos ar mašīnām. Viņam ir tik liela vēlme pēc šādas vienotības, ka viņš dažreiz vietniekvārdu "mēs" izmanto, lai atsauktos uz superinteliģentajām nākotnes būtnēm, pretstatā draudīgajam, draudīgākajam "viņām", ko izmanto Musks.
Es minēju, kā Musks teica, ka viņu pārsteidz tas, ka nav neviena, pat viena procenta, šaubu par mūsu “prāta bērnu” briesmām, kā tos sauc robotikas eksperts Hanss Moravecs.
“Tā nepavisam nav taisnība. Es biju tas, kurš sāka runāt par iespējamiem riskiem,”saka Kurzweil. "Solījumi un riski ir cieši saistīti," viņš turpina, "uguns palīdzēja mums uzturēt siltumu, tas gatavoja mūsu ēdienu, bet tas dedzināja mūsu mājas … Turklāt ir arī stratēģijas risku kontrolei, kā tas notiek biotehnoloģijas noteikumu gadījumā." Viņš apkopoja trīs cilvēka reakcijas uz jaunajām tehnoloģijām posmus kā "Wow!", "Uh-oh" un "Vai mums ir arī citas iespējas papildus virzībai uz priekšu?" "To lietu saraksts, kuras cilvēki var izdarīt labāk nekā datori, kļūst arvien īsāks," viņš saka. "Bet mēs veidojam šos rīkus, lai palielinātu mūsu iespējas."
Tāpat kā pirms 200 miljoniem gadu zīdītāju smadzenēs parādījās homogēns garozs, kas vēlāk cilvēkiem deva iespēju “izgudrot valodu, zinātni, mākslu un tehnoloģijas”, līdz 2030. gadam saskaņā ar Kurzweil prognozēm mēs kļūsim kiborgi ar nanobotiem, kas ir asins šūnu lielumā, savienojot mūs ar sintētiskiem neokorteksiem mākonī, nodrošinot piekļuvi virtuālajai realitātei un papildinātai realitātei mūsu pašu nervu sistēmā. “Mēs kļūsim interesantāki, mēs būsim muzikālāki, mēs paplašināsim savu gudrību,” viņš saka un, cik es saprotu, šādā veidā rezultāts būs Bēthovena un Einsteina pūlis. Nanoboti mūsu vēnās un artērijās dziedinās mūsu slimības, dziedinot ķermeni no iekšpuses uz āru.
Viņš atzīst, ka Muska tumšās spekulācijas var piepildīties. Kurzweil atzīmē, ka mūsu mākslīgā intelekta pēcnācējs "var būt draudzīgs un varbūt otrādi" un "ja tas izrādīsies naidīgs, mums, iespējams, nāksies ar to cīnīties". Droši vien vienīgais veids, kā viņu sakaut, ir "uzvarēt vēl gudrāku mākslīgo intelektu pār jūsu pusi".
Kurzweil man pastāstīja, cik pārsteigts viņš bija, ka Stjuarts Rasela bija starp mākslīgā intelekta pretiniekiem, tāpēc es sazinājos ar Raselu un tikos ar viņu viņa birojā astotajā stāvā Berklijā. 54 gadus vecais britu-amerikāņu mākslīgā intelekta eksperts man teica, ka viņa redze ir attīstījusies, un tagad viņš "stingri" nepiekrīt Kurzweil un tiem, kuri ir gatavi uzņemt un nodot planētu superinteliģentam mākslīgajam intelektam.
Rasela nenožēlo, ka pateicoties mākslīgajam intelektam varētu būt vairāk Einsteinu un Bēthovenu. Ja pasaulē ir vēl viena Ludviga, tas nesabalansēs cilvēku iznīcināšanas risku. "Tas ir tā, it kā saprāts ir svarīgāks par cilvēka pieredzes kvalitāti," viņš izmisīgi saka. "Es domāju, ka, ja mēs aizstājam sevi ar mašīnām, kurām, kā mēs līdz šim zinām, nav apzinātas eksistences, neatkarīgi no tā, cik pārsteidzošas lietas viņi izgudroja, es domāju, ka šī var būt vissliktākā iespējamā traģēdija." Niks Bostroms ideju par tehnoloģiski augstāku sabiedrību, kurā nav cilvēku, nosauca par "Disnejlendu bez bērniem".
"Ir cilvēki, kuri uzskata, ka, ja mašīnas ir gudrākas par mums, tad viņiem vienkārši ir jānodrošina planēta, un mums vajadzētu pamest," saka Rasels. “Turklāt ir cilvēki, kas saka:“Labi, mēs ielādēsimies automašīnās, bet mēs tomēr saglabāsim apziņu, vienlaikus būdami mašīnām.”Kas, manuprāt, nav pilnīgi iedomājams.
Rasels sūdzējās par Yann LeCun uzskatiem, kurš izstrādāja AlphaGo izmantoto konvolūcijas neironu tīklu priekšteci un ir Facebook mākslīgā intelekta direktors. LeKane BBC sacīja, ka nebūs tādu skriptu kā Out of the Machine vai The Terminator, jo roboti netiks veidoti, ņemot vērā cilvēka vēlmes: viņi nepiedzīvos badu, spēka alkas, reprodukcijas instinktu, sevis saglabāšanu. “Yann LeCan pastāvīgi saka, ka mašīnām nav nekāda iemesla, lai tām būtu kaut kāds pašsaglabāšanās instinkts,” atzīmē Rasels. “Faktiski un matemātikā tas ir nepatiesi. Galu galā ir tik acīmredzami, ka mašīna tiks apveltīta ar vēlmi pašsaglabāties, pat ja tajā tajā nav ieprogrammēts, jo, ja jūs sakāt: “Izskrieniet kafiju”, to nevarēs izdarīt,ja viņa ir mirusi. Tāpēc, ja jūs viņai uzticat kādu uzdevumu, veicot šo uzdevumu, viņai ir iemesls saglabāt savu eksistenci. Ja jūs viņai ceļat kafijas draudu, viņa jūs iznīcinās, jo tiks ņemts vērā jebkurš risks kafijai. Cilvēki to izskaidroja LeCan vienkāršākā izpratnē."
Rasela atteicās no diviem visizplatītākajiem iemesliem, kāpēc mums nevajadzētu uztraukties: “Pirmkārt, tas nekad nenotiks, kas ir tas pats, kas teikt, ka mēs ejam tieši klintī, bet mēs nenotiksim avāriju, jo mums agrāk būs beidzies benzīns kā mēs nokļūstam pie viņas. Tas nav ļoti labs veids, kā risināt cilvēces problēmas. Otrais arguments: neuztraucieties, mēs projektēsim tikai robotus, kas strādā ar mums, un strādās cilvēku un robotu komandās. Kas neizbēgami rada jautājumu: ja jūsu robots nepiekrīt jūsu uzdevumiem, kā jūs varat strādāt ar to vienā komandā?"
Pagājušajā gadā Microsoft izslēdza savu ar AI darbināmo tērzētavu Ty, pēc tam, kad Twitter lietotāji, kuriem vajadzēja padarīt viņu "gudrāku" ar gadījuma spēļu sarunām, "kā to teica Microsoft, tā vietā iemācīja viņai atbildēt ar izmantojot rasistiskus, misogynistic un antisemītiskus apvainojumus. "Bušs organizēja 11. septembra uzbrukumus, un Hitlers būtu izdarījis labāk nekā pērtiķis, kurš mūs tagad valda," Tīrs tvītā. "Donalds Trumps ir mūsu vienīgā cerība." Atbildot uz to, Musks uzrakstīja ziņu: “Interesanti redzēt, cik ilgs laiks paiet no šiem robotiem līdz Hitleram. Microsoft Tai vajadzēja tikai vienu dienu."
Kopā ar prezidentu Trumpu Musks staigā pa asmeni. Viņa uzņēmumi biznesā un subsīdijās paļaujas uz Amerikas valdību neatkarīgi no tā, vai pie stūres ir Markuss Aurēlijs vai Kaligula. Muska uzņēmumi sniedza konsultatīvu atzinumu pret Trumpa dekrētu par imigrāciju un bēgļiem, un pats Musks tviterī iebilda pret dekrētu. Tajā pašā laikā atšķirībā no Uber Travis Kalanick, Musk ir minēts kā Trump stratēģiskā un politikas foruma loceklis. “Tas ir ļoti līdzīgs Elonam,” saka Ešlija Vance. "Viņš darīs visu, kas vajadzīgs, neatkarīgi no tā, vai kāds ar to nav apmierināts." Viņš arī piebilda, ka Musks vajadzības gadījumā var būt “oportūnists”.
Es jautāju Muskam par viņa sadarbības ar Trumpu kritiku. Fotoattēlā ar tehnoloģiju vadītājiem viņš izskatās drūms un nevēlas par to runāt. Galu galā viņš teica: “Tas ir labāk, ja prezidenta birojā tiek dzirdamas mērenas balsis. Kreisajā pusē ir daudz cilvēku, kuri būtībā vēlas izolāciju un balsi. Tas ir ļoti nesaprātīgi."
Vi. Viss par ceļošanu
Eliezers Judkovskis ir cienījams 37 gadus vecs zinātnieks, kurš cenšas noskaidrot, vai praksē, nevis tikai teorētiski, ir iespējams virzīt mākslīgo intelektu citā virzienā, izņemot labo. Mēs ar viņu tikāmies japāņu restorānā Bērklijā.
“Kā mērķa funkcijas var ieprogrammēt mākslīgajā intelektā, lai tajā būtu slēdzis, un lai tā vēlas šo slēdzi un nemēģina to iznīcināt, bet tajā pašā laikā tas netiks priekšā notikumiem un pats to nespiedīs? ", - viņš uzdod jautājumu, pasūtot ruļļus ar gaļu un zivīm. “Un, ja viņš modificē sevi, vai viņš to darīs tā, lai slēdzis tiktu saglabāts? Mēs cenšamies pie tā strādāt. Un tas nav viegli."
Es devu mājienu par Klaatu, HEL un Ultron mantiniekiem, kas iekaro internetu un pārņem kontroli pār mūsu banku, transporta un militārajām sistēmām. Bet kā ir ar Blade Runner replikātiem, kuri sazvērējušies nogalināt savu radītāju? Judkovskis satvēra galvu un pēc tam pacietīgi paskaidroja: “Mākslīgajam intelektam nevajadzētu pārņemt visu internetu. Viņam nav vajadzīgi droni. Ar savu ieroci viņš nav bīstams. Viņš ir bīstams, jo ir gudrāks par mums. Iedomājieties, ka viņš spēj izdomāt zinātnisko tehnoloģiju olbaltumvielu struktūras noteikšanai no DNS ietvertās informācijas. Tad viņam vienkārši jānosūta daži e-pasti uz laboratoriju, kur tiek sintezēti atsevišķi proteīni. Drīz viņam ir savs molekulārais aparāts, kas konstruē vēl sarežģītākas molekulārās mašīnas.
Roboti
“Ja vēlaties iedomāties, kā mākslīgais intelekts vēršas pret mums, nemēģiniet iedomāties staigājošus humanoīdu robotus ar dzirkstošām sarkanām acīm. Iedomājieties sīkas neredzamas sintētiskās dimanta baktērijas un sīkus borta datorus, kas slēpjas jūsu un visu citu asinsritē. Un pēkšņi viņi vienlaikus atbrīvo vienu mikrogramu botulīna toksīna. Un visi vienkārši nokrīt.
“Faktiski tikai tas nenotiks. Es nevaru precīzi paredzēt, kā mēs zaudēsim, jo mākslīgais intelekts būs gudrāks par mani. Kad jūs izveidojat kaut ko gudrāku par sevi, jums tas ir jāsaprot jau pirmajā mēģinājumā."
Es atkal atcerējos sarunu ar Musku un Altmanu. Musks sacīja, ka nevajadzētu kļūdīties, iedomājoties slepkavas robotus. “Mākslīgā intelekta īpatnība ir tā, ka tas nav robots, tas ir datora algoritms tīklā. Tāpēc robots kļūs tikai par galīgo izpildvaras saiti, tikai par sensoru un izpildmehānismu komplektu. Mākslīgais intelekts pastāv tīklā … Vissvarīgākais ir tas, ka, ja mums ir kaut kāds ārpuskontroles algoritms, tad cilvēki, kuri kontrolē cilvēka mākslīgo intelektu, varēs apturēt šo algoritmu. Bet, ja plašs centralizēts mākslīgais intelekts pieņem lēmumus, tad to apturēt nebūs iespējams."
Altmans izvērsa šo scenāriju: “Programma ar pilnīgu kontroli pār internetu spētu ietekmēt pasauli daudz vairāk nekā programma ar pilnīgu sarežģīta robota kontroli. Mūsu dzīve jau ir tik atkarīga no interneta, ka programma, kurai nav ķermeņa un kura ļoti efektīvi izmanto internetu, varētu viegli iegūt daudz lielāku ietekmi.”
Pat roboti ar šķietami labiem mērķiem var mums kaitēt aukstās asinīs. “Teiksim, ka jūs izveidojat pašmācības mākslīgo intelektu zemeņu novākšanai,” saka Musk. “Viņš labāk un labāk novāc zemenes, savāc arvien vairāk un vairāk no tām un pastāvīgi pilnveido sevi, tas ir, viss, kas viņam patiešām ir nepieciešams, ir savākšana zemenes. Un viņš ieguva visus zemeņu laukus pasaulē. Zemeņu lauki uz visiem laikiem. Šeit nav vietas cilvēkam.
Bet vai viņi tiešām spēj attīstīt iznīcināšanas sviru? "Es neesmu pārliecināts, ka es vēlos, lai man būtu iespējas iznīcināt kādu superjaudīgu mākslīgo intelektu, jo tas var būt tā galvenais upuris," atbild Musks.
Altmans mēģināja nodot baismīgo varenību par to, kas bija uz spēles: "Tagad ir ļoti interesanti dzīvot, jo dažās nākamajās desmitgadēs mēs vai nu steigsimies tieši uz sevis iznīcināšanu, vai arī mēs virzīsimies uz to, lai cilvēces pēcnācēji kolonizētu Visumu."
"Tieši tā," saka Musks, piebilstot: "Ja jūs uzskatāt, ka beigas ir Visuma siltums, tad visi uzdevumi tiek samazināti līdz pārvietošanai."
Cilvēks, kas tik noraizējies par izmiršanu, aizrāvās ar savu pastardienas joku. Kā savulaik rakstīja H. F. Lovecraft: "Pat lielākās šausmās bieži nav ironijas."
- Pirmā daļa -