Pirms jums ir otrā daļa no sērijas "Pagaidiet, cik tas viss var būt īsts, kāpēc par to joprojām nerunā katrā stūrī". Iepriekšējā sērijā kļuva zināms, ka saprāta sprādziens pamazām rāpo uz Zemes planētas cilvēkiem, tas mēģina attīstīties no šauri fokusēta uz vispārēju intelektu un, visbeidzot, mākslīgo superintelliģenci.
"Varbūt mēs saskaramies ar ārkārtīgi sarežģītu problēmu, un nav zināms, cik daudz laika tiek atvēlēts tās risināšanai, bet cilvēces nākotne var būt atkarīga no tās risinājuma." - Niks Bostroms.
Raksta pirmā daļa sākās pietiekami nevainīgi. Mēs apspriedām šauri koncentrētu mākslīgo intelektu (AI, kas specializējas vienas specifiskas problēmas risināšanā, piemēram, maršrutu noteikšanā vai šaha spēlēšanā), mūsu pasaulē to ir daudz. Tad viņi analizēja, kāpēc ir tik grūti audzēt vispārēju virziena mākslīgo intelektu (AGI jeb AI, kas intelektuālo spēju ziņā var pielīdzināt cilvēku jebkuras problēmas risināšanā). Mēs secinājām, ka eksponenciālais tehnoloģiju attīstības temps liek domāt, ka AGI drīz var atrasties ap stūri. Beigu beigās mēs nolēmām, ka tiklīdz mašīnas sasniedz cilvēka saprātu, var notikt šādi gadījumi:
Kā parasti, mēs skatāmies uz ekrānu, neticot, ka mūsu dzīves laikā var parādīties mākslīgā superintelliģence (ISI, kas ir daudz gudrāka par jebkuru cilvēku), un izvēloties emocijas, kas vislabāk atspoguļo mūsu viedokli šajā jautājumā.
Reklāmas video:
Pirms mēs iedziļināmies ISI specifikā, atgādināsim sev, ko nozīmē mašīnai būt saprātīgai.
Galvenā atšķirība ir starp ātru superintelliģenci un kvalitatīvu superintelligence. Bieži vien pirmais, kas ienāk prātā, domājot par superinteliģento datoru, ir tas, ka tas spēj domāt daudz ātrāk nekā cilvēks - miljoniem reižu ātrāk, un piecās minūtēs saprot, kas cilvēkam prasītu desmit gadus. ("Es zinu, kung fu!")
Tas izklausās iespaidīgi, un ISI patiešām vajadzētu domāt ātrāk nekā jebkurš no cilvēkiem, bet galvenā atšķirīgā iezīme būs viņa intelekta kvalitāte, kas ir pavisam cita. Cilvēki ir daudz gudrāki par pērtiķiem nevis tāpēc, ka domā ātrāk, bet gan tāpēc, ka viņu smadzenēs ir virkne ģeniālu izziņas moduļu, kas veic sarežģītus lingvistiskus attēlojumus, ilgtermiņa plānošanu, abstraktu domāšanu, uz ko pērtiķi nav spējīgi. Ja tūkstoš reizes paātrināsit pērtiķa smadzenes, tas nekļūs gudrāks par mums - pat pēc desmit gadiem tas nespēs salikt konstruktoru atbilstoši instrukcijām, kas cilvēkam prasītu maksimāli pāris stundas. Ir lietas, ko pērtiķis nekad nemācīsies, neatkarīgi no tā, cik stundas viņš pavada vai cik ātri darbojas viņa smadzenes.
Turklāt pērtiķis nezina, cik cilvēcīgi, jo tā smadzenes vienkārši nespēj apzināties citu pasauļu esamību - pērtiķis var zināt, kas ir cilvēks un kāds ir debesskrāpis, bet nekad nesapratīs, ka debesskrāpi uzcēla cilvēki. Viņas pasaulē viss pieder pie dabas, un makaka ne tikai nevar uzbūvēt debesskrāpi, bet arī saprot, ka to var uzbūvēt jebkurš. Un tas ir neliels izlūkošanas kvalitātes atšķirību rezultāts.
Intelekta vispārējā shēmā, par kuru mēs runājam, vai vienkārši pēc bioloģisko būtņu standartiem, intelekta kvalitātes atšķirība starp cilvēkiem un pērtiķiem ir niecīga. Iepriekšējā rakstā mēs uz kāpnēm izvietojām bioloģiskās izziņas spējas:
Lai saprastu, cik nopietna būs saprātīga mašīna, novietojiet to par diviem pakāpieniem augstāk nekā cilvēks uz šīm kāpnēm. Šī mašīna var būt tikai nedaudz saprotoša, taču tās pārākums pār mūsu izziņas spējām būs tāds pats kā mūsu - pār pērtiķiem. Un tāpat kā šimpanze nekad nesapratīs, ka var uzbūvēt debesskrāpi, mēs nekad nevarēsim saprast, ko sapratīs mašīna, kas atrodas pāris soļus augstāk, pat ja mašīna mēģinās mums to izskaidrot. Bet tas ir tikai pāris soļi. Gudrāka mašīna redzēs mūsos skudras - tā gadiem ilgi iemācīs mums visvienkāršākās lietas no savas pozīcijas, un šie mēģinājumi būs pilnīgi bezcerīgi.
Superinteliģences veids, par kuru mēs šodien runāsim, atrodas tālu ārpus šīm kāpnēm. Tas ir saprāta sprādziens - jo gudrāka automašīna kļūst, jo ātrāk tā var palielināt savu saprātu, pakāpeniski palielinot ātrumu. Var paiet gadi, kamēr šāda mašīna pārspēj šimpanzes intelektā, bet varbūt pāris stundas, lai mūs pārspētu par pāris soļiem. Kopš šī brīža automašīna jau var pārlēkt četrus soļus katru sekundi. Tāpēc mums vajadzētu saprast, ka ļoti drīz pēc tam, kad parādīsies pirmās ziņas, ka mašīna ir sasniegusi cilvēka intelekta līmeni, mēs varam saskarties ar Zemes līdzāspastāvēšanas realitāti ar kaut ko, kas būs daudz augstāks nekā mēs uz šīm kāpnēm (vai varbūt, un miljoniem reižu lielāks):
Un tā kā mēs esam noskaidrojuši, ka ir pilnīgi bezjēdzīgi mēģināt izprast tādas mašīnas jaudu, kura atrodas tikai divus soļus virs mums, tad reizi par visām reizēm definēsim, ka nav iespējas saprast, ko ISI darīs un kādas būs šīs sekas mums. Ikviens, kurš apgalvo pretējo, vienkārši nesaprot, ko nozīmē inteliģence.
Evolūcija simtiem miljonu gadu laikā lēnām un pakāpeniski ir attīstījusi bioloģiskās smadzenes, un, ja cilvēki izveidos superinteliģentu mašīnu, savā ziņā mēs evolūciju pārsniegsim. Vai arī tā būs evolūcijas sastāvdaļa - iespējams, evolūcija darbojas tādā veidā, ka intelekts attīstās pakāpeniski, līdz tas sasniedz pagrieziena punktu, kas sludina jaunu nākotni visām dzīvajām lietām:
Tādu iemeslu dēļ, par kuriem mēs diskutēsim vēlāk, milzīga daļa zinātnieku aprindu uzskata, ka jautājums nav par to, vai mēs nonāksim pie šī pavērsiena punkta, bet gan par to, kad.
Kur mēs pēc tā nonākam?
Es domāju, ka neviens šajā pasaulē, ne es, ne jūs, nevarēsim pateikt, kas notiks, kad mēs nonāksim pie nolaišanās vietas. Oksfordas filozofs un vadošais AI teorētiķis Niks Bostroms uzskata, ka mēs varam visus iespējamos rezultātus apkopot divās plašās kategorijās.
Pirmkārt, aplūkojot vēsturi, par dzīvi mēs zinām sekojošo: sugas parādās, pastāv noteiktu laiku un pēc tam neizbēgami nokrītas no dzīves līdzsvara un izmirst.
"Visas sugas izmirst" vēsturē ir bijis tikpat drošs noteikums kā "visi cilvēki kādreiz mirst". 99,9% sugu ir izkrituši no dzīvības žurnāla, un ir pilnīgi skaidrs, ka, ja suga pārāk ilgi paliek uz šī baļķa, dabiskā vēja brāzmas vai pēkšņs asteroīds apgāžas. Bostroms izmiršanu sauc par pievilinātāju - vietu, kur visas sugas līdzsvarojas, lai nekristu tur, kur neviena suga nav atgriezusies.
Un, lai arī vairums zinātnieku atzīst, ka ISI spēs likt cilvēkiem iznīkt, daudzi arī uzskata, ka ISI iespēju izmantošana indivīdiem (un sugām kopumā) ļaus sasniegt otro pievilinātāja stāvokli - sugu nemirstību. Bostroms uzskata, ka sugas nemirstība ir tikpat pievilcīga kā sugas izmiršana, tas ir, ja mēs nonāksim pie tā, mēs būsim lemti mūžīgai eksistencei. Tādējādi, pat ja visas sugas līdz šim no šīs nūjas iekrita izmiršanas centrā, Bostroms uzskata, ka baļķim ir divas puses, un uz Zemes vienkārši nav parādījies tāds intelekts, kas saprastu, kā nokrist uz otru pusi.
Ja Bostrom un citiem ir taisnība un, spriežot pēc visas mums pieejamās informācijas, viņi, iespējams, tā arī ir, mums jāpieņem divi ļoti šokējoši fakti:
1. ISI parādīšanās pirmo reizi vēsturē pavērs sugai iespēju sasniegt nemirstību un izkrist no letālā izmiršanas cikla.
2. ISI rašanās radīs tik neiedomājami milzīgu iespaidu, ka, visdrīzāk, tas cilvēci novirzīs no šīs stara vienā vai otrā virzienā.
Iespējams, ka tad, kad evolūcija sasniedz šādu pagrieziena punktu, tā vienmēr izbeidz cilvēku attiecības ar dzīves straumi un rada jaunu pasauli, ar vai bez cilvēkiem.
Tas rada interesantu jautājumu, kuru tikai buferim neuzdotu: Kad mēs nonāksim pie šī nogāzes punkta un kur mēs to uzliksim? Neviens pasaulē nezina atbildi uz šo divkāršo jautājumu, taču daudzi gudri cilvēki gadu desmitiem ir centušies to izdomāt. Par pārējo rakstu mēs noskaidrosim, no kurienes viņi cēlušies.
* * *
Sāksim ar šī jautājuma pirmo daļu: kad mums būtu jāsasniedz izejas punkts? Citiem vārdiem sakot: cik daudz laika ir atlicis, līdz pirmā mašīna sasniedz superintelligenci?
Atzinumi katrā gadījumā ir atšķirīgi. Daudzi, tostarp profesors Vernors Vinge, zinātnieks Bens Herzels, Sun Microsystems līdzdibinātājs Bils Džoiss, futūrists Rejs Kurzveils, vienojās ar mašīnmācīšanās ekspertu Džeremiju Hovardu, kad TED Talk iepazīstināja ar šādu grafiku:
Šie cilvēki ir vienisprātis, ka ISI drīzumā notiks - šī eksponenciālā izaugsme, kas mums šodien šķiet lēna, burtiski eksplodēs dažās nākamajās desmitgadēs.
Citi, piemēram, Microsoft līdzdibinātājs Pols Allens, pētījumu psihologs Gerijs Marcuss, datoru eksperts Ernests Deiviss un tehnoloģiju uzņēmējs Mičs Kapors, uzskata, ka domātāji, piemēram, Kurzweil, nopietni nenovērtē problēmas apmēru un domā, ka mēs ne tuvu neesam tik tuvu pie atskaites punkta.
Kurzweil nometne apgalvo, ka vienīgais nenovērtējums, kas notiek, ir eksponenciālās izaugsmes ignorēšana, un šaubītājus var salīdzināt ar tiem, kuri 1985. gadā apskatīja lēnām plaukstošo internetu un apgalvoja, ka tas tuvākajā nākotnē neietekmēs pasauli.
Šaubītāji var nojaust, ka progresam ir grūtāk veikt katru nākamo soli, kad runa ir par intelekta eksponenciālo attīstību, kas neitralizē tehnoloģiskā progresa raksturīgo eksponenciālo raksturu. Utt
Trešā nometne, kurā atrodas Niks Bostroms, nepiekrīt ne pirmajai, ne otrajai, apgalvojot, ka a) tas viss tuvākajā laikā var absolūti notikt; un b) nav garantijas, ka tas vispār notiks vai ka tas prasīs ilgāku laiku.
Citi, piemēram, filozofs Huberts Dreifuss, uzskata, ka visas trīs grupas naivi tic, ka vispār būs pagrieziena punkts un ka mēs, visticamāk, nekad nenokļūsim ISI.
Kas notiek, kad mēs saliekam visus šos viedokļus?
2013. gadā Bostroms veica aptauju, kurā aptaujāja simtiem mākslīgā intelekta jomas ekspertu konferenču sērijās par šādu tēmu: "Kādas būs jūsu prognozes AGI sasniegšanai cilvēku līmenī?" un lūdza mums nosaukt optimistisku gadu (kurā mums būs AGI ar 10 procentu iespēju), reālistisku pieņēmumu (gadu, kurā mums būs AGI ar 50 procentu varbūtību) un pārliecinātu pieņēmumu (agrākais gads, kurā AGI parādīsies kopš 90. gada -procenta varbūtība). Šeit ir rezultāti:
- Vidējais optimistiskais gads (10%): 2022. gads
- Vidēji reālistisks gads (50%): 2040
- Vidējais pesimistiskais gads (90%): 2075
Vidēji respondenti uzskata, ka 25 gadu laikā mums būs AGI, nevis nē. 90 procentu iespējama AGI rašanās līdz 2075. gadam nozīmē, ka, ja jūs joprojām esat diezgan jauns, tas, visticamāk, notiks jūsu dzīves laikā.
Atsevišķs pētījums, ko nesen veica Džeimss Barrets (atzinīgi vērtētās un ļoti labās grāmatas “Mūsu jaunākais izgudrojums” autors, fragmenti, no kuriem es pievērsu Hi-News.ru lasītāju uzmanību) un Bens Hertzels AGI konferencē, ikgadējā AGI konferencē, vienkārši parādīja cilvēku viedokli attiecībā pret gadu mēs nokļūstam AGI: 2030, 2050, 2100, vēlāk vai nekad. Šeit ir rezultāti:
- Līdz 2030. gadam: 42% respondentu
- Līdz 2050. gadam: 25%
- līdz 2100. gadam: 20%
- Pēc 2100. gada: 10%
- Nekad: 2%
Līdzīgi Bostrom rezultātiem. Barrata aptaujā vairāk nekā divas trešdaļas aptaujāto uzskata, ka AGI šeit atradīsies līdz 2050. gadam, un mazāk nekā puse uzskata, ka AGI parādīsies nākamajos 15 gados. Pārsteidzoši ir arī tas, ka tikai 2% respondentu principā neredz AGI mūsu nākotnē.
Bet AGI nav tāds atskaites punkts kā ISI. Kad, pēc ekspertu domām, mums būs ISI?
Bostroms jautāja ekspertiem, kad mēs sasniegsim ASI: a) divus gadus pēc AGI sasniegšanas (tas ir, gandrīz uzreiz izlūkošanas sprādziena dēļ); b) pēc 30 gadiem. Rezultāti?
Vidējais viedoklis ir, ka ātra pāreja no AGI uz ISI notiks ar 10% varbūtību, bet 30 vai mazāk gadu laikā tā notiks ar 75% varbūtību.
No šiem datiem mēs nezinām, kurā datumā respondenti izsauktu 50 procentu iespēju ASI, taču, balstoties uz abām iepriekš sniegtajām atbildēm, pieņemsim, ka tas ir 20 gadi. Tas ir, pasaules vadošie AI eksperti uzskata, ka pagrieziena punkts pienāks 2060. gadā (AGI parādīsies 2040. gadā + būs nepieciešami 20 gadi, kamēr pāreja no AGI uz ISI notiks).
Protams, visa iepriekšminētā statistika ir spekulatīva un atspoguļo tikai mākslīgā intelekta jomas ekspertu viedokli, taču tie arī norāda, ka lielākā daļa attiecīgo cilvēku piekrīt, ka līdz 2060. gadam AI, iespējams, ieradīsies. Tikai 45 gadu laikā.
Pārejam pie otrā jautājuma. Kad mēs nonākam pie nodošanas punkta, kura liktenīgās izvēles puse mūs noteiks?
Superinteliģencei būs visspēcīgākais spēks, un mums kritiskais jautājums būs šāds:
Kurš vai kas kontrolēs šo spēku un kāda būs viņu motivācija?
Atbilde uz šo jautājumu būs atkarīga no tā, vai ISI iegūst neticami spēcīgu attīstību, neizmērojami drausmīgu attīstību vai kaut ko pa vidu.
Protams, ekspertu kopiena cenšas atbildēt arī uz šiem jautājumiem. Bostroma aptaujā tika analizēta AGI ietekmes uz cilvēci iespējamo seku iespējamība, un izrādījās, ka ar 52 procentu iespēju viss notiks ļoti labi un ar 31 procentu iespēju viss notiks vai nu slikti, vai ārkārtīgi slikti. Aptauja, kas pievienota šīs tēmas iepriekšējās daļas beigās, un tika veikta starp jums, dārgie Hi-News lasītāji, parādīja apmēram tādus pašus rezultātus. Par samērā neitrālu iznākumu varbūtība bija tikai 17%. Citiem vārdiem sakot, mēs visi uzskatām, ka AGI būs liels darījums. Ir arī vērts atzīmēt, ka šī aptauja attiecas uz AGI parādīšanos - ISI gadījumā neitralitātes procents būs mazāks.
Pirms mēs dziļāk domājam par jautājuma labo un slikto pusi, apvienosim abas jautājuma puses - "kad tas notiks?" un "vai tas ir labi vai slikti?" tabulā, kurā ietverts vairuma ekspertu viedoklis.
Pēc minūtes mēs runāsim par galveno nometni, bet vispirms izlemsim par jūsu nostāju. Visticamāk, jūs atrodaties tajā pašā vietā, kur biju pirms es sāku strādāt pie šīs tēmas. Ir vairāki iemesli, kāpēc cilvēki vispār nedomā par šo tēmu:
- Kā minēts pirmajā daļā, filmas ir nopietni sajaukušas cilvēkus un faktus, nereālistiskus scenārijus iepazīstinot ar mākslīgo intelektu, kā rezultātā mums vispār nevajadzētu nopietni uztvert AI. Džeimss Barets pielīdzināja šo situāciju Slimību kontroles centru (CDC) izdotajam ar nopietnu brīdinājumu par vampīriem mūsu nākotnē.
- Tā dēvēto izziņas aizspriedumu dēļ mums ir ļoti grūti noticēt, ka kaut kas ir reāls, kamēr mums nav pierādījumu. Var droši iedomāties, ka 1988. gada datorzinātnieki regulāri diskutē par interneta tālejošajām sekām un to, kas varētu kļūt, bet cilvēki diez vai ticēja, ka tas mainīs viņu dzīvi, līdz tas patiesībā notiks. Tas ir tikai tas, ka datori 1988. gadā nezināja, kā to izdarīt, un cilvēki vienkārši apskatīja savus datorus un domāja: “Tiešām? Vai tas mainīs pasauli? Viņu iztēli ierobežoja tas, ko viņiem iemācīja personīgā pieredze, viņi zināja, kas ir dators, un bija grūti iedomāties, uz ko dators nākotnē spēs. Tas pats notiek tagad ar AI. Mēs dzirdējām, ka tā kļūs par nopietnu lietuBet, tā kā mēs to vēl neesam saskārušies aci pret aci un kopumā mēs novērojam diezgan vājās AI izpausmes mūsdienu pasaulē, mums ir diezgan grūti noticēt, ka tas radikāli mainīs mūsu dzīvi. Neskaitāmi eksperti no visām nometnēm, kā arī ieinteresētie cilvēki iebilst pret šiem aizspriedumiem, cenšoties piesaistīt mūsu uzmanību caur ikdienas kolektīvā egocentrisma troksni.
- Pat ja mēs tam visam ticētu - cik reizes šodien esat domājis par to, ka atlikušo mūžību pavadīsit nebūtībā? Mazliet, piekrītu. Pat ja šis fakts ir daudz svarīgāks par visu, ko jūs darāt dienu no dienas. Tas notiek tāpēc, ka mūsu smadzenes parasti ir vērstas uz mazām, ikdienas lietām neatkarīgi no tā, cik maldinoša ir ilgtermiņa situācija, kurā atrodamies. Tas ir tikai tas, ka mēs esam izgatavoti.
Viens no šī raksta mērķiem ir izvest jūs no nometnes, kuras nosaukums ir “Man patīk domāt par citām lietām”, un ievietot jūs ekspertu nometnē, pat ja jūs tikai stāvat krustojumā starp divām punktētām līnijām augšējā laukumā, pilnīgi neizšķirts.
Pētījuma gaitā kļūst skaidrs, ka vairuma cilvēku viedokļi ātri virzās uz “galveno nometni” un trīs ceturtdaļas ekspertu iedalās divās apakšnometnēs galvenajā nometnē.
Mēs abas šīs nometnes apmeklēsim pilnībā. Sāksim ar jautrību.
Kāpēc nākotne varētu būt mūsu lielākais sapnis?
Izpētot AI pasauli, mēs savā komforta zonā atrodam pārsteidzoši daudz cilvēku. Augšējā labajā stūrī esošie cilvēki satraukti rosās. Viņi tic, ka mēs nonāksim baļķu labajā pusē, un viņi arī tic, ka mēs to neizbēgami nonāksim. Viņiem nākotne ir viss labākais, par ko vien var sapņot.
Lieta, kas atšķir šos cilvēkus no citiem domātājiem, nav tā, ka viņi vēlas atrasties laimīgā pusē, bet gan tas, ka viņi ir pārliecināti, ka viņa mūs gaida.
Šī pārliecība rodas no strīdiem. Kritiķi uzskata, ka tas rodas no žilbinošas satraukuma, kas aizēno iespējamās negatīvās puses. Bet aizstāvji saka, ka drūmās prognozes vienmēr ir naivas; tehnoloģija turpinās un vienmēr mums vairāk palīdzēs, nekā kaitēs.
Jūs varat brīvi izvēlēties jebkuru no šiem viedokļiem, taču atlieciet skepsi un labi apskatiet līdzsvara staru laimīgo pusi, mēģinot pieņemt faktu, ka viss, par kuru lasījāt, iespējams, jau ir noticis. Ja jūs parādītu medniekiem-vācējiem mūsu komforta, tehnoloģiju un bezgalīgās pārpilnības pasauli, viņiem tas šķistu maģisks izdomājums - un mēs uzvedamies diezgan pieticīgi, nespēdami atzīt, ka tāda pati nesaprotama pārvērtības mūs sagaida arī nākotnē.
Niks Bostroms apraksta trīs ceļus, kādus var veikt saprātīga AI sistēma:
Orākuls, kas var atbildēt uz jebkuru precīzu jautājumu, ieskaitot sarežģītus jautājumus, uz kuriem cilvēki nevar atbildēt - piemēram, "kā padarīt automašīnas motoru efektīvāku?" Google ir primitīvs "orākulu" tips.
Džins, kurš izpildīs jebkuru augsta līmeņa komandu - izmantojot molekulāro montētāju, lai izveidotu jaunu, efektīvāku automašīnas dzinēja versiju - un gaidīs nākamo komandu.
Valsts, kurai būs plaša pieeja un spēja brīvi darboties pasaulē, pieņemot savus lēmumus un uzlabojot procesu. Viņš izgudros lētāku, ātrāku un drošāku privātā transporta veidu nekā automašīna.
Šie jautājumi un uzdevumi, kas mums šķiet sarežģīti, superinteliģentajai sistēmai šķitīs it kā kāds lūgtu uzlabot situāciju “mans zīmulis nokrita no galda”, kurā jūs to vienkārši paņemsit un noliksit atpakaļ.
Eliezers Judkovskis, amerikāņu mākslīgā intelekta eksperts, to labi pateica:
“Nav smagu problēmu, ir tikai problēmas, kuras ir grūti noteiktam intelekta līmenim. Pakāpieties par vienu soli augstāk (intelekta ziņā), un dažas problēmas pēkšņi pārcelsies no kategorijas “neiespējami” uz “acīmredzamas” nometni. Par vienu soli augstāk - un viņi visi kļūs acīmredzami."
Ir daudz nepacietīgu zinātnieku, izgudrotāju un uzņēmēju, kuri no mūsu galda ir izvēlējušies pārliecināta komforta zonu, taču mums ir nepieciešams tikai viens ceļvedis, lai labākos pasaules labākos soļos.
Ray Kurzweil ir neviennozīmīgs. Daži idolizē viņa idejas, citi nicina. Daži paliek pa vidu - Douglass Hofstadters, apspriežot Kurzweila grāmatu idejas, daiļrunīgi atzīmēja, ka "tas ir tā, it kā jūs būtu paņēmis daudz labu ēdienu un mazu suņu kaku, un tad visu sajauktu tādā veidā, ka nav iespējams saprast, kas ir labs un kas ir slikts."
Neatkarīgi no tā, vai jums patīk viņa idejas vai nē, tās nav iespējams iziet bez interešu ēnas. Viņš sāka izgudrot lietas pusaudzis, un turpmākajos gados viņš izgudroja vairākas svarīgas lietas, ieskaitot pirmo plakanvirsmas skeneri, pirmo skeneri, kas tekstu pārveidoja runā, labi zināmo Kurzweil mūzikas sintezatoru (pirmais īstais elektriskais klavieris) un pirmo komerciāli veiksmīgo runas atpazītāju. Viņš ir arī piecu sensacionālu grāmatu autors. Kurzweil tiek novērtēts par drosmīgajām prognozēm, un viņa sasniegumi ir diezgan labi - 80. gadu beigās, kad internets vēl bija sākuma stadijā, viņš paredzēja, ka līdz 2000. gadiem Web kļūs par globālu parādību. The Wall Street Journal nosauca Kurzweil par "nemierīgu ģēniju", Forbes par "globālās domāšanas mašīnu", Inc. Žurnāls - "Edisona likumīgais mantinieks", Bils Geitss - "labākais no tiemkurš prognozē mākslīgā intelekta nākotni. " 2012. gadā Google līdzdibinātājs Lerijs Peidžs uzaicināja Kurzweilu uz CTO amatu. 2011. gadā viņš līdzdibināja Singularity University, kuru mitina NASA un kuru daļēji sponsorē Google.
Viņa biogrāfijai ir nozīme. Kad Kurzweil runā par savu nākotnes redzējumu, tas izklausās kā traki traks, bet patiesībā traks ir tas, ka viņš ir tālu no traka - viņš ir neticami gudrs, izglītots un saprātīgs cilvēks. Var domāt, ka viņš pareizajās prognozēs kļūdās, bet viņš nav muļķis. Kurzweil prognozēs dalās daudzi komforta zonas eksperti Pēteris Diamandis un Ben Herzel. Tas, viņaprāt, notiks.
Hronoloģija
Kurzweil uzskata, ka datori līdz 2029.gadam sasniegs vispārējā mākslīgā intelekta (AGI) līmeni, un līdz 2045.gadam mums būs ne tikai mākslīgais superintelliģence, bet arī pilnīgi jauna pasaule - tā saucamās singularitātes laiks. Tā AI hronoloģija joprojām tiek uzskatīta par ārkārtīgi pārspīlētu, taču pēdējo 15 gadu laikā ļoti koncentrētās mākslīgā intelekta (AI) sistēmu straujā attīstība ir piespiedusi daudzus ekspertus būt līdzās Kurzweil. Viņa prognozes joprojām ir vērienīgākas nekā Bostroma aptauja (AGI līdz 2040. gadam, ISI līdz 2060. gadam), bet ne tik daudz.
Pēc Kurzveila teiktā, trīs vienlaicīgas revolūcijas biotehnoloģijā, nanotehnoloģijā un, kas vēl svarīgāk, AI veicina 2045. gada raksturīgumu. Bet pirms mēs dodamies tālāk - un nanotehnoloģijas cieši seko mākslīgajam intelektam - veltīsim laiku nanotehnoloģijai.
Daži vārdi par nanotehnoloģiju
Mēs parasti saucam par nanotehnoloģiju tehnoloģijām, kas nodarbojas ar manipulācijām ar matēriju diapazonā no 1 līdz 100 nanometriem. Nanometrs ir viena ceturtā daļa no metra vai miljonā daļa no milimetra; diapazonā no 1 līdz 100 nanometriem var izvietot vīrusus (100 nm diametrā), DNS (10 nm platumā), hemoglobīna molekulas (5 nm), glikozi (1 nm) un daudz ko citu. Ja nanotehnoloģija kādreiz kļūs par mūsu priekšmetu, nākamais solis būs manipulēt ar atsevišķiem atomiem, kas ir mazāki par vienu lieluma pakāpi (~, 1 nm).
Lai saprastu, kur cilvēkiem rodas problēmas, mēģinot manipulēt ar matēriju šādā mērogā, pāriesim uz lielāku mērogu. Starptautiskā kosmosa stacija atrodas 481 kilometru virs Zemes. Ja cilvēki būtu milži un sittu ISS ar galvu, tie būtu 250 000 reizes lielāki nekā tagad. Ja jūs kaut ko palielinat no 1 līdz 100 nanometriem 250 000 reizes, jūs iegūstat 2,5 centimetrus. Nanotehnoloģija ir ekvivalents cilvēkam, kurš riņķo ap ISS, mēģinot manipulēt ar lietām, kas ir smilšu grauda vai acs ābola lielums. Lai nonāktu nākamajā līmenī - kontrolējot atsevišķus atomus - milžam būs rūpīgi jānovieto objekti ar diametru 1/40 milimetri. Parastajiem cilvēkiem būs nepieciešams mikroskops, lai viņus redzētu.
Pirmoreiz Ričards Feinmans runāja par nanotehnoloģiju 1959. gadā. Tad viņš teica: “Fizikas principi, cik es varu pateikt, nerunā pret iespēju kontrolēt lietas pēc atomiem. Principā fiziķis varētu sintezēt jebkuru ķīmisku vielu, kuru ķīmiķis ir pierakstījis. Kā? Ievietojot atomus tur, kur ķīmiķis saka, lai iegūtu vielu. Tā ir visa vienkāršība. Ja jūs zināt, kā pārvietot atsevišķas molekulas vai atomus, jūs varat darīt gandrīz jebko.
Nanotehnoloģija kļuva par nopietnu zinātnes nozari 1986. gadā, kad inženieris Ēriks Drekslers iepazīstināja ar tās pamatiem savā oriģinālajā grāmatā “Creation Machines”, taču pats Drekslers uzskata, ka tiem, kas vēlas uzzināt vairāk par mūsdienu idejām nanotehnoloģijās, vajadzētu izlasīt viņa 2013. gada grāmatu. Pilnīga pārpilnība (radikāla pārpilnība).
Kad esam nonākuši līdz nanotehnoloģiju pamatiem, mēs to varam izmantot, lai radītu tehniskas ierīces, apģērbu, pārtiku, bioproduktus - asins šūnas, vīrusu un vēža apkarotājus, muskuļu audus un tā tālāk - neatkarīgi no tā. Un pasaulē, kurā izmanto nanotehnoloģijas, materiāla izmaksas vairs nebūs saistītas ar tā trūkumu vai ražošanas procesa sarežģītību, bet drīzāk ar tā atomu struktūras sarežģītību. Nanotehnoloģijas pasaulē dimants varētu būt lētāks nekā dzēšgumija.
Mēs pat vēl neesam tur tuvu. Un nav pilnīgi skaidrs, vai mēs par zemu novērtējam vai pārvērtējam šī ceļa sarežģītību. Tomēr viss nonāk pie tā, ka nanotehnoloģijas nav tālu. Kurzweil pieņem, ka līdz 2020. gadiem mums tie būs. Pasaules valstis zina, ka nanotehnoloģijas var solīt lielu nākotni, un tāpēc tās tajās iegulda daudz miljardus.
Iedomājieties tikai, kādas iespējas saprātīgs dators iegūtu, ja tas nonāktu pie uzticama nanomēroga montētāja. Bet nanotehnoloģija ir mūsu ideja, un mēs cenšamies to vadīt, mums tas ir grūti. Ko darīt, ja tie ir tikai joks ISI sistēmai, un pati ISI nāks klajā ar tehnoloģijām, kas būs daudzreiz jaudīgākas par visu, ko mēs principā varam pieņemt? Mēs vienojāmies: neviens nevar iedomāties, uz ko mākslīgais superintelekts būs spējīgs? Tiek uzskatīts, ka mūsu smadzenes nespēj paredzēt pat minimumu, kas notiks.
Ko AI varētu darīt mūsu labā?
Bruņots ar superintelliģenci un visām tehnoloģijām, kuras varētu izveidot superintelligence, ISI, iespējams, spēs atrisināt visas cilvēces problēmas. Globālā sasilšana? ISI vispirms apturēs oglekļa emisijas, izgudrojot virkni efektīvu nefosilā kurināmā enerģijas ražošanai. Pēc tam viņš nāks klajā ar efektīvu, novatorisku veidu, kā no atmosfēras noņemt lieko CO2. Vēzis un citas slimības? Nav problēma - veselības aprūpe un medicīna mainīsies tādos veidos, kurus nav iespējams iedomāties. Pasaules izsalkums? ISI izmantos nanotehnoloģijas, lai izveidotu gaļu, kas ir identiska dabiskai, no nulles, īstai gaļai.
Nanotehnoloģijas spēs pārvērst atkritumu kaudzi svaigas gaļas vai cita ēdiena traukā (ne vienmēr pat parastajā formā - iedomājieties milzu ābolu kubu) un izplatīt visu šo ēdienu visā pasaulē, izmantojot uzlabotas transporta sistēmas. Protams, tas būs lieliski dzīvniekiem, kuriem vairs nav jāmirst barības dēļ. ISI var veikt arī daudzas citas lietas, piemēram, saglabāt apdraudētās sugas vai pat atgūt izmirušās no saglabātajām DNS. ISI var atrisināt mūsu vissarežģītākās makroekonomiskās problēmas - mūsu grūtākās ekonomiskās debates, ētiskos un filozofiskos jautājumus, globālo tirdzniecību - tās visas būs ISI sāpīgi acīmredzamas.
Bet ir kaut kas ļoti īpašs, ko ISI varētu darīt mūsu labā. Vilinošs un kārdinošs, kas visu mainītu: ISI var mums palīdzēt tikt galā ar mirstību. Pamazām izprotot AI iespējas, iespējams, jūs pārdomāsit visas savas idejas par nāvi.
Nebija iemesla evolūcijai pagarināt mūsu dzīves ilgumu ilgāk, nekā tas notiek tagad. Ja mēs dzīvojam pietiekami ilgi, lai dzemdētu un audzinātu bērnus līdz vietai, kur viņi var sevi aizstāvēt, pietiek ar evolūciju. No evolūcijas viedokļa attīstībai ir pietiekami 30 un vairāk gadu, un mutācijām nav pamata pagarināt dzīvi un samazināt dabiskās atlases vērtību. Viljams Butlers Yates mūsu sugu sauca par "dvēseli, kas piesaistīta mirstošam dzīvniekam". Nav daudz prieka.
Un tā kā mēs visi kādreiz mirstam, mēs dzīvojam ar domu, ka nāve ir neizbēgama. Mēs domājam par novecošanos laika gaitā - turpinot virzīties uz priekšu un nespējot apturēt šo procesu. Bet doma par nāvi ir nodevīga: tās notverti mēs aizmirstam dzīvot. Ričards Feinmans rakstīja:
“Bioloģijā notiek brīnišķīga lieta: šajā zinātnē nav nekā tāda, kas runātu par nāves nepieciešamību. Ja mēs vēlamies izveidot pastāvīgas kustības mašīnu, mēs saprotam, ka fizikā esam atraduši pietiekami daudz likumu, kas vai nu norāda uz tā neiespējamību, vai arī ka likumi ir nepareizi. Bet bioloģijā nekas neliecina par nāves neizbēgamību. Tas liek man domāt, ka tas nav tik neizbēgami, un ir tikai laika jautājums, līdz biologi atklāj šīs problēmas, šīs briesmīgās universālās slimības, cēloni, tā tiks izārstēta."
Fakts ir tāds, ka novecošanai nav nekā kopīga ar laiku. Novecošanās ir tad, kad ķermeņa fiziskie materiāli nolietojas. Automašīnu daļas arī noārdās - bet vai novecošanās ir neizbēgama? Ja turpināsit remontēt savu automašīnu, jo detaļas nolietojas, tā kalpos mūžīgi. Cilvēka ķermenis neatšķiras - vienkārši sarežģītāks.
Kurzweil runā par viediem, ar Wi-Fi savienotiem nanobotiem asinsritē, kas varētu veikt neskaitāmus uzdevumus cilvēka veselībai, tostarp regulāri remontēt vai nomainīt nolietotās šūnas jebkurā ķermeņa vietā. Šī procesa uzlabošana (vai gudrāka ASI ieteiktas alternatīvas atrašana) ne tikai uztur ķermeni veselīgu, bet arī var mainīt novecošanos. Atšķirība starp 60 gadus vecā un 30 gadus vecā cilvēka ķermeni ir saistīta ar nedaudzām fiziskām problēmām, kuras varētu labot ar pareizo tehnoloģiju. ISI varētu uzbūvēt automašīnu, kurā cilvēks varētu ienākt, kad viņiem būs 60 gadu, un aizbraukt, kad viņiem būtu 30 gadu.
Pat noārdītas smadzenes varēja atjaunot. ISI noteikti zinātu, kā to izdarīt, neietekmējot smadzeņu datus (personību, atmiņas utt.). 90 gadus vecs vīrietis, kurš cieš no pilnīgas smadzeņu degradācijas, varētu pārkvalificēties, atjaunoties un atgriezties savas dzīves sākumā. Tas var šķist absurdi, bet ķermenī ir nedaudz atomu, un ISI noteikti varētu ar tiem viegli manipulēt, ar jebkurām atomu struktūrām. Tas nav tik absurdi.
Kurzweil arī uzskata, ka mākslīgie materiāli laika gaitā arvien vairāk un vairāk integrēsies ķermenī. Sākumā orgānus varēja aizstāt ar īpaši modernām mašīnu versijām, kas kalpos mūžīgi un nekad neizdosies. Tad mēs varētu veikt pilnīgu ķermeņa pārveidi, aizstājot sarkanās asins šūnas ar perfektiem nanobotiem, kas pārvietojas paši, pavisam novēršot vajadzību pēc sirds. Mēs arī varētu uzlabot savas izziņas spējas, sākt domāt miljardiem reižu ātrāk un caur mākoņu piekļūt visai cilvēcei pieejamai informācijai.
Jaunu redzesloku izpratnes iespējas būtu patiesi bezgalīgas. Cilvēkiem ir izdevies seksu piešķirt kādam jaunam mērķim, viņi to dara tikai baudai, ne tikai reprodukcijai. Kurzweil domā, ka mēs to pašu varam darīt ar ēdienu. Nanoboti varēja nodrošināt ideālu uzturu tieši ķermeņa šūnās, ļaujot neveselīgām vielām iziet caur ķermeni. Nanotehnoloģijas teorētiķis Roberts Freitas jau ir izstrādājis asins šūnu aizvietotāju, kas, ieviešot to cilvēka ķermenī, var ļaut viņam 15 minūtes neelpot - un to izgudroja cilvēks. Iedomājieties, kad ISI iegūs spēku.
Galu galā Kurzweil tic, ka cilvēki sasniegs punktu, kur viņi kļūs pilnīgi mākslīgi; laiks, kad mēs aplūkojam bioloģiskos materiālus un domājam par to, cik primitīvi tie bija; laiks, kad mēs lasīsim par agrīnajiem cilvēces vēstures posmiem, pārsteigti par to, kā baktērijas, nelaimes gadījumi, slimības vai vienkārši vecumdienas varētu nogalināt cilvēku pret viņa gribu. Galu galā cilvēki sakāvēs savu bioloģiju un kļūs mūžīgi - tas ir ceļš uz līdzsvara stara laimīgo pusi, par kuru mēs runājām jau no paša sākuma. Un cilvēki, kas tam tic, arī ir pārliecināti, ka šāda nākotne mūs sagaida ļoti, ļoti drīz.
Jūs droši vien nebūsit pārsteigts, ka Kurzweil idejas ir izsaukušas bargu kritiku. Tā savdabīgumu 2045. gadā un tam sekojošo mūžīgo cilvēku dzīvi sauca par “nerdu pacelšanu” vai “inteliģentu cilvēku radīšanu ar IQ 140”. Citi apšaubīja optimistisko laika grafiku, izpratni par cilvēka ķermeni un smadzenēm, atgādināja par Mūra likumu, kurš vēl nav pazudis. Katram ekspertam, kurš tic Kurzweil idejām, ir trīs, kuri domā, ka viņš maldās.
Bet visinteresantākais šajā sakarā ir tas, ka vairums ekspertu, kuri viņam nepiekrīt, parasti nesaka, ka tas nav iespējams. Tā vietā, lai pateiktu "nejēga, tas nekad nenotiks", viņi saka kaut ko līdzīgu "viss tas notiks, ja mēs nokļūsim ISI, bet tas ir loms". Bostrom, viens no atzītajiem AI ekspertiem, kurš brīdina par AI briesmām, arī atzīst:
“Diez vai ir palikusi problēma, ko superinteliģence nevar atrisināt vai pat palīdzēt mums atrisināt. Slimības, nabadzība, vides iznīcināšana, visa veida ciešanas - visa šī superinteliģence ar nanotehnoloģiju palīdzību var atrisināties vienā mirklī. Superintelligence var arī dot mums neierobežotu mūžu, pārtraucot un mainot novecošanās procesu, izmantojot nanomedicīnu vai iespēju mūs augšupielādēt mākonī. Superinteliģence var arī radīt iespējas bezgalīgai intelektuālo un emocionālo spēju paaugstināšanai; viņš var mums palīdzēt radīt pasauli, kurā mēs dzīvosim priekā un sapratnē, tuvojoties mūsu ideāliem un regulāri piepildot savus sapņus."
Šis ir viena Kurzweil kritiķa citāts, kurš tomēr atzīst, ka tas viss ir iespējams, ja mēs varam izveidot drošu ASI. Kurzweil vienkārši definēja, kādam vajadzētu kļūt mākslīgajam superinteliģencei, ja tas vispār ir iespējams. Un ja viņš ir labs dievs.
Komforta zonas aizstāvju acīmredzamākā kritika ir tā, ka viņi var sasodīti kļūdīties, novērtējot ISI nākotni. Kurzweil savā grāmatā The Singularity veltīja 20 lappuses no 700 iespējamiem ISI draudiem. Jautājums nav, kad nonāksim ISI, jautājums ir par to, kāda būs tā motivācija. Kurzweil atbild uz šo jautājumu piesardzīgi: “ISI rodas no daudziem atšķirīgiem centieniem un tiks dziļi integrēta mūsu civilizācijas infrastruktūrā. Faktiski tas būs cieši iestrādāts mūsu ķermenī un smadzenēs. Viņš atspoguļos mūsu vērtības, jo viņš būs viens ar mums."
Bet, ja atbilde ir, kāpēc tik daudz gudru cilvēku šajā pasaulē uztraucas par mākslīgā intelekta nākotni? Kāpēc Stefans Hokings saka, ka ISI attīstība "varētu nozīmēt cilvēces galu"? Bils Geitss saka, ka viņš "nesaprot cilvēkus, kuriem tas netraucē". Elons Musks baidās, ka mēs “uzaicinām dēmonu”. Kāpēc daudzi eksperti uzskata, ka ISI ir lielākais drauds cilvēcei?
Balstīts uz waitbutwhy.com materiāliem, Tima Urban sastādījums. Rakstā izmantoti materiāli no Nika Bostroma, Džeimsa Barrata, Ray Kurzweil, Jay Niels-Nilsson, Stefana Pinkera, Vernor Vinge, Moshe Vardy, Russ Roberts, Stuart Armstrog un Kai Sotal, Susan Schneider, Stuart Russell un Peter Norvig, Theodore Modis, Gerija Modisa darbiem. Markuss, Kārlis Šulmans, Džons Searle, Jarons Lanjērs, Bils Džoiss, Kevins Kelejs, Pols Allens, Stīvens Hokings, Kurts Andersens, Mičs Kapors, Bens Herzels, Artūrs Klarks, Huberts Drēfuss, Teds Grīnvalds, Džeremijs Hovards.
Autors: Ilya Khel
Trešā daļa: kāpēc tas varētu būt mūsu pēdējais izgudrojums?