Zviedru filozofs Niks Bostroms, Oksfordas cilvēces nākotnes institūta direktors, ir slavens ar savu darbu pie eksistenciālajiem riskiem, antropisko principu, cilvēku pilnveidošanas ētiku un mākslīgā intelekta radītajiem draudiem. Viņš uzrakstīja "Simulācijas pierādījumu", kurā viņš norāda, ka mūsu realitāti var simulēt datorā, kuru izveidojusi kāda attīstīta civilizācija. Niks Bostroms jūnijā apmeklēja Krieviju, lai piedalītos Starptautiskajā kiberdrošības kongresā, ko organizēja Sberbank ar ANO Tsifrovaya Economy un Krievijas banku asociācijas atbalstu. Vietnes "Lenta.ru" īpašais korespondents runāja ar Bostromu par mašīnu sacelšanos, pasaules valdību un transhumānismu, kā arī uzzināja, kāpēc dzīvot tālāk, ja apkārt atrodas "Matrica".
Kāda ir futuroloģijas nozīme? Ja skatāmies uz pagātnes futūristu prognozēm, gandrīz neviens no viņu pareģojumiem neizrādījās precīzs
Bostroms: Runājot par šo disciplīnu, es nedomāju, ka tai ir kāda vērtība.
Niks Bostroms. Foto: Toms Pilstons izdevumam The Washington Post / Getty Images.
Jā, bet jūs tikai mēģināt paredzēt noteiktus globālus notikumus nākotnē
Es neaprakstītu kā futuroloģiju to, ko daru es vai mana vadībā esoša pētnieku grupa. Mēs darām noteiktas lietas. Pirmkārt, mēs izstrādājam koncepcijas, lai būtu vieglāk atrast modeļus starp pašreizējiem notikumiem un to ilgtermiņa sekām, lai redzētu, kur tie mūs var novest un vai kaut ko var fundamentāli mainīt.
Mēs arī cenšamies noskaidrot, kuras izmaiņas radīs pozitīvu iznākumu, bet kuras - negatīvas. Piemēram, eksistenciālo risku jēdziens, kas noved pie tā, ka saprātīgā dzīve izmirst vai iestrēgst kaut kādā radikālā neoptimālā stāvoklī. Šajā piemērā eksistenciālās katastrofas sekas patiešām ir ļoti viegli paredzamas un ārkārtīgi nozīmīgas attiecībā uz noteiktu vērtību perspektīvu, kas nozīmē, ka nākotnei ir liela nozīme. Tātad tas viss palīdzēs koncentrēties uz noteiktu darbību sekām.
Reklāmas video:
Bet daži no mūsu veiktajiem pētījumiem ir daudz specifiskāki. Piemēram, mums ir speciālistu grupa, kas nodarbojas ar mākslīgā intelekta drošību (šī ir datorzinātnes apakšnodaļa), jo mēs uzskatām, ka šādas atziņas nākotnē noteikti būs vajadzīgas.
Vai mums tiešām būtu jābaidās no tādām lietām kā stiprs mākslīgais intelekts, debess ķermeņa krišana, svešu civilizāciju iebrukums? Vai jūs nedomājat, ka tad, kad tādas varas iestādes kā jūs, Elons Musks vai Stefans Hokings runā par šādām lietām, tās novērš sabiedrības uzmanību no aktuālām problēmām?
Es nedomāju, ka mums būtu jādomā tikai par tām problēmām, kuras mums ir tagad. Mums vajadzētu domāt par to, kurp mēs ejam. Jums jāuztraucas gan par tagadni, gan nākotni. Uzvilkt mirgojošos elementus un neredzēt ceļus, kas ved uz klints, būtu liela kļūda.
Vai jūs tiešām domājat, ka mākslīgais intelekts var radīt draudus cilvēcei?
Protams, draudus var radīt spēcīgs mākslīgais intelekts - nevis tas, kas pastāv tagad. Es varu iedomāties noteiktus scenārijus, kad tas ir iespējams. Tomēr es viņus vairāk redzu kā portālu, caur kuru cilvēcei ir jānovirza ceļš uz labāku nākotni, kas nozīmē neizbēgamu mašīnu superintelliģences attīstību. Tātad jautājums nav par to, vai šis solis būtu jāveic, vai nē. Tas ir tikai tas, ka tad, kad mēs to darām, tai jābūt pēc iespējas uzmanīgākai un atbildīgākai. Mums jāpārliecinās, ka mēs nokļūstam caur portālu, nevis ietriecamies sienā.
Bet vai cilvēcei ir jāiet cauri šim portālam, ja spēcīga AI izrādās labāka, gudrāka, ātrāka par cilvēku? Kopumā kāpēc filozofiskā nozīmē ir vajadzīgs cilvēks, ja spēcīgs AI ir ideālāks līdzeklis Visuma sevis izzināšanai?
Es domāju, ka mums vajadzētu izmantot mašīnas kā cilvēka gribas paplašinājumu, lai tās varētu mums dot labumu. Un tas ir iespējams. Bet pastāv arī riski, kas var kavēt mūs sasniegt šo mērķi.
Es cenšos jautāt, vai ir kāda jēga no nepilnīgas organiskās dzīves, ja mašīna ir labāka? Kāpēc cilvēce pat pastāvētu pēc spēcīgas AI attīstīšanas?
Jūs zināt, tas viss ir atkarīgs no alternatīvām - kāds rezultāts būs cilvēcei un kādas būs šīs citas dzīves formas. Es nedomāju, ka tad, ja kaut kas evolūcijas izpratnē izrādīsies saprātīgāks, veiksmīgāks nekā cilvēks, tad no morāles viedokļa tas būs labāks par cilvēku. Es iedomājos dažādus iznākumus, kas noved pie ievērojami negatīvām sekām: piemēram, īpaši attīstīta tehnoloģiskā civilizācija var zaudēt universālās vērtības. Bet es noteikti neuzskatu, ka cilvēki pašreizējā formā ir ideālas būtnes, kurām nekur citur neattīstās. Un šeit es nerunāju tikai par bioloģisko dzīvības formu uzlabošanu - varat iedomāties pozitīvus scenārijus, kuros cilvēce kļūs par pilnīgi digitālu dzīvības formu.
Tātad jūs domājat, ka apziņu var pārnest uz automašīnu?
Jā, bet, parādoties pietiekami nobriedušai tehnoloģijai, ne šodien.
Un tāpēc jūs domājat, ka apziņa ir tikai numerācijas procesi?
Jā.
Kā jūs jūtaties par filozofu darbiem, kuri postulē apziņas duālismu - ka apziņa ir subjektīva parādība, kas pastāv ārpus objektīvās pasaules? Piemēram, kā to raksturo austrāliešu filozofs Deivids Čalmers
Esmu piekritējs teorijai, ka apziņa ir skaitlis. Protams, es neuzskatu, ka tas, kas mūs padara apzinātas būtnes, dod mums subjektīvu pieredzi, ir atkarīgs no tā, vai mēs vienkārši esam veidoti no oglekļa atomiem. Bet mūsu smadzenes ražo noteiktus numerācijas procesus, kurus principā var iedarbināt citā vidē. Un tas ir galvenais postulāts - svarīgs ir nevis materiāls, bet gan pats numerācijas procesa funkcionālie atribūti.
Un tas, ka es pasauli uztveru caur savu apziņu, ir tikai neironu impulsu kopums manās smadzenēs?
Tieši tā. Es ticu, ka jūsu smadzenes rada jūsu apziņu. Bet jautājums ir par to, kas vēl var radīt jūsu apziņu. Un es domāju, ka principā tai nav jābūt organiskai struktūrai. Tas varētu būt, piemēram, dators.
Bet vai viņš pats apzināsies, vai tam ir tik subjektīvs raksturs?
Es uzskatu, ka ir iespējams izveidot pašapzinīgus datorus. Atkal tas nav iespējams tagad, bet nākotnē es neredzu tam šķēršļus.
Ja viņš apzinātos sevi, vai cilvēcei nebūtu jāpieņem viņu kā līdzvērtīgu inteliģento dzīves veidu?
Man šķiet, ka var būt daudz pilnīgi dažādu digitālo prātu, daudz daudzveidīgāku nekā cilvēku. Lai arī mēs uzskatām, ka mēs visi esam ļoti atšķirīgi - māte Terēze, Hitlers, visgudrākais cilvēks pasaulē un dumjākais -, mēs visi esam drausmīgi līdzīgi, tomēr katra no mums smadzenes daudz neatšķiras no citu cilvēku smadzenēm. Tas viss ir apmēram pusotrs kilograms simtiem miljardu neironu. Bet digitālie prāti mums var būt ļoti, ļoti atšķirīgi un "sveši" (daži, protams, var būt līdzīgi mūsējiem, bet citi - nē).
Tajā pašā laikā es uzskatu, ka dažiem digitālajiem prātiem (īpaši tiem, kuriem būs apziņa, viņi spēs sajust sāpes, spiedienu utt.), Tiks piešķirti dažādi morālā stāvokļa gradācijas. Tā kā mēs attīstīsim arvien sarežģītākus un sarežģītākus mākslīgos intelektus, digitālo prātu, mums būs jāsaskaras ar noteiktu ētisku problēmu. Un ne tikai par to, kā AI mūs ietekmēs vai kā viena persona var izmantot AI attiecībā pret citu personu, bet arī par to, kā mēs attieksies pret šo digitālo prātu.
Pieņemsim, ka es uzcēlu nelielu akmeņu korni un iznīcināju to - es nevienam nekaitēju. Ja, protams, jūs to uzbūvējat, un es to iznīcinu, tad tas jums var nodarīt ļaunumu, bet pašam ķirzam nav morāla statusa. Un, teiksim, sunim tā ir, un tāpēc ir nepareizi spiest suni. Tas pats ir ar apzinātu digitālo prātu, pat ja sākumā tā apziņa ir tādā pašā līmenī kā dzīvniekam. Tas rada ētisku jautājumu par to, kā mums vajadzētu izturēties pret to. Un es uzskatu, ka drīz pienāks laiks par to nopietni padomāt ne tikai filozofisko semināru ietvaros, bet arī plašā sabiedriskā diskusijā.
Rāmis: filma "Turētāji".
Ja mēs runājam par globāliem draudiem, vai autoritāru režīmu skaita palielināšanos pasaulē var uzskatīt par vienu no tiem?
Jā, es domāju, ka tas ir viens no iespējamajiem distopiskās nākotnes scenārijiem, ko var iedomāties, ja pietiekami ilgas dažādas sociāli politiskās tendences attīstās nepareizā virzienā. Dažas uzlabotas tehnoloģijas var atvieglot šo tendenču attīstību: labāka pilsoņu uzraudzība, modernāki droni …
Tagad, lai pārvaldītu valsti, pat ja esat diktators, jums ir nepieciešams militārpersonu un elites atbalsts. Jūs varat iedomāties, ka, izmantojot mākslīgā intelekta tehnoloģijas un robotiku, pastāvīgi samazināsies tam nepieciešamo cilvēku skaits. Beigu beigās var izrādīties, ka duci cilvēku varēs pārvaldīt lielas valsts iedzīvotājus, un tas sniedz bagātīgas iespējas despotisko režīmu pastāvēšanai.
Tātad, jā - tas ir viens no riskiem, taču pastāv arī iespēja, ka šīs sociālpolitiskās tendences iegriezīsies citā virzienā.
Jūs bieži runājat un rakstāt par singletonu - valsts apvienību, kurā lēmumus pieņem viena pasaules struktūra …
Ja ieskatās mūsu sugu vēsturē, tad sākotnēji lielākā politiskās integrācijas vienība bija mednieku vācēju kolektīvi, kas sastāvēja no ne vairāk kā piecdesmit cilvēkiem. Laika gaitā vadītāju vadībā tika izveidotas ciltis, pēc tam pilsētas valstis, pēc tam nācijas valstis. Tagad mums ir tādas asociācijas kā Eiropas Savienība, dažādas starptautiskas organizācijas, un tas turpināsies, līdz parādīsies singletons. Tas ir, tas ir ilgstošu vēsturisko tendenču turpinājums.
Kā es saprotu, jūs postulējāt, ka var būt divu veidu singletons: “slikts” - autoritārs un “labs” - egalitārs …
Es nemaz neuzskatu, ka “slikts” singletons ir obligāti autoritārs, bet “labs” - egalitārs. Pastāv dažādi apstākļi, kādos singletons var būt "labs" vai "slikts".
Izskaidro, lūdzu
Es pat nezinu, kā to visu apkopot … Bet, protams, jūs varat iedomāties "sliktu" egalitāru singletonu. Teiksim, viņš dažādu iemeslu dēļ var būt nekompetents vai neefektīvs. Piemēram, ja visi dzīvo vienādi slikti, tas būtu pilnīgi egalitārs iznākums, vai ne? Bet tomēr slikti.
Tātad pastāv iespēja, ka parādīsies “labs” autoritārs singletons?
Varbūt, ja salīdzina ar dažādajām alternatīvām situācijā, kad pie stūres ir labsirdīgs diktators … “Labs” un “slikts” ir relatīvi termini, ko lieto, ņemot vērā citas iespējamās situācijas. Sakiet, ja alternatīva ir globāla katastrofa, šāds iznākums būtu salīdzinoši labs.
Bet ko tad, ja jūs iedomājaties perfektu egalitāru singlu? Tas viss izskatās pēc sava veida utopijas, kurā cilvēki dzīvo bez konfliktiem un kariem pilnīgā harmonijā. Bet konflikti ir raksturīgi cilvēka dabai
Cilvēka daba nav ielieta bronzā. Ja mēs ņemam vērā situāciju, kurā tika sasniegts civilizācijas tehnoloģiskais briedums (šeit es domāju gan biotehnoloģiskos, gan kultūras veidus, kā mainīt dažādus tās aspektus), ja tiek izvirzīts mērķis sasniegt kopīgo labumu, tas var būt labs iemesls cilvēka dabas modifikācijai.
Un kā tieši to var panākt? Kļūsti mazāk agresīvs, izmitinošāks utt. Galu galā cilvēki mēdz neuzticēties svešiniekiem, grupēt sevi asociācijās, kas pretojas citām asociācijām
Jā, un tā ir viņu izvēle, un to var mainīt. Bet, ja viena cilvēku grupa izturas slikti pret otru, tad viņi var izlemt nemainīties tā, lai atrastu kopīgu nostāju ar citu.
Tas ir, visticamāk, ka cilvēku uzvedību nevar mainīt globālā mērogā?
Tieši tā. Šeit mēs runājam par motivācijas izmaiņām, un pirms tam es runāju par šādu izmaiņu iespējamību, kad rodas tehnoloģiskas iespējas. Un tad, protams, rodas jautājums, vai cilvēki izlems tos izmantot šī mērķa sasniegšanai.
Starp citu, par tehnoloģijām. Mēs vienmēr baidāmies no jaunām tehnoloģijām. Piemēram, nesen lasīju sleju kādā amerikāņu publikācijā, kuras autors aģitēja pret atteikšanos no kases naudas, jo bezskaidras naudas maksājumi bankām it kā dod pārāk daudz iespēju kontrolēt iedzīvotājus. Vai jūs piekrītat šim viedoklim? Vai tas tiešām ir drauds sabiedrībai?
Skaidrā nauda ir anonīms nodrošinājums. Jūs varat maksāt ar banknotēm, un jūs neesat identificēts. Tas viss samazina banku un valsts iespējas kontrolēt pilsoņu ikdienas dzīvi, kas noteiktos apstākļos var būt diezgan noderīga - piemēram, despotiskos režīmos. Bet to pašu iemeslu dēļ tas paver ceļu visa veida negatīviem darījumiem. Noziedzīga darbība ir saistīta ar anonīmiem maksājumiem, rēķinu pārskaitīšanu aploksnēs vai to moderno ekvivalentu - maksājumiem kriptovalūtās. Tos ir daudz grūtāk veikt, piemēram, izmantojot VISA sistēmu, kur jūsu personas dati ir saistīti ar katru darījumu.
Tāpēc ir ļoti grūti izlemt, kurā virzienā "pārvietot slīdni". Pastāv dažādi scenāriji, kuros jūs varētu vēlēties vairāk kontrolēt darījumus, lai, piemēram, apgrūtinātu dzīvi noziedzīgām organizācijām. Tā kā viņu darbības ir kaitīgas sabiedrībai, jūs, visticamāk, vēlēsities veidus, kā tās ierobežot, un viens no šādiem veidiem ir finanšu darījumu regulēšana.
Šis ir viens piemērs. Bet kā ir ar aktīvistiem, kuri aicina aizliegt Uber un līdzīgus pakalpojumus, jo viņi, pēc viņu domām, pārkāpj taksometru vadītāju tiesības?
Es nezinu, kādas tiesības Uber pārkāpj. Es domāju, ka viņi vienkārši nevēlas konkurenci.
Vai jūs domājat, ka šādus cilvēkus var saukt par neoluddītiem?
Jums jāskatās uz konkrētu personu argumentāciju. Jebkurā gadījumā es nedomāju, ka to marķēšana ļaus izprast viņu nostāju. Jums jāuzklausa viņu argumenti un jāizlemj, vai tie ir labi no jūsu viedokļa.
Rāmis: filma "Līdzsvars".
Parunāsim par transhumānismu. Pastāv populāra transhumānisma kritika, saskaņā ar kuru biotehnoloģija un ķermeņa modifikācijas nebūs pieejamas nabadzīgiem cilvēkiem un pilsoņiem ar vidējiem ienākumiem. Tikai bagātie - viens procents iedzīvotāju - tos var iegūt, un tas novedīs pie katastrofālas nevienlīdzības palielināšanās sabiedrībā. Tā nav taisnība? Vai arī jūs domājat, ka viss ir taisnīgi: bagātajiem un veiksmīgajiem vajadzētu būt labākajiem?
Tas jāanalizē ar konkrētiem piemēriem. Es neuzskatu, ka visai biotehnoloģijai, ko izmanto cilvēka ķermeņa uzlabošanai, vajadzētu būt dārgai. Ņemsim, piemēram, mūsdienu Modafinil - zāles, ko lieto kognitīvās spējas uzlabošanai (pieņemsim, ka tā palīdz dažiem cilvēkiem). Protams, tas maksā naudu, bet ne vairāk kā glāzi Starbucks kapučīno, ko viņi dzer katru dienu. Un, ja viņš dara savu darbu, viņš ir savas naudas vērts.
Mūsdienu farmakoloģiskie līdzekļi, kas kaut kā uzlabo noteiktas cilvēka īpašības, parasti nav ļoti dārgi. Drīzāk problēma ir tā, ka jums ir jāsaņem receptes tiem. Šādas zāles ir vieglāk iegūt cilvēkam ar labu izglītību. Pirmkārt, viņš uzzinās par šī līdzekļa esamību, viņam būs vieglāk atrast ārstu, kuru viņš zina, kurš viņam var izrakstīt šo recepti … Tas viss neizglītotam strādniekam vai zemniekam būs daudz grūtāk nekā intelektuālam, baņķierim utt. Bet šķērslis slēpjas tieši šajā, nevis pašā naudas daudzumā.
Protams, ja mēs runājam par nākotnes tehnoloģijām, tās šajā ziņā var būt ļoti dārgas un diskriminējošas. Un sabiedrībai būs jāizlemj, vai tie ir pietiekami noderīgi, lai tos subsidētu - tādā pašā nozīmē, kā tagad tiek nodrošinātas subsīdijas veselības aprūpei.
Ja mēs runājam par subsīdijām, ko jūs domājat par garantētajiem ienākumiem, naudas summu, ko valsts regulāri maksā katram sabiedrības loceklim, neatkarīgi no tā, vai viņš strādā vai ne? Vai tam vajadzētu kļūt par parastu cilvēku praksi?
Es domāju, ka uz šo problēmu ir jāattiecas no tā paša viedokļa kā uz mākslīgo intelektu: tai vajadzētu dot labumu visai cilvēcei un ievērot ētiskos ideālus. Man šķiet, ka visiem cilvēkiem, kuri sasnieguši noteiktu vecumu, būtu jāsaņem sava daļa no noteiktiem pabalstiem. Kā vislabāk to izdarīt, tā būs pastāvīga ienākumu plūsma vai noteikts reiz samaksāts kapitāls, kuru indivīds pēc tam var iztērēt noteiktiem pakalpojumiem un precēm, es vēl nezinu. Nepārtrauktas ienākumu plūsmas uzturēšana atkal ir atkarīga no ekonomiskās situācijas. Un ilgtermiņā jāsaprot, ka, visticamāk, mums nāksies saskarties ar eksponenciālu pasaules iedzīvotāju skaita pieaugumu, kas var pārsniegt pasaules ekonomikas pieaugumu - tas ir nedaudz Malthusian arguments.
Vai, jūsuprāt, pašreizējā Eiropas labklājības sistēmā - Welfer - ir trūkumi?
Man tas šķiet diezgan labi. Protams, ir veidi, kā to uzlabot. Bet jebkurā gadījumā ir labi, ja bagātās valstīs ir labklājības sistēma, kas to var atļauties.
Ko jūs domājat par mūsdienu kreiso politiku - politkorektums, iekļautība utt.? Vai viņa tiešām strādā visu labā?
No vienas puses, tādu lietu klātbūtne, par kurām nevar runāt un par kurām var domāt, man kā filozofam liedz dažas iespējas. Es domāju, ka dažreiz rūgtā patiesība ir laba, pat ja tā kādu aizvaino, un jums ir jāmaksā ievērojama cena par tabulas diskusiju par to, kas ir mūsdienu realitātes sastāvdaļa.
No otras puses, ja tas veicina jutīgākas sabiedrības veidošanu pret sabiedrības problēmām, kuras pārstāvji dara visu iespējamo, lai nekaitētu viens otram, tādējādi samazinot agresijas un vardarbības līmeni … Tas viss var izrādīties ārkārtīgi pozitīvs, pat ja tas pārstāv noteiktas riskus. Redziet, ja jūs ļoti gribat būt politiski pareizs attiecībā uz maziem ikdienas jautājumiem, ievērojami samazinās varbūtība, ka jūs plānojat veikt kaut kādu būtisku un brutālu etnisko tīrīšanu vai sākt karu. Kopumā, ja tas mūs padara jutīgākus pret mazām lietām, tad tas palīdzēs globālā nozīmē, un visi mazie šādu programmu trūkumi būs absolūti pamatoti.
Es lasīju vienā no jūsu publikācijām, ka mūsdienu Rietumu kultūra "aktīvi sabotē mūsu auglību dzimstības kontroles ieviešanas dēļ". Diezgan konservatīvs arguments. Vai jūs varat to izskaidrot?
To es domāju: ja neizmantojat dzimstības kontroli, jums būs vairāk mazuļu, kas nozīmē, ka vairāk mazuļu izdzīvos. Tagad cilvēki dzemdē mazāk bērnu, nekā viņi varētu, tas nozīmē, ka viņi nav evolūcijas līdzsvarā ar mūsdienu vidi.
Vai mums galvenā loma būtu jāpiešķir bioloģiskajai evolūcijai, nevis sociālajai?
Es uzskatu, ka, pirmkārt, galvenajai lomai vajadzētu būt universālām cilvēka vērtībām, nevis dažiem bioloģiskiem uzdevumiem.
Tad kāpēc neizmantot dzimstības kontroli?
Protams, jūs varat sabotēt savu reproduktīvo potenciālu, bet jums ir jāapzinās, ko jūs darāt, un tas ir ļoti izdevīgi. Piemēram, ja jūs apsverat ilgtermiņa cilvēka civilizācijas attīstības scenārijus, jums jāņem vērā, ka cilvēki, kas sabotē reproduktīvo potenciālu, kaut kā pazūd no zemes virsmas. Viņu gēni nebūs planētu gēnu fondā, ja vien šī politika netiks mainīta.
Tagad īstermiņā jūs varbūt par to nedomājat, bet jums jāzina, ka šeit jūs rīkojaties pretēji dažādām evolūcijas tendencēm. Un ir svarīgi atzīt, ka tam ilgtermiņā būs zināma ietekme.
Rāmis: filma "Lūcija".
Vai bioloģiskā evolūcija joprojām darbojas cilvēku sabiedrībā?
Protams. Tas darbojas cilvēku populācijā tāpat kā citās populācijās. Protams, mūsdienu vide, kurā mēs dzīvojam, ļoti atšķiras no evolucionāras pielāgošanās vides, taču es uzskatu, ka šobrīd cilvēku populācijā ir ļoti spēcīga evolūcijas atlase. Ekoloģiskajā laika posmā tas notiek ātri, bet, teiksim, attiecībā uz tehnoloģiskā progresa laika skalu, gluži pretēji, ļoti lēni. Pat ja atlase notiek ļoti ātri, daudzām paaudzēm ir jāpaiet, pirms notiek liela maiņa. Tajā pašā laikā es domāju, ka mazāk nekā pāris paaudžu laikā mēs saņemsim perfektus rīkus manipulēšanai ar cilvēka genomu un citām iespējām mainīt cilvēka stāvokli. Tāpēc mani īpaši neuztrauc bioloģiskās evolūcijas lēnās tendences, ņemot vērā šādu tehnoloģiju perspektīvu.
Vai mums vajadzētu izvēlēties ceļu, kā uzlabot gēnu kopumu, izmantojot biotehnoloģiju - atlasot “sliktos” gēnus un saglabājot “labos”? Vai tas nenovedīs pie sociālā darvinisma?
Es nedomāju, ka ģenētiskā medicīna vai ģenētiskā atlase prasa sociālo darvinistu pieeju. Jūs varat redzēt, kā tas notiek tagad: kad pāri nolemj veikt apaugļošanu in vitro, embrijiem tiek veikta ģenētiskā diagnostika. Tā vietā, lai tikai pārbaudītu šūnas, lai noteiktu hromosomu anomālijas, mēs varam diagnosticēt plašu problēmu loku, ieskaitot tādas, kas nav saistītas ar slimībām. Piemēram, nosliece uz ilgu veselīgu dzīvi, intelekts, sportiskās spējas, personības iezīmes … Jums būs vairāk informācijas, lai izvēlētos, kurus no 6-8-10 embrijiem implantēt IVF procedūras laikā. Un man šķiet, ka tieši šis konteksts, visticamāk, attiecas uz ģenētisko tehnoloģiju izmantošanu.
Jūs esat “simulācijas pierādījuma” autors, saskaņā ar kuru mēs, iespējams, dzīvojam realitātē, kas tiek imitēta uz kāda veida datora. Kā parasts cilvēks to var iedomāties? Sākumā to ir grūti sagremot
Es īsti nesaprotu, kādu uzdevumu jūs uzvedat. Jums vienkārši jāpiekrīt, ka nekas nemainās, tikai tas, ka šīs novērojamās realitātes, kurā mēs atrodamies, pamats nav fizikas pamatlikumi, bet gan sava veida datorā iestrādāta datorprogramma, ko izveidojušas dažas progresīvas saprātīgas būtnes - iespējams, tehnoloģiski attīstītākas civilizācija (iespējams, superinteliģenta). Tātad viss, ko mēs redzam, ir procesi, kas darbojas šajā datorā, bet šīs simulācijas iedzīvotājiem - mums - nav daudz atšķirību, kas ir tā bāze.
Interesantāk ir domāt par praktiskiem iemesliem šādas simulācijas izveidošanai. Tās var būt atšķirīgas, tās autori var vadīt citas simulācijas, lai atrisinātu citas problēmas. Ir daudzas iespējas, kā simulācija varētu beigties - un tā tālāk. Tas tiešām ir svarīgi, salīdzinot ar situāciju, kad šī realitāte būtu pamata.
Ja mēs runājam par datoru, kas imitē realitāti, tad kā ir ar fizikas likumiem? Šāds dators būs gigantisks un patērēs neiedomājamu enerģijas daudzumu, pretējā gadījumā - kā aprēķināt katru elementāro daļiņu?
Protams. Tāpēc es nedomāju, ka šī civilizācija atdarinās visas realitātes detaļas līdz atomiem. Es uzskatu, ka ir racionālāk atdarināt tās realitātes daļas, kuras mēs novērojam laikā, kad tos novērojam (varbūt vēl dažus).
Ņem, piemēram, tā galda atomus, pie kura sēdi. Jums nav ne jausmas, kas ar viņiem tagad notiek. Jums jāzina tikai galda izmēri, tā krāsa, svars. Un simulācijā būs pietiekami aprēķināt tikai šos atribūtus. Ja jūs paņemat elektronu mikroskopu un zem tā ievietojat galda gabalu, jūs redzēsit sīkāku informāciju, kas tam tiks speciāli aprēķināta. Bet tos aprēķinās tikai tādā veidā, ka jūs, parasts cilvēks, nepamanīsit nekādas anomālijas.
Tādējādi, ja jūs esat superinteliģence, kas pilnībā kontrolē realitāti - līdz visiem tās elementu aspektiem, ir prātīgi pievienot informāciju, kad un kad jūs tām pievēršat uzmanību.
Izrādās, ka realitāte tiek simulēta visiem septiņiem miljardiem cilvēku, kas dzīvo uz zemes? Dzīvniekiem? Citplanētiešiem?
Tas viss ir atkarīgs no simulācijas veida. Ja mēs runājam par simulāciju visiem dzīviem cilvēkiem, var iedomāties, ka tā aptver visu cilvēces vēsturi un tika uzsākta diezgan nesen. Varat arī iedomāties, ka simulācija tiek veikta vienai konkrētai personai vai nelielai cilvēku grupai. Tad, protams, rodas jautājums: kā visi citi cilvēki, ko mēs tajā redzam, ir šeit, vienlaikus nebūdami apzinātas būtnes? Varbūt tie tiek simulēti tikai pēc izskata, tāpat kā iemiesojumi, kas atrodami videospēlēs. Paliek viens neatrisināts jautājums: kā atdarināt cilvēku ārējo izturēšanos, kā blakusparādību neradot apziņu, kurai, kā parasti pieņemam, piemīt katram cilvēkam? Tātad, iespējams, radot ticamu cilvēku uzvedības ziņā,jums būs jāimulē procesi, kas notiek viņa smadzenēs, ar īpašu precizitāti, kam vienā vai otrā veidā vajadzētu izraisīt apzināta prāta rašanos. Lai gan, protams, pastāv iespēja, ka jūs to varētu vienkārši viltot. Un tad mēs varam iedomāties, ka pastāv neliela simulāciju grupa - cilvēki, kuros apziņa ir pilnībā izveidojusies, bet pārējie ir tikai ekstras.
Pēc jūsu hipotēzes simulācijā var būt daudz simulāciju - piemēram, leļļu ligzdošana. Vai šajā gadījumā ir obligāta pamata, nevis imitēta Visuma esamība? Kā tas parādījās un kas tas ir?
Manā argumentācijā tiek pieņemts, ka pastāv kāds fiziskās realitātes pamatlīmenis, kurā dažas radības attīstās, kļūst ārkārtīgi tehnoloģiski progresīvas, izmanto šīs tehnoloģijas, lai iegūtu superinteliģenci (vai superinteliģentu mākslīgo intelektu), un tad tām ir daudz resursu un laika. Viņi to tērē, tostarp izveidojot šīs inteliģentu cilvēku simulācijas - iespējams, līdzīgas mums.
Varbūt tie ļauj simulācijai turpināt darboties pēc tam, kad šie cilvēki ir izveidojuši savu simulāciju, kas pēc tam kļūst par otrā līmeņa simulāciju. Bet tas viss pastāvēs uz datora, ko izveidojusi civilizācija, kas eksistē fiziskās realitātes pamatlīmenī, un tajā pašā laikā simulācijā var būt vesela simulāciju hierarhija. Bet šeit tam visam būs noteikts ierobežojums, jo galu galā imitācija tiek veikta datorā, kas pastāv fiziskās realitātes pamatlīmenī. Pieejamās enerģijas ierobežojumi šo spēju uzturēšanai ir ierobežoti, tāpēc ligzdotu simulāciju skaits ir ierobežots. Protams, jūs varat izvēlēties kādu ezotērisku pieeju, mēģināt atrast nepilnības bezgalīgai ligzdošanai, taču es nedomāju, ka to ir vērts darīt.
Ko darīt, ja tie imitē pasaules, kurās fizikas likumi pilnīgi atšķiras no mūsējiem?
Tas ir arī iespējams, viņi var izveidot kaut kādas fantastiskas simulācijas.
Nu, ja mēs dzīvojam simulācijā, kāda jēga veidot plānus, prognozēt globālos riskus … Eksistenciālais jautājums - kāda jēga no dzīves simulācijā, kad tā veidotāji var vienkārši izslēgt datora jaudu un viss beigsies?
Vispārīgi runājot, “simulācijas pierādījums” nenozīmē, ka mēs dzīvojam simulācijā, bet drīzāk par to, kādām robežām varam ticēt. Tiek pieņemts, ka viens no trim apgalvojumiem ir patiess. Pirmais ir tas, ka mēs dzīvojam simulācijā, bet ir divas alternatīvas. Otrais ir tas, ka visas civilizācijas izmirst, pirms sasniedz tehnoloģisko briedumu, un trešais, ka visas nobriedušās civilizācijas zaudē interesi par šādu simulāciju izveidi, viņi vienkārši nolemj tās neveikt.
Bet mūsu argumenta ietvaros, ja mēs patiešām dzīvojam simulācijā, es neredzu, kāpēc ikdienas dzīves jēga ir atkarīga no tā, ka mūsu realitātes pamatā ir kādas attīstītas civilizācijas radīta imitācija, nevis fizikas pamatlikumi. Jebkurā gadījumā tas, kas notiks ar jums nākamo, kas notiks ar jūsu radiniekiem, draugiem un citiem cilvēkiem, ir atkarīgs no jūsu rīcības. Tātad tas, ko jūs darāt simulācijas jomā, pat ja ārpus tā nav.
Turklāt pastāv iespēja, ka tas, kas notiek simulācijas iekšpusē, ietekmē to, kas atrodas ārpus tā. Varbūt radītāji to izstrādāja zinātniskiem mērķiem, lai izpētītu, ko cilvēki dara, un tas ietekmē to, ko viņi dara, jo viņiem ir svarīgi saprast cilvēka dabu, balstoties uz mūsu izdarītajām izvēlēm. Tātad varētu būt papildu seku kopums, kas nav acīmredzams.
Intervēja Mihails Karpovs