Ja jūs kādreiz esat spēlējis lomu spēles - gan tiešsaistē, gan vecmodīgā sētā -, jūs zināt, cik viegli ir piesaistīties savam iemiesojumam, tas ir, pierast pie “kazaku laupītāja” lomas. Jūs burtiski jūtat sāpes, kad kādu varoni piekauj troļļi, apgrauzdē pūķis vai nogalina šamanis. Amerikāņu sociologs (un dedzīgais spēlētājs) Viljams Sims Bainbridžs vēl vairāk paplašināja šīs attiecības, izveidojot 17 mirušu ģimenes locekļu virtuālas pārstāvības. 2013. gada esejā par tiešsaistes iemiesojumiem viņš paredz laiku, kad mēs varam ielādēt savu personību mākslīgā intelektuālā sevis modelēšanā, kas var rīkoties neatkarīgi no mums un pat palikt pēc nāves.
Kādu atbildību mēs varam uzlikt šiem modelētajiem cilvēkiem? Kamēr mums ir aizdomas par vardarbīgām datorspēlēm, neviens nopietni neuzskata par slepkavību, lai mazinātu virtuālo uzbrucēju. Tomēr vairs nav absurdi iedomāties, ka reiz modelētie cilvēki pastāvēs un viņiem būs arī zināma autonomija un apziņa. Daudzi filozofi uzskata, ka tāds prāts kā mūsu nav jāuzglabā mūsu smadzeņu neironu tīklā, bet tas var pastāvēt dažāda veida materiālās sistēmās. Ja tie ir pareizi, nav iemesla uzskatīt, kāpēc pietiekami jaudīgi datori nevarēja saglabāt apziņu savās mikroshēmās.
Vai jūs nogalināsit digitālo mušu?
Mūsdienās daudzi morāles filozofi cenšas izprast cilvēku populācijas maiņas ētiku un uzdod šādus jautājumus: Cik maksā cilvēka dzīvība? Kādu dzīvi mums vajadzētu censties veidot? Cik lielu vērtību mums vajadzētu ieguldīt cilvēku daudzveidībā? Bet, runājot par modelētu entītiju apstrādes ētiku, nav pilnīgi skaidrs, vai mums vajadzētu paļauties uz to pašu loģiku un intuīciju, ko mēs izmantojam savā miesas un asiņu pasaulē. Dziļi dvēselē mēs jūtamies nepareizi nogalināt suni vai pat mušu. Bet vai mušas vai cilvēka smadzeņu modeļa atspējošana nogalinātu? Kad “dzīve” iegūst jaunas digitālās formas, mūsu pašu pieredze vairs nevar darboties kā uzticams morālais pavadonis.
Kembridžas universitātes teorētiskais fiziķis Adrians Kents nolēma izpētīt šo morālā spriešanas plaisu. Pieņemsim, ka mēs esam iemācījušies lēti un vienkārši līdzināties datorā cilvēka apziņai, viņš raksta vienā no rakstiem. Mēs vēlamies šai virtuālajai būtnei dot bagātīgu un atalgojošu komunikācijas vidi - dzīvi, kuras vērts dzīvot. Varbūt mēs to varētu izdarīt ar reāliem cilvēkiem, ļoti sīki skenējot viņu smadzenes un replicējot tos datorā. Var iedomāties, kā šāda tehnoloģija “izglābj” cilvēkus no fatālas slimības; daži transhumānisti to uzskata par ceļu uz nemirstīgu apziņu.
Protams, tas viss varētu būt cauruļu sapnis - bet pieņemsim, ka notiks pretēji. Tagad pievērsīsimies utilitāro morāles principu kopumam, ko 18. gadsimta beigās ieviesa Džeremijs Benthems un pēc tam precizēja Džons Stjuarts Mills. Benthams sacīja, ka, ņemot vērā visas lietas, mums jācenšas radīt maksimālu laimi (jeb "lietderību") pēc iespējas lielākam skaitam cilvēku. Vai, pēc Mill vārdiem, "darbības tiek attaisnotas proporcionāli tam, cik laimīgas tās ir, un nav pamatotas, ja tās noved pie laimes trūkuma".
Labas uzvedības principiem ir daudz kritiķu. Piemēram, kā mēs varam izmērīt vai salīdzināt laimes veidus - nosvērt vecmāmiņas mīlestības vērtību, piemēram, uz tām pašām skalām ar apbrīnu par virtuozo koncerta pianistu? "Pat ja jūs vēlaties uztvert utilitārismu nopietni, jūs nezināt, kādām īpašībām jūs esat pieliekis savus aprēķinus," Ken saka. Tomēr šodien lielākajā daļā ticības sistēmu pēc noklusējuma tiek pieņemts, ka morālais kompass, kas norāda uz lielāku laimi, acīmredzami ir labāks nekā tāds, kas no tā skatās.
Reklāmas video:
Saskaņā ar Kenta scenāriju, ja mēs balstāmies uz utilitāriem motīviem, var uzskatīt, ka mums ir jāvirzās uz priekšu un bez ierobežojumiem jāpavairo mūsu modelētās vai simulētās radības - sauksim tās par simām -. Reālajā pasaulē šādai nekontrolētai pavairošanai ir acīmredzami trūkumi. Cilvēki emocionāli un ekonomiski cietīs ar lielu ģimeni; pārapdzīvotība jau tagad rada spiedienu uz globālajiem resursiem utt. Bet virtuālajā pasaulē šādas robežas var nebūt. Jūs varat izveidot utopiju ar gandrīz neierobežotiem resursiem. Kāpēc gan jūs tad nevarat izveidot pēc iespējas vairāk pasaules un piepildīt tās ar dzīvespriecīgo Simsu?
Mūsu intuīcija piedāvā atbildi: bet kāpēc? Varbūt apzinīgam sim vienkārši nebūs tādas pašas iekšējās vērtības kā miesas un asiņu cilvēkam? Šo punktu pauž Maikls Mederijs, prāta filozofijas un virtuālās realitātes ētiks Tulānas universitātē Ņūorleānā, un uzskata, ka tas ir jāuztver nopietni.
Daži filozofi uzskata, ka mēs paši varam būt līdzīgas imitētas būtnes. Mēs vienkārši nevaram izslēgt šādu iespēju, bet tomēr uzskatām, ka šie jautājumi ir jēgpilni. Tātad arī varētu pieņemt, ka Simsam ir tiesības uzdot jautājumus.
Kents atkal uzdod jautājumu: kas būtu pareizāk - radīt identisku radījumu populāciju vai pilnīgi atšķirīgu? Acīmredzot efektīvāk būtu izveidot identiskas radības - pietiekami daudz informācijas par vienu, lai no tām izveidotu N. Bet mūsu instinkti mums saka, ka daudzveidībai ir nozīme un vērtība. Un kāpēc, es domāju, vai nav pamata uzskatīt, ka N dažādi indivīdi būs laimīgāki par N identiskiem.
Kenta pieeja ir tāda, ka atšķirīgas dzīves ir labākas nekā vairākas viena un tā paša eksemplāra. "Es nevaru atbrīvoties no domām, ka Visums ar miljardu neatkarīgu identisku Alises emulāciju būs mazāk interesants un mazāk kvalitatīvs nekā Visums ar miljardu dažādu indivīdu," viņš saka. Viņš šo jēdzienu replikācijas sauc par mazvērtīgu.
Ja mēs uzskatām kosmosu, kuru apdzīvo miljardiem Alises, vai tiešām ir vērts runāt par vienu dzīvi, reizinātu daudzkārt, vai arī mēs runājam par vienu dzīvi, kas ir izkliedēta daudzās pasaulēs. No tā var secināt, ka daudzām Alisei identiskā vidē būs tikai viena vērtība. Viņš šo scenāriju dēvē par replikācijas bezjēdzību. "Es sliecos uz šo viedokli," saka Kents, tomēr atzīstot, ka aizstāvībā nevar atrast neapgāžamu argumentu.
Kenta domu eksperiments skar vairākus vecus morāles filozofijas noslēpumus, kas nekad nav tikuši atrisināti. Pagājušajā gadā mirušais angļu filozofs Dereks Parfits uzrunāja viņus savā monumentālajā darbā par personību un sevi, Iemesli un personības (1984). Parfit pārdomāja jautājumus, piemēram, par to, cik cilvēku vispār vajadzētu būt, un vai tas vienmēr būs morāli labāk, ja dzīve, kuru vērts dzīvot, pasaules kņadai tiek pievienota, kad mēs iegūsim iespēju.
Pat ja jūs pieņemat utilitārisma viedokli, ir problēma atrast lielāko laimi lielākajam skaitam: divējādie kritēriji rada neskaidrību. Piemēram, iedomājieties, ka mums ir kontrole pār to, cik cilvēku dzīvo pasaulē ar ierobežotiem resursiem. Varētu domāt, ka vajadzētu būt optimālam skaitam cilvēku, kas (principā) vislabāk izmantos resursus, lai visiem nodrošinātu laimi un labklājību. Bet vai tik utopijā citai personai nebūtu vietas? Vai nebūtu pieņemami mazliet mazināt ikviena laimi, lai nodrošinātu vēl vienu laimīgu dzīvi?
Problēma ir tā, ka šim procesam nav gala. Pieaugot skaitam, jauno dzīvi papildinātā laime var pārsniegt jau dzīvojušo izmaksas. Galu galā, pēc Parfit teiktā, jūs nonākat pie “pretīga secinājuma”: scenārija, kurā vislabākais iznākums būtu uzpūsts cilvēku sastāvs, kuri ir bezcerīgi nelaimīgi, bet kuriem ir labāk, nekā viņiem vispār nav dzīves. Kopumā viņu niecīgie laimes atgriezumi ir daudz vairāk nekā nelielu kopskaitu patiesi laimīgu cilvēku. "Man ir grūti pieņemt šo secinājumu," rakstīja Parfit, bet vai mēs varam pamatot šo pieeju? Kents nezina. "Es nezinu, vai var pieņemt līdzsvarotu lēmumu par pretīgajiem secinājumiem," viņš saka.
Šī jautājuma pamatā ir tas, ko Parfits nosauca par “identitātes problēmu”: kā mēs varam racionāli pamatot uztraukušos cilvēku jautājumus, ja viņu esamība ir atkarīga no mūsu izdarītajām izvēlēm (piemēram, vietas atrašana “citai”)? Nosvērt plusus un mīnusus, kas var ietekmēt indivīdu, atkarībā no mūsu pieņemtajiem lēmumiem, principā nav tik grūti. Bet, ņemot vērā iespēju, ka šis raksturs varbūt nekad nav pastāvējis, mēs vairs nezinām, kā aprēķināt. Salīdzinot ar nulli vai neko, kaut kas būs ieguvums, tāpēc pat vissliktākos eksistences scenārijus var morāli attaisnot.
Šajā utilitārajā iedzīvotāju spēlē ir vēl viens ļoti dīvains scenārijs. Ko darīt, ja būtu cilvēki ar tik lielu vajadzību pēc laimes, ka viņi no citiem prasītu vairāk, nekā viņi varētu atļauties dot? Amerikāņu filozofs Roberts Roziks šo radījumu sauca par “utilitāru briesmoni” un kritizēja to savā grāmatā “Anarhija, štats un utopija” (1974). Pēc Nozika teiktā, šī bilde "prasīs mums visiem upurēt briesmonis labad, lai palielinātu mūsu kopējo lietderību". Liela daļa Parifta grāmatas bija mēģinājums - galu galā neveiksmīgs - izbēgt gan no šaušalīga secinājuma, gan no utilitārā briesmona.
Tagad atgriezīsimies pie Kenta virtuālajām pasaulēm, kas ir pilnas ar Simsu, un viņa nepilnīgas replicēšanas principam - kad noteikts skaits dažādu dzīvi ir vairāk vērts nekā tāds pats skaits identisku. Iespējams, tas ļaus mums izvairīties no Parfit slēptā secinājuma. Neskatoties uz to, ko Leo Tolstojs teica par nelaimīgo ģimeņu nevienlīdzību Annas Karenīnas sākumā (1878. gadā), šķiet, ka milzīgajā skaitā nelaimīgo cilvēku viņu drūmās skumjas būs gandrīz vienādas. Līdz ar to nebūs iespējams tos paņemt un palielināt laimi pamazām.
Bet tādā pašā veidā replikācijas mazvērtīgums indulē utilitārisma briesmonim - pēc definīcijas tam jābūt unikālam un tāpēc vairāk "vērtīgam", salīdzinot ar neizbēgamo līdzību dzīvē, kas to baro. Arī šis lēmums mūs neapmierina. “Būtu jauki, ja cilvēki kaut kā vairāk domātu par šiem jautājumiem,” atzīst Kents. "Es viņus esmu apmulsusi."
Virdžīnijas Džordža Masona universitātes ekonomikas profesoram amerikāņu liberārajam ekonomistam Robinam Hansonam šīs pārdomas ir ne tik daudz garīgi eksperimenti, cik nākotnes prognozes. Viņa grāmata "Em laikmets" atspoguļo sabiedrību, kurā visi cilvēki augšupielādē savu apziņu datorā, lai dzīvotu savu dzīvi "emulāciju" veidā (nevis sims, bet emas). "Miljardiem šādu lejupielāžu varētu dzīvot un strādāt vienā augstceltnē, un tur būtu vietas visiem," viņš raksta.
Hansons sīki izpētīja, kā šāda ekonomika varētu darboties. Emocijas var būt jebkura lieluma - dažas no tām būs ļoti mazas - un laiks tām var paiet atšķirīgi, salīdzinot ar cilvēkiem. Būs rūpīga uzraudzība un neliela alga, bet ems var atbrīvoties no šīm ciešanām, izvēloties dzīvi bez darba. (Hansons uzskata, ka mēs jau varam dzīvot šādā pasaulē.)
Šis scenārijs pieļauj iespēju pats sevi dublēt, jo prāts jau ir pārsūtīts uz datoru, tāpēc kopiju izgatavošana būs pavisam vienkārša. Hansons saka, ka identitātes problēma šajā gadījumā ir neskaidra: dublikāti sākotnēji ir "viena un tā pati persona", bet pakāpeniski viņu identitāte atšķiras, kad viņi sāk dzīvot atsevišķi.
Hansons ierosina, ka cilvēku kopēšana būs ne tikai iespējama, bet arī vēlama. Nākamajā emusa vecumā cilvēki ar īpaši vērtīgām garīgajām spējām tiks daudzkārt "ielādēti". Un kopumā cilvēki vienalga vēlēsies nokārtot vairākas kopijas kā apdrošināšanas veidu. "Viņi var dot priekšroku atlaišanai savā īstenošanā, lai pārliecinātos, ka viņi var izdzīvot negaidītas katastrofas," saka Hansons.
Bet viņš neuzskata, ka viņi labprātāk dotu Kenta identisku ideju. Emss “nepiešķirs nekādu īpašu vērtību vienas un tās pašas dzīves dzīvošanai dažādos laikos un dažādās vietās. Viņi ieguldīs vērtību vairākos eksemplāros, jo šie eksemplāri var darboties vai sazināties ar citiem. Bet šāda veida darbam un attiecībām būs nepieciešams, lai katrs eksemplārs būtu cēloņsakarībā neatkarīgs, un viņu stāsti būtu savstarpēji saistīti, pamatojoties uz uzdevumiem vai kā partneriem.”
Jebkurā gadījumā viņiem būs jācīnās ar morālām grūtībām, kuras mēs vēl nevaram pārvērtēt. "Es nedomāju, ka cilvēku morāle ir pietiekami vispārīga vai pietiekami spēcīga, lai sniegtu pārliecinātas atbildes uz tādām situācijām kā šī, kas līdz šim ir atdalīta no mūsu senču" pieredzes "," saka Hansons. "Es prognozēju, ka emus būs daudz dažādu pretrunīgu viedokļu par šādām lietām."
Ems, Sims un mūsu virtuālā nākotne
Tagad tas viss var izklausīties ļoti dīvaini, piemēram, viduslaiku apokrifiskas sarunas par eņģeļiem, kas dejo uz pīkstoņiem. Vai mēs kādreiz spēsim izveidot virtuālo dzīvi, kas vispār būs līdzīga reālajai dzīvei? "Es nedomāju, ka kāds var pārliecinoši pateikt, vai tas ir iespējams vai nē," saka Kents daļēji tāpēc, ka "mums nav labas zinātniskās izpratnes par apziņu."
Pat ja tā notiek, tehnoloģijas virzās uz priekšu, un šie jautājumi paliek atklāti. Zviedru filozofs Niks Bostroms no Cilvēka nākotnes institūta apgalvoja, ka "posthumānajai" civilizācijai pieejamā skaitļošanas jauda ļaus viegli simulēt radības, kas dzīvo pasaulē un izjūt to kā reālu, jo mēs esam savējie. (Bostrom arī domā, ka mēs varētu dzīvot šādā simulācijā.) Bet jautājums, kā mēs varam apdzīvot šādas pasaules, rada "reālu dilemmu programmētājiem, zinātniekiem un nākotnes likumdevējiem, kaut arī ne tik tālam", saka Kents.
Kenta scenārijam jau var būt ietekme uz reālo pasauli. Lietderības maksimizēšanas argumenti un neidentitātes problēma rodas diskusijās par cilvēka ieņemšanas veicināšanu un novēršanu. Kad jums vajadzētu atteikties no ieņemšanas, ja rodas risks, piemēram, bērnam attīstoties patoloģijai? Neviena no jaunajām metodēm negarantē pilnīgu drošību un nekad netiek garantēta, bet IVF nekad netiktu veikts, ja tas būtu priekšnoteikums. Paredzams, ka šāds paņēmiens sasniegs noteiktu riska slieksni. Bet utilitārā pieeja izaicina šo ideju.
Ko darīt, ja jaunai mākslīgās apaugļošanas metodei ir mērens risks, ka dzimšanas brīdī var rasties mazi defekti, piemēram, dzimumzīmes? (Tas ir īsts arguments: Nataniela Havtorna 1843. gada stāsts stāsta par alķīmiķi, kurš ar liktenīgām sekām centās noņemt atzīmi no savas sievas, citēja 2002. gada ASV Bioētikas padomes lēmumu.) Ir grūti apgalvot, ka cilvēki, kas apzīmēti ar šādu plankumu, būs sliktāki nekā citi, un tāpēc metode to nevajadzētu ņemt vērā. Bet kur ir jānovelk līnija? Kad iedzimtu defektu labāk vispār neīstenot?
Daži ir minējuši šo dilemmu, aizstāvot cilvēku klonēšanu. Vai briesmas, piemēram, sociālā stigma vai izkropļoti vecāku motīvi un cerības, atsvērs ieguvumus, ko dod dzīvība. Kas mēs esam, lai izdarītu izvēli par klonētu cilvēku? Kas mēs būsim, ja izdarīsim šo izvēli, pirms cilvēks pat pastāvēs?
Šķiet, ka šāda veida argumentācija prasa mums pieņemt dievišķīgus lēmumus. Bet kāds feministu novērotājs varētu domāt, ka mēs esam Frankenšteina fantāzijas versijas upuri. Citiem vārdiem sakot, vai tas nav vīriešu pulks, kas sapņo beidzot sākt safabricēt cilvēkus, kad sievietes to ir darījušas gadsimtiem ilgi? Jaunuma sajūtai, kas ved uz visiem šiem strīdiem, ir patriarhāls aromāts.
Pat ja tā, virtuālās apziņas perspektīva rada dažus ļoti svaigus un aizraujošus ētiskos jautājumus - kas, pēc Kenta domām, liek mums izaicināt intuitīvo vērtību, ko mēs piešķiram dzīvē, un demogrāfiju. Ir ārkārtīgi grūti saskatīt spēcīgu argumentu tam, ka noteikts skaits dažādu dzīvi būs morāli labāks nekā viens un tas pats skaits. Kāpēc mēs tā domājam? Kā mēs varam atbrīvoties no aizspriedumiem?
Varētu teikt, ka cilvēku populācijas uztvertais viendabīgums mazina empātijas un ētiskās spriešanas spējas. Pūlis “bez sejas”, pret kuru iebilst indivīds, ir pazīstama klišeja, kas izsauc varonības sajūtu. Bet tas nebūt nav pareizi.
Varbūt mums ir evolūcijas nepatika pret tiem pašiem indivīdiem, it īpaši, ja ņem vērā, ka populācijas ģenētiskā daudzveidība nodrošina tās izdzīvošanu? Padomājiet tikai par filmām par identiskiem dvīņiem vai kloniem - tas ne vienmēr izskatās labi. Tas pat izskatās drausmīgi. 1919. gadā Zigmunds Freids saistīja šo sajūtu ar ideju par ļaunu dubultnieku (doppelganger). Un, ja tas joprojām ir saprotams identisku dvīņu gadījumā, simts “identiski” varoņi izskatīsies briesmīgi.
Neizskatās, ka mēs drīzumā sastapsimies ar dublikātu armijām, reālajā vai virtuālajā pasaulē. Bet domu eksperimentu vērtība ir tā, ka tie dod jums jaunu veidu, kā izprast pasaules jautājumus. Iedomājoties mūsu un Sims attiecību ētiku, mēs atklājam satricinošu vai neesošu loģiku, kuru mēs instinktīvi izmantojam, lai nosvērtu savas dzīves morālo vērtību.
Iļja Khel