Šī (un citu) raksta atklāšanas iemesls ir vienkāršs: varbūt mākslīgais intelekts ir ne tikai svarīga diskusiju tēma, bet vissvarīgākā nākotnes kontekstā. Ikviens, kurš kaut nedaudz iedziļinās mākslīgā intelekta potenciāla būtībā, atzīst, ka šo tēmu nevar ignorēt. Daži - un starp tiem Elons Musks, Stīvens Hokings, Bils Geitss, kas nav visstulbākie cilvēki uz mūsu planētas - uzskata, ka mākslīgais intelekts cilvēcei rada eksistenciālus draudus, kuru mērogs ir salīdzināms ar mūsu kā sugas pilnīgu izzušanu. Nu, apsēdies un iezīmē sev i.
"Mēs esam uz izmaiņu robežas, kas ir salīdzināma ar cilvēka dzīves izcelsmi uz Zemes" (Vernor Vinge).
Ko nozīmē būt uz šādu izmaiņu robežas?
Šķiet, ka tas nav nekas īpašs. Bet jums jāatceras, ka atrašanās diagrammā nozīmē, ka jūs nezināt, kas jums ir pa labi. Jums vajadzētu justies apmēram šādi:
Sajūtas ir diezgan normālas, lidojums iet labi.
Reklāmas video:
Nākotne nāk
Iedomājieties, ka laika mašīna jūs nogādāja 1750. gadā - laikā, kad pasaule piedzīvoja pastāvīgus strāvas padeves pārtraukumus, saziņa starp pilsētām nozīmēja lielgabala šāvienus un viss transports kursēja uz siena. Pieņemsim, ka jūs tur nokļūstat, paņemat kādu un atvedat uz 2015. gadu, parādiet, kā šeit ir. Mēs nespējam saprast, kā viņam būtu redzēt visas šīs spīdīgās kapsulas, kas lido pa ceļiem; sarunāties ar cilvēkiem okeāna otrā pusē; apskatīt sporta spēles tūkstoš kilometru attālumā; dzirdēt muzikālu priekšnesumu, kas ierakstīts pirms 50 gadiem; spēlē ar burvju taisnstūri, kas var nofotografēt vai iemūžināt dzīvo mirkli; izveidojiet karti ar paranormālu zilu punktu, kas norāda tā atrašanās vietu; paskaties kāda sejā un sazinies ar viņu daudzu kilometru attālumā utt. Tas viss ir neizskaidrojama maģija gandrīz trīssimt gadus veciem cilvēkiem. Nemaz nerunājot par internetu, Starptautisko kosmosa staciju, lielo hadronu sadursmi, kodolieročiem un vispārējo relativitāti.
Šāda pieredze viņam nebūs pārsteidzoša vai šokējoša - šie vārdi nenodod visu garīgā sabrukuma būtību. Mūsu ceļotājs var vispār nomirt.
Bet ir interesants punkts. Ja viņš atgriežas 1750. gadā un kļūst greizsirdīgs, ka mēs gribējām redzēt viņa reakciju uz 2015. gadu, viņš var paņemt līdzi laika mašīnu un mēģināt darīt to pašu, teiksim, ar 1500. Viņš lidos tur, atradīs cilvēku, aizvedīs atpakaļ 1750. gadā un visu parādīs. Puisis no 1500. gada būs šokēts bez mēra - bet diez vai nomirs. Lai gan viņš, protams, būs pārsteigts, atšķirība starp 1500 un 1750 ir daudz mazāka nekā starp 1750 un 2015. Cilvēks no 1500 gadiem dažos brīžos būs pārsteigts no fizikas, būs pārsteigts par to, kas Eiropa ir kļuvusi zem imperiālisma cietā papēža, uzzīmēs galvā jaunu pasaules karti … Bet diez vai ikdienas dzīve 1750. gadā - transports, sakari utt. - viņu pārsteigs līdz nāvei.
Nē, lai puisim no 1750. gada būtu tāda pati izklaide kā mums, viņam ir jāiet daudz tālāk - varbūt šāds gads 12 000. gadā pirms mūsu ēras. e., vēl pirms pirmās lauksaimniecības revolūcijas piedzima pirmās pilsētas un civilizācijas jēdziens. Ja kāds no mednieku-vācēju pasaules, sākot ar laiku, kad cilvēki vēl bija vairāk dzīvnieku sugas, redzēja milzīgās 1750. gada cilvēku impērijas ar savām augstajām baznīcām, kuģiem, kas šķērsoja okeānus, savu koncepciju būt ēkā "iekšā", visu šīs zināšanas - viņš, visticamāk, būtu nomiris.
Un tad pēc nāves viņš būtu apskaudis un gribējis darīt to pašu. Atgrieztos pirms 12 000 gadiem, 24 000 pirms mūsu ēras. e., būtu savlaicīgi paņēmis cilvēku un atvedis. Un jauns ceļotājs viņam sacīja: "Nu, labi, paldies." Jo šajā gadījumā cilvēks no 12 000 gadu pirms mūsu ēras. e. būtu jāatgriežas 100 000 gadu senā laikā un pirmo reizi jāparāda vietējiem aborigēniem uguns un valoda.
Ja mums kāds jāpārvadā nākotnē, lai būtu pārsteigts līdz nāvei, progresam jāpārvar noteikts attālums. Jāsasniedz Nāves progresa punkts (TPP). Tas ir, ja mednieku pulcēšanās laikā TSP prasīja 100 000 gadu, nākamā pietura notika jau 12 000. gadā pirms mūsu ēras. e. Pēc tam progress jau bija ātrāks un radikāli pārveidoja pasauli līdz 1750. gadam (aptuveni). Tad pagāja pāris simti gadu, un šeit mēs esam.
Šo attēlu - kur cilvēka progress virzās ātrāk, laikam ejot - futūrists Rejs Kurzveils sauc par paātrinātas atgriešanās likumu cilvēces vēsturē. Tas notiek tāpēc, ka progresīvākām sabiedrībām ir iespējas virzīties uz priekšu ātrāk nekā mazāk attīstītām sabiedrībām. 19. gadsimta cilvēki zināja vairāk nekā 15. gadsimta cilvēki, tāpēc nav pārsteidzoši, ka 19. gadsimtā progress bija ātrāks nekā 15. gadsimtā utt.
Mazākā mērogā tas arī darbojas. Atpakaļ nākotnē tika izlaists 1985. gadā, bet pagātne - 1955. gadā. Filmā, kad Maikls Dž. Fokss atgriezās 1955. gadā, viņu pārsteidza televizoru jaunums, sodas cena, mīlestības trūkums ģitāras skaņai un variācijas slengā. Tā, protams, bija cita pasaule, taču, ja filma tiktu filmēta šodien, bet pagātne notikusi 1985. gadā, atšķirība būtu daudz globālāka. Martijs Makflijs (personālo datoru, interneta, mobilo tālruņu laikos) būtu daudz nozīmīgāks nekā Martijs, kurš devās uz 1955. gadu no 1985. gada.
Tas viss ir saistīts ar atgriešanās paātrināšanas likumu. Vidējais progresa rādītājs laika posmā no 1985. līdz 2015. gadam bija ātrāks nekā rādītājs no 1955. līdz 1985. gadam - jo pirmajā gadījumā pasaule bija attīstītāka, tā bija piesātināta ar pēdējo 30 gadu sasniegumiem.
Tādējādi, jo vairāk sasniegumu, jo ātrāk notiek izmaiņas. Bet vai tam nevajadzētu atstāt zināmus mājienus nākotnei?
Kurzveils ierosina, ka visa 20. gadsimta progresu varēja panākt tikai 20 gados 2000. gada attīstības līmenī - tas ir, 2000. gadā progresa ātrums bija piecas reizes lielāks nekā vidējais 20. gadsimta progresa rādītājs. Viņš arī uzskata, ka visa 20. gadsimta progress bija līdzvērtīgs laika posma no 2000. līdz 2014. gadam progresam, un vēl viena 20. gadsimta progress būs līdzvērtīgs periodam līdz 2021. gadam - tas ir, tikai pēc septiņiem gadiem. Pēc dažām desmitgadēm viss 20. gadsimta progress notiks vairākas reizes gadā un pēc tam tikai pēc mēneša. Galu galā atgriešanās paātrināšanas likums mūs novedīs pie tā, ka progress visā 21. gadsimtā būs 1000 reizes lielāks nekā 20. gadsimta progress.
Ja Kurzveilam un viņa atbalstītājiem ir taisnība, 2030. gads mūs pārsteigs tāpat kā puisis no 1750. gada būtu pārsteigts par mūsu 2015. gadu - tas ir, nākamajam TSP būs nepieciešami tikai pāris gadu desmiti - un 2050. gada pasaule būs tik atšķirīga no mūsdienu, ka mēs diez vai uzzināt. Un tā nav fantāzija. Tā uzskata daudzi zinātnieki, kuri ir gudrāki un izglītotāki nekā jūs un es. Un, aplūkojot vēsturi, jūs sapratīsit, ka šī prognoze izriet no tīras loģikas.
Kāpēc tad, kad mēs saskaramies ar tādiem apgalvojumiem kā “pasaule pēc 35 gadiem mainīsies līdz nepazīšanai”, mēs skeptiski paraustām plecus? Ir trīs iemesli mūsu skepsei par nākotnes prognozēm:
1. Runājot par vēsturi, mēs domājam taisnās līnijās. Mēģinot vizualizēt nākamo 30 gadu progresu, mēs aplūkojam iepriekšējo 30 progresu kā rādītāju tam, cik daudz varētu notikt. Domājot par to, kā mūsu pasaule mainīsies 21. gadsimtā, mēs ņemam vērā 20. gadsimta progresu un pievienojam to 2000. gadam. Tā pati kļūda, ko pieļauj mūsu puisis no 1750. gada, kad viņš saņem kādu no 1500 un mēģina pārsteigt. Mēs intuitīvi domājam lineāri, kad mums vajadzētu būt eksponenciāliem. Būtībā futūristam vajadzētu mēģināt prognozēt nākamo 30 gadu progresu, nevis skatoties uz iepriekšējiem 30, bet spriežot pēc pašreizējā progresa līmeņa. Tad prognoze būs precīzāka, bet tomēr pie vārtiem. Lai pareizi domātu par nākotni, jums ir jāredz lietas, kas virzās daudz ātrāk, nekā tās virzās tagad.
2. Jaunākās vēstures trajektorija bieži tiek sagrozīta. Pirmkārt, pat stāvā eksponenciālā līkne šķiet lineāra, kad redzat nelielas tās daļas. Otrkārt, eksponenciālā izaugsme ne vienmēr ir vienmērīga un vienmērīga. Kurzveils uzskata, ka progress virzās serpentīna līknēs.
Šāda līkne iziet trīs fāzes: 1) lēna izaugsme (eksponenciālās izaugsmes agrīna fāze); 2) strauja izaugsme (sprādzienbīstama, eksponenciālas izaugsmes vēlīnā fāze); 3) stabilizācija konkrētas paradigmas veidā.
Ja paskatās uz pēdējo stāstu, S-līknes daļa, kurā jūs pašlaik atrodaties, var slēpt progresa ātrumu no jūsu uztveres. Daļa laika no 1995. līdz 2007. gadam tika veltīta interneta eksplozīvai attīstībai, Microsoft, Google un Facebook iepazīstināšanai ar sabiedrību, sociālo tīklu dzimšanai un mobilo tālruņu un pēc tam viedtālruņu attīstībai. Šī bija mūsu līknes otrā fāze. Bet 2008. – 2015. Gada periods bija vismazāk traucējošs, vismaz tehnoloģiju jomā. Tiem, kas šodien domā par nākotni, var paiet pēdējie pāris gadi, lai novērtētu kopējo progresa tempu, taču viņi neredz lielāku attēlu. Patiesībā tagad var būt jauna un spēcīga 2. fāze.
3. Mūsu pašu pieredze padara mūs par kašķīgiem veciem cilvēkiem, kad runa ir par nākotni. Mēs balstām savas idejas par pasauli uz savu pieredzi, un šī pieredze mums kā pašsaprotamu ir noteikusi izaugsmes tempu nesenā pagātnē. Mūsu iztēle ir ierobežota arī tāpēc, ka viņi izmanto mūsu pieredzi, lai prognozētu - taču biežāk mums vienkārši nav instrumentu, lai precīzi prognozētu nākotni. Dzirdot nākotnes prognozes, kas ir pretrunā ar mūsu ikdienas uztveri par to, kā lietas darbojas, mēs tos instinktīvi uzskatām par naiviem. Ja es tev teicu, ka tu dzīvosi 150 vai 250 gadus vecs, un varbūt nemirsi nemaz, tu instinktīvi domāsi, ka “tas ir stulbi, es no vēstures zinu, ka šajā laikā visi nomira”. Tā ir: neviens nedzīvoja, lai redzētu šādus gadus. Bet pirms lidmašīnas izgudrošanas neviena lidmašīna nelidoja.
Tādējādi, lai gan skepse jums šķiet pamatota, tā ir nepareiza parādība. Mums jāpieņem, ka, ja mēs apbruņojamies ar tīru loģiku un gaidām ierastos vēsturiskos zigzagus, mums jāatzīst, ka nākamajās desmitgadēs ļoti, ļoti, ļoti daudz kas jāmaina; daudz vairāk nekā intuitīvi. Loģika arī nosaka, ka, ja visattīstītākās sugas uz planētas turpina veikt milzīgus lēcienus uz priekšu, arvien ātrāk un ātrāk, kādā brīdī lēciens būs tik nopietns, ka tas radikāli mainīs dzīvi, kādu mēs to pazīstam. Kaut kas līdzīgs notika evolūcijas procesā, kad cilvēks kļuva tik gudrs, ka pilnībā mainīja jebkuras citas sugas dzīvi uz planētas Zeme. Un, ja jūs pavadīsit nedaudz laika, lasot to, kas tagad notiek zinātnē un tehnoloģijā, jūs varētu arī būtsāk redzēt noteiktas norādes par to, kāds būs nākamais milzu lēciens.
Ceļš uz izlūkošanu: kas ir AI (mākslīgais intelekts)?
Tāpat kā tik daudzi uz šīs planētas, arī jūs esat pieraduši domāt par mākslīgo intelektu kā par dumju zinātniskās fantastikas ideju. Bet pēdējā laikā daudzi nopietni cilvēki ir izrādījuši bažas par šo stulbo ideju. Kas noticis?
Ir trīs iemesli, kas rada neskaidrības par AI terminu:
1. Mēs saistām AI ar filmām. "Zvaigžņu kari". "Terminators". "Kosmosa odiseja 2001". Bet tāpat kā roboti, arī AI šajās filmās ir daiļliteratūra. Tādējādi Holivudas lentes atšķaida mūsu uztveres līmeni, AI kļūst pazīstams, pazīstams un, protams, ļauns.
2. Tas ir plašs pielietojuma lauks. Tas sākas ar kalkulatoru tālrunī un pašpiedziņas automašīnu izstrādi tālu nākotnē, kas radīs revolūciju pasaulē. AI apzīmē visas šīs lietas, un tas ir mulsinoši.
3. Mēs katru dienu izmantojam mākslīgo intelektu, taču bieži to pat neapzināmies. Kā teica Džona Makartija, termina "mākslīgais intelekts" izgudrotājs 1956. gadā, "kad tas darbojas, neviens to vairs nesauc par AI". AI ir kļuvis vairāk kā mītisks pareģojums par nākotni, nevis kaut kas reāls. Tajā pašā laikā šajā vārdā ir kaut kas no pagātnes, kas nekad nav kļuvis par realitāti. Rejs Kurzveils saka, ka viņš dzird cilvēkus, kas AI asociējas ar 80. gadu faktiem, kurus var salīdzināt ar "apgalvojumu, ka internets nomira ar dotkomām 2000. gadu sākumā".
Tiksim skaidrībā. Pirmkārt, pārtrauciet domāt par robotiem. Robots, kas ir AI konteiners, dažreiz atdarina cilvēka formu, dažreiz to nedara, bet pats AI ir dators robota iekšpusē. AI ir smadzenes, un robots ir ķermenis, ja tam vispār ir ķermenis. Piemēram, Siri programmatūra un dati ir mākslīgais intelekts, sievietes balss ir šī AI personifikācija, un šajā sistēmā nav robotu.
Otrkārt, jūs, iespējams, esat dzirdējis terminu “vienskaitlis” vai “tehnoloģiskais vienreizīgums”. Šis termins matemātikā tiek izmantots, lai aprakstītu neparastu situāciju, kad parastie noteikumi vairs nedarbojas. Fizikā to izmanto, lai aprakstītu melnā cauruma bezgalīgi mazo un blīvo punktu vai Lielā sprādziena sākotnējo punktu. Atkal fizikas likumi tajā nedarbojas. 1993. gadā Vernors Vinge uzrakstīja slavenu eseju, kurā viņš izmantoja šo terminu nākotnē, kad mūsu tehnoloģiju inteliģence pārspēj mūsu pašu intelektu - tajā brīdī dzīve, kā mēs to zinām, mainīsies uz visiem laikiem, un parastie tās pastāvēšanas noteikumi vairs nedarbosies. … Rejs Kurzveils šo terminu vēl vairāk pilnveidoja, norādot, ka īpatnība tiks sasniegta, kad ātrākas atsitiena likums sasniegs galēju punktu,kad tehnoloģiskais progress virzās tik ātri, ka mēs gandrīz bezgalīgi ātri nepamanām tā sasniegumus. Tad mēs dzīvosim pilnīgi jaunā pasaulē. Tomēr daudzi eksperti ir pārtraukuši lietot šo terminu, tāpēc nelietosim to bieži.
Visbeidzot, lai gan ir daudz AI veidu vai formu, kas izriet no plašā AI jēdziena, galvenās AI kategorijas ir kalibrs. Ir trīs galvenās kategorijas:
1. Šauri fokusēts (vājš) mākslīgais intelekts (AI). UII specializējas vienā jomā. Starp šiem AI ir arī tie, kas var uzvarēt pasaules šaha čempionu, bet tas arī viss. Ir viens, kas var piedāvāt labāko veidu, kā saglabāt datus cietajā diskā, un viss.
2. Vispārējais (spēcīgais) mākslīgais intelekts. Dažreiz to dēvē arī par cilvēka līmeņa AI. AGI attiecas uz datoru, kas ir tikpat gudrs kā cilvēks - mašīna, kas spēj veikt jebkuru intelektuālu darbību, kas raksturīga personai. AGI izveide ir daudz grūtāka nekā AGI, un mēs vēl neesam pie tā nonākuši. Profesore Linda Gotfredsone intelektu raksturo kā "vispārīgā nozīmē psihisku potenciālu, kas cita starpā ietver spēju spriest, plānot, risināt problēmas, abstrakti domāt, saprast sarežģītas idejas, ātri mācīties un mācīties no pieredzes". AGI vajadzētu to visu izdarīt tikpat viegli kā jūs.
3. Mākslīgā superizlūkošana (ISI). Oksfordas filozofs un AI teorētiķis Niks Bostroms superinteliģenci definē kā "inteliģenci, kas ir daudz gudrāka nekā labākie cilvēka prāti praktiski visās jomās, ieskaitot zinātnisko jaunradi, vispārējo gudrību un sociālās prasmes". Mākslīgā superizlūkošana ietver gan datoru, kas ir nedaudz gudrāks par cilvēku, gan tādu, kas ir triljoniem reižu gudrāks jebkurā virzienā. ISI ir iemesls pieaugošajai interesei par AI, kā arī tam, ka šādās diskusijās bieži parādās vārdi "izmiršana" un "nemirstība".
Mūsdienās cilvēki jau daudzos veidos ir uzvarējuši pašu AI kalibra posmu - AI. AI revolūcija ir ceļojums no AGI caur AGI uz ISI. Šo ceļu mēs varbūt neizdzīvosim, bet tas noteikti visu mainīs.
Apskatīsim tuvāk, kā nozares vadošie domātāji redz šo ceļu un kāpēc šī revolūcija varētu notikt ātrāk, nekā jūs domājat.
Kur mēs atrodamies šajā straumē?
Mērķtiecīgais mākslīgais intelekts ir mašīnu intelekts, kas ir vienāds vai pārsniedz cilvēka intelektu vai efektivitāti, veicot noteiktu uzdevumu. Daži piemēri:
“Automašīnas ir pilnas ar ICD sistēmām, sākot no datoriem, kas nosaka, kad jādarbojas pretbloķēšanas sistēmai, līdz datoram, kas nosaka degvielas iesmidzināšanas sistēmas parametrus. Google pašpiedziņas automašīnās, kuras pašlaik tiek testētas, būs spēcīgas AI sistēmas, kas uztver apkārtējo pasauli un reaģē uz to.
- Jūsu tālrunis ir maza ICD rūpnīca. Kad izmantojat karšu lietotni, saņemiet ieteikumus lietotņu vai mūzikas lejupielādei, pārbaudiet rītdienas laika apstākļus, runājiet ar Siri vai dariet jebko citu - jūs izmantojat AI.
- Jūsu e-pasta surogātpasta filtrs ir klasisks AI veids. Tas sākas ar izdomāšanu, kā atdalīt surogātpastu no izmantojamiem e-pastiem, un pēc tam uzzina, apstrādājot jūsu e-pastus un preferences.
- Un šī neveikla sajūta, kad vakar meklētājprogrammā meklējāt skrūvgriezi vai jaunu plazmu, un šodien redzat citu vietņu noderīgu veikalu piedāvājumus? Vai arī tad, kad sociālais tīkls iesaka jums pievienot kā draugus interesantus cilvēkus? Visas šīs ir AI sistēmas, kas darbojas kopā, nosakot jūsu vēlmes, iegūstot datus par jums no interneta, tuvojoties un tuvojoties jums. Viņi analizē miljonu cilvēku uzvedību un, pamatojoties uz šīm analīzēm, izdara secinājumus, lai pārdotu lielu uzņēmumu pakalpojumus vai uzlabotu viņu pakalpojumus.
- Google tulkotājs ir vēl viena klasiska AI sistēma, kas ir iespaidīgi laba dažās lietās. Tāpat arī balss atpazīšana. Kad jūsu lidmašīna nolaižas, tā terminālu persona neatpazīst. Biļetes cena ir vienāda. Mūsdienās labākos dambretes, šaha, bekgemona, nūdeļu un citas spēles pārstāv šauri koncentrēts mākslīgais intelekts.
- Google meklēšana ir viens milzīgs AI, kas izmanto neticami gudras metodes, lai sarindotu lapas un noteiktu SERP.
Un tas notiek tikai patērētāju pasaulē. Izsmalcinātas ICD sistēmas tiek plaši izmantotas militārajā, ražošanas un finanšu nozarē; medicīnas sistēmās (domāju, ka IBM Watson) un tā tālāk.
Ceļš no AGI uz AGI: kāpēc tas ir tik grūti?
Nekas vairāk neatklāj cilvēka inteliģences sarežģītību kā mēģinājums izveidot tikpat gudru datoru. Debesskrāpju būve, lidošana kosmosā, Lielā sprādziena noslēpumi - tas ir absurds, salīdzinot ar mūsu pašu smadzeņu atkārtošanu vai vismaz tikai to izpratni. Cilvēka smadzenes šobrīd ir vissarežģītākais objekts zināmajā Visumā.
Jums pat nevar būt aizdomas, kādas grūtības sagādā AGI izveidošana (dators, kas kopumā būs gudrs kā cilvēks un ne tikai vienā jomā). Datora veidošana, kas var sekundes sekundes reizināt divus desmit ciparus, ir kūkas gabals. Ir ārkārtīgi grūti izveidot tādu, kurš var paskatīties uz suni un kaķi un pateikt, kur ir suns un kur kaķis. Izveidot AI, kas var pārspēt lielmeistaru? Gatavs. Tagad mēģiniet likt viņam izlasīt rindkopu no sešus gadus vecas grāmatas un saprast ne tikai vārdus, bet arī to nozīmi. Google tērē miljardiem dolāru, mēģinot to izdarīt. Ar sarežģītām lietām - piemēram, aprēķiniem, finanšu tirgus stratēģiju aprēķināšanu, valodas tulkošanu - dators ar to tiek galā viegli, bet ar vienkāršām lietām - redzējumu, kustību, uztveri - nē. Kā izteicās Donalds Knuts, “AI tagad dara gandrīz visukas prasa “domāšanu”, bet bez domāšanas nespēj tikt galā ar to, ko dara cilvēki un dzīvnieki”.
Domājot par iemesliem, jūs saprotat, ka lietas, kuras mums šķiet vienkārši izdarīt, šķiet tikai tāpēc, ka simtiem miljonu gadu evolūcijas laikā tās ir optimizētas mums (un dzīvniekiem). Kad jūs sasniedzat objektu, muskuļi, locītavas, plecu, elkoņu un roku kauli uzreiz veic garas fizisko darbību ķēdes, sinhronizējot ar redzamo, un pārvieto roku trīs dimensijās. Jums tas šķiet vienkārši, jo par šiem procesiem atbild ideālā programmatūra jūsu smadzenēs. Šis vienkāršais triks padara jauna konta reģistrēšanas procedūru, ievadot greizi uzrakstītu vārdu (captcha), jums ir vienkāršs, bet ļaunprātīgam robotam - ellē. Mūsu smadzenēm tas nav grūti: jums vienkārši jāspēj redzēt.
No otras puses, liela skaita pavairošana vai šaha spēlēšana ir jaunas aktivitātes bioloģiskām būtnēm, un mums nebija pietiekami daudz laika, lai tajās uzlabotos (nevis miljoniem gadu), tāpēc datoram nav grūti mūs pieveikt. Vienkārši padomājiet par to: vai jūs vēlētos izveidot programmu, kas var pavairot lielus skaitļus, vai programmu, kas atpazīst burtu B miljonos rakstību, visneparedzamākajos fontos, ar roku vai ar nūju sniegā?
Viens vienkāršs piemērs: apskatot to, jūs un jūsu dators saprotat, ka tie ir pārmaiņus divu dažādu toņu kvadrāti.
Bet, ja noņemat melno, jūs nekavējoties aprakstāt pilnīgu attēlu: cilindri, plaknes, trīsdimensiju leņķi, bet dators to nevar.
Viņš aprakstīs, viņaprāt, dažādas divdimensiju formas dažādos toņos, kas principā ir taisnība. Jūsu smadzenes paveic daudz darbu, interpretējot dziļumu, ēnu spēli, gaismu attēlā. Zemāk redzamajā attēlā dators redzēs divdimensiju balti-pelēks-melnu kolāžu, kad patiesībā ir trīsdimensiju akmens.
Un tas, ko mēs tikko aprakstījām, ir aisberga virsotne, kad runa ir par informācijas izpratni un apstrādi. Lai sasniegtu tādu pašu līmeni ar cilvēku, datoram ir jāsaprot atšķirība smalkās sejas izteiksmēs, atšķirība starp baudu, skumjām, apmierinātību, prieku un to, kāpēc Čatskis ir labs, un Molčalins nē.
Ko darīt?
Pirmais solis AGI izveidē: skaitļošanas jaudas palielināšana
Viena no nepieciešamajām lietām, kurai jānotiek, lai AGI kļūtu iespējama, ir palielināt datortehnikas jaudu. Ja mākslīgā intelekta sistēmai jābūt tikpat gudrai kā smadzenēm, tai jāsaskaņo smadzenes ar neapstrādātu skaitļošanas jaudu.
Viens no veidiem, kā palielināt šo spēju, ir kopējais aprēķinu skaits sekundē (OPS), ko smadzenes var radīt, un jūs varat noteikt šo skaitli, noskaidrojot katras smadzeņu struktūras maksimālo OPS un saliekot tos kopā.
Rejs Kurzveils secināja, ka pietiek ar profesionālu novērtējumu par vienas struktūras OPS un tā svaru attiecībā pret visu smadzeņu svaru un pēc tam proporcionāli reizināt, lai iegūtu kopējo novērtējumu. Tas izklausās mazliet apšaubāmi, taču viņš to darīja daudzas reizes ar dažādām aplēsēm par dažādām jomām un vienmēr nāca klajā ar vienu un to pašu skaitli: apmēram 10 ^ 16 vai 10 kvadriljonu OPS.
Ātrākais superdators pasaulē Ķīnas Tianhe-2 jau ir pārsniedzis šo skaitli: tas spēj veikt aptuveni 32 kvadriljonu operācijas sekundē. Bet "Tianhe-2" aizņem 720 kvadrātmetrus vietas, patērē 24 megavatus enerģijas (mūsu smadzenes patērē tikai 20 vatus) un maksā 390 miljonus dolāru. Mēs nerunājam par komerciālu vai plašu izmantošanu.
Kurzweil iesaka mums spriest par datoru veselību pēc tā, cik OPS jūs varat iegādāties par 1000 ASV dolāriem. Kad šis skaitlis sasniegs cilvēka līmeni - 10 kvadriljoni OPS -, AGI var kļūt par daļu no mūsu dzīves.
Mūra likums - vēsturiski uzticams noteikums, ka datoru maksimālā skaitļošanas jauda dubultojas ik pēc diviem gadiem - nozīmē, ka datortehnoloģiju attīstība, tāpat kā cilvēka kustība vēsturē, pieaug eksponenciāli. Ja mēs to pielīdzinām Kurzweil tūkstoš dolāru likumam, tagad mēs varam atļauties 10 triljonus OPS par 1000 USD.
Skaitļošanas eksponenciālais pieaugums: 20. - 21. gadsimts. Labajā pusē ir slaidu kārtula un uz tās - kukaiņa, peles, cilvēka un visu cilvēku smadzenes; pa kreisi - aprēķini sekundē par 1000 ASV dolāriem; zemāk - gadā.
Datori par 1000 ASV dolāriem apiet peles smadzenes pēc to skaitļošanas jaudas un ir tūkstoš reižu vājāki nekā cilvēki. Tas, šķiet, ir slikts rādītājs, līdz atceramies, ka datori bija triljonus reižu vājāki nekā cilvēka smadzenes 1985. gadā, miljards 1995. gadā un miljons 2005. gadā. Līdz 2025. gadam mums vajadzētu būt datoram par pieņemamu cenu, kas konkurētu ar skaitļošanas jaudu mūsu smadzenes.
Tādējādi AGI nepieciešamā izejviela jau ir tehniski pieejama. 10 gadu laikā tas pametīs Ķīnu un izplatīsies visā pasaulē. Bet ar skaitļošanas jaudu vien nepietiek. Un nākamais jautājums: kā ar šo visu spēku mēs nodrošinām cilvēka līmeņa intelektu?
Otrais solis AGI izveidē: intelekta piešķiršana
Šī daļa ir diezgan grūts. Patiesībā neviens patiešām nezina, kā padarīt mašīnu inteliģentu - mēs joprojām cenšamies izdomāt, kā izveidot cilvēka līmeņa izlūkošanu, kas spētu atšķirt kaķi no suņa, izolēt sniegā uzzīmētu B un analizēt otrās pakāpes filmu. Tomēr pastāv nedaudz uz priekšu vērstu stratēģiju, un vienā brīdī vienai no tām vajadzētu darboties.
1. Atkārtojiet smadzenes
Šī iespēja ir tāda, ka zinātnieki atrodas vienā klasē ar bērnu, kurš ir ļoti inteliģents un labi atbild uz jautājumiem; un pat tad, ja viņi cītīgi cenšas izprast zinātni, viņi ne tuvu nepaspēj panākt gudro bērnu. Galu galā viņi nolemj: pie velna, mēs vienkārši norakstīsim atbildes uz viņa jautājumiem. Tam ir jēga: mēs nevaram izveidot superkompleksu datoru, tad kāpēc gan par pamatu neņemt vienu no labākajiem Visuma prototipiem: mūsu smadzenes?
Zinātniskā pasaule smagi strādā, lai noskaidrotu, kā darbojas mūsu smadzenes un kā evolūcija radīja tik sarežģītu lietu. Pēc visoptimistiskākajām aplēsēm to viņi varēs izdarīt tikai līdz 2030. gadam. Bet, kad mēs saprotam visus smadzeņu noslēpumus, to efektivitāti un spēku, mēs varam iedvesmoties no tā metodēm tehnoloģiju radīšanā. Piemēram, viena no datora arhitektūrām, kas atdarina smadzeņu darbu, ir neironu tīkls. Viņa sāk ar tranzistora "neironu" tīklu, kas savienoti viens ar otru ar ievadi un izvadi, un neko nezina - kā jaundzimušo. Sistēma "mācās", mēģinot izpildīt uzdevumus, atpazīt ar roku rakstītu tekstu un tamlīdzīgi. Savienojumi starp tranzistoriem tiek stiprināti, ja atbilde ir pareiza, un vājina, ja atbilde ir nepareiza. Pēc daudziem jautājumu un atbilžu cikliem sistēma veido viedus nervu audus,optimizēts konkrētiem uzdevumiem. Smadzenes mācās līdzīgi, bet daudz sarežģītāk, un, turpinot to pētīt, mēs atklājam neticamus jaunus veidus, kā uzlabot neironu tīklus.
Vēl ekstrēmāks plaģiāts ietver stratēģiju, ko sauc par pilnīgu smadzeņu atdarināšanu. Mērķis: Lai sagrieztu reālas smadzenes plānās šķēlēs, skenējiet katru no tām, pēc tam precīzi rekonstruējiet 3D modeli, izmantojot programmatūru, un pēc tam pārtulkojiet to jaudīgā datorā. Tad mums būs dators, kas oficiāli spēs paveikt visu, ko spēj smadzenes: tam vienkārši jāapgūst un jāapkopo informācija. Ja inženieriem tas izdosies, viņi var līdzināties reālām smadzenēm ar tik neticamu precizitāti, ka, lejupielādējot tos datorā, smadzeņu patiesā identitāte un atmiņa paliks neskarta. Ja smadzenes piederēja Vadimam pirms viņa nāves, dators pamodīsies Vadima lomā, kurš tagad būs cilvēka līmeņa AGI, un mēs savukārt Vadimu pārvērtīsim par neticami inteliģentu ISI.par ko viņš noteikti priecāsies.
Cik tālu mēs esam no smadzeņu pilnīgas atdarināšanas? Patiesībā mēs tikko atdarinājām milimetru plakano tārpu smadzenes, kurās kopumā ir 302 neironi. Cilvēka smadzenēs ir 100 miljardi neironu. Ja mēģinājums nokļūt līdz šim skaitlim jums šķiet veltīgs, padomājiet par progresa eksponenciālo pieauguma tempu. Nākamais solis būs skudras smadzeņu atdarināšana, tad būs pele, un tad cilvēks ir sasniedzams.
2. Mēģiniet sekot evolūcijas pēdām
Nu, ja mēs nolemjam, ka gudra bērna atbildes ir pārāk sarežģītas, lai norakstītu, mēs varam mēģināt sekot viņa mācīšanās un eksāmenu sagatavošanas pēdās. Ko mēs zinām? Ir pilnīgi iespējams izveidot tik jaudīgu datoru kā smadzenes - mūsu pašu smadzeņu attīstība to ir pierādījusi. Un, ja smadzenes ir pārāk sarežģītas, lai tās atdarinātu, mēs varam mēģināt līdzināties evolūcijai. Lieta ir tāda, ka, pat ja mēs spējam atdarināt smadzenes, tas varētu būt tāds pats kā mēģinājums uzbūvēt lidmašīnu, izdarot smieklīgu roku vicināšanu, kas atdarina putnu spārnu kustības. Biežāk mums izdodas izveidot labas mašīnas, izmantojot uz mašīnām orientētu pieeju, nevis precīzu bioloģijas imitāciju.
Kā simulēt evolūciju, lai izveidotu AGI? Šai metodei, ko sauc par "ģenētiskajiem algoritmiem", vajadzētu darboties apmēram šādi: ir jābūt produktīvam procesam un tā novērtēšanai, un tas atkārtosies vēl un vēl (tāpat bioloģiskās radības "pastāv" un tiek "novērtētas" pēc to spējas pavairot). Datoru grupa veiks uzdevumus, un veiksmīgākie no tiem dalīs savas īpašības ar citiem datoriem, "izvadi". Mazāk veiksmīgie tiks bez žēlastības iemesti vēstures atkritumu tvertnē. Veicot daudzas, daudzas atkārtojumus, šis dabiskās atlases process radīs labākus datorus. Izaicinājums ir izveidot un automatizēt selekcijas un vērtēšanas ciklus, lai evolūcijas process noritētu pats no sevis.
Evolūcijas kopēšanas negatīvie aspekti ir tādi, ka evolūcijai nepieciešami miljardiem gadu, lai kaut ko izdarītu, un mums to vajag tikai dažas desmitgades.
Taču atšķirībā no evolūcijas mums ir daudz priekšrocību. Pirmkārt, tam nav tālredzības dāvanas, tas darbojas nejauši - tas izdod, piemēram, bezjēdzīgas mutācijas, un mēs varam kontrolēt procesu izvirzīto uzdevumu ietvaros. Otrkārt, evolūcijai nav mērķa, ieskaitot vēlmi pēc inteliģences - dažkārt vidē kāda konkrēta suga neuzvar uz izlūkošanas rēķina (jo pēdējā patērē vairāk enerģijas). Mēs, no otras puses, varam mērķēt uz inteliģences palielināšanu. Treškārt, lai izvēlētos inteliģenci, evolūcijai ir jāveic vairāki trešo pušu uzlabojumi - piemēram, pārdalot enerģijas patēriņu šūnās - mēs varam vienkārši noņemt pārpalikumu un izmantot elektrību. Bez šaubām, mēs būsim ātrāki par evolūciju - taču atkal nav skaidrs, vai mēs varam to pārspēt.
3. Atstājiet datorus sev
Šī ir pēdējā iespēja, kad zinātnieki ir pilnīgi izmisuši un mēģina ieprogrammēt pašattīstības programmu. Tomēr šī metode var izrādīties visdaudzsološākā no visām. Ideja ir tāda, ka mēs veidojam datoru, kuram būs divas pamatprasmes: izpētīt mākslīgo intelektu un kodēt izmaiņas pats par sevi - kas ļaus tam ne tikai uzzināt vairāk, bet arī uzlabot savu arhitektūru. Mēs varam apmācīt datorus par viņu pašu datoru inženieriem, lai viņi varētu sevi attīstīt. Un viņu galvenais uzdevums būs izdomāt, kā kļūt gudrākiem. Mēs par to runāsim sīkāk.
Tas viss var notikt ļoti drīz
Strauja aparatūras attīstība un programmatūras eksperimentēšana notiek paralēli, un AGI var rasties ātri un negaidīti divu galveno iemeslu dēļ:
Kad datori pārspēs cilvēku domāšanas spējā? Mičiganas ezera tilpums (šķidruma uncēs) ir vienāds ar mūsu smadzeņu tilpumu (operācijās sekundē). Skaitļošanas jauda dubultojas ik pēc 18 mēnešiem. Ar šādu ātrumu jūs ilgu laiku neredzēsiet nekādus rezultātus, bet tad viss notiks uzreiz.
2. Runājot par programmatūru, progress var šķist lēns, taču tad viens izrāviens uzreiz maina progresa ātrumu (labs piemērs: ģeocentriskā pasaules redzējuma laikos cilvēkiem bija grūti aprēķināt Visuma darbu, bet heliocentrisma atklāšana visu padarīja daudz vieglāku). Vai arī, runājot par datoru, kas pats sevi uzlabo, viss var šķist ārkārtīgi lēns, taču dažreiz tikai viens sistēmas labojums to atdala no tūkstoškārtīgas efektivitātes, salīdzinot ar cilvēku vai iepriekšējo versiju.
Ceļš no AGI uz ISI
Kādā brīdī mēs noteikti iegūsim AGI - vispārējo mākslīgo intelektu, datorus ar vispārēju cilvēka inteliģences līmeni. Datori un cilvēki dzīvos kopā. Vai arī viņi to nedarīs.
Lieta ir tāda, ka AGI ar tādu pašu intelekta un skaitļošanas jaudu kā cilvēkiem joprojām būs ievērojamas priekšrocības salīdzinājumā ar cilvēkiem. Piemēram:
Aprīkojums
Ātrums. Smadzeņu neironi darbojas ar 200 Hz frekvenci, savukārt mūsdienu mikroprocesori (kas ir ievērojami lēnāki, nekā mēs saņemsim līdz AGI izveidei) darbojas ar 2 GHz frekvenci jeb 10 miljonus reižu ātrāk nekā mūsu neironi. Un smadzeņu iekšējie sakari, kas var pārvietoties ar ātrumu 120 m / s, ir ievērojami zemāki par datoru spēju izmantot optiku un gaismas ātrumu.
Izmērs un uzglabāšana. Smadzeņu lielumu ierobežo mūsu galvaskausu lielums, un tās nevar kļūt lielākas, pretējā gadījumā iekšējā komunikācija ar ātrumu 120 m / s prasīs pārāk ilgu laiku, lai pārvietotos no vienas struktūras uz otru. Datori var paplašināties līdz jebkuram fiziskam izmēram, izmantot vairāk aparatūras, palielināt RAM, ilgtermiņa atmiņu - tas viss pārsniedz mūsu iespējas.
Uzticamība un izturība. Ne tikai datora atmiņa ir precīzāka nekā cilvēka atmiņa. Datoru tranzistori ir precīzāki par bioloģiskajiem neironiem un ir mazāk pakļauti pasliktinājumam (un patiešām tos var nomainīt vai salabot). Cilvēku smadzenes nogurst ātrāk, savukārt datori var darboties nepārtraukti, 24 stundas diennaktī, 7 dienas nedēļā.
Programmatūra
Rediģēšanas, modernizācijas iespēja, plašākas iespējas. Atšķirībā no cilvēka smadzenēm, datorprogrammu var viegli labot, atjaunināt un eksperimentēt. Var uzlabot arī apgabalus, kur cilvēku smadzenes ir vājas. Cilvēka redzes programmatūra ir lieliski izstrādāta, taču no inženiertehniskā viedokļa tās iespējas joprojām ir ļoti ierobežotas - mēs to redzam tikai redzamajā gaismas spektrā.
Kolektīvās spējas. Cilvēki ir pārāki par citām sugām lielā kolektīvā intelekta ziņā. Sākot ar valodas attīstību un lielu kopienu veidošanos, virzoties caur rakstīšanas un drukāšanas izgudrojumiem, un tagad to aktivizē tādi rīki kā internets, cilvēku kolektīvā inteliģence ir svarīgs iemesls, kāpēc mēs varam sevi saukt par evolūcijas vainagu. Bet datori joprojām būs labāki. Mākslīgās inteliģences tīkls visā pasaulē, kas strādā pie vienas programmas, pastāvīgi sinhronizējot un pašattīstoties, ļaus jums nekavējoties pievienot jaunu informāciju datu bāzei, kur vien to iegūstat. Šāda grupa varēs strādāt arī viena mērķa sasniegšanai kopumā, jo datori necieš no īpašā viedokļa, motivācijas un pašlabuma, ko cilvēki dara.
AI, kas, visticamāk, kļūs par AGI, pateicoties ieprogrammētai pašpilnveidošanai, neuzskatīs “cilvēka līmeņa izlūkošanu” par svarīgu pavērsienu - šis pagrieziena punkts ir svarīgs tikai mums. Viņam nebūs pamata apstāties šajā apšaubāmajā līmenī. Ņemot vērā ieguvumus, kas būs pat cilvēka līmeņa AGI, ir pilnīgi acīmredzams, ka cilvēka intelekts tam būs īss uzplaiksnījums cīņā par intelektuālo pārākumu.
Šī notikumu attīstība mūs var ļoti, ļoti pārsteigt. Fakts ir tāds, ka no mūsu viedokļa a) vienīgais kritērijs, kas ļauj mums noteikt izlūkošanas kvalitāti, ir dzīvnieku inteliģence, kas pēc noklusējuma ir zemāka par mūsējo; b) mums gudrākie cilvēki VIENMĒR ir gudrāki nekā stulbākie. Vairāk vai mazāk šādi:
Tas ir, kamēr AI tikai mēģina sasniegt mūsu attīstības līmeni, mēs redzam, kā tas kļūst gudrāks, tuvojoties dzīvnieka līmenim. Kad viņš nokļūs pirmajā cilvēka līmenī - Niks Bostroms lieto terminu "lauku idiots", mēs priecāsimies: "Oho, viņš jau ir kā debīls. Forši! " Vienīgais ir tas, ka vispārējā cilvēku inteliģences spektrā, sākot ar ciemata idiotu un beidzot ar Einšteinu, diapazons ir mazs - tātad, pēc tam, kad AI nonāks idiota līmenī un kļūs par AGI, tas pēkšņi kļūs gudrāks par Einšteinu.
Un kas notiks tālāk?
Inteliģences eksplozija
Es ceru, ka jums tas šķita interesants un jautrs, jo no šī brīža tēma, kuru mēs apspriežam, kļūst nenormāla un rāpojoša. Mums vajadzētu apstāties un atgādināt sev, ka katrs fakts, kas norādīts iepriekš un zemāk, ir patiesa zinātne un reālas nākotnes prognozes, ko izteikuši izcilākie domātāji un zinātnieki. Vienkārši paturiet prātā.
Tātad, kā mēs norādījām iepriekš, visi mūsu mūsdienu modeļi AGI sasniegšanai ietver iespēju, kad AI sevi pilnveido. Tiklīdz viņš kļūst par AGI, pat sistēmas un metodes, ar kurām viņš uzauga, kļūst pietiekami gudras, lai sevi pilnveidotu - ja viņi to vēlas. Parādās interesants jēdziens: rekursīva pašpilnveidošanās. Tas darbojas šādi.
Noteikta AI sistēma noteiktā līmenī - teiksim, ciema idiote - ir ieprogrammēta, lai uzlabotu savu intelektu. Izstrādājusies - teiksim, līdz Einšteina līmenim - šāda sistēma sāk attīstīties jau ar Einšteina intelektu, tā attīstībai nepieciešams mazāk laika, un lēcieni ir arvien lielāki. Tie ļauj sistēmai pārspēt jebkuru cilvēku, un viņi kļūst arvien lielāki. Ātri attīstoties, AGI savā intelektā paceļas debesu augstumos un kļūst par superinteliģentu ISI sistēmu. Šo procesu sauc par inteliģences eksploziju, un tas ir skaidrākais atgriešanās likuma piemērs.
Zinātnieki strīdas par to, cik ātri AI sasniegs AGI - lielākā daļa uzskata, ka mēs AGI iegūsim līdz 2040. gadam, tikai 25 gadu laikā, kas pēc tehnoloģijas attīstības standartiem ir ļoti, ļoti maz. Turpinot loģisko ķēdi, ir viegli pieņemt, ka arī AGI pāreja uz ISI notiks ārkārtīgi ātri. Vairāk vai mazāk šādi:
"Pagāja desmitgades, līdz pirmā AI sistēma sasniedza viszemāko vispārējā intelekta līmeni, bet tas beidzot notika. Dators spēj saprast apkārtējo pasauli kā četrus gadus vecs cilvēks. Pēkšņi, burtiski stundu pēc šī pagrieziena sasniegšanas, sistēma rada lielisku fizikas teoriju, kas apvieno vispārējo relativitāti un kvantu mehāniku, ko neviens cilvēks nevar izdarīt. Pēc pusotras stundas AI kļūst par ISI, 170 000 reižu gudrāks nekā jebkurš cilvēks."
Mums pat nav īsto terminu, lai aprakstītu šāda mēroga superizlūkošanu. Mūsu pasaulē “gudrs” nozīmē cilvēku ar IQ 130, “stulbu” - 85, taču mums nav piemēru ar cilvēkiem, kuru IQ ir 12 952. Mūsu valdnieki nav tam paredzēti.
Cilvēces vēsture mums skaidri un gaiši stāsta: līdz ar intelektu nāk spēks un spēks. Tas nozīmē, ka tad, kad mēs izveidosim mākslīgu lielizlūkošanu, tā būs visspēcīgākā radība Zemes dzīves vēsturē, un visas dzīvās būtnes, arī cilvēki, būs pilnībā tās spēkos - un tas var notikt pēc divdesmit gadiem.
Ja mūsu niecīgās smadzenes spēja izgudrot Wi-Fi, tad kaut kas gudrāks par mums simts, tūkstotis, miljards reižu var viegli aprēķināt katra Visuma atoma stāvokli jebkurā brīdī. Viss, ko var saukt par maģiju, jebkurš spēks, kas tiek piedēvēts visvarenai dievībai - tas viss būs ISI rīcībā. Radīt tehnoloģiju novecošanas novēršanai, jebkuras slimības ārstēšanai, izsalkuma un pat nāves apturēšanai, laika apstākļu kontrolei - viss pēkšņi kļūs iespējams. Iespējams arī tūlītējs visas Zemes dzīves pārtraukums. Gudrākie mūsu planētas cilvēki ir vienisprātis, ka, tiklīdz mākslīgā superizlūkošana parādīsies pasaulē, tā iezīmēs Dieva izskatu uz Zemes. Un paliek svarīgs jautājums.
Pamatojoties uz materiāliem no waitbutwhy.com, sastādījis Tims Urbans. Rakstā izmantoti materiāli no Nika Bostroma, Džeimsa Barrata, Reja Kurzveila, Džeja Nīla-Nilsona, Stīvena Pinkera, Vernora Vinges, Mošes Vardija, Rasa Roberta, Stjuarta Armstroga un Kai Sotala, Sjūzenas Šneideres, Stjuarta Rasela un Pētera Norviga, Teodora Modisa darbiem. Markuss, Karls Šulmans, Džons Sīrs, Džerons Lanjē, Bils Džojs, Kevins Kely, Pols Alens, Stīvens Hokings, Kurts Andersens, Mičs Kapors, Bens Hercels, Artūrs Klārks, Huberts Dreifuss, Teds Grīnvalds, Džeremijs Hovards.
Autors: Iļja Khels
Otrā daļa: izmiršana vai nemirstība?