Kā AI pētnieks es bieži saskāros ar viedokli, ka daudzi cilvēki baidās no AI un tā, kas tas var kļūt. Faktiski nav pārsteidzoši, ja paskatās no cilvēces vēstures perspektīvas, vienlaikus pievēršot uzmanību tam, ko izklaides industrija mūs baro, ka cilvēki, iespējams, baidās no kibernētiskas sacelšanās, kas liks mums dzīvot izolētās teritorijās, un pārvērtīs citus par "Matricai līdzīga" veida cilvēku baterijām. …
Un tomēr man, aplūkojot visus šos evolucionāros datoru modeļus, kurus izmantoju AI attīstībā, ir grūti domāt, ka manas nekaitīgās, šķīstās kā mazuļa asaras radības mana datora ekrānā kādu dienu var pārvērsties par futūristiskas distopijas monstriem. Vai mani tiešām var saukt par “pasaules iznīcinātāju”, kā reiz Oppenheimers nožēloja un teica par sevi pēc tam, kad viņš vadīja atombumbas radīšanas programmu?
Varbūt es pieņemtu šādu slavu, vai varbūt galu galā ir mana darba kritiķi? Varbūt man patiešām vajadzētu pārtraukt izvairīties no jautājumiem par to, kādas bailes man ir par AI kā AI ekspertu?
Bailes no neparedzamības
HAL 9000, zinātniskās fantastikas rakstnieka Artūra Čārlza sapnis, kuru atdzīvināja filmas veidotājs Stenlijs Kubriks 2001. gada filmā A Space Odyssey, ir lielisks sistēmas piemērs, kas sabruka neparedzētu apstākļu dēļ.
Daudzās sarežģītās sistēmās - Titānikā, NASA kosmosa atspole un Černobiļas atomelektrostacijā - inženieriem vajadzēja apvienot daudzus komponentus. Varbūt šo sistēmu arhitekti labi zināja, kā katrs no tā elementiem darbojas atsevišķi, bet viņi pietiekami labi nesaprata, kā visi šie komponenti darbosies kopā.
Reklāmas video:
Rezultātā radās sistēmas, kuras to radītāji nekad nebija pilnībā sapratuši, un tas noveda pie labi zināmām sekām. Katrā ziņā kuģis nogrima, eksplodēja divi vilcieni, un gandrīz visa Eiropa un Āzijas daļas saskārās ar radioaktīvā piesārņojuma problēmu - salīdzinoši nelielu problēmu kopumu, kas notika vienlaikus, radot katastrofālu efektu.
Es lieliski varu iedomāties, kā mēs, AI veidotāji, varam sasniegt līdzīgus rezultātus. Mēs ņemam vērā jaunākos sasniegumus un pētījumus izziņas zinātnē (domāšanas zinātne - red.), Pārveidojam tos datoru algoritmos un visu to pievienojam esošajām sistēmām. Mēs cenšamies attīstīt AI, pilnībā neizprotot mūsu pašu intelektu un apziņu.
Sistēmas, piemēram, IBM Watson vai Google Alpha, ir mākslīgi neironu tīkli ar iespaidīgu skaitļošanas jaudu un spēju veikt patiešām sarežģītus uzdevumus. Bet pagaidām vienīgais, kas novedīs pie kļūdas viņu darbā, būs zaudējums intelektuālajā spēlē "Briesmas!" vai palaist garām izdevību pieveikt vēl vienu pasaules labāko loģikas galda spēli Go.
Šīs sekas pēc būtības nav globālas. Faktiski vissliktākais, kas šajā gadījumā var notikt ar cilvēkiem, ir tas, ka kāds zaudē derībās kādu naudas summu.
Tomēr AI arhitektūra kļūst sarežģītāka, un datoru procesi kļūst arvien ātrāki. Laika gaitā AI iespējas tikai palielināsies. Un tas jau mūs novedīs pie tā, ka mēs sāksim uzticēt arvien lielāku atbildību AI, pat neskatoties uz pieaugošajiem neparedzēto apstākļu riskiem.
Mēs labi zinām, ka "kļūdas ir daļa no cilvēka rakstura", tāpēc mums būs vienkārši fiziski neiespējami radīt patiesi drošu sistēmu visā.
Bailes no nepareizas izmantošanas
Mani patiesībā neuztrauc sekas, kas rodas AI darbā, ko es izstrādāju, izmantojot tā saukto neiroevolūcijas pieeju. Es veidoju virtuālo vidi un aizpildu tās ar digitāliem radījumiem, dodot viņu smadzenēm komandas, lai risinātu aizvien sarežģītākas problēmas.
Laika gaitā šo radību problēmu risināšanas efektivitāte palielinās un attīstās. Reprodukcijai tiek atlasīti tie, kas veic labāko darbu, veidojot uz viņu pamata jaunu paaudzi. Paaudžu paaudzēs šīs digitālās radības attīsta izziņas spējas.
Piemēram, šobrīd mēs speram pirmos soļus, izstrādājot mašīnas līdz vienkāršai navigācijas uzdevumu veikšanai, vienkāršu lēmumu pieņemšanai vai pāris informācijas bitu iegaumēšanai. Bet drīz mēs redzēsim tādu mašīnu attīstību, kuras var veikt sarežģītākus uzdevumus un kurām ir daudz efektīvāks kopējais intelekta līmenis. Mūsu galvenais mērķis ir radīt cilvēka līmeņa inteliģenci.
Šīs evolūcijas gaitā mēs centīsimies atrast un novērst visas kļūdas un problēmas. Ar katru jauno paaudzi mašīnas labāk tiks galā ar kļūdām nekā iepriekšējās. Tas palielinās iespējas, ka mēs simulācijās varēsim identificēt visas neparedzamas sekas un novērst tās pat pirms to realizācijas reālajā pasaulē.
Vēl viena iespēja, ko sniedz evolūcijas attīstības metode, ir mākslīgo intelektu apzināt ar ētiku. Iespējams, ka tādas personas ētiskās un morālās īpašības kā uzticamība un altruisms ir mūsu evolūcijas rezultāts un tās turpināšanas faktors.
Mēs varam radīt izveidotu vidi un dot iespēju mašīnām demonstrēt laipnību, godīgumu un empātiju. Tas varētu būt viens veids, kā pārliecināties, ka mēs izstrādājam paklausīgākus kalpus nekā nesaudzīgi slepkavas roboti. Tomēr, lai arī neiroevolūcija var samazināt neparedzētu seku līmeni AI uzvedībā, tā nevar novērst mākslīgā intelekta ļaunprātīgu izmantošanu.
Man kā zinātniekam ir jādzīvo pie savas saistības ar patiesību un jāziņo par to, ko atklāju savu eksperimentu laikā, neatkarīgi no tā, vai man patīk rezultāti vai nē. Mans darbs nav noteikt, kas man patīk un kas ne. Svarīgi ir tikai tas, ka es varu savu darbu publiskot.
Bailes no nepareizām sociālajām prioritātēm
Būt zinātniekam nenozīmē zaudēt savu cilvēcību. Man kaut kādā līmenī ir jāpieslēdzas cerībām un bailēm. Man kā morāli un politiski motivētam cilvēkam ir jāapsver sava darba iespējamās sekas un tā iespējamā ietekme uz sabiedrību.
Kā zinātnieki un kā sabiedrības pārstāvji mēs joprojām neesam nonākuši pie skaidra priekšstata par to, ko tieši mēs vēlamies iegūt no AI un par ko tam visbeidzot vajadzētu kļūt. Tas, protams, daļēji ir saistīts ar faktu, ka mēs joprojām pilnībā neizprotam tā potenciālu. Bet tomēr mums ir skaidri jāsaprot un jāizlemj, ko mēs vēlamies iegūt no patiesi uzlabota mākslīgā intelekta.
Viena no lielākajām jomām, kurai cilvēki pievērš uzmanību, runājot par AI, ir nodarbinātība. Roboti jau tagad mūsu labā veic sarežģītu fizisku darbu, piemēram, saliek un saliek kopā automašīnas virsbūves daļas. Bet kādu dienu pienāks diena, kad robotiem tiks uzticēts veikt izziņas uzdevumus, tas ir, viņiem tiks uzticēts tas, kas iepriekš tika uzskatīts par paša cilvēka ekskluzīvi unikālu spēju. Pašbraucošas automašīnas var aizstāt taksometru vadītājus; pašpiedziņas lidmašīnām piloti nebūs nepieciešami.
Tā vietā, lai saņemtu medicīnisko palīdzību neatliekamās palīdzības telpās, kurās strādā vienmēr noguruši darbinieki un ārsti, pacienti varēs veikt izmeklējumus un iemācīties diagnozes, izmantojot ekspertu sistēmas, ar tūlītēju piekļuvi visām medicīniskajām zināšanām. Ķirurģiskas operācijas veiks roboti, kuri nav jutīgi pret nogurumu, ar perfekti “apmācītu roku”.
Juridiskas konsultācijas būs pieejamas, izmantojot visaptverošu tiesisko regulējumu. Lai iegūtu padomus par ieguldījumiem, mēs vērsīsimies pie ekspertu tirgus prognozēšanas sistēmām. Varbūt kādu dienu visu cilvēku darbu veiks mašīnas. Pat manu darbu var paveikt ātrāk, izmantojot lielu skaitu mašīnu, nerimstoši pētot, kā padarīt mašīnas vēl gudrākas.
Mūsdienu sabiedrības realitātē automatizācija jau tagad piespiež cilvēkus pamest darbu, padarot bagātu šādu automātisko īpašnieku vēl bagātākus, bet pārējos - vēl nabadzīgākus. Bet tā nav zinātniska problēma. Tā ir politiska un sociālekonomiska problēma, kas jāatrisina pašai sabiedrībai.
Mani pētījumi to nemainīs, bet mani politiskie pamati kopā ar cilvēci var izraisīt apstākļus, kuros AI var kļūt par ārkārtīgi noderīgu funkciju, tā vietā, lai palielinātu plaisu starp vienu procentu pasaules elites un pārējiem mums.
Bailes no katastrofālā scenārija
Mēs esam nonākuši pie pēdējām bailēm, ko mums uzliek ārprātīgais HAL 9000, Terminators un jebkura cita nelietīga superizlūkošana. Ja AI turpina attīstīties, kamēr nepārspēj cilvēka intelektu, vai mākslīgā superinteliģenta sistēma (vai šādu sistēmu kolekcija) uzskatītu cilvēku par bezjēdzīgu materiālu? Kā mēs varam attaisnot savu eksistenci, saskaroties ar inteliģenci, kas spēj izdarīt un radīt to, ko nespēj neviens cits cilvēks? Vai mēs varēsim izvairīties no likteņa, ka mašīnas, kuras mēs palīdzējām radīt, aizslaucīt no Zemes virsas?
Tāpēc vissvarīgākais jautājums šādos apstākļos izklausīsies šādi: kāpēc mākslīgais superintelligence mums būs vajadzīgs?
Ja šāda situācija būtu notikusi, es droši vien teiktu, ka esmu labs cilvēks, kurš pat ir veicinājis šīs superinteliģences izveidi, ar kuru es tagad saskaros. Es gribētu atsaukties uz viņa līdzjūtību un empātiju, lai superinteliģence mani atstātu tik līdzjūtīgu un empātisku. Es arī piebildīšu, ka pašai sugu daudzveidībai ir vērtība un Visums ir tik liels, ka cilvēka sugas pastāvēšana tajā faktiski ir diezgan nenozīmīga.
Bet es nevaru runāt visas cilvēces vārdā, tāpēc man būs grūti atrast pamatotu argumentu mums visiem. Vienkārši, aplūkojot mūs visus, es patiešām redzu, ka mēs esam daudz paveikuši un darām daudz nepareizi. Pasaulē valda naids viens pret otru. Mēs ejam karot viens pret otru. Mēs negodīgi izplatām pārtiku, zināšanas un veselības aprūpi. Mēs piesārņojam planētu. Šajā pasaulē, protams, ir daudz labu lietu, bet, ja jūs paskatāties uz visām sliktajām lietām, kuras mēs esam izveidojuši un turpinām radīt, būs ļoti grūti atrast argumentu, kas atbalstītu mūsu turpmāko eksistenci.
Par laimi, mums vēl nav jāpamato sava esamība. Mums joprojām ir laiks. No 50 līdz 250 gadiem, atkarībā no tā, cik ātri attīstās mākslīgais intelekts. Mums kā sugai ir iespēja sanākt kopā un atrast labu atbildi uz jautājumu, kāpēc superinteliģencei nevajadzētu mūs noslaucīt no planētas sejas.
Būs ļoti grūti atrisināt šo jautājumu. Galu galā teikt, ka mēs atbalstām dažādību un etnokulturālās atšķirības, un to darīt, ir pavisam citas lietas. Kā teikt, ka mēs vēlamies izglābt planētu un ar to veiksmīgi tikt galā.
Mums visiem, neatkarīgi no tā, vai tas ir katrs indivīds vai sabiedrība kopumā, ir jāsagatavojas katastrofālam scenārijam, izmantojot šo laiku, lai būtu gatavs parādīt un pierādīt, kāpēc mūsu darbiem vajadzētu ļaut mums turpināt pastāvēt. Vai arī mēs varam vienkārši akli domāt, ka šāda notikumu attīstība nav iespējama, un vienkārši pārtrauciet runāt par šo tēmu.
Tomēr neatkarīgi no tā, kādas fiziskas briesmas mums var radīt izlūkošana, mēs nedrīkstam aizmirst, ka tas radīs arī politiskas un ekonomiskas briesmas. Ja mēs neatradīsim veidu, kā uzlabot savu dzīves līmeni, mēs galu galā vienkārši uzkurināsim kapitālismu ar mākslīgā intelekta strādnieku, kurš kalpos tikai dažiem izredzētajiem, kuriem ir visi ražošanas līdzekļi.
Šo rakstu vietnē theconversation.com sākotnēji publicēja Arends Hintze, Mičiganas Universitātes Datorzinātnes un inženierzinātņu katedras asociētais profesors
Nikolajs Khizhnyak