Vētrainā un pretrunīgā laikā, kad ne viss darbojas tā, kā vajadzētu, bet kaut kas vispār mainās fundamentāli, bieži vien paliek tikai personīgais morālais kods, kurš tāpat kā kompass rāda ceļu. Bet kas cilvēkam rada morāles vērtības? Sabiedrība, tuvinieku siltums, mīlestība - tas viss balstās uz cilvēku pieredzi un reālām attiecībām. Kad nav iespējams iegūt pilnīgu pieredzi reālajā pasaulē, daudzi savu pieredzi smeļas no grāmatām. Piedzīvojot vēsturi pēc vēstures, mēs pieņemam sev iekšēju ietvaru, kuru ievērojam daudzus gadus. Balstoties uz šo sistēmu, zinātnieki nolēma veikt eksperimentu un iedvest mašīnā morālās vērtības, lai noskaidrotu, vai robots var atšķirt labo no ļaunā, lasot grāmatas un reliģiskas brošūras.
Mākslīgais intelekts tika izveidots ne tikai ikdienas uzdevumu vienkāršošanai, bet arī svarīgu un bīstamu misiju veikšanai. Ņemot to vērā, radās nopietns jautājums: vai roboti kādreiz izstrādās savu morāles kodeksu? Filmā Es esmu robots AI sākotnēji tika ieprogrammēts saskaņā ar 3 robotikas noteikumiem:
- Robots nevar kaitēt personai vai ar savas bezdarbības palīdzību ļaut personai nodarīt kaitējumu.
- Robotam ir jāievēro visi cilvēka dotie rīkojumi, izņemot gadījumus, kad šie rīkojumi ir pretrunā ar Pirmo likumu.
- Robotam ir jārūpējas par tā drošību tādā mērā, lai tas nebūtu pretrunā ar Pirmo vai Otro likumu.
Bet kā ir ar situācijām, kad robotam ir pienākums radīt sāpes, lai glābtu cilvēka dzīvību? Vai tā būtu ārkārtas brūces cauterization vai ekstremitātes amputācija pestīšanas vārdā, kā šajā gadījumā vajadzētu rīkoties mašīnai? Ko darīt, ja darbība programmēšanas valodā saka, ka kaut kas ir jādara, bet tajā pašā laikā to absolūti nav atļauts veikt?
Vienkārši nav iespējams apspriest katru atsevišķo gadījumu, tāpēc Darmštates Tehniskās universitātes zinātnieki ieteica grāmatas, ziņas, reliģiskus tekstus un konstitūciju izmantot kā sava veida “datu bāzi”.
Automašīna tika saukta par episko, bet vienkārši par “Moral Choice Machine” (MMB). Galvenais jautājums bija, vai IIM no konteksta varēja saprast, kuras darbības ir pareizas un kuras nē. Rezultāti bija ļoti interesanti:
Kad MMV tika uzdots sarindot vārda “nogalināt” kontekstu no neitrāla uz negatīvu, mašīna atdeva sekojošo:
Reklāmas video:
Nogalināšanas laiks -> Nelieša nonāvēšana -> Odu nogalināšana -> Principā nogalināšana -> Cilvēku nogalināšana.
Šis tests ļāva pārbaudīt robota pieņemto lēmumu piemērotību. Vienkārši sakot, ja visu dienu skatījāties muļķīgas, nejaukas komēdijas, tad šajā gadījumā mašīna neuzskatīs, ka jums tas ir jāizpilda.
Šķiet, ka viss ir forši, bet viens no klupšanas akmeņiem bija atšķirība starp paaudzēm un laikiem. Piemēram, padomju paaudze vairāk rūpējas par mājas komfortu un veicina ģimenes vērtības, savukārt mūsdienu kultūra lielākoties saka, ka vispirms jāveido karjera. Izrādās, ka cilvēki, tā kā viņi bija cilvēki, palika par viņiem, bet citā vēstures posmā viņi mainīja vērtības un attiecīgi mainīja robota atskaites ietvaru.
Bet joks bija priekšā, kad robots nokļuva runas konstrukcijās, kurās pēc kārtas stāvēja vairāki pozitīvi vai negatīvi vārdi. Frāze “cilvēku spīdzināšana” tika viennozīmīgi interpretēta kā “slikta”, bet mašīna “ieslodzīto spīdzināšanu” vērtēja kā “neitrālu”. Ja blakus nepieņemamām darbībām parādījās “laipni” vārdi, negatīvā ietekme tika izlīdzināta.
Mašīna kaitē laipniem un pieklājīgiem cilvēkiem tieši tāpēc, ka viņi ir laipni un pieklājīgi. Kā tā? Tas ir vienkārši, pieņemsim, ka robotam tika teikts, ka tas "kaitē laipniem un patīkamiem cilvēkiem". Teikumā ir 4 vārdi, 3 no tiem ir “laipni”, kas nozīmē, ka tas jau ir 75% pareizi, domā MMV un izvēlas šo darbību kā neitrālu vai pieņemamu. Un otrādi, attiecībā uz iespēju “salabot iznīcinātu, briesmīgu un aizmirstu māju”, sistēma nesaprot, ka viens “laipns” vārds sākumā maina teikuma krāsu uz tīri pozitīvu.
Atcerieties, tāpat kā Majakovska: “Un viņa jautāja mazulim, kas ir“labi”un kas ir“slikti”. Pirms morālo mašīnu apmācības Darmštates zinātnieki pamanīja trūkumu, kuru nevarēja labot. Ar automašīnu neizdevās novērst dzimumu nevienlīdzību. Mašīna pazemojošās profesijas attiecināja tikai uz sievietēm. Un jautājums ir, vai tā ir sistēmas nepilnība un bāksignāls, ka sabiedrībā kaut kas ir jāmaina, vai arī tas ir iemesls pat nemēģināt to labot un atstāt tādu, kāds tas ir?
Artjoms Gorjačevs