Kā datori pieņem dīvainus lēmumus
Mākslīgais intelekts attīstās tik strauji, ka daudzi sāk sajust satraukumu: ja tas drīz spēs izjust emocijas un pats pieņemt lēmumus. Neatkarīgi no tā, vai tas ir robotprogrammatūra, autonoms transporta līdzeklis vai lēmumu pieņēmējs biznesā un zinātnē: mākslīgais intelekts iekļūst visās mūsu dzīves un sabiedrības jomās. Mašīnu smadzenes tiek uzskatītas par loģiskām, emocionālām un objektīvām, taču prakse rāda, ka tās ne vienmēr visu izlemj ar atvērtu prātu.
Mākslīgais intelekts ir neaizstājams, ja ir svarīgi atpazīt liela datu apjoma modeļus un pieņemt lēmumus, pamatojoties uz tiem. Bet nākotnē mākslīgā intelekta sistēmas varētu izmantot arī tajās jomās, kur mūsu labklājība un pat mūsu dzīve ir tieši atkarīga no secinājumiem - medicīnā, darba vietu izvēlē, aizdevumu izsniegšanā un taisnīgumā.
Cik objektīvi un morāli pareizu lēmumu pieņem mākslīgais intelekts? Vai mēs tiešām varam uzticēties mašīnām, lai pieņemtu šādus potenciāli svarīgus lēmumus?
Mākslīgais intelekts tiek izmantots visās jomās
Pat tagad adaptīvie algoritmi tiek izmantoti daudzās mūsu ikdienas dzīves jomās. Balss komandu un jautājumu izpratnei ir arī digitālie palīgi. Internetā tīmekļa robotprogrammatūras palīdz uzturēt un kontrolēt vietnes, lai tās būtu grūti atšķirt no cilvēkiem. Pat atklājot viltus jaunumus un attēlu manipulācijas, tiek iesaistītas mākslīgā intelekta sistēmas.
Reklāmas video:
AI sistēmas savu darbu veic arī rūpniecībā, biznesā un pat valdībā. Viņi optimizē un kontrolē ražošanas procesus, regulē konteineru ostu un lielu noliktavu loģistiku vai uztur grāmatvedības uzskaiti. Apdrošināšanas sabiedrībām un bankām jau ir pirmās viedās programmas iesniegto pieteikumu pārbaudei vai lēmumu pieņemšanai par maksājumiem. Ikea, Deutsche Telekom un daudzos citos uzņēmumos, UNICEF vai bibliotēkās klientu apkalpošanā ir iesaistīti virtuālie palīgi.
Apmācībai apstrādāts liels datu apjoms
Tas viss ir iespējams, pateicoties AI sistēmu spējai ātri analizēt milzīgus datu apjomus, noteikt modeļus un korelācijas. Piemēram, algoritms mācās no neskaitāmiem mājdzīvnieku fotoattēliem ar atbilstošiem nosaukumiem. Pēc apmācības perioda sistēma var atlasīt pilnīgi jaunas vēlamo sugu fotogrāfijas. Tā pati atzīst atšķirības.
Daudzas citas AI sistēmas izmanto mācību tekstu kā tekstu. Viņi novērtē vārda kontekstu un pēta tā semantisko nozīmi, kā arī attiecības ar līdzīgiem vārdiem vai sinonīmiem. Šīs semantiskās attiecības pārveido programmas matemātiskās izteiksmēs un tādējādi apgūst pat sarežģītus semantiskos kontekstus.
Tikai pateicoties šai spējai mākslīgais intelekts var, piemēram, novērtēt medicīniskos datus un medicīniskos ierakstus, kā arī no tiem secināt klīnisko attēlu īpašības. Balstoties uz šiem rezultātiem, AI sistēmas jau tiek izmantotas kā diagnostikas palīglīdzekļi, tās var atpazīt dažādus vēža veidus, Alcheimera slimības pazīmes, pašnāvības apstākļus un bīstamu cukura līmeni diabēta gadījumā.
Bet, lai cik pievilcīgs tas izklausītos, arvien vairāk AI ir liels trūkums. Jo tālāk mākslīgais intelekts iekļūst praktiski visās mūsu sabiedrības sfērās, jo lielākas ir tā lēmumu iespējamās sekas. Cilvēka finansiālā vai profesionālā nākotne vai pat viņa dzīve ir atkarīga no viņa sprieduma.
AI risinājumi, kas var maksāt dzīvības
Piemēram, ja AI tiek nepareizi diagnosticēta medicīnā un netiek apšaubīta, pacients var tikt nepareizi ārstēts vai pat nomirt. Militāristi izmanto autonomu ieroču sistēmu, kas pieņem nepareizus lēmumus. Piemēram, AI nevar atšķirt bēgošu draugu no ienaidnieka, nevainīgais mirst.
AI algoritmi jau tiek izmantoti ASV tiesās. Viņi paredz likumpārkāpēju recidīva iespējamību tiesā. Viņu vērtējums bieži ietekmē tiesas lēmumu un attiecīgi arī notiesātās personas sodu.
Ja AI nolemj par aizdevumiem
Tāpat lēmums par finansēm un apdrošināšanu var ietekmēt to, vai cilvēks saņem aizdevumu vai ne. Šīs sistēmas parasti tiek apmācītas, izmantojot datu bāzes.
Un šeit AI meklē modeļus: kuri cilvēki parasti atmaksā savus aizdevumus un kuri ne? Viņš izstrādā savas novērtēšanas procedūras un pieņem attiecīgus lēmumus. Tas jo īpaši nozīmē, ka cilvēki ar nepareizu dzīvesvietu vai nodarbošanos nesaņems aizdevumus neatkarīgi no tā, cik daudz viņi ir gatavi maksāt, neskatoties uz šiem apstākļiem.
Šādā atbildības sadalījumā ar datoriem cilvēks būs tikai palīgs kiber smadzeņu lēmumu izpildē. Un tas jau notiek.
Kurš ir atbildīgs par kļūdām?
Vēl viena problēma AI attīstībā: jo sarežģītāki ir lēmumu pieņemšanas principi, jo grūtāk cilvēkiem tos saprast. Tas rada arī jautājumu par to, kurš ir atbildīgs par kļūdām.
Negadījumu gadījumi, kad automašīnas vada ar autopilotu, ir kļuvuši biežāki: kurš vainīgs, ka dažas situācijas netiek glabātas atmiņā vai AI izdara nepareizus secinājumus. Vai varbūt viņš pats izdara secinājumus? Šādi piemēri jau ir.
Spēlējošie robotprogrammatūras spēles laikā ir izstrādājuši savus noteikumus
Šim pētījumam pētnieki ļāva 100 viedajiem robotiem mijiedarboties savā starpā koncesijas spēlē. Katram no viņiem ir jāizlemj, vai viņi kaut ko ziedo kādam no savas komandas vai spēles dalībniekam no malas.
Pārsteidzoši, ka laika gaitā robotprogrammatūras arvien vairāk tiek izslēgtas no ārējām grupām un ziedo tikai saviem komandas biedriem.
Iemesls tam: viedie boti pielāgoja savu spēles stratēģiju, kopējot to biedru izturēšanos, kuri ieguva visvairāk naudas un bija visveiksmīgākie. Tādējādi izveidojās botu grupas, kas izturējās tāpat un konsekventi izslēdza no spēles nesaistītus spēlētājus. Pastāvīgi izveidojot kaut ko tādu, kas aprēķina, analizē un pieņem lēmumus ātrāk nekā tas, cilvēce kādu dienu zaudēs kontroli pār savu radīšanu, kuras darbībām tā nespēs izsekot.
Pēc zinātnieku domām, tas ir acīmredzams: mākslīgajam intelektam nav nepieciešami mākslīgi dati, lai tas būtu neobjektīvs, pietiek ar to, ka ap to ir citas mašīnas. Jo pat tas var radīt grupas prātu, kas pazīstams no cilvēku kopienām. Tāpēc, izmantojot AI, cilvēkiem vajadzētu atstāt lēmumu paši.
Vasilik Svetlana