Jauns pētījums parādīja, ka, lai izteiktu aizspriedumus pret citiem, nav nepieciešama īpaša inteliģence un tas var viegli attīstīties mākslīgi inteliģentās mašīnās.
Kārdifas universitātes un MIT psihologi un informācijas tehnoloģiju speciālisti ir parādījuši, ka autonomu mašīnu grupas var uzrādīt aizspriedumus, vienkārši definējot šādu uzvedību, kopējot to un savstarpēji mācot.
Var šķist, ka aizspriedumi ir tīri cilvēciska parādība, kas prasa, lai cilvēka intelekts veidotu viedokļus vai stereotipus par personu vai grupu. Kaut arī dažu veidu datoru algoritmi jau ir parādījuši aizspriedumus, piemēram, rasismu un seksismu, pamatojoties uz publisko ierakstu un citu cilvēku radīto datu izpēti, jauns darbs parāda AI spēju patstāvīgi veidot grupas ar aizspriedumiem.
Pētījums ir publicēts žurnālā Scientific Reports. Tas ir balstīts uz datorsimulācijām, kā aizspriedumaini virtuālie aģenti var veidot grupas un mijiedarboties savā starpā. Simulācijas laikā katrs indivīds izlemj, vai palīdzēt kādam no savas grupas vai no citas, atkarībā no šī indivīda reputācijas, kā arī no viņa paša stratēģijas, kas ietver viņu aizspriedumu līmeni pret nepiederošajiem. Pēc tūkstošiem simulāciju veikšanas katrs indivīds apgūst jaunas stratēģijas, kopējot citus - neatkarīgi no tā, vai viņi ir savas grupas locekļi vai visa "populācija".
Aģentu raksturlielumu relatīvais kumulatīvais biežums pēc aizspriedumu līmeņa / Rodžers M. Vitakers.
“Pēc šo simulāciju veikšanas tūkstošiem un tūkstošiem reižu pēc kārtas mēs sākām saprast, kā veidojas aizspriedumi un kādi apstākļi ir nepieciešami, lai to kultivētu vai novērstu,” sacīja pētījuma līdzautors profesors Rodžers Vitakers no Noziegumu un drošības pētījumu institūta un Kārdifas Universitātes Datorzinātnes un datorzinātņu skolas. “Mūsu simulācijas parāda, ka aizspriedumi ir spēcīgs dabas spēks, un evolūcijas ceļā tos var stimulēt virtuālās populācijās, lai kaitētu plašākiem sakariem ar citiem. Aizsardzība pret aizspriedumu grupām var netīšām izraisīt citu aizspriedumu grupu veidošanos, izraisot lielāku iedzīvotāju sadalījumu. Šādu plaši izplatītu aizspriedumu ir grūti mainīt.”
Pētījuma datos iekļauti arī indivīdi, kuri palielina savu aizspriedumu līmeni, vēlams kopēt tos, kuri saņem labākos īstermiņa rezultātus, kas savukārt nozīmē, ka šādiem lēmumiem nav obligāti nepieciešamas īpašas spējas.
"Ir pilnīgi ticams, ka autonomas mašīnas, kuras spēj identificēt ar diskrimināciju un kopēt citus, nākotnē var būt pakļautas aizspriedumu parādībām, kuras mēs redzam sabiedrībā," turpina profesors Vitakers. “Daudzas AI attīstības tendences, kuras mēs šodien redzam, ir saistītas ar autonomiju un paškontroli, tas ir, ierīču izturēšanos ietekmē arī apkārtējie. Jaunākie piemēri ir pārvadājumi un lietu internets. Mūsu pētījums sniedz teorētisku ieskatu par to, kur modelētie aģenti periodiski vēršas pie citiem pēc resursiem."
Reklāmas video:
Pētnieki arī atklāja, ka noteiktos apstākļos, tostarp sadalot vienas un tās pašas sabiedrības subpopulācijas, aizspriedumus ir grūtāk nostiprināt.
“Ar lielu skaitu apakšpopulāciju objektīvu grupu arodbiedrības var sadarboties bez izmantošanas. Tas mazina arī viņu mazākumtautību statusu, vienlaikus mazinot viņu uzņēmību pret aizspriedumiem. Tomēr tas prasa arī apstākļus, kuros aģenti ir labvēlīgāki pret mijiedarbību ārpus savas grupas,”secināja profesors Vitakers.
Vladimirs Guilēns