Compas algoritms, kas Amerikas policijā strādā kopš 1998. gada, analizēja apsūdzēto datus, un pēc tam, pamatojoties uz saņemto informāciju, palīdzēja izlemt, piemēram, vai noziedznieks jāatbrīvo pret drošības naudu vai arī viņš jāpatur apcietinājumā. Izvēloties ierobežojošo pasākumu, sistēma ņēma vērā vecumu, dzimumu un sasniegumus kriminālajā arēnā. 20 gadus ilgas "dienesta" laikā algoritmu novērtēja vairāk nekā miljons cilvēku, taču nesen tas tika atzīts par nespējīgu, pēc kura tas nekavējoties tika atsaukts.
Dartmutas koledžas zinātnieki pārbaudīja, cik precīza ir sistēma un vai tai var uzticēties. Lai to izdarītu, viņi pieņēma darbā ārštata darbiniekus, vienkāršus cilvēkus bez juridiskās izglītības, lai paši pieņemtu lēmumus, balstoties uz īsu informāciju par cilvēkiem, sniedzot priekšmetiem informāciju par dzimumu, vecumu, kriminālvēsturi un vairākiem citiem parametriem.
Ārštata darbinieku, kuriem bija neliela dokumentācija, prognozes precizitāte bija gandrīz 70 procenti, savukārt programma atpalika no cilvēkiem par pieciem procentiem, vienlaikus paļaujoties uz 137 biogrāfijas punktiem. Algoritma spriedumu analīze parādīja, ka programma, visticamāk, ir aizdomas par melnādainajiem ieslodzītajiem.
"Kļūdas šādos gadījumos var būt ļoti dārgas, tāpēc ir vērts apsvērt, vai šis algoritms vispār būtu jāizmanto tiesas spriedumu pasludināšanai," saka viens no pētījuma autoriem.
Izpētījuši algoritma principu, pētnieki nonāca pie secinājuma, ka jo jaunāks ir apsūdzētais un jo vairāk aiz viņa ir aizturēti, jo lielāka ir recidīva iespējamība, tāpēc AI speciālisti atzina tehnoloģiju par neuzticamu.
Viačeslavs Larionovs
