Mākslīgais intelekts lasīja Reddit lietotāju agresīvos komentārus un saprata, kā runā cilvēki, kuri ienīst citus cilvēkus. Viņu ir grūtāk maldināt nekā parasto botu moderatoru.
Internetu apdzīvo tauki un plāni troļļi, un tie ir tikai rupji cilvēki, kuri neiedziļinās kabatā pēc vārdiem. Interneta manuāla vadīšana ir grūts un nepateicīgs darbs. Boti, kas ieprogrammēti vārdu meklēšanai no “aizliegtā saraksta”, dara labāk, taču viņi nevar zināt, kad kodīgais komentārs ar koda vārdiem ir nekaitīgs joks un kad tas ir ļauns verbāls uzbrukums.
Pētnieki Kanādā ir mācījuši mākslīgo intelektu atšķirt rupjus jokus no sāpīgiem jokiem un to, ko sociologi sauc par “naida runu”.
Dana Vērklija, viena no AI veidotājiem, atzīmē, ka "naida runu" ir grūti formalizēt. Patiesi, formāli aizskarošus vārdus var izmantot gan ar ironiju, gan to maigākajā nozīmē; tikai daži teksti, kas satur šādus vārdus, nopietni uzmāc un pazemo. Mēs nesniegsim piemērus, jo valdības organizācijām, kas Krievijā regulē internetu, vēl nav mākslīgā intelekta).
Neironu tīkls tika apmācīts, ņemot vērā kopienas locekļu izteikumus, kas zināmi par viņu naidīgumu pret dažādām iedzīvotāju grupām. Neironu tīkls uzzināja no vietnes Reddit ziņām - platformas, kur var atrast visdažādākās interešu grupas, sākot no pilsoņu tiesību aktīvistiem un beidzot ar radikāliem misogynisti. Sistēmā augšupielādētie teksti visbiežāk apvainoja afroamerikāņus, cilvēkus ar lieko svaru un sievietes.
Šādi apmācīts neironu tīkls sniedza mazāk viltus pozitīvu rezultātu nekā programmas, kas pēc atslēgvārdiem nosaka “naida runu”. Sistēma pieķēra rasismu tur, kur vispār nebija indikatora vārdu. Bet, neskatoties uz labo sniegumu, AI moderatora veidotāji nav pārliecināti, ka viņu attīstība tiks plaši izmantota. Pagaidām viņa ir veiksmīgi atradusi naida runu vietnē Reddit, bet vai viņa to spēs izdarīt arī Facebook un citās platformās, nav zināms. Plus, sistēma ir nepilnīga, dažreiz izlaižot daudzus acīmredzami rupjus rasistiskus paziņojumus, kurus atslēgvārdu meklētājprogramma nepalaistu garām. Vienīgais, kurš spēj atšķirt apvainojumu no nevainīga joku, kamēr cilvēks paliek.