Čikāgas universitātes (ASV) zinātnieki veica pētījumu, kura laikā parādīja, kā AI var izmantot, lai rakstītu sarežģītas viltotas atsauksmes. Šādas atsauksmes ar mūsdienīgām metodēm neatšķiras no reālajām, un nenojaušamie lasītāji tās uzskata par ļoti uzticamām.
Restorānu atsauksmes tika ģenerētas, izmantojot atkārtotus neironu tīklus (padziļinātas mācīšanās metodes), kas iepriekš apmācīja tūkstošiem reālās dzīves pārskatu, kas bija pieejami tīmeklī.
Pēc pētnieku domām, ģenerētās atsauksmes praktiski neatšķīrās no reālajām. Tātad, darba autori parādīja, ka lietotāji ne tikai neatpazina viltus pārskatus, bet arī uzskatīja tos par tikpat noderīgiem kā reāli, kurus raksta cilvēki.
Pēdējais, iespējams, ir visdrošākais. Tā kā tas būtībā nozīmē, ka AI rakstītās atsauksmes pilda savu galveno funkciju - tās mērķtiecīgi ietekmē cilvēku viedokli.
Tiek atzīmēts, ka šādos pārskatos (izmantojot programmatūru) plaģiāts tika konstatēts reti. Tas ir saistīts ar faktu, ka AI tos ģenerēja pēc rakstura, nevis plūca vārdus no reālām atsauksmēm.
Mūsdienās ir diezgan liela pagrīdes nozare, kurā cilvēki raksta viltotas atsauksmes (par naudu). Tomēr, kā intervijā Business Insider atzīmēja Čikāgas universitātes profesors Bens Y. Zhao, AI ieviešana to var mazināt. Zinātnieks saka, ka viņš vēl nezina par šādu algoritmu izmantošanu šajā nozarē. Bet nav garantijas, ka kāds neizdomās kaut ko līdzīgu un neizmantos to personīgā labuma gūšanai.
Tajā pašā laikā pētnieki raksta, ka neironu tīkla atbildes joprojām nebija ideālas. Izrādījās, ka algoritmā tika izmantots mazāks rakstzīmju kopums - un to nebija grūti redzēt. Tomēr, pēc darba autoru domām, nākotnes neironu tīkli var būt vēl sarežģītāki, un attiecīgi to radītās atsauksmes būs grūtāk atklāt.
Jiao atzīmē, ka tas attiecas ne tikai uz viltotām restorānu atsauksmēm: šādas tehnoloģijas parasti var satricināt mūsu pārliecību par to, kas ir reāls un kas nav.
Reklāmas video:
Pētījuma tekstu var atrast šeit.