Amerikas Savienoto Valstu prezidenta vēlēšanu kampaņa ir oficiāli sākusies, kas savukārt nozīmē dīvainu un mānīgu metožu pārpilnību, kā tehnoloģija kropļo politiku. Viens no lielākajiem draudiem ir mākslīgas personības, kuras kaislīgi iesaistās politiskos strīdos. No vienas puses, uz mākslīgā intelekta balstīta teksta ģenerēšanas tehnoloģija attīstās ātrāk nekā jebkad agrāk, no otras puses, tērzēšanas roboti sociālajos tīklos ir gandrīz sasnieguši pilnību. Šie datoru radītie "cilvēki" drīz izslāps īstas cilvēku diskusijas tīmeklī.
Teksta ģenerēšanas programmatūra ir pietiekami attīstīta, lai maldinātu gandrīz ikvienu. Dators ir lielisks ziņu rakstīšanai, it īpaši sporta un finanšu jomā, klientu konsultēšanai ieguldījumu vietnēs, saistošu rakstu rakstīšanai par citām ziņu tēmām (lai gan ir ierobežojumi).
Tajā pašā laikā jau pastāv algoritmi, kas var radīt saturu, kas nav atšķirams no parasto lietotāju ziņām. 2017. gadā FKT rīkoja publiskas debates par saviem plāniem izbeigt tīkla neitralitāti. Par šo tēmu tika saņemti satriecoši 22 miljoni komentāru. Daudzi no viņiem - iespējams, puse - bija viltoti, uzbrucējiem izmantojot zagtus personu datus. Daži komentāri bija rupji, 1,3 miljoni tika ģenerēti no tās pašas veidnes - daži vārdi tajos tika mainīti, lai ziņojumi būtu unikāli.
Un tehnoloģijas šajā jomā aktīvi attīstās. Savā eksperimentā Hārvardas pētnieks Makss Veiss izmantoja tekstu ģenerējošu programmatūru, lai izveidotu 1000 komentāru, reaģējot uz valdības Medicaid iniciatīvu. Visi šie komentāri bija unikāli, un izskatījās, ka tos ir rakstījuši īsti cilvēki, kas atbalsta noteiktu politisko nostāju. Viņiem izdevās pievilināt Medicaid.gov administratorus domāt, ka tās ir patiesas bailes no reāliem cilvēkiem. Veicot pētījumu, Veiss vēlāk atklāja, ka komentāri ir nepatiesi, un lūdza tos noņemt. Bet cita persona vai iebrucēju grupa, kas iet šo ceļu, visticamāk, nebūs tik ļoti morāla.
Čatboti ir ilgus gadus demonstrēti sociālo mediju diskusijās. Pēc vienas aplēses, apmēram piekto daļu no visiem tweets par 2016. gada prezidenta vēlēšanām publicēja roboti, un aptuveni trešdaļa no balsošanas par Brexit tajā pašā gadā. Paziņojumā no Oksfordas universitātes pagājušajā gadā pētnieki atrada pierādījumus tam, ka robotprogrammatūras tiek izmantotas propagandas izplatīšanai 50 valstīs. Parasti tās bija vienkāršas programmas, bez domām atkārtojot saukļus: piemēram, ceturtdaļmiljons pro-Saūda tvītu “Mēs visi ticam Mohammedam bin Salmanam” pēc Džamala Khashoggi slepkavības 2018. gadā. Labākus robotprogrammatūras atrast ir daudz grūtāk. Un ir grūti izmērīt šo robotprogrammatūru efektivitāti. Viņi visi izkropļo sabiedrisko domu un ticību pamatoti politiskām debatēm. Patiesībā,mēs visi esam jauna sociālā eksperimenta vidū.
Gadu gaitā algoritmiskās robotprogrammatūras ir izstrādājušas veselas personības. Viņiem ir viltoti vārdi, viltotas biogrāfijas un viltotas fotogrāfijas, dažreiz datorizēti. Tā vietā, lai izplatītu propagandu bezgalīgi, viņi ziņojumus izliek tikai reizēm. Pētnieki var secināt, ka tie ir robotprogrammatūras, nevis cilvēki, kuru pamatā ir izlikšanas paraugi, bet robotprogrammatūru tehnoloģija visu laiku uzlabojas, apsteidzot mēģinājumus tos izsekot. Nākotnes roboti tiks labāk maskēti kā sociālas cilvēku grupas, propaganda tiks smalki ieausta tviterī par tēmām, kas saistītas ar šīm sociālajām grupām.
Drīz programmas kontrolētie Simsi varēs rakstīt personalizētas vēstules laikrakstiem, premjerministros vēlētām amatpersonām, sniegt personalizētus komentārus par sabiedrisko noteikumu izstrādes procesiem un saprātīgi runāt par politiskiem jautājumiem sociālajos medijos. Viņi varēs komentēt ziņas sociālajos tīklos, ziņu vietnēs utt. Tiks izveidotas pastāvīgas rakstzīmes, kas šķitīs reālas pat tiem, kas viņus pēta. Viņi varēs sevi parādīt sociālajos medijos un nosūtīt personalizētus tekstus. Viņi atkārtosies miljonos un visu diennakti sūtīs miljardiem garu un īsu ziņojumu. Kopā viņi var izsmelt visas reālas debates internetā. Ne tikai sociālajos medijos, bet visur, kur ir komentāri.
Iespējams, ka šos personāžus kontrolēs ārvalstu iebrucēji. Varbūt tās būs iekšējās politiskās grupas. Varbūt tie būs paši kandidāti. Visticamāk, visi to izmantos. 2016. gada vēlēšanu vissvarīgākā mācība par dezinformāciju nav tā, ka dezinformācija tika publicēta; taču ir lēti un viegli dezinformēt cilvēkus. Turpmākā tehnoloģiskā attīstība padarīs to visu vēl pieejamāku.
Reklāmas video:
Mūsu nākotne būs vardarbīgas politiskas debates, kurās robotprogrammatūras galvenokārt strīdēsies ar citiem robotiem. Tas nav tas, ko mēs iedomājamies, kad slavējam ideju tirgu vai jebkuru demokrātisku politisku procesu. Lai demokrātija darbotos pareizi, ir vajadzīgas divas lietas: informācija un pārstāvība. Mākslīgie personāži skāra abas lietas.
Problēmas risinājums vēl nav acīmredzams. Mēs varam mēģināt regulēt robotprogrammatūru izmantošanu - ierosinātais Kalifornijas likums prasa robotprogrammatūrām sevi identificēt, taču tas ir efektīvs tikai pret likumīgām ietekmētāju kampaņām, piemēram, reklāmām. Slēpto ietekmi būs daudz grūtāk atklāt. Acīmredzamākā aizsardzība ir labāku autentifikācijas metožu izstrāde un standartizācija. Ja sociālie tīkli ir pārliecināti, ka aiz katra konta ir reāla persona, viņi labāk varēs novērst viltus personas. Bet viltoti konti jau tiek regulāri izveidoti, izmantojot reālu cilvēku datus bez viņu ziņas vai piekrišanas. Mums nav autentifikācijas sistēmas, kas aizsargā privātumu un var sasniegt miljardiem lietotāju.
Mēs varam tikai cerēt, ka mūsu spēja identificēt mākslīgas personības pieķersies mūsu spējai tās maskēt. Bet pagaidām uzbrucēji vienmēr ir soli priekšā.
Dienas beigās visiem lēmumiem jābūt netehniskiem. Mums ir jāatzīst politisko debašu ierobežojumi internetā un atkal jāpiešķir prioritāte tiešajai komunikācijai. To ir grūtāk automatizēt, un mēs zinām, ka cilvēki, ar kuriem mēs runājam, ir īsti cilvēki. Bet līdz šim šī kultūras maiņa šķiet pilnīgi nereāls risinājums, un dezinformācijas mēģinājumi ir plaši izplatīti visā pasaulē un tiek veikti vairāk nekā 70 valstīs. Tas ir parasts propagandas veids valstīs ar autoritāriem režīmiem, un tas kļūst par veidu, kā veikt politisko kampaņu.
Mākslīgie personāži ir propagandas nākotne. Un, lai arī tie var būt neefektīvi, nododot diskusiju pie noteikta saucēja, viņi var viegli to pilnībā izsmelt.
BRUCE SCHNEIER ir pētnieks un lektors Hārvarda Kenedija skolā.