Iedomājieties, ka kādu dienu kāds brīnumbērns izgudrotu tehnoloģiju, kas ļautu cilvēkiem vai materiāliem priekšmetiem iziet cauri sienām, un ievietotu internetā instrukcijas, kā lēti uzbūvēt šādu brīnummašīnu no plaši pieejamiem mājsaimniecības materiāliem. Kā pasaule mainītos?
Iespējams, ka daudzas nozares kļūs ievērojami produktīvākas. Spēja staigāt pa sienām, nevis durvju izmantošana ļautu cilvēkiem vieglāk pārvietoties birojos, pārvietot preces noliktavās un veikt neskaitāmus ikdienas mājsaimniecības darbus. Tomēr negatīvās sekas varētu atsvērt pozitīvās. Vērtīgu lietu turēšana slēdzenē zaudētu visu nozīmi. Ikviens varēja viegli iekļūt noliktavā, nokļūt bankas seifā vai mājā.
Lielākā daļa no metodēm, kuras mēs izmantojam, lai aizsargātu privātīpašumu, vienā vai otrā veidā ir saistītas ar sienām, tāpēc visas no tām būtu bezjēdzīgas vienas nakts laikā. Zagļi rīkotos nesodīti, līdz sabiedrība izdomā alternatīvus veidus, kā novērst šādus noziegumus. Šādas notikumu attīstības rezultāts varētu būt ekonomisks sabrukums vai sociālais haoss.
Iepriekšminētais ilustrē vispārēju principu: tehnoloģiskie jauninājumi ne vienmēr sabiedrībai ir izdevīgi, vismaz īstermiņā. Tehnoloģijas spēj radīt negatīvas ārējas, ārējas iedarbības. Šis ekonomiskais termins nozīmē kaitējumu, kas nodarīts trešām personām vai pusēm. Ja šie negatīvie ārējie efekti atsver pašas tehnoloģijas lietderību, izgudrojums faktiski vismaz kādu laiku pasauli pasliktina, nevis uzlabo.
Mašīnmācība, it īpaši variācija, kas pazīstama kā dziļa mācīšanās, neapšaubāmi ir karstākais tehnoloģiskais sasniegums uz planētas. Tas dod datoriem iespēju veikt daudzus uzdevumus, ko iepriekš varēja veikt tikai cilvēki: atpazīt attēlus, vadīt automašīnas, tirgot akciju tirgu un daudz ko citu. Tas dažiem cilvēkiem ir radījis satraukumu, ka mašīnmācīšanās var padarīt cilvēku nevajadzīgu un nederīgu darba vietā. Un tas faktiski ir iespējams, taču mašīnmācīšanās rada daudz nopietnākas briesmas, kas līdz šim nav saņēmušas pietiekamu uzmanību. Lieta ir tāda, ka, ja mašīnas spēj mācīties, tad tās var iemācīties arī melot.
Mūsdienās cilvēki var viltot tādus attēlus kā fotogrāfijas, taču tas ir darbietilpīgs un sarežģīts process. Balss vai video attēla viltošana parasti pārsniedz parastā cilvēka iespējas. Bet drīz, pateicoties mašīnmācībai, visticamāk, būs iespējams viegli izveidot ticamus viltus video attēlus ar kādas personas seju un radīt iespaidu, ka persona runā ar savu balsi. Jau pastāv lūpu kustību sinhronizācijas tehnoloģija, kas burtiski var ielikt jebkurus vārdus cilvēka mutē. Tas ir tikai aisberga virsotne. Drīz 12 gadus veci bērni varēs izveidot fotoreālistiskus un ticami izklausāmus viltus politiķu, lielo uzņēmēju, viņu radinieku vai draugu attēlus savās guļamistabās, sakot visu, ko vien var iedomāties.
Tas pats par sevi izraisa zināmu acīmredzamu ļaunprātīgu izmantošanu. Politiskie mānījumi, tā sauktās "viltus ziņas" vai "informācijas pildīšana", izplatīsies kā kūlas ugunsgrēki. Protams, maldināšana tiks atklāta pēc iespējas ātrāk - neviena digitālā tehnoloģija nevar būt tik laba, lai cita tehnoloģija nespētu atklāt viltojumu. Bet tas notiks tikai pēc tam, kad kaitīgā ideja jau ir iekļuvusi to cilvēku prātos, kuri tai tic. Iedomājieties pilnīgi safabricētu viltotu video, kurā prezidenta amata kandidāti kliedz rasu cieņas vai atzīstas vardarbīgos noziegumos.
Tomēr tas ir tikai sākums. Iedomājieties potenciālu manipulēt ar akciju tirgu. Pieņemsim, ka kāds izplatīja viltotu video, kurā Tesla izpilddirektors Elons Musks atzīst, ka Tesla automašīnas nav drošas. Video tiks izplatīts internetā, un uzņēmuma akcijas sabruks. Drīz pēc viltojuma atklāšanas to cena atgūsies, tomēr šajā laikā manipulatori varēs nopelnīt milzīgu naudu, spēlējot, lai samazinātu Tesla akcijas.
Reklāmas video:
Un tas ir tālu no ekstrēmākā scenārija. Iedomājieties, ka šāds jokdaris izveido reālistisku viltotu prezidenta Donalda Trampa video, kurā paziņo, ka streiks pret Ziemeļkorejas mērķiem ir nenovēršams, un pēc tam ievietojiet šo video tur, kur to var redzēt ziemeļkorejieši. Cik liela ir iespēja, ka Ziemeļkorejas vadība sapratīs, ka tas ir viltojums, pirms viņiem jāizlemj sākt karu?
Tie, kas mēdz uzskatīt šādus ekstrēmus scenārijus par trauksmes cēloni, pamatoti norāda, ka var atklāt jebkuru viltojumu, jo to noteikšanai tiks izmantotas tās pašas mašīnmācīšanās tehnoloģijas, kas radīšanai. Bet tas nenozīmē, ka mums nedraud nonākt pasaulē, kas ir piepildīta ar visuresošiem viltojumiem. Kad viltojumi kļūs pietiekami ticami, ka cilvēki paši tos nevar atklāt, mēs uz visiem laikiem zaudēsim pārliecību par to, ko redzam un dzirdam. Tā vietā, lai uzticētos savām izjūtām, mēs būsim spiesti paļauties uz algoritmiem, ko izmanto, lai atklātu viltojumus un autentificētu informāciju. Evolūcijas laikā mēs esam iemācījušies uzticēties savām izjūtām,un šo funkciju pārsūtīšana uz mašīnu intelektu lielākajai daļai cilvēku var būt pārāk pēkšņa.
Tas varētu būt sliktas ziņas ekonomikai. Biznesa un tirdzniecības tīkli ir balstīti uz uzticēšanos un komunikāciju. Ja mašīnmācīšanās kādu dienu sabiedriskajā informācijas sfērā iemetīs nebeidzamu ilūziju un viltojumu viesuļvētru, sabruks evolūcijas radītās sienas, lai atšķirtu realitāti no fikcijas. Šajā gadījumā uzticības līmenis sabiedrībai var strauji pazemināties, kas nepalēnināsies, negatīvi ietekmējot cilvēces globālo labklājību.
Šī iemesla dēļ valdībai, iespējams, būtu jāveic daži pasākumi, lai nodrošinātu, ka par digitālo viltošanu tiek stingri sodīts. Diemžēl diez vai pašreizējā administrācija spers šādu soli no mīlestības pret šauru partiju ziņām. Un tādas valdības kā Krievija, visticamāk, vēl mazāk sliecas ierobežot šādu praksi. Galu galā sliktas pārvaldības apvienošana ar spēcīgām jaunām tehnoloģijām cilvēku sabiedrībai rada daudz lielākus draudus nekā pašas tehnoloģijas.
Autors Noa Smita - Bloomberg News Columnist
Igors Abramovs