Ārpus loga ir 2022. gads. Jūs pats braucat ar automašīnu, kā parasti, caur pilsētu. Automašīna tuvojas apstāšanās zīmei, kurai tā ir tikusi garām daudzkārt, taču šoreiz tā neapstājas priekšā. Jums šī pieturas zīme ir tāda pati kā pārējām. Bet automašīnai tas ir pilnīgi atšķirīgs. Dažas minūtes agrāk, nevienu nebrīdinot, uzbrucējs uz zīmes bija ielīmējis nelielu plāksnīti, kas nav redzama cilvēka acij, bet kuru tehnoloģiju nevar nepamanīt. Tas ir, niecīga uzlīme uz zīmes apstājās stop zīmē par kaut ko pilnīgi atšķirīgu no apstāšanās zīmes.
Tas viss var šķist neticami. Bet pieaugošā pētījumu joma pierāda, ka mākslīgais intelekts var pievilināt kaut ko līdzīgu, ja tajā tiek ieraudzīta kāda sīka detaļa, kas cilvēkiem ir pilnīgi neredzama. Tā kā mašīnmācīšanās algoritmi arvien vairāk parādās uz mūsu ceļiem, mūsu finansēm, veselības aprūpes sistēmu, datorzinātnieki cer uzzināt vairāk par to, kā pasargāt viņus no šādiem uzbrukumiem - pirms kāds tos patiešām mēģina apmānīt.
“Tas rada arvien lielākas bažas mašīnmācībā un AI sabiedrībā, jo īpaši tāpēc, ka šie algoritmi tiek izmantoti arvien vairāk,” saka Daniels Lode, Oregonas Universitātes Datoru un informācijas zinātnes katedras docents. “Ja surogātpasts nonāk cauri vai tiek bloķēts ar vairākiem e-pastiem, tas nav pasaules gals. Bet, ja paļaujaties uz redzamības sistēmu pašbraucošā automašīnā, kas mašīnai norāda, kā braukt, neko netraucējot, likmes ir daudz augstākas.”
Neatkarīgi no tā, vai mašīna sabojājas vai tiek uzlauzta, cietīs mašīnmācīšanās algoritmi, kas "redz" pasauli. Un tā līdz mašīnai panda izskatās kā lente, un skolas autobuss izskatās kā strauss.
Vienā eksperimentā zinātnieki no Francijas un Šveices parādīja, kā šādi traucējumi var likt datoram maldināt vāveres pelēko lapsu un kafijas kannu papagailim.
Kā tas ir iespējams? Padomājiet par to, kā jūsu bērns mācās atpazīt ciparus. Aplūkojot simbolus pa vienam, bērns sāk pamanīt dažas kopīgas pazīmes: daži ir garāki un slaidāki, sešās un deviņās ir viena liela cilpa, bet astotajās ir divas utt. Tiklīdz viņi redz pietiekami daudz piemēru, viņi var ātri atpazīt jaunus numurus kā četrrāpus, astoņpadsmit vai trīskāršos - pat ja, pateicoties fontam vai rokrakstam, tie neizskatās precīzi kā jebkurš cits četrpadsmit, astoņnieks vai trīskāršais elements, kāds viņiem jebkad ir. redzēts iepriekš.
Mašīnmācīšanās algoritmi iemācās lasīt pasauli, izmantojot nedaudz līdzīgu procesu. Zinātnieki baro datoru simtiem vai tūkstošiem (parasti marķētu) piemēru tam, ko viņi vēlētos atrast datorā. Kad mašīna izsvītro datus - tas ir cipars, tas nav, tas ir cipars, tas nav - tas sāk pamanīt pazīmes, kas izraisa atbildi. Drīz viņa var apskatīties attēlu un pateikt: "Tas ir pieci!" ar lielu precizitāti.
Reklāmas video:
Tādējādi gan cilvēku bērni, gan datori var iemācīties atpazīt plašu objektu klāstu, sākot no numuriem līdz kaķiem, no laivām līdz atsevišķām cilvēku sejām.
Bet atšķirībā no cilvēka bērna, dators nepievērš uzmanību augsta līmeņa detaļām - piemēram, kaķu pūkainajām ausīm vai četrinieka atšķirīgajai leņķiskajai formai. Viņš neredz visu attēlu.
Tā vietā tiek apskatīti atsevišķi attēla pikseļi - ātrākais veids, kā atdalīt objektus. Ja lielākajai daļai vienību noteiktā punktā ir melns pikselis un citos punktos daži balti pikseļi, mašīna ļoti ātri iemācīsies tos noteikt no dažiem pikseļiem.
Tagad atpakaļ pie pieturas zīmes. Neuzmanīgi labojot attēla pikseļus - eksperti šādus traucējumus sauc par “traucējumiem” -, jūs varat mānīt datoru, domājot, ka faktiski nav stop zīmes.
Līdzīgi pētījumi no Vaiomingas universitātes un Kornela universitātes Evolūcijas mākslīgā intelekta laboratorijas ir radījuši diezgan daudz mākslīgā intelekta optisko ilūziju. Šie psihedēliskie abstraktu rakstu un krāsu attēli cilvēkiem neko neatšķiras, bet dators tos ātri atpazīst kā čūskas vai šautenes. Tas liek domāt, kā AI var kaut ko apskatīt un neredzēt objektu vai tā vietā redzēt kaut ko citu.
Šis vājums ir raksturīgs visu veidu mašīnmācīšanās algoritmiem. “Varētu gaidīt, ka katram algoritmam ir caurums bruņās,” saka Jevgeņijs Vorobečiks, Vanderbiltas universitātes datorzinātņu un skaitļošanas tehnikas profesors. "Mēs dzīvojam ļoti sarežģītā daudzdimensionālā pasaulē, un algoritmi pēc savas būtības ietekmē tikai nelielu tās daļu."
Zvirbulis ir "ārkārtīgi pārliecināts", ka gadījumā, ja šīs ievainojamības pastāv, kāds izdomās, kā tās izmantot. Droši vien kāds to jau ir izdarījis.
Apsveriet surogātpasta filtrus, automatizētas programmas, kas filtrē visus neērtos e-pastus. Surogātpasta izplatītāji var mēģināt apiet šo barjeru, mainot vārdu pareizrakstību (Viagra vietā - vi @ gra) vai pievienojot “labo vārdu” sarakstu, kas parasti atrodams normālos burtos: piemēram, “aha”, “es”, “priecīgs”. Tikmēr surogātpasta izplatītāji var mēģināt noņemt vārdus, kas bieži parādās surogātpastā, piemēram, “mobilais” vai “uzvarēt”.
Kur scammers var nokļūt vienā dienā? Pašpiedziņas automašīna, kuru maldinājusi pieturas zīmes, ir klasisks scenārijs, kuru pārdomāja nozares eksperti. Papildu dati var palīdzēt pornogrāfijai izslīdēt caur drošiem filtriem. Citi var mēģināt palielināt pārbaužu skaitu. Hakeri var iekniebt ļaunprātīgas programmatūras kodu, lai izvairītos no tiesībaizsardzības.
Uzbrucēji var izdomāt, kā izveidot trūkstošos datus, ja viņi saņem mašīnmācīšanās algoritma kopiju, kuru viņi vēlas pievīlēt. Bet tam nav jābūt, lai izietu cauri algoritmam. To var vienkārši salauzt ar brutālu spēku, metot tajā nedaudz atšķirīgas e-pasta versijas vai attēlus, līdz tie pāriet. Laika gaitā to pat varēja izmantot pilnīgi jaunam modelim, kas zina, ko labie puiši meklē un kādus datus jāuzrāda, lai viņus apmānītu.
“Cilvēki ir manipulējuši ar mašīnmācīšanās sistēmām kopš to pirmās ieviešanas,” saka Pensilvānijas universitātes datorzinātņu un inženierzinātņu profesors Patriks Makdeilens. "Ja cilvēki izmanto šīs metodes, mēs, iespējams, pat par to nezinām."
Šīs metodes var izmantot ne tikai krāpnieki - cilvēki var paslēpties no mūsdienu tehnoloģiju rentgena acīm.
"Ja jūs esat kaut kāds politisks disidents represīvā režīmā un vēlaties notikumus vadīt bez izlūkdienestu zināšanām, jums, iespējams, būs jāizvairās no automātiskām novērošanas metodēm, kas balstītas uz mašīnmācīšanos," saka Lode.
Vienā projektā, kas tika publicēts oktobrī, Kārnegija Melona universitātes pētnieki izveidoja brilles, kas var smalki maldināt sejas atpazīšanas sistēmu, liekot datoram kļūdaini aktrisei Reesei Veršpoonai par Raselu Krovu. Tas izklausās smieklīgi, taču šāda tehnoloģija varētu noderēt ikvienam, kurš izmisis, lai izvairītos no varas cenzūras.
Ko darīt ar visu šo? "Vienīgais veids, kā no tā pilnībā izvairīties, ir izveidot perfektu modeli, kas vienmēr būs pareizs," saka Lode. Pat ja mēs varētu radīt mākslīgo intelektu, kas visādā ziņā pārspēj cilvēkus, pasaule joprojām var paslīdēt cūku neparedzētā vietā.
Mašīnmācīšanās algoritmus parasti vērtē pēc to precizitātes. Programma, kas atpazīst krēslus 99% laika, nepārprotami būs labāka nekā tā, kas atpazīst 6 krēslus no 10. Bet daži eksperti iesaka citu veidu, kā novērtēt algoritma spēju tikt galā ar uzbrukumu: jo grūtāk, jo labāk.
Cits risinājums varētu būt ekspertu spēja noteikt programmu tempu. Izveidojiet pats savus uzbrukumu piemērus laboratorijā, pamatojoties uz noziedznieku iespējām, pēc jūsu domām, un pēc tam parādiet viņiem mašīnmācīšanās algoritmu. Tas var palīdzēt tam kļūt elastīgākam laika gaitā - protams, ar nosacījumu, ka testa uzbrukumi ir tāda veida, kas tiks pārbaudīti reālajā pasaulē.
“Mašīnmācīšanās sistēmas ir domāšanas līdzeklis. Mums jābūt saprātīgiem un racionāliem attiecībā uz to, ko mēs viņiem dodam, un to, ko viņi mums saka,”sacīja Makdeniēls. "Mums nevajadzētu pret viņiem izturēties kā pret nevainojamiem patiesības orāļiem."
ILYA KHEL
