Masačūsetsas Tehnoloģiju institūta (MIT) pētnieki ir izstrādājuši mākslīgā intelekta (AI) teksta analīzes viltības paņēmienu, ziņo Wired 23. februāris.
Pētnieki ir pamanījuši, ka nelielas frāzes izmaiņas, kas saprotamas personai, var maldināt AI. Viņi izstrādāja algoritmu, lai aizstātu vārdus ar sinonīmiem un viltotu AI atpazīšanas tekstu. Nianse ir tāda, ka pats uzbrūkošais algoritms izmanto AI, lai atlasītu sinonīmus.
Piemēram, frāze "Personāži, kas ierauti neiespējami izdomātās situācijās, ir pilnībā atsvešināti no realitātes." ("Personāži, kas spēlēti neticami izdomātās situācijās, ir pilnībā ārpus saskares ar realitāti"), kas ir negatīvs filmas apskats.
Ja vārdus tajā aizstājam ar sinonīmiem, tad frāze “Rakstzīmes, kas nodibinātas neiespējami inženierijas apstākļos, ir pilnībā atsvešinātas no realitātes” (“Neticami prasmīgos apstākļos spēlētie personāži ir pilnībā šķirti no realitātes”), tad AI uzskata pārskatu par pozitīvu.
Var maldināt arī citus AI sistēmu veidus; šajā gadījumā ievainojamības galvenokārt tika demonstrētas attēlu un runas atpazīšanas sistēmās.
Pētnieki atzīmēja, ka šādi smalki datu kropļojumi var maldināt AI un tikt izmantoti uzbrukumiem sistēmām, kas kļūst nozīmīgs, kad AI izplatās finanšu, veselības aprūpes un citās jomās.