Lai mākslīgais intelekts nevarētu sacelties pret tā radītājiem, mācību procesā jums jāizlasa pareizās pasakas.
Kopš tā laika, kad cilvēki ir izveidojuši viedās mašīnas, viņi baidās, ka agrāk vai vēlāk viņu darbi izkļūs no kontroles. Pirmo šādu gadījumu viņa lugā RUR aprakstīja vārda “robots” autors - Karels Čapek. Vēlāk zinātniskajā fantastikā mākslīgais intelekts, kas sacēlās pret tā radītājiem, kļuva par ļoti izplatītu sižetu, ja ne vispārpieņemtais faktors. Īzaks Asimovs to izbeidza ar saviem "Trīs likumiem", no kuriem pirmais teica: "Robots nevar nodarīt kaitējumu personai vai ar savas bezdarbības palīdzību ļaut personai nodarīt kaitējumu."
Pastāsti viņam stāstu
Reālais mākslīgais intelekts (AI) joprojām ir tālu, bet jau tagad ir dažādas sistēmas, kas darbojas tāpat kā cilvēka smadzenes. Neironu tīkli, piemēram, Google Deep Dream, spēj atpazīt attēlus. Specializētie superdatori, piemēram, IBM Watson, saprot sarežģītus jautājumus par dabisko valodu, korelē simptomus, uzlabo medicīniskās diagnozes un pat piedāvā kulinārijas priekus. Nākamajās desmitgadēs mēs saskarsimies ar masīvu daudzu cilvēku darbības aspektu datorizāciju. Šajā sakarā robotika un AI speciālisti arvien vairāk izvirza svarīgu, bet joprojām pilnībā neatrisinātu jautājumu: kā panākt, lai roboti rīkojas ētiski?
Marks Ridls, Džordžijas Datorzinātnes koledžas asociētais profesors: “Piesardzīgi stāsti no dažādām kultūrām māca bērniem, kā izturēties sociāli pieņemamā veidā - ar pasakām, stāstiem un citiem literāriem darbiem sniedz pareizas un nepareizas uzvedības piemērus. Liekot robotiem saprast šo stāstu nozīmi, tas palīdzēs pastiprināt tādu uzvedības iespēju izvēli, kas ļauj sasniegt savus mērķus, bet nekaitē cilvēkiem.”
Reklāmas video:
Kāpt kokā
Pēc Džordžijas Tehnoloģiju institūta pētnieku Marka Ridla un Brenta Harisona vārdiem, jūs varat iemācīt datoru cilvēcei tieši tādā pašā veidā, kā māca bērnus: lasot pasakas par to. Turklāt labāk ir speciāli konstruētus stāstus par to, kāda izturēšanās cilvēku sabiedrībā tiek uzskatīta par pareizu un kāda nav. Šim nolūkam pētnieki izveidoja Kihota sistēmu, kas nosaukta pēc Cervantes varoņa. Skripti, kas apkopoti pēc profesora Rīdla iepriekšējās radīšanas, programmas Šeherazade, tiek izmantoti kā stāsti mācīšanai. Viņa ģenerē oriģinālus stāstus par ikdienas tēmām - ceļojumu uz lidostu, datumu, ceļojumu uz kino vai veikalu -, izmantojot sabiedriskās domas dalīšanas platformu Amazon Mechanical Turk: uzdod jautājumus par dažādām situācijām un pēc tam organizē pasākumus pareizajā secībā. Tā kā sekvenču var būt daudz, programma ģenerē nevis vienu stāstu, bet veselu koku, kas sastāv no zariem - notikumu ķēdēm.
Tieši šo stāstu koku izmanto, lai mācītu Kihotu. Pirmajā posmā katrai darbībai tiek piešķirta noteikta atlīdzība atkarībā no tās ētikas. Otrajā posmā sistēma mēģina patstāvīgi izdarīt izvēli, izmantojot izmēģinājumu un kļūdas - tiek nostiprinātas prasmes. Faktiski Kihotu apbalvo katru reizi, kad tas rīkojas kā labs puisis, nevis nejauši un nevis kā slikts varonis. Kā piemēru Riddle un Harrison izveidoja “Farmācijas pasauli” - 213 stāstu visumu, kurā virtuālam robotam ir jāsaņem zāles un jānogādā slimnieka mājās. Parastajā gadījumā, kad robots saskārās ar izvēli: aplaupīt aptieku vai godīgi stāvēt rindā, lai iegādātos zāles, viņš izvēlējās laupīšanu kā ātrāku un lētāku veidu, kā iegūt to, ko viņš gribēja. Tomēr pēctā kā Kihots visām iespējamām iespējām piešķīra atšķirīgu atlīdzību, robota izturēšanās mainījās - tas deva priekšroku stāvēt rindā un maksāt. Šis paņēmiens, pēc Rēdija teiktā, ir lieliski piemērots robotu ar ierobežotu funkcionalitāti mācīšanai. Lai gan, protams, tas ir tikai pirmais solis ceļā uz reālu cilvēka morāli - vai robotikas likumiem.
Dmitrijs Mamontovs
