Maskavas Fizikas un tehnoloģijas institūta neironu sistēmu un padziļinātas mācīšanās laboratorijas vadītājs Mihails Burcevs stāsta par to, vai ir iespējams izveidot pilnvērtīgu cilvēka prāta datora analogu, un paskaidro, kāpēc zinātnieki to izstrādā un kā to var pasargāt no troļļu uzbrukumiem.
Jūlija beigās MIPT zinātnieki uzsāka starptautisku konkursu par “runātajām” mākslīgā intelekta sistēmām, kas spēj atdarināt dzīvu cilvēku, un aicināja visus, kas vēlējās ar viņiem sazināties un novērtēt tā rezultātā iegūtos dialogus. Izmantojot brīvprātīgo palīdzību, zinātnieki nākamajos trīs gados cer izveidot balss palīgu, kas varētu sazināties ar cilvēku gandrīz tikpat labi kā ar dzīvo sarunu biedru.
Sacensības kopīgi organizēja zinātnieki no Monreālas, Makgila un Karnegijas Melones universitātēm. Varat piedalīties dialoga sistēmu testēšanā, noklikšķinot uz saites.
Patiesībā šīs idejas netika izgudrotas mūsdienās - mūsdienu balss palīgi no Google, Apple, Amazon un citiem IT uzņēmumiem sakņojas dziļā pagātnē, pašā datoru ēras sākumā. Pirmā šāda sarunu mašīna ar nosaukumu ELIZA tika izveidota 1966. gadā un faktiski bija joks, parodija par psihoterapeitu, kurš pacientam sniedz bezjēdzīgus padomus.
Turpmākajos gados un gadu desmitos programmētāji izveidoja arvien sarežģītākas un "dzīvākas" sistēmas saziņai ar datoru. Vismodernākās no šīm sistēmām var atpazīt īpašnieka noskaņojumu, atcerēties viņa vecās vēlmes un vēlmes un atrisināt dažus ikdienas un mājsaimniecības uzdevumus, pasūtot pārtiku vai preces veikalā vai spēlējot operatora lomu zvanu centros.
Mihail, kopš ELIZA izveidošanas ir pagājuši gandrīz 50 gadi. Kas šajā laikā kopumā ir mainījies un principā var sagaidīt, ka nākotnē zinātnieki spēs izveidot tādu sistēmu, kuru cilvēki nevarētu atšķirt no dzīvā sarunu biedra?
- Es domāju, ka tuvākajā nākotnē būs iespējams izveidot runas izlūkošanas tehnoloģiju, kas ļaus mašīnai tuvoties cilvēku dialoga līmenim. Mēs strādājam pie šī uzdevuma iPavlov projekta ietvaros, kas ir daļa no Nacionālās tehnoloģiju iniciatīvas.
Lietotājam vajadzētu būt tikpat ērtai saziņai ar automātisko dialoga sistēmu kā ar dzīvo cilvēku. Tas ļaus izveidot informācijas sistēmas, kas spēj labāk saprast, ko cilvēks no tām vēlas, un atbildēt viņam dabiskā valodā.
Reklāmas video:
Sarunu izlūkošanu var izmantot, lai automatizētu daudzas balss un teksta saskarnes, ieskaitot tādus kurjerus kā Telegram. Kurjeri, kā rāda statistika, mūsdienās tiek izmantoti aktīvāk nekā sociālie tīkli, un ļoti liels informācijas daudzums iet caur teksta komunikācijas kanāliem.
Piemēram, tos ir ērti izmantot transportā, un interaktīvā asistenta - tērzēšanas robota - pievienošana ļaus lietotājiem ne tikai sazināties savā starpā, bet arī saņemt nepieciešamo informāciju, veikt pirkumus un veikt daudzas citas lietas. Tas novedīs pie tā, ka tūlītējie kurjeri un balss palīgi pakāpeniski aizstās parastās tīmekļa lapas un lietojumprogrammas, kā arī spēlēs tiešsaistes konsultantus un zvanu centra speciālistus.
Vai Krievija, ņemot vērā Apple, Google un Amazon klātbūtni šajā tirgū, var šeit konkurēt? Vai krievu valodā ir kāda specifika, kas varētu kavēt potenciālos Krievijas uzņēmumu un zinātnieku konkurentus?
- Protams, krievu valoda ir sarežģītāka, un dažas no metodēm, kas mūsdienās tiek izmantotas, attīstot dialoga sistēmas un balss palīgus pasaulē, nevar izmantot bez izsmalcināšanas un būtiskām izmaiņām, kas ļautu viņiem strādāt ar bagātīgāku gramatiku.
No otras puses, pamata algoritmus, kas tiek izmantoti Siri, Cortana, Google un citu digitālo asistentu darbā, neviens neslēpj - tie mums ir pieejami vismaz pētījumu un koncepciju līmenī. Pētnieciskie darbi un programmas kods bieži ir publiski pieejami - principā to var pielāgot krievu valodai.
Mihails Burcevs, MIPT Neironu sistēmu un dziļas mācīšanās laboratorijas vadītājs
Turklāt nav daudz mēģinājumu to īstenot "rūpnieciskā" līmenī. Vienīgo lielo projektu vada Yandex, kas izstrādā palīgu Alises projektam.
Mūsu projektā mēs cenšamies izveidot rīkus, kas vienkāršotu un paātrinātu šādu "rūpniecisku" dialoga sistēmu izveidi, kas paredzētas dažādiem mērķiem. Bet attīstīt universālu balss palīgu, kas spēj atrisināt jebkuru problēmu, ir ārkārtīgi grūts uzdevums pat lieliem uzņēmumiem.
No otras puses, automatizēt mazo uzņēmumu, kas izmantos specializētu dialoga sistēmu, ir daudz vieglāk īstenot. Mēs ceram, ka mūsu izveidotie rīki palīdzēs uzņēmējiem un programmētājiem pietiekami ātri atrisināt šādas problēmas, bez dziļām zināšanām un īpaši nepieliekot pūles.
Daudzi zinātnieki, piemēram, Rodžers Penrouzs vai Stjuarts Hamerofs, uzskata, ka cilvēka prātam ir kvantu raksturs un principā nav iespējams uzbūvēt mašīnas analogu. Vai jūs viņiem piekrītat vai nē?
- Manuprāt, ja paskatās uz to, ko mēs šodien zinām par smadzeņu struktūru un cilvēka apziņas būtību, tad mums līdz šim nav pamata šķēršļu, lai reproducētu to darbu, izmantojot datoru.
Penrose un Hameroff ir hipotēžu kopums, kas, pēc viņu domām, izskaidro, kāpēc to nevar izdarīt. Līdz šim neirofiziologi nav atraduši nevienu eksperimentālu pierādījumu tam, ka šīs hipotēzes ir pareizas, un mūsu pašreizējā zināšanu bāze runā par pretējo.
Vēl viena lieta ir tā, ka laika periods, kad šāda mašīna tiks izveidota, joprojām nav pilnībā noteikts. Man šķiet, ka tas var notikt vismaz pēc 50 vai pat 100 gadiem.
Vai tam būs nepieciešamas principiāli jaunas tehnoloģijas un datori, kuru darbības principi ir tuvāki neironiem nekā digitālajai loģikai?
- Ja mēs uzskatām, ka cilvēka inteliģence balstās uz kaut kādu skaitļošanas veidu, tad jebkura universāla skaitļošanas sistēma, kas ir ekvivalenta Turinga mašīnai, teorētiski var līdzināties cilvēka smadzeņu darbam.
Cita lieta, ka šī mašīna var darboties ļoti lēni, kas no praktiskā viedokļa padarīs to nederīgu. Šodien ir grūti uzminēt, kādas tehnoloģijas datoru veidošanai mums šeit ir vajadzīgas.
Kādus citus uzdevumus digitālie asistenti var atrisināt, izņemot tos, ko viņi dara šodien? Vai tos var izmantot, lai atšifrētu tekstus mirušās valodās vai šifrējumus, piemēram, Voynichas rokrakstu?
- Šobrīd, cik es zinu, neviens nav mēģinājis izmantot neironu tīklus, lai atklātu mirušo valodu noslēpumus un atšifrētu tekstus, bet man šķiet, ka tuvākajā laikā kāds mēģinās to izdarīt. Mēs savukārt vēl neesam interesējušies par šādām lietām.
"Palīgs" patiesībā ir ļoti plašs jēdziens, kas var ietvert daudzas ļoti dažādas lietas. Ja mēs ņemam, piemēram, to pašu ELIZA, virtuālo “psihoterapeitu”, rodas jautājums: vai viņa ir palīga, vai nē?
Dialoga sistēmas var izmantot ne tikai praktisku problēmu risināšanai, bet arī cilvēku izklaidēšanai vai garastāvokļa uzturēšanai. Jautājums šeit faktiski ir tas, ko mēs saprotam ar personīgā asistenta jēdzienu un cik plašs vai šaurs tas ir. Plašākā nozīmē šādas sistēmas var atrisināt visus ar komunikāciju saistītos jautājumus, kaut arī ar dažādu panākumu pakāpi.
Sarunu saskarnes papildus tiešai saziņai ar cilvēkiem var izmantot arī, lai iemācītu mašīnām ātri atrast kopīgu valodu un pārsūtīt informāciju no vienas sistēmas uz otru.
Tas ļaus apiet saikņu izveidošanas un datu pārsūtīšanas problēmu starp esošajiem un izveidotajiem pakalpojumiem, jo tiem nebūs jāzina viens otra API specifikācijas, lai sazinātos savā starpā. Viņi varēs apmainīties ar datiem, izmantojot dabiskās valodas vai savu mākslīgo valodu, ko šādiem nolūkiem izdomās mašīnas vai cilvēki.
Aptuveni runājot, pat sistēmas, kas "nav svešas" viena otrai, varēs vienoties, izmantojot tām kopēju saziņas valodu, nevis noteiktus informācijas apmaiņas noteikumus. Ja viņi kaut ko nesaprot, viņi var jautāt viens otram par nezināmām lietām, kas padarīs visu infrastruktūru pakalpojumu un pakalpojumu sniegšanai internetā neticami elastīgu un ļaus tai ātri integrēt jaunus pakalpojumus bez cilvēku palīdzības.
Šajā sakarā rodas jautājums - kam būtu jāatbild par "psihoterapeita" ELIZA, datoru ārstu un citu balss palīgu ieteikumiem, kuru padomi var ļoti ietekmēt cilvēka labsajūtu un veselību?
- Tas ir ļoti grūts jautājums, jo šodien nav skaidru kritēriju, kas mums palīdzētu saprast, kā rīkoties šādos gadījumos. Daudzi interneta pakalpojumi un pakalpojumi, kas lietotājiem izsniedz ieteikumus, sāk darboties tikai pēc tam, kad lietotājs piekrīt pakalpojumu sniegšanas noteikumiem un sekām, kas var rasties, strādājot ar to.
Man šķiet, ka tērzēšanas robotu un balss palīgu darbu - vismaz viņu pastāvēšanas sākumposmā - varētu regulēt līdzīgi. Piemēram, ja robots vienkārši meklē un analizē informāciju, rīkojoties tāpat kā meklētājprogramma, tam var piemērot tos pašus noteikumus. Gadījumā, ja viņš sniegs medicīnisku vai juridisku padomu, atbildības formai jābūt atšķirīgai.
Piemēram, šādām sistēmām būtu skaidri jāinformē lietotājs par sekām, ko rada izvēle starp mākslīgo intelektu un parasto ārstu. Cilvēkam būs izvēle - uzticēties ārstam, kurš, piemēram, kļūdīsies 10% gadījumu, vai arī derēt uz mašīnu, kas 3% gadījumu sniedz nepareizu atbildi. Pirmajā gadījumā par kļūdu būs atbildīgs ārsts, bet otrajā - pats lietotājs.
Pagājušajā gadā Microsoft uzsāka tērzēšanas robotiku Tay. AI, kuru tai vajadzēja izslēgt burtiski dienu vēlāk, jo interešu lietotāji pusaudžu meiteni pārvērta par īstu rasisti. Vai ir iespējams aizsargāt šādas dialoga sistēmas no troļļiem un palaidņiem?
- Man šķiet, ka tu vari sevi pasargāt, bet tas, vai ir vērts to darīt, ir atkarīgs no sistēmas mērķa. Ir skaidrs, ka, ja sistēmai nevajadzētu izteikt kādas īpašas piezīmes - rupjš vai ekstrēmistisks, tad mēs varam filtrēt tās atbildes. Šī filtrēšana var notikt vai nu sistēmas apmācības posmā, vai jau atbildes ģenerēšanas laikā.
Starp citu, līdzīgu dialoga kvalitātes novērtēšanas uzdevumu komandas atrisināja DeepHack Turing zinātniskās skolas-hakatona ietvaros, kas pirms dažām nedēļām notika MIPT. Tās dalībnieki izstrādāja algoritmus, kas pēc dialoga norādēm varēja paredzēt, kādu vērtējumu cilvēks sniegs dialoga sistēmai.
Nākamais solis šīs pieejas izstrādē ir tādas programmas izveide, kas novērtētu frāžu pieņemamību vai to avotu uzticamību, kurus izmanto, lai ģenerētu atbildes uz lietotāju jautājumiem. Man šķiet, ka tas palīdzētu atrisināt šo problēmu.