"Mašīnu pieaugums", "Terminators atgriežas" … Liela daļa zinātniskās fantastikas ir balstīta uz faktu, ka datori kļūst tik gudri, ka saprot, ka viņiem labāk izdosies bez cilvēka. Pasakas? Kā meklēt. Līdz 2050. gadam tipisks mājas dators spēs apstrādāt tik daudz informācijas, cik visi cilvēki uz zemes salikti.
Bet 2050. gads ir ar nosacījumu, ka mašīnas attīstīsies pakāpeniski. Tas nedarbojas tā. Mūsu attiecības ar elektronisko pasauli progresē strauji. Reiz - automašīnai bija piestiprināta pele. Reiz - parādījās internets. Reiz - bija viedtālruņi ar planšetdatoriem.
Nākamais sasniegums notiks, kad dators var saprast cilvēkus. Viedtālruņiem jau ir tādas lietotnes kā Siri un Cortana, ar kurām var vienkārši sarunāties. Bet problēma ir tā, lai dators saprastu nevis to, ko mēs sakām, bet gan to, ko mēs domājam! Vienkāršākais piemērs: frāzei “Viņš mani atstāja”, ko teica asaras krāsota sieviete un vīrieša priekšnieks, ir pilnīgi atšķirīgas nozīmes.
Tātad: tiklīdz mašīnas iemācīsies atpazīt cilvēku runas nianses, no vienas puses, mūsu rokas būs nesaistītas burtiskā un pārnestā nozīmē. Es runāju ar datoru, un tas visu izdarīja. No otras puses, vai mēs tuvojamies nevis bīstamai līnijai, noņemot pēdējo barjeru komunikācijā starp cilvēkiem un bez dvēseles dzelzi?
Es jau sen gribēju par to runāt ar slavenu zinātnieku, ABBYY lingvistisko pētījumu direktoru, Krievijas Valsts humanitāro zinātņu universitātes un Maskavas Fizikas un tehnoloģijas institūta skaitļojošās valodniecības nodaļu vadītāju Vladimiru Selegeju. Bet, kad es viņam pateicu savas apokaliptiskās bailes, viņš sarauca pieri.
“Jā, zinātniskā fantastika ir pilna ar tumšām prognozēm par to, kā cilvēku apmācītas mašīnas iztikt bez tā. Bet man nav skaidrs, kāpēc programmās iestrādāto zināšanu apjoma pieaugums provocēs datoru pieņemt lēmumus, neprasot no personas atļauju?
Faktiski problēma nav tā, ka dators iemācīsies iztikt bez cilvēkiem, bet gan tas, ka cilvēki, risinot noteiktas problēmas, vēlēsies iztikt bez sevis. Šeit ir Černobiļa …
Reklāmas video:
Un kāds tam sakars ar Černobiļu?
- Kodolreaktors ir ļoti sarežģīts fiziskais modelis. Liekas, ka ir zināmi visi reaktora vadības parametri, viss notiek saskaņā ar stingriem fizikāliem likumiem, un lēmumu pieņemšanu var pilnībā uzticēt datoram. Bet…
1986. gadā, nedēļu pēc negadījuma, es apmeklēju semināru par mākslīgā intelekta izmantošanu rūpniecībā. Pat tad bija skaidrs, ka, uzticot lēmumu pieņemšanu datoram, mēs esam nopietni apdraudēti. Parasti programmās ir kļūdas. Pat satelītiem ir programmatūras trūkumi.
Tas ir, cilvēks ir ticamāks par datoru, kaut arī viņš "domā" daudz ātrāk?
- Cilvēkam papildus visam citam ir arī motivācija. Viņš risina savas problēmas - izglītību, reprodukciju, karjeru, viņš zina, kā justies …
Bet vai kāds viltīgs programmētājs var uzrakstīt programmu, kas iemācītu agresijas mašīnu …
- Jūs varat mēģināt izgatavot, piemēram, militāru robotu, kurš pats pieņems lēmumus, analizējot to, ko redz un dzird. Un tas būs ļoti bīstami. Bet ne tāpēc, ka robotam pēkšņi radīsies vēlme iznīcināt, kā rakstījuši zinātniskās fantastikas rakstnieki. Bet tāpēc, ka programmētāja kļūda, dažu faktoru nolaidība var izraisīt neparedzamu robota uzvedību.
Bet līdz šim mēs esam ļoti tālu no iespējām izveidot pašmācības programmas, kas spēj radīt pilnīgi jaunas zināšanas. Aptuveni runājot, patstāvīgi pārejiet no reizināšanas tabulas uz spēju atrisināt sarežģītus vienādojumus.
Divdesmitā gadsimta otrajā pusē futūristiskas prognozes zinātnes jomā bija ļoti populāras. Viss par datora intelektu nokļuva pienā. Neviens neprognozēja internetu, neticamo piekļuves brīvību informācijai, mobilajiem tālruņiem. Bet visi runāja par domājošiem datoriem.
Piemēram, 60. gadu beigās mūsu pirmā šaha sistēma KAISA veiksmīgi darbojās pasaules čempionātā starp datoriem. Tika uzskatīts, ka, lai mašīna pārspētu cilvēku, ir jāimitē cilvēka spēles algoritmi. Lai liktu prātu, intelektu, ļoti noslēpumaino intuīciju, kas liek šaha spēlētājam pieņemt pareizos lēmumus.
Mūsdienās dators pārspēj cilvēku. Bet viņam nekad netika mācīta intuīcija. Viņa atmiņā ir ielādēts miljards nospēlētu spēļu, visa spēles pieredze, visi lēmumi, kādus kādreiz ir pieņēmuši šahisti. Un viņi iemācīja to izmantot, izvēloties optimālo spēles plānu, nodrošinot viņiem milzīgu ātrumu iespēju uzskaitīšanas un novērtēšanas ātrumā. Dators pārspēj pasaules čempionus, bet no tā nesagādā nekādu prieku. Viss ir pilnīgi atšķirīgs no cilvēkiem.
Bet jūs esat viens no tiem, kurš vienkārši māca datoram “ieslēgt galvu”
- Mēs tikai cenšamies iemācīt programmām “saprast” tekstus, lai viņi varētu no tiem iegūt informāciju, uzkrāt un vispārināt. Lai cilvēki saņemtu filtrētas zināšanas, kas atlasītas no miljardiem avotu. Tas ir ļoti grūti, jo cilvēks pats ļoti labi nezina, kā ir sakārtotas viņa valodas prasmes, uz kurām balstās viņa izpratne par citiem cilvēkiem.
Tagad ir populāra statistiskā mašīntulkošana. Dators vispār nesaprot, par ko ir tulkojamais teksts, viņš vienkārši zina, kā atrast visiespējamākos mazo fragmentu (dažos vārdos) tulkošanas variantus, analizējot milzīgos cilvēku tulkojumu apjomus, kas glabājas tā atmiņā. Kopumā teksts ir skaidrs. Bet būtu bezrūpīgi pieņemt atbildīgu lēmumu, pamatojoties uz šādu tulkojumu.
Labi, vai dators var tulkot instrukcijas man?
- Instrukcijas? Vai tas ir bīstami?
- Jā vienkāršam ledusskapim!
- Pat uz ledusskapi! Es vēlētos, lai mūsu programmas tulkotu, mēģinot izprast tekstu, izvēloties starp iespējām, kuru pamatā ir zināšanas, un ne tikai tāpēc, ka šī sarakste visbiežāk atrodama mūsu datu bāzē.
Labi, pieņemsim, ka jūs atrisinājāt problēmu un izveidojāt sistēmu, pateicoties kurai datori iemācīsies izprast mūsu runas nianses un pat precīzi tulkot to citā valodā. Un tad cilvēkiem draud jaunas briesmas - nevajadzēs domāt. Nevajadzēs trenēt atmiņu, smadzenes. Nepieciešama informācija - lūdzu, Wikipedia. Jums jārunā ar ārzemnieku - tulkotāju …
- Jo augstāks ir cilvēka intelekta un zināšanu līmenis, jo viņam noderīgāks ir nākamais “viedais palīgs”. Un, jo zemāks, jo vairāk iespēju, šķiet, nemaz nedomā. Datortehnoloģijas noved pie sabiedrības polarizācijas. Aptuveni runājot, kalkulatora parādīšanās neizraisīja matemātiķu deģenerāciju. Bet daži no skolniekiem acīmredzami pieredzēja viņu jau tā zemā spēju līmeņa pazemināšanos.
- Jūs zināt, ka man nopietns izglītības līmeņa pazemināšanās rādītājs ir to cilvēku skaits, kuri analfabētiski raksta vai nespēj izteikt savas domas un jūtas, neizmantojot palīgu
- Jā, cilvēki sāka rakstīt mazāk kompetenti. Vienkārši tāpēc, ka rediģēto tekstu lasīšana ir mazāka un šādu resursu ir daudz vairāk, ja pareizrakstība ir ļoti neskaidra. Vai tas cilvēkus padarīja par stulbiem? Visticamāk ne.
Vai jūs redzat saistību starp to, ka cilvēks analfabētiski pauž savas domas dzimtajā valodā, un faktu, ka viņš ir kļuvis par stulbeni?
“Es tik tālu netiktu. Lai gan tas ir acīmredzams: tā kā bērni sāka lasīt mazāk, dažas problēmas radās ar zināšanu un kultūras nodošanu paaudzēm. Tā ir problēma. Šodien mēs redzam, ka mūsdienu skolnieks ar tādu pašu atzīmju līmeni kā pirms 30 gadiem literatūru zina sliktāk.
Šeit! …
“… Bet, no otras puses, viņš daudz labāk zina daudzas citas lietas, kuras neviens nedomāja, ka tās varētu zināt.
Vai tas ir dabisks process?
- Jā. Turklāt pirmo reizi cilvēces vēsturē zināšanas var nodot nevis no vecākajiem, bet jaunākiem, kā tas ir noticis gadsimtiem ilgi. Notika zināšanu nodošana no jaunākajiem vecākiem, kas iepriekš nepavisam nebija raksturīgs cilvēku kultūrai. Bērns māca tētim vai mammai strādāt ar datoru, izmantojot mobilo tālruni, vecākiem ir dažādu zināšanu avots. Un vēl vairāk bērnu ceļo pa pasauli. Ļoti bieži tie ir ģeogrāfisko un kultūras zināšanu avots.
Klausieties, bet šeit viss sākās ar datoriem. Viņi atbrīvoja cilvēkus pat no nepieciešamības iegaumēt gramatikas pamatnoteikumus
- Tikai 90. gadu sākumā es strādāju komandā, kas izstrādāja vienu no pirmajām krievu valodas pareizrakstības pārbaudes sistēmām. Vai tas bija noderīgi vai kaitīgi? No mana viedokļa ļoti noderīga. Šī sistēma ļāva ātrāk izveidot dokumentu. Un tad viss ir atkarīgs no cilvēka atbildības līmeņa. Kurš teica, ka pēc automašīnas vispār nav jāveic pārbaude? Sistēma tikai palīdz to padarīt daudz efektīvāku.
Bet mēs uzticamies datoram
- Tas nozīmē tikai to, ka persona, kas veidoja programmu, neinformēja jūs par daudzām parādībām, kuras mašīna nevar pārbaudīt. Piemēram, sarunas.
Diemžēl jaunās tehnoloģijas bieži noved pie tradicionālo prasmju zaudēšanas. Esmu veicis remontu dzīvoklī. Es gribēju uzstādīt koka logus, kas tika uzstādīti jau iepriekš. Bet tas izrādījās neiespējami. Visi instalē stikla pakešu logus. Diemžēl cilvēki pārtrauc daudz ko darīt ar rokām. Ko darīt, tā darbojas dzīve. Diemžēl.
Tātad jūs esat konformists?
- Nē. Es uzskatu, ka absolūti kaitīgu lietu veikšana nav laba. Bet, kad jums ir gan ieguvumi, gan zaudējumi, jums jānovērtē riski … Ja jūs gatavojat narkotikas, jūs nedomājat, ka tās lietošanas rezultātā izdzīvos ne tikai labi, bet arī slikti cilvēki.
Mūsu gadījumā vienlaikus ar tehnoloģiju attīstību ir jāiesaistās to cilvēku apmācībā, kuri tos izmanto. Jauno tehnoloģiju negatīvās sekas galvenokārt tiek atspoguļotas tiem, kuri nevienā tehnoloģiskā līmenī nedara savu darbu ļoti labi.
Lietojiet zāles, piemēram. Mēs vēlamies palīdzēt ārstam pieņemt lēmumu, mēs izveidojam datoru ekspertu sistēmu, kuras pamatā ir liela skaita labāko ārstu veiktu ticamu diagnožu analīze. Tas profesionālim dod iespēju pievērsties lielākam zināšanu apjomam, nekā viņam pašam ir. Bet galīgais lēmums ir viņa, nevis datora! Sliktam ārstam viss ir savādāk - viņš uzticēsies tam, ko nevar ticami pārbaudīt. Bet vidēji ar šādu tehnoloģiju parādīšanos man šķiet, ka medicīna joprojām kļūst labāka, nevis sliktāka.
Nu, mēs bijām pārliecināti, ka intelektuālajai sistēmai, kas saprot cilvēku ar datoru, būs vairāk ieguvumu nekā kaitējuma. Bet kad viņa parādīsies?
- Tas ir ļoti grūts uzdevums, kuru nevar uzreiz atrisināt. Nepieciešams iemācīt datorzinātnes par valodu un zināšanām par pasauli, secinājumu metodēm un vērtību salīdzināšanu. Kaut kas, ko mēs zinām, kā to izdarīt tagad, kaut kas prasīs gadus. Piemēram, mums ir vajadzīgi ticami dati par valodas lietošanu, ņemot vērā individuālās un sociālās atšķirības. Un šīs atšķirības ir ļoti būtiskas. Piemēram, mēs izveidojām īpašu projektu, kas veltīts krievu valodas reģionālajām atšķirībām. Apkopojusi vārdnīcu, kurā ir gandrīz 10 tūkstoši vārdu, kas ir norma tikai noteiktu mūsu valsts reģionu iedzīvotājiem
Kas mēs esam?
“Šis ir kopīgs projekts ar nosaukumu krievu pilsētu valodas, kurā iesaistīti ABBYY speciālisti, valodnieki, entuziasti no dažādām Krievijas vietām un krievvalodīgajām valstīm. Mēs analizējām reģionālo plašsaziņas līdzekļu valodu, sociālos tīklus, dekrētus un vietējo pašvaldību lēmumus. Un tā ir tikai neliela daļa zināšanu, kas jāiemāca datoram!
Kāda ir galvenā atšķirība starp jūsu pieeju tulkošanai un sistēmām, kuras, piemēram, izmanto Google?
- Statistikas sistēmas neveido lingvistiskas struktūras. Viņi meklē tulkojumu sakritības maziem fragmentiem no 5–7 vārdiem. Bet valoda ir sakārtota tā, ka ļoti bieži saistītie vārdi atrodas daudz tālāk, un, ja šis savienojums netiek ņemts vērā, rodas kļūdas. Bet ļoti bieži šādas detaļas ir svarīgas tulkošanā, kuru nolaidība var pilnībā mainīt nozīmi. Lai visu ņemtu vērā, analīzes laikā ir jāidentificē visa vārdu lingvistisko savienojumu sistēma, ko sauc par teikuma struktūru. Mēs netulkojam teikumu fragmentus no valodas uz valodu, mēs cenšamies noteikt teikuma semantisko struktūru un pēc tam sintezēt šo struktūru ar citas valodas palīdzību.
Bet šīs semantiskās struktūras tiek izmantotas ne tikai un ne tik daudz mašīntulkošanas nolūkos. Tie ir nepieciešami arī, lai efektīvi atrisinātu inteliģentās meklēšanas un informācijas analīzes problēmas, kas mūsdienās ir svarīgākas ABBYY kā komercuzņēmumam. Piemēram, nesen izlaistie pirmie risinājumi korporatīvajam tirgum ir balstīti uz šīm tehnoloģijām: tie vienkārši ļauj meklēt un analizēt datus milzīgajā informācijas plūsmā, kas tiek glabāta organizācijās.
Un kuru valodu, pēc jūsu domām, ir grūtāk saprast?
- Ir vispārpieņemts, ka grūtākas ir tās valodas, kurās jums jāapgūst vairāk noteikumu. Bet datoru izpratnes gadījumā tas tā nav.
Tas, kas cilvēkam ir grūti, piemēram, bagātīga lēcienu sistēma krievu vai lietuviešu valodā, noteiktos analīzes posmos vienkāršo datora darbību.
Piemēram, ķīniešu valoda ir ļoti sarežģīta, jo tajā nav morfoloģijas un līdz ar to daudzajām neskaidrībām, ar kurām saskaras dators. Tāpēc ķīniešu valodas datoranalīzei ir ļoti svarīgi izmantot zināšanas par pasauli, daudz svarīgāk nekā, piemēram, analizējot valodas ar attīstītu morfoloģiju.
Mums izdevās strādāt ar krievu, vācu, angļu, franču, spāņu, ķīniešu valodu. Valodas analīze ir sadalīta posmos. Dažiem posmiem ir specifiskums, grūtības vienai valodai, citam - otra. Bet būtībā tehnoloģijas, ar kurām mēs strādājam, ir piemērojamas visās valodās.
Jūsuprāt, kad pienāks tā diena, kad mēs varēsim saņemt ātru un saprotamu tulkojumu datorā paralēli mūsu sarunai. Teiksim, ka mēs tagad runājam, un tūlīt saņemsim mūsu sarunas stenogrammu spāņu valodā?
- Tas būs iespējams diezgan drīz. Es nedomāju, ka divu gadu laikā. Bet … Kas ir nepieciešams šīs problēmas risināšanai? Mums jāuzlabo runas analīzes sistēmas. Mēs vēl nevaram veikt spontānu sarunu, atdalīt to no trokšņa un iegūt vēlamo tekstu. Un katru gadu šajā virzienā ir progress.
Bet tik un tā būs arī tādas lietas, kuras mašīna nevar viennozīmīgi interpretēt. Un šeit izpratnes un tulkošanas precizitāte būs atkarīga no zināšanu sistēmas pieejamības par pasauli, no loģiskās secināšanas mehānismiem.
Bet katrā ziņā saglabāsies pilnīgas uzticēšanās briesmas šādai programmai. Maldīgs ir uzskats, ka, teiksim, piecu gadu laikā jūs varat diktēt vēstuli datoram, tā to iztulkos, nosūtīs biznesa partnerim, un viss būs kārtībā. Neviens negarantē, ka mašīna kaut kur nepalaidīs garām "ne" vai nepieļaus citas kļūdas, pēc kuras jūsu biznesa attiecības var uzskatīt par pilnīgām.
Tas ir, cilvēkam kā kontrolierim joprojām vajadzētu būt?
- Noteikti. Uzticēties tehnoloģijai ir bīstami.