Diezgan viss, ko šodien dzirdat par mākslīgo intelektu, nāk no dziļām mācībām. Šī algoritmu kategorija darbojas ar statistiku, lai atrastu datu modeļus, un ir izrādījusies ārkārtīgi spēcīga, atdarinot cilvēka prasmes, piemēram, mūsu spēju redzēt un dzirdēt. Ļoti šaurā mērā tas pat var atdarināt mūsu spēju pamatot. Šie algoritmi atbalsta Google meklēšanu, Facebook Newsfeed, Netflix ieteikumu motoru un veido nozares, piemēram, veselības aprūpi un izglītību.
Cik dziļa mācīšanās attīstās
Neskatoties uz to, ka dziļa mācīšanās praktiski viens pats ienesa mākslīgo intelektu sabiedrībā, tas cilvēces vēsturiskajā uzdevumā reproducē savu intelektu tikai nedaudz. Tas ir bijis šī meklēšanas priekšgalā mazāk nekā desmit gadus. Ja atmetam visu šīs teritorijas vēsturi, ir viegli saprast, ka drīz tā var arī pazust.
Viņš teica, ka pēkšņi dažādu metožu kāpumi un kritumi raksturo AI pētījumus. Katru desmitgadi ir bijusi intensīva konkurence starp dažādām idejām. Tad laiku pa laikam slēdzis pārslīd un visa kopiena sāk darīt vienu lietu.
Mūsu kolēģi MIT Technology Review vēlējās iztēloties šīs nepatikšanas un sākumus. Šajā nolūkā viņi ķērās pie vienas no lielākajām atklāto zinātnisko darbu datu bāzēm, kas pazīstamas kā arXiv. Viņi lejupielādēja fragmentus no kopumā 16 625 rakstiem, kas bija pieejami mākslīgā intelekta sadaļā līdz 2018. gada 18. novembrim, un izsekoja gadu gaitā pieminētos vārdus, lai redzētu, kā lauks ir attīstījies.
Viņu analīzes rezultātā parādījās trīs galvenās tendences: pāreja uz mašīnmācību 90. gadu beigās un 2000. gadu sākumā, neironu tīklu popularitātes pieaugums, kas sākās 2010. gada sākumā, un pastiprināšanas mācīšanās pieaugums pēdējos gados.
Reklāmas video:
Bet vispirms daži brīdinājumi. Pirmkārt, arXiv sadaļa ar AI datēta ar 1993. gadu, un termins “mākslīgais intelekts” datēts ar piecdesmitajiem gadiem, tāpēc pati datu bāze apzīmē tikai pēdējās nozares vēstures nodaļas. Otrkārt, dokumenti, kas katru gadu tiek pievienoti datu bāzei, veido tikai nelielu daļu no darba, kas šobrīd tiek veikts šajā jomā. Tomēr arXiv piedāvā lielisku resursu, lai identificētu dažas galvenās pētījumu tendences un redzētu kara velkoni starp dažādām ideoloģiskām nometnēm.
Mašīnmācīšanās paradigma
Lielākā novirze, ko pētnieki atrada, bija pāreja no uz zināšanām balstītām sistēmām uz 2000. gadu sākumu. Šādu datorsistēmu pamatā ir ideja, ka noteikumu sistēmā ir iespējams kodēt visas zināšanas par cilvēkiem. Tā vietā zinātnieki pievērsās mašīnmācībai - vecāku algoritmu kategorijai, kas ietver dziļu mācīšanos.
Starp 100 pieminētajiem vārdiem visvairāk samazinājās tie, kas saistīti ar zināšanām balstītām sistēmām - “loģika”, “ierobežojumi” un “noteikums”. Un visvairāk pieauga tie, kas saistīti ar mašīnu apguvi - "dati", "tīkls", "veiktspēja".
Iemesls šīm laika apstākļu izmaiņām ir ļoti vienkāršs. Pagājušā gadsimta 80. gados fanu vidū popularitāti ieguva uz zināšanām balstītas sistēmas, pateicoties aizrautībai ap vērienīgajiem projektiem, kas mēģināja mašīnās atjaunot veselo saprātu. Bet, kad šie projekti izvērsās, pētnieki saskārās ar lielu izaicinājumu: bija jāpārkodē pārāk daudz noteikumu, lai sistēma varētu darīt kaut ko noderīgu. Tas palielināja izmaksas un ievērojami palēnināja notiekošos procesus.
Atbilde uz šo problēmu ir mašīnmācība. Tā vietā, lai prasītu, lai cilvēki manuāli kodētu simtiem tūkstošu noteikumu, šī pieeja programmē mašīnas automātiski izvilkt šos noteikumus no datu kaudzes. Tāpat šī joma ir attālinājusies no zināšanām balstītām sistēmām un pievērsusies mašīnmācības uzlabošanai.
Neironu tīklu uzplaukums
Jaunajā mašīnmācības paradigmā pāreja uz dziļo mācīšanos nenotika vienas nakts laikā. Tā vietā galveno terminu analīze parādīja, ka zinātnieki papildus neironu tīkliem, kas ir galvenie dziļās mācīšanās mehānismi, ir pārbaudījuši arī daudzas metodes. Pie citām populārām metodēm piederēja Bajesijas tīkli, atbalsta vektora mašīnas un evolūcijas algoritmi, kas visi izmanto dažādas pieejas, lai atrastu modeļus datos.
Deviņdesmitajos un 2000. gados starp šīm metodēm bija spēcīga konkurence. Pēc tam, 2012. gadā, dramatisks sasniegums noveda pie kārtējām laika apstākļu izmaiņām. Ikgadējā ImageNet konkursa laikā, lai paātrinātu datora redzes progresu, pētnieks vārdā Džefrijs Hintons kopā ar kolēģiem no Toronto universitātes panāca vislabāko attēla atpazīšanas precizitāti ar kļūdu nedaudz vairāk kā 10%.
Viņa izmantotā dziļās mācīšanās tehnika ir radījusi jaunu pētījumu vilni, vispirms vizualizācijas kopienā un pēc tam ārpus tās. Tā kā arvien vairāk zinātnieku sāka to izmantot iespaidīgu rezultātu sasniegšanai, šīs tehnikas popularitāte līdz ar neironu tīklu popularitāti ir strauji palielinājusies.
Mācību pastiprināšanās
Analīze parādīja, ka dažus gadus pēc dziļas mācīšanās sasniegšanas AI pētījumos ir notikusi trešā un pēdējā maiņa.
Papildus dažādajām mašīnmācīšanās metodēm ir trīs dažādi veidi: vadīta mācīšanās, nepārraudzīta mācīšanās un pastiprinoša mācīšanās. Visbiežāk tiek izmantota uzraudzīta mācīšanās, kas ietver marķētu datu ievadīšanu mašīnā, un mūsdienās tā ir arī vispraktiskākā. Tomēr dažos pēdējos gados pastiprināšanas mācīšanās, kas imitē dzīvnieku mācību procesu, izmantojot burkānus un nūjas, sodus un atlīdzību, ir radījusi strauju atsauču pieaugumu darbos.
Pati ideja nav jauna, taču tā nav darbojusies daudzus gadu desmitus. “Uzraudzīti mācību speciālisti smējās par mācīšanās pastiprināšanas speciālistiem,” saka Domingos. Bet tāpat kā dziļi mācoties, viens pagrieziena punkts pēkšņi izvirzīja metodi priekšplānā.
Šis brīdis pienāca 2015. gada oktobrī, kad DeepMind AlphaGo, trenējies ar pastiprinājumu, senajā spēles gājienā pieveica pasaules čempionu. Ietekme uz pētniecības kopienu bija tūlītēja.
Nākamie desmit gadi
MIT tehnoloģijas apskats sniedz tikai jaunāko konkurences momentuzņēmumu starp idejām, kas raksturo AI pētījumus. Tomēr tas ilustrē izlūkošanas dublēšanās nekonsekvenci. “Ir svarīgi saprast, ka neviens nezina, kā atrisināt šo problēmu,” saka Domingos.
Daudzas no metodēm, kuras tiek izmantotas 25 gadus, parādījās apmēram tajā pašā laikā piecdesmitajos gados, un tās nav saskanējušas ar katras desmitgades izaicinājumiem un panākumiem. Piemēram, neironu tīkli sasniedza maksimumu 60. gados un nedaudz 80. gados, bet gandrīz nomira, pirms dziļas mācīšanās atguva popularitāti.
Citiem vārdiem sakot, katrā desmitgadē ir novērota atšķirīgas tehnikas dominēšana: neironu tīkli 50. un 60. gadu beigās, dažādi simboliski mēģinājumi 70. gados, uz zināšanām balstītas sistēmas 80. gados, Bajesijas tīkli 90. gados, atsauces vektori nulle un neironu tīkli atkal 2010. gadā.
2020. gadi nebūs atšķirīgi, saka Domingos. Tas nozīmē, ka dziļo mācību laikmets drīz var būt beidzies. Bet tas, kas notiks tālāk - veca tehnika jaunā krāšņumā vai pilnīgi jauna paradigma - par to sabiedrībā notiek asas polemikas.
Iļja Khel