Politiķiem un kapitālistiem ir piektdienas pēcpusdienas tradīcija izmest daudz jaunumu, lai starp viņiem paslēptu sliktās ziņas. Tāpēc bija mazliet dīvaini, ka Elons Musks, elektrisko transportlīdzekļu ražotāja Tesla dibinātājs un slavenā tehnoloģiju inkubatora Y Combinator prezidents Sam Altman, savu nedēļu ilgas AI konferences beigās Monreālā pagājušā gada decembrī atklāja savu jauno AI uzņēmumu.
Bija iemesls OpenAI ieviešanai tik vēlu stundu. Ne tāpēc, ka neviens neskatījās. Jo visi skatījās. Kad daži no visspēcīgākajiem uzņēmumiem Silīcija ielejā sajuta, ka pūš vējš, viņi sāka piedāvāt milzīgas naudas summas nesen izvirzītajam OpenAI AI talantam, lai šos ģēnijus turētu mājās. Pēdējā brīdī priekšlikumi - daži, kas tika izteikti pašā konferencē - pieauga tik lieli, ka Muskam un Altmanam nācās atlikt paziņošanu par jauno starta vietu. “Summas sasniedza ārprāta robežu,” saka Wojciech Zaremba, zinātnieks, kurš pievienojās OpenAI pēc stažēšanās Google un Facebook un bija starp tiem, kuri saņēma lielus piedāvājumus plkst.
Cik dolāru ir ārprāta robeža? Pirms diviem gadiem, kad sāka uzkarst jaunāko mašīnu apguves tehnoloģiju tirgus, Microsoft Research viceprezidents Pīters Lī sacīja, ka AI izcilāko pētnieku izmaksas ir pārsniegušas augstākās atlēkušās spēlētāja izmaksas Nacionālajā futbola līgā - un tas ir parastos apstākļos, nevis tad, kad labākie uzņēmēji Silīcija ieleja mēģina maldināt labākos talantus. Zaremba saka, ka tad, kad OpenAI sanāca, tai tika piedāvāta divas līdz trīs reizes lielāka par tā tirgus vērtību.
OpenAI neatbilda šiem ieteikumiem. Bet viņš piedāvāja kaut ko atšķirīgu: spēja veikt pētījumus, kas koncentrējās tikai uz nākotni, nevis uz produktiem un ceturkšņa peļņu, un galu galā dalās lielākajā daļā pētījumu, ja ne visus, tad to, kas to vēlas. Tieši tā: Musk, Altman un kompānija nolēma atdot to, kas varētu būt 21. gadsimta visvairāk pārveidojošā tehnoloģija, un atdot to par brīvu.
Zaremba saka, ka priekšlikumi par nejēdzības robežu viņu faktiski atlika - neskatoties uz milzīgo cieņu pret tādiem uzņēmumiem kā Google un Facebook. Viņš uzskatīja, ka nauda tiek novirzīta, lai novērstu OpenAI izveidi, kas vēl vairāk pastiprināja viņa apņemšanos izveidot dāsnu uzņēmumu. "Es sapratu," saka Zaremba, "ka OpenAI ir labākā vieta man."
Vai jūs jūtat ironiju šī stāsta centrā? Kaut arī pasaules lielākās tehnoloģiju kompānijas mēģina paturēt savus pētniekus tikpat smagi, cik NFL komandas cenšas saglabāt savus zvaigžņu atgriešanās laikus, paši pētnieki vēlas tikai dalīties savās atziņās. AI izpētes sarežģītajā pasaulē gaišākos prātus virza ne tikai nākamais produktu cikls vai peļņa, vai arī viņi vispār nav viņu apsēsti. Viņi vēlas padarīt AI labāku, un nav iespējams padarīt AI labāku, ja patiksit jaunākajiem notikumiem.
OpenAI nesen izlaida pirmo AI programmatūras paketi - instrumentu komplektu mākslīgā intelekta sistēmu izveidei, kuras pamatā ir tehnoloģija, ko sauc par pastiprināšanas mācīšanos - viena no galvenajām tehnoloģijām, kuras rezultātā tika izveidots AlphaGo, Google AI, kas pārsteidza pasauli ar savām iespējām. iet spēles. Izmantojot šo rīku komplektu, jūs varat izveidot sistēmas, kas atvērs jaunas paaudzes robotus, spēlēt Atari spēles un jā, pārspēt pasaules čempionus Go.
Reklāmas video:
Bet rotaļlietas ir tikai sākums. OpenAI ir miljardu dolāru liela misija, kuras mērķis ir virzīt AI pēc iespējas tālāk. Kā uzņēmums ir sapulcējies un kādi ir tā plāni, jūs varat redzēt nākamo jauno inovāciju vilni. Mēs vēl nezinām, vai OpenAI būs galvenais šo izmaiņu virzītājspēks. Bet šīs diezgan neparastās starta izveidošanas spēki liecina, ka nākamās paaudzes AI mainīs ne tikai tehnoloģiju, bet arī darbības veidu.
Mākslīgais intelekts ir visur
Silīcija ielejā ir aizrautība ar pārspīlējumiem. Pārliecinošie izteikumi vienmēr jāsatur ar sāls graudu. Bet mākslīgā intelekta jomā patiešām notiek izmaiņas. Uzņēmumos, piemēram, Google un Facebook, dziļas apmācības tehnoloģijas jau palīdz interneta pakalpojumiem identificēt fotoattēlu sejas, atpazīt balss komandas viedtālruņos un atbildēt uz meklēšanu internetā. Un šī pati tehnoloģija nākotnē varētu atrisināt daudzas citas problēmas. Tas var palīdzēt mašīnām iemācīties saprast dabisko valodu - ko mēs, cilvēki, esam pieraduši runāt un rakstīt. Tas var palīdzēt attīstīt jaunu robotu šķirni, ļaut automātiem ne tikai veikt savus uzdevumus, bet arī mācīties lidojumā. Un daži uzskata, ka tas galu galā mašīnām piešķirs kaut ko līdzīgu veselajam saprātam - spēju domāt patiesi kā cilvēks.
Un līdz ar šādiem solījumiem piedzimst arī dziļa trauksme. Muskam un Altmanam ir bažas, ka, ja cilvēki var radīt AI, kas dara lielas lietas, viņi var veidot AI, kas dara briesmīgas lietas. Viņi nav vieni savās bailēs. Lai arī tas var šķist pretintuitīvs, Musks un Altmans arī uzskata, ka labākais veids, kā apkarot ļaunprātīgu AI, nav ierobežot piekļuvi mākslīgajam intelektam, bet gan to paplašināt. Tieši šī tieksme noved pie jaunu un inteliģentu ideālistu komandas.
OpenAI parādījās pagājušās vasaras vienā vakarā privātā istabā viesnīcas Rosewood Silicon Valley ielejā, kas ir luksusa klases viesnīca, kas burtiski atrodas riska kapitāla pasaules centrā. Elons Musks ieturēja pusdienas ar Iļju Sutskeveru, kurš tolaik atradās Google Brain, uzņēmumā, kas izstrādā dziļus neironu tīklus - mākslīgā intelekta sistēmas, kuras var iemācīties veikt uzdevumus, analizējot milzīgu digitālo datu daudzumu, tostarp atpazīt fotoattēlus un rakstīt e-pastus, mācīties no sarakstes. Suckever bija viens no galvenajiem projekta izstrādātājiem.
Iļja Sutskevers
Sam Altman, kura Y Combinator palīdzēja veidot tādus uzņēmumus kā Airbnb, Dropbox un Coinbase, pārstāvēja sanāksmi, apvienojot vairākus AI pētniekus un jauno, bet pieredzējušo uzņēmuma celtnieku Gregu Brockmanu, bijušo galveno tehnoloģiju vadītāju start-up Stripe, citā uzņēmumā Y Kombinētājs. Tā bija eklektiska grupa. Bet visiem bija mērķis: izveidot jauna veida AI laboratoriju, kas varētu darboties ne tikai Google, bet arī visu pārējo kontrolē. "Labākais, ko es varētu iedomāties kā izaicinājumu," saka Brokmens, "ir virzīt cilvēci uz patiesa AI izveidi pa drošu ceļu."
Musks tur atradās ilgās draudzības ar Altmanu dēļ un tāpēc, ka AI ir kritiska gan viņa dažādo darbību nākotnei, gan nākotnei kopumā. Tesla nepieciešama AI, ja tā vēlas būvēt pašbraucošas automašīnas. SpaceX, kas ir vēl viens no Musk uzņēmumiem, ir nepieciešama AI, lai aizvestu cilvēkus kosmosā un turētu viņus drošībā un drošībā. Bet Musk ir arī viens no pirmajiem (un skaļākajiem), kas brīdināja, ka kādu dienu cilvēce varētu zaudēt kontroli pār sistēmām, kas ir pietiekami jaudīgas, lai patstāvīgi mācītos.
Radās problēma: daudz cilvēku, kas bija pietiekami kvalificēti, lai atrisinātu visas šīs problēmas, jau strādāja Google (kā arī Microsoft, Facebook, Baidu un Twitter). Un neviens tajās vakariņās nebija pilnīgi pārliecināts, ka šos pētniekus var ievilināt jaunā startupā, pat ja Musks un Altmans būtu aiz tā. Un vismaz viens galvenais spēlētājs bija gatavs atstāt kuģi. "Es sapratu riskus," saka Suklers, "bet es arī zināju, ka būs interesanti izmēģināt."
Lauziet loku
Sarunu laikā ar Musku, Altmanu un citiem Rožvudā iedrošinātiem, Brokmens drīz vien nolēma uzcelt laboratoriju, kas viņiem visiem bija prātā. Ar stingru apņemšanos īstenot šo projektu, viņš atvedis Jošua Bengio, Monreālas universitātes zinātnieku un vienu no dziļās mācīšanās kustības dibinātājiem. Divi citi nozares pionieri - Džefs Hintons un Jans Lecūns - strādā attiecīgi Google un Facebook, bet Bengio tiecās pēc dzīves akadēmiskajā vidē, kaut kur ārpus rūpnieciskajiem taustekļiem. Viņš ieskicēja labāko nozares pētnieku sarakstu un nākamo dažu nedēļu laikā Brokmens sazinājās ar visiem iespējamajiem, ieskaitot vairākus citus.
Daudzi no šiem pētniekiem atzinīgi novērtēja šo ideju, taču bija noraizējušies par šāda lēciena iespējamību. Mēģinot pārtraukt loku, Brokmens izvēlējās desmit pētniekus, kurus viņš visvairāk vēlējās redzēt, un aicināja viņus pavadīt sestdienu ar vīnu, uzkodām un sarunām vīna pagrabā Napa ielejā. Brockmanam pat ceļojums uz Napu bija projekta katalizators. "Šis ir nepietiekami novērtēts cilvēku apvienošanas veids, it īpaši gadījumos, kad jums nekur nav jāsteidzas sasniegt savu mērķi," viņš saka. "Jums jāiet tur, bet arī jārunā." Kad viņi nokļuva pie vīna, šī atmosfēra saglabājās. Kā saka Suckever, "vīns sarunai bija sekundārs".
Gregs Brokmens
Dienas beigās Brokmens uzaicināja visus desmit pētniekus pievienoties laboratorijai un deva viņiem trīs nedēļas domāt. Termiņa beigās komandā bija deviņi. Un viņi palika tajā, neskatoties uz lielajiem Silīcija ielejas gigantu piedāvājumiem. “Es saņēmu ļoti pievilcīgu piedāvājumu palikt, tāpēc lēmums nebija viegls,” saka bijušais darba devējs Suckever no Google. "Visbeidzot, es nolēmu doties uz OpenAI, daļēji ļoti spēcīgās cilvēku grupas un, protams, galvenokārt viņu misijas dēļ."
Dziļās mācīšanās kustība sākās akadēmiskajā vidē. Tikai nesen uzņēmumi, piemēram, Google, Microsoft un Facebook, nolēma pievērsties šai jomai, jo brutālās skaitļošanas jaudas sasniegumi ir padarījuši šos dziļos neironu tīklus par realitāti, nevis tikai teorētisku iespēju. Cilvēki, piemēram, Hintons un LeCune, ir pametuši akadēmiskās aprindas Google un Facebook, jo šajos uzņēmumos ir milzīgi resursi. Bet palika cieši saistīta sadarbībā ar citiem nozares teorētiķiem. Tomēr, kā skaidro LeCun, padziļinātai izpētei nepieciešama brīva ideju plūsma. "Kad jūs slepeni veicat pētījumus," viņš saka, "jūs atmetaties."
Tā rezultātā lielo uzņēmumu rīcībā tagad ir liela daļa AI pētījumu. Tas ir būtisks trumpis, jo īpaši uzņēmumam Google, kas jau sen ir noslēpumā glabājis savas tiešsaistes impērijas tehnoloģijas. Ne tik sen Google atvēra programmatūras dzinēja, kas vada tā neironu tīklus, pirmkodu. Bet šajās sacensībās par nākotni daudz kas ir palicis aiz slēgtām durvīm. Brokmens, Altmans un Musks cenšas vēl vairāk virzīt atklātības jēdzienu, sakot, ka nevēlas, lai viena vai divas lielas korporācijas kontrolētu mākslīgā intelekta nākotni.
Atklātības robežas
Tas viss izklausās lieliski. Bet par visu OpenAI ideālismu pētnieki var nonākt tādos pašos apstākļos, kas piespieda viņus strādāt vecos darbus. Atvērtībai ir savas robežas. Un AI ilgtermiņa redzējums nav vienīgā interese par šo spēli. OpenAI nedara labdarības darbu. Muska uzņēmumi no ieguvumiem no starta darba gūs ievērojamu labumu, tāpat kā Altman Y Combinator. "Noteikti ir daži konkurējoši punkti," saka Lecun. - Tā ir bezpeļņas organizācija, taču tai ir ciešas attiecības ar Y Combinator. Un cilvēkiem tiks maksāts par darbu šajā nozarē."
Laboratorija nemaksā tās pašas astronomiskās algas, kuras Google un Facebook sniedza AI pētniekiem, sacīja Brockmans. Bet viņš arī saka, ka laboratorija "vēlas viņiem labi samaksāt" un piedāvā kompensāciju akciju opciju veidā, vispirms Y Combinator un vēlāk, iespējams, SpaceX (kas atšķirībā no Tesla ir privāts uzņēmums).
Neskatoties uz to, Brokmens uzstāj, ka OpenAI neparedz īpašu attieksmi pret saistītajiem uzņēmumiem. OpenAI ir pētniecības iniciatīva, nevis konsultāciju firma. Tomēr OpenAI ideālismam ir ierobežotas iespējas. Iespējams, ka uzņēmums neatver kodu visam, ko ražo, lai gan galvenais mērķis joprojām ir izplatīt lielāko daļu no tā, neatkarīgi no tā, vai tas ir zinātniskais darbs vai interneta pakalpojumi. “Atvēršana nebūt nav labākais risinājums. Jums ir jāražo ideja, jāredz, kur tā ved, un pēc tam jāpublicē, saka Brockmans. - Mēs ražosim daudz atvērtā koda. Bet mums būs arī daudz lietu, kas vēl nav gatavas izlaišanai."
Suzkevers arī piebilst, ka OpenAI varētu pat nonākt līdz sava darba patentēšanai. "Mēs drīz neko nepatentēsim," saka Brokmens. "Bet mēs esam gatavi ilgtermiņā mainīt taktiku, ja domājam, ka tā būs labāka pasaulei." Piemēram, OpenAI var veikt proaktīvu patentēšanu, lai atturētu citus no patentu iegūšanas.
Daži var uzskatīt patentus par peļņas motīvu. Bet tas ir viss patentu jēga.
Superinteliģences problēma
Kad Musks un Altmans iepazīstināja ar OpenAI, viņi arī ieskicēja projektu kā veidu, kā neitralizēt ļaunprātīgas superintelliģences draudus. Protams, šāda superintelliģence varētu rasties OpenAI darba rezultātā, taču viņi uzstāj, ka visus draudus mazinās, padarot tehnoloģiju pieejamu visiem. "Mēs domājam, ka ir daudz ticamāk, ka daudzi AI var apturēt nejaušus sliktus aktierus," saka Altmans.
Bet ne visi šajā jomā tic šādam iznākumam. Niks Bostroms, Oksfordas filozofs, kurš, tāpat kā Musks, brīdināja par AI briesmām, norāda, ka, ja jūs bez ierobežojumiem dalīsities ar savu pētījumu, "sliktie aktieri" var viņus noķert, pirms visi ir pārliecināti, ka viņi ir droši. "Ja jums ir poga, kas padara pasauli sūdīgu," saka Bostroms, "jūs, iespējams, nevēlaties dot visiem piekļuvi tai." Ja, no otras puses, OpenAI nolemj apturēt pētījumus, lai neļautu sliktajiem puišiem tam piekļūt, Bostroms jautā: kā tas atšķirsies no Google vai Facebook?
Viņš saka jā, OpenAI bezpeļņas statuss var vai nevar mainīt lietas. Viņš saka, ka projekta patiesā priekšrocība ir tā, ka to var pārbaudīt Google un Facebook. “Tas spēs samazināt iespējamību, ka superintelliģence tiks monopolizēta. Tas spēs novērst vienu no iespējamiem iemesliem, kādēļ dažiem indivīdiem vai grupām būs pieejama labāka AI nekā visiem citiem."
Nesenā darbā filozofs skaidro, ka tādas iniciatīvas kā OpenAI, kas ir iniciatīva brīvi dalīties ar paveikto, galvenais efekts ir paātrināt mākslīgā intelekta progresu, vismaz īstermiņā. Un tas var paātrināt progresu ilgtermiņā, ja tiek saglabāts augstāks pārredzamības līmenis, nekā tas būtu komerciāli optimāli.
"Iespējams, ka filantropiski motivēts R&D investors varētu nopietni paātrināt progresu, īstenojot atvērtu zinātnes politiku," viņš saka.
Kā Xerox PARC
Janvāra sākumā deviņi no Brokmana pētniekiem pulcējās viņa dzīvoklī Sanfrancisko. Projekts bija tik jauns, ka viņiem pat nebija tāfeles. (Iedomājieties.) Viņi tajā pašā dienā nopirka dažus un devās uz darbu.
Brokmens saka, ka OpenAI vispirms sāks izpētīt pastiprināšanas mācīšanos - uz mašīnām balstītu mācību problēmu veidu, atkārtojot tās atkal un atkal, izsekojot, kuras metodes dod vislabākos rezultātus. Vēl viens būtisks izaicinājums ir tā saucamā “nepārraudzītā mācīšanās” - tādu mašīnu izveidošana, kuras patiesi var iemācīties bez cilvēka palīdzības. Mūsdienās dziļa mācīšanās ir atkarīga no rūpīgi marķētiem datiem. Ja vēlaties iemācīt neironu tīklu atpazīt kaķu fotoattēlus, jums tas jāpabaro ar noteiktu skaitu piemēru - un šie piemēri ir jāmarķē kā fotogrāfijas ar kaķiem. Šādas apmācības tiek veiktas ar cilvēku palīdzību. Bet tāpat kā daudzi citi zinātnieki, OpenAI plāno izveidot neironu tīklus, kas var mācīties bez rūpīgas datu izvēles.
“Ja jums ir patiešām laba mācību metodika bez skolotāja, mašīnas var mācīties no visām zināšanām internetā - piemēram, kā cilvēks, vienkārši skatoties apkārt - vai lasot grāmatas,” saka Brokmens.
Viņš redz OpenAI kā moderno Xerox PARC iemiesojumu - tehnoloģiju pētījumu laboratoriju, kas pastāvēja 70. gados. Tāpat kā PARC atklātais un bezmaksas pētījums ir radījis visu, sākot no grafiskām lietotāja saskarnēm un lāzera drukāšanu līdz objektorientētai programmēšanai, arī Brokmens un viņa komanda vēlas ienirt tajā, kas agrāk bija zinātniskā fantastika. PARC piederēja Xerox, bet tas tika piegādāts daudzu citu uzņēmumu, tostarp Apple, rokās, jo tādi cilvēki kā Stīvs Džobss atzinīgi novērtēja tā pētījumu. Brokmens vēlas, lai visi sveic OpenAI pētījumus.
Cerot uz šo dinamisko virzību, Brokmens un uzņēmums pieņēma darbā vairākus citus ievērojamus pētniekus, tostarp Ianu Goodfollu, vēl vienu vecāko kolēģi Google Brain komandā. Brokmens saka, ka PARC būtībā ir sanācis kopā daudz gudru cilvēku un nolēmuši redzēt notikušo. "Jums ir nepieciešams kopīgs redzējums bez centrālās vadības."
Kontroles trūkums ir būtisks ideālam. Ja kolektīvajā mērķī ievedīsit pietiekami daudz cilvēku, gala rezultāts uzvarēs pār visu, ko jūs slepeni pagatavojāt. Bet, ja AI kļūst tik spēcīgs, kā solīts, vienādojums mainīsies. Mums ir vajadzīga pārliecība, ka jaunatklātais AI stingri ievēros tos pašus egalitāros ideālus, kas, pirmkārt, noveda pie tā izveidošanas. Muskuss, Altmans un Brokmens tic cilvēkiem, pūlī. Un, ja viņiem izrādīsies taisnība, kādu dienu šis pūlis nebūs pilnīgi cilvēks.
ILYA KHEL