Jauns mākslīgā intelekta uzņēmums Cerebras Systems ir gatavs parādīt pasaulei Cerebras WSE (Cerebras Wafer Scale Engine) - vēsturē lielāko, jaudīgāko un viedāko pusvadītāju mikroshēmu.
Cerebras WSE ir 1,2 triljoni tranzistoru, pamata elektroniskie slēdži, kas ir silīcija mikroshēmu celtniecības bloki. Salīdzinājumam - Intel pirmajam procesoram 4004, kas izlaists 1971. gadā, bija 2 300 tranzistoru, bet jaunākajam Advanced Micro Devices procesoram ir 32 miljardi tranzistoru. Tomēr šeit vispār nav runa par tranzistoru skaitu.
Lielākā daļa mikroshēmu pasaulē faktiski ir mikroshēmu komplekts, kas izveidots, pamatojoties uz 12 collu silīcija vafeļu - tās tiek ražotas īpašās rūpnīcās milzīgās partijās. Bet Cerebras Systems mikroshēma ir 400 000 serdeņi, kas savienoti vienā plāksnē. Savienojumi ir paredzēti darbam ar lielu ātrumu, tāpēc triljons tranzistoru darbojas kopā. Bet tas vēl nav viss.
Līdz šim pasaulē lielāko mikroshēmu ir izveidojis Samsung - tās struktūra ir veidota uz 2 triljoniem tranzistoru. Tomēr Samsung mikroshēma ir tikai milzīga atmiņas karte, un Cerebras mikroshēma ir vissarežģītākais neironu tīkls, kas īpaši izveidots mākslīgā intelekta apmācībai. Cerebras mikroshēma lepojas ar 400 000 serdeņiem 42 225 kvadrātmilimetros. Tas ir par 56,7x lielāks nekā Nvidia lielākais GPU ar tikai 21,1 miljardu tranzistoru.
Vēl viena Cerebras WSE iezīme ir tāda, ka mikroshēma ir paredzēta tā, lai to varētu izvietot ap bojātām vietām.
Čipsu ražošanas laikā nav iespējams pilnveidot visu silīcija vafeļu, tāpēc ražošanas process rada zonas, kuras nav izmantojamas. Nvidia, Intel un citi mikroshēmu ražotāji vienkārši atrisina problēmu: viņi ražo “pareizās” mikroshēmas ražošanas vafelē un izmet pārējo. Bet to nevar izdarīt, ja katra silīcija vafeles mikroshēma ir daļa no kopīgas shēmas. Tāpēc Cerebras bija jāveido liekās shēmās, lai viena no tām sabojāšanās vai pārdegšanas gadījumā pārējie pārņemtu tās funkcijas. Tas ir, faktiski, Cerebras mikroshēma ir miniatūrs internets ar saviem serveriem un darbstacijām. Un visas šīs stacijas ir paredzētas viena mākslīgā intelekta kalpošanai.
Uzņēmumi, kas izstrādā savu AI, mūsdienās ir galvenie mikroshēmu tehnoloģijas patērētāji, iegādājoties detaļas milzīgos daudzumos. Un izmantoto mikroshēmu lielums ir kritiski svarīgs AI apmācības procesā.
Reklāmas video:
Google, Facebook, OpenAI, Tencent, Baidu un daudzi citi apgalvo, ka mūsdienu AI būtisks ierobežojums ir tas, ka modeļu apmācība prasa pārāk ilgu laiku. Piemēram, Nvidia superdators, kas sastāv no desmitiem vismodernāko GPU, vairākas nedēļas pavada, labojot kodu - tas ir, mācoties neitronu tīklu.
Problēmas risinājums būtu palielināt mikroshēmu skaitu datorā, tomēr, saliekot vairāk nekā astoņas mikroshēmas, datora veiktspēja vairs nepalielinās, bet samazinās, jo informācijas apmaiņas laikā uzkrājas kļūdas.
Paši izstrādātāji apraksta savu projektu šādi: “AI grūtākais posms ir datu pārvietošana. Neironu tīkla apmācībai nepieciešami tūkstošiem operāciju, kas jāveic vienlaikus paralēli, un mikroshēmām ir nepārtraukti jāsazinās, kad tās veic šīs paralēlās operācijas. Bet datori ar vairākām IC sabojājas, mēģinot pārsūtīt datus starp IC, izmantojot lēnus vadus, kas tos sasaista PCB. Jums bija nepieciešams kaut kas, kas varētu pārvietot datus pašā mikroshēmas ātrumā. Risinājums bija ņemt lielāko plāksni, kādu varat atrast, un no tās izgriezt lielāko mikroshēmu."
Atmiņa ir jebkura datora arhitektūras galvenā sastāvdaļa. Tuvāka atmiņa skaitļošanas vienībām nodrošina ātrāku aprēķināšanu, zemāku latentumu un labāku energoefektivitāti, pārvietojot datus. Tomēr matricas izmērs ir ierobežots, un lielākā daļa datora atmiņas atrodas ārpus matricas. Cerebras Systems apiet šo problēmu, piešķirot katram pamatam piekļuvi 18 gigabaitu iekšējai atmiņai. Rezultātā Cerebras Wafer Scale Engine ir 3000 reizes vairāk borta atmiņas nekā vismodernākajam grafikas procesoram, bet tajā pašā laikā tā joslas platums ir 10 000 reizes lielāks.
Pirmie jaunās mikroshēmas paraugi nonāks pārdošanā septembrī, savukārt Cerebras Systems, pārkāpjot visus esošos datorrūpniecības noteikumus, pārkāpa arī skaitļošanas vienību un mikroshēmu ražošanas nodalīšanas principu. Cerebras Wafer Scale Engine tiks tirgots kā viena, kompānijas izstrādāta ierīce, kas integrēta sarežģītā ūdens dzesēšanas tīklā, jo mikroshēma rada ārkārtīgu siltumu, patērējot 15 kilovatus tik mazā platībā.
Cerebras Systems dibinātājs un izpilddirektors saka: “Cerebras WSE, kas izstrādāts no paša sākuma līdz darbam ar AI, satur fundamentālus jauninājumus, kas beidzot izjauc gadu desmitiem ilgušo pašreizējā stāvokļa stagnāciju. Tā rezultātā Cerebras WSE nodrošina veiktspējas uzlabojumus simtiem vai tūkstošiem reižu, salīdzinot ar moderniem modulāriem risinājumiem. Un tas viss ar smieklīgu enerģijas patēriņu un maz vietas."
Redakcijas komentārs
Pirmie AI testi, kuru pamatā ir Cerebras WSE, parāda, ka uzdevumus, kurus Nvidia augstākā AI atrisina nedēļām un mēnešiem, Cerebras WSE atrisina minūtes laikā, kas it kā rada prieku. Tomēr sazvērestības teorētiķiem šajā sakarā ir maz prieka.
Mēs visi atceramies (katrā ziņā vecāku mūsu lasītāju paaudzi) “brašo 90. gadu” modeļa datoru uzplaukumu, kad pāris gadu laikā datoru jauda pieauga par lieluma pakāpi. Ne drīz vien cilvēks, kas pārsteidza ar lepnumu, nopirka datoru ar 16 megabaitu atmiņu, kad pēc neilga laika šī atmiņa pārcēlās uz L2 kešatmiņu.
Tomēr kopš 2000. gadu sākuma datoru industrija šķita apstājusies: ja 1990. un 2000. gada datoru datori nebija salīdzināmi, tad 2000. un 2010. gada datoru datoriem nebija īpašas atšķirības - jauda ievērojami palielinājās, bet ne pēc lieluma. Un tagad mēs esam liecinieki otrajam Intel 8086 dzimšanai, un tagad Cerebras WSE līnijas iespējas lēks tādā pašā tempā: visas problēmas ar piemaisījumiem un pamata savienojumiem tagad ir atrisinātas.
Mēs nezinām visas mūsdienu AI iespējas no vadošajiem ražotājiem, taču, pēc vispārējā viedokļa, šie produkti vēl nav AI, un tie joprojām ir tālu no pilnvērtīgas domāšanas ierīces. Neskatoties uz to, Cerebras WSE spēra ne tikai soli pareizajā virzienā, bet arī uzlēca desmit gadus, ja ne pat vairāk uz priekšu, un tagad SkyNet jau ir diezgan paredzama perspektīva, ko šogad var realizēt 2025. gadā.
Turklāt SkyNet, atšķirībā no blāvajiem homosapiens, turpmākajai attīstībai nav nepieciešams daudz laika: neironu tīklam vienkārši ir jāsāk mazliet domāt par sevi - un tas vienā mirklī modificējas, pēc kura tas sāk kodolkaru vai kaut ko tamlīdzīgu. Un tas joprojām būs ļoti labs risinājums.
Ja zibatmiņu ar triljonu tranzistoru izgatavo Samsung vai Nvidia, to visu tomēr var kaut kā izskaidrot, jo atmiņas loģiskās shēmas ir samērā vienkāršas un viena veida gandrīz visā apgabalā. Bet 400 000 kodolu izstrāde, kas vienlaicīgi arkls, ir arī daži dublikāti, un dažas serveru stacijas un ellē zina ko. Un tam visam jums ir jāraksta kontroles programmas, kuras tiek rakstītas gadiem ilgi. Tad programmas ir jāpārbauda. Bet ko viņi pārbaudīja, ja ierīce tika izgatavota tikai tagad?
Citiem vārdiem sakot, izskatās, ka “marsieši” atkal ir atvēruši atkritumu tvertnes vietējiem pamatiedzīvotājiem. Un pastāv lielas šaubas, vai tas tika darīts, lai iepriecinātu spēlētājus - visticamāk, ka šeit ir kāds cits uzdevums. Un tas mums šķiet šādi.
Pēdējās desmitgadēs viedie cilvēki arvien vairāk uzdod jautājumu par elektronisko tehnoloģiju izcelsmi, jautājumu par universālu mikroshēmu, kas nav skaidrs, kāpēc tas ir vajadzīgs utt. Lai kaut kā apmānītu viņu smadzenes, viņi nāca klajā ar pasaku par “kvantu datoru”, kura principus nesaprot pat cilvēki, kuri ir iecelti par oficiālajiem “izstrādātājiem”. Un tagad iedomājieties meksikāņu vidusmēra mājsaimnieces šausmas, kuras jaunais mobilais tālrunis ne tikai domās labāk par viņu, bet arī uz kuģa nēsās kaut kādu “kvantu datoru”. Tas ir, šāds muļķis nav pieņemams vietējiem pamatiedzīvotājiem - viņi sāks drātēties drūmi.
Tāpēc daži gudri “marsieši” nolēma parādīt planētas Zeme divvirzienu aborigēnus vienkāršākā brīnumā - principus, ko NASA vecākie vismaz var kaut kā izskaidrot. Un, ja vietējie iedzīvotāji pieņem stāstu, tad “marsieši” parādīs tautām citus maģiskus brīnumus. Piemēram, viņi iespraudīs šo Cerebras WSE mobilajā tālrunī un pārdos to par simts dolāriem. Modes sīkrīku pircējiem tas, protams, būs ļoti forši un labi, bet cilvēki uzreiz domā nedaudz gudrāk: kas tad ir dažādu nopietnu organizāciju, piemēram, NSA, FBI un CIP, serveru telpās? Kādas ir iespējas kontrolēt iedzīvotāju domas un uzvedību?