Stefans Hokings turpina “karagājienu” pret mākslīgo intelektu (AI).
Ļoti gaidītās kampaņas Ask me Everything on Reddit laikā viņš rakstīja, ka darbs pie AI drošības protokola izstrādes jāveic tagad, nevis tālā nākotnē.
“Mūsu mērķim nevajadzētu būt abstrakta mākslīgā intelekta, bet gan noderīga intelekta radīšanai,” rakstīja slavenais fiziķis, “desmit gadu laikā būs jāizdomā, kā to izdarīt, tāpēc sāksim šī jautājuma izpēti tagad, nevis naktī pirms pirmā uzlabots AI”.
Hawking ir izmantojis slavu, lai atbalstītu AI drošības kustību kopš 2014. gada, kad viņš līdzautors redakcijai kopā ar citiem pētniekiem brīdināja par eksistenciālajiem draudiem, ko progresīvas mašīnas rada cilvēcei.
Hokingam ir pievienojušās arī citas ievērojamas tehnoloģiju personības - Elons Musks un Stīvs Vozņaks. Iepriekš visi trīs parakstīja atklātu vēstuli, kurā aicināja aizliegt autonomus ieročus vai kaujas robotus.
Cerības, ka cilvēce drīz izveidos mākslīgo intelektu, pastāv jau kopš 50. gadiem un vēl nav sevi attaisnojušas. Tomēr lielākā daļa AI zinātnieku uzskata, ka šajā gadsimtā parādīsies mašīnas, kuru intelekts ir vienāds ar cilvēkiem.
Foto: ANDREW COWIE / AFP
Reklāmas video:
Hokings brīdina, ka mākslīgā intelekta attēlojums zinātniskās fantastikas filmās izkropļo mašīnu patiesās briesmas. Tādas filmas kā The Terminator attēlo dēmoniskus slepkavas robotus, kuri cenšas iznīcināt cilvēci tādu iemeslu dēļ, kuriem īsta mākslīgā intelekta nebija. Tie arī atvieglo potenciālā AI riska mazināšanu (piemēram, neveidojot kiborgus).
“AI patiesie draudi nav tas, ka tas būtu ļauns, bet gan tas, ka tas ir ļoti spējīgs. Mākslīgā superinteliģence ļoti labi pilda savus uzdevumus.
Ja viņa uzdevumi nesakrīt ar mūsējiem, mums būs problēmas, - Hokings rakstīja, - jūs diez vai ienīst skudras, bet, ja jūs esat atbildīgs par zaļās enerģijas projektu, un teritorija, kur atrodas skudru pūznis, ir jāpārpludina, skudras ir no veiksmes. Neļausim cilvēcei nonākt šo skudru stāvoklī."
Niks Bostroms, AI filozofs, fantazē par pasaules beigu scenārijiem, kad programma sāk darboties nepareizā virzienā. Piemēram, mākslīgajam intelektam ir dots uzdevums izstrādāt vides aizsardzības plānu, un, lai atrisinātu ekoloģijas problēmu, tas nolemj iznīcināt cilvēci.
Elons Musks jau ir piešķīris 10 miljonus dolāru AI drošības pētījumiem, lai novērstu tādu iznīcinošu mākslīgo intelektu kā Skynet parādīšanos Terminators. Bet Hawking vēlas, lai cilvēki mainītu vispārējo priekšstatu par AI.
“Lūdzu, sakiet studentiem, lai viņi domā ne tikai par to, kā izveidot AI, bet arī par to, kā nodrošināt, ka tas tiek izmantots noderīgiem mērķiem,” Hawking stāstīja skolotājam, kurš lekcijas par mākslīgo intelektu. vai nu labākais, vai sliktākais notikums cilvēces vēsturē. Tāpēc ir svarīgi, lai viss noritētu tā, kā vajadzētu."
