Slavenais britu fiziķis Stefans Hokings rakstā, kuru iedvesmojusi zinātniskās fantastikas filma "Transcendence", kurā piedalījās Džonijs Deps, sacīja, ka mākslīgā intelekta radīto draudu nenovērtēšana var būt lielākā kļūda cilvēces vēsturē.
Rakstā, kas līdzautors datorzinātņu profesoram Stjuartam Raselam no Kalifornijas universitātes Bērklijā un fizikas profesoriem Maksam Tegmarkam un Frenkam Vilczekam no MIT, Hokings norāda uz dažiem mākslīgā intelekta sasniegumiem, atzīmējot pašbraucošās automašīnas, Siri balss asistentu un superdatoru. cilvēka uzvarētājs Jeopardy TV viktorīnas spēlē.
“Visi šie sasniegumi ir gaiši fona apstākļos, kas mūs sagaida nākamajās desmitgadēs. Veiksmīga mākslīgā intelekta izveidošana būs lielākais notikums cilvēces vēsturē. Diemžēl tas var izrādīties pēdējais, ja nemācīsimies izvairīties no riskiem,”Hokingu citē britu laikraksts“The Independent”.
Profesori raksta, ka nākotnē var gadīties, ka neviens un nekas nevar apturēt mašīnu ar necilvēcīgu intelektu pašpilnveidošanos. Un tas sāks tā saucamās tehnoloģiskās singularitātes procesu, kas nozīmē ārkārtīgi strauju tehnoloģiju attīstību. Filmā ar Depa piedalīšanos šajā nozīmē tiek lietots vārds "transcendence".
Iedomājieties, ka šāda tehnoloģija pārspēj cilvēkus un virza finanšu tirgus, zinātniskos pētījumus, cilvēkus un ieroču attīstību ārpus mūsu izpratnes. Ja mākslīgā intelekta īstermiņa efekts ir atkarīgs no tā, kurš to kontrolē, tad ilgtermiņa efekts ir atkarīgs no tā, vai to vispār var kontrolēt.
Grūti pateikt, kādas sekas mākslīgais intelekts var radīt cilvēkiem. Hokings uzskata, ka ir maz nopietnu pētījumu, kas veltīti šiem jautājumiem ārpus tādām bezpeļņas organizācijām kā Kembridžas eksistenciālo risku izpētes centrs, Cilvēces nākotnes institūts un mašīninformācijas un turpmākās dzīves izpētes institūti.
Pēc viņa teiktā, katram no mums būtu jājautā sev, ko mēs tagad varam darīt, lai izvairītos no sliktākā scenārija nākotnē.