Roboti strauji attīstās - tuvojas laiks, kad tie piepildīs ielas, birojus, dzīvokļus un pat mūsu ķermeņus. Vai mēs esam gatavi pastāvēt plecu pie pleca ar mašīnām, kas izturas kā cilvēki un jau konkurē ar mums par darbiem? Rodas daudzi humānie jautājumi.
Ko jūs varat uzticēt robotam, un ko labāk atteikt? Vai viņš spēj pieņemt lēmumus, izjust emocijas, vai viņam ir zināma brīva griba un vai viņš ir atbildīgs par savu rīcību? Kā integrēt robotus sabiedrībā? Šie jautājumi šķiet naivi. Kamēr. Bet var izrādīties, ka atbildes uz tām izlems mūsu civilizācijas likteni.
Kad gaisma nodzisa, sāka spēlēt karstā melodija, kas parasti pavada modes modeļus uz gājēju ceļa. Un mēs (žurnāla Schrödinger's Cat darbinieki) redzējām divas milzīgas sarkanas sirds formas acis. Robots tuvojās auditorijai ar cieņu un žēlastību. Acis pārvērtās divos zilos apļos, kas izstaroja labus nodomus un bērnišķīgu naivumu, rokas izstieptas cilvēkiem. Gaisma atkal tika ieslēgta.
- Alantim! - to Promobot projekta vadītājs un Maskavas Tehnoloģiskā institūta (MTI) robotikas nodaļas vadītājs Aleksejs Južakovs iepazīstināja ar sabiedrību. - 2012. gadā mēs viņu saucām par Promobotu, tad viņam pielipa aizvainojošais segvārds Piemineklis, tad viņam bija skanīgais vārds Bogdans, bet tagad viņš ir Alantims - par godu jaunās pasaules radītājiem Alanam Turingam un Tinam Bernersam-Lī.
Foto: Skoltech / kot.sh
Alantims joprojām griezās turp un atpakaļ un devās runāt ar žurnālistiem, aplejot viņus ar jokiem un stāstiem par to, kā roboti sagrābs varu uz Zemes un pārdēvēs to par Promobotia. Pie viņa uzreiz ierindojās meiteņu rinda, kas vēlējās, lai viņus nofotografē ar tik mīlīgu radību. Alantims satika meitenes, atbildēja uz jautājumiem par dzīves jēgu un dolāra kursu un atcerējās visus.
Tātad pagāja jaunā Maskavas Tehnoloģiskā institūta Robotikas katedras vadītāja vietnieka robota Alantim pirmā darba diena.
Reklāmas video:
Automašīna ar raksturu
Alantims nav unikāla radība. Permas komanda, kas izveidoja promobotus, jau ir pārdevusi 60 šādas ierīces, un šogad parakstīja līgumus par vēl 124, praktiski izpildot visu Krievijas gada plānu servisa robotikas piegādei - 2014. gadā tika pārdoti tikai aptuveni 200 pašmāju roboti.
Promobots ir autonoms robots ar raksturu, kas paredzēts darbam pārpildītās vietās: virzītājs, gids, šovmenis. Viņš zina, kā atpazīt dažas sarunu biedra emocijas, spēj saprast viņam adresēto jautājumu un atrast atbildi tīmeklī, un, ja nesaprot jautājumu, mēģina to izsmiet.
Pa to laiku mēs devāmies pie Alantim vadītāja - MIT prorektora Jevgeņija Pļužņika
[Šrēdingera kaķis] Kā jums radās ideja organizācijai nolīgt robotu?
[Grigorijs Bubnovs] Mēs tikko sapratām, ka agri vai vēlu pienāks brīdis, kad robotus sāks pieņemt darbā. Un mēs nolēmām kļūt par pionieriem.
[KSh] Ne velti viņi saka, ka roboti pretendē uz mūsu darbu
[GB] Tas faktiski nav joks, bet gan ļoti nopietns drauds, it īpaši apgabalos, kur strādā liels skaits cilvēku. Es domāju, ka, piemēram, jau šajā desmitgadē automašīnas ar autonomu vadību tiks plaši pārdotas, un pēc tam daudzi autovadītāji paliks bez darba. Valdībām neizbēgami būs jāsaskaras ar šo problēmu - jāsāk domāt par to, kā izveidot jaunas darba vietas un pārkvalificēšanās programmas.
[KSh] Kā jūs domājat lietot Alantim? Tāpat kā efektīga rotaļlieta?
[GB] Ne tikai! Piemēram, viņam ir izpētes uzdevums - uzkrāt datus par robotu saziņu ar cilvēkiem, izpētīt individuālas reakcijas uz robotiem. Šī informācija palīdzēs padarīt Alantim turpmāko modifikāciju izskatu un uzvedību cilvēciskāku un ērtāku saziņai.
Foto: Skoltech / kot.sh
[KSh] Kādu informāciju viņš vāc?
[GB] Pirmkārt, dati par reakcijām uz viņa uzvedību - viņam ir sistēma emociju atpazīšanai. Piemēram, kā citi reaģē, kad viņš paceļ roku? Ko darīt, ja viņa veids, kā kaut ko darīt, viņus biedē? Mūsu žestus ir izslīpējusi evolūcija - mēs nevilcinamies, teiksim, kašķējamies pakausī - un ar robotu mums joprojām ir jādodas līdz "dabiskai" uzvedībai. Starp citu, viņš atceras cilvēkus, tos fotografējot.
Bet var būt problēmas: cilvēku attēli tiek uzskatīti par personas datiem, un ir likums, kas ierobežo to izmantošanu. Parasti šeit radīsies daudz juridiska rakstura jautājumu - piemēram, vai ir jāmaksā ienākuma nodoklis par elektrību, kas tika piešķirta robota darbiniekam par uzlādi? Es domāju, ka drīz mēs redzēsim, kā dažādu valstu likumdošana sāks mainīties - līdz ar cilvēku attieksmi pret robotiem.
Gumijas Puškins un citi roboti
Robotu globālais tirgus jau tagad plaukst, pārdošanas apjomi labo rekordus - desmitiem miljardu dolāru pagājušā gada beigās.
0,17% - šī rūpniecisko robotu pasaules tirgus daļa ir Krievijā (pēc 2013. gada datiem).
Foto: Skoltech / kot.sh
No Holivudas grāvēju varoņiem roboti gatavojas pārvērsties par īstiem varoņiem - un mēs sāksim dzīvot kopā ar viņiem. Vai mēs sapratīsimies? Sākot ar šausmu stāstiem par Golemu un Frankenšteinu vai Karela Čapeka lugu, kur vispirms parādās vārds “robots”, visi šie stāsti, kā likums, beidzās ar vienu lietu - cilvēku radītu sacelšanos pret viņu radītājiem. Vai mēs varam radīt realitāti, kas pārsniedz mūsu fantāzijas?
Reklāma projekta Promobot vietnē skaidri izskaidro, kāpēc robotu darbinieks ir labāks par cilvēku: viņam nav nepieciešama alga un kombinezons, strādā bez pārtraukumiem, neslimo, neprotestē, neapjūk, nesaka pārāk daudz, nav nepieciešama apmācība … Ir tik daudz priekšrocību, ka saskaņā ar dažādām aplēsēm nākamajās desmitgadēs roboti var aizņemt no 40 līdz 80% darba vietu, tas ir, mūs apdraud bezprecedenta masveida bezdarba vilnis.
Varbūt galu galā tas pārvērtīsies par zelta laikmetu, kad, kā sapņoja Karls Markss, cilvēki iesaistīsies brīvā radošumā. Bet mums joprojām ir jādzīvo, lai to redzētu - un vēlams, ja nav sociālo katastrofu. Maz ticams, ka būs iespējams būtiski ierobežot robotu izmantošanu: nekad iepriekš likumdošanas aizliegumi nav spējuši apturēt progresu. Kāda jēga? Drīzāk cilvēkiem būs aizliegts vadīt transportlīdzekļus, kad robotu vadītāji kļūst visuresoši. Cilvēks ir pārāk neparedzams. Vai, piemēram, cilvēku piloti, kas spēj lidmašīnu novirzīt zemē vai dzīvojamos rajonos, nav bīstami?
Tas nozīmē, ka mums jāiemācās sadzīvot ar robotiem
Vispirms mēs devāmies uz vietu, kur ir daudz robotu, - uz starptautisko konferenci Skolkovo Robotics. Skolkovo Hypercube pulcējās raiba robotu un to radītāju kompānija. Lieli un mazi, lidojoši un staigājoši bezpilota lidaparāti, profesionāli ugunsdzēsēji un elektroniskie tīrītāji, mehāniskas rokas un kājas, rumpis un galvas …
Šeit ir Puškina gumijas galva, kas piestiprināta uz statīva, it kā uz mieta, vērojot garāmgājējus un nervozi raustot uzaci - cilvēku ir pārāk daudz, acis aizskrien. Dzejnieka seja ir tik līdzīga reālajai, ka jūs izjūtat bijību.
Foto: Skoltech / kot.sh
Netālu atrodas robots, kas nemaz neizskatās pēc cilvēka. Virsbūves vietā ir nūja uz riteņiem, galvas vietā - ekrāns, kas pagriežas visos virzienos. Šis ir telepresences robots Webots, kas izveidots Skolkovā, lai palīdzētu bērniem ar invaliditāti. Jūs varat izveidot savienojumu ar to, izmantojot internetu, pārvietoties pa to ēkā, redzēt un dzirdēt apkārt notiekošo un mijiedarboties ar citiem.
Šādi roboti jau tiek izmantoti vairākās skolās - bērni pieslēdzas viņiem no mājām un ar viņu palīdzību apmeklē stundas, izpilda uzdevumus, atbild uz skolotāju jautājumiem, brauc pie tāfeles un sazinās ar vienaudžiem.
Galvenie pakalpojumu robotu patērētāji Krievijā un visā pasaulē ir cilvēki ar invaliditāti. Robotika viņiem dod cerību uz atgriešanos pilnvērtīgā dzīvē - kā pirmais krievu eksoskeleta ExoAtlet. Tās pilots Jaroslavs, kurš nesen bija spiests vadīt paralizēta cilvēka dzīvi, sabiedrībā staigā kā kiborgs no nākotnes.
Vēl vienu robotu asistentu mums iepazīstināja japāņu profesors Kazuhiko Terashima:
- Japānas sabiedrība strauji noveco, klīnikās nav pietiekami daudz darbinieku. Un mūsu izstrādātais robots Terapio izrādījās lielisks ārsta palīgs. Viņš seko ārstam, nēsā instrumentus, bet pats galvenais, viņš atceras datus, kas padara medicīnisko dokumentāciju nevajadzīgu. Turklāt viņš patstāvīgi veic pacientu lokus un tādā gadījumā izsauc trauksmi.
Viņam ir bērnišķīga sejas izteiksme un maiga balss, viņš zina, kā smieties un raudāt, viņa lielās acis visu laiku mirgo - lai iepriecinātu pacientus, izraisītu viņiem tādu reakciju, kādu izraisa bērni vai kaķēni. Mūsu robots ir svarīgs solis robotizētas slimnīcas projektā, kas nepārtraukti uzrauga pacientus. Starp citu, jūs zināt, tagad operācijas tiek veiktas ar robotu ķirurgu palīdzību.
Foto: Skoltech / kot.sh
Ejot, jūs varat atpazīt android
Hypercube konferenču zālē uzstājas robotika un dizaineri. Mihails Ļebedevs no Hercoga universitātes skaidro, kā viņš pērtiķu smadzenēs implantē čipus, kas ļauj viņiem ar prātu vadīt robotus. Sesiju vada Skolkovas Zinātnes un tehnoloģijas institūta profesors, kosmosa robotu laboratorijas vadītājs Dmitrijs Teterjukovs, kurš daudzus gadus ir strādājis Japānā.
Mēs, protams, piparojām viņu ar jautājumiem.
[Šrēdingera kaķis] Statistiski robotu skaits strauji pieaug, bet kur viņi slēpjas - izņemot tos, kurus izmanto rūpniecībā?
[Dmitrijs Teterukovs] Papildus industriālajiem robotiem pieaug arī dienesta robotu armija - visi ir dzirdējuši par robotiem putekļsūcējiem vai robotizētiem kvadrokopteriem, kas piegādā pirkumus. Daudzas no šīm mašīnām izmanto medicīnā, un ASV armijā tās jau ilgu laiku ir karojušas: piemēram, ar mīnu likvidēšanu nodarbojas izsekotie roboti ar manipulatoru. Kopumā tie bija ļoti noderīgi ārkārtas situācijās, tos izmantoja Fukušimas avārijā.
[KSh] Kādus robotus jūs ražojat Krievijā?
[JT] Es turpinu to, ko darīju Japānā. Viens no projektiem ir kontrolēt robotu grupu, kad viņi rīkojas saskaņā ar kopēju plānu kā viens ganāmpulks, apmainās ar informāciju un ņem vērā viens otra darbību. Mēs, protams, to visu pārbaudīsim šeit, uz Zemes, taču plānojam, ka tie darbosies kosmosā.
[KSh] Zinātniskās fantastikas rakstnieki robotus vienmēr ir raksturojuši kā tādas vientuļas radības …
[JT] Darba sadalīšana starp daudziem ir daudz efektīvāka nekā visu piešķiršana vienam. Piemēram, vienai pašpiedziņas automašīnai ir jāapstrādā visa informācija par pašu ceļu, bet, ja šādas ierīces ir visur, viņiem ir daudz ērtāk rīkoties, pamatojoties uz kopējo ainu un programmu.
[KSh] Kad roboti kļūst līdzīgi cilvēkiem gan ārēji, gan garīgi, tas sāk tevi nedaudz biedēt?
[JT] Ir japāņu profesors Hiroshi Ishiguro, kurš rada androīdus, kas gandrīz neatšķiras no mums - es nesen kļūdījos ar vienu viņa geminoīdu par cilvēku. Bet tas notiek tikai tad, kad viņš sēž. Robots, kas var staigāt kā cilvēks, vēl nav parādījies - to ir viegli atpazīt pēc gaitas. Išiguro izgatavoja gan savu, gan meitas.
Tomēr, ieraugot viņu, meita nobijās, raudāja un aizbēga. Tas ir, kad robots kļūst ļoti līdzīgs personai, notiek tā noraidīšana. Un, kad šis slieksnis tiek pārsniegts, tiek novērsts nedabisks izskats un kustības, robotu sāk uztvert kā reālu cilvēku. Bet, lai to izturētu, ir jāpanāk ne tikai fiziskā līdzība, bet arī intelektuālā - spēja vadīt saprātīgu sarunu.
[KSh] Vai slavenais Turingas kritērijs, saskaņā ar kuru robots jāuzskata par saprātīgu, kuru sarunā nevaram atšķirt no cilvēka? Vai arī tas kaut kā jāpārformulē?
[JT] Šis kritērijs tagad tiek saprasts kā tādu programmu pārbaude, kas simulē cilvēku tērzēšanu. Bet jēga nav tikai intelektā - lai antropomorfu robotu kļūdaini uzskatītu par cilvēku, tam jābūt emocionālam, vienmērīgi jāvirzās, jāuzvedas kā cilvēkam. Jau ir programmas, kas ļoti pārliecinoši demonstrē sarkasmu un ironiju. Es domāju, ka drīz būs atsevišķi testi dažādām spējām: emocionālais Turinga tests pārbaudīs emociju atbilstību, un, piemēram, motora tests - spēja pārvietoties kā cilvēks.
Foto: Skoltech / kot.sh
[KS] Vai jūs nebaidāties, rupji sakot, no robotu sacelšanās?
[DT] Galu galā cilvēki raksta programmas robotiem, kas nozīmē, ka viņi nosaka, ko roboti var un ko nē, kādas vēlmes viņiem būs un kādas nē. Un kāpēc gan kāda iemesla dēļ roboti ietu pret saviem radītājiem?
[KSh] Piemēram, mūsu neizpratnes dēļ, ka viņiem arī ir vajadzīgas tiesības, vai tāpēc, ka pēc to derīguma termiņa beigām tās tiek nojauktas un iznīcinātas. Un programmas robotiem rakstīs ne tikai cilvēki - agri vai vēlu mašīnas kļūs par pašmācīgām
[JT] Viņi tiks apmācīti mūsu noteiktajā ietvaros. Man šķiet, ka nākotnes versija ar cilvēku un robotu konfrontāciju noved pie degradācijas neatkarīgi no tā, kurš uzvar šādā konfrontācijā. Evolūcijas ziņā produktīvs scenārijs ir simbioze, nevis iznīcināšanas karš, parazītisms vai cita pakļaušanās. Turklāt šī simbioze notiks arī cilvēka ķermenī, tāpēc visinteresantākie ētikas jautājumi, manuprāt, radīsies saistībā ar kiborgizāciju.
Kur būs robeža starp cilvēku un mašīnu, kad mēs sākam sev uzstādīt mākslīgos orgānus, instalēt smadzenēs mikroshēmas, uzlabot viņu atmiņu un citas spējas? Man šķiet, ka nākotne mūs sagaida bez sīkrīkiem un personālajiem datoriem - ar to pietiks, lai izteiktu garīgu pieprasījumu vai dotu komandu, jo smadzenes būs savienotas ar Tīklu.
Bet varbūt kiborgiem būs nepieciešami ierobežojoši likumi, līdzīgi kā Asimova robotikas likumos - es tos pat kaut kā formulēju. Viņu būtība ir tāda, ka kiborgā esošā mašīna neizmanto varu pār cilvēku, tāpēc lēmuma pieņemšanas vara paliek personai, nevis viņa galvenajam procesoram.
[KSh] Vai jums ir sapņu robots?
[DT] Tas, iespējams, ir operatora vadīts robots ar telepresences efektu, kas ļautu pilnībā sazināties no attāluma un nodotu operatoram visas sajūtas, radot pilnīgas klātbūtnes efektu.
[CS] Iemiesojums?
[JT] Jā. Es ar šo tēmu nodarbojos jau pirms Avatar iznākšanas, bet, protams, šādas filmas savā ziņā nosaka nākotni - mūsu izpratni par to, pēc kā tiecamies un kas ir iespējams.
Foto: Skoltech / kot.sh
Morālās mašīnas
Tikmēr Hiperkubā sākās diskusija par tēmu "Antropomorfās mašīnas morālais portrets". Psiholoģijas profesors Maksims Kiseļevs teica ievadrunu par robotu morālo raksturu.
"Roboētika risina visas humanitārās problēmas, kas saistītas ar robotiem," viņš paskaidroja. - Piemēram, likumīgi: kurš ir atbildīgs, ja kaut kur brauca automašīna bez vadītāja - pats robots, automašīnas īpašnieks vai programmētājs? Vai sociāls, no kuriem galvenais ir potenciāls bezdarbs. Es pats ne reizi vien esmu bijis robotu rūpnīcās - piemēram, rūpnīcā Svindonā, kur tiek ražoti MINI Cooper automašīnu komponenti. Tajā strādā apmēram divi simti robotu un tikpat daudz cilvēku, un pirms tam bija četri tūkstoši darba vietu. Ir arī specifiski morāli jautājumi, piemēram, tā sauktā robota palīga dilemma. Kā zināt, kad mašīnu palīdzība kļūst neproduktīva? Iedomājieties robotu, mīkstu un pūkainu, kurš seko bērnam un vāc rotaļlietas. Bet bērna normālai attīstībai ir nepieciešams, lai viņš to izdarītu pats.
Piepildīti ar robofobiju, mēs devāmies pie robotikas radītāja, profesora Džanmarko Verudio, Itālijas Elektronikas, informācijas tehnoloģiju un telekomunikāciju institūta Robotikas skolas zinātnes komitejas priekšsēdētāja - viņš vienkārši sēdēja netālu.
[Šrēdingera kaķis] Kā radās roboētika?
[Džanmarko Verudio] Es kādreiz biju Asimova fans, līdz sešpadsmit gadu vecumam es biju izlasījis visas viņa grāmatas. Varbūt tāpēc pēc daudziem gadiem mani pārņēma kaut kas līdzīgs epifānijai, no kuras radās roboētika. Es sapratu, ka Asimova robotikas likumi - "Robots nevar kaitēt cilvēkam" un tā tālāk - nebūt nav likumi, bet vienkārši laba vēlējumi, neviens no tiem praksē netiek ievērots. Patiesais likums ir e = mc2. Tāpat kā citus dabas likumus, to nevar pārkāpt.
Tiesību aktu pārkāpšana tiek sodīta. Un trīs robotikas likumi ir kā Bībeles baušļi, kas saka: "Nenogalini": visi, šķiet, atbalsta, bet neievēro. Šobrīd daudzās pasaules valstīs tiek izstrādātas robotu ieroču sistēmas. Lai nogalinātu, nepieciešami ieroči, kas nozīmē, ka šie roboti ir izveidoti cilvēku nogalināšanai.
Mums jāpiešķir juridisks spēks robotikas likumiem. Šādu likumu rakstīšana ir grūts uzdevums. Pieņemsim, ka robots var nogalināt cilvēku ar nolūku vai varbūt nejauši bojājuma vai programmas trūkumu dēļ, bieži būs grūti atšķirt šīs situācijas. Bet ir vērts sākt domāt par šīm problēmām jau tagad: ja mēs ejam nepareizu ceļu, mēs varam ievērojami sabojāt cilvēces nākotni. Ir neprātīgi veidot nākotni ar aizvērtām acīm, bet līdz šim mēs robotiku attīstām akli.
Kara roboti ir viena no galvenajām robotikas problēmām. Mēs cenšamies tam pievērst dažādu starptautisku organizāciju uzmanību. Tā nav tikai mana iniciatīva, ir starptautiska kustība "Stop the killer robots!", Kurš kampaņas internetā un kuru atbalsta ANO.
Vēl viena problēmu grupa ir saistīta ar tēmu par biorobotiem un mākslīgajiem orgāniem. Cik lielā mērā mēs, piemēram, varam iejaukties cilvēka smadzeņu darbā? Mans draugs eksperimentē ar žurkām - ievieto elektronus viņu smadzenēs un kontrolē viņu uzvedību. Viņš ir īsts žurku pilots! Bet, kad cilvēka smadzenes ir pilnas ar visu veidu neiroimplantiem, kas uzlabo spējas vai kontrolē kibernētiskos orgānus, tad līdzīgu kontroles pārtveršanu var veikt arī ar cilvēkiem.
Foto: Skoltech / kot.sh
[KS] Bet mēs nevaram atteikties no tehnoloģiju priekšrocībām tikai tāpēc, ka jaunas iespējas vienmēr iet roku rokā ar jaunām briesmām?
[DV] Kā atrisināt šīs problēmas, lai tehnoloģijas nepadara mūs par kontrolētiem vadības objektiem, bet, gluži pretēji, palielina mūsu brīvību? Man nav atbildes uz šo jautājumu, es tikai gribu to uzdot, apzinoties visu tā sarežģītību un mūsu situācijas redzējuma nepilnīgumu.
Pirms roboētikas rodas daudz negaidītu jautājumu. Iedomājieties, piemēram, šādu situāciju: robotu medmāsa rūpējas par vientuļu vecāka gadagājuma cilvēku, kurš vairāk nekā jebkurš cits sazinās ar automašīnu. Un viņa ātri sāk uzskatīt viņu par cilvēku, mīl viņu kā cilvēku un ciest, ja viņa sabojājas - mēs to mēdzam darīt pat ar primitīvu Tamagotči, taču šeit būs daudz spēcīgākas jūtas. Vai šādu robotu var izslēgt? Man cilvēks ir cilvēks, un mašīna ir mašīna, bet es baidos, ka cilvēki drīz sāks kļūdīties …
[KSh] Kā tu viņus atšķir? Tērzēšanas roboti jau iztur Turinga testu …
[DW] Es sāktu ar to, ka mūsu psihe nav tikai ķermenī, tāpat kā traukā. Psihe ir iebūvēta ķermenī - mēs kļūstam inteliģenti un apzināti, iegūstot ķermeņa pieredzi. Mākslīgā intelekta koncepcija, kuru datorzinātnieki izstrādāja pagājušā gadsimta sešdesmitajos gados, pieņēma, ka virtuālā pasaule ir pietiekama, lai tā parādītos. Tagad šo ideju jokojot sauc par GOFAI (vecmodīgs mākslīgais intelekts), un izstrādātājiem kļuva skaidrs, ka, lai iegūtu inteliģences līdzību, programmai būs nepieciešams robota korpuss un ilga pieredze mijiedarbībā ar reālo pasauli. Bet, vispārīgi runājot, mēs nevaram izveidot inteliģentu mašīnu kaut vai tāpēc, ka mums joprojām ir ļoti slikta izpratne par to, kā darbojas smadzenes, kāds ir saprāts un apziņa.
[KSh] Tātad, robotika nenodarbojas ar robotu tiesībām? Bet ko jūs darīsit, ja rīt jūsu dators teiks: "Man ir bail, neizslēdziet mani?"
[DW] Nē, robotu tiesības mani sāks uztraukt, kad pēdējam cilvēkam uz planētas būs visas tiesības. Joprojām ir pārāk daudz darba, lai cilvēki sāktu rūpēties par automašīnām. Roboētika ir saistīta ar cilvēkiem, mums tas jādara, jo mēs paši veidojam savu nākotni.
Publicēts populārzinātniskajā žurnālā "Schrödinger's Cat" # 5 (07) par 2015. gada maiju