Nodaļa no grāmatas, kuru izdevusi Politehniskais muzejs
Cilvēks un robots - kur ir robeža starp viņiem un kādas briesmas rada mūsu tuvums? Balstoties uz personīgo pieredzi, daudzām intervijām un jaunāko pētījumu datiem, visiecienītākais zinātnieks šajā jomā Deivids Mindells piedāvā aizkulišu skatus uz visnovatoriskākajiem robotikas lietojumiem. Indicaror. Ru publicē nodaļu no savas grāmatas “Mašīnu pieaugums ir atcelts! Mīti par robotizāciju”.
Cilvēka darbināms - tālvadības - autonoms
Dziļi naktī, augstu virs Atlantijas okeāna plašajā atklātajā telpā starp Brazīliju un Āfriku, sliktajos laika apstākļos tika nozvejota plānotā pasažieru lidmašīna. Saldētais ledus aizsprostoja mazas caurules lidmašīnas degunā, kas noteica tā ātrumu un pārsūtīja datus uz datoriem, kas kontrolē lidmašīnu. Datori varēja turpināt lidot bez šīs informācijas, taču tajos iestrādātā programma šādu izlīdzināšanu neparedzēja. Automātiskā lidošanas pa vadiem sistēma atteicās un apstājās, nododot kontroli cilvēkiem - pilotiem, kas sēdēja līnijpārvadātāja kabīnē: 32 gadus vecajam Pjēram-Sedrijam Boninam un 37 gadus vecajam Deividam Robertam. Boninu un Robertu, gan atvieglotus, gan mazliet nogurušus, pieņēma pārsteigums, kad pēkšņi viņi uzzināja, ka sliktos laika apstākļos un pat naktī viņiem būs manuāli jālido milzīgs lidmašīna lielā augstumā. Un labvēlīgākos apstākļos tas būtu grūts uzdevums, ar kuru piloti pēdējā laikā nav saskārušies. Apkalpes komandieris, 58 gadus vecais Marcs Duboiss, tajā brīdī nelidoja ar lidmašīnu, bet atpūtās salonā. Pilotiem bija jāpavada dārgs laiks, lai viņu iesauktu kabīnē. Neskatoties uz to, ka brīdī, kad datori tika izslēgti, lidmašīna atradās vienā līmenī tiešā lidojumā, pilotiem nebija viegli saprast neliela gaisa parametrus. Viens no viņiem pavilka vadības rokturi pret sevi, otrs to virzīja uz priekšu. Pasažieru lidmašīna apmēram minūti turpināja taisnu lidojumu un tad sāka krist. Pilotiem bija jāpavada dārgs laiks, lai viņu iesauktu kabīnē. Neskatoties uz to, ka brīdī, kad datori tika izslēgti, lidmašīna atradās vienā līmenī tiešā lidojumā, pilotiem nebija viegli saprast neliela gaisa parametrus. Viens no viņiem pavilka vadības rokturi pret sevi, otrs to virzīja uz priekšu. Pasažieru lidmašīna apmēram minūti turpināja taisnu lidojumu un tad sāka krist. Pilotiem bija jāpavada dārgs laiks, lai viņu iesauktu kabīnē. Neskatoties uz to, ka brīdī, kad datori tika izslēgti, lidmašīna atradās vienā līmenī tiešā lidojumā, pilotiem nebija viegli saprast neliela gaisa parametrus. Viens no viņiem pavilka vadības rokturi pret sevi, otrs to virzīja uz priekšu. Pasažieru lidmašīna apmēram minūti turpināja taisnu lidojumu un tad sāka krist.un tad sāka krist.un tad sāka krist.
2009. gada 1. jūnijā Air France Flight 447 ielidoja okeānā, nogalinot vairāk nekā 200 pasažieru un apkalpi. Viņš gandrīz bez pēdām pazuda viļņos. Starptautiskā aviosabiedrību savstarpēji savienotajā sistēmā visā pasaulē nav iedomājams, ka lidmašīna vienkārši pazustu. Tika organizēts liela mēroga koordinēts meklēšanas darbs. Tikai dažas dienas vēlāk lidmašīnas pēdas tika atrastas okeāna dibenā. Neskatoties uz to, lai atrastu lielāko daļu lidmašīnas vraku un melnās kastes, pateicoties kurām bija iespējams noskaidrot traģēdijas cēloni, tas veica meklēšanu plašajā okeāna dibena teritorijā, kas bezcerīgi lēnām pārvietojās. Vairāk nekā divus gadus vēlāk 3,2 km dziļumā gandrīz tajā pašā vietā, kur lidmašīna ietriecās okeāna virsmā,autonoms zemūdens transportlīdzeklis ar nosaukumu Remus 6000 klusi slīdēja cauri tumsai zem ūdens kolonnas milzīgā spiediena. Virzoties nedaudz ātrāk nekā gājējs, robpēds, kas veidots pēc torpēdas, uzturēja nemainīgu augstumu aptuveni 60 m virs dibena. Šajā pozīcijā viņa akustiskais skeneris uztvēra skaidrākos attēlus. Akustiskais signāls visos virzienos devās apmēram 800 m, un caur atgrieztajiem signāliem robots vāca gigabaitus informācijas.caur atgrieztajiem signāliem robots vāca gigabaitus informācijas.caur atgrieztajiem signāliem robots vāca gigabaitus informācijas.
Virsma bija kalnaina, tāpēc okeāna dibens strauji cēlās. Neskatoties uz mākslīgo intelektu, robots laiku pa laikam atsitās pret virsmu, visbiežāk bez jebkādām sekām. Trīs no šiem robotiem harmoniski strādāja tandēmā: kamēr divi no viņiem meklēja zemūdens, trešais atradās uz kuģa virspusē. Šāda "bedres pietura" ilga trīs stundas, kuru laikā cilvēki, kas apkalpo robotu, pārrakstīja informāciju, uzlādēja baterijas un uzstādīja jaunus meklēšanas plānus. Uz kuģa divpadsmit stundu maiņās strādāja Woods Hole okeanogrāfijas pētījumu institūta divpadsmit inženieru komanda Maika Purcela vadībā, kurš bija meklēšanas transportlīdzekļu dizaina un izstrādes pionieris. Viņi tika piekrauti tāpat kā jebkura Formula 1 mehāniķu komanda.
Kad ierīce pacēlās uz virsmas, inženieriem vajadzēja apmēram 45 minūtes, lai savākto informāciju lejupielādētu datorā, pēc tam vēl pusstundu, lai to apstrādātu, lai to varētu ātri apskatīt monitorā. Francijas un Vācijas izmeklētāji un Air France pārstāvji paraustījās uz pleciem. Viņu rīcība šķita apdomīga un apdomīga, taču gaisā karājās spriedze: likmes bija pārāk augstas attiecībā uz francūžu nacionālo lepnumu un Airbus ražotāja reputāciju, kā arī visu gaisa ceļojumu drošību.
Reklāmas video:
Vairākas iepriekšējās ekspedīcijas bija neveiksmīgas. Francijā, Brazīlijā un visā pasaulē upuru ģimenes gaidīja jaunumus. Informācijas atšifrēšanai no akustiskā skenera nepieciešama rūpīga analīze, kurai nevar pilnībā uzticēties dators. Purčels un viņa inženieri paļāvās uz gadu uzkrāto pieredzi. Monitoros viņi pētīja akmeņaino grunts kilometru pēc kilometra. Šis ikdienas darbs ilga piecas dienas, līdz tā monotonija tika pārtraukta: uz ekrāna parādījās gružu uzkrāšanās, un pēc tam zinātnieki nokļuva katastrofas vietā - viņi saņēma spēcīgu signālu no mākslīgiem objektiem okeāna tuksnesī. Vismaz tā viņi pieņēma, bet joprojām nevarēja droši pateikt. Inženieri pārprogrammēja transportlīdzekļus tā, lai tie atgrieztos katastrofas vietā un cauri tam virzītos uz priekšu un atpakaļ. Šoreiz robotiem bija jāiet pietiekami tuvu, lai kameras varētu fotografēt aptuveni 9 m augstumā virs apakšas, ņemot vērā sānu lukturus. Kad transportlīdzekļi parādīja attēlus uz virsmas, inženieri un izmeklētāji redzēja katastrofas teritoriju un saņēma atbildi: viņi atrada lidmašīnas vraku, kas kļuva par kapi simtiem cilvēku. Drīz traģēdijas vietā atgriezās vēl viena komanda ar cita veida robotu - ar tālvadību vadītu zemūdens transportlīdzekli. Drīz traģēdijas vietā atgriezās vēl viena komanda ar cita veida robotu - ar tālvadību vadītu zemūdens transportlīdzekli. Drīz traģēdijas vietā atgriezās vēl viena komanda ar cita veida robotu - ar tālvadību vadītu zemūdens transportlīdzekli.
Tā bija lieljaudas ierīce, kas īpaši izstrādāta darbam dziļumā. Tas tika savienots ar kuģi, izmantojot kabeli. Izmantojot kartes, kas izveidotas pēc veiksmīgas meklēšanas, ROV izvietoja melnās kastes - lidmašīnas balss ierakstītāju un datu reģistratoru - un pacēla tās uz virsmu. No okeāna dziļuma tika iegūti nolemto pilotu pēdējās minūtes, un tagad izmeklētāji varēja atjaunot liktenīgos apstākļus, kas izraisīja neskaidrības robotizētajā lidmašīnā. Pēc tam zemūdens transportlīdzeklis uzsāka skumju misiju - atgūt mirušo mirstīgās atliekas.
Air France Lidojuma 447 avārija un operācija tā vraku atrašanai saista moderno automatizāciju un robotiku divās ekstremālās vidēs: stratosfēras malās un jūras dzīlēs. Lidaparāts iekrita okeānā cilvēku mijiedarbības ar automatizētajām sistēmām kļūdu dēļ. Tad tā fragmentus atklāja cilvēki, izmantojot attālināti vadāmus un autonomus robotus.
Lai arī vārdi “automatizēts” un “autonoms” (to visizplatītākajā nozīmē) norāda uz to, ka šādas sistēmas darbojas neatkarīgi, abos gadījumos kļūme vai panākumi nebija saistīti ar mašīnām un cilvēkiem, kas rīkojās atsevišķi, bet gan ar mašīnu kombinēto darbību. un cilvēki. Cilvēku piloti cīnījās par automatizētas lidmašīnas dzīvību, lai panāktu lielāku drošību un uzticamību; avārijas vietas atrašanā palīdzēja daudzi savstarpēji savienoti kuģi, satelīti un brīvi peldošas bojas; inženieri apstrādāja no robotiem saņemto informāciju un rīkojās pēc tās.
Automatizētie un autonomi transportlīdzekļi pastāvīgi atgriezās to radītājiem - cilvēkiem - informācijai, enerģijai un virzienam. Air France Lidojuma 447 traģēdija lika saprast, ka, pastāvīgi pielāgojot un modificējot savu vidi, mēs sevi pārtaisām. Kā piloti varēja kļūt tik atkarīgi no datoriem, ka jūrā nometa perfekti strādājošu lidmašīnu? Kāda ir cilvēku loma tādās jomās kā transportēšana un transportēšana, pētniecība un militārās aktivitātes, kad šķiet, ka arvien vairāk un vairāk primāri svarīgu uzdevumu veic mašīnas? Galējais viedoklis ir tāds, ka cilvēki ir tuvu "nodošanai ekspluatācijā", ka robotiem "burtiski vajadzīgs viens programmatūras atjauninājums", lai tie kļūtu pilnībā autonomi, kā nesen rakstīja zinātniskais amerikānis. Šis skats mums sakaka roboti attīstās - mēs arvien vairāk satiekamies viņiem pazīstamā vidē. Bažas par mākslīgā intelekta nezināmajām un apšaubāmajām iespējām rada pārliecība, ka mēs atrodamies uz "superinteliģences" kulna. Mūsu pasaule atrodas uz pārmaiņu robežas, patiesībā tā jau mainās robotu un automatizācijas ietekmē.
Pēkšņi parādās jauni projekti, kas iemieso vecos sapņus par viedām mašīnām, kas mums palīdz veikt savus profesionālos pienākumus, atvieglo fizisko darbu un ikdienas darbus ikdienas dzīvē. Roboti, kas pastāv un darbojas cilvēku tiešā tuvumā fiziskā, izziņas un emocionālā līmenī, kļūst par arvien plašāku un daudzsološāku pētījumu tēmu. Autonomija - sapnis, ka roboti kādu dienu izturēsies kā pilnīgi neatkarīgas vienības - joprojām ir iedvesmas, jauninājumu un baiļu avots. Uztraukumu rada eksperimenta smagums; šo tehnoloģiju precīzās formas nebūt nav pilnīgas, un vēl mazāk drošas ir to sociālās, psiholoģiskās un izziņas sekas.
Kā mūs mainīs roboti? Kādā tēlā un līdzībā mēs tos veidosim? Kas paliks no mūsu tradicionālajām darbības jomām - zinātnieka, jurista, ārsta, karavīra, vadītāja un pat šofera un sētnieka -, kad šos uzdevumus veiks mašīnas? Kā mēs dzīvosim un strādāsim? Mums nevajag spekulēt: lielākoties šī nākotne jau ir ieradusies šodien, ja ne ikdienas dzīvē, tad ekstremālos apstākļos, kur mēs jau vairākus gadu desmitus izmantojam robotus un automātiku. Cilvēks pats par sevi nevar eksistēt atmosfēras augšējos slāņos, okeāna dzīlēs, kosmosā. Sakarā ar nepieciešamību sūtīt cilvēkus uz šiem bīstamajiem apstākļiem, robotika un automatizācija šajās jomās tika izveidota un ieviesta agrāk nekā citās darbības jomās, kuras mums ir pazīstamākas.
Ekstrēmās vidēs tiek pārbaudītas attiecības starp cilvēkiem un robotiem. Šādā vidē parādās visnovatoriskākie notikumi. Šeit inženieriem ir vislielākā brīvība eksperimentēt. Neskatoties uz fizisko izolāciju, tieši šeit sāka izpausties dažādu ierīču kognitīvā un sociālā ietekme. Ņemot vērā cilvēku dzīvības, dārgu aprīkojumu un svarīgas misijas, autonomija vienmēr jāierobežo ar drošības un uzticamības apsvērumiem. Šādos apstākļos ikdienas dzīves iedomība un lietas īslaicīgi izgaismojas fonā, un mēs atrodamies no apkārtējās tumsas norobežotas, spokainas cilvēku dzīves alegorijas tehnoloģiju pasaulē. Sociālie un tehnoloģiskie procesi lidmašīnas kabīnē vai dziļūdens transporta līdzekļa iekšienē neatšķiras no līdzīgiem procesiem rūpnīcā, birojā vai automašīnā. Bet ekstremālos apstākļos tie parādās skaidrāk un tāpēc ir vieglāk saprotami.
Katrs lidmašīnas lidojums ir stāsts, tāpat kā katra okeanogrāfiskā ekspedīcija, lidojums kosmosā vai militārā operācija. Izmantojot šos konkrētu cilvēku un mašīnu stāstus, mēs varam apkopot datus par smalko dinamiku. Ekstremālos apstākļos mēs iegūstam priekšstatu par savu tuvāko nākotni, kad šādas tehnoloģijas var ieviest tādās cilvēka darbības jomās kā autotransports, veselības aprūpe, izglītība utt. Ierīces, kuras persona kontrolē no attāluma vai autonomi, paver kvalitatīvi jaunas iespējas cilvēku un mašīnu mijiedarbībai, jaunas klātbūtnes formas un jauna pieredze, vienlaikus pievēršot mūsu uzmanību briesmām, ētiskajiem aspektiem un nevēlamām sekām, kas rodas, dzīvojot ap viedajām mašīnām. Mēs redzam nākotni, kurā cilvēka klātbūtne un zināšanas kļūs svarīgākas,nekā jebkad, bet savā ziņā neparastā un nepazīstamā. Un šīs automašīnas ir vienkārši brīnišķīgas.
Es neesmu vienīgais, kurš visu mūžu ir apbrīnojis lidmašīnas, kosmosa kuģus un zemūdenes. Faktiski stāstu varoņus, kurus es pastāstīšu zemāk, vadīja ne tikai praktisko labumu meklēšana - viņus arī kaislība uz jaunajām tehnoloģijām. Nav nejaušība, ka šādi stāsti bieži aprakstīti zinātniskās fantastikas darbos par cilvēkiem un mašīnām. Stāsti par cilvēkiem un mašīnām, kas mijiedarbojas ar savu iespēju robežu, ir aizraujoši, pārsteidzoši un modina cerības par to, kas mēs varam kļūt. Šis entuziasms dažreiz atspoguļojas naivā pārliecībā par tehnoloģiju perspektīvu. Bet pamazām šāda interese mūs ved pie galvenajiem filozofiskajiem un humānisma jautājumiem:kas mēs esam? Kā mēs esam saistīti ar savu darbu un viens ar otru? Kā mūsu darbi paplašina mūsu pieredzi? Kā mēs varam dzīvot šajā mainīgajā pasaulē? Šie jautājumi rodas paši, kad sākat runāt ar cilvēkiem, kuri rada un kontrolē robotus un mašīnas. Es vēlos dalīties ar jums informācijā, ko saņēmu no pirmās puses, no visdetalizētākajām intervijām un Masačūsetsas Tehnoloģiju institūta un citu organizāciju jaunāko pētījumu rezultātiem, kuru ietvaros robotikas un automatizācijas testi tiek veikti okeāna dziļuma ekstremālos apstākļos, gaisa lidojumu laikā (civilie un militārie). un kosmosā. Šī nav iedomāta nākotne, bet tas, kas notiek šodien: mēs redzēsim, kā cilvēki kontrolē robotus un saņem informāciju caur autonomām ierīcēm, analizēsim, kā šī mijiedarbība ietekmē viņu darbu,dzīves pieredze, prasmes un iemaņas.
Mūsu stāsts sākas tur, kur es pats sāku - okeāna dzīlēs. Pirms divdesmit pieciem gadiem, kad es biju inženieris, kurš izstrādāja iegultus datorus un instrumentus dziļūdens robotiem, es biju pārsteigts, atklājot, ka šī tehnika neparedzamā veidā maina okeanogrāfiju, zinātniskās metodes un pat okeanogrāfa profesijas būtību. Šī izpratne lika man veidot divas paralēlas karjeras. Kā zinātnieks esmu izpētījis mijiedarbību starp cilvēkiem un mašīnām, sākot ar bruņu kuģiem Amerikas pilsoņu kara laikā un beidzot ar datoriem un programmatūru, kas palīdzēja Apollo astronautiem nolaisties uz Mēness.
Kā inženieris es integrēju no šī pētījuma iegūtos datus mūsdienu projektos - izstrādājot robotus un ierīces ciešai mijiedarbībai ar cilvēkiem. Dažos stāstos es parādos kā dalībnieks, citos - kā novērotājs, bet citos - abos šajos veidos vienlaikus. Gadu gaitā uzkrājot pieredzi, meklējot un runājot ar cilvēkiem, es pārliecinājos, ka mums ir jāmaina domas par robotiem. Pat valoda, kurā mēs par viņiem runājam, drīzāk ir ņemta no 20. gadsimta zinātniskās fantastikas, un tai nav nekā kopīga ar mūsu laika tehniskajiem sasniegumiem. Piemēram, attālināti vadāmus lidaparātus sauc par droniem, it kā tie nebūtu prātīgi automāti, ja patiesībā tos stingri kontrolē cilvēki.
Roboti bieži tiek prezentēti (un pārdoti) kā pilnīgi autonomi starpnieki, taču pat mūsdienās ierobežotā autonomija bieži pastāv tikai cilvēka iztēlē. Roboti, kurus mēs izmantojam tik plaši un daudzveidīgi, gandrīz nav draudu automāti - tie ir iestrādāti sociālajos un tehniskajos tīklos tāpat kā mēs. Zemāk mēs apskatīsim daudzus piemērus, kā mēs strādājam kopā ar mūsu mašīnām. Tas viss ir par kombinācijām. Ir pienācis laiks apsvērt, kādas funkcijas mūsdienu roboti faktiski veic, lai labāk izprastu mūsu attiecības ar šiem bieži vien pārsteidzoši izveicīgajiem cilvēku roku darbiem. Piedāvāju jums ar pētījumu pamatotu empīrisku secinājumu: neatkarīgi no tā, kādus robotus dara laboratorijā, patiesībā, kur uz spēles ir liktas cilvēku dzīvības un reālie resursi,mēs cenšamies ierobežot viņu autonomiju līdz lielam skaitam nepieciešamo apstiprinājumu un cilvēku iejaukšanās iespējām.
Es neapgalvoju, ka mašīnas ir gudras, un es nesaku, ka kādu dienu tās var nebūt pietiekami gudras. Es drīzāk apgalvoju, ka šādas mašīnas nav izolētas no cilvēkiem. Uzskaitīsim trīs 20. gadsimta mītus, kas saistīti ar robotiku un automatizāciju. Pirmais mīts ir lineārs progress - ideja, ka tehnoloģija pāries no tiešas cilvēku vadības uz tālvadības pulti, un pēc tam uz pilnībā autonomiem robotiem. Šī mīta būtību atspoguļo filozofa Pētera Singera vārdi, kurš pastāvīgi runā autonomu sistēmu aizstāvēšanā. Viņš raksta, ka "cilvēku spējas saglabāt kontroli pār notiekošo tiek anulētas gan pie stūres esošajiem, gan tieši ar tehnoloģiju palīdzību, un tāpēc cilvēki drīz tiks izslēgti no kontroles cilpas". Bet nav pamata pieņemtka evolūcija sekos šim ceļam, ka pati tehnoloģija, kā raksta Singers, novedīs pie kaut kā līdzīga. Faktiski ir pierādījumi, ka cilvēki pamazām nonāk dziļākā kontaktā ar viņu mašīnām.
Mēs pastāvīgi redzam, ka cilvēki, kurus attālināti kontrolē viņi, un autonomi transportlīdzekļi attīstās paralēli, ietekmējot viens otru. Piemēram, bezpilota lidaparāti nevarētu lidot ASV nacionālajā gaisa telpā bez attiecīgām izmaiņām vīriešu komandējumos. Vai arī ņemtu vēl vienu piemēru: jaunie sasniegumi robotikā kosmosa kuģu uzturēšanas jomā tiek atspoguļoti astronautu darbā ar Habla kosmisko teleskopu. Vismodernākās (un sarežģītākās) tehnoloģijas nav tās, kas darbojas atsevišķi no cilvēkiem, bet gan tās, kuras ir visdziļāk iestrādātas sociālajā sistēmā un ātrāk reaģē uz notiekošo tajā. Otrais ir aizstāšanas mīts, ideja, ka mašīnas pakāpeniski sāks pārņemt visus cilvēka veicamos uzdevumus. Šis mīts ir divdesmitā gadsimta versija tam, ko es saucu par dzelzs zirga fenomenu.
Sākotnēji cilvēki iedomājās, ka dzelzceļš liegs vajadzību pēc zirgiem, bet vilcieni ir parādījuši sevi kā ļoti nesvarīgus zirgus. Dzelzceļi ieņēma viņu vietu, kad cilvēki ar viņu palīdzību iemācījās darīt pilnīgi jaunas lietas. Cilvēcisko faktoru pētnieki un izziņas zinātnieki apgalvo, ka automāti reti tikai “mehanizē” cilvēka uzdevumus. Drīzāk viņi mēdz apgrūtināt uzdevumu, bieži palielinot darba slodzi (vai pārdalot to). Ar tālvadību vadīti gaisa kuģi neveic tos pašus uzdevumus, ko pilda ar gaisa kuģi; viņi uzņemas jaunas funkcijas. Tālvadības roboti uz Marsa neatkārto ģeologu darbu uz lauka;viņi un cilvēki, kas ar viņiem strādā, iemācās veikt lauka pētījumus jaunā vidē, izmantojot attālinātus mehānismus.
Visbeidzot, mums ir trešais mīts - mīts par pilnīgu autonomiju, utopiska ideja, ka roboti šodien vai nākotnē var rīkoties pilnīgi neatkarīgi. Jā, automāti, protams, var veikt dažus no uzdevumiem, ko cilvēki agrāk veikuši, un tie patiešām reaģē uz apkārtējās vides izmaiņām ierobežotu laika periodu. Bet mašīnas, kas nav atkarīgas no cilvēka virziena, ir bezjēdzīgas mašīnas. Tikai akmens var būt patiesi autonoms (bet pat akmens tika izveidots un novietots savā vietā, pateicoties tā videi). Automatizācija maina cilvēka iesaistīšanās pakāpi mašīnas darbībā, bet pilnībā nenovērš vajadzību pēc tās. Jebkurā sistēmā, pat šķietami autonomā sistēmā, mēs vienmēr varam atrast saskarni, pateicoties kurai cilvēks var kontrolēt savu darbu,lasīt informāciju un, pateicoties kurai tā kļūst noderīga. Citējot vienu no jaunākajiem ASV Aizsardzības zinātnes padomes ziņojumiem: "Nav pilnībā autonomu sistēmu, tāpat kā nav pilnīgi autonomu karavīru, jūrnieku, lidotāju vai jūrnieku."
Lai domātu 21. gadsimta izteiksmē un mainītu savus uzskatus par robotiku, automatizāciju un it īpaši jaunāko autonomijas ideju, mums ir jāsaprot, kā cilvēka nodomi, plāni un pieņēmumi maina viņu radītās mašīnas būtību. Katrs operators, kontrolējot savu aparātu, mijiedarbojas ar dizaineriem un programmētājiem, kuru klātbūtne mašīnā ir nemainīga - pat strukturālo elementu vai kodu līniju veidā, kas izveidoti pirms daudziem gadiem. Air France Flight 447 borta datori varēja turpināt lidot ar lidmašīnu ar ierobežotiem gaisa ātruma datiem, taču cilvēki tos bija ieprogrammējuši, lai neļautu viņiem to darīt. Pat ja programmatūra veic darbības, kuras nevar paredzēt, tā rīkojas saskaņā ar izstrādātāju noteiktajām shēmām un ierobežojumiem. Tas,tas, kā sistēma tika izstrādāta, kurš un kādiem nolūkiem nosaka tās iespējas un mijiedarbības veidus ar cilvēkiem, kuri to izmanto. Mans mērķis ir izrauties no šiem mītiem un izprast autonomijas jēdzienu 21. gadsimta kontekstā.
Zemāk aprakstīto stāstu ietvaros es plānoju pārveidot publisko diskursu un izveidot koncepcijas karti jaunam laikmetam. Lai izveidotu šādu karti, runājot par ierīcēm un robotiem šajā grāmatā, es strādāšu ar cilvēka kontrolēta, attālināta un autonoma jēdzieniem. Pirmais ir ne vienmēr atbilstošā vārda “apkalpots” analogs, tāpēc dažos gadījumos “kontrolēts” nozīmēs “transportlīdzeklī esoša cilvēka kontrolēts”. Tie, protams, ir veci un pazīstami aparātu veidi, piemēram, kuģi, lidmašīnas, vilcieni un automašīnas - mašīnas, caur kurām cilvēki ceļo. Parasti cilvēku kontrolētas sistēmas nemaz neuzskata par robotiem, lai gan tās arvien vairāk atgādina robotus, kuru iekšienē ir cilvēki. Remote, attālināti vadīta transportlīdzekļa saīsināta forma, vienkārši norāda, kur atrodas operators attiecībā pret transportlīdzekli. Pat ja kognitīvais attālinātās sistēmas vadības uzdevums gandrīz pilnībā sakrīt ar fiziski klātesošā operatora tieši veikto, operatora klātbūtnei vai neesamībai un ar to saistītajiem riskiem tiek piešķirta liela kultūras nozīme.
Visspilgtākais piemērs ir attālā karadarbība tūkstošiem kilometru attālumā no kara zonas. Šī ir pieredze, kas pilnīgi atšķiras no parasta karavīra uzdevumiem. Kā izziņas parādība cilvēka klātbūtne ir savstarpēji saistīta ar sociālo aspektu. Automatizācija ir arī divdesmitā gadsimta ideja un joprojām atspoguļo mehānisko uzskatu, ka mašīnas soli pa solim ievēro iepriekš noteiktas procedūras. Termins “automatizēts” parasti tiek izmantots, lai aprakstītu datorus lidmašīnā, lai arī tie ietver mūsdienīgus, diezgan sarežģītus algoritmus. Autonomija ir mūsdienās modīgāks vārds un viena no galvenajām pētniecības prioritātēm arvien sarūkošajā ASV Aizsardzības departamentā. Daži pētnieki skaidri nošķir autonomiju un automatizāciju, bet, manuprāt,atšķirība starp autonomiju slēpjas tikai plašākā neatkarīgu lēmumu pieņemšanas pakāpē nekā vienkāršā atgriezeniskā saite; turklāt "autonomijas" jēdziens ietver un apvieno daudzas idejas, kas aizgūtas no mākslīgā intelekta teorijas un citām disciplīnām. Un, protams, ideja par indivīdu un grupu autonomiju kļūst par pastāvīgu polemiku politikā, filozofijā, medicīnā un socioloģijā. Tam nevajadzētu būt pārsteigumam, jo tehniķi bieži aizņemas terminus no sociālajām zinātnēm, lai aprakstītu savas mašīnas.ideja par indivīdu un grupu autonomiju kļūst par pastāvīgu polemiku politikā, filozofijā, medicīnā un socioloģijā. Tam nevajadzētu būt pārsteigumam, jo tehniķi bieži aizņemas terminus no sociālajām zinātnēm, lai aprakstītu savas mašīnas.ideja par indivīdu un grupu autonomiju kļūst par pastāvīgu polemiku politikā, filozofijā, medicīnā un socioloģijā. Tam nevajadzētu būt pārsteigumam, jo tehniķi bieži aizņemas terminus no sociālajām zinātnēm, lai aprakstītu savas mašīnas.
Pat dizaina biznesā terminam “autonomija” var būt vairākas atšķirīgas nozīmes. Kosmosa kuģa konstrukcijas autonomija sastāv no datu apstrādes, kas nepieciešama kosmosa kuģa darbībai (neatkarīgi no tā, vai tā ir riņķojoša automatizēta stacija vai mobilais robots), nodalījumā no tādiem uzdevumiem kā misijas plānošana. Masačūsetsas Tehnoloģiju institūtā, kur es pasniedzu, autonomijas inženierzinātņu kursu saturs galvenokārt aptver "ceļa plānošanu" - kā nokļūt no viena punkta uz otru, pavadot pietiekamu laika daudzumu un neko nedarot. Citās sistēmās autonomija ir analoga izlūkošanai, spēja pieņemt lēmumus, ko persona pieņemtu noteiktās situācijās, vai spēja rīkoties apstākļoskuras ierīces veidotāji negaidīja vai neparedzēja.
Autonomie zemūdens aparāti tiek saukti tāpēc, ka tie darbojas paši un ir pretstatīti attālināti vadāmiem transportlīdzekļiem, kurus ar kuģi savieno gari kabeļi. Neskatoties uz to, inženieri, kas izveido šādas autonomas zemūdenes, saka, ka viņu ierīces ir daļēji autonomas, jo tikai retos gadījumos tās darbojas bez jebkāda kontakta ar operatoru. Termins “autonoms” nozīmē lielāku rīcības brīvību. Tas apraksta aparāta darbības veidu, kas ir potenciāli nepastāvīgs faktors. Nesenajā pētījumā tiek ierosināts termins "autonomijas palielināšana": šādā veidā autori uzsver autonomijas relatīvo raksturu un apgalvo, ka "pilnīga" autonomija, tas ir, mašīnas, kurām nav jāsaņem informācija no personas, vienmēr būs nesasniedzamas.
Šajā grāmatā funkcionējoša autonomijas definīcija būs: cilvēka izstrādāti līdzekļi, lai pārveidotu informāciju no vides mērķtiecīgos plānos un darbībās. Formulējumam ir nozīme, un tas diskusijām piešķir atšķirīgu garšu. Bet mums nevajadzētu uz tiem pakavēties. Es bieži paļaušos uz valodu (kas dažreiz var būt neprecīza), ko izmanto cilvēki, ar kuriem es strādāju. Šīs grāmatas jēga nav definīcijās, bet gan reālā darba aprakstos - kā cilvēki šīs sistēmas izmanto reālajā pasaulē, iegūstot jaunu pieredzi, pētot vai pat cīnoties un nogalinot. Kas īsti notiek? Ja pievērsīsit uzmanību dizaineru un to, kuri izmanto robotus, dzīvajai pieredzei, tad viss var kļūt skaidrs. Piemēram,vārds "drone" slēpj robotu dabisko cilvēcisko būtību un piedēvē to negatīvās puses abstraktām idejām, piemēram, "tehnoloģijai" vai "autonomijai". Pārbaudot Predator operatoru iekšējo darbību, mēs uzzinām, ka viņi nekaro ar automātiskām ierīcēm - cilvēki joprojām izgudro, programmē un kontrolē mašīnas.
Ilgi tiek diskutēts par ēru un politikām, kas saistītas ar attālu operatoru veiktu slepkavību, ko veic droni, vai šādu ierīču, kas darbojas ASV iekšējā gaisa telpā, slepenību. Bet šīm debatēm ir jābūt saistītām ar cilvēku lēmumu raksturu, vietu un laiku, nevis ar autonomām mašīnām. Līdz ar to jautājums nav par to, kā pretstatīt mehāniskos un bezpilota transportlīdzekļus, un nevis pretstatīt cilvēku kontrolētos transportlīdzekļus pret autonomajiem. Šīs grāmatas galvenie jautājumi ir: "Kur ir cilvēki?", "Kas ir šie cilvēki?", "Ko viņi dara?", "Kad viņi to dara?" Kur ir ļaudis? (Uz kuģa … gaisā … automašīnā … vai birojā?) Manipulācijas ar Predator operatoru ir līdzīgas lidmašīnas pilota rīcībai - viņš uzrauga borta sistēmu stāvokli, uztver informāciju,pieņem lēmumus un veic noteiktus soļus. Bet viņa ķermenis atrodas citā vietā, iespējams, vairākus tūkstošus kilometru no viņa darba rezultātiem. Šī atšķirība ir svarīga. Uzdevumi ir atšķirīgi. Riski ir atšķirīgi, tāpat kā spēku samērs.
Cilvēka prāts ir spējīgs ceļot uz citām vietām, citām valstīm, uz citām planētām. Zināšanas, kas iegūtas caur prātu un jutekļiem, atšķiras no zināšanām, kas iegūtas caur ķermeni (kur jūs ēdat, gulējat, sazināties, defekējat). Mēs izlemjam, kurš no diviem zināšanu iegūšanas ceļiem ir atkarīgs no konkrētās situācijas, un tas ietekmē tos, kuri ir iesaistīti šajā procesā. Kas ir šie cilvēki? (Piloti … inženieri … zinātnieki … neapmācīti strādnieki … vadītāji?) Maina tehniku, un tad mainīsies gan uzdevums, gan speciālista būtība, kas pie tā strādā. Faktiski jūs mainīsit visu to cilvēku kontingentu, kuri ir spējīgi pārvaldīt sistēmu. Lai kļūtu par pilotu, nepieciešami daudz gadu mācību un apmācības, un šī profesija ir personāla hierarhijas augšgalā. Vai lidmašīnas tālvadībai ir vajadzīgas tās pašas prasmes un iezīmes? No kādām sociālajām klasēm var pieņemt darbā darbaspēku?
Komerciālo gaisa kuģu automatizācijas palielināšanās sakrīt ar pilotu demogrāfijas pieaugumu gan rūpnieciski attīstītajās valstīs, gan visā pasaulē. Vai pētnieks ir kāds, kurš ceļo bīstamos apstākļos, vai kāds, kurš mājās sēž pie datora? Vai jums ir jābauda dzīve uz kuģa, lai kļūtu par okeanogrāfu? Vai jūs varat izpētīt Marsu, kamēr esat ratiņkrēslā? Kas ir šie jaunie piloti, pētnieki un zinātnieki, kas strādā ar attālo piekļuvi? Ko viņi dara? (Lidot … kontrolēt … apstrādāt informāciju … sazināties?) Fiziska piepūle pārvēršas par vizuālās informācijas apstrādi un pēc tam par izziņas uzdevumu. Tas, kas agrāk prasīja spēku, prasa uzmanību, pacietību un ātru reakciju. Vai pilots tur rokas tieši uz vadības svirām,kad viņš lido lidmašīnā? Vai arī ievadiet galvenās komandas autopilotā vai lidojuma datorā, lai ieprogrammētu gaisa kuģa lidojuma trajektoriju? Kāda loma ir personas novērtējumam par situāciju? Kāda ir inženiera, kurš ieprogrammēja borta datoru, vai aeronavigācijas tehniķa, kurš to uzstādīja, loma?
Kad viņi to dara? (Reālā laikā … ar nelielu kavēšanos … iepriekš, gadus vai mēnešus pirms misijas?) Parasta gaisa kuģa lidojums notiek reālā laikā: cilvēks nekavējoties reaģē uz notiekošajiem notikumiem, un viņa darbībām ir tūlītēja ietekme. Kosmosa lidojuma scenārijā ierīce var atrasties uz Marsa (vai tuvojas tālam asteroīdam), un tādā gadījumā paies 20 minūtes, kamēr ierīce saņem komandu, un 20 minūtes, lai operators redzētu, ka kaut kas ir noticis. Vai arī mēs varam teikt, ka kuģis nolaižas "automātiskā režīmā", kad patiesībā mēs saprotam, ka tas nolaižas to programmētāju kontrolē, kuri vairākus mēnešus vai gadus pirms nolaišanās atstāja instrukcijas (lai gan šeit mums var nākties pielāgot pašu koncepciju) "kontrole"). Automatizētas sistēmas vadīšana var līdzināties mijiedarbībai ar spoku. Šie vienkāršie jautājumi pievērš mūsu uzmanību pārdalei un pielāgošanai.
Jaunās cilvēku klātbūtnes un darbības formas nav mazsvarīgas un nav līdzvērtīgas vecajām - pilota, kurš riskē ar savu dzīvību, lidojot virs kaujas lauka, kultūras identitāte atšķiras no cilvēka, kurš transportlīdzekli kontrolē attālināti no zemes stacijas. Bet arī šīs izmaiņas ir negaidītas - attālināts operators kaujas laukā var justies vairāk nekā pilots, kurš augstu lido virs tā. Zinātniskā informācija par Mēnesi var būt tāda pati vai pat pilnīgāka, ja to savāc ar attālināti vadāmu transportlīdzekli, nevis persona, kura tieši nolaidusies uz planētas. Bet Mēness izpētes kultūras pieredze šajā gadījumā ir pilnīgi atšķirīga. Aizstāsim vecmodīgus priekšstatus ar bagātīgiem animētiem attēliem, kā cilvēki patiesībā rada un kontrolē robotus un automātiskās sistēmas reālajā pasaulē. Zemāk minētie stāsti ir gan zinātniski, gan tehniski, gan humāni.
Mēs redzēsim, ka cilvēka vadītas, attālinātas un autonomas mašīnas ļauj kustēties un pārorientēt cilvēka klātbūtni un darbību laikā un telpā. Šīs grāmatas būtība sakņojas sekojošajā: svarīga ir nevis ļoti cilvēku kontrolēto un autonomo sistēmu opozīcija, bet gan jautājumi - “Kur ir cilvēki?”, “Kas ir šie cilvēki?”, “Ko viņi dara un kad?” Pēdējie, visgrūtākie jautājumi būs: "Kā mainās cilvēka uztvere?", "Un kāpēc tam ir nozīme?"