AI eetika ja tunnustatud AI Uncanny Valley, mis raputab ka AI-põhiseid isejuhtivaid autosid

Mõnikord on pisut veidraid asju, mis tõmbavad teie tähelepanu ja panevad intuitiivse mahla käima, et midagi on valesti. Veidrus ei ole teie näos räige, üldse mitte räige. Võib-olla ei suuda te isegi kohe näpuga pihta panna, mis on vastuolu või miks teie vanasõnaline ämblikutaju kipitab.

Võib-olla tajutakse peeneid vihjeid. Võib-olla mõistate oma sisemuses dissonantsi olemasolu. Võib vist öelda, et seal on vaid vähimgi vihje alahinnatud õudusele ja teie õrn inimradar tabab muidu näiliselt varjatud signaale.

Tere tulemast kummalisse orgu.

Kui te pole kunagi kuulnud kummalisest orust, mis on tehisintellekti ja eriti robootika valdkonnas suhteliselt populaarseks saanud teema, siis on teil väike maiuspala, sest see on teema, mida ma siin põhjalikult käsitlen ja analüüsin.

Üldine mõiste võib kehtida paljude asjade kohta, mida me elus kogeme, kuigi nurgakivi põhimõtted ja algne määratlus hõlmavad AI-süsteeme ja roboteid. Kõigepealt uurime kummalise oru päritolu ja algset tähendust ning seejärel jätkame avardamisega, et näha, kuidas nähtused näivad olevat rakendatavad suuremates kontekstides.

Võin ka lisada, et me kaalume, kas imelik org on üldse olemas.

Näete, mõned skeptikud ja küünikud vaidlevad vastu, et kogu see asi on natuke jabur ega pea vett. Olge ettevaatlik, kui tutvustate teemat asjatundjatele. Mõned naeratavad rõõmsalt ja plaksutavad sulle õlale, et tunned seda imelikku orgu väga hästi, teised aga räägivad sulle teravalt, et see on sigalavesi ja pead kokkuvõttes puhastama oma mõtteid vahuse vaimse puhastava seebiga. .

Hea uudis on see, et saate otsustada, kas veider org on tõeline või mitte, ja kas see on mõistlikult kasulik või tuleks selle asemel visata tseremooniata tehnoideede rämpsuhunnikusse. Selles mõttes oled sa juhiistmel.

Kõik see puudutab tihedalt ka kasvavat eetilise tehisintellekti valdkonda ja üha kasvavat arusaama, et ühiskond peab tehisintellekti eetikale tõsiselt ja kainelt tähelepanu pöörama. Teeme kohe selle lipsu.

Parim koht alustamiseks on otse tsiteerida professorit, kes mõtles välja kummalise oru kontseptsiooni ja nimetas selle väljakuulutatud nähtuse otsesõnu. 1970. aastal avaldas Tokyo Tehnoloogiainstituudi professor Masahiro Mori üsna väikese artikli mõnes vähemtuntud ajakirjas nn. energia (pole eriti AI ja robootika kasvulava iseenesest) ja ütles seda:

"Olen märganud, et ronides eesmärgi poole, et robotid näiksid inimestena, suureneb meie afiinsus nende vastu, kuni jõuame orgu, mida ma nimetan imelikuks oruks."

Pange tähele, et ülaltoodud fraasid on näidatud inglise keeles, kuigi algne paber oli jaapani keeles. Ingliskeelset tõlgitud versiooni jälgis autor ja see avaldati hiljem IEEE spekter aastal 2012 ja autoriks loeti Masahiro Mori. Saate lehte ise lugeda, kuna see on avalikult ja vabalt võrgus kättesaadav. See on otsustavalt kiire lugemine võib-olla kümme minutit ja ei sisalda tehnilist rasket terminoloogiat.

Sellegipoolest on huvitav ja mõneti hämmastav, et selline 1970. aastal avaldatud hoogne artikkel käivitas lõpuks terve uurimisareeni ja käivitas hulgaliselt seotud uuringuid, projekte, uuringuid ja mõnikord vaidlusi selle üle, kas imeliku oru kontseptsioon on tõesti olemas. Ma arvan, et see näitab, et intrigeerivad ja kohati vaatenurki muutvad ideed ei pea olema massiliselt keerdunud või žargooni ja kõrgetasemelisusega üle kuhjatud. Lühike idee võib olla just nagu mitte isegi võimsam, kui pealtnäha võib tunduda.

Usun, et see julgustab teid proovima ja edendama oma uusi ideid, tehes seda mõistmisega, et armas ja lihtne võib olla sama suurepärane või mõnikord rohkemgi kui keeruline ja keeruline.

Hüppame tagasi imelisse oru esilekutsumisse.

Te puutute kokku robotsüsteemiga, mille nägu sarnaneb inimese näoga. Kujutage ette, et see robotnägu on välja töötatud paljude iteratsioonide kaudu. Tehisintellekti arendajad, kes robotpead kokku panevad, on püüdnud järk-järgult muuta roboti näoosa sarnasemaks inimese näoga.

Nende esimene katse oli ülimalt primitiivne. Roboti nägu oli sama välimusega, mida olete näinud ulmefilmides, olles täiesti metallist ning demonstreerinud käike ja juhtmeid. Seadet vaadates saate kohe aru, et see on robot. Teie meelest pole selle kohta küsimust.

Järgmine tehisintellekti arendajate katse hõlmas mõne plastmaterjali mähkimist metallosade ümber. Kuigi see näeb välja mõnevõrra sõbralikum, saate siiski kohe aru, et see on robotipea ja robotnägu. Jällegi lihtne avastada.

Need AI arendajad on otsustanud seda jätkata. Nad kujundavad plastikust ja annavad sellele nahatoone. Need lisavad tunnuseid, mis tunduvad inimese näoga väga sarnased, nagu mutid, juuksed, plekid jms.

Esmapilgul võite arvata, et see on inimese nägu. Kui robotnäost tehti pilt ja teil palutakse tuvastada, kas pildil on kujutatud inimest või robotnägu, võib teid häirida, kui saate kohe öelda, kumb see on. Teisest küljest, kui seisaksite seadme kõrval, saaksite tõenäoliselt põhjalikul vaatlusel aru saada, et see pole inimene, vaid hoopis roboti väljamõeldis.

Asi on selles, et enne, kui teil avanes võimalus lähivõtetel uurida, oli näos midagi, mis ei paistnud olevat. See nägi kindlasti välja nagu inimese nägu. Aga midagi oli viltu. Sa pidid ikka ja jälle pingsalt vahtima, et panna näpp sellele, mis ei tundu päris õige. Võib-olla on see tõeline nägu. Siis jälle võib-olla ei ole. Teie meel keerleb vastavalt.

Teie meeltesse tungib õudustunne.

Kahte varasemat versiooni nähes ei olnud teil sama õudustunne. Võiksite ilma pausi ja kõhkluseta tuvastada, et robot oli robot. Ainult laps võib end lolliks lasta arvata, et kumbki neist versioonidest oli tõeline inimene.

See viimane versioon oli siiski erinev. See ei olnud veel täiuslikuks muutunud, et paistaks välja nagu inimese nägu. Ega see päris asjast nii kaugel polnud, et oleks ilmselge, et tegu peab olema robotiga. Omamoodi segane maa oli saavutatud.

Oletame, et arendajad jätkasid oma uurimistööd ja muutsid kõike nii, et robotnägu oli inimese näost peaaegu eristamatu. Ükskõik kui kaua te asja ka ei vaata, pole te kindel, kas see on inimene või mitte. Kui teile teatatakse, et tegemist on robotnäoga, olete üllatunud. Issand, nad on teinud suurepärast tööd, et see reaalne välja näha.

Pange tähele, et seni olete vaaginud ainult välimusel põhinevaid robotlikke aspekte.

Võiksime võrrandile lisada liikumise. See lisab teile täiendava mõõtme, et eristada, kas robot on robot või inimene. Ma ei taha selles arutelus seda kui mitmemõõtmelist probleemi täielikult käsitleda, kuna see muudab selle teema selgitamise keerukamaks (kuigi mitmed mõõtmed on paratamatult põimunud). Igal juhul kujutage ette, et te mitte ainult ei näinud roboti nägu, vaid võite ka jälgida, kuidas robot liigutab näojooni, nagu suu, silmad, nina jne. Ilmselgelt võivad need olla ka kingitused selle kohta, kas see on robot või inimene.

Üks ülioluline aspekt, mida kummalise oru esirinnas hoida, on see, et algne kontseptsioon rõhutab inimsugulust. Väidetav nähtus seisneb selles, et teie afiinsus suureneb, kui näete järk-järgult täiustatavaid roboti nägusid, kuni hetkeni, mil tekib kummaline variant. Väidetavalt langeb sel hetkel teie afiinsustunne dramaatiliselt, langedes afiinsuslõhesse või orgu.

Selle konkreetse versiooni puhul, mis pani teid kahtlustama, et midagi on valesti, on teie afiinsus väidetavalt radikaalselt langenud. Lisaks võib teooria kohaselt teie afiinsus hüppeliselt tõusta, kui kohtate täiustatud versiooni, mis on peaaegu identne tõeliselt inimliku vormiga.

Siin on rohkem selle kohta, mida autor väitis meie tavapärase kalduvuse kohta eeldada, et elu aspektid kasvavad sujuvalt: „Matemaatiline termin monotoonselt suurenev funktsioon kirjeldab suhet, milles funktsioon y = ƒ(x) suureneb pidevalt muutujaga x. Näiteks pingutusena x kasvab, sissetulek y suureneb või kui auto gaasipedaali vajutada, liigub auto kiiremini. Selline suhe on üldlevinud ja väga kergesti mõistetav. Tegelikult, kuna sellised monotoonselt suurenevad funktsioonid hõlmavad enamikku igapäevaelu nähtustest, võivad inimesed sattuda illusiooni, et nad esindavad kõiki suhteid. Seda valet muljet kinnitab ka tõsiasi, et paljud inimesed võitlevad elu jooksul pidevalt trügides, mõistmata tagasitõmbamise tõhusust. Seetõttu on inimesed tavaliselt hämmingus, kui seisavad silmitsi nähtusega, mida see funktsioon esindada ei suuda. Seda tsiteeritakse vastavalt IEEE spekter tõlgitud paber.

See peaaegu universaalne oletus alati suurenemise kohta võib ümber lükata, kui kohtame midagi valesti. Õudsus ja kahtlus põhjustavad suhteliselt järsu ja dramaatilise afiinsuse languse, ütleb teooria, näiteks robotkäsi, mida valisite raputada ja mis ei saanud tunda inimkäe luuseid omadusi: "Kui see juhtub, kaotame mõistuse. afiinsust ja käsi muutub kummaliseks. Matemaatilises mõttes võib seda esitada negatiivse väärtusega.

Kui nõustute eeldusega, et on olemas see kummalise oru fenomen, siis kindlasti mõtlete, mis kasu on teile sellest, et teate, et kummaline org on ilmselt olemas.

See on kõigi aegade klassika "ja mis siis?" praktilisuse test.

Selgub, et paljud inimesed on välja mõelnud palju tõlgendusi selle kohta, mida me peaksime või saaksime selle kummalise oru jaoks ette võtta. Arvamusi on palju. Ma käsitlen mõnda neist varsti.

Vahepeal pakkus Masahiro Mori järgmist: „Loodame kavandada ja ehitada roboteid ja proteese, mis ei kuku veidrasse orgu. Seetõttu soovitan disaineritel võtta oma eesmärgiks pigem esimene tipp, mille tulemuseks on mõõdukas inimsarnasuse tase ja märkimisväärne afiinsustunne. . Tegelikult ennustan, et on võimalik luua ohutu afiinsuse tase, järgides tahtlikult mitteinimlikku disaini. Ma palun disaineritel selle üle järele mõelda.

Minupoolne kaheteistkümne käepärase püksirihma reegli lühikokkuvõte selle kohta, mida selle kummalise oru puhul teha, on eriti tehisintellekti arendajate jaoks järgmine:

1) Olge teadlik veidrast orust ja olge sellele vastavalt käpuli

2) Eeldatavasti soovite saavutada oma tehisintellekti suhtes võimalikult palju inimlikkust

3) Olge valmis inimsuguluse kaotamiseks, kui teie tehisintellekt kukub veidrasse orgu

4) Püüdke vältida veidrat orgu, kavandades oma tehisintellekti selliselt

5) On austusväärne omada eesmärki, mis jääb veidrast orust puudu

6) Kalduge kummalise oru servani, kuid ärge kukkuge üle kalju

7) Ärge olge kinnisideeks veidrast orust kaugemale minemisest

8) On võimalus, et suudate kummalisest orust mööda hüpata

9) Ärge olge hüppega hõivatud, sest niikuinii võite orgu kukkuda

10) Maksimaalne inimsugulus saavutatakse kummalisest orust mööda minnes

11) Sellegipoolest on enne veidrat orgu leitud piisav ja sobiv afiinsus

12) Olge pidevalt meeles kummalise oru suhtes ja ärge laske sellel meelest minna

Need kümmekond on kõik üldised ettekirjutused, mida võib pidada kummalise oru tundmise nurgakiviks või kinnituspunktiks. Tunnistan kohe, et on ka teisi punkte, mida nendes nappides kümnendites ei loetleta ja mida võiks pidada sama oluliseks. Samuti tunnistan kergesti, et iga tuvastatud punkti osas on lahkarvamusi ja iga esitatud punkti üle võib järgneda pikk tuline arutelu.

Veelgi enam, mõned ütleksid, et kaksteist punkti on täiesti jaburad, sest need põhinevad alustuseks valel. Nad väidavad, et sellist asja nagu imelik org pole olemas. See kõik on pelgalt šikk ja väljamõeldud väljamõeldis, mis ainult ja kurvalt meeldib nõrkadele mõistustele (oeh, see teeb tõsiselt haiget!). Igasugune tähelepanu veidrale orule on raisatud sõõm ja keegi peaks tulema ja panema terava puust teoreetilise panuse asja tuumaks (mõned teadlased on seda proovinud).

Arutelu huvides läheme vooluga kaasa ja eeldame, et seal on kummaline org ja see väidetavalt ühtib üldiselt sellega, mida olen seni osutanud. Need, kes pole nõus veidra oru kontseptsiooniga, on teretulnud tsoneerima või jätkama lugemist hambad ristis ja nende intellektuaalne viha käärimas ja keemas (vabandust selle pärast).

Siit saate teada, kuidas eetiline tehisintellekt ning keskendumine eetilise tehisintellekti väljatöötamisele ja rakendamisele avalduvad. Muide, minu käimasolevate ja põhjalike AI-eetika uurimiste kohta vaadake minu arutelu aadressil see link siin ja see link siin, Ainult mõned nimed.

Kummaline org on eetilise tehisintellektiga inimeste jaoks ilmselgelt armastuse ja vihkamise suhe.

Esiteks vajalik taust. Üks juukseid kergitavamaid tehisintellektiga seotud eetilisi kahtlusi on see, et inimesi võib eksitada uskuma, et tehisintellektisüsteem on tundlik. Pidage meeles, et tänapäeval pole ühtegi tehisintellekti, mis oleks tundlikule lähedale. Praegu seda lihtsalt ei juhtu. Minu näiliselt "jultunud" väide on tehtud hoolimata nendest lakkamatutest ja räuskavatest pealkirjadest, mis deklareerivad seda tehisintellekti või seda, et tehisintellekt on kas tundlik või piisavalt lähedane, et seda sellisena pidada. Malarkey. Me ei ole tehisintellekti tajumisel.

Me ei tea, kuidas sinna saada. Me ei tea, kas see juhtub. AI-tundlikkus on väärt unistus ja püüdlus, kuigi ärge hüppage püssi käest ja arvake, et oleme selle saavutamise tipul.

Muidugi hoiatavad paljud tulihingeliselt, et kui meil õnnestub tehisintellekti tundlikkust kuidagi vallandada, olgu see siis kavandatud või puhtjuhuslik, seisame silmitsi eksistentsiaalse riskiga. Sellisel mõtteviisil pole AI-tundlikkuse otsimine võib-olla nii väärt. On oht, et see tundlik tehisintellekt võib otsustada, et inimesed ei ole seda väärt. Võime saada nagu lollakas. Või saada AI orjaks. See võib juhtuda siis, kui tehisintellekt otsustab avalikult seda teha, või AI võib lõpuks saada meie enda viimsepäeva masinaks, mis hävitab meid meie enda saamatuse tõttu. Minu kajastust tehisintellekti tundlikkuse või singulaarsuse murettekitavate tulemuste kohta vt link siin.

Eetilise tehisintellektiga seotud oluline probleem on see, et tehisintellekti arendajad ja need, kes tehisintellektiga tegelevad, sunnivad mõnikord inimesi mõtlema, et tehisintellekt on tundlik. Viis, kuidas tehisintellekt end eksponeerib, näiteks robotite sõnastuse või vestluse interaktiivsuse kaudu, võib inimesi kavalalt ärgitada eeldama, et tehisintellekt on tundlik. See omakorda viib teid potentsiaalselt halvale priimulale.

Kui satute vaimsesse lõksu, mõeldes, et tehisintellektisüsteem on tundlik, toetute tõenäoliselt sellele, et teha asju, mida mõistusega olendid teeksid. Kuid üheski tänapäeva tehisintellektis ei ole veel tervet mõistust inimesesarnase kvaliteedi kohta. Praegu kogetav tehisintellekt on inimlike võimete osas äärmiselt habras ja madal. Uskudes, et tehisintellektisüsteem on tundlik, võite sattuda ebameeldivatesse ja ohtlikesse vette.

Kuidas see seostub kummalise oruga?

Siin on asi.

Tuletage meelde, et veider org näib meile ütlevat, et inimeste sugulus kasvab järk-järgult, kui AI-süsteem või robot läheneb inimsarnasele koostisele. Hetkel, mil tehisintellekt on lähenemas punktile, mis on üsna lähedal, kuid siiski, mitte päris kohal, tekib jube tunne, et midagi on valesti. Kuni selle ajani teadsime, et tehisintellekt pole inimene. Nüüd pole me kindlad. Meie inimsugulus langeb. Alles siis, kui tehisintellekt või robot on inimesele sarnaste võimete osas täiesti veenvad, taastame oma näilise afiinsuse seadmega.

AI arendajad, kes selle südamesse suhtuvad, arvatavasti teeksid seda tahtlikult püüdma hoida oma tehisintellekti ebaharilikust orust eemal, püüdes tehisintellekti omaduste osas peatuda vahetult enne kummalisse kuristikku kukkumist (tuletage meelde, seda rõhutas ka Masahiro Mori). Ilmselt teeksid arendajad seda, veendudes, et ikka veel oleks olemas ohtralt märguandvaid vihjeid, mis teeksid üsna selgeks, et tehisintellekt on vähem kui tundlik tehisintellekt ja seega ei ole see inimene või samaväärne.

AI-eetikud tervitaksid seda südamlikku pingutust üldiselt.

Põhjendus on otsekohene. Nii teadlikud ja omaks võtnud AI-arendajad püüavad tagada, et tehisintellektisüsteem ei eksitaks inimesi AI-le inimsarnaseid rajatisi ekslikult seostama. See on kindlasti hea uudis. Arendajad loovad tehisintellekti sihilikult, et vältida sukeldumist kummalisse orgu. Inimesed saavad kohe aru, et tehisintellekt ei ole tundlik.

Tehisintellekti arendajate püüdmine sellise lähenemisviisi omaksvõtmiseks ei ole lihtne. Tõepoolest, see võib olla vastuolus nende tavapäraste instinktide ja edasiviivate ambitsioonidega.

On palju väiteid, et tehisintellekti arendajad ja tehnikud on üldiselt eesmärkidest kinni. Nad näevad eesmärki ja püüavad seda sageli pimesi suure isuga. Pole aega peatuda ja roose nuusutada. Võistlustele, läheme. AI valdkonnas oleks normatiivne eesmärk idealiseeritud tehisintellekt, mida ei saa inimestest eristada, kuna tehisintellekt võiks olla intelligentselt võrdne. Aga me pole veel kohal. Sellisena annab kummaline org teisejärgulise eesmärgi, maandudes enne muidu paisutavat kummalist orgu, ja sellest saab eesmärk, mis on sellegipoolest vastuvõetav. Muidugi, see ei ole kuldse auhinnaga sõrmus, kuid idee on selles, et see "teisene" auhind on hea, tänan teid väga ja võite selle üle uhke olla.

Oleme muutnud hävitavat eesmärki taotlevat kõrgeimat ambitsiooni ja rakendanud selle loogiliselt kõlavaks põhjendatuks, et teha justkui õiget asja.

Hurraa!

Võitke tehisintellekti eetikat.

Kuid oodake teist, spoileri hoiatust, on veel midagi, mida peame samaväärselt arvesse võtma.

Nüüd, kui need nutikad tehisintellekti arendajad teavad imelikust orust, võivad nad pöörata oma mõistuse ja tehnikavõime sihilikult üle kuristiku hüppamise, tehes seda siiski pettust silmas pidades. Tehke tehisintellekt täiesti inimlikuna, kuigi arendajad teavad, et see ei vasta tõele.

Rumal mõtlemine käib nii. Ärge laske oma AI-süsteemil mütsi kallutada ja tekitada inimestes tabamatut õuduste allhoovust. Lõika välja tahud, mis võivad anda vihje või vihje, et tehisintellekt ei ole inimvõimeline. Tehke seda salaja mõistes ja andestamatult teades, et tehisintellekt ei ole inimvõimeline ja see kõik seisneb selle tõe varjamises nende eest, kes AI-ga suhtlevad või sellest sõltuvad.

Millised kuradi plaanid.

Irooniline, et imelik org võib olla AI-arendajatele omamoodi äratuskõne, et kui nad tahavad inimesi tõeliselt lollitada, peavad nad olema piisavalt nutikad, et kuristikust põgeneda. Nad ei tee seda mitte täieliku tehisintellekti saavutamisega, vaid hoopis suitsu ja peeglite püstitamisega, et tehisintellekt tunduks eksitav, nagu see oleks inimene. Kui tehisintellekti arendajad poleks mõistnud, et see kummaline org on olemas, oleksid nad üldiselt sellesse sattunud. See on inimkonnale hea, sest inimesed kaotaksid oma afiinsuse tehisintellekti suhtes, kuna nad ei tugine liigselt AI tänapäevasele kvaliteedile.

Kahjuks, teades, et lõks on olemas, leiavad AI-arendajad, kes soovivad selle ümber hiilida, leida selleks ohtlikult nutikaid viise.

Saavutage löök eetilise tehisintellekti ettekirjutuste vastu.

Kas näete, kuidas see loob AI-eetikute jaoks kummalise oru armastuse ja vihkamise suhte?

Kurat, kui sa seda teed, neetud, kui sa seda ei tee.

Ma saan aru, et see oli kummalise oru pisut kõrge kulmude uurimine ja te võite igatseda mõnda igapäevast näidet. Seal on eriline ja kindlasti populaarne näidete kogum, mis on mulle südamelähedane. Näete, et tehisintellekti, sealhulgas eetiliste ja juriidiliste tagajärgede eksperdina, palutakse mul sageli leida realistlikke näiteid, mis tutvustavad tehisintellekti eetika dilemmasid, et teema mõnevõrra teoreetiline olemus oleks hõlpsamini hoomatav. Üks muljetavaldavamaid valdkondi, mis seda eetilist tehisintellektiprobleemi ilmekalt esitleb, on tehisintellektil põhinevate tõeliste isejuhtivate autode tulek. See on mugav kasutusjuht või näide selle teema kohta rohkeks aruteluks.

Siin on tähelepanuväärne küsimus, millele tasub mõelda: Kas tehisintellektil põhinevate tõeliste isejuhtivate autode tulek valgustab midagi kummalise oru kohta ja kui jah, siis mida see meid tegema annab?

Lubage mul veidike küsimus lahti pakkida.

Esiteks pange tähele, et tõelises isejuhtivas autos ei ole inimjuhti. Pidage meeles, et tõelisi isejuhtivaid autosid juhitakse tehisintellekti juhtimissüsteemi kaudu. Roolis pole vaja inimjuhti, samuti pole ette nähtud, et inimene saaks sõidukit juhtida. Minu ulatusliku ja pideva autonoomsete sõidukite (AV-de) ja eriti isejuhtivate autode kajastuse kohta vt link siin.

Tahaksin veelgi selgitada, mida mõeldakse tõeliste isejuhtivate autode all.

Isesõitvate autode tasemete mõistmine

Selgituseks võib öelda, et tõelised isejuhtivad autod on sellised, et tehisintellekt juhib autot täielikult omaette ja sõiduülesande täitmisel pole inimest vaja.

Neid juhita sõidukeid peetakse 4. ja 5. tasemeks (vt minu selgitust aadressil see link siin), samas kui autot, mis nõuab inimjuhilt ühist juhtimiskoormust, peetakse tavaliselt 2. või 3. tasemel. Sõiduülesandeid ühiselt jagavaid autosid kirjeldatakse kui poolautonoomseid ja tavaliselt sisaldavad need mitmesuguseid automatiseeritud lisandmoodulid, mida nimetatakse ADAS-iks (Advanced Driver-Assistance Systems).

5. tasemel pole veel tõelist isesõitvat autot, mida me veel ei tea, kas seda on võimalik saavutada ja kui kaua sinna sõitmine võtab.

Samal ajal püüavad 4. taseme jõupingutused saada järk-järgult veojõudu, läbides väga kitsaid ja selektiivseid avalike maanteede katseid, kuigi on vaidlusi selle üle, kas see testimine peaks olema iseenesest lubatud (me kõik oleme katses elu või surma merisead Mõned väidavad, et see toimub meie kiirteedel ja kõrvalteedel, vaadake minu kajastust aadressil see link siin).

Kuna poolautonoomsed autod nõuavad inimese juhti, ei erine seda tüüpi autode kasutuselevõtt märkimisväärselt tavapäraste sõidukite juhtimisest, nii et nende teema käsitlemiseks pole iseenesest palju uut (ehkki nagu näete) hetke pärast on järgmised punktid üldiselt kohaldatavad).

Poolautonoomsete autode puhul on oluline, et avalikkust tuleb hoiatada häirivast aspektist, mis on viimasel ajal esile kerkinud, nimelt sellest hoolimata, et hoolimata nendest inimjuhtidest, kes pidevalt postitavad videoid, kuidas nad magavad 2. või 3. taseme auto roolis, , peame kõik vältima eksitavat veendumust, et juht võib poolautonoomse auto juhtimisel juhtida tähelepanu juhtimisülesandelt ära.

Teie olete sõiduki juhtimistoimingute eest vastutav isik, sõltumata sellest, kui palju automaatikat võib 2. või 3. tasemele visata.

Isejuhtivad autod ja Uncanny Valley

4. ja 5. taseme tõeliste isesõitvate sõidukite korral ei ole juhtimises osalenud ükski inimene.

Kõik sõitjad on reisijad.

AI teeb sõitu.

Üks aspekt, mida kohe arutada, hõlmab asjaolu, et tänapäevases tehisintellekti juhtimissüsteemides osalev tehisintellekt ei ole mõistlik. Teisisõnu, tehisintellekt on kokku arvutipõhise programmeerimise ja algoritmide kollektiiv ning kindlasti pole ta võimeline arutlema samal viisil, nagu seda suudavad inimesed.

Miks on see rõhuasetus sellele, et tehisintellekt ei ole tundlik?

Kuna tahan rõhutada, et tehisintellekti juhtimissüsteemi rolli üle arutledes ei omista ma tehisintellektile inimlikke omadusi. Pange tähele, et tänapäeval on tehisintellekt antropomorfiseerida pidevalt ja ohtlikult. Sisuliselt määravad inimesed tänasele tehisintellektile inimesesarnase tundlikkuse, hoolimata vaieldamatust ja vaieldamatust asjaolust, et sellist tehisintellekti veel pole.

Selle selgitusega saate ette kujutada, et tehisintellekti juhtimissüsteem ei tea oma olemuselt kuidagi sõidu tahke. Juhtimine ja kõik sellega kaasnev tuleb programmeerida isejuhtiva auto riist- ja tarkvara osana.

Sukeldume lugematutesse aspektidesse, mis sellel teemal mängima tulevad.

Esiteks on oluline mõista, et kõik AI isejuhtivad autod ei ole ühesugused. Kõik autotootjad ja isejuhtivad tehnoloogiafirmad kasutavad isejuhtivate autode väljatöötamisel oma lähenemisviisi. Sellisena on raske teha põhjalikke väiteid selle kohta, mida AI-juhtimissüsteemid teevad või mitte.

Lisaks, kui väidetakse, et tehisintellekti juhtimissüsteem ei tee mõnda konkreetset asja, võivad sellest hiljem mööda minna arendajad, kes tegelikult programmeerivad arvuti seda tegema. Samm -sammult täiustatakse ja laiendatakse tehisintellekti juhtimissüsteeme järk -järgult. Olemasolevat piirangut ei pruugi süsteemi tulevases iteratsioonis või versioonis enam olla.

Usun, et see annab piisava hulga hoiatusi, mis on aluseks sellele, mida ma kavatsen seostada.

Oleme nüüd valmis sukelduma sügavalt isejuhtivate autode ja eetiliste tehisintellekti küsimustesse, mis hõlmavad veidrat orgu.

Selles küsimuses käsitletakse nelja aspekti:

1. Isejuhtivate autode üldilme

2. Küsimus, kust isejuhtivad autod "vaatavad"

3. Isejuhtivate autode tehisintellekti juhtimistoimingud

4. Robotid, mis sõidavad isejuhtivate autode saavutamise vahendina

Täiendavad aspektid on samuti elujõuliselt hõlmatud, kuid ruumipiirangute tõttu piisab nendest neljast teemast, et valgustada AI-põhiste isejuhtivate autodega seotud kummalise oru suunda.

1. Isejuhtivate autode üldilme

Vean kihla, et olete näinud pilte või videoid tänastest isejuhtivate autode katsetustest. Sellisena võisite märgata, et enamik sõidukeid on tavapärase välimusega autod, mis on varustatud täiendava erivarustusega. Näiteks võib seal olla katuseraam, mis sisaldab hulgaliselt elektroonilisi andureid. Andurite hulka kuuluvad mõnikord videokaamerad, radariüksused, LIDAR-seadmed, ultraheliandurid jms.

Futuristlikud kujundused viitavad sellele, et võiksime tavapärase välimusega autost kõrvale kalduda ja selle asemel kujundada autod ümber nii seest kui ka väljast, et need oleksid elegantsema välimusega autonoomsed sõidukid. Praegu arvatakse üldiselt, et lihtsam on kasutada tavalisi autosid ja mitte kulutada energiat selleks, et pingutada, samal ajal ebatavalise välimusega autode kallal nokitsedes (sellest üldisest seisukohast on mõned erandid, vaata minu kajastust aadressil link siin).

Sisu on praegu selles, et kui sõidate maanteel ja kohtate läheduses asuvat isejuhtivat autot, saate peaaegu alati kohe aru saada, et tegemist on tõenäoliselt isejuhtiva autoga, kui märkate lihtsalt autonoomsele sõidukile paigaldatud andurite segamist. See on kiire visuaalne kingitus. Muidugi ei tea te kindlalt, kas see on isejuhtiv, sest praegusel hetkel on juhtimisseadised tavaliselt veel terved ja roolis võib olla varujuht.

Ühes mõtteviisis võib öelda, et eriti mugav on see, et isejuhtivad autod paistavad füüsiliselt silma paistavat ja neid märkavad lähedalasuvates inimeste juhitavates autodes sõitvad autojuhid ja ka läheduses olevad jalakäijad. Arusaam, et läheduses rändleb isejuhtiv auto, võib olla mugav vihje, et olla valvel, ajendades olema tähelepanelik ja tähelepanelik, et tehisintellekt juhib või võib sõidukit juhtida.

Oletame, et isejuhtivad autod näevad välja identsed tavaliste inimeste juhitavate autodega. See on reaalselt teostatav vähemalt kahel viisil. Esiteks võivad andurid olla peidetud või kujundatud nii, et need ei oleks juhusliku visuaalse kontrolli jaoks nii ilmsed. Teiseks võib juhtuda, et kõik autod, sealhulgas tavalised inimjuhtitavad autod, varustatakse järk-järgult sarnaste anduritega, isegi kui sõiduk jääb sellegipoolest valdavalt inimeste juhitavaks autoks. Vaadake minu edasist kajastust aadressil see link siin.

Kui mõtlete tähelepanelikult selle üle, kas isejuhtivad autod võivad või peaksid olema välimuselt identsed tavaliste inimeste juhitavate autodega, võite arvata, et selles hautises võib varitseda kummaline org.

Näete, autosid, mis näevad räigelt välja nagu isejuhtivad autod, võidakse kirjeldada kui ristmikku, mis jääb kummalisest orust napilt mööda. Põhimõtteliselt "teate", et see on robot või robot-tüüpi süsteem. See on otsus, millele võite peaaegu kohe hüpata.

Kui isejuhtivad autod näevad välja identsed inimeste juhitavate autodega, võib see oletada, et autonoomsed sõidukid on oma robotilaadse välimuse poolest kummalisest orust mööda hüpanud. Kas nende kahe füüsilise välimuse vahel on siiski kuldne kesktee, mis viib meid kummalisse orgu?

Võib-olla märkate tänaval isejuhtivat autot ja tundub, et see on ilmselt isejuhtiv auto, teisest küljest pole välimus ei rangelt autonoomne ega ka rangelt inimese juhitav. Võiks väita, et isejuhtiv auto on nüüd jube või rahutu välimusega.

Isejuhtiv auto on end näiliselt imelisse orgu sukeldunud.

Nagu öeldud, ei nõustuks kõik selle liigitusega. Mõned väidavad, et füüsilisel välimusel pole midagi pistmist veidra oruga. Mõned muidugi väidavad ka, et pole midagi, mida reaalselt nimetataks veidraks oruks.

Nagu varem mainitud, võite selle kohta oma otsuse teha.

2. Küsimus, kust otsivad isejuhtivad autod

Isejuhtivate autode puhul on paljudel mureks see, et nende juhiistmel pole tavaliselt ühtegi inimjuhti ja seetõttu on raske aru saada, kuhu “juht” autot juhtides vaatab.

Tavaliselt heidate pilgu inimjuhtidele, et luurata, kuhu nad vaatavad. Näiteks võite olla jalakäija ülekäigurajal ja auto läheneb ülekäigurajale. Vaatate tähelepanelikult juhiistmel istuvat inimest ja proovite eristada, kuhu tema pea on pööratud ja kuhu tema silmad vaatavad. Kui arvate, et autojuht on teid näinud, võib teil olla tänava ületamine mugavam. Seevastu, kui inimjuht pole paistnud teid nägevat, olete õigustatult mures ülesõidu pärast.

Mõnes linnas valitseb nendes aspektides omamoodi kassi ja hiire gambiit. Konkreetne kultuurinorm konkreetses linnas võib olla see, et juhiga silmsidet tehes "võidab" juht ja tal on näiline õigus edasi minna, olenemata sõiduolukorra seaduslikkusest. Teised linnad võivad olla täiesti vastupidised, nimelt kultuuriline norm on see, et silmside loomisel "võidab" jalakäija ja inimjuht peaks jalakäija tegudele järele andma.

Näib, et oleme selle tava omaks võtnud suhteliselt pika aja jooksul, mil autod meie linnade ja kogukondade keskel seisid. Isejuhtivate autode tulekuga seotud probleem seisneb selles, et juhiistmel ei ole inimjuhti ja seega on nüüdseks kõik jalakäijad või läheduses olevad inimjuhid, kes tavaliselt kasutavad autojuhi pead ja silmi juhtimiskavatsuse kultuurilise indikaatorina. läbi õnne.

Autotootjad ja isesõitvate autode arendajad on sellest esilekerkivast probleemist väga teadlikud. Üks väljapakutud lahendus seisneb selles, et isejuhtiv auto vilgub autonoomse sõiduki esitulesid või võib-olla mürab sarve. Teine arusaam on see, et isejuhtival autol võib olla valjuhääldi variant ja see võib läheduses olevatele inimestele öelda, millised on AI-juhtimissüsteemi "eesmärgid". Kõigil neil ideedel on olulisi varjukülgi.

Kuid teistsugune ettepanek eeldab millegi tegemist, mida võite alguses pidada naeruväärseks. Ettepanek seisneb silmamunalaadsete kerade paigutamises autonoomse sõiduki välispinnale. Need orbid näeksid välja nagu inimsilmad, nagu oleksid võimelised edasi-tagasi pöörlema, andes teile kohe märku, mis viitab sellele, et tehisintellekt on sind näinud (te tõlgendaksite seda nii, et silmamunad vaatavad teie konkreetses suunas). Olen seda lähenemist analüüsinud link siin.

Kuidas oleks teie reaktsioon, kui näeksite isejuhtivat autot teelt alla tulemas ja kapotile või katusele paigaldataks need ülegabariidilised veidrad silmamunad?

Ma arvan, et võite arvata, et see on jube, võib-olla jube.

Mõned arvavad, et õudsus tuleneb sellest, et sama varustusega isejuhtiv auto on kummalises orus. Teised vaidleksid ägedalt, et sellel pole midagi pistmist kummalise oruga. Nendest asjatundjatest ütleksid mõned, et on jube, mis võib olla õudne, ilma et peaks end kummalises orus juurdlema (st kummaline org tekitab näiliselt alati jubedust, kuid mitte kogu õudus ei sünni ainult kummalise oru kaudu). Teine nurk on see, et orbid võiksid olla konstrueeritud nii, et need näeksid välja vähem silmamuna ja paistaksid robotlikumana, või et me kõik lepivad paratamatult nende kerade ilmumisega ja esialgne jahmatav reaktsioon vaibub.

3. Isejuhtivate autode tehisintellekti juhtimistoimingud

Paljud tänapäeva isejuhtivate autode katsetused on näidanud, et olemasolevad tehisintellekti juhtimissüsteemid on tavaliselt programmeeritud sõitma üsna leigetel ja mõnevõrra rangelt seadusjärgsetel viisidel. Tehisintellektiga sõidusüsteem peatab tavaliselt isejuhtiva auto stoppmärkide juures. Tehisintellekti juhtimissüsteem ei jookse julgelt läbi ristmike, kui foorituli hakkab peagi punaseks minema. Need eksitavad sõidutavad on inimjuhtide pärusmaa.

Mõnes mõttes võis peaaegu aimata, et isejuhtiv auto on isejuhtiv auto selle sõidustiili järgi. Isegi kui autonoomne sõiduk näis visuaalselt tavalise inimese juhitava autona, võite jälgida juhtimistoiminguid ja võib-olla loogiliselt järeldada, et seda juhib tõenäoliselt AI-süsteem.

Mõned usuvad, et peame muutma tehisintellekti juhtimissüsteemid rohkem sarnaseks inimestest juhtide pilguga, et need sulanduks tõhusalt normatiivsetesse juhtimisviisidesse. Ma arvan, et sa võiksid seda tõlgendada kui tulega võitlemist.

Kas seda on mõtet teha?

Pidage meeles, et otsekohesed skeptikud ja kriitikud põlgavad seda ideed. Nad vaidleksid visalt, et me tahame, et tehisintellekti juhtimissüsteemid töötaksid korralikult ja ettevaatlikult. Potentsiaalselt miljonite isejuhtivate autode lisamine teedele, mis on programmeeritud nagu eksinud inimjuhid, tunduks kolossaalne õudusunenägu. Olen arutanud seda vastuolulist ettepanekut aadressil link siin.

Sõnastame dilemma uuesti, võimendades veidrat orgu.

Kui tehisintellekti juhtimissüsteem on oma juhtimistoimingute poolest rangelt seaduslik, on see võib-olla vihje, et tegemist on tõenäoliselt robotsüsteemiga (olenemata inimjuhtidest, kes seda tunnistavad, kuigi tänapäeva maailmas tundub, et need on kaugel ja vähesed). Kui tehisintellekti juhtimissüsteemid peavad sõitma sama veidralt kui inimjuhid, siis kas see hüppab üle kummalise oru või kukub kummalisse orgu?

Mõelge sellele.

4. Robotid, mis sõidavad isejuhtivate autode saavutamise vahendina

See viimane katvuse üksus on neist neljast kõige jahmatavam.

Võib-olla pole te üldse teadlik, et mõned AI arendajad üritavad luua roboteid, mis juhiksid autosid. Robot näeb mitmes aspektis välja nagu inimene, jäsemetena on robotjalad ja robotkäed. Kui soovite, et mis tahes tavapärane inimeste juhitav auto oleks isejuhtiv auto, asetage see spetsiaalne tehisintellekti juhtrobot oma auto juhiistmele. Vaadake minu analüüsi selle mõiste kohta aadressil link siin.

Miks me peaksime juhtroboteid tahtma?

Sellise roboti ilu seisneb selles, et kõik tänapäeva inimeste juhitavad autod võivad teatud tõlgenduse kohaselt muutuda isejuhtivateks autodeks peaaegu üleöö. Sa lihtsalt ostad, liisid või hankid endale kuidagi juhiroboti. Sõidureisile minnes paned roboti oma juhiistmele. Robot viib teid sihtkohta. Kui soovite üle minna inimsõidule, eemaldate roboti sõidukist või paned selle hilisemaks kasutamiseks pakiruumi.

Tänapäeval on Ameerika Ühendriikides umbes 250 miljonit tavaautot. Mõned usuvad, et isejuhtivate autode ilmumisel lähevad need lõpuks rämpsu. Selle asemel, et neid tavalisi autosid ära visata, võiksime proovida neid isejuhtivateks autodeks kohandada, ehkki see on võib-olla üsna kulukas idee. Näiliselt mõistlikum lähenemine oleks teha kättesaadavaks juhirobotid.

Kui näeksite oma naabruskonna tänavat mööda tulemas tavapärase välimusega autot ja selle roolis oleks robot, siis milline oleks teie reaktsioon?

Tõenäoliselt õudsus.

Üks vaieldav väide on see, et see õudsus on tingitud tavaautoga sõitvast robotist, mis sukeldub kuulsasse või kurikuulsasse kummalisse orgu.

Järeldus

Eetilise tehisintellekti vaatenurgast kujutab see kummaline org intrigeerivat mõistatust.

AI-s on mõned, kes usuvad täielikult veidrusesse orgu, ja mõned, kes mitte. Kuid kas te usute imelikku orgu või ei tee seda, sellegipoolest on teema enda ümber löödud. Sa ei saa oma pead varjata ja teeselda, et konstruktsioon per se on olematu. Konstruktsioon kui idee elab ja on mõnes mõttes viiruslikult võimas. Vihkake või armastage, kurjatud või võib-olla ülendatud teema jääb püsima.

Vastavalt minu varasemale diskursusele veidra oru eeliste kohta tehisintellekti eetikast lähtudes on selles armastuse ja vihkamise kahevõitlus. Kas eetilise tehisintellekti valdkonna inimesed peaksid veidra oru omaks võtma või veidra oru kokkuvõttes tagasi lükkama või jääma tõepärasuse suhtes mõnevõrra neutraalseks ja keskenduma selle asemel mõjule, mis tekib selle kohta jätkuvate lahknevate uskumuste tõttu.

See väljakutse toob esile väljapaistva majandusteadlase Adam Smithi, nagu ta kunagi ütles (parafraseerides), et teel Skeptilisuse linnast peate läbima ebaselguse oru.