AI eetika ja eneseteadvuse püüdlus AI-s

Kas olete eneseteadlik?

Vean kihla, et usute, et olete.

Asi on selles, et vähesed meist on iseäranis teadlikud. Eneseteadvuse ulatus või aste on erinev ja me kõik oleme erinevalt sellest, kui nutikalt teadlikud me oleme. Võite arvata, et olete täielikult eneseteadlik ja seda vaid vähesel määral. Sa võid olla vähesel määral eneseteadlik ja mõistad, et see on sinu vaimne seisund.

Samal ajal võite spektri ülemises osas uskuda, et olete täielikult eneseteadlik ja ausalt öeldes olete sama teadlik kui nad tulevad. Hea sulle.

Rääkides sellest, mis kasu on sellest, kui on ülimalt teadlik?

Teadusuuringute kohaselt avaldatud Harvard Business Review (HBR) Tasha Eurichi poolt, suudate väidetavalt teha paremaid otsuseid, olete oma otsustes enesekindlam, oma suhtlusvõimekuse poolest tugevam ja üldiselt tõhusam (artikli pealkirjaga „Mis eneseteadvus tegelikult on (ja kuidas) Seda kasvatada).“ Boonusfaktoriks on see, et need, kellel on terav eneseteadlikkus, on väidetavalt vähem altid petma, varastama või valetama. Selles mõttes on kelmiks või kelmiks olemise vältimisel kaks võimalust. püüdes olla parem inimene ja kaunistada oma kaasinimesi.

Kogu see jutt eneseteadvusest tõstatab mõneti ilmse küsimuse, nimelt mida väljend eneseteadlikkus tegelikult tähistab. Saate hõlpsasti leida palju erinevaid definitsioone ja tõlgendusi selle kompleksi ja, ütleme nii, et muheda konstruktsiooni kohta, mis eeldab eneseteadlikkust. Mõned lihtsustaksid asja, öeldes, et eneseteadlikkus seisneb iseenda jälgimises, teadmises, millega ise tegelete. Olete oma mõtetest ja tegudest väga teadlik.

Arvatavasti ei saaks inimene eneseteadlikuna aru, mida ta teeb ja miks ta nii teeb, samuti ei tea, mida teised inimesed tema kohta ütlevad. Olen kindel, et olete kohanud selliseid inimesi.

Näib, et mõned inimesed kõnnivad siin maa peal, ilma et nad teaksid, mida nad ise teevad, ja neil ei ole ka muljet, mida teised nende kohta räägivad. Ma arvan, et võite väita, et nad on nagu peaga alla laadiv härg õrnas purustatavate esemete butiigis. Tavaliselt kipume uskuma, et härg ei tea, mida ta teeb, ja jätab teiste seisukohtadele tähelepanuta, välja arvatud juhul, kui teised püüavad abitu olendit füüsiliselt manööverdada või karjatada.

Öeldakse, et eneseteadvus võib olla mõnevõrra rekursiivne.

Lubage mul visandada selle rekursiooni illustreerimiseks näide. Vaatate oma nutitelefonis üsna haaravat kassivideot (näib, et kõik teevad seda). Mõnel inimesel poleks muid nähtavaid mõtteid peale nende armsate kasside imelised südantsoojendavad veidrused. Samal ajal on igaüks, kellel on vähegi eneseteadlikkust, teadlik, et vaatab kassivideot. Samuti võivad nad olla teadlikud, et teised ümbritsevad märgivad, et nad vaatavad kassivideot.

Pange tähele, et võite olla teadlik ja siiski sukeldunud teatud põhitegevusse. Peamine tegevus on sel juhul kassivideo vaatamine. Teiseks ja samal ajal võite kanda mõtet, et vaatate tegelikult kassivideot. Samuti saate kanda mõtet, et teised jälgivad teid, kui vaatate täiesti meelelahutuslikku kassivideot. Te ei pea tingimata lõpetama üht tegevust, näiteks katkestama kassivideo vaatamise, et seejärel eraldi mõelda, et vaatate (või lihtsalt vaatasite) kassivideot. Need mõtted võivad näiliselt tekkida paralleelselt üksteisega.

Mõnikord võib meie eneseteadvus meid esmasest vaimsest tegevusest välja visata või vähemalt katkestada. Võib-olla läheb teie meel kassivideo vaatamise peale mõeldes osaliselt välja, kuna on üle pingutatud, et keskenduda ainult videole endale. Seejärel saate videot tagasi kerida, et vaadata uuesti seda osa, mida nägite, kuid mille täielik mõistmine oli vaimselt häiritud. Eneseteadvus häiris teie esmast vaimset tegevust.

Olgu, oleme nüüd valmis rekursiivsete aspektide ilmnemiseks.

Oled sa valmis?

Vaatate kassivideot. Teie eneseteadlikkus annab teile teada, et vaatate kassivideot ja teised jälgivad teid samal ajal, kui te seda videot vaatate. See on status quo.

Järgmisena teete täiendava vaimse hüppe. Hakkate mõtlema oma eneseteadvusele. Olete teadlik, et rakendate oma eneseteadlikkust. See käib nii: kas ma mõtlen liiga palju kassivideo vaatamise peale, küsite endalt lootusetult? See on veel üks eneseteadvuse kiht. Eneseteadvuse edetabel muu eneseteadlikkuse kohal.

Vana ütlus ütleb, et see on kilpkonnad. Eneseteadvuse nähtuste jaoks võite olla:

• Pole endast teadlik
• Ennast teadlik
• Ennast teadlik oma eneseteadvusest
• Eneseteadvus oma olemisest eneseteadlik oma eneseteadlikkusest endast
• Ad Infinitum (st ja nii edasi)

Võib-olla olete aru saanud, et juhtisin varem delikaatselt tähelepanu sellele, et eneseteadlikkusel näib olevat kaks peamist kategooriat. Üks konkreetne teooria postuleerib, et meil on omamoodi sisemine eneseteadvus, mis keskendub meie sisemistele seisunditele, ja meil on ka väline eneseteadlikkus, mis aitab hinnata meid ümbritsevate inimeste arusaamu meie kohta.

Vastavalt HBR artiklile on siin kiire kirjeldus kahest teoreetilisest eneseteadvuse tüübist: „Esimene, mille me nimetasime sisemine eneseteadvus, näitab, kui selgelt näeme oma väärtusi, kirgi, püüdlusi, sobivust meie keskkonnaga, reaktsioone (sealhulgas mõtteid, tundeid, käitumist, tugevaid ja nõrku külgi) ja mõju teistele. Ja vahepeal on teine: "Teine kategooria, väline eneseteadvus, tähendab nende samade ülalloetletud tegurite mõistes mõistmist, kuidas teised inimesed meisse suhtuvad. Meie uuringud näitavad, et inimesed, kes teavad, kuidas teised neid näevad, on osavamad empaatiat näitama ja teiste vaatenurki võtma.

Mugava kaks korda kahe maatriksi või nelja ruudu saab tuletada, kinnitades, et nii sisemine kui ka väline eneseteadlikkus ulatub kõrgest madalani ja saate need kaks kategooriat üksteisega võrrelda. HBR-i uuring näitab, et olete väidetavalt üks neist neljast eneseteadvuse arhetüübist:

• Introspektor: madal väline eneseteadlikkus + kõrge sisemine eneseteadlikkus
• Otsija: madal väline eneseteadlikkus + madal sisemine eneseteadlikkus
• Palun: kõrge väline eneseteadlikkus + madal sisemine eneseteadlikkus
• Teadlik: kõrge väline eneseteadlikkus + kõrge sisemine eneseteadlikkus

Tipp oleks "teadlik" arhetüüp, mis seisneb välise eneseteadlikkuse ülemisel astmel ja samamoodi sisemise eneseteadlikkuse tipus. Selgituseks, te ei saavuta seda ülistatud poosi tingimata püsival viisil. Saate libiseda edasi-tagasi kõrge ja madala vahel, nii sisemise kui ka välise eneseteadvuse valdkondade vahel. See võib sõltuda kellaajast, olukorrast, millesse olete sattunud, ja paljudest muudest olulistest teguritest.

Nüüd, kui oleme sõbralikult käsitlenud mõningaid eneseteadlikkuse põhielemente, võime püüda seda siduda eetilise käitumise teemaga.

Tavaline väide eneseteadlikkuse kohta on see, et kui olete eneseteadlik, olete tõenäolisemalt üle parda. See tähendab, nagu juba märgitud, et olete vähem altid ebasoodsatele eetilistele käitumisviisidele, nagu varastamine, petmine ja valetamine. Selle tendentsi põhjus on see, et teie eneseteadvuse aktiivsus paneb teid mõistma, et teie enda käitumine on ebameeldiv või ebaeetiline. Mitte ainult ei taba end mudasesse ebaeetilist vette sattudes, vaid kaldud ka end justkui tagasi välja tüürima kuivale maale (eetilise territooriumi pühadusse).

Teie eneseteadlikkus aitab teil enesekontrolli teostada.

Eeldatavasti on kontrastiks siis, kui eneseteadlikkus on vähene või puudub üldse, mis viitab sellele, et keegi võib-olla ei tunne oma kalduvust ebaeetilisele käitumisele. Võite väita, et selline mitteteadlik inimene ei pruugi aru saada, et ta toimib halvasti. Sarnaselt purustatavate esemete poe härjaga ei suuda nad end tõenäoliselt ise reguleerida, kuni nende tähelepanu ei köida midagi avalikumalt.

Muide, kõik ei osta seda. Mõned väidavad, et eneseteadvust saab sama hõlpsalt rakendada ebaeetiliseks olemiseks kui eetiliseks olemiseks. Näiteks võib kurjategija olla täielikult eneseteadlik ja tunneb heameelt, et ta teeb pahategusid. Nende eneseteadlikkus sunnib neid isegi üha suuremate ja suuremate kuritegude poole.

Sellel kohal on rohkem hägusust, kui silmaga näha võib. Oletame, et keegi on eneseteadlik, kuid ta ei ole teadlik antud ühiskonna või kultuuri eetilistest kommetest. Sel viisil ei ole neil mingeid eetilisi juhiseid, hoolimata väidetavast tõsiasjast, et nad on eneseteadlikud. Või kui soovite, võib-olla teab inimene eetilistest ettekirjutustest ega usu, et need kehtivad. Nad peavad end ainulaadseks või väljaspool tavapärase eetilise mõtlemise piire.

See käib ringi ja ringi.

Eneseteadvust võib tõlgendada kahe teraga eetikale suunatud mõõgana, rõhutavad mõned tuliselt.

Lähme praegu õnneliku näo versiooniga, mis koosneb eneseteadlikkusest, mis suunab või tõukab meid eetilise käitumise poole. Kui kõik muu on võrdne, teeme jultunud oletuse, et mida rohkem on eneseteadlikkust, seda eetilisemalt kaldute. Tundub kindlasti meeldiv ja inspireeriv seda nii soovida.

Vahetame käike ja toome tehisintellekti (AI) pildile.

Oleme selle arutelu punktis, et ühendada kõik käimasolevad segadused kasvava eetilise AI valdkonnaga, mida tuntakse ka AI eetikana. Minu jätkuva ja ulatusliku AI eetika kajastuse kohta vt link siin ja link siin, Ainult mõned nimed.

Eetilise tehisintellekti mõiste hõlmab eetika ja eetilise käitumise valdkonna põimumist tehisintellekti tulekuni. Olete kindlasti näinud pealkirju, mis on löönud häirekellasid ebavõrdsuse ja mitmesuguste eelarvamustega tulvil tehisintellekti kohta. Näiteks on muret selle pärast, et tehisintellektil põhinevad näotuvastussüsteemid võivad mõnikord avaldada rassilist ja soolist diskrimineerimist, mis on tavaliselt tingitud sellest, kuidas masinõppe (ML) ja süvaõppe (DL) rajatisi koolitati ja kasutati (vt minu analüüsi). juures see link siin).

Et püüda peatada või vähemalt leevendada meeleheitlikku kiirust AI For Bad, mis koosneb tehisintellektisüsteemidest, mis on kas kogemata või kohati tahtlikult kujundatud halvasti käituma, on viimasel ajal olnud tungiv vajadus rakendada tehisintellekti arendamisel ja kasutamisel eetilisi ettekirjutusi. Tõsine eesmärk on anda eetilisi juhiseid tehisintellekti arendajatele, samuti ettevõtetele, kes loovad või arendavad tehisintellekti rakendusi. Näitena eetiliste tehisintellekti põhimõtete väljatöötamisest ja vastuvõtmisest vaadake minu kajastust aadressil link siin.

Andke järelemõtlemishetk nende kolme üliolulise küsimuse läbimõtlemiseks:

• Kas me saame panna AI arendajad omaks võtma eetilisi tehisintellekti põhimõtteid ja neid juhiseid reaalselt kasutama?
• Kas me saame panna AI-ga tegelevaid ettevõtteid sama tegema?
• Kas suudame AI-d kasutavatel inimestel olla samamoodi teadlikud tehisintellekti eetilisest aspektist?

Ütleksin seda varjamatult, see on kõrge tellimus.

AI tegemise põnevus võib ületada igasuguse AI eetikale suunatud tähelepanu. Noh, mitte ainult põnevus, vaid ka raha teenimine on selle võrrandi lahutamatu osa. Võite olla üllatunud, kui teate, et mõned tehisintellekti valdkonnas tegutsevad inimesed võivad öelda, et nad hakkavad tegelema eetilise tehisintellekti "kraamiga", kui nad on oma AI-süsteemid uksest välja toonud. See on tüüpiline tehnikamantra, mille kohaselt tuleb kiiresti ebaõnnestuda ja sageli ebaõnnestuda, kuni saate kõik õigesti (loodetavasti saate õigesti).

Muidugi lasevad hobuse laudast välja need, kes eetiliselt kahtlaseid tehisintellekti laiemale avalikkusele ajavad. Nende väljakuulutatud väljavenitatud idee on, et AI For Bad parandatakse pärast seda, kui see on igapäevases kasutuses, mis on kahjulik, kuna hobune kappab juba meeletult ringi. Kahju saab teha. Samuti on suurem võimalus, et tehisintellekti kasutamise ajal midagi ei parandata ega kohandata. Sagedane vabandus on see, et tehisintellektiga askeldamine sel hetkel võib selle veelgi hullemaks muuta, kuna niigi ebaeetiline algoritmiline otsustusprotsess (ADM) läheb täielikult libisema.

Mida saab teha, et saada kasulikkust ja elujõudu eetilisest tehisintellektist eredalt särava ja suunava valgusena nende mõtetes, kes loovad tehisintellekti loovad ja kasutavad tehisintellekti?

Vastus: Eneseteadvus.

Jah, arvatakse, et kui inimesed oleksid teadlikumad sellest, kuidas nad tehisintellekti kasutavad või sellega suhtlevad, võib see suurendada nende kalduvust soovida, et eetiline tehisintellekt oleks norm. Sama võib öelda AI arendajate ja AI-süsteemidega seotud ettevõtete kohta. Kui nad oleksid oma tegemistest teadlikumad, võtaksid nad ehk tehisintellekti eetika rohkem omaks.

Osa loogikast, nagu juba öeldud, on see, et eneseteadlikkus pakub kalduvust olla eetiliselt parem inimene ja vältida ka eetiliselt närust inimest. Kui suudame seda eeldust jätkata, tähendab see, et AI-arendajad, kes on rohkem eneseteadlikkuse poole kaldu, kalduvad seega eetilisele käitumisele ja seetõttu kalduvad eetiliselt usaldusväärse tehisintellekti tootmisele.

Kas see sild on sinu jaoks liiga kaugel?

Mõni ütleks, et kaudsust on natuke palju. Eneseteadvuse, eetilise vooruslikkuse ja tehisintellektile eetiliste ettekirjutuste kohaldamise vahelist tohutut seosteahelat on võib-olla raske alla neelata. Vastuargument on see, et proovimisest ei saanud kahju.

Skeptikud ütleksid, et tehisintellekti arendaja võib olla eneseteadlik ja võib-olla eetilisemalt meelestatud, kuid nad ei kavatse tingimata seda vaimset laagrit eetilise tehisintellekti tavadele rakendada. Vastus sellele kahtlusele on, et kui suudame eetilisi tehisintellekti puudutavaid küsimusi avalikustada ja populariseerida, muutub muidu näiliselt nõrk seos ilmsemaks, ootuspärasemaks ja võib-olla muutub AI loomisel tavapäraseks toimimisviisiks.

Lisan nüüd sellele saagale pöörde. Keerutamine võib panna pea ringi käima. Palun veenduge, et istuksite hästi ja oleksite valmis selleks, mida kavatsen näidata.

Mõned juhivad tähelepanu sellele, et me peaksime eetilise AI ehitama otse tehisintellekti endasse.

Sa võid sellest avaldusest hämmingut tekitada. Pakime lahti.

Programmeerija võib luua tehisintellektisüsteemi ja teha seda oma programmeerimise eneseteadlikkusega, püüdes takistada tehisintellektil esinemast eelarvamusi ja ebavõrdsust. Selle asemel, et lihtsalt programmeerimisega tegeleda, valvab arendaja üle oma õla ja küsib, kas nende lähenemine toob kaasa kahjulike elementide puudumise AI-s.

Suurepärane, meil on tehisintellekti arendaja, kes näib olevat piisavalt eneseteadlik, on püüdnud omaks võtta eetilise käitumise ja on näinud võimalust lisada oma tehisintellektisüsteemi loomisel eetilisi ettekirjutusi.

Võitke eetiline AI!

Kõik on hästi, kuigi siin on midagi, mis võib hiljem ilmneda. Tehisintellekt võetakse kasutusele ja võetakse igapäevaselt kasutusele. Osa AI-st sisaldas komponenti lennult õppimiseks. See tähendab, et AI saab end kohandada uute andmete ja algse programmeerimise muude aspektide põhjal. Lühidalt, see ei tähenda, et tehisintellekt on tundlik. Meil ei ole tajuvat tehisintellekti. Ignoreeri neid tobedaid pealkirju, mis ütlevad, et me teeme seda. Keegi ei saa öelda, kas meil on tundlik tehisintellekt, ega ka keegi ei oska piisavalt ennustada, millal see üldse juhtub.

Tulles tagasi meie loo juurde, siis tehisintellekt töötati sihikindlalt välja, et end töötamise ajal täiustada. Päris mugav mõte. Selle asemel, et programmeerijad peaksid pidevalt täiustusi tegema, lubavad nad tehisintellekti programmil seda ise teha (vau, kas see on töö kaotamine?).

Aja jooksul, mil tehisintellekt toll tolli haaval end kohandub, selgub, et tehisintellekti süsteemi hiilivad selle enda muudatuste tõttu mitmesugused ebavõrdsed ebavõrdsused ja eelarvamused. Kui algselt jättis programmeerija need segased aspektid välja, siis nüüd sõnastatakse need AI tõttu käigupealt kohandudes. Kahjuks võib see juhtuda nii peenelt kulisside taga, et keegi pole targem. Need, kes võisid pärast esialgset põhjalikku testimist tehisintellektile rohelise tule anda, ei tea nüüd pimesi, et tehisintellekt on läinud mööda mäda teed. AI For Bad.

Üks vahend selle soovimatu ilmnemise ärahoidmiseks või vähemalt tabamiseks oleks AI-sse omamoodi eetiline tehisintellekti topeltkontroll. AI-s sisalduv komponent on programmeeritud jälgima tehisintellekti käitumist ja tuvastama, kas ebaeetiline ADM hakkab ilmnema. Kui jah, võib komponent saata hoiatuse tehisintellekti arendajatele või teha seda AI-süsteemi käitavale ettevõttele.

Selle komponendi täiustatud versioon võib proovida AI-d parandada. See oleks kohanduste korrigeerimine, muutes ebaeetilised esilekerkivad aspektid tagasi õigeteks eetilisteks parameetriteks. Võite ette kujutada, et seda tüüpi programmeerimine on keeruline. On võimalus, et see võib eksida, muutes ebaeetilisest sügavalt ebaeetiliseks. Samuti on võimalus, et valepositiivne tulemus käivitab komponendi tegevuse ja võib asja vastavalt sassi ajada.

Igatahes, ilma sellesse topeltkontrolli toimimisse takerdumata, teeme selle kohta julge avalduse. Võite soovitada, et tehisintellekt on mingil piiratud viisil eneseteadlik.

Jah, need on võitlussõnad paljude jaoks.

Peaaegu kõik arvavad, et tänapäeva tehisintellekt ei ole eneseteadlik. Punkt, punkt. Kuni me ei tea, kas ja millal see juhtub, pole AI-d, mis oleks teadlikud, seni, kuni jõuame tundliku tehisintellekti. Vähemalt mitte inimesele suunatud eneseteadvuse mõttes. Ärge isegi vihjake, et see võib juhtuda.

Olen kindlasti nõus, et peame olema tehisintellekti antropomorfiseerimisega ettevaatlikud. Ma räägin sellest murest pikemalt.

Samal ajal, kui olete arutelu huvides valmis kasutama faasisõna "enesest teadlik", siis usun, et saate hõlpsalt aru, miks võib öelda, et tehisintellekt järgib üldist eneseteadvuse kontseptsiooni. teadlikkust. Meil on osa AI-st, mis jälgib ülejäänud tehisintellekti, jälgides, millega ülejäänud AI tegeleb. Kui ülejäänud AI hakkab üle parda minema, püüab seireosa seda tuvastada. Lisaks võib tehisintellekti jälgimise osa või topeltkontroll ülejäänud tehisintellekti õigetele radadele tagasi juhtida.

Kas see ei tundu natuke nagu nende kassivideote vaatamine ja eneseteadlikkus, et te seda teete?

Sellel on tuttav helin.

Saame seda veelgi laiendada. AI topeltkontrolli komponent pole mitte ainult programmeeritud jälgima ülejäänud tehisintellekti käitumist, vaid märgib ka tehisintellekti kasutavate inimeste käitumist. Kuidas läheb kasutajatel tehisintellekti kasutamisel? Oletame, et mõned kasutajad väljendavad nördimust, et tehisintellekt näib neid diskrimineerivat. Tehisintellekti topeltkontroll võib sellest aru saada, kasutades seda järjekordse punase lipuna selle kohta, et ülejäänud AI eksib.

See toob esile sisemise eneseteadvuse ja välise eneseteadvuse kategooriad.

Tehisintellekti topeltkontroll skaneerib nii sisemiselt kui ka väljastpoolt, et välja selgitada, kas ülejäänud tehisintellekt on liikunud murettekitavale merele. Tuvastamine tõstab lipu või käivitab eneseparanduse.

Lisame veel ühe pisut mõtlemapaneva laienduse. Ehitame veel ühe tehisintellekti topeltkontrolli, mis on mõeldud tehisintellekti põhikontrolli topeltkontrollimiseks. Miks nii? Oletame, et tehisintellekti topeltkontroll näib tõmblevat või ei suuda oma tööd teha. Topeltkontrollija tehisintellekti topeltkontroll püüab seda tõrke tuvastada ja võtta vastavalt vajalikke meetmeid. Tere tulemast eneseteadvuse rekursiivsesse olemusesse, mõned võivad uhkusega kuulutada, nagu seda on näidatud arvutuslikus AI-süsteemis.

Neile teist, kes on selles küsimuses juba oma koha äärel, on praegu viimane kommentaar, et võiksime proovida vihjata, et kui muudate tehisintellektisüsteemid "enesest teadlikuks", kalduvad nad potentsiaalselt eetilise käitumise poole. Kas nad teevad seda tundepõhiselt? Otsustatult, ei. Kas nad teevad seda arvutuslikul alusel? Jah, kuigi me peame olema selged, et see ei ole sama kaliibriga kui inimkäitumine.

Kui tunnete end ebamugavalt, et eneseteadlikkuse mõistet moonutatakse valesti, et see sobiks arvutusskeemi, on teie kahtlused selles osas hästi välja toodud. Veel üks lahtine küsimus, kas peaksime lõpetama käimasolevad tehisintellekti jõupingutused, mis seda ideed võimendavad. Võite veenvalt väita, et vähemalt näib, et see viib meid tehisintellekti tõenäoliselt parema tulemuse poole. Peame selle toimumise ajal siiski silmad pärani lahti hoidma.

Peame vist nägema, kuidas see kõik välja näeb. Tulge selle juurde tagasi viie aasta, kümne ja viiekümne aasta pärast ja vaadake, kas teie mõtlemine on vastuolulises küsimuses muutunud.

Ma mõistan, et see on olnud teema pisut uimane uurimine ja võite soovida mõnda igapäevast näidet. Seal on eriline ja kindlasti populaarne näidete kogum, mis on mulle südamelähedane. Näete, et tehisintellekti, sealhulgas eetiliste ja juriidiliste tagajärgede eksperdina, palutakse mul sageli leida realistlikke näiteid, mis tutvustavad tehisintellekti eetika dilemmasid, et teema mõnevõrra teoreetiline olemus oleks hõlpsamini hoomatav. Üks muljetavaldavamaid valdkondi, mis seda eetilist tehisintellektiprobleemi ilmekalt esitleb, on tehisintellektil põhinevate tõeliste isejuhtivate autode tulek. See on mugav kasutusjuht või näide selle teema kohta rohkeks aruteluks.

Siin on tähelepanuväärne küsimus, millele tasub mõelda: Kas tehisintellektil põhinevate tõeliste isejuhtivate autode tulek valgustab midagi selle kohta, et tehisintellektil on justkui eneseteadlikkus, ja kui jah, siis mida see näitab?

Lubage mul veidike küsimus lahti pakkida.

Esiteks pange tähele, et tõelises isejuhtivas autos ei ole inimjuhti. Pidage meeles, et tõelisi isejuhtivaid autosid juhitakse tehisintellekti juhtimissüsteemi kaudu. Roolis pole vaja inimjuhti, samuti pole ette nähtud, et inimene saaks sõidukit juhtida. Minu ulatusliku ja pideva autonoomsete sõidukite (AV-de) ja eriti isejuhtivate autode kajastuse kohta vt link siin.

Tahaksin veelgi selgitada, mida mõeldakse tõeliste isejuhtivate autode all.

Isesõitvate autode tasemete mõistmine

Selgituseks võib öelda, et tõelised isejuhtivad autod on sellised, et tehisintellekt juhib autot täielikult omaette ja sõiduülesande täitmisel pole inimest vaja.

Neid juhita sõidukeid peetakse 4. ja 5. tasemeks (vt minu selgitust aadressil see link siin), samas kui autot, mis nõuab inimjuhilt ühist juhtimiskoormust, peetakse tavaliselt 2. või 3. tasemel. Sõiduülesandeid ühiselt jagavaid autosid kirjeldatakse kui poolautonoomseid ja tavaliselt sisaldavad need mitmesuguseid automatiseeritud lisandmoodulid, mida nimetatakse ADAS-iks (Advanced Driver-Assistance Systems).

5. tasemel pole veel tõelist isesõitvat autot, mida me veel ei tea, kas seda on võimalik saavutada ja kui kaua sinna sõitmine võtab.

Samal ajal püüavad 4. taseme jõupingutused saada järk-järgult veojõudu, läbides väga kitsaid ja selektiivseid avalike maanteede katseid, kuigi on vaidlusi selle üle, kas see testimine peaks olema iseenesest lubatud (me kõik oleme katses elu või surma merisead Mõned väidavad, et see toimub meie kiirteedel ja kõrvalteedel, vaadake minu kajastust aadressil see link siin).

Kuna poolautonoomsed autod nõuavad inimese juhti, ei erine seda tüüpi autode kasutuselevõtt märkimisväärselt tavapäraste sõidukite juhtimisest, nii et nende teema käsitlemiseks pole iseenesest palju uut (ehkki nagu näete) hetke pärast on järgmised punktid üldiselt kohaldatavad).

Poolautonoomsete autode puhul on oluline, et avalikkust tuleb hoiatada häirivast aspektist, mis on viimasel ajal esile kerkinud, nimelt sellest hoolimata, et hoolimata nendest inimjuhtidest, kes pidevalt postitavad videoid, kuidas nad magavad 2. või 3. taseme auto roolis, , peame kõik vältima eksitavat veendumust, et juht võib poolautonoomse auto juhtimisel juhtida tähelepanu juhtimisülesandelt ära.

Teie olete sõiduki juhtimistoimingute eest vastutav isik, sõltumata sellest, kui palju automaatikat võib 2. või 3. tasemele visata.

Isejuhtivad autod ja tehisintellekt, millel on nn eneseteadlikkus

4. ja 5. taseme tõeliste isesõitvate sõidukite korral ei ole juhtimises osalenud ükski inimene.

Kõik sõitjad on reisijad.

AI teeb sõitu.

Üks aspekt, mida kohe arutada, hõlmab asjaolu, et tänapäevases tehisintellekti juhtimissüsteemides osalev tehisintellekt ei ole mõistlik. Teisisõnu, tehisintellekt on kokku arvutipõhise programmeerimise ja algoritmide kollektiiv ning kindlasti pole ta võimeline arutlema samal viisil, nagu seda suudavad inimesed.

Miks on see rõhuasetus sellele, et tehisintellekt ei ole tundlik?

Kuna tahan rõhutada, et tehisintellekti juhtimissüsteemi rolli üle arutledes ei omista ma tehisintellektile inimlikke omadusi. Pange tähele, et tänapäeval on tehisintellekt antropomorfiseerida pidevalt ja ohtlikult. Sisuliselt määravad inimesed tänasele tehisintellektile inimesesarnase tundlikkuse, hoolimata vaieldamatust ja vaieldamatust asjaolust, et sellist tehisintellekti veel pole.

Selle selgitusega saate ette kujutada, et tehisintellekti juhtimissüsteem ei tea oma olemuselt kuidagi sõidu tahke. Juhtimine ja kõik sellega kaasnev tuleb programmeerida isejuhtiva auto riist- ja tarkvara osana.

Sukeldume lugematutesse aspektidesse, mis sellel teemal mängima tulevad.

Esiteks on oluline mõista, et kõik AI isejuhtivad autod ei ole ühesugused. Kõik autotootjad ja isejuhtivad tehnoloogiafirmad kasutavad isejuhtivate autode väljatöötamisel oma lähenemisviisi. Sellisena on raske teha põhjalikke väiteid selle kohta, mida AI-juhtimissüsteemid teevad või mitte.

Lisaks, kui väidetakse, et tehisintellekti juhtimissüsteem ei tee mõnda konkreetset asja, võivad sellest hiljem mööda minna arendajad, kes tegelikult programmeerivad arvuti seda tegema. Samm -sammult täiustatakse ja laiendatakse tehisintellekti juhtimissüsteeme järk -järgult. Olemasolevat piirangut ei pruugi süsteemi tulevases iteratsioonis või versioonis enam olla.

Usun, et see annab piisava hulga hoiatusi, mis on aluseks sellele, mida ma kavatsen seostada.

Oleme nüüd valmis sukelduma põhjalikult isejuhtivate autode ja eetiliste tehisintellekti küsimustesse, mis hõlmavad kulmu kergitavat arusaama, et tehisintellektil on omamoodi eneseteadlikkus, kui soovite.

Kasutame lihtsalt otsest näidet. AI-põhine isejuhtiv auto on teie naabruskonna tänavatel käimas ja tundub, et see sõidab ohutult. Algul olite erilist tähelepanu pööranud igale korrale, kui teil õnnestus isejuhtivale autole pilk peale visata. Autonoomne sõiduk paistis silma oma elektrooniliste andurite riiuliga, mis sisaldas videokaameraid, radariseadmeid, LIDAR-seadmeid ja muud sarnast. Pärast mitut nädalat isejuhtiva autoga teie kogukonnas ringi sõitmist märkate seda nüüd vaevu. Teie arvates on see lihtsalt üks auto niigi tiheda liiklusega avalikel teedel.

Et te ei arvaks, et isejuhtivate autode nägemisega on võimatu või ebausutav tutvuda, olen sageli kirjutanud sellest, kuidas isejuhtivate autode katsetamise piirkonnad on järk-järgult harjunud nägema ehitud sõidukeid, vaata minu analüüsi aadressil see link siin. Paljud kohalikud elanikud suundusid lõpuks suu lõhki haigutava ülbe pilgutamise asemel igavusest haigutama, et olla tunnistajaks nende looklevatele isejuhtivatele autodele.

Tõenäoliselt on praegu peamine põhjus, miks nad võivad autonoomseid sõidukeid märgata, ärrituse ja ärrituse tõttu. Raamatus olevad AI-juhtimissüsteemid tagavad, et autod järgivad kõiki kiiruspiiranguid ja liikluseeskirju. Traditsioonilistes inimeste juhitavates autodes kirglikud inimjuhid ärrituvad mõnikord, kui jääte kinni rangelt seaduskuulekate tehisintellektil põhinevate isejuhtivate autode taha.

See on midagi, millega meil kõigil võib olla vaja harjuda, kas õigustatult või valesti.

Tagasi meie loo juurde. Oletame, et ühel päeval läheneb teie linnas asuv isejuhtiv auto stoppmärgile ega paista kiirust aeglustavat. Taevake, näib, et tehisintellekti juhtimissüsteemil hakkab isejuhtiva auto ader otse Stop-märgist mööda. Kujutage ette, kui jalakäija või rattasõitja oleks kuskil läheduses ja jääks ootamatult vahele, et isejuhtiv auto ei jää korralikult seisma. Häbiväärne. Ohtlik!

Ja ebaseaduslik.

Vaatleme nüüd AI-juhtimissüsteemi AI-komponenti, mis toimib eneseteadliku topeltkontrolli stiilina.

Võtame hetke, et süveneda tehisintellekti juhtimissüsteemis toimuva üksikasjadesse. Selgub, et autonoomsele sõidukile paigaldatud videokaamerad tuvastasid ilmselt Stop-märgi, kuigi sel juhul varjab ülekasvanud puu Stop-märki. Masinõppe- ja süvaõppesüsteem, mida algselt õpetati Stop-märkidel, töötati välja peamiselt täielike stoppmärkide mustrite järgi, mis on üldiselt piiramatud. Videopiltide arvutuslikul uurimisel määrati väikeseks tõenäosuseks, et selles konkreetses kohas oli Stopp-märk (lisaks komplikatsiooniks ja täiendavaks selgituseks oli see äsja postitatud Stop-märk, mis ei ilmunud eelnevalt koostatud digitaalsetele kaartidele, mida AI juhtimissüsteem toetus).

Kokkuvõttes otsustas tehisintellekti juhtimissüsteem arvutuslikult edasi liikuda nii, nagu oleks Stop-märki kas olematu või võib-olla oleks see muud tüüpi märk, mis tõenäoliselt meenutas Stop-märki (seda võib juhtuda ja juhtub teatud sagedusega).

Kuid õnneks jälgis AI eneseteadlik topeltkontroll tehisintellekti juhtimissüsteemi tegevust. Andmete arvutuslikul ülevaatamisel ja ülejäänud tehisintellekti hinnangul otsustas see komponent tavapärase toimingu alistada ja käskis tehisintellekti juhtimissüsteemil sobivalt peatuda.

Keegi vigastada ei saanud ja ebaseaduslikku tegu ei toimunud.

Võib öelda, et tehisintellekti eneseteadlik topeltkontroll käitus nii, nagu oleks tegu sisseehitatud juriidilise agentiga, püüdes tagada, et tehisintellekti juhtimissüsteem järgiks seadusi (antud juhul Stopp-märki). Muidugi oli ka turvalisus võtmetähtsusega.

Loodetavasti näitab see näide, kuidas väljamõeldud AI eneseteadlik topeltkontroll võib töötada.

Järgmisena võime lühidalt kaaluda silmapaistvamat eetilise tehisintellekti näidet, mis illustreerib, kuidas tehisintellekti eneseteadlik topeltkontroll võib pakkuda eetilisele tehisintellektile orienteeritud manustatud funktsiooni.

Esiteks, üks AI-põhiste isejuhtivate autode tulekuga seotud muredest on taustaks see, et neid võidakse lõpuks kasutada mõnevõrra tahtmatult diskrimineerival viisil. Siin on, kuidas. Oletame, et need isejuhtivad autod on loodud selleks, et püüda maksimeerida oma tulupotentsiaali, mis on kindlasti mõistlik nende jaoks, kes kasutavad sõidujagamisvõimalusi isejuhtivate autode parki. Autopargi omanik soovib kasumlikku tegevust.

Võib juhtuda, et teatud linnas hakkavad rändlevad isejuhtivad autod tasapisi teenindama mõnda kogukonna osa, mitte teisi piirkondi. Nad teevad seda raha teenimise eesmärgil, kuna vaesemad piirkonnad ei pruugi olla nii tulutootvad kui piirkonna jõukamad osad. See ei ole selge soov mõnda piirkonda teenindada ja teisi mitte teenindada. Selle asemel tekib orgaaniliselt see, et isejuhtivate autode tehisintellekt "arutab" arvutuslikult välja, et geograafiliselt kõrgema tasuga piirkondadele keskendudes saab rohkem raha teenida. Olen arutanud seda ühiskonnaeetilist muret oma kolumnis, näiteks aadressil link siin.

Oletame, et oleme tehisintellekti juhtimissüsteemidesse lisanud AI eneseteadliku topeltkontrolli. Mõne aja pärast märkab AI komponent arvutuslikult mustrit, kus isejuhtivad autod rändlevad. Eelkõige mõnes valdkonnas, kuid mitte teistes. Kuna tehisintellekti eneseteadlik topeltkontroll on kodeeritud mõne eetilise tehisintellekti ettekirjutusega, hakkab ta isejuhtivaid autosid juhtima teistesse linnaosadesse, mis muidu tähelepanuta jäeti.

See illustreerib AI eneseteadlikkust ja teeb seda koos eetilise AI elemendiga.

Veel üks selline näide võib anda ülevaate sellest, et see eetiline tehisintellekt võib olla ka üsna kainestav ja tõsine tagajärg elule või surmale.

Mõelge uudisteraportile hiljutisest autoõnnetusest. Väidetavalt oli inimjuht tulemas tiheda liiklusega ristmikule ja põles roheline tuli, et otse edasi sõita. Teine juht tuli punasest tulest mööda ja sõitis ristmikule siis, kui ta poleks tohtinud seda teha. Rohelise tulega juht taipas viimasel hetkel, et see teine ​​auto hakkab tema autosse tugevalt sisse rammima.

Selle ohustatud juhi sõnul arvutas ta tähelepanelikult, et kas saab teine ​​auto löögi või võib ta kõrvale kalduda, et vältida vahelesegajat. Põikamisel oli probleem selles, et läheduses olid jalakäijad, kes oleksid ohus.

Millise valiku teeksid sina?

Võite end lüüasaamiseks ette valmistada ja loota, et kahju teid ei sandista ega tapa. Teisest küljest võite radikaalselt kõrvale kalduda, kuid ohustada tõsiselt ja võib-olla kahjustada või tappa lähedalasuvaid jalakäijaid. See on raske probleem, mis hõlmab moraalset hinnangut ja on täielikult läbi imbunud eetilistest (ja juriidilistest) tagajärgedest.

Seda tüüpi dilemmat katab üldotstarbeline eetiline probleem, mida kuulsalt või võib-olla kurikuulsalt nimetatakse käruprobleemiks, vaadake minu ulatuslikku kajastust aadressil see link siin. Selgub, et tegemist on eetiliselt stimuleeriva mõtteeksperimendiga, mis pärineb 1900. aastate algusest. Sellisena on teema olnud juba mõnda aega ja viimasel ajal on seda üldiselt seostatud tehisintellekti ja isejuhtivate autode tulekuga.

Asendage inimjuht isejuhtivasse autosse sisseehitatud tehisintellekti juhtimissüsteemiga.

Kujutage siis ette, et AI isejuhtiv auto siseneb ristmikule ja autonoomse sõiduki andurid tuvastavad ootamatult inimese juhitud auto, mis tuleb otse läbi punase tule ja sihib juhita autot. Oletame, et isejuhtivas autos on mõned reisijad.

Mida sa tahad, et AI teeks?

Kas tehisintellekti juhtimissüsteem peaks otsustama edasi sõita ja sattuda sisse (tõenäoliselt kahjustab või võib-olla tapab sõidukis viibivaid reisijaid) või soovite, et tehisintellekti juhtimissüsteem võtaks võimaluse ja kalduks kõrvale, kuigi kaldumine võtab autonoomse sõiduki lähedal asuvate jalakäijate suunas ja võib neid kahjustada või tappa.

Paljud isejuhtivate autode tehisintellekti tootjad lähenevad nendele eetilistele tehisintellekti tekitavatele raskustele "pea liivas". Üldiselt jookseks praegu programmeeritud tehisintellekt lihtsalt edasi ja saaks teine ​​auto vägivaldselt rammitud. AI ei olnud programmeeritud otsima muid kõrvalehoidmismanöövreid.

Olen korduvalt ennustanud, et tehisintellekti isejuhtivate autode tootjate selline „näe-ei-kurja-kuule-ei-kurja” seisukoht tuleb lõpuks kohale ja hammustab neid (minu analüüs on link siin). Võite oodata selliste autoõnnetustega seotud kohtuasju, mille eesmärk on välja selgitada, mida tehisintellekt oli programmeeritud. Kas tehisintellekti välja töötanud ja kasutusele võtnud ettevõte või tehisintellekti arendajad või lennukipargi operaator oli hooletu või vastutas selle eest, mida tehisintellekt tegi või ei teinud? Samuti võite eeldada, et selliste juhtumite ilmnemisel puhkeb avalikkuse eetiline AI-teadlikkus.

Sellesse eetilise tehisintellekti dilemmasse astub meie ülistatud AI eneseteadlik topeltkontroll, mis on eetikale orienteeritud. Võib-olla võib see spetsiaalne tehisintellekti komponent sellistes olukordades osaleda. See osa jälgib ülejäänud tehisintellekti juhtimissüsteemi ja isejuhtiva auto olekut. Kui selline kohutav hetk tekib, toimib AI komponent käruprobleemide lahendajana ja pakub välja, mida AI juhtimissüsteem peaks tegema.

Ma kinnitan teile, et seda pole lihtne kodeerida.

Järeldus

Jagan teiega praegu viimast mõtet sellel teemal.

Tõenäoliselt peate seda intrigeerivaks.

Kas teate? peegli test?

See on eneseteadvuse uurimisel üsna hästi teada. Asja muud nimetused on peegli enesetuvastuse test, punase laigu test, rouge test ja sellega seotud fraasid. Tehnika ja lähenemisviis loodi algselt 1970. aastate alguses loomade eneseteadvuse hindamiseks. Väidetavalt on testi edukalt läbinud loomad, sealhulgas ahvid, teatud tüüpi elevandid, delfiinid, harakad ja mõned teised. Loomad, keda testiti ja väidetavalt testi ei läbinud, on hiidpandad, merilõvid jne.

Siin on asi.

Kui loom näeb end peeglist, kas loom mõistab, et näidatud pilt on temast endast või arvab loom, et see on teine ​​loom?

Arvatavasti tunneb loom visuaalselt ära oma liigi, olles näinud teisi omasuguseid ja võib seetõttu arvata, et peeglis näidatud loom on sugulane või võib-olla sõjakas konkurent (eriti kui loom uriseb peegelpildi peale, mis turn näib neile vastu tormavat). Võib-olla olete näinud oma toakassi või armastatud lemmiklooma koera sama tegemas, kui ta näeb end esimest korda peeglist.

Igal juhul eeldaksime, et metsloom pole end varem näinud. Noh, see ei pruugi olla tõsi, sest võib-olla nägi loom end rahulikus veekogus või läikiva kivimoodustise kaudu. Kuid neid peetakse vähem tõenäolisteks võimalusteks.

Olgu, me tahame kuidagi hinnata, kas loom suudab aru saada, et see on tegelikult peeglis näidatud loom. Mõelge sellele näiliselt lihtsale toimingule. Inimesed mõistavad juba noores eas, et nad on olemas ja et nende olemasolu näitab iseennast peeglist nägemine. Nad saavad endast teadlikuks. Teoreetiliselt ei pruugi te aru saada, et olete sina, enne kui näete ennast peeglist.

Võib-olla ei suuda loomad kognitiivselt samamoodi eneseteadlikuks saada. Võib juhtuda, et loom näeb end peeglist ja usub pidevalt, et see on mõni teine ​​loom. Ükskõik kui mitu korda ta end näeb, arvab ta ikkagi, et see on temast erinev loom.

Selle trikk-osa tuleb mängu. Teeme loomale märgi. See märk peab olema nähtav ainult siis, kui loom näeb end peeglist. Kui loom saab keerduda või pöörata ja näha enda peal olevat märki (otse), rikub see katse. Lisaks ei saa loom märki tunda, haista ega muul viisil tuvastada. Veel kord, kui nad seda teeksid, rikuks see katse ära. Loom ei saa teada, et me talle märgi paneme, sest see annaks metsalisele vihje, et seal on midagi.

Tahame asju kitsendada nii, et ainus võimalik põhjus, miks märk on avastatav, oleks enda peeglisse vaatamine.

Ahaa, test on nüüd valmis. Loom asetatakse peegli ette või uitab selle juurde. Kui loom üritab hiljem märki puudutada või kaevata, võiksime mõistlikult järeldada, et ainus viis see juhtuda on siis, kui loom mõistab, et märk on temal endal. Väga vähesed loomaliigid on selle testi edukalt läbinud.

Testi kohta on palju kriitikat. Kui läheduses on inimtester, võivad nad märki vaadates asju ära anda, mis võib panna looma pintslisse või järele katsuma. Teine võimalus on see, et loom usub endiselt, et peeglist on kujutatud teist looma, kuid see on sama tüüpi, ja seega mõtleb loom, kas tal on ka selline märk nagu teisel loomal.

Edasi ja edasi läheb.

Olen kindel, et teil on hea meel seda teada saada ja nüüdsest saate aru, miks on loomal täpp või mõni veider märk, millel muidu sellist märki ei oleks. Kes teab, võis see hiljuti peeglitesti katse lõpetada. Õnnitlege looma julgelt helde osaleja eest.

Mis on sellel pistmist AI-põhiste isejuhtivate autodega?

See osa teile meeldib.

Pikal maanteel sõidab mööda isejuhtiv auto. AI juhtimissüsteem kasutab andureid muu liikluse tuvastamiseks. See on kaherealine maantee, mille ühel sõidurajal on liiklus põhjasuunas ja teisel sõidurajal lõunasuunas. Mõnikord üritavad autod ja veoautod üksteisest mööduda, sisenedes vastassuunavööndisse ja hüpates siis tagasi oma õigele sõidurajale.

Olete seda näinud, kahtlemata olete seda teinud.

Vean kihla, et see järgmine aspekt on juhtunud ka teiega. Isejuhtiva auto ees on üks neist suurtest paakautodest. See on valmistatud läikivast metallist. Poleeritud ja puhas nagu vile. Sellise veoki taha istudes näete paakauto tagaosa kaudu oma auto peegelpilti. Kui olete seda näinud, teate, kui lummav see võib olla. Siin sa oled, sina ja su auto, peegeldudes paakauto tagakülje peeglitaolisest peegelpildist.

Istuge hulluks pöördeks.

Paakauto taha tuleb isejuhtiv auto. Kaamerad tuvastavad auto kujutise, mida näidatakse peeglitaolises peegelduses. AI hindab, kas see on auto? Kas see tuleb isejuhtivale autole? Sedamööda, kuidas isejuhtiv auto paakautole üha lähemale jõuab, tundub auto aina lähemale minevat.

Jah, tehisintellekt võib arvutuslikult arvutada, et tegemist on ohtliku olukorraga ja tehisintellekt peaks selle hullu petturi sõiduki eest kõrvale hoidma. Näete, tehisintellekt ei tundnud end peeglist ära. Peeglitestis see läbi kukkus.

Mida teha? Võib-olla hüppab AI eneseteadlik topeltkontroll asjasse ja kinnitab ülejäänud tehisintellekti juhtimissüsteemile, et see on vaid kahjutu peegeldus. Oht ära hoitud. Maailm on päästetud. AI Mirror Testi edukas läbimine!

Keel-põses kokkuvõttes võiksime isegi oletada, et mõnikord on tehisintellekt targem või vähemalt eneseteadlikum kui keskmine karu (kuigi karude kiituseks tuleb öelda, et neil läheb peeglitestis tavaliselt hästi, tihtipeale harjunud nende peegeldusega veekogudes).

Parandus, võib-olla võib tehisintellekt olla eneseteadlikum kui hiidpandad ja merilõvid, kuid ärge öelge seda loomadele, sest neil võib tekkida kiusatus AI-süsteeme purustada või purustada. Me ei taha seda, eks?