AI eetikat häiris Hiina uusim väljatöötatud tehisintellekti partei lojaalsus mõtete lugemise näotuvastuse tunnistus, mis võib ennustada rõhuvaid autonoomseid süsteeme

Kas sa oled lojaalne?

Teoreetiliselt võib olla võimalik uurida teie ilmseid tegusid ja teha kindlaks, kas teie tegevus näitab lojaalsust.

Oletame aga, et selle asemel üritati teie mõtteid lugeda ja vahepeal teie nägu skaneerida, et määrata teie lojaalsuskoefitsient. See on kohutavalt pealetükkiv; võite julgelt taunida. Kõlab nagu üks nendest hullumeelsetest ulmefilmidest, mis kujutavad ette tulevast düstoopilist ühiskonda.

Õnneks sosistad endale vargsi, et meil täna midagi sellist pole.

Oo, hoia oma hobuseid.

Uudiste pealkirjad hõiskavad hiljuti, et 1. juulil 2022 Hiinas veebi postitatud uurimistöö kujutas uuringut, milles väidetavalt hinnati inimeste ajulaineid ja nende näoilmeid, et teha kindlaks, kas nad olid Hiina Kommunistlikule Parteile (CCP) lojaalsed. . Niisiis, tulevik läheb aina lähemale ja lähemale, vähemalt seoses düstoopilise ühiskonna saavutamisega, mida oleme kartnud, et kunagi võib tekkida.

Uurimistöö kadus kiiresti oma veebis postitatud lingilt.

Arvatavasti piisas paberi mahavõtmiseks kiirest põlgusest, mis kiiresti Internetis levis. Või soovivad teadlased lihtsalt teha mõned sõnastuse muudatused ja muud kahjutud parandused, eesmärgiga teha uuesti postitamine, kui neil on olnud põhjalikum võimalus veenduda, et i-d on punktiiriga ja t-d on kõik ristitud. Peame silmad lahti hoidma, et näha, kas paber saab teise elu.

Ma lähen edasi ja sukeldun põhjalikult sellesse, mida me uurimistöö kohta teame, ja proovin ühendada punktid selle kohta, kuidas selline tehisintellektiga seotud töö on meie kõigi jaoks oluline, ületades selle nägemise ulatuse. piirdudes ühe konkreetse riigiga. Minu kajastus on pisut ulatuslikum kui teised hiljutised selle uudisväärtusliku üksuse kohta avaldatud aruanded, nii et olge minuga ettevaatlik.

Rõhutan ka sellele, et väidetavast paberist saame välja lugeda hulgaliselt olulisi tehisintellekti eetika õppetunde. Minu jätkuva ja ulatusliku AI eetika ja eetilise tehisintellekti katvuse kohta vt link siin ja link siin, Ainult mõned nimed.

Siin on see, mida on seni uuringu kohta mainitud.

Ilmselt värvati mõned "vabatahtlikud" osalema KKP arusaama käsitlevas eksperimendis. Pole teada, kas nad olid vabatahtlikud või sarnasemad vabatahtlike või juhendatud vabatahtlikega. Arutelu huvides eeldame, et nad olid nõus uuringus osalema.

Ma räägin sellest, et see ei oleks lihtsalt nõme. Iga kord, kui tehakse katseid, mis hõlmavad inimesi, on selliste katsealuste värbamisel ja uurimistöösse kaasamisel palju üldtunnustatud tavasid. See tuleneb osaliselt varasematest uuringutest, mis sageli pettasid või sundisid inimesi katses osalema, mis mõnikord põhjustas neile osalejatele negatiivseid psühholoogilisi tagajärgi või isegi füüsilist kahju. Teadusringkond on püüdnud seda tüüpi salakavalaid uuringuid jõuliselt piirata ja nõuab, et neile, keda soovitakse inimestega seotud uuringutesse kaasata, esitataks kõikvõimalikud avalikustamised ja hoiatused.

Selgituseks, mitte kõik ei järgi selliseid ettenägelikke ja kohusetundlikke juhiseid.

Edasi liikudes oli subjekte väidetavalt 43 ja väidetavalt olid nad Hiina Kommunistliku Partei liikmed. Pidage meeles, et katsealuste valimine katse jaoks on katse jaoks üsna oluline ja seda tuleb arvesse võtta ka võimalike järelduste puhul, mida võite katse tulemuste kohta hiljem teha.

Oletame, et ma tahan teha katse, kuidas inimesed tunnustatud Star Warsi sarja tajuvad. Kui ma valin eelnevalt teemad, kes kõik Tähesõdasid vihkavad (kuidas sellised inimesed saavad eksisteerida?), ja näitan neile Tähesõdade videoklippe, on tõenäoline, et nad ütlevad tõenäoliselt, et neile ikka veel Star Warsi ei meeldi. Selle pseudoteadusliku eksperimendi põhjal väidan võib-olla varjatult, et inimesed - üldiselt - tõesti vihkavad Star Warsi, mida minu "hoolikalt" ettevalmistatud uurimiskeskkonnas "tõestus" (pilgutus-pilgutus).

Võib-olla te ei tea, et olin ruletiratast justkui rikkunud, valides eelnevalt teemad, mille puhul eeldasin, et see annaks minu varjatult soovitud tulemusi. Muidugi, kui ma oleksin selle asemel tahtlikult värvanud inimesi, kes armastasid Tähesõdasid ja olid innukad fännid, on tõenäoline, et nad on nende Tähesõdade klippide vaatamisest vaimustuses. Jällegi, mis tahes järeldusi selle kohta, kuidas inimesed üldiselt Tähesõdadele reageerivad, kahandaks eelnevalt valitud katsete kogum.

KKP-le keskendunud uuringus istusid katsealused näiliselt kioskilaadse videoekraani ees ja lugesid erinevaid artikleid CCP poliitika ja saavutuste kohta. See on arvatavasti peetav "eksperimentaalne ravi", millega katsealused kokku puutuvad. Katse kavandamisel mõtlete tavaliselt välja eksperimentaalse teguri või aspekti, mille kohta soovite näha, kas see mõjutab osalejaid.

Uurimisküsimus, mida ilmselt uuriti, oli see, kas nende materjalide läbivaatamine avaldaks subjektidele mingit mõju, suurendades, vähendades või jäädes neutraalseks nende hilisemate muljete suhtes KKPst.

Klassikalise nullhüpoteesi korral võite korraldada sellise uuringu, et väita, et tarbitud materjalid ei mõjuta katsealuste hilisemaid muljeid. Kui olete võrdlenud nende seisukohti CCP kohta enne ja pärast, prooviksite statistiliselt näha, kas nende näitamistes on statistiliselt oluline muutus.

Võib juhtuda, et enne ja pärast ei ole statistiliselt erinevad, mistõttu võib mõistlikult tinglikult järeldada, et selle konkreetse uuringu puhul ei paistnud eksponeeritud materjalid (eksperimentaalne käsitlus) nende muljeid muutvat. Teisest küljest, kui oleks statistiliselt kehtiv erinevus, peaksite uurima, kas pärast oli suurem kui eelmine, mis võimaldab teil ettevaatlikult oletada, et materjalid suurendasid nende muljeid (ja mündi teisel küljel, kui järgnev oli väiksem kui enne, see võib tähendada, et materjalid vähendasid või vähendasid nende muljeid).

Seal on palju närivaid lahtisi otsi, millega tuleks sellise uuringu puhul tegeleda.

Näiteks tahame tavaliselt nn kontrollrühma, mida saame võrrelda nendega, kes saavad eksperimentaalset ravi. Siin on põhjus. Oletame, et kioski ees materjalide lugemiseks istumine oli muljete muutmise tõeline alus. Võib juhtuda, et tarbitavate materjalide olemus on mulje mõju seisukohast ligikaudu ebaoluline. Ainuüksi istub ja loeb kõike, näiteks uusimaid lugusid kassidest, kes teevad naljakaid asju, üksi võib asja ära teha. Seetõttu võime korraldada, et mõned teemad kuuluvad meie kontrollrühma, kes on lugemiseks kokku puutunud mõne muu materjaliga, välja arvatud CCP poliitika ja saavutuste materjalid.

Me ei tea, kas seda tehti antud juhul (paistab, et keegi pole seda tahku veel maininud).

Ma saan aru, et olete nüüdseks muutunud uuringu meedia plahvatusliku osa pärast närviliseks. Liigume kiiresti sellesse ossa.

Kuidas saaksime tuvastada, kas selles katses osalejad reageerisid või muutsid oma muljeid kuvatud materjalide lugemise tulemusena?

Tavaline viis oleks neilt küsida.

Võib-olla oleksite eelnevalt täitnud küsimustiku, mis küsib neilt nende muljeid KKPst. Seejärel saime pärast eksperimentaalse töötlusega kokkupuudet, nagu kuvatavate materjalide lugemisel, täita veel ühe küsimustiku. Seejärel võib võrrelda katsealuste enne ja pärast antud vastuseid. Kui kasutaksime ka kontrollrühma, eeldaksime, et kontrollrühma vastused ei muutu sisuliselt eelnevast järgnevaks (arvamisel, et lugude vaatamine kasside hullamisest ei oleks tohtinud nende CCP-muljeid mõjutada).

See katsealustelt muljete küsimine ei pruugi olla nii otsekohene, kui võib tunduda.

Oletame, et katses osalejad tunnevad või tunnevad üldist kõrvalekallet, et soovite, et nad reageeriksid katselisele ravile teatud viisil. Sel juhul võivad nad eksperimentaalse manustamise järgses osas oma reaktsioone tahtlikult üle hinnata. Olete seda kindlasti juhtumas näinud. Kui teen turule tuleva uue sooda maitsetesti, võin käituda nii, nagu oleksin sellest soodast meeletult maitsenud, lootes saada soodatootja reklaamis ja saada oma rikkalikult väljateenitud viisteist minutit kuulsust. .

Sisu on selles, et pelgalt inimestelt nende arvamuse küsimine ei ole kindel vahend muutuste mõõtmiseks. See on üks lähenemine. Sageli võiks ja kasutatakse ka muid lähenemisviise.

Kuidas otsustas see konkreetne uuring katsealuste reaktsioone mõõta?

Ilmselt kasutati vähemalt kahte meetodit. Üks meetod seisnes näo skaneerimises ja AI-põhise näotuvastustarkvara kasutamises katsealuste reaktsioonide hindamiseks. Teine meetod oli väidetavalt mingisugune ajulainete skaneerimine. Siiani ei ole teatatud, mis tüüpi ajulainete skaneerimisseadmeid kasutati ega millist AI-põhist ajulainete analüüsi tarkvara kasutati.

Erinevad aruanded on näidanud, et uuring väitis eksperimendi olemuse kohta järgmist: "Ühest küljest saab see hinnata, kuidas parteiliikmed on mõtte- ja poliitilise hariduse omaks võtnud." Ja uuringus väidetavalt mainiti ka seda: "Teisest küljest annab see tõelisi andmeid mõtlemise ja poliitilise hariduse jaoks, et seda saaks parandada ja rikastada." Uurimustöö viidi läbi Hiina Hefei tervikliku riikliku teaduskeskuse egiidi all.

Meedia teated viitavad sellele, et uuring viitas väitele, et näotuvastuse skaneeringud ja ajulainete skaneeringud aitasid tuvastada, et järelmuljed CCP kohta suurenesid.

Tahaksin teie jaoks märkida, et ilma et me saaksime kasutatud süsteeme otseselt üle vaadata ja uurimistööd põhjalikult uurida, ei tea me üksikasjalikult, kuidas neid tehisintellektil põhinevaid süsteeme täpselt kasutati.

Võib juhtuda, et katsealused reageerisid pigem eksperimentaalsele keskkonnale kui eksperimentaalsele ravile. Igaüks, kes uuringus osaleb, võib alguses olla mures. See võib segadusse ajada kõik ajulainete skaneerimise või näomustrite analüüsimise katsed. Samuti on võimalus, et nad tundsid motivatsiooni teadlastele meeldida, valides pärast materjalide nägemist positiivseid mõtteid ja see võib teoreetiliselt kajastuda ajulainete skaneerimisel ja näo skaneerimisel (võib-olla, kuigi palun teadke, et on olemas suurepärane palju kirglikku vaidlust selliste väidete kehtivuse üle, nagu ma lühidalt selgitan), lootes tulemusi moonutada ja näidata, et need mõjutasid positiivselt.

Twitteri reaktsioon taunib sisuliselt, et AI-ga varustatud ajulainete skaneerimise ja näotuvastuse kasutamine on iseenesest kohutav ja ennekuulmatu tegu. Seda tüüpi seadmeid kasutaksid ainult inimkoletised, räägivad meile mõned neist säutsidest.

Pean paluma teil maha istuda ja valmistuda millekski, mis võib olla ebaviisakas ja šokeeriv üllatus.

Maailmas on palju teadlasi, kes kasutavad oma uurimistöös samu tehnoloogiaid. See ei ole kindlasti esimene kord, kui ajulainete skaneerimise võimalust kasutati inimkatsetes. Kindlasti ei olnud see ka esimene kord, kui näotuvastust kasutati inimkatsealustel. Isegi pealiskaudne veebiotsing näitab teile palju ja palju eksperimentaalseid uuringuid kõigis riikides ja laborites, mis on seda tüüpi seadmeid kasutanud.

Nagu öeldud, ei ole nende kasutamine KKP-le lojaalsuse mõõtmiseks midagi, millele te palju tähelepanu pööraksite. Kui sellist tehisintellekti kasutatakse valitsuse kontrollimiseks, on punane joon, nagu öeldakse.

See on ilmselgelt jahutav osa kogu komplektist ja kambast.

Paljud väljendavad muret selle pärast, et kui valitsused otsustavad kasutada ajulainete skaneerimise tehnoloogiat ja näotuvastust, et teha kindlaks lojaalsus antud režiimidele, leiame end düstoopilises haiget tekitavas maailmas. Kui kõnnite mööda avalikku tänavat, võib juhtuda, et laternapostile paigaldatud seade määrab salaja teie lojaalsuskoefitsiendi.

Eeldatakse, et kui teie nägu ei näita, et olete piisavalt lojaalne, või kui ajulainete skaneering viitab samale, võivad valitsuse pätid ootamatult teie juurde tormata ja teie käest kinni haarata. Ärritav. Kurb. Ei tohi lubada.

See on tuum, miks selle uudise pealkiri on tekitanud kära ja pahameelt.

Kujutage seda ette. Võimalik, et hakkame meisterdama ja seejärel kasutusele võtma arvutipõhiseid süsteeme, mis kasutavad uusimat tehisintellekti, et otsustada, kas oleme lojaalsed või mitte. Kui prooviksite palgata inimesi ringi istuma ja sama tegema, oleks teil vaja palju inimesi ja teil oleks logistikaprobleem, et püüda neid kõiki silma peal hoida. Tehisintellektil põhineva süsteemi puhul pole vaja teha muud, kui seadistada elektroonikaseadmed laternapostidele, hoonete külgedele jne. Lojaalsuse otsimine võib toimuda 24 × 7 igal ajal ja kõigis nii varustatud kohtades. Seejärel saab selle sisestada tohutusse andmebaasi.

Meist saavad inimesed, kes on pelgalt hammasrattad kolossilises kõikenägevas kõikevaatavas ühiskonna rõhuvas ökosüsteemis. Nägev silm ei ole ainult meie tegemiste jälgimine. See tõlgendab ka seda, mida meie näod ütlevad meie lojaalsuse kohta valitsusele. Meie meelt tuleb samuti uurida sarnase kohutava põhjuse pärast.

Yikes!

Sellest tuleneb ka teine ​​​​mure, kuigi võib-olla pole see Big Brotheri tagajärgedega võrreldes nii keeruline, kui juba visandatud.

Mõelge nendele kahele pakilisele küsimusele:

• Kas me saame kindlalt väita, et ajulainete skaneerimine võib kinnitada teie lojaalsust?
• Kas me saame kindlalt väita, et näotuvastuse skaneerimine võib kinnitada teie lojaalsust?

Oota, sa võid karjuda täiest kõrist.

Mõistan ja tunnistan, et te ei pruugi usaldusväärsuse aspektidest iseenesest nii palju hoolida. See, kas seda saab teha usaldusväärselt, on vähem oluline kui asjaolu, et seda üldse tehakse. Keegi ei tohiks olla sellise kontrolli all. Unustage, kas tehnoloogia töötab selle ülesande jaoks sobivalt. Me ei peaks seda ülesannet kohe alguses ette võtma.

Igal juhul on praegu kindel vastus eitav, nimelt et olemasolevad AI-süsteemid, mis teevad ajulainete skaneeringuid ja näotuvastust, ei ole selle hüppe tegemiseks piisavalt võimelised.

Võib-olla olete viimasel ajal näinud, et mõned näotuvastussüsteemid on nende näotuvastussüsteemide kasutuselevõtu osas mõnevõrra tagasi lükanud. Eelseisvas veerupostituses käsitlen näiteks Microsofti hiljutisi jõupingutusi, et püüda peatada nende inimeste mõõn, kes kasutavad Microsofti pakutavaid näotuvastustööriistu eesmärkidel, mis on kaugel sellest, mida tehnoloogia suudab teha või milleks seda kasutada tuleks. . Teid võib huvitada minu varasem pilk tehisintellekti eetikaga seotud kahtlustele, mis on näotuvastuse kohta juba palju reklaami saanud, vt. link siin. Olen arutanud ka ajulainete skaneerimise areeni, vt minu arutelu aadressil link siin.

Lühidalt öeldes ei ole veel usaldusväärseid ega mõistlikke vahendeid, mis viitaksid sellele, et ajulainete skaneerimine või näotuvastuse skaneerimine võib näidata kellegi lojaalsust. Isegi oletatavasti põhiaspektide üle, näiteks selle üle, kas saate neid skaneeringuid usaldusväärselt seostada sellega, kas keegi on õnnelik või kurb, arutatakse endiselt tuliselt. Püüdmine tõusta millelegi nii amorfsele ja muutlikule nagu lojaalsus on sild liiga kaugel.

Võin lisada, et mõned usuvad palavalt, et lõpuks jõuame selleni. Seetõttu olen püüdnud tähelepanelikult märkida, et me pole veel seal, selle asemel, et väita, et me ei jõua sinna kunagi. Kunagi pole suur sõna. Peate olema täiesti kindel, kui kavatsete selle tahtega ümber visata mitte kunagi olema teostatav (pidage meeles, et "mitte kunagi" hõlmab aastakümnete, sajandite ja tuhandete või miljonite aastate pärast).

Mõned on reageerinud uudisele selle Hiina laboriuuringu kohta, mis näitab, kui ohtlikult on maailm kaldumas tehisintellekti sobimatutele ja ohtlikele kasutusviisidele. Jagan teiega hetkeks pilguheitu sellest, mida AI eetika endast kujutab. See aitab teil paremini mõista, miks see konkreetne uuring näib rikkuvat paljusid, kui mitte peaaegu kõiki eetilise tehisintellekti üldtunnustatud ettekirjutusi.

Uskuge või mitte, aga mõned on oletanud, et võib-olla teeme selle konkreetse uuringuga seoses mutimäest mäe.

Kas me oleme?

Vastuargument on see, et mutimäest võib üsna pea saada mägi. Vanasõna kohaselt lumepallist, mis muutub lumisest künkast alla veeredes aina suuremaks ja suuremaks, peame peatama lumepalli liikuma hakkamise. Kui me seda tüüpi uuringuid talume, laseme sellel lumepallil oma teekonda alustada. Selliseid uuringuid rääkides ja välja kutsudes saame ehk lumepalli ennetada.

Üks on kindel – tehisintellekti aspektide osas oleme Pandora laeka avamise äärel ning küsimus jääb, kas suudame laeka avamist takistada või vähemalt leida mingid vahendid, kuidas sellega, mis välja tuleb, heaperemehelikult tegeleda. kui kast on oma kuratliku sisu valla päästnud.

Kui mitte midagi muud, siis loodetavasti kutsuvad seda tüüpi meediatormid esile laialdase arutelu selle üle, kuidas ennetada tehisintellektiga seotud kurja tegusid ja hoida ära arvukalt tehisintellektist põhjustatud eksistentsiaalseid riske. Peame suurendama oma ühiskonna teadlikkust tehisintellekti eetikast ja tehisintellekti eetilistest kaalutlustest.

Enne kui hakkame rohkem arutama seda tüüpi tehisintellektisüsteemide aluseks olevaid metsikuid ja viljuvaid kaalutlusi, paneme paika mõned täiendavad põhialused väga olulistel teemadel. Peame põgusalt sukelduma tehisintellekti eetikasse ja eriti masinõppe (ML) ja süvaõppe (DL) tulekusse.

Võib-olla olete ähmaselt teadlik, et tänapäeval üks valjemaid hääli tehisintellekti valdkonnas ja isegi väljaspool tehisintellekti valdkonda seisneb nõudmises eetilise tehisintellekti suurema väljanägemise poole. Vaatame, mida tähendab viidata tehisintellekti eetikale ja eetilisele tehisintellektile. Lisaks uurime, mida ma mõtlen masinõppest ja süvaõppest rääkides.

Üks konkreetne AI eetika segment või osa, mis on pälvinud palju meedia tähelepanu, koosneb tehisintellektist, millel on ebasoodsad eelarvamused ja ebavõrdsused. Võib-olla olete teadlik, et kui AI uusim ajastu algas, tekkis tohutu entusiasm selle vastu, mida mõned praegu kutsuvad. AI heaks. Kahjuks hakkasime selle ülevoolava elevuse kannul olema tunnistajaks AI For Bad. Näiteks on selgunud, et erinevad AI-põhised näotuvastussüsteemid sisaldavad rassilisi ja soolisi eelarvamusi, mida olen arutanud link siin.

Püüdlused, mille vastu võidelda AI For Bad on aktiivselt käimas. Pealegi häälekas juriidiline Ebaõigete tegude ohjeldamise püüdlustes on ka sisuline tõuge tehisintellekti eetika omaksvõtmise suunas, et parandada tehisintellekti alatust. Arvatakse, et me peaksime tehisintellekti arendamiseks ja kasutuselevõtuks vastu võtma ja toetama peamised eetilised tehisintellekti põhimõtted, tehes seda nii, et AI For Bad ning samal ajal eelistatava kuulutamine ja propageerimine AI heaks.

Seoses sellega pooldan ma AI kasutamist tehisintellekti hädade lahendamise osana, võitledes tulega sellisel mõtteviisil. Näiteks võime manustada eetilised tehisintellekti komponendid tehisintellektisüsteemi, mis jälgib, kuidas ülejäänud AI asju teeb ja võib seega reaalajas tabada mis tahes diskrimineerivaid jõupingutusi, vt minu arutelu aadressil link siin. Meil võiks olla ka eraldi AI-süsteem, mis toimiks teatud tüüpi tehisintellekti eetikamonitorina. Tehisintellekti süsteem toimib järelevaatajana, et jälgida ja tuvastada, millal mõni teine ​​tehisintellekt läheb ebaeetilist kuristikku (vt minu analüüsi selliste võimaluste kohta link siin).

Mõne hetke pärast jagan teiega mõningaid AI eetika üldpõhimõtteid. Selliseid nimekirju vedeleb siin-seal palju. Võib öelda, et universaalse veetluse ja üksmeele ainsat loetelu pole veel olemas. See on kahetsusväärne uudis. Hea uudis on see, et vähemalt AI eetika loendid on hõlpsasti kättesaadavad ja need kipuvad olema üsna sarnased. Kokkuvõttes viitab see sellele, et teatud tüüpi põhjendatud lähenemise kaudu leiame tee AI-eetika üldise sarnasuse poole.

Esiteks käsitleme lühidalt mõningaid üldisi eetilisi tehisintellekti ettekirjutusi, et illustreerida, mis peaks olema AI loomisel, väljatöötamisel või kasutajal ülioluline kaalutlus.

Näiteks nagu väitis Vatikan aastal Rooma kutse tehisintellekti eetikale ja nagu ma olen põhjalikult käsitlenud link siin, need on nende tuvastatud kuus peamist tehisintellekti eetikapõhimõtet:

• Läbipaistvus: Põhimõtteliselt peavad AI-süsteemid olema seletatavad
• Kaasamine: Arvestada tuleb kõigi inimeste vajadustega, et kõik saaksid kasu ning kõigile saaks pakkuda parimaid võimalikke tingimusi eneseväljenduseks ja arenemiseks.
• Vastutus: Need, kes AI kasutamist kavandavad ja juurutavad, peavad tegutsema vastutustundlikult ja läbipaistvalt
• Erapooletus: Ärge looge ega tegutsege erapoolikuse järgi, kaitstes nii õiglust ja inimväärikust
• Usaldusväärsus: AI-süsteemid peavad suutma töökindlalt töötada
• Turvalisus ja privaatsus: AI-süsteemid peavad töötama turvaliselt ja austama kasutajate privaatsust.

Nagu väitis USA kaitseministeerium (DoD) oma Tehisintellekti kasutamise eetilised põhimõtted ja nagu ma olen põhjalikult käsitlenud link siin, need on nende kuus peamist tehisintellekti eetikapõhimõtet:

• Vastutav: DoD töötajad rakendavad asjakohasel tasemel otsustusvõimet ja hoolitsust, jäädes samas vastutavaks tehisintellekti võimaluste arendamise, juurutamise ja kasutamise eest.
• Võrdne: Osakond astub tahtlikke samme, et minimeerida AI võimaluste tahtmatut eelarvamust.
• Jälgitav: Osakonna tehisintellekti võimekust arendatakse ja rakendatakse nii, et asjaomastel töötajatel oleks asjakohane arusaam tehisintellekti võimete puhul kohaldatavast tehnoloogiast, arendusprotsessidest ja töömeetoditest, sealhulgas läbipaistvatest ja auditeeritavatest metoodikatest, andmeallikatest ning kavandamisprotseduuridest ja dokumentatsioonist.
• usaldusväärne: Osakonna tehisintellekti võimalustel on selgesõnalised ja täpselt määratletud kasutusalad ning selliste võimaluste ohutust, turvalisust ja tõhusust testitakse ja tagatakse kindlaksmääratud kasutusviiside piires kogu nende elutsükli jooksul.
• Reguleeritav: Osakond kavandab ja kavandab tehisintellekti võimeid, et täita nende kavandatud funktsioone, võimaldades samal ajal tuvastada ja vältida soovimatuid tagajärgi ning võimet välja lülitada või deaktiveerida kasutusele võetud süsteemid, mis näitavad ettekavatsematut käitumist.

Olen arutanud ka erinevaid tehisintellekti eetika põhimõtete kollektiivseid analüüse, sealhulgas olen käsitlenud teadlaste koostatud kogumit, mis uuris ja koondas arvukate riiklike ja rahvusvaheliste tehisintellekti eetikapõhimõtete olemust artiklis "The Global Landscape Of AI Ethics Guidelines" (avaldatud sisse loodus) ja mida minu kajastus uurib aadressil link siin, mis viis selle nurgakivide loendini:

• läbipaistvus
• Õiglus ja õiglus
• Mittepahatahtlikkus
• Vastutus looduse ees
• Privaatsus
• Kasulikkus
• Vabadus ja autonoomia
• Usalda
• Jätkusuutlikkus
• Väärikus
• Solidaarsus

Nagu võite otse arvata, võib nende põhimõtete aluseks olevate üksikasjade väljaselgitamine olla äärmiselt raske. Veelgi enam, pingutus muuta need laiad põhimõtted millekski täiesti käegakatsutavaks ja piisavalt üksikasjalikuks, et neid AI-süsteemide loomisel kasutada, on samuti kõva pähkel. Üldjoontes on lihtne vehkida selle üle, mis on tehisintellekti eetika ettekirjutused ja kuidas neid üldiselt järgida, samas kui tehisintellekti kodeerimisel peab olema tõeline kumm, mis teega kokku puutub, on olukord palju keerulisem.

Tehisintellekti arendajad peavad kasutama tehisintellekti eetika põhimõtteid koos nendega, kes juhivad tehisintellekti arendustegevust, ja isegi nendega, kes lõpuks AI-süsteeme kasutavad ja hooldavad. Kõiki sidusrühmi kogu tehisintellekti arendamise ja kasutamise elutsükli jooksul arvestatakse eetilise tehisintellekti väljakujunenud normide järgimise raames. See on oluline esiletõst, kuna tavaliselt eeldatakse, et tehisintellekti eetika põhimõtetest peavad kinni pidama „ainult kodeerijad” või need, kes programmeerivad tehisintellekti. Nagu varem öeldud, on tehisintellekti väljatöötamiseks ja väljatöötamiseks vaja küla, mille jaoks kogu küla peab olema kursis ja järgima tehisintellekti eetika ettekirjutusi.

Teeme ka kindlaks, et oleme tänapäeva tehisintellekti olemuse osas ühel lainel.

Tänapäeval pole AI-d, mis oleks tundlikud. Meil pole seda. Me ei tea, kas tundlik tehisintellekt on võimalik. Keegi ei oska täpselt ennustada, kas saavutame tundliku tehisintellekti, ega seda, kas tundlik tehisintellekt tekib mingil imekombel spontaanselt arvutusliku kognitiivse supernoova kujul (mida tavaliselt nimetatakse singulaarsuseks, vt minu kajastust aadressil link siin).

AI tüüp, millele ma keskendun, koosneb mittetundlikust tehisintellektist, mis meil praegu on. Kui me tahtsime metsikult spekuleerida tundlik AI, see arutelu võib minna radikaalselt teises suunas. Tundlik tehisintellekt oleks väidetavalt inimliku kvaliteediga. Peaksite arvestama, et tundlik tehisintellekt on inimese kognitiivne vaste. Veelgi enam, kuna mõned oletavad, et meil võib olla üliintelligentne tehisintellekt, on mõeldav, et selline tehisintellekt võib lõpuks olla inimestest targem (minu üliintelligentse tehisintellekti kui võimaluse uurimist vt. katvus siin).

Hoidkem asjad maalähedasemalt ja arvestagem tänapäevase arvutusliku mittetundliku AI-ga.

Mõistke, et tänapäeva tehisintellekt ei ole võimeline inimese mõtlemisega võrdselt "mõtlema". Kui suhtlete Alexa või Siriga, võib vestlusvõime tunduda inimese võimetega sarnane, kuid tegelikkus on see, et see on arvutuslik ja sellel puudub inimese tunnetus. AI uusim ajastu on laialdaselt kasutanud masinõpet (ML) ja süvaõpet (DL), mis võimendavad arvutusmustrite sobitamist. See on viinud tehisintellektisüsteemideni, millel on inimesele sarnased kalduvused. Samal ajal pole tänapäeval ühtegi tehisintellekti, millel oleks justkui terve mõistus ega kognitiivne imestus jõulise inimmõtlemise kohta.

ML/DL on arvutusliku mustrite sobitamise vorm. Tavaline lähenemisviis on see, et kogute andmeid otsustusülesande kohta. Sisestate andmed ML/DL arvutimudelitesse. Need mudelid püüavad leida matemaatilisi mustreid. Pärast selliste mustrite leidmist, kui see on leitud, kasutab AI-süsteem neid mustreid uute andmete leidmisel. Uute andmete esitamisel rakendatakse kehtiva otsuse tegemiseks "vanadel" või ajaloolistel andmetel põhinevaid mustreid.

Arvan, et võite arvata, kuhu see liigub. Kui inimesed, kes on teinud mustrilisi otsuseid, on kaasanud ebasoodsaid eelarvamusi, on tõenäoline, et andmed peegeldavad seda peenelt, kuid olulisel viisil. Masinõppe või süvaõppe arvutusmustrite sobitamine püüab lihtsalt andmeid vastavalt matemaatiliselt jäljendada. Tehisintellektiga loodud modelleerimisel iseenesest ei paista tervet mõistust ega muid tundlikke aspekte.

Lisaks ei pruugi AI arendajad ka aru saada, mis toimub. ML/DL-i salapärane matemaatika võib raskendada praegu varjatud eelarvamuste väljaselgitamist. Võiksite õigustatult loota ja eeldada, et AI-arendajad testivad potentsiaalselt maetud eelarvamusi, kuigi see on keerulisem, kui võib tunduda. On kindel võimalus, et isegi suhteliselt ulatusliku testimise korral on ML/DL-i mustrite sobitamise mudelites siiski kallutusi.

Võite kasutada kuulsat või kurikuulsat kõnekäänd prügi sisse prügi välja viimine. Asi on selles, et see sarnaneb pigem eelarvamustega, mis salakavalalt infundeeritakse tehisintellekti sukeldunud eelarvamustest. AI algoritmi otsuste tegemine (ADM) muutub aksiomaatiliselt koormatud ebavõrdsustega.

Pole hea.

Pöördugem tagasi oma fookuse juurde AI-süsteemidele, mida kasutatakse sobimatutel või võib-olla otsestel eesmärkidel, ja selle juurde, kuidas see on seotud hiljuti postitatud CCP lojaalsust käsitleva uuringuga.

Kaks peamist kaalutlust tulevad meelde:

1) See tehisintellekti juhtum on osa suuremast jätkuvast segadust tekitava tehisintellekti kasutamise mustrist ning on seetõttu toimuva suhtes kurjakuulutav ja silmiavav.

2) Kassi võiks kotist välja lasta nii, et kui selline tehisintellekt ühes riigis kasutusele võetakse, saab see hõlpsasti levida ka teistesse riikidesse

Alustage esimesest punktist selle AI juhtumi kohta, mis on osa käimasolevast mustrist.

Üks eriti oluline põhjus, miks see üks konkreetne uuring teid eriti häirib, on see, et see on osa suuremast mustrist, kuidas mõned AI kasutavad. Kui see oleks ainus selline uuring, mis kunagi läbi on viidud, võib see meid kergelt segada. Sellegipoolest ei kõlaks see tõenäoliselt sellise innuga, nagu praegu näeme.

See on võib-olla tilk-tilk, mis liigub selle poole, mis hakkab käest minema.

Nagu uudistes teatatakse, on Hiina tuntud selle poolest, et on nõudnud ülevoolavat lojaalsust KKP-le. Lisaks on loodud või luuakse mitmesuguseid vahendeid, et tagada inimeste juurutamine valitsuse doktriini. On viidatud juhtumeid varasematest uuringutest, mille eesmärk on välja töötada tehisintellekti algoritmid, mis võiksid hinnata parteiliikmete mõttetingimusi (vt Hiina toetatud Õppeajad aastal 2019, mis mainis neid jõupingutusi).

Võib-olla mäletate, et 2018. aastal pidas asepresident Mike Pence Hudsoni Instituudis kõne ja rõhutas, et "Hiina valitsejate eesmärk on rakendada orwellilikku süsteemi, mille eelduseks on kontrollida peaaegu kõiki inimelu tahke" (see oli viide KKP rakendamisele. sotsiaalne krediidipunktide hindamissüsteem, mis on silmapaistva vastuolulise teema). Võite kindlalt väita, et see hiljutine CCP uuring on järjekordne samm selles suunas.

Me ei tea, millal või kas viimane õlekõrs murrab kaameli selja, nii et need ühekordsed uuringud muudetakse laialt levinud AI-põhisteks seiresüsteemideks.

Teine tähelepanu vääriv punkt on see, et me ei saa eeldada, et seda tüüpi AI piirdub ainult Hiinaga. Ehkki seda tüüpi AI kasutamine Hiinas, mis võib laialt levinud, on iseenesest häiriv, võivad teised riigid samamoodi käituda.

Kui selle AI väidetavalt on parimal ajal valmis, ei lähe tõenäoliselt palju aega, et ka teised riigid otsustaksid, et nad soovivad seda rakendada. Kass tuleb kotist välja. Mõned riigid kasutavad seda tehisintellekti arvatavasti lausa rõhuval viisil ega püüa seda teha. Teised riigid võivad näiliselt püüda seda tüüpi tehisintellekti kasutada näitavatel kasulikel eesmärkidel, millel on lõpuks peaaegu vältimatu negatiivne külg.

Tegelikult on see, et vihjamine, et seda tüüpi tehisintellekt võetakse kasutusele alles pärast seda, kui see on parimal ajal valmis, on natuke vale nimetus. Sellel ei pruugi olla mingit vahet, kas tehisintellekt saab sel viisil kindlalt töötada. AI-d saab kasutada kaaneloona, vaadake minu selgitust aadressil link siin. Sõltumata sellest, mida tehisintellekt on tegelikult võimeline saavutama, arvatakse, et tehisintellekt võib olla mugav teesklus, et tuua esile elanikkonna jälgimist ja skeeme, mis võimaldavad mõõta ja tagada täieliku lojaalsuse võimudele.

Vean kihla, et selle kaaluka arutelu praegusel hetkel soovite mõnda illustreerivat näidet, mis võiksid seda teemat tutvustada. Seal on eriline ja kindlasti populaarne näidete kogum, mis on mulle südamelähedane. Näete, et tehisintellekti, sealhulgas eetiliste ja juriidiliste tagajärgede eksperdina, palutakse mul sageli leida realistlikke näiteid, mis tutvustavad tehisintellekti eetika dilemmasid, et teema mõnevõrra teoreetiline olemus oleks hõlpsamini hoomatav. Üks muljetavaldavamaid valdkondi, mis seda eetilist tehisintellektiprobleemi ilmekalt esitleb, on tehisintellektil põhinevate tõeliste isejuhtivate autode tulek. See on mugav kasutusjuht või näide selle teema kohta rohkeks aruteluks.

Siin on tähelepanuväärne küsimus, millele tasub mõelda: Kas tehisintellektil põhinevate tõeliste isejuhtivate autode tulek valgustab midagi tehisintellekti väärkasutuse kohta ja kui jah, siis mida see näitab?

Lubage mul veidike küsimus lahti pakkida.

Esiteks pange tähele, et tõelises isejuhtivas autos ei ole inimjuhti. Pidage meeles, et tõelisi isejuhtivaid autosid juhitakse tehisintellekti juhtimissüsteemi kaudu. Roolis pole vaja inimjuhti, samuti pole ette nähtud, et inimene saaks sõidukit juhtida. Minu ulatusliku ja pideva autonoomsete sõidukite (AV-de) ja eriti isejuhtivate autode kajastuse kohta vt link siin.

Tahaksin veelgi selgitada, mida mõeldakse tõeliste isejuhtivate autode all.

Isesõitvate autode tasemete mõistmine

Selgituseks võib öelda, et tõelised isejuhtivad autod on need, kus tehisintellekt juhib autot täiesti iseseisvalt ja juhtimisülesande täitmisel puudub inimabi.

Neid juhita sõidukeid peetakse 4. ja 5. tasemeks (vt minu selgitust aadressil see link siin), samas kui autot, mis nõuab inimjuhilt ühist juhtimiskoormust, peetakse tavaliselt 2. või 3. tasemel. Sõiduülesandeid ühiselt jagavaid autosid kirjeldatakse kui poolautonoomseid ja tavaliselt sisaldavad need mitmesuguseid automatiseeritud lisandmoodulid, mida nimetatakse ADAS-iks (Advanced Driver-Assistance Systems).

Tõelist isejuhtivat autot 5. tasemel veel ei ole ja me ei tea veel isegi, kas seda on võimalik saavutada või kui kaua selleni jõudmine aega võtab.

Samal ajal püüavad 4. taseme jõupingutused saada järk-järgult veojõudu, läbides väga kitsaid ja selektiivseid avalike maanteede katseid, kuigi on vaidlusi selle üle, kas see testimine peaks olema iseenesest lubatud (me kõik oleme katses elu või surma merisead Mõned väidavad, et see toimub meie kiirteedel ja kõrvalteedel, vaadake minu kajastust aadressil see link siin).

Kuna poolautonoomsed autod nõuavad inimese juhti, ei erine seda tüüpi autode kasutuselevõtt märkimisväärselt tavapäraste sõidukite juhtimisest, nii et nende teema käsitlemiseks pole iseenesest palju uut (ehkki nagu näete) hetke pärast on järgmised punktid üldiselt kohaldatavad).

Poolautonoomsete autode puhul on oluline, et avalikkust tuleb hoiatada häirivast aspektist, mis on viimasel ajal esile kerkinud, nimelt sellest hoolimata, et hoolimata nendest inimjuhtidest, kes pidevalt postitavad videoid, kuidas nad magavad 2. või 3. taseme auto roolis, , peame kõik vältima eksitavat veendumust, et juht võib poolautonoomse auto juhtimisel juhtida tähelepanu juhtimisülesandelt ära.

Teie olete sõiduki juhtimistoimingute eest vastutav isik, sõltumata sellest, kui palju automaatikat võib 2. või 3. tasemele visata.

Isejuhtivad autod ja tehisintellekti väärkasutus

4. ja 5. taseme tõeliste isesõitvate sõidukite korral ei ole juhtimises osalenud ükski inimene.

Kõik sõitjad on reisijad.

AI teeb sõitu.

Üks aspekt, mida kohe arutada, hõlmab asjaolu, et tänapäevases tehisintellekti juhtimissüsteemides osalev tehisintellekt ei ole mõistlik. Teisisõnu, tehisintellekt on kokku arvutipõhise programmeerimise ja algoritmide kollektiiv ning kindlasti pole ta võimeline arutlema samal viisil, nagu seda suudavad inimesed.

Miks on see rõhuasetus sellele, et tehisintellekt ei ole tundlik?

Kuna tahan rõhutada, et tehisintellekti juhtimissüsteemi rolli üle arutledes ei omista ma tehisintellektile inimlikke omadusi. Pange tähele, et tänapäeval on tehisintellekt antropomorfiseerida pidevalt ja ohtlikult. Sisuliselt määravad inimesed tänasele tehisintellektile inimesesarnase tundlikkuse, hoolimata vaieldamatust ja vaieldamatust asjaolust, et sellist tehisintellekti veel pole.

Selle selgitusega saate ette kujutada, et tehisintellekti juhtimissüsteem ei tea oma olemuselt kuidagi sõidu tahke. Juhtimine ja kõik sellega kaasnev tuleb programmeerida isejuhtiva auto riist- ja tarkvara osana.

Sukeldume lugematutesse aspektidesse, mis sellel teemal mängima tulevad.

Esiteks on oluline mõista, et kõik AI isejuhtivad autod ei ole ühesugused. Kõik autotootjad ja isejuhtivad tehnoloogiafirmad kasutavad isejuhtivate autode väljatöötamisel oma lähenemisviisi. Sellisena on raske teha põhjalikke väiteid selle kohta, mida AI-juhtimissüsteemid teevad või mitte.

Lisaks, kui väidetakse, et tehisintellekti juhtimissüsteem ei tee mõnda konkreetset asja, võivad sellest hiljem mööda minna arendajad, kes tegelikult programmeerivad arvuti seda tegema. Samm -sammult täiustatakse ja laiendatakse tehisintellekti juhtimissüsteeme järk -järgult. Olemasolevat piirangut ei pruugi süsteemi tulevases iteratsioonis või versioonis enam olla.

Loodan, et see annab piisava hulga hoiatusi, et toetuda sellele, mida kavatsen käsitleda.

Visandame isejuhtiva auto stsenaariumi, mis võib tehisintellekti visandaval või vääral viisil võimendada.

Jagan teiega mõningaid tehisintellektil põhinevaid isejuhtivate autode tagajärgi, mis võivad teid värisema ja häirida. Need on tahud, mida peaaegu keegi praegu ei aruta. Olen neid küsimusi korduvalt tõstatanud, kuigi tunnistan avalikult, et seni, kuni meil pole levinud isejuhtivate autode kasutuselevõttu, ei saa me palju haaku sellest, et ühiskond on mures või ärritunud selle pärast, mis tänapäeval näib olevat pelgalt abstraktne. .

Oled sa valmis?

Alustame mõne vundamendi rajamisega.

Tehisintellektil põhinevad isejuhtivad autod varustatakse mõistlikult videokaameratega. See võimaldab isejuhtival autol saada sõidustseenist videopilti. Isejuhtivas autos arvutite pardal töötav tehisintellekti juhtimissüsteem on omakorda mõeldud kogutud video arvutuslikuks uurimiseks ja välja selgitamiseks, kus on tee, kus on läheduses asuvad autod, kus on jalakäijad jne. Ma saan aru, et ma räägin isejuhtivate autode 101 põhitõdedest.

Autonoomse sõiduki välisküljele on paigaldatud videokaamerad, mis on suunatud väljapoole. Lisaks võite üldiselt eeldada, et sõiduki sees või sees on videokaamerad, mis on suunatud isejuhtiva auto sisemusse. Miks nii? Lihtne, sest autonoomses sõidukis toimuva video jäädvustamiseks on palju olulisi kasutusviise.

Kui lähete isejuhtiva autoga sõitma, ei pea te enam juht olema. Mida sa siis isejuhtivas autos olles teed?

Üks asi, mida saate teha, oleks suhelda teistega kodus või kontoris. Siin olete teel tööle, mis tähendab, et sõitke isejuhtiva autoga tund aega ja saate juba oma tööpäeva alustada Zoomi-laadse reaalajas interaktiivse veebiseansi läbiviimisega. Nad näevad teid, kuna kaamerad on suunatud isejuhtivasse autosse. Võib-olla näete neid isejuhtivas autos LED-ekraanil. Päeva lõpus, koju tagasi minnes, võiksite oma lastega sarnase interaktiivse videoarutelu teha, kui nad hakkavad õhtuks kodutööd tegema.

Teine kasutusala oleks tundide võtmine. Nüüd, kui te ei pea oma aega sõitmisele raiskama, saate isejuhtivas autos viibimise aja muuta oma oskuste täiustamiseks või tunnistuse või kraadi saamiseks. Sissepoole suunatud kaamerate kaudu näeb teie juhendaja teid ja arutada, kuidas teie koolitus kulgeb.

Veel üks võimalus oleks püüda tagada, et isejuhtivate autodega sõitjad ei läheks amokki. Inimese juhitavas autos on juht täiskasvanu kohalolek, mis tavaliselt hoiab sõitjaid tegemast lollusi, näiteks grafitiga interjööri märgistamast. Mis juhtub tehisintellektil põhinevate isejuhtivate autodega? Mõned muretsevad, et sõitjad otsustavad sõidukite sisemuse lõhkuda. Selle vältimiseks kasutab isejuhtivaid autosid juurutav sõidujagamisettevõte tõenäoliselt sissepoole suunatud videokaameraid, et jälgida, mida inimesed autonoomses sõidukis teevad.

Oletan, et olete veendunud, et lisaks kaameratele, mis suunavad sõidustseeni eristamiseks väljapoole, on meil tulemas videokaamerad, mis suunavad isejuhtivate autode sisemusse.

Olete nüüd valmis selleks, mida ma nimetasin rändsilmaks, vaadake minu analüüsi aadressil link siin.

Esiteks kaaluge väljapoole suunatud videokaameraid.

Ükskõik, kuhu isejuhtiv auto ka ei läheks, suudab see potentsiaalselt videole salvestada kõike, mida kaamerad näevad. Isejuhtiv auto, mis tõstab kellegi kodust üles ja viib ta toidupoodi, läbib naabruskonna ning videole jäädvustatakse mitte ainult sõidutee, vaid ka kõik muu silmapiiril toimuva. Isa ja poeg mängivad oma eeshoovis. Perekond istub oma esisel verandal. Edasi ja edasi läheb.

Praegu on meil avalikel teedel nii vähe isejuhtivaid autosid, et igapäevaste tegevuste video jäädvustamise võimalus on suhteliselt napp ja ebaoluline.

Kujutage ette, et lõpuks saavutame turvalised ja laialt levinud isejuhtivad autod. Tuhanded neist. Võib-olla miljoneid. Meil on täna USA-s umbes 250 miljonit inimese juhitavat autot. Lõpuks asendatakse need suures osas isejuhtivate autodega või neid lihtsalt enam ei kasutata ning meie teedel on valdavalt isejuhtivad autod. Neid isejuhtivaid autosid juhib tehisintellekt ja sellisena saavad nad rändlust sisuliselt 24 × 7. Ei puhkepause ega vannitoapause.

Videoandmeid saab nendest isesõitvatest autodest OTA (Over-The-Air) elektrooniliste võrguühenduste kaudu üles laadida. Isejuhtivad autod kasutavad OTA-d, et laadida sõidukisse uusimad tehisintellekti tarkvaravärskendused. Lisaks saab OTA abil isejuhtivast autost andmeid pilvepõhisesse andmebaasi laadida.

Kokkuvõttes oleks võimalik need üleslaaditud andmed kokku õmmelda. Õmbluste abil saate potentsiaalselt kokku panna igaühe igapäevased tulemised ja minekud, kes astusid igal päeval välja mis tahes lokaadis, kus kasutati palju isejuhtivaid autosid.

See on liikuv silm, mille eest olen hoiatanud.

Nüüd saame siduda CCP uuringu sellise võimega. Oletame, et valitsusel on juurdepääs kõigile kogutud videoandmetele. Seejärel saavad nad kasutada tehisintellektil põhinevat näotuvastusalgoritmi, et teha kindlaks, kus te oma igapäevaste elureiside ajal läksite, mis kellaajal. Lisaks võiksid nad eeldatavasti kasutada oma "lojaalsuse" AI-põhist analüsaatorit, et näha, kas teie nägu näib olevat lojaalne või mitte.

Kujutage vaid ette, et kõndisite teisipäeva pärastlõunal kohalikus söögikohas võileiba toomas. Sõiduteel sõitsid mööda isejuhtivad autod. Kõik paljud videod jäädvustasid teid, kui tegite oma viieminutilise jalutuskäigu, et suupisteid süüa. Andmed laaditi üles tsentraliseeritud andmebaasi. Valitsus käivitas andmete põhjal oma tehisintellekti näotuvastusprogrammi.

Selgub, et tehisintellekt tegi kindlaks, et teie nägu oli ebalojaalne.

Võib-olla juhtus see ebalojaalne pilk vaid hetkeks. Sa ootasid tänavanurgal, et valgus vahetuks, et saaksid üle tänava söögikohta minna. Sel hetkel tekkis sinus kerge vastikustõmblus, et pidid kõndimise sümbolit liiga kaua ootama. Kas see viitas võib-olla teie ebalojaalsusele valitsusele?

Jah, AI arvutuslikult arvutatud, olite sel ajahetkel ülimalt ebalojaalne. Kui te sel õhtul koju jõuate, on valitsus korraldanud teie vahistamise.

Kuid oodake, seal on veel midagi.

Pidage meeles, et ka videokaamerad on suunatud sissepoole.

Samal teisipäeval, kui sõitsite isejuhtiva autoga tööle, jäädvustasid videokaamerad teie iga hetke. See laaditi üles tsentraliseeritud andmebaasi. AI tarkvara, mis analüüsib näomustreid ebalojaalsuse tuvastamiseks, uuris kontorisse mineku ajal teie näoilmeid arvutusliku mustriga.

Ühel hetkel vaatasite juhuslikult autonoomsest sõidukist välja ja märkasite ehitusmeest, kes blokeeris osaliselt sõiduteed ja pani tehisintellekti juhtimissüsteemi isejuhtiva auto kiirust aeglustama. Sekundi murdosa jooksul ilmutas teie nägu pilkavalt sellele ehitustöölisele, kes aeglustab liiklust.

AI näomustrite analüüs tõlgendas seda kui märki ebalojaalsusest valitsuse suhtes.

Kaks lööki teie vastu ühe päeva jooksul.

Sa elad õhukesel jääl.

Muidugi on selles kontekstis peaaegu ebaoluline, kas tehisintellektil on teie lojaalsuse kindlaksmääramise osas "õige" või "vale". Sisu on selles, et AI on selleks otstarbeks loodud. Tehisintellekti juurutavad inimesed võivad või mitte hoolida sellest, kas tehisintellekt on seda tüüpi ülesannete jaoks sobiv. AI võimaldab valitsuse kontrolli, sõltumata tehnoloogilisest kehtivusest.

See hõlmab näo skannimist.

Kui meil lõpuks on (väidetavalt) ajulainete skannimiseks kaasaskantavaid kuluefektiivseid seadmeid, saab seda kindlasti lisada ka isesõitvatesse autodesse. Videokaamerad on nüüd kindel asi. Sellise kaliibriga ajulainete skaneerimise seadmete olemasolu ei ole praegu kaartides, kuid see on selgelt midagi, mida nähakse tulevikus ette.

Minu uurimiseks selle kohta, kuidas valitsus võib püüda elanikkonda üle võtta, haarates isejuhtivate autode üle kontrolli, vt. link siin. Sarnane võimalus on, et pahatahtlik tegutseja võib proovida sama teha, vt link siin. Need ei ole mõeldud hirmutaktikaks nende seotud teemade kajastamisel, vaid hoiatuseks küberturvalisuse ja muude ettevaatusabinõude olulisusest, mida me ühiskonnana peame püüdma võtta seoses kõikjal levinud isejuhtivate autode ja autode ilmumisega. muud autonoomsed sõidukid.

Järeldus

Tahaksin kiiresti käsitleda üht lisaaspekti AI kohta, mida kasutatakse lojaalsuse kindlakstegemiseks, mis minu arvates on mõnevõrra eraldiseisev teema, kuid mida mõned säutsud ja sotsiaalmeedia on rääkinud.

Varem mainisin, et meil ei ole mõistvat tehisintellekti ja me ei tea, kas ja millal seda saab. Lõbutseme mõttega, et meil on tundlik tehisintellekt. Sellisel juhul kaaluge järgmist stsenaariumi.

Otsustame mittetundliku tehisintellekti kaudu laialdaselt kasutusele võtta tehisintellekti, mis teeb arvutuslikult kindlaks, kas inimesed on oma valitsusele lojaalsed, kasutades näoskaneeringuid, ajulainete skaneeringuid ja nii edasi. Seda juhivad ja kasutavad täielikult võimuga inimesed. See on häiriv stsenaarium, mida ma just hetk varem kirjeldasin.

Aeg end üles tõsta.

AI muutub tundlikuks. Oleme nüüd potentsiaalselt andnud sellele tundlikule tehisintellektile laialt levinud võime tuvastada inimeste lojaalsust ja ebalojaalsust. Kurjategija AI, kes kaalub inimeste hävitamist, võib seda võimalust kasutada otsustamaks, et inimesed on tõepoolest ebalojaalsed ja tuleks täielikult hävitada. Või võib-olla just need inimesed, kes näitavad oma näo või mõtete kaudu ebalojaalsust, tuleb eriti välja jätta.

Teine nurk on see, et AI soovib inimesi orjastada, vt minu arutelu aadressil link siin.

Näib, et tegime tehisintellektile selle ülesande täitmiseks suurepärase kingituse. Meie loodud olemasolev infrastruktuur võimaldab AI-l meid, inimesi, hoolikalt jälgida. Need, kes näivad olevat väljendanud ebalojaalset näoilmet või mõelnud tehisintellekti valitseja(te)st, tunnevad AI viha.

Saan aru, et ütlesin, et see on eelarvamuse tõstmine. Ma pole kindel, et see nii on. Mulle tundub, et olenemata sellest, kas meil on tehisintellekti ülemused, kes otsustavad otseselt meie saatuse üle inimeste ülemused, kasutavad lojaalsuse määramiseks tehisintellektisüsteemi, ei tundu kumbki ettepanek eriti soovitav.

Viimane kommentaar esialgu.

Rooma õpetlane ja filosoof Marcus Tullius Cicero väitis, et pole midagi õilsamat ega auväärsemat kui lojaalsus. Võib-olla laseme tehisintellektil endast ette jõuda ja saada tööriistaks, mille abil kohutavate vahenditega lojaalsust kaasata ja tagada.

Väärt tähelepanelik põhjus tõsta AI eetika meie ülesannete loendi esikohale.