AI eetika võitleb kirglikult teie seadusliku õiguse eest olla erand

Nad ütlevad, et igal reeglil on erand.

Probleem seisneb aga selles, et sageli valitseb püsiv reegel ja erandi tunnustamine või rahuldamine on vähe või üldse mitte. Keskmist tähte kasutatakse vaatamata suurele võimalusele, et esiplaanil on erand. Erand ei saa eetriaega. See ei saa võimalust olla nõuetekohaselt arvesse võetud.

Olen kindel, et peate teadma, millest ma räägin.

Kas olete kunagi püüdnud saada mingit individuaalset klienditeenindust, mille abil teid koheldi meeletult, ilma et oleks vahet tehtud teie konkreetse juhtumi ja teie konkreetsete vajaduste järgi?

Seda on teiega kahtlemata juhtunud, tõenäoliselt lugematuid kordi.

Jutustan teid läbi murettekitava suundumuse, mis on esile kerkinud selle kohta, kuidas tehisintellekti (AI) mõeldakse järeleandmatult välja, et sundida kõike sobitama kõigile sobivasse paradigmasse.

Erandeid kas ei tuvastata või nad valitakse vormist välja painutamiseks, nagu poleks need üldse erandid. Selle põhjuseks on osaliselt masinõppe (ML) ja süvaõppe (DL) tulek. Nagu varsti näete, on ML/DL arvutusliku mustrite sobitamise vorm, mille sarnaseid on "lihtsam" arendada ja juurutada, kui olete nõus erandeid ignoreerima või neist kõrvale hoidma. See on väga problemaatiline ja tekitab märkimisväärseid tehisintellekti eetikaga seotud probleeme. Minu üldise jätkuva ja ulatusliku AI eetika ja eetilise AI katvuse kohta vt link siin ja link siin, Ainult mõned nimed.

Asjad ei pea nii olema ja teadke, et seda õhutavad need, kes teevad ja juurutavad tehisintellekti, otsustades ignoreerida või pisendada erandite käsitlemist oma tehisintellekti väljamõeldistes.

Kui kehtivad erandid

Pakime esmalt lahti keskmise juhtumi olemus versus erandite realiseerimine.

Minu lemmiknäide seda tüüpi koerte püüdmisest või lühinägelikult keskmisest ilma eranditeta lähenemisest on eredalt valgustatud peaaegu kõigist tunnustatud ja endiselt ülipopulaarse telesarja, mida tuntakse House, MD (tavaliselt väljendatakse lihtsalt kui maja, mis kestis aastatel 2004–2012 ja mida saab täna vaadata sotsiaalmeedias ja muudes meediaväljaannetes). Etendus hõlmas väljamõeldud tegelast nimega Dr. Gregory House, kes oli jõhker, talumatu ja üsna ebatavaline, kuid teda kujutati kui meditsiinigeeniust, kes suudab välja tuua kõige ebaselgemad haigused ja vaevused. Ta ei pruugi teistele arstidele ja isegi patsientidele meeldida, kuid ta sai töö tehtud.

Siin on tüüpiline episood (üldine spoileri hoiatus!).

Patsient ilmub haiglasse, kus töötab dr House. Patsiendil esinevad esialgu üsna tavalised sümptomid ning mitmed teised arstid püüavad kordamööda patsienti diagnoosida ja ravida. Kummaline on see, et katsed patsienti aidata ei suuda ebasoodsaid tingimusi parandada või, mis veelgi hullem, kipuvad siiski tagasi andma. Patsient halveneb ja halveneb.

Kuna patsienti nähakse nüüd omamoodi meditsiinilise uudishimuna ja kuna keegi teine ​​ei saa aru, mille all patsient kannatab, võetakse juhtumisse dr House. Mõnikord tehakse seda sihilikult, et kasutada ära tema meditsiinilisi võimeid, samas kui mõnikord kuuleb ta juhtumist ja tema kaasasündinud instinktid tõmbavad teda ebatavaliste asjaolude poole.

Järk-järgult saame teada, et patsiendil on mõni üliharuldane haigus. Ainult dr House ja tema meditsiinipraktikantide meeskond suudavad selle välja mõelda.

Nüüd, kui olen teiega jaganud episoodide põhijoont, sukeldugem saadud õppetundidesse, mis illustreerivad keskmiste juhtumite ja erandite olemust.

Väljamõeldud lood on loodud selleks, et näidata, kuidas kasti sees mõtlemine võib mõnikord märgist mööda minna. Kõik teised arstid, kes esialgu üritavad patsienti aidata, on oma mõtlemisprotsessides hägused. Nad tahavad sundida sümptomeid ja esitatud tahke tavapärasesse meditsiinilisse diagnoosi. Patsient on vaid üks paljudest, keda nad on arvatavasti varem näinud. Uurige patsienti ja määrake seejärel samad ravimeetodid ja meditsiinilised lahendused, mida ta on oma arstikarjääri jooksul korduvalt kasutanud.

Pese, loputa, korda.

Mõnes mõttes võite seda lähenemist õigustada. Tõenäoliselt on enamikul patsientidest kõige levinumad vaevused. Päevast päeva puutuvad need arstid kokku samade meditsiiniliste probleemidega. Võite arvata, et haiglasse sisenevad patsiendid on tõesti meditsiinilisel konveieril. Igaüks neist liigub mööda haigla standardiseeritud protokolle, nagu oleksid need tootmisüksuse või koostetehase osad.

Valitseb keskmine juhtum. See ei ole mitte ainult üldiselt sobiv, vaid võimaldab ka haiglal ja meditsiinitöötajatel oma meditsiiniteenuseid vastavalt optimeerida. Kulusid saab alandada, kui töötate välja meditsiinilised protsessid keskmise juhtumi käsitlemiseks. Arstitudengite pähe on sageli trummeldatud üsna kuulus nõuanne, nimelt kui kuulete tänavalt kabjahelinaid, siis on tõenäoline, et peaksite mõtlema pigem hobusele kui sebrale.

Tõhus, produktiivne, tõhus.

Kuni erand hiilib keskele.

Võib-olla on loomaaiast pärit sebra põgenenud ja mööda teie tänavat rännanud.

Kas see tähendab, et erandid peaksid olema reegel ja me peaksime kõrvale jätma keskmise juhtumi reegli, selle asemel, et keskenduda ainult eranditele?

Teil oleks raske väita, et kõik meie igapäevased kohtumised ja teenused peaksid keskenduma pigem eranditele kui keskmisele juhtumile.

Pange tähele, et ma ei tee sellist ettepanekut. Ma väidan, et me peaksime tagama, et eranditel on lubatud esineda ja et me peaksime erandite tekkimisel aru saama. Mainin seda seetõttu, et mõned asjatundjad kipuvad valjuhäälselt kuulutama, et kui olete erandite tunnustamise pooldaja, peate seega olema vastu keskmisele juhtumile.

See on vale dihhotoomia.

Ära lange selle poole.

Saame oma koogi süüa ja ka seda süüa.

Õigus olla erand

Järgmisena pakun võib-olla väikese šoki, mis on seotud kõike seda tehisintellekti kasvava kasutamisega.

Tehisintellekti süsteeme luuakse üha enam nii, et need keskenduksid keskmisele juhtumile, sageli erandite tunnustamise välistamisega või kahjuks.

Võite olla üllatunud, kui teate, et see juhtub. Enamik meist eeldaks, et kuna tehisintellekt on arvuti automatiseerimise vorm, on asjade automatiseerimise ilu selles, et tavaliselt saate lisada erandeid. Tavaliselt saab seda teha väiksemate kuludega kui siis, kui kasutaksite sarnase teenuse osutamiseks inimtööjõudu. Inimtööga võib olla kulukas või üle jõu käiv igasuguste eranditega toimetuleva tööjõu olemasolu. Asju on palju lihtsam hallata ja paika panna, kui võite eeldada, et teie kliendid või kliendid on kõik keskmise tasemega. Kuid arvutisüsteemide kasutamine peaks lubama erandeid, seda on lihtne teha. Selle mõtteviisi kohaselt peaksime me kärarikkalt rõõmustama selle eest, et esiplaanile tõuseks rohkem arvutipõhiseid võimalusi.

Mõelge sellele kui segadusse ja leidke hetk, et mõtiskleda selle piinava küsimuse üle: Kuidas saab AI, mida muidu peetakse parimaks automatiseerimisest, näiliselt vääramatult mööda rutiinset ja erakordset rada, mida raudselt või ootamatult kujutasime ette, et see läheb täpselt vastupidises suunas?

Vastus: Masinõpe ja süvaõpe viivad meid siiski erakordsesse eksistentsi mitte sest me peame kohustuslikult seda teed valima (saame paremini teha).

Pakime selle lahti.

Oletame, et otsustame kasutada masinõpet, et välja töötada tehisintellekt, mida kasutatakse meditsiiniliste diagnooside väljaselgitamiseks. Kogume hunniku ajaloolisi andmeid patsientide ja nende tervisliku seisundi kohta. Meie loodud ML/DL püüab läbi viia arvutusliku mustri sobitamise, mis uurib patsientide sümptomeid ja muudab nende sümptomitega seotud eeldatava vaevuse.

Söödatud andmete põhjal teeb ML/DL matemaatiliselt kindlaks sellised sümptomid nagu vesine nina, kurguvalu, peavalud ja valud, mis on kõik tugevalt seotud külmetushaigusega. Haigla otsustab kasutada seda tehisintellekti patsientide eelkontrolli tegemiseks. Kindlasti diagnoositakse patsientidel, kes teatavad nendest sümptomitest esimest korda haiglasse jõudes, kui neil on tõenäoliselt külmetushaigus.

Käikude vahetamine, lisame sellele kõigele Dr. House'i omamoodi pöörde.

Patsient tuleb haiglasse ja tal diagnoositakse AI. AI näitab, et patsiendil näib olevat külmetushaigus, mis põhineb nohu, kurguvalu ja peavalu sümptomitel. Patsiendile antakse näiliselt sobivad retseptid ja arstiabi nohuga toimetulemiseks. See kõik on AI väljatöötamisel kasutatud keskmiste juhtumite lähenemisviisi lahutamatu osa.

Selgub, et patsiendil on need sümptomid mitu kuud. Haruldaste haiguste ja toiduainete ekspert mõistab, et samad sümptomid võivad peegeldada tserebrospinaalvedeliku (CSF) leket. Ekspert ravib patsienti mitmesuguste selliste leketega seotud kirurgiliste protseduuridega. Patsient paraneb (muide, see tähelepanuväärne lugu tserebrospinaalvedeliku lekkega patsiendist, kellel algselt diagnoositi külmetushaigus, põhineb lõdvalt reaalsel meditsiinilisel juhtumil).

Jälgime nüüd oma samme selles meditsiinisaagas.

Miks ei suutnud sissevõtmise eeluuringut teinud tehisintellekt hinnata, kas patsiendil võib see haruldane vaev olla?

Üks vastus on, et kui ML/DL-i koostamiseks kasutatud koolitusandmed ei sisaldaks selliseid juhtumeid, poleks seal midagi, millega arvutusmustrite sobitamine sobitada. Arvestades reegli erandeid hõlmavate andmete puudumist, peetakse üldreeglit või keskmist juhtumit näiliselt veatuks ja seda kohaldatakse kõhklemata.

Teine võimalus on see, et ajaloolistes andmetes oli näiteks selle haruldase CSF-lekke juhtum, kuid see oli ainult üks konkreetne juhtum ja selles mõttes kõrvalekalle. Ülejäänud andmed olid kõik matemaatiliselt lähedased kindlaksmääratud keskmisele juhtumile. Tekib siis küsimus, mida teha nn kõrvalekaldega.

Pange tähele, et nende kõrvalekalletega tegelemine on väga erinev selles osas, kuidas tehisintellekti arendajad võivad otsustada võidelda millegi väljanägemisega väljaspool kindlaksmääratud keskmist juhtumit. AI arendajad on sunnitud kasutama ühtki nõutavat lähenemisviisi. See on veidi metsik lääs, mida iga tehisintellekti arendaja võib teha oma ML/DL-i arendustegevuses mis tahes erandit tekitava juhtumi korral.

Siin on minu nimekiri viisidest, kuidas need erandid sageli esinevad sobimatult käsitletud:

• Erand eeldatakse veana
• Erand peetakse väärituks
• Eeldatakse, et erand on „normi” reguleeritav
• Erandit ei märgatud üldse
• Erandit märgati, kuid kokkuvõttes ignoreeriti
• Erand märkas ja siis hiljem unustati
• Erand on märgatud ja silme eest varjatud
• Jne

AI arendaja võib otsustada, et haruldus pole midagi muud kui andmete viga. See võib tunduda veider, et keegi nii arvab, eriti kui proovite seda humaniseerida, kujutades näiteks ette, et CSF-i lekkega patsient on see üks juhtum. Siiski on tugev kiusatus, et kui kõik teie kontekstivälised andmed ütlevad põhimõtteliselt ühte asja, mis võib-olla koosnevad tuhandetest ja tuhandetest kirjetest ja need kõik ühtivad keskmise juhtumiga, võib ühe kummalise andmekillu esinemine kergesti (laisalt!) tõlgendada otsese veana. Tehisintellekti arendaja võib veast loobuda ja seda ei käsitleta ML/DL-i koolituse raames.

Teine vahend erandiga toimetulekuks oleks otsustada, et tegemist on vääritu asjaga. Miks vaevata ühe haruldusega, kui kiirustate ML/DL-i käivitama? Visake kõrvalekalle välja ja liikuge edasi. Ükski mõte ei vii ilmtingimata tagajärgede suunas.

Veel üks lähenemisviis hõlmab erandi voltimist ülejäänud keskmisesse keskkonda. Tehisintellekti arendaja muudab andmeid, et need sobiksid ülejäänud normiga. Samuti on võimalus, et tehisintellekti arendaja ei pruugi erandi olemasolu märgata.

ML/DL võib teatada, et erand tuvastati, misjärel peaks AI arendaja ML/DL-ile juhendama, kuidas kõrvalekaldeid matemaatiliselt käsitleda. Tehisintellekti arendaja võib selle ülesandeloendisse panna ja hiljem sellega toimetuleku unustada või lihtsalt otsustada seda ignoreerida jne.

Kokkuvõttes on tehisintellekti puudutavate erandite tuvastamine ja lahendamine ilma konkreetselt ette nähtud või kaalukalt tasakaalustatud ja põhjendatud lähenemisviisita. Erandeid koheldakse sageli kui väärituid heidikuid ja võitja on keskmine juhtum. Eranditega tegelemine on raske, võib olla aeganõudev, nõuab näiliselt osavaid tehisintellekti arendamise oskusi ja muidu on see tülikas, võrreldes asjade kokkupakkimisega ühes suuruses kikilipsu.

Teatud määral on seetõttu AI eetika ja eetiline tehisintellekt nii oluline teema. AI eetika ettekirjutused panevad meid valvsaks jääma. Tehisintellekti tehnoloogid võivad mõnikord olla hõivatud tehnoloogiaga, eriti kõrgtehnoloogia optimeerimisega. Nad ei pea tingimata arvestama suuremate ühiskondlike tagajärgedega.

Lisaks tehisintellekti eetikareeglite rakendamisele üldiselt on vastav küsimus, kas meil peaks olema seadusi, mis reguleeriksid AI erinevaid kasutusviise. Föderaalsel, osariigi ja kohalikul tasandil kehtestatakse uued seadused, mis puudutavad tehisintellekti väljatöötamise ulatust ja olemust. Selliste seaduste väljatöötamine ja jõustamine toimub järk-järgult.

Sellesse konkreetsesse erandite rolli käsitlevasse arutelusse tuleb provokatiivne seisukoht, et võib-olla peaks erandiks olemisega kaasnema seaduslik õigus. Võib juhtuda, et ainus elujõuline vahend heauskse tunnustuse saamiseks võib-olla erandiks on seaduse pika käe kasutamine.

Kehtestada uut tüüpi inimõigus.

Õigus olla erandiks.

Mõelge sellele ettepanekule: „Õigus olla erand ei tähenda, et iga üksikisik is erand, kuid kui otsus võib otsuse subjekti kahjustada, peaks otsustaja kaaluma võimalust, et subjekt võib olla erand. Õigus olla erand hõlmab kolme koostisosa: kahju, individualiseerimineja ebakindlus. Otsustaja peab valima kahju tekitamise ainult siis, kui ta on kaalunud, kas otsus on asjakohaselt individualiseeritud, ja, mis kõige tähtsam, otsuse andmepõhise komponendiga kaasnevat ebakindlust. Mida suurem on kahju tekkimise oht, seda tõsisem on kaalutlus” (autor Sarah Cen uurimistöös pealkirjaga Õigus olla andmepõhiste otsuste tegemisel erand, MIT, 12. aprill 2022).

Teil võib tekkida kiusatus eeldada, et meil on selline õigus juba olemas.

Mitte tingimata. Uurimistöö kohaselt võib tõenäoliselt lähim rahvusvaheliselt tunnustatud inimõigus olla isikuväärikus. Teoreetiliselt viib arusaam, et väärikust tuleks tunnustada nii, et see peaks olema hõlmatud üksikisiku ja tema spetsiifilise ainulaadsusega, potentsiaalse inimõiguse erandi raamidesse. Üks kahetsusväärne on see, et kehtivad väärikuse valdkonda reguleerivad seadused on väidetavalt mõnevõrra hägused ja liiga vormitavad, seega ei ole need hästi häälestatud erandiõiguse konkreetse õigusliku konstruktsiooniga.

Need, kes pooldavad uut õigust, mis koosneb inimõigusest olla erand, väidavad, et:

• Selline õigus sunniks tehisintellekti arendajaid eranditega selgelt toime tulema
• Tehisintellekti tootvad ettevõtted oleksid eranditega mittetegelemisel juriidiliselt suuremad
• AI oleks tõenäoliselt paremini tasakaalustatud ja üldiselt tugevam
• Need, kes kasutavad tehisintellekti või alluvad tehisintellektile, oleksid paremad
• Kui tehisintellekt ei võimalda erandeid, on õigusabi lihtsalt teostatav
• Ka tehisintellekti tegijad on kindlasti paremad (nende tehisintellekt kataks laiemat kasutajaskonda)
• Jne

Need, kes on vastu uuele õigusele, mis on märgistatud kui inimõigus olla erand, kipuvad ütlema:

• Olemasolevad inimõigused ja seaduslikud õigused katavad seda piisavalt ja pole vaja asju keeruliseks ajada
• Tehisintellekti tegijate õlgadele pannakse ülemäärane koorem
• Tehisintellekti loomisel tehtavad jõupingutused muutuksid kulukamaks ja aeglustavad tehisintellekti arengut
• Tekiksid valed ootused, et kõik nõuavad, et nad oleksid erand
• Õigus ise oleks kahtlemata erinevate tõlgenduste all
• Kui juriidilised juhtumid hüppeliselt tõusevad, saavad kõige rohkem kasu juristid
• Jne

Lühidalt öeldes väidab opositsioon sellisele uuele õigusele tavaliselt, et tegemist on nullsummamänguga ja et seaduslik õigus olla erand maksab rohkem, kui sellest kasu on. Need, kes usuvad, et sellist uut õigust on mõistlikult vaja, võivad rõhutada, et see ei ole nullsummamäng ja sellest võidavad lõpuks kõik, sealhulgas need, kes teevad tehisintellekti ja need, kes kasutavad AI-d.

Võite olla kindel, et see arutelu, mis hõlmab tehisintellekti ja eranditega seotud õiguslikke, eetilisi ja ühiskondlikke tagajärgi, saab olema vali ja püsiv.

Isejuhtivad autod ja erandite tähtsus

Mõelge, kuidas see kehtib autonoomsete süsteemide (nt autonoomsed sõidukid ja isejuhtivad autod) kontekstis. Isejuhtivate autode ja autonoomsete sõidukite tehisintellekti arendamise keskmise mõtteviisi kohta on juba palju kriitikat.

Näiteks algul olid väga vähesed isejuhtivate autode disainilahendused hõlmanud neid, millel oli mingisugune füüsiline puue või puue. Ei olnud palju mõelnud ratturite kõigi vajaduste laiemale hõlmamisele. Üldjoontes on see teadlikkus suurenenud, kuigi endiselt väljendatakse muret selle üle, kas see on piisavalt kaugel ja kas see on nii laialdaselt omaks võetud, kui peaks.

Veel üks näide keskmisest juhtumist või erandist on seotud millegagi, mis võib teid tähelepanuta jätta.

Oled sa valmis?

Paljude tänapäevaste tehisintellekti juhtimissüsteemide ja isejuhtivate autode disain ja kasutuselevõtt kalduvad vaikivale või sõnatu oletamisele, et isejuhtivas autos sõidavad täiskasvanud. Me teame, et kui roolis on inimjuht, on sõidukis loomulikult täiskasvanu, sest tavaliselt põhineb juhiloa saamine täiskasvanuks olemisel (noh, või peaaegu täiskasvanuks). Isejuhtivate autode puhul, mille AI teeb kogu sõidu, ei pea täiskasvanu kohal olema.

Asi on selles, et meil on võimalik lasta lapsi iseseisvalt autoga sõitma ilma ühegi täiskasvanu juuresolekuta, vähemalt täiesti autonoomsete tehisintellektiga juhitavate isejuhtivate autode puhul on see võimalik. Saate oma lapsed hommikul kooli saata, kasutades isejuhtivat autot. Selle asemel, et oma lapsi tõstma panna või sõidujagamisteenuse inimjuhti kasutada, võite lasta oma lapsed lihtsalt isejuhtivasse autosse kuhjata ja lasta end kooli viia.

Kõik ei ole roosiline, kui tegemist on lastega isejuhtivate autodega.

Kuna sõidukis ei ole enam vaja täiskasvanut, tähendab see, et ka lapsed ei tunne end enam täiskasvanu juuresolekul mõjutatuna või niiöelda kontrollituna. Kas lapsed lähevad hulluks ja lõhuvad isejuhtivate autode salongi? Kas lapsed proovivad isejuhtiva auto akendest väljapoole ronida või ulatuda? Milliseid muid vigureid võivad nad teha, mis võib põhjustada vigastusi ja tõsist kahju?

Olen kajastanud tulist arutelu idee üle, et lapsed sõidavad üksi isejuhtivate autodega, vt link siin. Mõned ütlevad, et seda ei tohiks kunagi lubada. Mõned ütlevad, et see on vältimatu ja me peame välja mõtlema, kuidas see kõige paremini õnnestuda.

Järeldus

Tuleme tagasi läbiva teema juurde: keskmine juhtum versus erand.

Näib, et me kõik nõustume, et reeglist on alati mõni erand. Kui reegel on loodud või tuvastatud, peaksime otsima erandeid. Kui puutume kokku eranditega, peaksime mõtlema, millisele reeglile see erand tõenäoliselt kehtib.

Paljud tänapäeval väljatöötatavad tehisintellektid on kujundatud reegli sõnastamise ümber, samas kui eranditega seotud väljakutsed kipuvad hüljatud ja õlgu kehitatud.

Neile, kellele meeldib räige olla ja kes ütlevad, et reeglist, et reeglist on alati erandeid, pole erandeid, tunnistan, et see teravmeelsus tundub olevat vaimne mõistatus. Nimelt, kuidas saab meil olla reegel, et alati on erandeid, aga siis just see reegel ei kehti reegli kohta, et reeglist on alati erandeid?

Paneb pea ringi käima.

Õnneks pole vaja neid kainestavaid asju ülemäära keeruliseks ajada. Loodetavasti saame elada käepärase ja ülitähtsa rusikareegliga, mida peaksime jälgima ja iga reegli eranditega arvestama.

See lahendab asjad, nii et asume nüüd selle kallale.