Tehisintellekti eetika ja ähvardav kokkuvarisemine, kui see New Yorgi seadus, mis nõuab tehisintellekti eelarvamuste kontrollimist, hakkab tööle

Mõnikord rikub parimad kavatsused kahetsusväärselt tõsine tähelepanu puudumine detailidele.

Selle targa tarkuse suurepärane näide on uurimist väärt.

Täpsemalt, vaatame lähemalt New Yorgi uut tehisintellekti (AI) käsitlevat seadust, mis jõustub 1. jaanuaril 2023. Võid kergesti võita suure kihlveo, et tekib igasugune segadus, jahmatus ja probleemid. kui seadus jõustub. Kuigi probleemid ei ole kavandatud, tekivad need kahtlemata halva disaini või vähemalt vajalike detailide ebapiisava määratlemise tõttu, mida oleks tulnud ja oleks võinud hõlpsasti välja mõelda ja selgesõnaliselt välja öelda.

Pean silmas kohalikku seadust, mis võeti vastu eelmisel aastal 11. detsembril 2021 lugupeetud New Yorgi linnas ja mis peaks jõustuma 2023. aasta alguses. Praegu oleme vaid mõne kuu kaugusel suurest ärkamisest, mis see uus seadus segab. Soovin, et saaksin öelda, et ambitsioonikas seadus teeb sujuvalt seda, mida ta peaks tegema, nimelt tegeleb võimalike tehisintellekti eelarvamustega tööhõiveotsuste tegemisel. Paraku, kuigi kavatsus on kiiduväärt, annan ma teile ülevaate haigutavatest lünkadest, tegematajätmistest ja spetsiifilisuse puudumisest, mis õõnestavad seda seadust ja ajavad tööandjad hulluks, kui nad püüavad toime tulla selle soovimatute, kuid üsna negatiivsete tagajärgedega.

Võib öelda, et see on klassikaline pooliku plaaniga edasi lükkamise teema. Dwight Eisenhowerile omistatud austatud maksiim oli, et plaan pole midagi, planeerimine aga kõik. Lühidalt öeldes on see konkreetne seadus ere näide sellest, kuidas seadusandjad võivad mõnikord ebaõnnestuda, kui nad ei mõtle läbi. eelnevalt vajalikud üksikasjad, et seadus täidaks oma kiiduväärt eesmärgid ning et seda oleks võimalik vastu võtta kindlasti mõistlikul ja kaalutletud viisil.

Ees ootab kokkuvarisemine.

Vabandusi juba rivistatakse.

Mõned asjatundjad on öelnud, et seadust ei saa kunagi täielikult täpsustada ja selleks, et teada saada, milliseid seaduse aspekte tuleb muuta, tuleb seda näha (sel juhul moonutatakse üleüldine tõepärasus). Lisaks väidavad nad tuliselt, et see kehtib eriti siis, kui tegemist on tehisintellektiga seotud seaduste uudsusega. Pagan, nad manitsevad, tehisintellekt on kõrgtehnoloogiline võlur, millest me seadusandjatena palju ei tea, seega on loogika, et juriidilistele lehtedele midagi lisada on parem kui üldse mitte midagi panna.

Pealtnäha kõlab see kindlasti veenvalt. Kaevake siiski sügavamale ja saate aru, et see võib olla äge, sealhulgas ja eriti selle konkreetse seaduse puhul. Seda seadust võiks hõlpsasti osavamalt ja läbimõeldumalt sätestada. Me ei vaja võlujooke. Me ei pea ootama, kuni tekivad segadused. Seaduse koostamise ajal võinuks olla õige sõnastus ja üksikasjad.

Vaatame ka seda, et ebasobiv, hõljuv mõte, et lapsendamisaspekte ei saa ette ennustada, on valusalt jabur. See on kõige tühisemat sorti legaalne jabur kätega vehkimine. Tehisintellekti eelarvamustega tegelemise ja tehisintellekti auditite läbiviimise kohta on juba teada palju kaalutlusi, mida oleks võinud sellesse seadusesse hõlpsasti lisada. Sama võib öelda ka iga teise jurisdiktsiooni kohta, mis kaalub sellise seaduse kehtestamist. Ärge laske end petta arvata, et me peame kasutama ainult pimesi viskama seaduslikku noolemängu metsikute tuulte kätte ja kannatama ahastust. Juriidilise mõtlemise ja sobiva arusaamaga tehisintellektist on juba praegu võimalik ja pole vaja haarata ainult õlekõrrest.

Võin lisada, et selle parandamiseks on veel aega. Kell ikka tiksub. Võib-olla on võimalik ärgata enne, kui häirekellad hakkavad helisema. Vajalikud nõuanded saab tuletada ja teatavaks teha. Aega on vähe, nii et sellele tuleb anda õige prioriteet.

Igal juhul veenduge, et mõistaksite siin rõhuasetust.

Lubage mul innukalt selgitada, et sellisel tehisintellekti kallutatust käsitleval seadusel on kasu. Selgitan kohe, miks. Kirjeldan ka, millised probleemid on selle uue seadusega, mis paljude arvates on esimene õigusraamatusse lisatud (olemas on ka teisi variatsioone, ehkki mitte päris sarnaseid sellele).

Tõepoolest, võite eeldada, et sarnased seadused hakkavad järk-järgult kehtima kogu riigis. Üks märkimisväärne mure on see, et kui see New Yorgi esimene sisserändaja katse läheb halvasti, võib see põhjustada ülejäänud riigis selliste seaduste kehtestamise suhtes ettevaatlikkust. See pole õige õppetund, mida õppida. Õige õppetund on see, et kui kavatsete sellist seadust kirjutada, tehke seda mõistlikult ja läbimõeldult.

Ilma piisava kontrollita raamatutesse visatud seadused võivad olla üsna häirivad ja tekitada igasuguseid raskusi. Selles mõttes palun ärge visake last vanniveega välja (vana ütlus, tuleks ilmselt pensionile jätta). Sisu on selles, et sellised seadused võivad olla tõeliselt produktiivsed ja kaitsvad, kui need on õigesti koostatud.

See konkreetne ei kavatse seda kahjuks väravast väljas teha.

Kõikvõimalikud paanilised juhised tulevad kindlasti seaduse kehtestajatelt ja jõustajatelt. Märkige oma kalendritesse 2023. aasta jaanuari lõpp ja veebruar, et jälgida, kuidas rüselus järgneb. Näpuga näitamine saab olema tohutult intensiivne.

Praegu keegi eriti ei kilka, sest seadus pole veel maandunud uue seadusega tsoneeritud tööandjate pähe. Kujutage ette, et see on metafooriliselt öeldes omamoodi maavärin, mis peaks aset leidma 2023. aasta avanädalatel. Vähesed valmistuvad maavärinaks. Paljud isegi ei tea, et maavärin on juba kalendrisse kantud. Seda kõike öeldes, kui maavärin juhtub, imestavad paljud väga üllatunud ja šokeeritud ettevõtted, mis juhtus ja miks see segadus tekkis.

Sellel kõigel on märkimisväärne mõju tehisintellekti eetikale ja see pakub tehisintellekti seadusandlusel kasulikku akent saadud õppetundidesse (isegi enne, kui kõik õppetunnid juhtuvad). Minu jätkuva ja laiaulatusliku AI eetika kajastuse kohta leiate eetilisest tehisintellektist koos tehisintellekti seadusega, mis on seotud tehisintellekti juhtimise õiguslike aspektidega, aadressilt link siin ja link siin, lihtsalt nime vähe.

See hädade juriidiline lugu on seotud kunagiste muredega tänapäeva tehisintellekti ja eriti masinõppe (ML) ja süvaõppe (DL) kui tehnoloogiavormide kasutamise ja selle kasutamise pärast. Näete, on ML/DL-i kasutusviise, mille puhul laiem avalikkus peab tehisintellekti antropomorfiseerima, uskudes või eeldades, et ML/DL on kas tundlik tehisintellekt või selle lähedal (ei ole). Lisaks võib ML/DL sisaldada arvutuslike mustrite sobitamise aspekte, mis on ebasoovitavad või täiesti sobimatud või eetilisest või juriidilisest seisukohast ebaseaduslikud.

Võib olla kasulik kõigepealt selgitada, mida ma mõtlen tehisintellektile üldiselt viidates, ning anda ka lühike ülevaade masinõppest ja süvaõppest. On suur segadus selles osas, mida tehisintellekt tähendab. Samuti tahaksin teile tutvustada tehisintellekti eetika ettekirjutusi, mis on selle diskursuse ülejäänud osa jaoks eriti olulised.

AI kohta rekordi avaldamine

Veenduge, et oleme tänapäeva tehisintellekti olemuse osas ühel lainel.

Tänapäeval pole AI-d, mis oleks tundlikud.

Meil pole seda.

Me ei tea, kas tundlik tehisintellekt on võimalik. Keegi ei oska täpselt ennustada, kas saavutame tundliku tehisintellekti, ega seda, kas tundlik tehisintellekt tekib kuidagi imeliselt spontaanselt arvutusliku kognitiivse supernoova kujul (mida tavaliselt nimetatakse singulaarsuseks, vaata minu kajastust aadressil link siin).

Mõistke, et tänapäeva tehisintellekt ei ole võimeline inimese mõtlemisega võrdselt "mõtlema". Kui suhtlete Alexa või Siriga, võib vestlusvõime tunduda inimese võimetega sarnane, kuid tegelikkus on see, et see on arvutuslik ja sellel puudub inimese tunnetus. AI uusim ajastu on laialdaselt kasutanud masinõpet ja süvaõpet, mis võimendavad arvutusmustrite sobitamist. See on viinud tehisintellektisüsteemideni, millel on inimesele sarnased kalduvused. Samal ajal pole tänapäeval ühtegi tehisintellekti, millel oleks justkui terve mõistus ega kognitiivne imestus jõulise inimmõtlemise kohta.

Osa probleemist on meie kalduvus arvuteid ja eriti tehisintellekti antropomorfiseerida. Kui tundub, et arvutisüsteem või tehisintellekt toimib viisil, mida me seostame inimeste käitumisega, tekib peaaegu valdav soov omistada süsteemile inimlikke omadusi. See on tavaline vaimne lõks, mis võib haarata isegi kõige järeleandmatuma skeptiku, mis puudutavad mõistuse saavutamise võimalusi.

Teatud määral on seetõttu AI eetika ja eetiline tehisintellekt nii oluline teema.

AI eetika ettekirjutused panevad meid valvsaks jääma. Tehisintellekti tehnoloogid võivad mõnikord olla hõivatud tehnoloogiaga, eriti kõrgtehnoloogia optimeerimisega. Nad ei pea tingimata arvestama suuremate ühiskondlike tagajärgedega. Asjakohase tehisintellekti loomiseks, sealhulgas selle hindamiseks, kuidas tehisintellekti eetikat ettevõtted omaks võtavad, on ülioluline omada AI-eetikat ning teha seda AI arendamise ja kasutamisega lahutamatult.

Lisaks tehisintellekti eetikareeglite rakendamisele üldiselt on vastav küsimus, kas meil peaks olema seadusi, mis reguleeriksid AI erinevaid kasutusviise. Föderaalsel, osariigi ja kohalikul tasandil kehtestatakse uued seadused, mis puudutavad tehisintellekti väljatöötamise ulatust ja olemust. Selliste seaduste väljatöötamine ja jõustamine toimub järk-järgult. Tehisintellekti eetika on vähemalt kaalutletud vahepeatus ja peaaegu kindlasti lisatakse see mingil määral otse nendesse uutesse seadustesse.

Pidage meeles, et mõned väidavad kindlalt, et me ei vaja tehisintellekti hõlmavaid uusi seadusi ja et meie olemasolevad seadused on piisavad. Nad hoiatavad ette, et kui me mõne neist tehisintellekti seadustest kehtestame, tapame kuldhane, piirates tehisintellekti edusamme, mis pakuvad tohutuid ühiskondlikke eeliseid. Vaadake näiteks minu kajastust aadressil link siin.

Eelmistes veergudes olen käsitlenud erinevaid riiklikke ja rahvusvahelisi jõupingutusi tehisintellekti reguleerivate seaduste koostamiseks ja jõustamiseks, vt. link siin, näiteks. Olen käsitlenud ka erinevaid tehisintellekti eetika põhimõtteid ja juhiseid, mida erinevad riigid on tuvastanud ja vastu võtnud, sealhulgas näiteks ÜRO jõupingutusi, nagu UNESCO tehisintellekti eetika kogum, mille on kasutusele võtnud peaaegu 200 riiki, vt. link siin.

Siin on kasulik AI-süsteemide eetiliste kriteeriumide või omaduste nurgakivi loend, mida olen varem põhjalikult uurinud:

• läbipaistvus
• Õiglus ja õiglus
• Mittepahatahtlikkus
• Vastutus looduse ees
• Privaatsus
• Kasulikkus
• Vabadus ja autonoomia
• Usalda
• Jätkusuutlikkus
• Väärikus
• Solidaarsus

Tehisintellekti arendajad peaksid tõsiselt kasutama neid tehisintellekti eetika põhimõtteid koos nendega, kes juhivad tehisintellekti arendamise jõupingutusi, ja isegi neid, kes lõpuks AI-süsteeme kasutavad ja hooldavad. Kõiki sidusrühmi kogu tehisintellekti arendamise ja kasutamise elutsükli jooksul arvestatakse eetilise tehisintellekti väljakujunenud normide järgimise raames. See on oluline esiletõst, kuna tavaline eeldus on, et tehisintellekti eetika mõistetest peavad kinni pidama ainult kodeerijad või need, kes programmeerivad tehisintellekti. Nagu siin eelnevalt rõhutatud, on tehisintellekti väljatöötamiseks ja kasutuselevõtuks vaja küla, mille jaoks kogu küla peab olema teadlik ja järgima tehisintellekti eetika ettekirjutusi.

Hoiame asjad maa peal ja keskendume tänapäevasele arvutuslikule mittetundlikule tehisintellektile.

ML/DL on arvutusliku mustrite sobitamise vorm. Tavaline lähenemisviis on see, et kogute andmeid otsustusülesande kohta. Sisestate andmed ML/DL arvutimudelitesse. Need mudelid püüavad leida matemaatilisi mustreid. Pärast selliste mustrite leidmist, kui see on leitud, kasutab AI-süsteem neid mustreid uute andmete leidmisel. Uute andmete esitamisel rakendatakse kehtiva otsuse tegemiseks "vanadel" või ajaloolistel andmetel põhinevaid mustreid.

Arvan, et võite arvata, kuhu see liigub. Kui inimesed, kes on teinud mustrilisi otsuseid, on kaasanud ebasoodsaid eelarvamusi, on tõenäoline, et andmed peegeldavad seda peenelt, kuid olulisel viisil. Masinõppe või süvaõppe arvutusmustrite sobitamine püüab lihtsalt andmeid vastavalt matemaatiliselt jäljendada. Tehisintellektiga loodud modelleerimisel iseenesest ei paista tervet mõistust ega muid tundlikke aspekte.

Lisaks ei pruugi AI arendajad ka aru saada, mis toimub. ML/DL-i salapärane matemaatika võib raskendada praegu varjatud eelarvamuste väljaselgitamist. Võiksite õigustatult loota ja eeldada, et AI-arendajad testivad potentsiaalselt maetud eelarvamusi, kuigi see on keerulisem, kui võib tunduda. On kindel võimalus, et isegi suhteliselt ulatusliku testimise korral on ML/DL-i mustrite sobitamise mudelites siiski kallutusi.

Võite kasutada kuulsat või kurikuulsat kõnekäänd prügi sisse prügi välja viimine. Asi on selles, et see sarnaneb pigem eelarvamustega, mis salakavalalt infundeeritakse tehisintellekti sukeldunud eelarvamustest. AI algoritmi otsuste tegemine (ADM) muutub aksiomaatiliselt koormatud ebavõrdsustega.

Pole hea.

Usun, et olen nüüd loonud aluse, et piisavalt arutada tehisintellekti rolli vaikse lõpetamise rubriigis.

AI, mida kasutatakse tööhõiveotsuste tegemisel

New Yorgi seadus keskendub tööalaste otsuste tegemise teemale.

Kui olete viimasel ajal püüdnud taotleda kaasaegset töökohta peaaegu kõikjal siin maakeral, olete tõenäoliselt kohanud AI-l põhinevat elementi tööhõiveotsuste tegemise protsessis. Muidugi ei pruugi te teada, et see seal on, kuna see võib olla lava taga peidetud ja teil poleks valmis viisi, kuidas tuvastada, kas AI-süsteem on seotud.

Nendele tehisintellektisüsteemidele viitamiseks kasutatav levinud lööklause on see, et neid arvestatakse Tööhõive otsustamise automatiseeritud tööriistad, lühendatult AEDT.

Vaatame, kuidas NYC seadus määratles need tööriistad või rakendused, mis hõlmavad tööalaste otsuste tegemist.

• „Mõiste „automaatne tööhõiveotsuste tööriist” tähendab mis tahes arvutusprotsessi, mis on tuletatud masinõppest, statistilisest modelleerimisest, andmeanalüütikast või tehisintellektist ja mis annab välja lihtsustatud väljundi, sealhulgas hinde, klassifikatsiooni või soovituse, mida kasutatakse olulisel määral abistamiseks või asendab suvalise otsuse tegemise füüsilisi isikuid mõjutavate tööotsuste tegemisel. Mõiste „automaatne tööhõiveotsuste tööriist” ei hõlma tööriistu, mis ei automatiseeri, toeta, oluliselt ei aita ega asenda suvaliste otsuste tegemise protsesse ja mis ei mõjuta oluliselt füüsilisi isikuid, sealhulgas, kuid mitte ainult, rämpspostifilter, tulemüür, viirusetõrjetarkvara, kalkulaator, arvutustabel, andmebaas, andmekogum või muu andmete kogumine” (NYC, Int 1894–2020, 25. alampeatükk, jaotis 20–870).

Uurin lühidalt seda sõnastust, kuna see on kogu seaduse olemuse ja kohaldamisala jaoks ülioluline.

Esiteks, nagu ma olen oma kirjutistes korduvalt öelnud, seisneb tehisintellekti käsitlevate seaduste kirjutamise üks raskemaid takistusi püüdes adekvaatselt määratleda, mida AI tähendab. Pole olemas ainsat kokkulepitud juriidilist kuulikindlat standardit, millele kõik on maandunud. Definitsioone on igasuguseid. Mõned on abiks, mõned mitte. Vaadake minu analüüse aadressil link siin.

Teil võib tekkida kiusatus mõelda, et pole eriti oluline, kuidas me võime AI-d määratleda. Vabandust, aga sa eksid selles.

Probleem on selles, et kui tehisintellekti määratlus on antud seaduses ebamääraselt täpsustatud, võimaldab see tehisintellekti arendajatel proovida seadustest kõrvale hiilida, näiliselt väites, et nende tarkvara või süsteem ei ole tehisintellektiga seotud. Nad vaidleksid väga julgelt vastu, et seadus nende tarkvarale ei kehti. Samuti võib keegi tarkvara kasutaja väita, et seadus ei puuduta neid, kuna nende kasutatav tarkvara või süsteem jääb väljapoole seaduses sätestatud tehisintellekti määratlust.

Inimesed on nii keerulised.

Üks kavalamaid viise, kuidas vältida sattumist seadusega, mida te ei poolda, on kinnitada, et seadus teie kohta ei kehti. Sel juhul prooviksite AEDT määratlust osadeks lahti võtta. Teie eesmärk, eeldades, et te ei soovi, et seadus oleks teie selja taga, oleks juriidiliselt väita, et seaduses antud määratlus ei vasta teie tööga seotud arvutisüsteemile või selle toimimisele.

Sellist seadust saab nii aidata kui ka mõnikord alla lüüa, lisades määratlusesse sihilikult välistavad sätted.

Vaadake uuesti selles seaduses sätestatud AEDT määratlust. Loodetavasti märkasite, et on olemas välistusklausel, mis ütleb: "...ei sisalda tööriistu, mis ei automatiseeri, toeta, oluliselt ei aita ega asenda kaalutlusotsustusprotsesse ja mis ei mõjuta oluliselt füüsilisi isikuid...".

Ühest küljest on sellise välistamise alusest kindlasti abi.

See näib viitavat (minu võhiku arvates), et AEDT-l peab olema konkreetne eesmärk ja seda tuleb sisuliselt kasutada. Kui AEDT on kas ütleme pealiskaudne või perifeerne ja kui tööotsus on siiski pigem inimese käsitsi tehtud, siis võib-olla ei tohiks kasutatavat tarkvarasüsteemi tõlgendada AEDT-na. Samuti, kui tarkvara või süsteem ei mõjuta “materiaalselt” füüsilisi isikuid (inimesi), siis ei tundu mõtet justkui jalgu tulel hoida.

Mõistlikult ei taha, et seadus ületähtsustaks selle ulatust ja neelaks kõike, sealhulgas köögivalamu. See on sisuliselt ebaõiglane ja koormav nende jaoks, keda seadus ei pidanud hõlmama. Nad võivad sattuda mättasse, mis toimib nagu üks neist kõikehõlmavatest võrkudest. Arvatavasti peaksid meie seadused olema ettevaatlikud, vältimaks süütute tõmbamist seaduse reguleerimisalasse.

Kõik on hästi ja hästi.

Arukas advokaat peab mõistma, et välistamisklausel võib olla teatud tüüpi seaduslik vanglast pääsemise kaart (pealegi, see konkreetne seadus näeb ette tsiviil-, mitte kriminaalkaristused, nii et vanglast pääsemine märkus on lihtsalt metafooriline ja maitsekaks löömiseks). Kui keegi peaks väitma, et ettevõte kasutab töösuhete töötlemisel AEDT-d, oleks üks esimesi viise, kuidas seda väidet ületada, väita, et nn AEDT oli tegelikult tõrjuv valdkond. Võite proovida näidata, et niinimetatud AEDT seda ei tee automatiseerima töölevõtmise otsus või mitte toetama töölevõtmise otsus või mitte oluliselt aidata or asendama diskretsioonilised otsustusprotsessid.

Seejärel saate minna käänulisele teele, et teha kindlaks, mida sõnad "automatiseerida", "toetada", "oluliselt aidata" või "asendada" selles kontekstis tähendavad. See on üsna mugav legaalne jäneseauk. Võib väita, et väidetavalt AEDT-ks olev tarkvara või süsteem on osa välistavatest näidustustest. Seetõttu pole selle konkreetse seadusega seoses mingit kahju ega viga.

Ilmselgelt tuleks sellistes küsimustes konsulteerida litsentseeritud advokaatidega (siin ei ole näidatud juriidilist nõu ja see on täiesti võhiku arvamus).

Pean siinkohal silmas seda, et selles uues seaduses on ruumi vingerdamiseks. Kõndimisruum võimaldab mõnedel tööandjatel, kes tõesti kasutavad AEDT-d, leida lünga AEDT kasutamisest mööda hiilimiseks. Mündi teine ​​külg on see, et võib-olla on ettevõtteid, kes tegelikult AEDT-d ei kasuta ja mis selle seadusega lõksu jäävad. Võib väita, et kõik, mida nad kasutasid, oli tõepoolest AEDT, ja nad peavad leidma vahendi, mis näitaks, et nende tarkvara või süsteemid jäid AEDT-st välja ja kuulusid välistava sätte alla.

Võime teha selle julge ennustuse:

• Kahtlemata leidub tööandjaid, kes teadlikult kasutavad AEDT-d ja üritavad potentsiaalselt oma juriidilistest kohustustest loobuda.
• Paratamatult on tööandjaid, kes ei kasuta AEDT-d, takerduma väidetesse, et nad kasutavad AEDT-d, sundides neid tegema "lisapingutusi", et näidata, et nad ei kasuta AEDT-d.

Kui me selles arutelus edasi jõuame, käsitlen neid arvukaid permutatsioone ja kombinatsioone veelgi. Meil on veel palju maad tallata.

AEDT kasutamine iseenesest ei ole selle probleemi osa, mis tekitab demonstratiivseid muresid, vaid see, kuidas AEDT oma toiminguid teeb, paneb juriidilise viha liikuma. Tuum seisneb selles, et kui AEDT toob tõenäoliselt kaasa ka tööhõiveotsuste tegemisega seotud eelarvamusi, siis olete potentsiaalselt kuumas vees (noh, omamoodi).

Kuidas me saame teada, kas AEDT toob tegelikult kaasa AI-ga koormatud eelarvamusi tööhõiveotsuste tegemisel?

Selle seaduse kohaselt on vastus, et tehisintellekti audit tuleb läbi viia.

Olen varem ja sageli käsitlenud tehisintellekti auditite olemust ja seda, mis need on, ning märkinud olemasolevaid varjukülgi ja halvasti määratletud tahke, näiteks link siin ja link siin, paljude muude sarnaste postituste hulgas. Lihtsamalt öeldes on arusaam, et nii nagu võite teha ettevõtte finantsauditi või arvutisüsteemiga seotud tehnoloogilise auditi, saate teha auditi ka AI-süsteemis. Spetsiaalsete auditeerimistehnikate, -tööriistade ja -meetodite abil saate uurida ja hinnata, millest tehisintellekti süsteem koosneb, sealhulgas näiteks teha kindlaks, kas see sisaldab üht või teist tüüpi eelarvamusi.

See on kasvav tähelepanu valdkond.

Võite eeldada, et see AI auditeerimisele pühendatud auditi alamvaldkond kasvab jätkuvalt. On selge, et üha rohkem AI-süsteeme turule vallandub ja see omakorda nõuab üha enam AI-auditeid. Uued seadused aitavad seda esile kutsuda. Isegi ilma nende seadusteta tehakse tehisintellekti auditeid ohtralt, kuna inimesed ja ettevõtted väidavad, et tehisintellekt on neile ülekohut teinud, ning püüavad anda käegakatsutavat dokumenteeritud viidet selle kohta, et kahju oli olemas ja seotud kasutatava tehisintellektiga.

AI audiitorid on kuumad ja nende järele on suur nõudlus.

See võib olla põnev töö. Üks võib-olla põnev element hõlmab AI uusimasse ja parimasse sukeldumist. AI edeneb pidevalt. Kui see juhtub, peab nutikas tehisintellekti audiitor end käpuli hoidma. Kui olete audiitor, kes on väsinud igapäevaste tavapäraste auditite tegemisest, lubab silmi avav, alati uus tehisintellekti auditeerimisareen (ütlen seda selleks, et tõsta audiitorite staatust osaliselt, sest nad on sageli kaevikutes ja kaevikutes töötavad kangelased, kes ei kuuluta. jäetakse oma ettevõtmiste tõttu tähelepanuta).

Lisaks olen ma olnud sertifitseeritud arvutisüsteemide audiitor (üks selline nimetus on CISA) ja teinud IT (infotehnoloogia) auditeid paljude aastate jooksul, sealhulgas tehisintellekti auditeid. Enamasti ei saa te selliste pingutuste eest väärilist tunnustust. Tõenäoliselt võite arvata, miks. Üldiselt kipuvad audiitorid leidma asju, mis on valesti või katki. Selles mõttes on nad üsna abivalmid, kuigi mõned võivad seda tajuda halbade uudistena ja halbade uudiste saatjat ei asetata tavaliselt eriti pjedestaalile.

Tagasi käsiloleva asja juurde.

Mis puudutab NYC seadust, siis siin on see, mida seadus ütleb AI auditeerimise ja tehisintellekti eelarvamuste paljastamise kohta:

• „Mõte „erapooliku audit” tähendab sõltumatu audiitori erapooletut hindamist. Selline eelarvamuste audit hõlmab, kuid mitte ainult, automatiseeritud tööhõiveotsuste tööriista testimist, et hinnata tööriista erinevat mõju mis tahes komponendi 1 kategooriasse kuuluvatele isikutele, millest tööandjad peavad teatama vastavalt pealkirja jaotise 2000e-8 alajaotusele c. 42 Ameerika Ühendriikide koodi, nagu on täpsustatud föderaalmääruste koodeksi jaotise 1602.7 osas 29” (NYC, Int 1894-2020, 25. alampeatükk, jaotis 20-870).

Kokkuvõtteks, siin on see, kus me selle seaduse lahtipakkimisel seni oleme:

• Seadus hõlmab automatiseeritud tööhõiveotsuste tööriistu (AEDT).
• Lisatud on sortide määratlus, et teha kindlaks, mis AEDT on
• AEDT määratluses mainitakse ka välistavaid sätteid
• Sisu on selles, et seadus tahab paljastada AI eelarvamusi AEDT-s
• Tehisintellekti eelarvamuste väljaselgitamiseks tuleb teha tehisintellekti audit
• AI audit teeb arvatavasti teatavaks kõik AI eelarvamused

Järgmisena saame seadusesse natuke rohkem süveneda.

Siin on, millest tööotsus koosneb:

• „Mõiste „tööhõiveotsus” tähendab kandidaatide või töötajate sõelumist linnas edutamiseks” (NYC, Int 1894-2020, 25. alampeatükk, jaotis 20-870).

Pange tähele, et "linna" piirav aspekt viitab sellele, et see küsimus käsitleb ainult NYC-s tööga seotud asjaolusid. Samuti väärib märkimist, et defineeritud tööhõiveotsus hõlmab kandidaatide sõelumist, mis on tavaline varjund sellele, mida me tööotsusena peame, ning see hõlmab ka edutamist.

See on kahekordne jama selles mõttes, et ettevõtted peavad mõistma, et nad peavad olema kursis sellega, kuidas nende AEDT-d (kui nad seda kasutavad) kasutatakse esialgsetes töötingimustes ja ka ettevõttes edutamisel. Tõenäoliselt võite arvata või eeldada, et paljud ettevõtted ei ole selles rubriigis sisalduva edutamise elemendi kohta päris teadlikud. Nad jätavad selle täiendava konstruktsiooni paratamatult kahe silma vahele omaenda ohus.

Järgmisena annan välja täiendava võtmeväljavõtte seadusest, et selgitada selle seadusega ebaseaduslikuks tõlgendatava sisu olemust:

• „Nõuded automatiseeritud tööotsustustööriistadele. a. Linnas on tööandjal või tööbürool ebaseaduslik kasutada automatiseeritud tööotsustustööriista kandidaadi või töötaja tööotsuse tegemiseks, välja arvatud juhul, kui: 1. Sellise vahendi suhtes on tehtud eelarvamuste audit, mis on läbi viidud hiljemalt üks aasta enne sellise tööriista kasutamist; ja 2. Kokkuvõte sellise tööriista viimase eelarvamuste auditi tulemuste kohta, samuti selle tööriista levitamise kuupäev, mille suhtes selline audit kehtib, on enne tööriista kasutamist avalikult kättesaadavaks tehtud tööandja või tööhõiveagentuuri veebisaidil. selline tööriist…” (NYC, Int 1894–2020, 25. alampeatükk, jaotis 20–871). Kui olete juriidilisest sõnastusest väga huvitatud, võiksite vaadata täiendavaid alapunkte.

Skeptikud ja kriitikud on väitnud, et see näib väljakuulutatud ebaseadusliku tegevuse suhtes mõnevõrra leebe.

Nad ütlevad, et seadus keskendub ainult kitsalt ja minimaalselt Juhtimine AI audit ja avalikustamine tulemusi, mitte seda, kas tehisintellekti audit avastas tehisintellekti eelarvamusi ja kuidas on sellel olnud tagajärgi selle seaduse reguleerimisalasse kuuluvate tööhõiveotsuste tegemisel. Sisuliselt on see ilmselt ebaseaduslik mitte valida sellise tehisintellekti auditi läbiviimise (kui see on asjakohane, nagu varem mainitud), lisaks on see ebaseaduslik juhul, kui teete tehisintellekti auditi, kuid teete seda mitte seda avalikustada.

Seadus näib vaikivat küsimust, kas tehisintellekti eelarvamusi tuvastati ja esines või mitte. Samuti vaikimine selle kohta, kas tehisintellekti eelarvamused mõjutasid kedagi, kes on seotud olulise tööalase otsustustegevusega. Võti on näiliselt lihtsalt "lihtsalt" AI audit läbi viia ja sellest rääkida.

Kas see seadus ei lähe piisavalt kaugele?

Osa vastuargumendist väita, et see on näiliselt rahuldav selle seaduse ulatuse või ulatuse osas, on see, et kui tehisintellekti audit tuvastab tehisintellekti eelarvamusi ja kui need AI eelarvamused on seotud konkreetsete tööhõiveotsuste tegemise juhtumitega, või nii kahju saanud isikud saaksid tööandjat taga ajada muu seadused. Seega ei ole vaja seda aspekti sellesse seadusesse lisada.

Väidetavalt on selle seaduse eesmärk sellised asjad päevavalgele tuua.

Kui need ebasoodsad tavad on päevavalgust saanud, saab kasutada kõiki muid õiguslikke teid, kui tehisintellekti eelarvamused on olemas ja mõjutavad inimesi. Ilma selle seaduseta väidetakse, et need, kes kasutavad AEDT-sid, teeksid seda nii, et neil oleks võimalik amokki ajada ja neil võib olla palju tehisintellekti eelarvamusi, mille toimumisest ei teaks need, kes otsivad tööd või otsivad edutamist.

Tooge need pinnale. Pane nad rääkima. Minge kapoti alla. Vaata, mis selle mootori sees on. See on antud juhul mantra. Selle pinnalaotuse ja jutustamise põhjal saab ette võtta lisatoiminguid.

Lisaks sellele, et AI-audit on ehk teatanud tehisintellekti eelarvamuste olemasolust, on hagi algatatud kohtumenetlus, usutakse ka, et nende tulemuste avaldamine avaldab mõju mainele. Tööandjad, kes kasutavad tehisintellektiga eelarvamustega AEDT-sid, kannatavad tõenäoliselt ühiskonna viha all, näiteks sotsiaalmeedia ja muu sarnase kaudu. Nad saavad avalikuks oma õelate tegude pärast ja häbenevad oma käitumist korrigeerida, samuti võivad nad jääda ilma inimestest, kes soovivad seal töötada, kuna on mure, et tehisintellekti eelarvamused takistavad töölevõtmist või edutamist.

Ebaseaduslikkusega seotud karistused on järgmised:

• "Karistused. a. Iga isik, kes rikub selle alapeatüki mõnda sätet või selle alusel välja kuulutatud reeglit, vastutab tsiviilkaristuse eest, mis ei ületa 500 dollarit esimese rikkumise ja iga järgmise rikkumise eest, mis toimub esimese rikkumisega samal päeval, kuid mitte vähem kui 500 dollarit kuni 1,500 dollarit iga järgneva rikkumise eest” (NYC, Int 1894-2020, 25. alampeatükk, jaotis 20-872). Kui olete juriidilisest sõnastusest väga huvitatud, võiksite vaadata täiendavaid alapunkte.

Skeptikud ja kriitikud väidavad, et karistused ei ole piisavalt karmid. Väidetavalt mõni suur firma mõnitaks või naeraks sellega kaasnevate väikeste dollaritrahvide üle. Teised juhivad tähelepanu sellele, et trahv võib olla suurem kui esmapilgul paistab, nii et kui ettevõttel peaks iga päev olema tuhat dollarit rikkumisi (ainult üks stsenaarium, on palju muid stsenaariume), oleks aasta väärtus ligikaudu 365,000 XNUMX dollarit, eeldades, et ettevõte lihtsalt eiras seadust terve aasta ja pääses sellest (tundub raske ette kujutada, kuid võib juhtuda ja võib teoreetiliselt tekkida isegi kauem või suuremate trahvide kulminatsiooni tõttu).

Vahepeal on mõned mures väiksemate ettevõtete ja nendega seotud trahvide pärast. Kui vaevu ots-otsaga kokkutulev väikeettevõte saab trahvi ja väidetavalt ei teinud seda tahtlikul ajendil seadustest mööda hiilida, võivad trahvid oluliselt mõjutada nende laialivalguvat äri.

Probleemsed võtmetähtsusega kaalutlused

Mul on teile lihtne ja arusaadav küsimus.

Mis on selle seaduse kontekstis AI audit?

Probleemne on see, et seaduse narratiivis pole lõplikku viidet. Näib, et meile öeldakse vaid, et „erapooliku audit“ tuleb läbi viia „sõltumatu audiitori erapooletu hindamise teel“ (vastavalt seaduse sõnastusele).

Saate Maci veoautoga sellest haigutavast august läbi sõita.

Sellepärast

Mõelge sellele üsna häirivale näitele. Pettur võtab ühendust NYC-s asuva ettevõttega ja selgitab, et nad pakuvad sellist teenust, et nad teevad oma AEDT-le nn eelarvamuse auditi. Nad lubavad, et teevad seda erapooletult (mida iganes see ka ei tähendaks). Nad peavad end sõltumatuks audiitoriks ja on end selleks võidnud. Pole vaja mingit raamatupidamis- või auditeerimiskoolitust, kraadi, sertifikaate ega muud taolist. Võib-olla näevad nad vaeva mõne visiitkaardi printimisega või panevad kiiruga üles veebisaidi, kus reklaamitakse oma sõltumatu audiitori staatust.

Nad nõuavad ettevõttelt tagasihoidlikku tasu, näiteks 100 dollarit. Nende teenus koosneb võib-olla mõne küsimuse esitamisest AEDT kohta ja seejärel kuulutamisest, et AEDT on erapoolik. Seejärel saadavad nad ühe lehekülje suuruse aruande, milles deklareeritakse nn auditi “tulemused”. Ettevõte postitab selle kohusetundlikult oma veebisaidile.

Kas ettevõte on seda seadust järginud?

Ütle mulle

Tundub, et neil on.

Võite kohe hämmastuda, et audit tehti pealiskaudselt (see on antud stsenaariumi puhul viisakas ja suuremeelne). Teid võib häirida see, et eelarvamuste tuvastamine (või selle puudumine) oli võib-olla põhiliselt ette määratud (voila, te näite olevat eelarvamustevaba). Võite olla ärritunud, et avaldatud tulemused võivad tekitada aura, nagu oleksite läbinud heauskse kogenud, koolitatud, kogenud ja sertifitseeritud audiitori range auditi.

Jah, see suurendab asjade suurust.

Tööandja võib tunda kergendust, kui ta selle "rumala" nõude täitis, ja olla õnnelik, et see läks neile maksma vaid 100 dollarit. Tööandja võib sisemiselt ja vaikselt aru saada, et sõltumatu audit oli jabur, kuid see ei ole ilmselt nende otsustada. Neile esitati väidetavalt sõltumatu audiitor, audiitor tegi tööd, mis audiitori sõnul oli nõuetele vastav, ettevõte maksis selle eest, nad said tulemused ja nad postitasid tulemused.

Mõned tööandjad teevad seda ja mõistavad, et nad järgivad seadust silmapilkselt. Sellegipoolest usuvad nad, et järgivad täielikult nõudeid.

Teised tööandjad võivad petta saada. Nad teavad vaid vajadust täita seadusi. Nende õnneks (või nii nad arvavad) võtab "sõltumatu audiitor" nendega ühendust ja lubab, et kaebuse audit ja tulemus on võimalik saada 100 dollari eest. Et vältida 500-dollarilise või suurema päevatrahvi saamist, arvab ettevõte, et neile on kingitud taevalik kingitus. Nad maksavad 100 dollarit, "audit" toimub, nad saavad tasuta tervisetõendi tehisintellekti erapoolikuste puudumise kohta, postitavad tulemused ja unustavad selle järgmiseks korraks, kui neil on vaja teist sellist auditit teha. .

Kuidas peaks iga NYC-s asuv ettevõte, mille suhtes see seadus kehtib, teadma, mis on seaduse heauskne järgimine?

Juhul, kui teil kõht veel ei korise, saame asja hullemaks teha. Loodan, et te pole viimase paari tunni jooksul söönud, sest järgmist keerdkäiku on raske säilitada.

Oled sa valmis?

See teeseldud teenusepakkuja osutub suuremaks võltsiks, kui oleks osanud arvata. Nad sunnivad ettevõtet registreeruma 100-dollarise teenuse saamiseks, et teha sõltumatu audiitorina erapooletu eelarvamuste audit. Vaata ja ennäe, nad teevad "auditi" ja avastavad, et AEDT igas nurgas ja nurgas on eelarvamusi.

Neil on AI eelarvamused nagu prussakate nakatumine.

Jah, ütleb firma, mida me saame sellega teha?

Pole probleemi, neile öeldakse, et me saame need AI eelarvamused teie eest parandada. See maksab teile vaid 50 dollarit iga leitud kallutatuse kohta. Olgu, firma ütleb, palun parandage need, tänan teid selle eest. Teenusepakkuja kodeerib natuke Blarney't ja teatab ettevõttele, et nad parandasid sada tehisintellekti kallutatust ja nõuavad seetõttu neilt 5,000 dollarit (see on 50 dollarit iga parandatava tehisintellekti kõrvalekalde kohta, korrutatuna leitud 100-ga).

Ai, ettevõte tunneb end pigistatuna, kuid see on siiski parem kui 500-dollarilise või suurema päevaraha rikkumine, nii et nad maksavad "sõltumatule audiitorile" ja saavad seejärel uue aruande, mis näitab, et nad on nüüd erapoolikud. Nad postitavad selle uhkusega oma veebisaidile.

Nad ei tea, et see oli pettus, pettus, kelmus.

Võite nõuda, et seda teenusepakkujat tuleks oma pettuste eest karistada. Nende trikitajate tabamine ja peatamine on palju raskem, kui võite arvata. Nii nagu nende välismaal elavate printside taga ajamine, kellel on teie jaoks varandus, on tõenäoliselt mõnel võõral maal, mis on väljaspool Ameerika Ühendriikide seaduste ulatust, võib sama juhtuda ka sel juhul.

Selle uue seaduse tõttu võib oodata suvilatööstuse tekkimist.

Neid teenuseid pakuvad heausksed audiitorid. Hea neile. Sellele tööle jäävad visad audiitorid. Seda tööd teevad võltsitud audiitorid.

Mainisin, et teenusepakkuja stsenaarium hõlmas 100 dollari küsimist nn AI auditi tegemiseks. See oli lihtsalt väljamõeldud kohatäide. Võib-olla küsivad mõned 10 dollarit (tundub visandlik). Võib-olla umbes 50 dollarit (siiski visandlik). Jne.

Oletame, et teenusepakkuja ütleb, et selle töö tegemine maksab 10,000 XNUMX dollarit.

Või 100,000 XNUMX dollarit selle tegemiseks.

Võimalik, et selleks kulub 1,000,000 XNUMX XNUMX dollarit.

Mõnel tööandjal pole aimugi, kui palju see maksma võib või peaks maksma. Nende teenuste turustamine on kõigile tasuta. See on raha teenimise seadus neile, kes neid teenuseid seaduslikult osutavad, ja raha teenimise seadus neile, kes seda tehes on ka alakätt. Raske on teada saada, kumb on kumb.

Samuti palun teil mõelda veel ühele haigutavale augule.

Mis on selle seaduse kontekstis AI eelarvamus?

Peale Ameerika Ühendriikide föderaalmääruste koodeksi mainimise (see ei vasta eriti tehisintellekti eelarvamuste küsimusele ega ole seega probleemi peatus või lahendaja), oleks teil raske väita, et see uus seadus annab mis tahes sisulise viite tehisintellekti eelarvamuste kohta. Taaskord on see täiesti avatud väga erinevatele tõlgendustele ja te ei tea eriti, mida otsiti, mida leiti jne. Samuti on isegi heausksete tehisintellekti audiitorite tehtud töö peaaegu tõenäoliselt võrreldamatu teisega, nii et igaüks kipub kasutama oma patenteeritud määratlusi ja lähenemisviise.

Lühidalt öeldes võime vaadata hirmu ja murega, millega tööandjad kokku puutuvad selle lõdvalt sõnastatud, kuigi hästi kavandatud seaduse tulemusel:

• Mõned tööandjad teavad seadust ning järgivad seda tõsiselt ja täielikult oma võimete piires
• Mõned tööandjad teavad seadust ja järgivad vähesel määral kõige õhemat, odavaimat ja võib-olla ebameeldivat teed, mida nad leiavad või mis on nende ukse ees.
• Mõned tööandjad teavad seadust ja usuvad, et nad ei kuulu seaduse reguleerimisalasse, seega ei tee nad sellega midagi (kuigi selgub, et nad võivad selle reguleerimisalasse kuuluda)
• Mõned tööandjad teavad seadust ja otsustavad seda kindlalt eirata, võib-olla uskudes, et keegi ei märka seda või et seadust ei täideta või seadust ei jõuta täitmisele jne.
• Mõned tööandjad ei saa seadustest teada ja jäävad lampjalgsusega vahele ning püüavad seda järgida
• Mõned tööandjad ei tea seadusest ja saavad petturite käest õnnetult vilistada
• Mõned tööandjad ei tea seadusest, nad ei kuulu reguleerimisalasse, kuid petturid, kes veenavad neid, et nad ei kuulu reguleerimisalasse
• Mõned tööandjad ei tea seadusest ega tee sellega midagi, samas kui imekombel ei jää nad kunagi vahele ega saa pahandust oma hooletuse pärast
• Muu

Üks oluline kaalutlus, mida meeles pidada, on selle uue seadusega seotud ulatus või ulatus.

Erinevate New Yorgi ettevõtete arvu kohta avaldatud statistika kohaselt on arv tavaliselt umbes 200,000 XNUMX ettevõtet (kasutame seda suurusjärku). Kui eeldada, et see on mõistlik lähendus, siis arvatavasti kehtib see uus seadus nendele ettevõtetele kui tööandjatele. Seega võtke arvesse ülalnimetatud mitmeid viise, kuidas tööandjad sellele seadusele reageerivad, ja mõelge, kui palju neid on kõigis erinevates äsja mainitud ämbrites.

See on üsna jahmatav skaleerimise probleem.

Lisaks on teatatud statistika kohaselt New Yorgis võib-olla 4 miljonit erasektori töökohta, millele lisandub hinnanguliselt 300,000 XNUMX NYC valitsuse palgalist valitsustöötajat (kasutage neid jällegi suurusjärkudena, mitte täpsete arvudena). Kui võtta arvesse, et uued töölevõtmised jäävad näiliselt selle uue seaduse kohaldamisalasse koos kõigi nende olemasolevate ja tulevaste töötajate edutamisega, on töötajate arv, keda see seadus ühel või teisel viisil puudutab, ausalt öeldes hämmastav. .

Suurel Õunal on uus seadus, mis esmapilgul näib olevat kahjutu ja näiliselt tühine või igapäevane, kuid kui mõistate kaasnevaid skaleerimisfaktoreid, võib see teie pea ringi käima panna.

Järeldus

Mainisin selle arutelu alguses, et tegemist on hea kavatsusega uue seadusega.

Kõik, mida ma äsja kirjeldasin kui võimalikke lünki, väljajätmisi, lünki, probleeme ja muud sarnast, on kergesti etteaimatav. See ei ole raketiteadus. Võin lisada, et sellel seadusel on veelgi rohkem loomupäraseid muresid ja segavaid aspekte, mida ma ruumipiirangute tõttu siin välja ei toonud.

Leiate need sama kergesti kui tünnis kala tulistada.

Seda tüüpi seadused tuleks hoolikalt välja töötada, et püüda vältida selliseid alatuid tagajärgi. Ma eeldan, et tõsimeelsed heliloojad püüdsid kirjutada seadust, mis nende arvates oli suhteliselt raudne ja mis halvimal juhul võib-olla sisaldaks siin või seal mõningaid nooruslikke pisikesi tilku. Kahjuks on see tilgutite tuletõrjevoolik. Vaja läheb palju kleeplinti.

Kas seadust oleks võinud kirjutada selgemalt, et sulgeda need üsna ilmsed lüngad ja nendega seotud probleemid?

Jah, küllaldaselt.

Sel juhul võite nördinult manitseda, et selline seadus oleks kahtlemata palju pikem. Alati on kompromiss seadusega, mis kestab ja kestab, muutub kohmakaks, versus on sisutihe ja kompaktne. Kuid te ei soovi saada lakoonilisust, kui kaotate sisulise ja väärika selguse ja spetsiifilisuse. Lühike seadus, mis lubab segadusi, on täis probleeme. Pikem seadus, isegi kui see näib keerulisem, oleks tavaliselt väärt kompromiss, kui see väldib, hoiab ära või vähemalt minimeerib vastuvõtmise etapis allavoolu probleeme.

Püha Augustinus on kuulus öelnud: "Mulle tundub, et ebaõiglane seadus pole üldse seadus."

Võime anda järelduse, et probleemsest sõnastusest koosnev õiglane seadus on seadus, mis kutsub esile raskeid probleeme. Sel juhul näib, et meile jäävad suure õigusteadlase Oliver Wendell Holmes juuniori targad sõnad, nimelt, et lehekülg ajalugu on väärt naela loogikat.

Jälgige, kuidas ajalugu tehakse peagi.