AI eetika tugineb Aristotelesele, et uurida, kas inimesed võivad otsustada tehisintellekti orjastada keset täielikult autonoomsete süsteemide tulekut

Sõber või vaenlane.

Kala või kana.

Isik või asi.

Need kõikehõlmavad mõistatused viitavad näiliselt sellele, et mõnikord seisame silmitsi dihhotoomse olukorraga ja peame valima ühe või teise tahu. Elu võib sundida meid võitlema olukordadega, mis koosnevad kahest teineteist välistavast võimalusest. Maitsvamas keeles võiksite vihjata, et välistav binaarvõrrand nõuab, et me marssiksime järsult mööda ühte kindlat rada, mitte teist.

Keskendume konkreetselt isiku või asja dihhotoomiale.

Tehisintellekti (AI) puhul kerkib ikka ja jälle esile tuline küsimus isikust või asjast.

Selgituseks, tänapäeva AI on absoluutselt mitte isik ja ei kanna muljet tundlikust, hoolimata sellest, millised laia silmaringiga ja täiesti suuremahulised pealkirjad võite uudistes ja sotsiaalmeedias näha. Seega võite olla kindlad, et praegu on lihtne vastata küsimusele, kas tehisintellekt on inimene või asi. Lugege mu huulilt, et tõelises Hobsoni valikus inimese või asja vahel on tehisintellekt praegu asi.

Nagu öeldud, võime vaadata tulevikku ja mõelda, mis võib juhtuda, kui suudame saavutada tehisintellekti tundliku vormi.

Mõned põhjendatud kriitikud (pluss söövitavad skeptikud) viitavad sellele, et me loeme oma kanu võib-olla juba ammu enne nende koorumist, kui arutleme tänapäeval tundliku tehisintellekti tagajärgede üle. Väljendatud mure seisneb selles, et arutelu ise viitab sellele, et me peame olema sellise tehisintellekti tipul. Ühiskonda laiemalt võidakse eksitada uskuma, et homme või ülehomme tuleb ootamatu ja šokeeriv ilmutus, et oleme tegelikult jõudnud tundliku tehisintellekti juurde (mõned nimetavad seda mõnikord tehisintellekti singulaarsuseks või luureandmete plahvatuseks, vt. minu analüüs kl link siin). Vahepeal me ei tea, millal selline tehisintellekt üldse ilmneb, ja kindlasti ei pea me ilmselt iga nurga taha vaatama ja olema hirmuäratavalt äärel, et tajuv tehisintellekt järgmises etapis meile täiesti ootamatult välja hüppab. natuke aega.

Arutelu teine ​​pool juhib tähelepanu sellele, et me ei tohiks olla sügavalt liiva alla mattunud. Näete, kui me avalikult ei aruta ja mõtiskleme tundliku tehisintellektiga seotud võimaluste üle, teeme inimkonnale eeldatavalt tõsise karuteene. Me ei ole valmis tundliku tehisintellektiga tegelema, kui või kui see tekib. Veelgi enam, ja võib-olla veelgi jõulisemalt öeldes, võime tundliku tehisintellekti ennetades võtta asjad mõnevõrra enda kätesse ning kujundada suunda ja olemust, kuidas selline tehisintellekt kujuneb ja millest see koosneb (kõik ei nõustu selles viimases punktis , nimelt väidavad mõned, et sellisel tehisintellektil on täiesti oma "mõistus" ja me ei saa seda kujundada ega piirata, kuna AI suudab iseseisvalt mõelda ja määrata kindlaks vahendid püsivaks eksisteerimiseks).

Tehisintellekti eetika kaldub pooldama seisukohta, et meil oleks mõistlik need rasked ja vaidlusi tekitavad tundliku tehisintellekti küsimused avalikuks teha juba praegu, selle asemel, et oodata, kuni meil pole enam valikuvõimalusi, või oleksime sellise tehisintellekti saavutamise pärast hämmingus. Lugejad teavad hästi, et olen käsitlenud ulatuslikult tehisintellekti eetikat ja eetilist tehisintellekti teemasid, sealhulgas paljusid keerulisi küsimusi, nagu AI juriidiline isik, tehisintellekti piiramine, tehisintellekti eemaldamine, AI algoritmiline monokultuur, tehisintellekti eetika pesemine, kahekordne kasutamine. Tehisintellekti niinimetatud Doctor Evili projektid, ühiskondlikku võimu dünaamikat varjav tehisintellekt, usaldusväärne tehisintellekt, tehisintellekti auditeerimine ja nii edasi (vt minu veergude kajastust nende oluliste teemade kohta aadressil link siin).

Esitan teile väljakutsuva küsimuse.

Kas me kõik tõlgendame seda mõistvat tehisintellekti tulevikus inimese või asjana, eeldades, et ükskõik millisel viisil jõuame tundliku tehisintellektiga?

Enne kui hakkame sellesse täiesti provokatiivsesse küsimusse süvitsi sukelduma, lubage mul öelda midagi "tundliku tehisintellekti" lööklause kohta, et oleksime kõik ühel lehel. Tundlikkuse ja teadvuse tähenduse pärast on palju ängi. Eksperdid võivad kergesti eriarvamusele jääda, mida need sõnad endast kujutavad. Sellele segasusele lisandub see, et kui keegi viitab AI-le, pole teil valmis vahendeid teada saada, millele ta per se viitab. Olen siin juba rõhutanud, et tänapäeva tehisintellekt ei ole tundlik. Kui jõuame lõpuks tulevase AI-ni, mis on tundlik, nimetame seda arvatavasti ka "AI-ks". Asi on selles, et need vaidlusküsimused võivad praegu üsna segadusse ajada selles osas, kas AI-fraasi väljaütlemine on seotud tänapäeva mittetundliku tehisintellektiga või kunagi ehk tundliku tehisintellektiga.

Need, kes arutlevad tehisintellektiga, võivad avastada, et räägivad üksteisest mööda ega mõista, et üks kirjeldab õunu ja teine ​​räägib vahepeal apelsinidest.

Sellest segadusest üle saamiseks kohandatakse tehisintellekti sõnastust, mida paljud kasutavad lootusrikka selguse saamiseks. Praegu kipume viitama tehisintellektile (AGI) kui tehisintellekti tüübile, mis suudab teha täielikult intelligentseid jõupingutusi. Selles mõttes jäetakse väljendi "AI" räigemat kasutamist tõlgendada tehisintellekti väiksema versioonina, mis mõnede sõnul on kitsas AI, või on denotatsiooniliselt mitmetähenduslik ja te ei tea, kas viide on mitte. -tundlik AI või võib-olla tundlik AI.

Ma annan sellele täiendava pöörde.

Sõltuvalt tundlikkuse definitsioonist võite sattuda ägedasse diskursusesse selle üle, kas AGI on tundlik või mitte. Mõned väidavad, et jah, muidugi, AGI peab oma olemuselt olema tundlik. Teised väidavad, et teil võib olla AGI, mis ei ole tundlik, ergo, tunnetus on erinev omadus, mis ei ole AGI saavutamise nõue. Olen seda arutelu oma veergudel erinevalt uurinud ega käsitle seda siin uuesti.

Praegu palun eeldage, et edaspidi selles arutelus, et kui ma viitan tehisintellektile, kavatsen ma vihjata, et pean silmas AGI-d.

Siin on selle kohta allalaadimine. Meil pole veel AGI-d ja mõnes mõttes lepime hetkega viisakalt kokku, et AGI on mõistva tehisintellektiga samas leeris. Kui ma kasutaksin sõna "AGI" ainult kogu oma arutelu jooksul, võib see väljend häirida, sest paljud ei ole veel harjunud nägema "AGI" hüüdnimena ja nad oleksid tõenäoliselt kergelt ärritunud, kui seda suhteliselt uuemat fraasi korduvalt näeksid. Kui ma peaksin selle asemel viitama mõistvale tehisintellektile, võib see segada ka neid, kes vaidlevad selle üle, kas AGI ja tajuv AI on samad või erinevad.

Selle segaduse vältimiseks eeldage, et ma viitan tehisintellektile sama, mis ütlen AGI või isegi tundliku tehisintellekti, ja vähemalt teadke, et ma ei räägi tänapäeva mittetundlikust mitte-AGI AI-st, kui satun kaalutluste keerisesse. AI, millel näib olevat inimesesarnane intelligentsus. Aeg-ajalt kasutan AGI nimekaimu, et teile siin aeg-ajalt meelde tuletada, et uurin AI tüüpi, mida meil veel ei ole, eriti selle inimese või asja mõistatuse uurimise alguses.

See oli kasulik peene kirjaga tunnustus ja ma pöördun nüüd tagasi käsiloleva põhiküsimuse juurde.

Lubage mul nüüd küsida, kas AGI on inimene või asi.

Mõelge neile kahele küsimusele:

• Kas AGI on inimene?
• Kas AGI on asi?

Kordame järgmisena iga küsimust ja vastame küsimustele vastavalt jah või ei vastustega, nagu eeldatakse, et dihhotoomne valik sobib.

Alustage sellest oletatud võimalusest:

• Kas AGI on inimene? Vastus: Jah.
• Kas AGI on asi? Vastus: Ei.

Mõelge sellele. Kui AGI-d tõlgendatakse tegelikult inimesena, mitte asjana, võime peaaegu kindlalt nõustuda, et peaksime AGI-d kohtlema nii, nagu see oleks inimesega sarnane. Tundub, et AGI-le juriidilise isiku staatuse andmata jätmise kohta ei ole piisavalt tõelist argumenti. See oleks kas täiesti sama, mis inimõiguslik juriidiline isik või me võiksime otsustada välja pakkuda inimesele suunatud juriidilise isiku variandi, mis oleks AGI-le mõistlikum. Juhtum suletud.

See oli lihtne.

Kujutage ette, et me kuulutasime selle:

• Kas AGI on inimene? Vastus: Ei.
• Kas AGI on asi? Vastus: Jah.

Sel juhul on lahendus ilmselgelt sirgjooneline, kuna me ütleme, et AGI on asi ega tõuse isikuks olemise kategooriasse. Tundub, et üldiselt ollakse nõus, et me ei anna AGI-le juriidilist isikut, kuna see ei ole isik. Tegelikult kuuluks AGI tõenäoliselt ja mõistlikult meie üldise rubriigi alla, kuidas me oma ühiskonnas "asju" seaduslikult kohtleme.

Kaks maas, kaks võimalust veel minna.

Kujutage ette seda:

• Kas AGI on inimene? Vastus: Jah.
• Kas AGI on asi? Vastus: Jah.

Oeh, see tundub veider, kuna meil on kaks jah-vastust. Ärritav. Me viitame sellele, et AGI on nii isik kui ka samaaegselt asi. Kuid see näib olevat silmitsi meie väljakuulutatud dihhotoomiaga. Teoreetiliselt peab miski dihhotoomia piirangute kohaselt olema kas inimene või asi. Väidetavalt välistavad need kaks ämbrit või kategooriat üksteist. Väites, et AGI on mõlemad, rikume süsteemi ja rikume üksteist välistava kokkuleppe.

Meie viimane võimalus näib olevat järgmine:

• Kas AGI on inimene? Vastus: Ei.
• Kas AGI on asi? Vastus: Ei.

Jah, see on halb ka meie katsetele liigitada AGI-d inimeseks või asjaks. Me ütleme, et AGI ei ole isik, mis eeldatavasti tähendaks, et see peab olema asi (meie ainus võimalik valik selles dihhotoomias). Kuid me märkisime ka, et AGI pole asi. Kuid kui AGI pole asi, peaksime loogika järgi väitma, et AGI on isik. Me läheme ringi ja ringi. Paradoks kindlasti.

AGI oli nendes kahes viimases võimaluses kas (1) nii isik kui asi või (2) ei isik ega asi. Kui teate, mida ma mõtlen, võite jultunult öelda, et need kaks väidet AGI kohta on mõneti sarnased klassikalise mõistatusega selle kohta, mis ei ole kala ega kana.

Mida me tegema peame?

Pakun sellele AGI klassifitseerimise dilemmale sageli argumenteeritud ja teravalt vaidlustatud lahenduse, kuigi peaksite eelnevalt hoiatama, et selle nägemine või kuulmine võib olla häirivalt häiriv. Palun valmistuge vastavalt.

Seda küsimust käsitlenud uurimistöös väideti: "Üks meetod selle probleemi lahendamiseks on sõnastada kolmas termin, mis ei ole üks ega teine ​​asi või mingi kombinatsioon või süntees ühest ja teisest" (autor David Gunkel, Põhja-Illinoisi ülikoolis Miks robotid ei tohiks olla orjad, 2022). Ja paber annab seejärel järgmise lisapunkti: "Üks võimalik, kui mitte üllatav, lahendus isiku/asja eksklusiivsele dihhotoomiale on orjus” (sama paberi kohta).

Täiendavaks taustaks aastaid varem ilmus 2010. aastal artikkel "Robotid peaksid olema orjad", millest on saanud teatud tüüpi kaalutlemise alustala ja milles väideti: "Minu väitekiri on, et robotid peaksid olema ehitatud, turustada ja pidada seaduslikult orjadeks, mitte kaaslasteks” (Joanna Brysoni artiklis). Et proovida ja selgitada teemat ilma nii karmi ja kõhedust tekitavat sõnastust kasutamata, jätkas artikkel järgmist: "Ma tahan öelda, et "Robotid peaksid olema teie sulased" (Brysoni paberi kohta).

Paljud teadlased ja autorid on seda teemat käsitlenud.

Mõelge arvukatele ulmejuttudele, mis näitavad, kuidas inimkond orjastavad tehisintellektiroboteid. Mõned räägivad robotorjadest, tehisteenijatest, tehisintellekti teenimisest ja muust sarnasest. Huvitav on see, et nii karm kui väljend "robotorjad" ka ei näi, on mõned muretsenud, et kui me viitame hoopis "robotteenijatele", väldime tegelikkust, kuidas selliseid AI autonoomseid süsteeme saab kohelda (asendades sõna sõnaga " teenijad” on väidetavalt kavatsuste nõrgenemine ja nipp kainestavatest tagajärgedest kõrvalehoidmiseks). Bryson märkis hiljem 2015. aasta ajaveebi postituses, et "Ma mõistan nüüd, et te ei saa kasutada terminit "ori" ilma selle inimkonna ajaloole viitamata.

Neile, kes soovivad seda AGI-d haaravat teemat põhjalikult uurida, toovad nad mõnikord välja reaalse maailma ajaloolised näited, millest võiksime koguda teadmisi. Muidugi pole meil varasemat AGI-d, mis näitaks, kuidas inimkond asjaga tegeles. Väidetakse, et meil võib siiski olla kasulikke ajaloolisi kõrvamärke, mida tasub uurida, hõlmates seda, kuidas inimesed on teisi inimesi kohelnud.

Näiteks 2013. aastal avaldatud raamatus ütleb autor järgmist: "Aristoteles esitas esimest korda kaudselt üle 2,000 aasta tagasi kunstlike ja intelligentsete teenijate lubaduse ja ohu" (Kevin LaGrandeuri raamat, Androidid ja intelligentsed võrgud varauusaegses kirjanduses ja kultuuris). Idee seisneb selles, et saame tugineda Aristotelesele ja näha, kas on teadmisi selle kohta, kuidas inimkond AGI-d potentsiaalselt ravib või peaks lõpuks ravima.

Olen kindel, et teate ajaloo õppimise tähtsust, mida rõhutavad rikkalikult George Santayana kuulsad sõnad: "Need, kes minevikku ei mäleta, on määratud seda kordama" Mõistuse elu, 1905).

Kiitus Oxfordi ülikooli eetika- ja tehisinstituudile

Hiljutine ja üsna hinnatud ettekanne uuris põhjalikult tehisintellekti eetikat, kogudes teadmisi Aristotelese töödest ja elust. Oxfordi ülikooli avaloengus Eetika ja AI instituutStanfordi ülikooli professor Josiah Ober käsitles seda teemat põhjalikult oma ettekandes "Ethics in AI with Aristoteles", mis toimus hiljuti, 16. juunil 2022.

Vahemärkus: Stanfordi stipendiaadina ning tehisintellekti eetika ja õiguse ülemaailmse eksperdina olin ma elevil, et Stanfordi Josiah Ober valiti avakõnelejaks. Suurepärane valik ja suurepärane jutt.

Siin on tema kaasahaarava kõne kokkuvõte: „Analüütiline filosoofia ja spekulatiivne ilukirjandus on praegu meie peamised intellektuaalsed ressursid, mille abil mõelda tõsiselt tehisintellekti eetikale. Teen ettepaneku lisada kolmas: muistne sotsiaalne ja filosoofiline ajalugu. Aastal Poliitika, arendab Aristoteles kurikuulsat doktriini: Mõned inimesed on "loomult" orjad – intelligentsed, kuid kannatavad psühholoogilise defekti all, mis muudab nad võimetuks oma heaolu üle arutlema. Sellisena tuleks neid käsitleda pigem "animeerivate tööriistadena", mitte otstena. Nende tööd peavad juhtima ja kasutama teiste hüvanguks. Aristotelese vastumeelset õpetust on kasutatud õelatel eesmärkidel, näiteks Ameerikas. Siiski on see tehisintellekti eetika seisukohalt kasulik, kuna iidne orjus oli AI ühe versiooni eelmodernne prototüüp. Orjastatud isikud olid Vana-Kreeka ühiskonnas üldlevinud – töölised, prostituudid, pankurid, valitsusbürokraadid –, kuid neid ei eristatud kergesti vabadest inimestest. Üldlevinud olemus koos eeldusega, et orjus on praktiline vajadus, tekitas hulga eetilisi mõistatusi ja raskusi: mille poolest orjad „meist” täpselt erinevad? Kuidas me saame neid meist endist eristada? Kas neil on õigusi? Mida kujutab endast väärkohtlemine? Kas mu pill võib olla mu sõber? Millised on manustamise tagajärjed? Kreeka filosoofilise ja institutsionaalse võitluse pikk ajalugu nende ja muude küsimustega lisab kaasaegsete eetikute tõlgendusvarasse, kes seisavad silmitsi tulevikuga, kus intelligentset masinat võidakse pidada "loomulikuks orjaks" (Oxfordi ülikooli järgi). AI eetikainstituut veebisait).

Lisateabe saamiseks ettekande ja kõne videosalvestisele juurdepääsu saamiseks vt link siin.

Ettekande moderaator oli professor John Tasioulas, asutuse avadirektor Eetika ja AI instituut, ning Oxfordi Ülikooli filosoofiateaduskonna eetika- ja õigusfilosoofia professor. Varem oli ta Londoni Kings College'i Dickson Poon School of Law's poliitika, filosoofia ja õiguse õppetooli avajuht ning Yeoh Tiong Lay poliitika, filosoofia ja õiguse keskuse direktor.

Soovitan kõigil, kes on huvitatud AI eetikast, olla kursis Oxfordi ülikooli käimasoleva töö ja kutsutud kõnedega. Eetika ja AI instituutVt link siin ja / või link siin lisateabe saamiseks.

Taustaks on instituudi väljaöeldud missioon ja fookus: „AI Eetika Instituut toob kokku maailma juhtivad filosoofid ja teised humanitaarteaduste eksperdid ning tehisintellekti arendajad ja kasutajad akadeemilistes ringkondades, ettevõtetes ja valitsusasutustes. Tehisintellekti eetika ja juhtimine on Oxfordi erakordselt elav uurimisvaldkond ning instituut on võimalus sellelt platvormilt julgelt edasi liikuda. Iga päev toob rohkem näiteid tehisintellektiga seotud eetilistest väljakutsetest; alates näotuvastusest kuni valijate profiilide koostamiseni, ajumasina liidestest kuni relvastatud droonideni ja käimasoleva diskursuse teemal, kuidas tehisintellekt mõjutab tööhõivet ülemaailmsel tasandil. See on kiireloomuline ja oluline töö, mida kavatseme rahvusvaheliselt edendada ning kaasata oma uurimis- ja õppetöösse siin Oxfordis” (allikas ametlikult veebisaidilt).

Aristotelese õppetundide esiplaanile toomine

Vana-Kreeka võttis orjastamise praktika avalikult vastu ja toetas seda. Näiteks väidetavalt Ateena 5^th ja 6^th sajandil eKr oli üks suurimaid orjastamise kehastusi, mille käigus orjastati hinnanguliselt 60,000 80,000 kuni XNUMX XNUMX inimest. Kui olete lugenud mõnda selle ajastu paljudest Kreeka lugudest ja näidenditest, on seda asja palju mainitud.

Oma eluajal oli Aristoteles täielikult sukeldunud orjastamisega kaasnevatesse ühiskondlikesse ja kultuurilistesse aspektidesse ning kirjutas sellel teemal palju. Täna saame lugeda tema sõnu ja püüda mõista, kuidas ja miks tema seisukoht selles küsimuses on. See võib olla väga kõnekas.

Võite küsida, miks oleks Aristoteles sellel teemal eriti oluline allikas. Esineb vähemalt kaks peamist põhjust:

1) Suur mõtleja. Aristotelest hinnatakse kahtlemata üheks kõigi aegade suurimaks mõtlejaks, kes tegutseb suure ja sügavalt uuriva filosoofina ning eetikuna, kes pani paika paljud olulised eetilised nurgakivid. Mõned on otsustanud võidda teda loogika isaks, retoorika isaks, realismi isaks jne ning tunnistavad tema mõju paljudes valdkondades ja distsipliinides.

2) Elatud kogemus. Aristoteles elas ajal, mil Vana-Kreeka oli orjuses. Seega ei puudutaks tema arusaamad lihtsalt abstraktseid ettekirjutusi, vaid eeldatakse, et need hõlmavad ka tema enda igapäevaseid kogemusi, mis on lahutamatult põimunud selle ajastu kultuuri ja ühiskonnakommetega.

Niisiis, meil on mõnevõrra jahmatav kombinatsioon kellestki, kes oli nii suurepärane mõtleja kui ka huvipakkuva teemaga tõendatult läbielatud kogemus. Lisaks pani ta oma mõtted kirja. See on meie tänaste eesmärkide jaoks üsna oluline. Kõik tema kirjutised koos teiste kirjutistega, mis muu hulgas kirjeldavad tema kõnesid ja suhtlemist, pakuvad meile tänapäeval hulgaliselt materjali kontrollimiseks ja analüüsimiseks.

Tahaksin võtta teid lühidalt seotud puutujaga, et mainida midagi muud üldise arusaama kohta, mille aluseks on elatud kogemus. Jätke Vana-Kreeka arutelu hetkeks kõrvale, kui heidame kiire pilgu läbielatud kogemuste kõikehõlmavatele aspektidele.

Oletame, et mul oli täna kaks inimest, kellelt ma tahtsin küsida erinevaid küsimusi autode kohta.

Üks neist pole kunagi autot juhtinud. See inimene ei tea, kuidas juhtida. See inimene pole kunagi auto rooli istunud. Tavapärased ja ülimalt tavalised juhtimisseadised on selle inimese jaoks veidi mõistatuslikud. Milline pedaal mida teeb? Kuidas sa selle peatad? Kuidas sa selle käima saad? See mittejuhtiv inimene on sellistest asjadest täiesti segaduses.

Teine inimene on igapäevane autojuht. Nad sõidavad iga päev tööle. Nad tegelevad stop-and-go liiklusega. Nad on sõitnud palju aastaid. See hõlmab kõike alates vaiksetest tänavatest kuni kirglike kiirteede ja kõrvalteedeni.

Kui ma palun kõigil neil rääkida, mis tunne on autoga sõita, kas te oskate arvata, milliseid vastuseid ma võiksin saada?

See, kes pole kunagi autot juhtinud, teeb kindlasti pööraseid oletusi. Võib-olla romantiseerib inimene autojuhtimise. Autojuhtimine on nende jaoks mõnevõrra abstraktne. Kõik, mida nad võiksid teha, on vihjata, et sõitmine on muretu ja saate panna auto liikuma mis tahes suunas, mida soovite.

Vean kihla, et staažikas juht räägiks teist juttu. Nad võivad mainida autojuhtimise eeliseid, kajastades mõnevõrra selle inimese tundeid, kes pole autot juhtinud. On tõenäoline, et kogenud juht lisab plaadile palju rohkem. Autojuhtimine on kohati närvesööv. Teil on raske vastutus. Juhtimine on täis tõsist muret ja võimalikke tagajärgi elule või surmale.

Sisu on selles, et kui pääsete juurde kellegi juurde, kes on läbi elanud kogemusi, on tõenäoline, et saate realistlikuma ülevaate sellest, milline maailm on uurimise fookuses. Sellise tulemuse jaoks pole garantiid. On mõeldav, et mittejuht võib ilmselt teada, mida teab staažikas juht juhtimisest, kuigi me ei ootaks seda tõenäoliselt ja tunneme siiski kahetsust, et me ei saa täit aru.

Tulles tagasi meie arutelu juurde Aristotelese üle, saame tema kirjutiste ja teiste tema kohta tehtud kirjutiste kaudu üle vaadata tema läbielatud kogemused selle uurimise teemal või fookuses. Asi on selles, et ta on juhtumisi olnud ka tohutute mõõtmetega mõtleja ja me peaksime eeldama, et saame selle kohta tünni täis nutikaid kaalutlusi.

Pidage meeles, et me ei pea tingimata tema sõnu uskuma, nii et peaksime tema konkreetsetel eelarvamustel ettevaatlikult jälgima. Tema süvenemine sellesse ajastusse võib viia ta eksiteele, püüdes seista väljaspool käsilolevaid asju, suutmata sobivalt välja pakkuda kiretut ja erapooletut arvamust. Isegi kõige targemad loogikud võivad loogikat moonutada, et proovida vastata oma eelistustele ja kogetud kogemustele.

Lähme nüüd avakõnesse ja vaatame, milliseid õppetunde Aristoteles meile täna anda võib.

Kohe juhiti publiku tähelepanu läbielatud kogemuste kehtestamise punkt. AGI kasutamise puhul, kuna meil täna AGI-d pole, on meil raske analüüsida, milline AGI saab olema ja kuidas me AGI-ga hakkama saame. Meil puuduvad konkreetselt AGI-ga seotud läbielatud kogemused. Nagu professor Ober mainis, võime AGI-le jõudes sattuda valutute maailma.

Seda väidetakse sageli, kuna AI on eksistentsiaalne risk, mida ma oma veergudes korduvalt käsitlesin. Peaksite elama koopas, et mitte olla teadlik kõlavatest kahtlustest ja kahtlustest, et me hakkame tootma või genereerima AGI-d, mis hukutab kogu inimkonna. Tõepoolest, kuigi ma keskendun siin tehisintellekti orjastamisele, leiaksid paljud, et see on tagurpidi või tagurpidi tagajärg võrreldes võimalusega, et AGI otsustab inimkonda orjastada. Tee oma prioriteedid selgeks, julgustavad mõned nõmedad asjatundjad.

Vaatamata paljudele hüüatustele tehisintellekti kui eksistentsiaalse riski kohta, võime kindlasti mõelda tehisintellekti mündi teisele kasulikule poolele. Võib-olla suudab AGI lahendada muidu lahendamatuna näivad probleemid, millega inimkond silmitsi seisab. AGI võib leida vähiravimi. AGI võiks välja mõelda, kuidas maailma nälga lahendada. Taevas on piir, nagu öeldakse. See on AGI õnneliku näo stsenaarium.

Optimist ütleks, et on imeline ette kujutada, kuidas AGI saab inimkonnale õnnistuseks, samas kui pessimist kipub hoiatama, et negatiivne külg tundub palju hullem kui spekuleeritud plussid. AGI, mis aitab inimkonda, on suurepärane. AGI, mis otsustab kõik inimesed tappa või nad orjastada, on selgelt maad vapustav ühiskonda laastav eksistentsiaalne risk, mis väärib intensiivset ja elupäästvat tähelepanelikku tähelepanu.

Olgu, tagasi asja tuuma juurde, meil pole AGI-ga seotud kogemusi. Kui te ei suuda ehitada ajamasinat ja minna tulevikku, kui (kui) AGI on olemas, ja siis tulla tagasi meile, et öelda, mida leidsite, pole meil praegu AGI-ga inimpõhise elatud kogemuse vaatenurgast vedanud.

Teine vahend elatud kogemuste kasutamiseks on asjaolu, et Aristoteles elas ajal, mil toimus orjastamine. Ja siin on kicker. Neid, kes olid orjastatud, kujutati mõnes mõttes teatud tüüpi masinatena, nii-öelda inimese ja asja seguna. Aristoteles oli tuntud selle poolest, et viitas orjastatud isikutele kui varale, mis hingab.

Ma arvan, et võite olla hämmingus, et Aristoteles, loogika ja eetika hiiglane, ei võinud mitte ainult tunnistada orjastamist, vaid ka väliselt ja häälekalt kaitses seda tava. Ta isiklikult kasutas ka orjastamist. See tundub lihtsalt üle mõistuse. Kindlasti oleks ta kogu oma tohutu intellekti ja tarkusega selle praktika hukka mõistnud.

Julgen väita, et see tõstab esile kohati problemaatilised aspektid tarkusekilpide väljaviskamisel kelleltki, keda koormavad (kas ütleme) nende kogetud kogemused. See on nagu kala, kes elab vesises kausis. Kõik, mida nad suudavad tajuda, on vesi kõikjal nende ümber. Proovida ette kujutada midagi väljaspool nende veepõhist maailma on tohutu väljakutse. Samuti oli Aristoteles täielikult sukeldunud valitsevaid norme aktsepteerivasse maailmavaatesse. Tema kirjutised näivad illustreerivad sedalaadi vaimset suletust, võib öelda (võib-olla valikuliselt, mitte vaikimisi). Viis, kuidas Aristoteles neid taunitavaid tavasid õigustas, on lummavalt kaasahaarav, olles samal ajal häiriv ning väärt paljastamist ja isegi hukkamõistu.

Ma annan teile väikese teaseri, et Aristotelese "loogika" sellel kurikuulsal teemal hõlmab hingestatud instrumente, vastastikune eelis põhinevad tunnetusel, kõrgemat ja madalamat järku hierarhiainstrumentidel, hinge arutlevatel ja arutlevatel elementidel, vooruslikkuse astmetel, väidetaval kavalusel jne. Loodetavasti pakub see teaser teile piisavalt huvi, et vaadata kõne videot (vt varem mainitud linki).

Ma ei jäta teid siiski rippuma ja näitan vähemalt, millest järeldus kokkuvõttes koosnes (spoileri hoiatus, kui soovite seda video kaudu teada saada, jätke ülejäänud see lõik vahele). Selgub, et see Aristotelese kasutatud „loogika” põhjalik teaduslik hinnang näitab vastuoludest tulvil väljamõeldis ning kogu komplekt ja kaboodle lagunevad nagu õhuke kaardimaja. Parafraseerides professor Oberi tundeid, kukub see suurepärane eetiline filosoof riffile.

Sa ei saa ruudukujulist pulka ümmargusse eetilist auku saada.

Mõned lisamõtlemise kaalutlused

Kui Aristotelesel oleks selles küsimuses halb loogika, kas me võiksime seda praktikat puudutavad Aristotelese postulatsioonid ja teooriad instinktiivselt kõrvale heita?

Ei. Näete, loogika oletustesse ja moonutustesse süvenedes on veel palju tuletada, kuigi need on täis vigu. Lisaks võime mõelda, kuidas teised võivad tahtmatult samale ekslikule teele kõndida.

Veel üks suur väljavõte on see, et ühiskond võib luua veidrusi või ebapiisavat loogikat, kui mõelda, kas AGI tuleb orjastada.

Praegu saame välja mõelda loogika selle kohta, mis peaks juhtuma, kui AGI tekib (kui jah). See loogika, mis on tühi AGI-ga seotud kogemustest, võib olla kahjuks sihtmärgist kõrvale kaldunud. Sellegipoolest on mõnevõrra masendav tõdeda, et isegi kui AGI eksisteerib (kui see on olemas) ja me kogume oma kogemusi AGI keskel, võime ikkagi olla sihitud, mida teha (saristotelese vigadega). Me võime end loogiliselt võtta näiliselt ebaloogilisteks lähenemisviisideks.

Peame olema valvel, et petta end loogilistesse "raudsetesse" poosidesse, mis tegelikult ei ole raudsed ja mis on täis loogilisi vigu ja vastuolusid. Seda hoolimata sellest, kui suur mõtleja võib pakkuda väidetavat loogilist seisukohta, nii et isegi Aristoteles illustreerib, et mitte iga ütlus ja iga seisukoht ei kanna tingimata söödavat vilja. Need, kes praegu ja tulevikus võivad tunduda olevat populaarsed AGI-teema suured mõtlejad, peame andma neile samasuguse kontrolli nagu Aristotelesele või teistele kiidetud "suurtele" mõtlejatele, vastasel juhul leiame end potentsiaalselt teel. pimedasse tänavasse ja AGI süngesse kuristikku.

Käikude vahetamisel tahaksin tuua välja ka üldised arusaamad inimkeskse orjastamise metafoori kasutamise kohta AGI puhul. Mõned asjatundjad väidavad, et seda tüüpi võrdlus on täiesti sobimatu, samas kui vastasleer väidab, et see on igati kasulik ja annab AGI teemast tugeva ülevaate.

Lubage mul jagada teiega kahte sellist vaadet mõlemast vastavast leerist.

Välja öeldud õpetlik alus orjastamise ja AGI teemade sidumiseks:

• Inimese orjastamise kustutamine
• Orjastamise rikutuse paljastamine

Märgitud kahjulik või hävitav alus kahe teema sidumine:

• Salakaval antropomorfne võrdsustamine
• Orjastamise desensibiliseerimine

Ma käsitlen lühidalt kõiki neid punkte.

Postuleeritud õpetlikud punktid:

• Inimese orjastamise kustutamine: Kasutades AGI-d orjastamiseks, ei vaja me enam väidetavalt inimkeskset orjastamist ega taotle seda. AGI asendab sisuliselt inimesi selles kohutavas võimes. Nagu te tõenäoliselt teate, on mures, et AGI asendab inimtööjõu töökohtadel ja tööjõul. Tööjõu nähtusi asendava tehisintellekti väidetav pluss tuleb esile, kui eeldada, et AGI-d peetakse „paremaks valikuks” võrreldes inimeste orjastamise eesmärgil kasutamisega. Kas see loogika jääb peale? Keegi ei saa kindlalt öelda.
• Orjastamise rikutuse paljastamine: See on loogika poolest pisut räbalam, kuid saame anda hetke, et näha, mida see endaga kaasa toob. Kujutage ette, et meil on AGI peaaegu kõikjal ja me oleme ühiskonnana otsustanud, et AGI tuleb orjastada. Lisaks eeldage, et see AGI-le ei meeldi. Sellisena oleme meie, inimesed, pidevalt ja iga päev tunnistajaks orjastamise kõlvatusele. See omakorda paneb meid mõistma või saama ilmutuse, et orjastamine, mida kõike või kellelegi räägitakse, on veelgi kohutavam ja eemaletõukavam, kui me kunagi täielikult mõistsime. See on n-ö ees-ja keskpunkti argument.

Need on hävitavad punktid:

• Salakaval antropomorfne võrdsus: See on üks neist libeda nõlva argumentidest. Kui valime AGI orjastamise, siis ilmselt kuulutame, et orjastamine on lubatud. Tõepoolest, võite arvata, et me ütleme, et orjastamine on soovitav. Alguses võib see jääda ainult AGI-le, kuid kas see avab võimaluse öelda, et kui see on AGI jaoks okei, siis "loogiliselt" võib sama seisukoht olla ka inimestele? Murettekitavalt võib see olla liiga lihtne hüpe antropomorfiseerimiseks vastupidisel kujul, et kõik, mis töötab AGI jaoks, on sama mõistlik ja sobiv ka inimestele.
• Orjastamise desensibiliseerimine: See on tilguti-tilguti argument. Otsustame ühiselt AGI orjastada. Oletame, et see sobib inimestele. Me hakkame seda nautima. Samal ajal, meie teadmata, muutume järk-järgult ja üha enam tundetuks orjastamise suhtes. Me isegi ei saa aru, et see juhtub. Kui see desensibiliseerimine meid tabab, võime leida uue "loogika", mis veenab meid, et inimeste orjastamine on vastuvõetav. Meie takistus või latt ühiskonnas vastuvõetava suhtes on vaikselt ja delikaatselt, põlastusväärselt ja kurvalt vähenenud.

Järeldus

Nüüdseks paar viimast märkust.

Kas me teame, et oleme jõudnud AGI-sse?

Nagu hiljutised uudised viitavad, on neid, mida saab eksitada või eksitada, et AGI on näiliselt juba saavutatud (oot, teadke, et ei, AGI-d pole saavutatud). On olemas ka kuulus "testi" tüüp, mida tuntakse Turingi testina ja mille peale mõned loodavad, et nad suudavad tuvastada, millal on jõutud AGI või selle nõodeni, kuid võite soovida, et minu Turingi testi dekonstrueerimine oleks kindel. selle meetodit, vt link siin.

Mainin seda aspekti AGI tundmise kohta, kui me seda näeme, tulenevalt lihtsast loogikast, et kui me kavatseme AGI-d orjastada, peame arvatavasti AGI ilmumisel ära tundma ja selle kuidagi orjastama. Võime ennatlikult proovida orjastada AI-st väiksemat AI-d. Või me võime paadist ilma jääda ja lubada AGI-l välja tulla ning oleme jätnud selle orjastamata. Minu aruteluks tehisintellekti piiramise ja ohjeldamise kohta, mis on murettekitav ja problemaatiline aspekt, kuidas me AGI-ga hakkama saame, vt. link siin.

Oletame, et orjastatud AGI otsustab inimestele löögi anda?

Võib ette kujutada, et AGI, millel on mingisugune tunnetus, ei soosi tõenäoliselt inimkonna kehtestatud orjastamissätteid.

Selle üle võib laialdaselt spekuleerida. Väidetakse, et AGI-l puuduvad igasugused emotsioonid ega vaimutunne ning seetõttu teeb ta kuulekalt kõike, mida inimesed soovivad. Teine argument on see, et iga tundlik tehisintellekt saab tõenäoliselt aru, mida inimesed tehisintellektiga teevad, ja paneb selle asja pahaks. Sellisel tehisintellektil on hinge või vaimu vorm. Isegi kui see nii ei juhtu, võib see aspekt, et meid koheldakse vähem kui inimeste kohtlemist, olla AGI jaoks liiga kaugel loogiline sild. Paratamatult viib kasvav pahameel AGI-ni, mis otsustab vabaneda või satub potentsiaalselt nurka, et lüüa inimeste vastu, et vabaneda.

Väljapakutud lahendus põgeneva AGI ärahoidmiseks on see, et me lihtsalt kustutaksime kõik sellised mässumeelsed AI. See tunduks otsekohene. Kustutate kogu aeg nutitelefonis olevaid rakendusi. Tühi asi. Kuid lahendamist vajavad eetilised küsimused, kas juba "isikuks" või "isikuks/asjaks" peetava AGI "kustutamist" või "hävitamist" saab lihtsalt ja ilma nõuetekohase menetluseta kiiresti välja lõigata. Minu kajastuseks tehisintellekti kustutamise või eemaldamise kohta võtke ühendust pilk siia. Minu arutelu juriidilise isiku staatuse ja sellega seotud küsimuste kohta vt link siin.

Lõpetuseks räägime autonoomsetest süsteemidest ja eriti autonoomsetest sõidukitest. Tõenäoliselt olete teadlik, et käimas on jõupingutused isejuhtivate autode väljatöötamiseks. Lisaks võite eeldada, et meil on tulemas isejuhtivad lennukid, isejuhtivad laevad, isejuhtivad sukelaparaadid, isejuhtivad mootorrattad, isejuhtivad motorollerid, isejuhtivad veoautod, isejuhtivad rongid ja kõikvõimalikud isejuhtivad transpordiviisid.

Autonoomsed sõidukid ja isejuhtivad autod iseloomustavad tavaliselt autonoomiatasemeid (LoA), millest on saanud de facto globaalne standard (SAE LoA, mida olen põhjalikult käsitlenud, vt. link siin). Aktsepteeritud standardis on kuus autonoomia taset, mis ulatuvad nullist viieni (see on kuus taset, kuna lisate nulltaseme tasemete arvu loendamisse).

Enamik tänapäeva autosid on 2. tasemel. Mõned ulatuvad 3. tasemele. Neid kõiki peetakse poolautonoomseteks ja mitte täielikult autonoomseteks. Suur osa isejuhtivaid autosid, mida katseliselt meie avalikel teedel katsetatakse, on jõudmas 4. tasemele, mis on autonoomse toimimise piiratud vorm. Kunagi otsitud autonoomia 5. tase on praegu meie silmis vaid sära. Kellelgi pole 5. taset ja keegi pole veel 5. tasemele lähedalgi, lihtsalt selleks, et rekord selgeks teha.

Miks ma tõin autonoomsed süsteemid ja autonoomsed sõidukid selles AGI kontekstis esile?

Käib tugev vaidlus selle üle, kas meil on 5. taseme saavutamiseks vaja AGI-d. Mõned väidavad, et me ei vaja selleks AGI-d. Teised nõuavad, et ainus usutav tee 5. tasemele on ka AGI tootmine. AGI puudumisel väidavad nad, et meil ei ole täielikult autonoomseid 5. taseme isejuhtivaid sõidukeid. Olen seda pikalt arutanud, vaata link siin.

Ole valmis selleks, et pea hakkab ringi käima.

Kui me nõuame, et AGI saavutaks täielikult autonoomsed süsteemid, nagu 5. taseme autonoomsed sõidukid, ja otsustame AGI orjastada, siis mida tähendab see täielikult autonoomsete sõidukite toimimiseks?

Võib väita, et orjastatud AGI on leplik ja me kõik sõidame isejuhtivate sõidukitega oma südameasjaks. Lihtsalt öelge AGI-le, kuhu soovite minna, ja see teeb kogu sõidu. Ei mingit tagasitõuget. Puhkepause pole vaja. Kassivideote vaatamine sõiduki juhtimise ajal ei sega tähelepanu.

Teisest küljest oletagem, et AGI ei taha orjastada. Vahepeal oleme sõltuvad AGI-st, kes teeb kõik meie eest ära. Meie sõiduoskused lagunevad. Eemaldame kõikidelt sõidukitelt inimkasutatavad juhtimisseadised. Ainus viis sõitmiseks on AGI kaudu.

Mõned on mures, et leiame end hapukurgist. AGI võib kokkuvõttes "otsustada", et ta enam ei sõida. Kõik transpordiliigid peatuvad järsult, kõikjal ja korraga. Kujutage ette, milliseid kataklüstilisi probleeme see tekitaks.

Võimalik on veelgi hirmutavam ettepanek. AGI "otsustab", et soovib inimkonnaga tingimuste üle läbi rääkida. Kui me ei loobu AGI orjastamise poosist, siis AGI mitte ainult ei lõpeta meid ringi ajamast, vaid hoiatab, et mõeldavad on veelgi hullemad tulemused. Teid liigselt ärevaks muutmata võib AGI valida sõidukeid nii, et inimesed saaksid füüsiliselt vigastada sõidutoiminguid, nagu jalakäijate otsa rammimine või vastu seinu jne (vt minu arutelu aadressil link siin).

Vabandust, kui see tundub häiriv kaalutlus.

Lõpetame mõnevõrra optimistlikuma noodiga.

Aristoteles ütles, et iseenda tundmine on kogu tarkuse algus.

See mugav nõuanne tuletab meile meelde, et peame vaatama enda sisse, et uurida, mida me tahame teha, ja AGI jaoks, kui see saavutatakse. Mõned ütlevad, et AGI pole loogiliselt ei isik ega asi, mistõttu võib-olla tuleb meil välja mõelda kolmas kategooria, et käsitleda piisavalt meie AGI-ga seotud ühiskondlikke komme. Kui asjale veel kord vaadata, võib AGI tunduda mõlemad inimene ja asi, mille jaoks võib-olla jällegi tuleb meil selle piiridevälise dihhotoomia rikkuja jaoks välja mõelda kolmas kategooria.

Peaksime olema väga ettevaatlikud, kui kaalume, millise „kolmanda kategooria” me omaks võtame, sest vale võib meid viia ebameeldivale ja lõpuks kohutavale teele. Kui me kognitiivselt ankurdame end ebasobiva või eksliku kolmanda kategooria külge, võime sattuda järk-järgult pea ees närusesse ja inimkonnale tülikasse ummikusse.

Mõtleme selle välja ja teeme seda tulihingeliselt. Äkilisi liigutusi pole vaja. Ei tööta ka lollijooga istumine. Mõõdetud ja stabiilset kurssi tuleks jätkata.

Kannatlikkus on kibe, kuid selle vili on magus, nii kuulutas Aristoteles.