AI raputus, kui silmapaistev tehisintellekti guru pakub välja meelepainduvad "surelikud arvutid", mis võtavad arvesse ka tehisintellekti eetikat ja AI seadust

Siin on midagi, mille üle te ilmselt veel ei mõelnud: Surelikud arvutid.

Aga võib-olla peaksite olema.

Põnev teema kerkis päevakorda hiljutisel ja üldiselt üsna silmapaistval tehisintellekti käsitleval aastakonverentsil, mis keskendub eriti närvivõrkude ja masinõppe tulekule, nimelt närviinfotöötlussüsteemide konverentsil (siseringi poolt tuntud kui NeurIPS). Kutsutud peaesineja ja hinnatud kauaaegne AI-guru Geoffrey Hinton esitas intrigeeriva ja võib-olla vastuolulise väite, et peaksime mõtlema arvutitele surelikus ja surematus kontekstis.

Ma käsitlen tähelepanuväärset väidet ja teen seda kahel viisil, mis esmapilgul ei pruugi tunduda olevat seotud, kuigi pärast pisut täiendavat selgitamist saavad nad omavahel selgemalt seotud sureliku ja surematu vaidluste osas.

Need kaks teemat on järgmised:

1) AI mehhaniseerimise riist- ja tarkvara terviklik sidumine, selle asemel, et need oleksid eraldiseisvad ja eraldiseisvad liitlased

2) masinõppevormide ülekandmine või destilleerimine ühelt tehisintellekti mudelilt teisele, ilma et oleks vaja ega ilmtingimata soovi (või isegi muul viisil võimalik) otsest tõupuhtat kopeerimist.

Sellel kõigel on AI ja tehisintellekti arendamise tulevase suuna jaoks suured kaalutlused.

Lisaks on esile kerkinud hulk väga keerulisi tehisintellekti eetika ja AI seadustega seotud probleeme. Seda tüüpi tehisintellektiga ette nähtud tehnoloogilised edusammud tehakse tavaliselt puhtalt tehnoloogilisel alusel juba ammu enne, kui saadakse aru, et sellel võib olla ka märkimisväärne mõju eetilisele tehisintellektile ja tehisintellekti seadustele. Mõnes mõttes on kass tavaliselt juba kotist väljas või hobune laudast väljas, enne ärkamist, et tehisintellekti eetika ja tehisintellekti seadus tuleks läbi vaadata.

Noh, katkestame selle hilinenud järelmõtlemise tsükli ja astume sellele korrusele.

Neile teist, kes on üldiselt huvitatud tehisintellekti eetika ja tehisintellekti seaduse aluseks olevatest uusimatest arusaamadest, võite leida informatiivset ja inspireerivalt kaasahaaravat minu jätkuvat ja ulatuslikku kajastust aadressilt link siin ja link siin, Ainult mõned nimed.

Esmalt käsitlen siin ülaltoodud punkti riist- ja tarkvara sidumise kohta. Arutelu ja teema analüüs toimub käsikäes. Järgmisena puudutan kopeerimise või mõne väite küsimust destilleerimine masinõppe tehisintellektisüsteemi olulised elemendid ühest tehisintellektist äsja väljatöötatud tehisintellekti sihtmärgiks.

Alustame.

Riist- ja tarkvara sidumine tehisintellekti jaoks

Ilmselt teate, et suures plaanis on arvutite disain selline, et asjadel on riistvaraline pool ja eraldi tarkvaraline pool. Kui ostate igapäevase sülearvuti või lauaarvuti, tõlgendatakse seda üldotstarbelise arvutiseadmena. Arvuti sees on mikroprotsessorid, mida kasutatakse tarkvara käivitamiseks ja käivitamiseks, mida võite ise osta või kirjutada.

Ilma arvuti jaoks mõeldud tarkvarata on see metallist ja plastist käntsakas, mis ei tee teile põhimõtteliselt suurt kasu, kui paberiraskusena toimimine. Mõni ütleks, et tarkvara on kuningas ja valitseb maailma. Muidugi, kui teil pole tarkvara käitamiseks riistvara, pole tarkvarast palju kasu. Saate kirjutada nii palju koodiridu, kui süda ihkab, kuid seni, kuni tarkvara arvuti kaudu ei kasutata, on sõnastatud lähtekood sama õhuke ja lennuvõimetu kui kaunis luuleteos või põnevust vältav detektiiviromaan.

Lubage mul hetkeks lülituda teisele teele, mis võib tunduda kaugel (seda ei saa).

Püüame sageli tuua analooge selle vahel, kuidas arvutid töötavad ja kuidas inimaju töötab. See katse luua kontseptuaalseid paralleele on mugav. Nagu öeldud, peate olema nende analoogiatega liiale minnes ettevaatlik, kuna võrdlused kipuvad katkema, kui jõuate lihavatele detailidele lähemale.

Igatahes, arutelu huvides, siin on sageli kasutatud analoogia.

Aju ennast nimetatakse mõnikord mitteametlikult märgnõud. See on meeldejääv viis asjade sõnastamiseks. Teame, et arvutid koosnevad riist- ja tarkvarast, seega on nutikas kasutada mündi "nõu" osa, et kirjeldada, mida aju endast kujutab. Võimas ja salapärane aju hõljub meie nööpides, arvutades vaimselt kõiki meie tegusid (mõned head, samas kui mõned meie mõtted pole kindlasti headusega täidetud).

Keskmiselt vaid kolme naela kaaluga aju on tähelepanuväärne organ. Kuidagi ja me ei tea veel, kuidas, on aju võimeline kasutama seda suurusjärgus 100 miljardit neuronit ja võib-olla 100 kuni 1,000 triljonit omavahelist ühendust või sünapsi, et teha kogu meie mõtlemine meie eest. Kuidas aju bioloogilised ja keemilised omadused loovad intelligentsuse? Keegi ei saa kindlalt öelda. See on aegade otsimine.

Ma küsin teilt seda, kas aju on näiliselt ainult riistvaraline või on see nii riistvara kui ka tarkvara kombineeritud?

Nuudel selle ajumängu peale.

Teil võib tekkida kiusatus väita, et aju on lihtsalt riistvara (üldises mõttes). See on keha organ. Samamoodi võite öelda, et süda on riistvaraline, põis on riistvara ja nii edasi. Need kõik on mehhaniseerimisega sarnased, kui me räägime esemetest, millel on füüsiline vorm ja mis teevad füüsiliselt seotud toiminguid.

Kus on siis inimesi käivitav tarkvara?

Julgen arvata, et me kõik nõustume, et inimkonna "tarkvara" asub kuidagi ajus. Muna keetmiseks või purunenud rehvi parandamiseks vajalikud sammud on juhised, mis kehastuvad meie ajus. Kasutades seda varasemat arvuti- ja riistvara- ja tarkvara analoogiat, on meie aju justkui riistvara, mille jaoks me õpime maailma tundma ning juhised selle kohta, mida teha, "töötavad" ja "salvestuvad" meie ajus.

Arvuti puhul võime hõlpsasti osutada riistvarale ja öelda, et see on riistvara. Meil võib olla lähtekoodi loend ja osutada loendile tarkvarana. Tänapäeval laadime tarkvara elektrooniliselt alla ja installime selle oma sülearvutitesse ja nutitelefonidesse. Vanasti kasutasime oma tarkvara salvestamiseks arvuti riistvarasse laadimiseks diskette ja perfokaarte.

Viin teid tähtsasse mõistatusse.

Kui olete midagi õppinud ja teadmised teie ajus olemas, kas saate ikkagi eristada oma aju "riistvara" ja aju oletatavat "tarkvara"?

Üks väidetav seisukoht on, et teie aju teadmised ei ole riist- ja tarkvara kontseptsioonidest eriti eraldatavad. Niisugune analoogia arvutite olemusega katkeb, vaidleksid mõned ägedalt. Ajus olevad teadmised on teie aju riistvaraga läbi põimunud ja sellest lahutamatud. Bioloogilised ja keemilised omadused põimuvad teadmised, mis teil vaimselt on.

Hautage seda veidi vaimseks järelemõtlemiseks.

Kui loodame kunagi välja töötada arvuteid, mis on inimese intelligentsusega võrdväärsed või isegi ületavad inimese intelligentsust, saame võib-olla kasutada aju struktuure ja selle sisemist tööd juhisena selle kohta, mida sellise kõrge eesmärgi saavutamiseks tegema peame. Mõned AI valdkonna esindajad usuvad, et mida rohkem me aju toimimisest teame, seda paremad on meie võimalused luua tõeline tehisintellekt, mida mõnikord nimetatakse ka tehisintellektiks (AGI).

Teised tehisintellektiga töötajad on vähem vaimustunud sellest, et nad peavad teadma, kuidas aju töötab. Nad rõhutavad, et suudame tehisintellekti loomisega kiiresti edasi liikuda, hoolimata sellest, kas suudame avada aju salajase sisemise töö. Ärge laske aju saladustel meie tehisintellekti jõupingutusi takistada. Muidugi, püüdke inimaju dekodeerida ja dešifreerida, kuid me ei saa istuda ja oodata, kuni aju pöördprojekteeritakse. Kui see on ühel päeval teostatav, on see suurepärane uudis, kuigi võib-olla on see võimatu või juhtub see mõne aja pärast.

Olen nüüd valmis teiega jagama surelike ja surematute arvutivaidlust. Palun veenduge, et istuksite maha ja oleksite suureks paljastamiseks valmis.

Arvutit, mille riistvara ja tarkvara on selgelt eraldatud, võib pidada "surematuks", kuna riistvara võib püsida igavesti (muidugi piirides), samas kui tarkvara saab ikka ja jälle kirjutada ja ümber kirjutada. Saate tavalist arvutit töös hoida nii kaua, kuni saate riistvara remontida ja hoida seadet töövõimelisena. Hoolimata sellest, et need on peaaegu viiskümmend aastat vanad, saate endiselt kasutada 1970. aastatest pärit toores koduarvuteid, mida kasutati kokkupanemiseks komplektidena. arvutiaastad).

Oletame siiski, et otsustasime teha arvutid, mille riist- ja tarkvara töötavad lahutamatult (räägin sellest lähemalt varsti). Mõelge sellele samale alusele, mida varem mainisin, et ajus võib olla riist- ja tarkvara lahutamatu koostis. Kui see nii oleks, võiks arvata, et selle moodi arvuti poleks enam surematu. Selle asemel tõlgendataks seda kui "surelikku".

Vastavalt NeurIPS-i konverentsil kutsutud peaesineja ja tähelepanuväärse AI-guru Geoffrey Hintoni märkustele ning nagu on öeldud tema kaasasolevas uurimistöös:

• „Üldotstarbelised digitaalarvutid loodi nii, et see järgib truult juhiseid, sest eeldati, et ainus viis üldotstarbelise arvuti konkreetse ülesande täitmiseks saamiseks on kirjutada programm, mis kirjeldab täpselt, mida teha piinavalt üksikasjalikult. See ei vasta enam tõele, kuid teadlaskond on olnud aeglane mõistmaks sügava õppimise pikaajalisi mõjusid arvutite ehitamisele. Täpsemalt on kogukond kinni pidanud ideest, et tarkvara peaks olema riistvarast eraldatav, et sama programmi või sama kaalukomplekti saaks käitada riistvara erineval füüsilisel koopial. See muudab programmis sisalduvad teadmised surematuks või kaalud surematuks: teadmised ei sure, kui riistvara sureb” (nagu sisaldub ja tsiteeritakse tema uurimistöös “Edasi-edasi algoritm: Mõned eeluuringud”, eeltrükk on saadaval veebis) .

Pange tähele, et seda tüüpi tehisintellekti puhul käsitletav konkreetne andmetöötlus kasutab tehisnärvivõrke (ANN).

Teeme selle asja selgeks.

Meie ajus on reaalse maailma bioloogilised neuronid. Sa kasutad neid kogu aeg. Need on bioloogiliselt ja keemiliselt omavahel ühendatud võrku, mis asub teie noogikus. Seega võime sellele viidata kui a Närvivõrgus.

Ütleme, et mujal on võltsitud neuroneid, mida me arvutuslikult kujutame arvutites tehisintellekti väljatöötamiseks. Paljud AI inimesed nimetavad neid ka närvivõrkudeks. Usun, et see on mõnevõrra segane. Näete, ma eelistan neid nimetada kunstlik närvivõrgud. See aitab kohe eristada viidet peas olevale närvivõrgud (nagu päris asi) ja arvutipõhiseid (kunstlik närvivõrgud).

Mitte igaüks ei võta seda seisukohta. Paljud AI-s olevad inimesed lihtsalt eeldavad, et kõik teised AI-s "teavad", et närvivõrkudele viidates räägivad nad peaaegu alati ANN-idest – välja arvatud juhul, kui tekib olukord, kus nad tahavad mingil põhjusel arutada tõelisi neuroneid ja tõelisi närvivõrke. aju.

Usun, et sa saad mu triivist aru. Enamasti ütlevad tehisintellekti inimesed "närvivõrgud", mis on potentsiaalselt mitmetähenduslik, sest te ei tea, kas need viitavad tegelikele meie peas olevatele või arvutuslikele võrkudele, mille me arvutitesse programmeerime. Kuid kuna tehisintellektiga inimesed tegelevad üldiselt arvutipõhiste eksemplaridega, eeldavad nad vaikimisi, et viitate tehisnärvivõrkudele. Mulle meeldib lisada sõnastuse esiotsa sõna "kunstlik", et kavatsused oleksid selgemad.

Edasi liikudes võite neid arvutuslikke tehisneuroneid mõnevõrra pidada matemaatiliseks või arvutuslikuks simulatsiooniks selle kohta, mida meie arvates tegelikud biokeemilised füüsikalised neuronid teevad, näiteks kasutada arvulisi väärtusi kaaluteguritena, mis muidu ajus biokeemiliselt toimuvad. Tänapäeval pole need simulatsioonid sugugi nii keerulised kui päris neuronid. Praegused ANN-id on äärmiselt toores matemaatiline ja arvutuslik esitus.

Üldiselt on ANN-id sageli masinõppe (ML) ja süvaõppe (DL) põhielemendid – pidage meeles, et selles on palju rohkem üksikasju ja soovitan teil tungivalt vaadata minu ulatuslikku ML/DL-i katvust. juures link siin ja link siin, Nt.

Tulles tagasi surematute ja surelike arvutitüüpide juurde, on uurija jaoks rohkem tähelepanu pööratav:

• "Tarkvara eraldamine riistvarast on arvutiteaduse üks alustalasid ja sellel on palju eeliseid. See võimaldab uurida programmide omadusi, muretsemata elektrotehnika pärast. See võimaldab kirjutada programmi ühe korra ja kopeerib selle miljonitesse arvutitesse. Kui aga oleme valmis surematusest loobuma, peaks olema võimalik saavutada tohutut kokkuhoidu arvutuste tegemiseks vajaliku energia ja arvutusi teostava riistvara valmistamise kulude osas. Võime lubada suuri ja tundmatuid variatsioone erinevate riistvarajuhtumite ühenduvuses ja mittelineaarsuses, mis on ette nähtud sama ülesande täitmiseks, ning tugineda õppeprotseduurile, et avastada parameetriväärtusi, mis kasutavad tõhusalt ära iga konkreetse eksemplari tundmatuid omadusi. riistvara. Need parameetrite väärtused on kasulikud ainult selle konkreetse riistvaraeksemplari jaoks, seega on nende teostatav arvutus surmav: see sureb koos riistvaraga” (ibid).

Nüüd on teile tutvustatud, kuidas selles kontekstis kasutatakse surematut ja surelikku.

Lubage mul täpsustada.

Ettepanek on see, et arvuti, mis on spetsiaalselt loodud ANN-ide põhjal, võiks olla välja töötatud nii, et riist- ja tarkvara peetakse lahutamatuks. Kui riistvara ühel päeval enam ei tööta (mis muidugi ühendab tarkvara), pole seda tüüpi arvuti näiliselt enam kasulik ja ei tööta enam. Väidetavalt on see surelik. Sama hästi võite ANN-põhise arvuti maha matta, kuna see ei too teile edaspidi palju kasu, kuna lahutamatu riist- ja tarkvara ei tööta enam meeskonnana.

Kui soovite proovida seda seostada inimaju analoogiaga, võite ette kujutada inimaju kurba olukorda, mis halveneb täielikult või on kuidagi pöördumatult kahjustatud. Me aktsepteerime arusaama, et inimene on surelik ja tema aju lakkab lõpuks ja paratamatult töötamast. Teadmised, mida nad oma ajus sisaldasid, pole enam kättesaadavad. Kui nad ei juhtunud proovima teistele rääkida või kirja panema seda, mida nad teadsid, lähevad nende teadmised laiemale maailmale.

Olete kahtlemata kuulnud või näinud teateid aju säilitamise katsetest, näiteks külmutamisest, lähtudes teooriast, mille kohaselt võivad inimesed kunagi olla surematud või vähemalt ületada oma tavapärase eluea. Teie aju võib elada, isegi kui mitte teie kehas. Paljudes ulmefilmides ja lugudes on selliste ideede üle spekuleeritud.

Oleme nüüd valmis üksikasjalikuks ülevaateks sureliku arvuti ja surematu arvuti kui mõiste ja selle kohta, mida see ennustab.

Tähelepanelik arutelu ja kaalutletud analüüs

Enne postuleeritud lähenemisviisi analüüsi põhjalikku sukeldumist tasub mainida mõnda olulist hoiatust ja lisapunkti.

Teadlane rõhutas, et väljamõeldud surelikud arvutid ei asendaks seda eriti ega lükkaks selle olemasolust välja surematud arvutid mida me tänapäeval nimetame tavapärasteks digitaalarvutiteks. Oleks mõlemat tüüpi arvutite kooseksisteerimine. Ma ütlen seda, sest mõned on reageerinud sellele, et korrale kutsumine oli üldine väide kõik hädavajalikud arvutid on või hakkavad liikuma sureliku tüübi poole.

Seda ei väidetud.

Oma kõne ajal mainis ta, et need on spetsialiseerunud neuromorfsele orienteeritud arvutid teeksid arvutustööd, mida tuntakse surelikud arvutused: "Teeme seda, mida ma nimetan surelikuks arvutamiseks, kus süsteemi õpitud teadmised ja riistvara on lahutamatud" (nagu on tsiteeritud Tiernan Ray ZDNETi artiklis 1. detsembril 2022).

Ja eriti: "See ei asenda digitaalseid arvuteid" (ibid).

Samuti ei ole neid uut tüüpi arvuteid kindlasti peagi teie kohalikus arvutipoes saadaval ega kohe veebis ostmiseks saadaval, nagu tema esitluses ütles: "Ma arvan, et me näeme täiesti erinevat tüüpi arvutiid. arvutit, mitte mõneks aastaks, kuid selle täiesti erineva arvutitüübi uurimiseks on igati põhjust. Kasutusviisid on samuti erinevad: "Teie pangakonto eest ei vastuta arvuti ja teab täpselt, kui palju teil raha on."

Täiendav keerdkäik on see, et näiliselt kasvatataks surelikke arvuteid, mitte ei valmistataks neid nagu praegu arvutiprotsessorite ja arvutikiipide tootmiseks.

Kasvuprotsessi käigus suureneb sureliku arvuti võimekus arvutusliku küpsemise stiilis. Seega võib antud surelik arvuti alustada peaaegu igasuguste võimalustega ja küpseda selleks, milleks ta kavatseti saada. Oletame näiteks, et tahame surelike arvutite abil luua mobiiltelefone. Alustaksite sureliku arvuti lihtsast variandist, mis on algselt selleks otstarbeks kujundatud või külvatud. Seejärel küpseks see täiustatud versiooniks, mida otsisite. Lühidalt: "Asendaksite selle iga mobiiltelefoniga, mis peaks algama beebi mobiiltelefonina ja see peaks õppima, kuidas olla mobiiltelefon."

Ühel tema põhislaidil surelikkuse arvutamise kohta kirjeldati eeliseid järgmiselt: „Kui me loobume surematusest ja nõustume, et teadmised on lahutamatud konkreetse riistvara täpsetest füüsilistest detailidest, saame kaks suurt eelist: (1) Saame kasutada väga väikese võimsusega analoogarvutusi, (2) saame kasvatada riistvara, mille täpne ühenduvus ja analoogkäitumine on teadmata.

Osa samast kõnest ja ka tema trükieelses uurimistöös on pakutud tehnika ANN-ide paremaks väljatöötamiseks, millele ta viitab kui edasi-edasi võrgustikutöö. Mõned teist, kes on kursis ANN-idega, on kahtlemata juba üsna teadlikud backpropagation või back-prop kasutamisest. Võiksite heita pilgu tema pakutud edasi-edasi tehnikale. Ma käsitlen seda põnevat lähenemist tulevases veerupostituses, nii et olge valvsad, et ma seda teemat peatselt kajastan.

Käikude vahetamine, mõelgem sellele, mida tehisintellekti kogukonna koridorides ja möödakäikudes selle jõhkra kohta räägitakse surelik arvuti mahhinatsioon.

Alustame sellest, mida mõned ütlevad, et see ei ole selle teema algusest peale.

Oled sa valmis?

Lõpetage selle asja a-ks nimetamine surmav arvutisse.

Samuti lõpetage kuulutamine, et tänapäeva tavalised arvutid on surematu.

Mõlemad kasutusviisid on lihtsalt valed ja eksitavad, manitsevad skeptikud.

Igapäevane sõnastikumääratlus selle kohta, mis on surematu, koosneb millestki, mis ei saa surra. See elab igavesti. Et mitte surra, pead arvatavasti ütlema, et asi ise on elus. Te kõnnite valel teel, et väita, et tänapäeva arvutid on elus. Ükski mõistlik inimene ei omistaks kaasaegsetele arvutitele heauskseid "elusaid" omadusi. Need on masinad. Need on asjad. Nad ei ole inimesed, loomad ega elamistingimused.

Kui soovite laiendada surematu määratlust, lubades, et me viitame ka elututele olenditele, siis sel juhul ei pea elutu olend näiliselt kunagi lagunema ega saa paratamatult tolmuks laguneda. Kas saate tänapäeva arvutite kohta sellise väite esitada? See tundub väljavenitatud (kõrvalmärkus: me võiksime muidugi sattuda suurejoonelisse filosoofilisse diskussiooni mateeria ja eksistentsi olemuse üle, kuid ärme siinkohal laskume).

Sisu on selles, et sõnade "surelik" ja "surematu" kasutamine või mõne arvates väärkasutamine on veider ja põhjendamatu. Üldkasutatava rahvakeele võtmine ja selle muul otstarbel taaskasutamine tekitab segadust ja muudab vee häguseks. Peate olema valmis ilmselt ümber mõtestama, mida surelik ja surematu selles konkreetses kontekstis tähendavad. See muutub problemaatiliseks.

Veelgi häirivam on see, et need sõnavalikud kipuvad arvutiaspekte antropomorfiseerima.

Antropomorfiseerimisega tehisintellektiga seotud probleeme on juba rohkem kui piisavalt, kindlasti ei pea me selliseid võimalusi rohkem välja mõtlema. Nagu ma olen oma tehisintellekti eetikat ja eetilist tehisintellekti käsitlevas ülevaates põhjalikult käsitlenud, on olemas kõikvõimalikud metsikud viisid, kuidas inimesed omistavad arvutitele tundlikkust. See omakorda eksitab inimesi ekslikult uskuma, et tehisintellektil põhinevad arvutid suudavad mõelda ja käituda nagu inimesed. See on libe ohuteel, kui ühiskond hakkab ujuma, et tänapäeva tehisintellekt ja andmetöötlus on võrdsed inimkonna intellekti ja terve mõistusega, vt näiteks minu analüüsi link siin ja link siin.

Olgu, me võime ebamugavad sõnastusvalikud tagasi lükata või neid põlata, aga kas see viitab sellele, et peaksime lapse vanniveega välja viskama (vana väljend, tõenäoliselt pensionile jäämas)?

Mõned väidavad, et võib-olla leiame selle üldise lähenemisviisi või kontseptsiooni jaoks parema sõnastuse. Loobuge sõnadest "surelik" ja "surematu", et ülejäänud ideid ei rikuks sobimatu või ebaõige kasutamine. Samal ajal on vastuargumente selle kohta, et nende sõnavalikute kasutamine on täiesti vastuvõetav, kas seetõttu, et need on sobivad või kuna me ei tohiks olla sõnade taaskasutamise osas paindumatud. Nad kinnitavad, et roos on mis tahes muu nimega roos.

Edaspidise terava arutelu vältimiseks väldin ma edaspidi sõnade "surelik" ja "surematu" kasutamist ning ütlen vaid, et meil on kaks peamist tüüpi arvuteid, millest üks on tänapäeva tavapärane digitaalne arvuti ja muu on ettepanek neuromorfne arvutisse.

Näib, et suremuse mõistatust pole vaja sellesse tirida. Hoidke taevas selgena, et näha, mida me käsilolevast asjast veel teha saame.

Sel juhul väidavad mõned, et väljapakutud idee neuromorfsest arvutist pole midagi uut.

Saate jälgida AI varasemaid päevi, eriti kui ANN-e algselt uuriti, ja näha, et räägiti spetsiaalsete arvutite väljatöötamisest tehisnärvivõrkude töö tegemiseks. Pakuti välja igasugu uut riistvara. Seda esineb siiani. Muidugi võite väita, et suurem osa tänapäevastest ANN-ide ja masinõppe jaoks mõeldud spetsiaalse riistvara uurimisest põhineb endiselt tavapärasel lähenemisel andmetöötlusele. Selles mõttes lükkab see riist- ja tarkvara analoogne lahutamatus mõnevõrra ümbrikusse ja väide arvutit "kasvatada" teeb seda ka, vähemalt mis puudutab vaadeldavast peavoolust välja minekut.

Lühidalt öeldes on mõned, kes on nendest asjadest täiesti läbi imbunud, ja on üllatunud, et keegi teine ​​võib avaldatud ettepanekutest üllatuda. Need arusaamad on kas samad, mis varem või kajastavad seda, mida erinevates uurimislaborites juba uuritakse.

Nad ütlevad, et ärge ajage oma juukseid sassi.

See viib meid teise aspekti juurde, mis on paljude jaoks häiriv.

Ühesõnaga: Ettenähtavus.

Tänapäeva arvuteid peetakse üldiselt etteaimatavaks. Saate heita pilgu riist- ja tarkvarale, et aru saada, mida arvuti tegema hakkab. Samuti saate jälgida, mida arvuti on juba teinud, et mõista, miks ta seda kõike tegi. Selle tegemisel on muidugi piirid, seega ei taha ma ennustatavust üle tähtsustada, kuid ma arvan, et üldiselt saate ideest aru.

Võib-olla olete teadlik, et üks keerukamaid probleeme, millega tehisintellekt tänapäeval silmitsi seisab, on see, et mõni tehisintellekt on loodud isereguleeruvana. AI, mille arendajad kasutusele võtavad, võib selle kasutamise ajal ise muutuda. Tehisintellekti eetika valdkonnas on arvukalt näiteid kasutusele võetud tehisintellektist, millel algul ei olnud põhjendamatuid eelarvamusi ega diskrimineerivaid kalduvusi, mis siis järk-järgult muutusid tehisintellekti tootmise ajal arvutuslikult isemuteerudes, vt minu üksikasjalikud hinnangud aadressil link siin.

Mure seisneb selles, et me oleme juba jõudmas AI-sse, mis ei ole tingimata etteaimatav.

Oletame, et relvasüsteemide tehisintellekt läbib iseregulatsiooni ja tulemuseks on see, et AI relvastab ja laseb välja surmava relvastuse sihtmärkidel ja aegadel, mida pole oodata. Inimesed ei pruugi AI-d peatada. Inimesed, kes on ahelas, ei pruugi olla võimelised piisavalt kiiresti reageerima, et tehisintellekti toimingutest mööduda. Täiendavaid jahutavaid näiteid leiate minu analüüsist aadressil link siin.

Neuromorfsete arvutite puhul on mureks see, et me muudame steroididele ettearvamatuse. Algusest peale võib neuromorfse arvuti olemus seisneda selles, et see töötab viisil, mis eirab ennustamist. Me uhkeldame ettearvamatusega. Sellest saab aumärk.

On kaks laagrit.

Üks laager ütleb, et me saame elada ebameeldivate ettearvamatusega seotud probleemidega, tehes selleks piirded, et tehisintellekt ei läheks liiga kaugele. Teine leer väidab, et te viite maailma ohtlikule teele. Tuleb päev, mil väidetavad kaitsepiirded kas ebaõnnestuvad või ei ole piisavalt ranged või kui kogemata või kurja kavatsusega kaitsepiirded eemaldatakse või nendega hakatakse askeldama.

Kas me peaksime neuromorfsete arvutite ja etteaimatavuse suhtes kahtluse alla tõmbama?

Uurija märkuste kohaselt: "Analoogarvutustest huvitatud inimeste seas on väga vähe neid, kes on valmis surematusest loobuma." Lisaks: "Kui soovite, et teie analoogriistvara teeks iga kord sama asja, on teil tõsine probleem nende elektriliste asjade ja asjadega."

Ma tõstan selle üles.

Tekkiv ja mõneti sünge perspektiiv on see, et tänapäeva digiarvutitega seostatav nn etteaimatavus läheb nagunii ettearvamatuse suunas. Nagu mainitud, võib see juhtuda eelkõige AI puhul, mis tavapärastel arvutiplatvormidel isereguleerub. See, et neuromorfsed arvutid võivad näiliselt olla ettearvamatud, ei ole märk sellest, et tavapärased digitaalarvutid on tegelikult etteaimatavad.

Ettearvamatuse aururull läheneb meile täie auruga, olenemata sellest, millist arvutusplatvormi soovite valida. Minu hinnangut viimaste jõupingutuste kohta AI-ohutuse saavutamiseks selles valguses vt link siin.

See ettearvatavusega seotud keerdkäik peaks panema teie mõtted mõtlema millegi avamata olemusega. Need teist, kes on seotud AI eetika ja AI seadustega, võivad mitte on kaalunud selle tagajärgi neuromorfsed arvutid.

Tõenäoliselt olete püüdnud tavalisi digitaalarvuteid, mis käitavad AI-d. Noh, arvake ära, teil on täiesti täiendav ja arenev tehisintellekti andmetöötluse segment, mille pärast saate nüüd öösel muretseda. Jah, neuromorfsed arvutid. Pange see oma ülesannete nimekirja.

Vabandust, rohkem unetuid öid teile.

Vaatleme lühidalt, mida AI Ethics ja AI Law on teinud tavapärase digitaalse andmetöötluse ja tehisintellektiga.

Eelmistes veergudes olen käsitlenud erinevaid riiklikke ja rahvusvahelisi jõupingutusi tehisintellekti reguleerivate seaduste koostamiseks ja jõustamiseks, vt. link siin, näiteks. Olen käsitlenud ka erinevaid tehisintellekti eetika põhimõtteid ja juhiseid, mida erinevad riigid on tuvastanud ja vastu võtnud, sealhulgas näiteks ÜRO jõupingutusi, nagu UNESCO tehisintellekti eetika kogum, mille on kasutusele võtnud peaaegu 200 riiki, vt. link siin.

Siin on kasulik AI-süsteemide eetiliste kriteeriumide või omaduste nurgakivi loend, mida olen varem põhjalikult uurinud:

• läbipaistvus
• Õiglus ja õiglus
• Mittepahatahtlikkus
• Vastutus looduse ees
• Privaatsus
• Kasulikkus
• Vabadus ja autonoomia
• Usalda
• Jätkusuutlikkus
• Väärikus
• Solidaarsus

Tehisintellekti arendajad peaksid tõsiselt kasutama neid tehisintellekti eetika põhimõtteid koos nendega, kes juhivad tehisintellekti arendamise jõupingutusi, ja isegi neid, kes lõpuks AI-süsteeme kasutavad ja hooldavad.

Kõiki sidusrühmi kogu tehisintellekti arendamise ja kasutamise elutsükli jooksul arvestatakse eetilise tehisintellekti väljakujunenud normide järgimise raames. See on oluline esiletõst, kuna tavapärane eeldus on, et tehisintellekti eetika põhimõtetest peavad kinni pidama ainult kodeerijad või need, kes programmeerivad tehisintellekti. Nagu siin eelnevalt rõhutatud, on AI väljatöötamiseks ja kasutuselevõtuks vaja küla, mille jaoks kogu küla peab olema kursis tehisintellekti eetika ettekirjutustega ja järgima neid.

Osa sellest, millele te poleks võib-olla varem palju mõelnud, on see, kuidas need samad tehisintellekti eetika ettekirjutused ja üha kasvav uute tehisintellekti seaduste loend neuromorfsete arvutite suhtes rakenduvad. Täpsustuseks tuleb öelda, et tehisintellekti eetika ja tehisintellekti seadus peavad seda sõnaselgelt arvesse võtma. Juhin tähelepanu asjaolule, et vähesed seda teevad, ja tuleb meeles pidada, et on olemas suur tõenäosus, et neuromorfsete arvutite tulek paneb paljud AI-s valitsema uue mõõtme osas silmusesse.

Peame kaaluma eetilist tehisintellekti ja tehisintellekti seadusi piisavalt laialdaselt, et hõlmata äsja loodud tehisintellekti, sealhulgas neuromorfseid arvuteid.

Kiigu alternatiiviks on klassikaline kassi-hiire gambiit. Siin on, kuidas see käib. Mõeldakse välja ja luuakse uusi viise tehisintellekti loomiseks. Olemasolevad tehisintellekti eetika ja AI seadused on tähelepanuta jäänud ning need ei hõlma täielikult uusimaid tehisintellekti segadusi. Tehakse kiirustavaid jõupingutusi, et ajakohastada eetilisi tehisintellekti eeskirju ja muuta neid äsja loodud tehisintellekti seadusi.

Vahusta, loputa, korda.

Meil kõigil oleks parem jääda mängust ette, mitte jääda kaheksa palli taha kinni.

Järeldus

Olen teid natuke reisile viinud.

Alguses pakkusin, et tuleb uurida kahte peamist teemat:

1) AI mehhaniseerimise riist- ja tarkvara terviklik sidumine, selle asemel, et need oleksid eraldiseisvad ja eraldiseisvad liitlased

2) masinõppevormide ülekandmine või destilleerimine ühelt tehisintellekti mudelilt teisele, ilma et oleks vaja ega ilmtingimata soovi (või isegi muul viisil võimalik) otsest tõupuhtat kopeerimist.

Esimene teema riist- ja tarkvara sidumise kohta on olnud suurem osa sellest teekonnast. See viis meid surelike versus surematute andmetöötluse mättasse. Sealhulgas olid mõned olulised tehisintellekti eetika ja tehisintellekti seadusega seotud kaalutlused, mida muidu tavaliselt ei tõstataks, kuna mõned peavad seda tüüpi arvutiga seotud teemat tavaliselt puhtalt tehnoloogiliseks, selle asemel, et see kujutaks endast mingit ühiskondlikku mõju.

Ma ütlen, et eetilise tehisintellekti ja tehisintellekti seaduse tutvustamisel on kõige targem olla varem ja turvalisem, mitte hiljem ja halvemas olukorras.

Teine teema, mida ma pole siin veel sõnastanud, on sisuliselt seotud esimese teemaga.

Siin on asi.

Oletame, et meil on "surelik arvuti" ja me tahame säilitada selle võimalused, et meil oleks AI-s sisalduva varukoopia või näiliselt koopiad. Võime olla mures, et konkreetne surelik arvuti hakkab oma lõpule jõudma. Jah, me sõltume sellest. Mida me tegema peame? Üks vastus on, et me peaksime kopeerima neetud asja.

Kuid visandatava neuromorfse arvuti kopeerimine on raskem, kui esmapilgul võib tunduda. Asjad võivad keeruliseks minna.

Võib-olla peaksime välja pakkuma kopeerimistriki, mis oleks üldistatav ja rakendatav masinõppe ja tehisnärvivõrkude puhul. Soovime, et see toimiks suuremahuliste ja äärmiselt suuremahuliste juhtumite puhul. Samuti oleksime nõus, et koopia ei oleks täpne duplikaat, vaid võiks olla sisuliselt samaväärne või võib-olla isegi paremini välja töötatud kopeerimistoimingu tulemusena.

Tehnika, mida tuntakse kui destilleerimine on välja pakutud.

Mul on tänase veeru jaoks ruum otsas, seega võtan selle teise teema üleval tulevases veerus. Arvasin, et tahaksite kohe teada saada seose selle teise teema ja esimese teema vahel, mida siin põhjalikult käsitleti. Mõelge sellele kui lisamärkusele, mis on tiiser või treiler sellest, mis järgmiseks tuleb.

Jääge oma istme servale, sest destilleerimise teema on päris hea silmapaistev.

Nagu Batman tavatses öelda, hoidke oma nahkhiire tiivad ristis ja olge valmis samaks nahkhiire- ja nahkhiirekanaliks, et lahendada piinav küsimus, kuidas kopeerida ANN-i või masinõppe mudelit või neuromorfset arvutit teise.

Hetkel viimane märkus. Filmis on kuulus joon Pimeduse rüütel naaseb milles meie kuubiga ristisõdija ütleb: "Maailm on mõttekas ainult siis, kui sa seda sundida." Püüan sellest ideaalist kinni pidada, kui käsitlen teist tehisintellektiga seotud destilleerimise teemat.

Olge kursis selle põneva ja kaasahaarava topeltpäise 2. osaga.