AI algoritmide reguleerimise põhjused on lihtsamad, kui arvate

Kas kardate, et tehisintellekt võtab maailma üle? Paljud teevad. Elon Muskilt, kes muretseb DeepMind võidab inimesi täiustatud mängus Go 2017. aastal kongressi liikmetele, Euroopa poliitikakujundajatele (vt Euroopa lähenemine tehisintellektile) ja akadeemikud, on tunne, et käesolev aastakümme on tehisintellekti tõsiselt võtmiseks, ja see hakkab jõudma. Kuid mitte põhjustel, mida võite arvata, ega ka praeguse ohu tõttu.

Siin tulevadki sisse algoritmid. Mis on algoritm, võite küsida? Lihtsaim viis seda mõelda on juhiste kogumina, mida masinad mõistavad ja millest õppida. Juba praegu saame anda masinale käsu arvutada, töödelda andmeid ja põhjendada struktureeritud, automatiseeritud viisil. Probleem on aga selles, et kui juhised on antud, järgib masin neid. Praegu on asi selles. Erinevalt inimestest järgivad masinad juhiseid. Nad ei õpi nii hästi. Kuid kui nad seda teevad, võivad need põhjustada probleeme.

Ma ei taha esitada sensatsioonilist argumenti idee üle, et arvutid ületaksid ühel päeval inimese intelligentsuse, mida tuntakse paremini kui singulaarsuse argumenti (vt NYU filosoof David Chalmersi mõtiskleb teemal.) Pigem võib tootmine olla parim näide sellest, miks AI-algoritmid hakkavad avalikkusele rohkem korda minema. Kardetakse, et masinad kiirendavad meie kulul oluliselt oma võimekust. Mitte tingimata mõne arenenud arutluse tõttu, vaid optimeerimise tõttu, mida algoritm ütleb.

Tootmine seisneb asjade valmistamises. Kuid kui masinad teevad asju, peame tähelepanu pöörama. Isegi kui masinad on lihtsad. Ma selgitan, miks.

Vihmasaabastest mobiiltelefonideni ja tagasi

Ütleme, et tehas on valmistanud vihmasaapaid. Mulle meeldivad vihmasaapad, sest kasvasin üles Norra piirkonnas, kus sajab palju vihma; Mulle meeldib olla väljas, alludes paljudele looduse elementidele. Nokia tegi vihmasaapad, millega ma üles kasvasin. Jah, Nokia, mida me täna tunneme elektroonikaettevõttena, valmistas varem kummikuid. Miks see võti on? Sest kui sa midagi juba teed, siis on määratud tahtmine teha parandusi. See on loogiline. Võib öelda, et see on inimloomus.

See, mis Nokiaga juhtus, on üldteada ja kõlab umbes nii: algselt paberivabrik, minu lapsepõlves oli kummikute (ja rehvide) tootmine ettevõtte jaoks eriti edukas. Küll aga nägid nad edasisi võimalusi. Seetõttu läksid nad mingil hetkel 1980ndatel üle elektroonikale ja muutsid kiiresti ümberringi tehaseid, luues mobiiltelefone tootma hakates suure kohalike tarnijate struktuuri. See juhatas sisse mobiilsiderevolutsiooni, mis sai alguse Skandinaaviast ja levis mujale maailma. Arusaadavalt on paljud kirjutanud Nokia loo 1990ndatel (vt Soome ime saladused: Nokia esiletõus).

Minu näide on otsekohene. Võib-olla liiga lihtne. Aga mõelge sellele nii. Kui suur ettevõte suudab kiiresti üle minna paberi valmistamiselt kirjutamisele, saabastele, mis hõlbustavad vihmaga väljas olemist, siis lõpuks mobiiltelefonidele, mis muudavad inimeste suhtlemisviisi: kui lihtne on järgmine samm? Oletame, et mobiiltelefone tootev ettevõte otsustab valmistada nanoboteid ja võib-olla hakkavad need kümne aasta pärast lendu tõusma, muutes inimkonda väikeste masinatega, mis autonoomselt igal pool ringi jooksevad, mis on võimelised inimkogemust uuesti kokku panema ja muutma. Mis siis, kui see juhtub, võtmata arvesse, kuidas me tahame, et see juhtuks, keda tahame vastutada ja lõppeesmärke?

Väide, et robotid aitasid Nokial mobiiltelefone toota teadlikult, oleks veniv. Olulist rolli mängib aga tunnistamine, et tehnoloogial oli oma roll, mis võimaldas Soome maapiirkonnal oma põhjakaldal arvata, et nad võivad uues tööstuses maailmas domineerida.

Nokia lugu pole viimase kümnendi jooksul olnud nii roosiline, kuna nad ei võtnud arvesse tarkvarapõhiste iOS-i ja Androidi operatsioonisüsteemide tekkimist. Selle tulemusena ei tooda Nokia enam telefone. Natuke tagasituleku loona valmistavad nad nüüd võrgu- ja telekommunikatsiooni infrastruktuuri, võrgu turvalahendusi, WiFi-ruutereid, nutikat valgustust ja nutitelereid (vt. Nokia tagasituleku lugu). Nokia teeb ikka asju, see on tõsi. Ainus tähelepanek on see, et Nokia näib alati nautivat oma tehtud asjade segamist. Isegi inimeste tootmisotsuseid on mõnikord raske mõista.

Tootmine tähendab asjade ja asjade arenemist. Laias laastus on see, mida me täna teeme, muutunud võrreldes vaid kümne aasta tagusega. 3D-printeritel on paljude täiustatud toodete tootmine detsentraliseeritud nii tööstuses kui ka kodus. 3D-printimise elumuutvaid tagajärgi pole veel ilmnenud. Me ei tea, kas see kestab, kuid me teame, et FDA keskendub toodete tootmise reguleerimisele (vt siin), nagu sellest tulenevad prinditud pillid või meditsiiniseadmed, ilmsed intellektuaalomandi ja vastutuse probleemid või tulirelvade printimise võimalused. Lõppkokkuvõttes on poliitiline arutelu selle üle, millised negatiivsed tagajärjed võivad 3D-printimisel olla peale selle, olematu ja vähesed meist on vaevunud sellele mõtlema.

Ma ei väida, et 3D-printimine on iseenesest ohtlik. Võib-olla on see halb näide. Sellegipoolest võivad asjad, mis esialgu tunduvad igapäevased, maailma muuta. Näiteid on palju: metallist küti/korilase nooleots, mis käivitab sõdu, rituaalsed maskid, mis kaitsevad meid COVID-19 eest, naelad, mis ehitavad pilvelõhkujaid, teisaldatavad trükipressid, mis (ikka) täidavad meie tehased trükitud paberiga ja toidavad kirjastusäri, elektripirnid, mis võimaldavad teil öösel siseruumides näha ja töötada, võiksin jätkata. Keegi, kellest ma tean, istus 1800. aastate lõpus maha ja ennustas, et Nokia viib oma tootmise paberilt kummile elektroonikale ja seejärel mobiiltelefonidest eemale. Võib-olla oleks pidanud.

Inimesed ennustavad halvasti sammude muutusi, protsessi, kus üks muutus toob kaasa rohkem muutusi, ja järsku on asjad radikaalselt erinevad. Me ei mõista seda protsessi veel, sest meil on vähe praktilisi teadmisi eksponentsiaalsete muutuste kohta; me ei saa seda ette kujutada, arvutada ega mõista. Ent ikka ja jälle tabab see meid. Pandeemiad, rahvastiku kasv, tehnoloogilised uuendused raamatute trükkimisest robootikani – see tabab meid tavaliselt ilma hoiatuseta.

Futurismi trikk pole mitte kas, vaid millal. Võib-olla on võimalik muutusi ennustada, kui valite mõned uued tootmismeetodid ja kinnitate, et need muutuvad tulevikus levinumaks. See on piisavalt lihtne. Keeruline osa on täpselt aru saada, millal ja eriti kuidas.

Kirjaklambrid pole probleemiks

Mõelge uuesti minu tehase näitele, kuid seekord kujutage ette, et masinad vastutavad paljude otsuste eest, mitte kõigi otsuste eest, vaid tootmisotsuste, näiteks optimeerimise eest. Tema raamatus Ülintelligentsus, Oxfordi ülikooli düstoopiline humanist Nick Bostrom kujutas kuulsalt ette tehisintellekti optimeerimise algoritmi, mis käitab kirjaklambrite tehast. Mingil hetkel, ütleb ta, kujutage ette, et masin põhjustab järjest kasvavate ressursside ülesandele suunamise õppimist ratsionaalseks, muutes meie maailma järk-järgult kirjaklambriteks ja seistes vastu meie katsetele see välja lülitada.

Hoolimata sellest, et Bostromi on tark mees, on Bostromi näide üsna loll ja eksitav (ometi meeldejääv). Esiteks ei suuda ta arvestada tõsiasjaga, et inimesed ja robotid ei ole enam eraldiseisvad üksused. Me suhtleme. Enamik nutikatest robotitest on arenemas kobotiteks või koostöörobotiteks. Inimestel on palju võimalusi masinat parandada. Sellegipoolest jääb tema põhipunkt alles. Mingil hetkel võib toimuda astmeline muutus ja kui see muutus toimub piisavalt kiiresti ja ilma piisava järelevalveta, võib kontroll kaduda. Kuid see äärmuslik tulemus tundub pisut kaugeleulatuv. Mõlemal juhul, ma olen nõus, peame reguleerima inimesi, kes neid masinaid käitavad, ja kohustama neid asjakohaselt koolitades, et töötajad oleksid alati kursis. Seda tüüpi treeningud ei lähe hästi. Praegu võtab see liiga kaua aega ja nii koolitamiseks kui ka koolitamiseks on vaja erioskusi. Ma tean üht asja. Tulevikus hakkavad roboteid juhtima igasugused inimesed. Need, kes seda ei tee, on üsna jõuetud.

Inimeste täiendamine on parem kui mõttetu automatiseerimine, hoolimata sellest, kas me ei sulandu kunagi täielikult masinatega. Need kaks mõistet on loogiliselt erinevad. Nii inimestel kui ka robotitel on võimalik automatiseerimise nimel jänni jääda. See kahjustaks tootmist tulevikus. Isegi kui see ei tooda tapjaroboteid. Usun, et ühinemine on sadade aastate kaugusel, kuid see pole mõte. Isegi kui see on vaid kolmekümne aasta kaugusel, juhitavuse kaotavad lihtsustatud algoritmidel töötavad iseliikuvad masinad, juhtub see stsenaarium juba töökojas. Mõned neist masinatest on kolmkümmend aastat vanad ja töötavad vanade, patenteeritud juhtimissüsteemidega. Nende peamine väljakutse pole mitte see, et nad on arenenud, vaid vastupidi. Nad on liiga lihtsakoelised, et suhelda. See ei ole homse probleem. See on juba olemasolev probleem. Peame sellele silmad avama. Mõelge sellele järgmisel korral, kui kummikutesse astute.

Mul on siiani alles oma 1980ndatest pärit Nokia saapad. Neil on auk sees, aga ma hoian neid alles, et endale meelde tuletada, kust ma pärit olen ja kui kaugele kõndinud olen. Vihma sajab ka pidevalt ja seni, kuni see on piisavalt puhas, ei taha ma sellele paremat parandust kui need saapad. Siis jälle, ma olen inimene. Arvatavasti oleks robot juba edasi liikunud. Huvitav, milline on vihmasaabaste tehisintellekti versioon. See ei ole mobiiltelefon. See ei ole vihmasensor. See ajab mõistuse segamini.

Tänapäeva digitaalsed saapad tähendavad, et saate neid isikupärastada, kuna neil on 3D-prinditud kujundus. On virtuaalseid kingi, mis eksisteerivad ainult NFT-dena (mittevahetatavad märgid), mida saab müüa ja kaubelda. Parimad virtuaalsed tossud on tänapäeval väärt 10,000 XNUMX dollarit (vt Mis on NFT tossud ja miks on see väärt 10,000 XNUMX dollarit?). Ma ei karda neid, aga kas peaksin kartma? Kui virtuaalset maailma hinnatakse rohkem kui füüsilist, siis võib-olla ma hindan seda. Või peaksin ootama, et olla mures, kuni AI enda avatar ostab oma NFT alglaadimise, et "vihmaga" toime tulla? Kui koostame algoritme oma kuju järgi, on AI tõenäolisem hea asjades, milles me sooviksime head olla, kuid mida tavaliselt ei tee, näiteks aktsiate ostmine, lojaalsete sõprussuhete loomine (võib-olla nii masinate kui ka inimestega) ja meeldejätmine. asju. Tööstuslik metaversum võib olla üllatavalt keerukas – täis digitaalseid kaksikuid, mis jäljendavad meie maailma ja ületavad seda viljakalt – või võib see olla šokeerivalt lihtne. Võib-olla mõlemad. Me lihtsalt ei tea veel.

Peame AI-algoritme reguleerima, sest me ei tea, mis on nurga taga. See on piisav põhjus, aga kuidas me seda teeme, on see pikem lugu. Lubage mul veel üks kiire tähelepanek, võib-olla tuleks kõik põhialgoritmid avalikult kättesaadavaks teha. Põhjus on selles, kui mitte, siis pole kuidagi võimalik teada, milleni need võivad viia. Parimad on üsna hästi tuntud (vt 10 parimat masinõppe algoritmi), kuid puudub ülemaailmne ülevaade, kus ja kuidas need harjuvad. Eelkõige tuleks hoolikalt jälgida järelevalveta algoritme (vt Kuus võimsat kasutusjuhtu masinõppeks tootmises), olenemata sellest, kas neid kasutatakse hoolduse või kvaliteedi ennustamiseks, tootmiskeskkondade simuleerimiseks (nt digitaalsed kaksikud) või uute kujunduste loomiseks, millele inimene kunagi ei mõtleks. Tänapäeva maastikul on need järelevalveta algoritmid tavaliselt niinimetatud tehisnärvivõrgud, mis püüavad jäljendada inimese aju.

Olen hakanud närvivõrkude pärast muretsema ainult seetõttu, et mul on nende loogikat raske mõista. Probleem on selles, et enamik eksperte, isegi neid, kes neid juurutavad, ei mõista, kuidas need algoritmid liiguvad astmelt sammule või kihilt kihile. Ma arvan, et sageli kasutatav metafoor “varjatud kihtidest” ei ole väga tabav ega väga naljakas. Alustuseks ei tohiks tootmises, automatiseeritud maksukogumises, värbamisotsuste tegemisel ega kolledži vastuvõtul olla varjatud kihte. Võib-olla peaksite kaaluma ka muretsema hakkamist? Üks on kindel, inimesed ja masinad, mis koos teevad asju, muudavad maailma. See on juba olnud, mitu korda. Paberist vihmasaabasteni ja tänapäeva tehisaju kihtideni ei tohiks midagi jätta uurimata. Me ei tohiks varjata lihtsa tõsiasja eest, et paljudest väikestest muudatustest võib ootamatult ilmneda suurem muutus.