Kümned tehisintellekti (AI) eksperdid, sealhulgas OpenAI, Google DeepMindi ja Anthropicu tegevjuhid, allkirjastasid hiljuti AI ohutuse keskuse (CAIS) avaldatud avaliku avalduse.
Esitasime lihtsalt avalduse:
"AI-st väljasuremisohu leevendamine peaks olema ülemaailmne prioriteet koos muude ühiskondlike riskidega, nagu pandeemiad ja tuumasõda."
Allakirjutanute hulka kuuluvad Hinton, Bengio, Altman, Hassabis, Song jne.https://t.co/N9f6hs4bpa
(1 / 6)
- Dan Hendrycks (@DanHendrycks) Võib 30 2023
Avaldus sisaldab ühte lauset:
"AI-st väljasuremisohu leevendamine peaks olema ülemaailmne prioriteet koos muude ühiskondlike riskidega, nagu pandeemiad ja tuumasõda."
Dokumendile allakirjutanute hulgas on tõeline „kes on kes“ tehisintellekti valgustitest, sealhulgas AI „ristiisa“ Geoffrey Hinton; California Ülikool, Berkeley Stuart Russell; ja Massachusettsi Tehnoloogiainstituudi Lex Fridman. Muusik Grimes on samuti allakirjutanu, kes on loetletud kategoorias "muud märkimisväärsed tegelased".
Seotud: Muusik Grimes on valmis jagama 50% litsentsitasusid tehisintellekti loodud muusikaga
Kuigi avaldus võib pealtnäha näida kahjutu, on selle aluseks olev sõnum tehisintellekti kogukonnas mõnevõrra vastuoluline.
Näiliselt kasvav hulk eksperte usub, et praegused tehnoloogiad võivad või toovad paratamatult kaasa sellise tehisintellektisüsteemi tekkimise või arengu, mis on võimeline kujutama inimliigile eksistentsiaalset ohtu.
Nende seisukohtadele seab aga vastu kontingent diametraalselt vastandlikke arvamusi omavaid eksperte. Meta juht AI teadlane Yann LeCun on näiteks korduvalt märkinud, et ta ei usu tingimata, et AI muutub kontrollimatuks.
Super-inimlik tehisintellekt pole eksistentsiaalsete riskide edetabeli esikohal.
Suures osas seetõttu, et seda pole veel olemas.Kuni meil pole isegi koera tasemel tehisintellekti jaoks (rääkimata inimeste tasemest) põhidisain, on ennatlik arutleda selle ohutuks muutmise üle. https://t.co/ClkZxfofV9
- Yann LeCun (@ylecun) Võib 30 2023
Talle ja teistele, kes ei nõustu "väljasuremise" retoorikaga, nagu Andrew Ng, Google Braini kaasasutaja ja endine Baidu juhtivteadlane, ei ole AI probleem, see on vastus.
Argumendi teisel poolel usuvad eksperdid, nagu Hinton ja Conjecture'i tegevjuht Connor Leahy, et inimtasandi tehisintellekt on vältimatu ja seetõttu on aeg tegutseda.
Kõigi suuremate tehisintellekti laborite juhid kirjutasid sellele kirjale alla, tunnistades selgesõnaliselt AGI-st väljasuremise ohtu.
Uskumatu samm edasi, õnnitlused Danile tema uskumatu töö eest selle kokkupanemisel ja tänan kõiki allakirjutanuid, et nad andsid oma panuse parema tuleviku nimel! https://t.co/KDkqWvdJcH
- Connor Leahy (@NPCollapse) Võib 30 2023
Siiski on ebaselge, milliseid meetmeid avaldusele allakirjutanud nõuavad. Peaaegu kõigi suuremate tehisintellektiettevõtete tegevjuhid ja/või AI juhid ning tunnustatud teadlased kogu akadeemilisest ringkonnast on nende hulgas, kes allkirjastasid, mistõttu on ilmne, et eesmärk ei ole nende potentsiaalselt ohtlike süsteemide väljatöötamist peatada.
Selle kuu alguses esines OpenAI tegevjuht Sam Altman, üks ülalmainitud avaldusele allakirjutanutest, esimest korda kongressi ees senati kuulamise ajal, et arutada tehisintellekti reguleerimist. Tema tunnistus jõudis pealkirjadesse pärast seda, kui ta veetis suurema osa sellest, kutsudes seadusandjaid üles oma tööstust reguleerima.
Altmani Worldcoin, projekt, mis ühendab krüptovaluutat ja isikupärasuse tõendamist, on samuti hiljuti meediasse jõudnud pärast 115 miljoni dollari suuruse C-seeria rahastamise kogumist, viies selle kogurahastuse kolme vooru järel 240 miljoni dollarini.
Allikas: https://cointelegraph.com/news/ai-experts-sign-doc-comparing-risk-of-extinction-from-ai-to-pandemics-nuclear-war