Meta AI tutvustab tehisintellektiga läbimõeldud diplomaatilist võlurit, mis segab tehisintellekti eetikat ja tehisintellekti seadust hapraks tiffiks

Lugupeetud sarmi ja diplomaatia maailm on sageli rikutud õrnuse ja kohmetusega.

Will Rogers, suurepärane humorist ja sotsiaalkommentaator, on kuulsalt öelnud, et diplomaatia on kunst öelda "Tore koerake", kuni leiate kivi.

Ilmne tagajärg on see, et mõnikord peate järsult eemale hoidma kõik ähvardavad ja ohustavad jõud, kuni leiate sobivalt kaitstava lahenduse. Meeleheitel raskustes tehke seda, mida peate tegema. Rahustage tahtlikult ja sihikindlalt neid, kes teid ohustavad, kasutades oma rahustavaid ja vaimustavaid sõnu, kogudes väärtuslikku aega, et relvastada end praktilisema ja ilmsemalt käegakatsutavama hoiakuga.

REKLAAM

Mõned väidavad, et sõda on lahutamatult ebaõnnestunud diplomaatia tulemus. Selles kaalutletud vaatenurgas hoiab pidev diplomaatia trummipõrin sõja ära. Rääkige edasi ja võitlus ei lähe käima. Teised on sellise probleemse arvamuse suhtes tuliselt eriarvamusel. Võib-olla, öeldakse, on diplomaatia see, mis meid sõdadesse viib. Lisaks võib juhtuda, et diplomaatia venitab sõdu ja hoiab võitlusi lõputult käimas.

Anname Will Rogersile veel ühe võimaluse huumorit nautida küsimuses, kas diplomaatia on sõja tuleku või jätkumise suhtes hea või halb: "Võtke diplomaatia sõjast välja ja asi kukub nädalaga tühjaks" (ta väidetavalt deklareeritud).

Levinud diplomaatia definitsioon rõhutab rahvustevahelisi suhteid. Diplomaadid esindavad teatud rahvusi või rahvusriike ja kasutavad oma pühade kohustuste täitmisel diplomaatiat. Ootame, et meie diplomaadid võtaksid oma välispoliitika ellu aplombi abil. Sõnumitooja ei tohiks olla see, mis tekitab vaenu, vaid sõnum võib seda teha. Isegi kõige jõhkramate sõnumite eeldatavalt veatu diplomaatiline kujutamine võib ilmselgelt pehmendada lööki, mis tuleneb muidu kahjulikust nõudmisest või ähvardusest.

REKLAAM

Muidugi ei piirdu diplomaatia ainult ametlike diplomaatide kõrge tööga. Julgen väita, et me kõik peame oma igapäevaelus kandma mingi diplomaatia moodi. Kui soovite, et sõber valvaks teie armastatud koera eest, kui olete ärireisil, esitate kindlasti diplomaatiliselt palve kaka eest hoolitseda. Otsene nõudmine seda teha toob tõenäoliselt kaasa nüri kolina.

Kuna diplomaatia on ilmselt rohkem kunst kui teadus, on see midagi, mida inimesed kasutavad libisemiste määrimiseks, tulede põlema hoidmiseks ja ühiskonna täielikuks hulluks minekuks. Läbirääkimised tulevad mängu. Võib tekkida vajadus rahustada. Vahel kasutad porgandit, vahel pulka. Kui peate seda tegema, võite proovida niinimetatud püssipaadi diplomaatiat, mille käigus proovite teisi enda ümber hirmutada. Või tugeva relvastuse asemel võite minna pehmema vahenduse ja humanitaarabi teele. Kõik oleneb.

Olgu, nii et me võime kõik mõistlikult nõustuda, et diplomaatia on oluline inimestevahelise suhtluse vorm. See koosneb praktikast või lavatööst, mis on seotud taktitunde, vahendamise, läbirääkimiste, lepitamise ja hulga ühiskondlikult osava politiseerimisega.

REKLAAM

Lisame sellele võrrandile veel midagi.

Oled sa valmis?

Lisame veel midagi, mida olete ehk veel mõelnud.

Tehisintellekt (AI).

Jah, tehisintellekt on sattumas diplomaatia gambiiti. See tundub igati mõistlik. Kui tahame, et tehisintellekt oleks sukeldunud meie elu kõikidesse tahkudesse, pidi lõpuks diplomaatia saama oma korra. Võime eeldada, et tehisintellekt suudab täita mis tahes ülesandeid, mis tal on, kasutades sobivaid diplomaatia sõnu ja kombeid.

REKLAAM

AI kui autonoomne või poolautonoomne diplomaat.

Ma mõistan, et see võib tunduda üsna hirmutav ja täiesti hirmutav. Ma arvan, et keegi meist pole valmis selleks, et tehisintellekt meie riikide esindajana ringi liiguks. Kujutage ette, et tehisintellekt töötab meie nimel, et pidada läbirääkimisi meie rahvusvaheliste seisukohtade üle ja kinnitada meie globaalset poliitilist seisukohta. Jah! See on nende apokalüptiliste ulmelugude värk.

Noh, hingake hetkeks kergendatult, sest see pole praegu kaartidel.

Selle asemel mõelge tehisintellektile, mida kasutate pangatoimingute tegemiseks või mis aitab teil kodu ostmisel suunata. Tänapäeva AI, mis inimestega suhtleb, on tavaliselt üsna lihtne. Minge faktide juurde, ainult faktide juurde. Mõnele tehisintellektile on lisatud armsat sõnastust, et panna teid arvama, et see on sõbralik või sõber, kuigi see on kiiresti selge. Lihtsalt sellepärast, et AI-süsteem viitab teile teie nime järgi või edastab „tere“ asemel sõnu nagu „tere“, mõistab enamik meist kohe, et tegemist on sigaretiga.

Järgmine samm, mida tehisintellekti arendajate saalides innukalt taotletakse, on püüda meie igapäevastesse tehisintellekti sisse tuua diplomaatilisi omadusi. Üldine eesmärk on kaasata programmilisi aspekte, mis panevad AI-d näitama diplomaatiat ja diplomaatilist käitumist. Kasutades erinevaid algoritme ja eriti uusimaid generatiivseid tehisintellekti või suurte keelte mudeleid (LLM), on selles valdkonnas tehtud märkimisväärseid edusamme.

REKLAAM

Vaatame ühte sellist näidet, CICERO, uut AI-süsteemi, mille on välja andnud Meta AI meeskond.

Kui olite puhkusel ega olnud kursis viimaste uudistega tehisintellekti kohta, annab hiljutine teadaanne ja CICEROna loodud tehisintellektisüsteemi avalikustamine olulise viida selle kohta, kus tänapäeval asub tehisintellektiga rikastatud diplomaatia areen. Meta AI meeskond on läbimõeldult ja nende heaks kiitmiseks teinud avalikult kättesaadavaks oma arendatud CICERO AI süsteemi. Tehnilisi üksikasju saate lugeda postitatud uurimistööst teadusVt link siin. Võite külastada veebisaiti, mille nad on loonud, et CICERO üldnüansse õrnalt edasi anda lühikeste videoklippide abil, mis illustreerivad selle tegevust (vt link siin). Neile, kes otsivad tegelikku programmikoodi ja tarkvara, leiate lähtekoodi GitHubist aadressilt link siin.

Ma tahan kiiresti selgitada ühte aspekti, mis võib tunduda segane, kui otsustate sellesse teemasse süveneda.

Meta AI välja töötatud konkreetne AI-süsteem on praegu loodud mängima mõnevõrra populaarset mängu, mida tuntakse kui Diplomaatia (võib-olla olete seda lauamängu Hasbro ja teiste mängutegijate järgi näinud). Toon selle välja, sest sõnal "diplomaatia" on sel juhul topeltkohustus. Ühest küljest püüab väljamõeldud tehisintellekt lisada ettevõtte ja kuvamise tunnuseid diplomaatia iseenesest. Vahepeal toimub see konkreetne AI-süsteem siis, kui mängitakse spetsiaalselt ja ainult (praegu) kuulsat lauamängu. Diplomaatia.

Kas näete, kuidas see võib mõnda inimest segadusse ajada?

Kui keegi ütleb teile, et sellel konkreetsel tehisintellektil läheb „diplomaatial“ väga hästi, võite olla ebakindel, kas nad viitavad arusaamale, et tehisintellekt on üsna osav lauamängu mängimises. Diplomaatia või võib-olla viitavad nad hoopis sellele, et AI kehastab inimkonna diplomaatiaaktiga seotud põhiolemust. Lisaks võib juhtuda, et mõlemad tahud on mõeldud korraga (nimelt saab tehisintellekt hästi mängida Diplomaatia ja samal ajal saab hästi hakkama diplomaatia kui oskuse või teoga või demonstreerimisega).

REKLAAM

Proovin siinkohal seda selgitada, kirjutades algustähe suurtähtedega ja näidates kaldkirjas lauamängu nime, Diplomaatia. Ülejäänud aja kasutan diplomaatia või diplomaatia ülesnäitamise üldise kontseptsiooni näitamiseks kaldkirjastamata sõnastust "diplomaatia" (vaata, ma tegin seda just seal).

Käsitletava küsimuse juurde tagasi tulles võiksite hetkeks mõtiskleda, kas diplomaatiat näitav tehisintellekt on midagi, mida peaksime ihaldama või hoopis vältima.

Tehisintellektil on palju positiivseid külgi, et saada diplomaatia tutvustamiseks. Elaksite siiski madalas mullis, eeldades, et tehisintellekti rakendav diplomaatia on täiesti ja eranditult hea asi. AI, millel näivad olevat diplomaatilised oskused ja mis võib panna meid uskuma, et sellel on diplomaatia, on samuti tulvil murettekitavaid probleeme, mida peame esile tõstma. Sisuliselt tõstatab sel viisil kasutatav AI palju tehisintellekti eetika ja tehisintellekti seadusega seotud küsimusi. Need, kes on huvitatud tehisintellekti eetikast ja tehisintellekti seadustest, võite vaadata minu ulatuslikku ja jätkuvat kajastust eetilisest tehisintellektist ja tehisintellekti seadusest aadressil link siin ja link siin, Ainult mõned nimed.

Enne kui hakkan kasutama tehisintellekti kui diplomaatiat, tahaksin esmalt panna aluse tehisintellektile ja eriti tehisintellekti eetikale ja tehisintellekti seadustele, et tagada arutelu kontekstuaalselt mõistlik.

REKLAAM

Kasvav teadlikkus eetilisest tehisintellekti ja ka tehisintellekti seadusest

AI hiljutist ajastut peeti algselt selliseks AI heaks, mis tähendab, et saame kasutada tehisintellekti inimkonna paremaks muutmiseks. Kannul AI heaks tuli arusaam, et meiegi oleme süvenenud AI For Bad. See hõlmab tehisintellekti, mis on välja töötatud või ise muudetud diskrimineerivaks ja teeb arvutuslikke valikuid, mis tekitavad põhjendamatuid eelarvamusi. Mõnikord on tehisintellekt niimoodi ehitatud, teistel juhtudel aga kaldub see sellele ebasoodsale territooriumile.

Tahan olla täiesti kindel, et oleme tänapäeva AI olemusega ühel lainel.

Tänapäeval pole AI-d, mis oleks tundlikud. Meil pole seda. Me ei tea, kas tundlik tehisintellekt on võimalik. Keegi ei oska täpselt ennustada, kas saavutame tundliku tehisintellekti, ega seda, kas tundlik tehisintellekt tekib mingil imekombel spontaanselt arvutusliku kognitiivse supernoova kujul (mida tavaliselt nimetatakse singulaarsuseks, vt minu kajastust aadressil link siin).

AI tüüp, millele ma keskendun, koosneb mittetundlikust tehisintellektist, mis meil praegu on. Kui tahaksime metsikult spekuleerida tundliku tehisintellekti üle, võib see arutelu minna radikaalselt teises suunas. Tundlik tehisintellekt oleks väidetavalt inimliku kvaliteediga. Peaksite arvestama, et tundlik tehisintellekt on inimese kognitiivne vaste. Veelgi enam, kuna mõned oletavad, et meil võib olla üliintelligentne tehisintellekt, on mõeldav, et selline tehisintellekt võib olla inimestest targem (minu võimalust uurida üliintelligentse tehisintellekti kohta vt. katvus siin).

REKLAAM

Soovitan tungivalt hoida asjad maa peal ja kaaluda tänapäeva arvutuslikku mittetundlikku tehisintellekti.

Mõistke, et tänapäeva tehisintellekt ei ole võimeline inimese mõtlemisega võrdselt "mõtlema". Kui suhtlete Alexa või Siriga, võib vestlusvõime tunduda inimese võimetega sarnane, kuid tegelikkus on see, et see on arvutuslik ja sellel puudub inimese tunnetus. AI uusim ajastu on laialdaselt kasutanud masinõpet (ML) ja süvaõpet (DL), mis võimendavad arvutusmustrite sobitamist. See on viinud tehisintellektisüsteemideni, millel on inimesele sarnased kalduvused. Samal ajal pole tänapäeval ühtegi tehisintellekti, millel oleks justkui terve mõistus ega kognitiivne imestus jõulise inimmõtlemise kohta.

Olge tänapäeva tehisintellekti antropomorfiseerimisega väga ettevaatlik.

ML/DL on arvutusliku mustrite sobitamise vorm. Tavaline lähenemisviis on see, et kogute andmeid otsustusülesande kohta. Sisestate andmed ML/DL arvutimudelitesse. Need mudelid püüavad leida matemaatilisi mustreid. Pärast selliste mustrite leidmist, kui see on leitud, kasutab AI-süsteem neid mustreid uute andmete leidmisel. Uute andmete esitamisel rakendatakse kehtiva otsuse tegemiseks "vanadel" või ajaloolistel andmetel põhinevaid mustreid.

Arvan, et võite arvata, kuhu see liigub. Kui inimesed, kes on teinud mustrilisi otsuseid, on kaasanud ebasoodsaid eelarvamusi, on tõenäoline, et andmed peegeldavad seda peenelt, kuid olulisel viisil. Masinõppe või süvaõppe arvutusmustrite sobitamine püüab lihtsalt andmeid vastavalt matemaatiliselt jäljendada. Tehisintellektiga loodud modelleerimisel iseenesest ei paista tervet mõistust ega muid tundlikke aspekte.

REKLAAM

Lisaks ei pruugi AI arendajad ka aru saada, mis toimub. ML/DL-i salapärane matemaatika võib raskendada praegu varjatud eelarvamuste kõrvaldamist. Võiksite õigustatult loota ja eeldada, et AI-arendajad katsetavad potentsiaalselt maetud eelarvamusi, kuigi see on keerulisem, kui võib tunduda. On kindel võimalus, et isegi suhteliselt ulatusliku testimise korral on ML/DL-i mustrite sobitamise mudelites siiski kallutusi.

Võite kasutada kuulsat või kurikuulsat kõnekäänd prügi sisse prügi välja viimine. Asi on selles, et see sarnaneb pigem eelarvamustega, mis salakavalalt infundeeritakse tehisintellekti sukeldunud eelarvamustest. AI algoritmi otsuste tegemine (ADM) muutub aksiomaatiliselt koormatud ebavõrdsustega.

Pole hea.

Sellel kõigel on märkimisväärne mõju tehisintellekti eetikale ja see pakub tehisintellekti seadusandlusel kasulikku akent saadud õppetundidesse (isegi enne, kui kõik õppetunnid juhtuvad).

REKLAAM

Lisaks tehisintellekti eetikareeglite rakendamisele üldiselt on vastav küsimus, kas meil peaks olema seadusi, mis reguleeriksid AI erinevaid kasutusviise. Föderaalsel, osariigi ja kohalikul tasandil kehtestatakse uued seadused, mis puudutavad tehisintellekti väljatöötamise ulatust ja olemust. Selliste seaduste väljatöötamine ja jõustamine toimub järk-järgult. Tehisintellekti eetika on vähemalt kaalutletud vahepeatus ja peaaegu kindlasti lisatakse see mingil määral otse nendesse uutesse seadustesse.

Pidage meeles, et mõned väidavad kindlalt, et me ei vaja tehisintellekti hõlmavaid uusi seadusi ja et meie olemasolevad seadused on piisavad. Nad hoiatavad ette, et kui me mõne neist tehisintellekti seadustest kehtestame, tapame kuldhane, piirates tehisintellekti edusamme, mis pakuvad tohutuid ühiskondlikke eeliseid.

Eelmistes veergudes olen käsitlenud erinevaid riiklikke ja rahvusvahelisi jõupingutusi tehisintellekti reguleerivate seaduste koostamiseks ja jõustamiseks, vt. link siin, näiteks. Olen käsitlenud ka erinevaid tehisintellekti eetika põhimõtteid ja juhiseid, mida erinevad riigid on tuvastanud ja vastu võtnud, sealhulgas näiteks ÜRO jõupingutusi, nagu UNESCO tehisintellekti eetika kogum, mille on kasutusele võtnud peaaegu 200 riiki, vt. link siin.

REKLAAM

Siin on kasulik AI-süsteemide eetiliste kriteeriumide või omaduste nurgakivi loend, mida olen varem põhjalikult uurinud:

• läbipaistvus
• Õiglus ja õiglus
• Mittepahatahtlikkus
• Vastutus looduse ees
• Privaatsus
• Kasulikkus
• Vabadus ja autonoomia
• Usalda
• Jätkusuutlikkus
• Väärikus
• Solidaarsus

Tehisintellekti arendajad peaksid tõsiselt kasutama neid tehisintellekti eetika põhimõtteid koos nendega, kes juhivad tehisintellekti arendamise jõupingutusi, ja isegi neid, kes lõpuks AI-süsteeme kasutavad ja hooldavad.

Kõiki sidusrühmi kogu tehisintellekti arendamise ja kasutamise elutsükli jooksul arvestatakse eetilise tehisintellekti väljakujunenud normide järgimise raames. See on oluline esiletõst, kuna tavaliselt eeldatakse, et tehisintellekti eetika põhimõtetest peavad kinni pidama „ainult kodeerijad” või need, kes programmeerivad tehisintellekti. Nagu siin eelnevalt rõhutatud, on tehisintellekti väljatöötamiseks ja kasutuselevõtuks vaja küla, mille jaoks kogu küla peab olema teadlik ja järgima tehisintellekti eetika ettekirjutusi.

REKLAAM

Uurisin hiljuti ka AI Bill of Rights mis on ametlik pealkiri USA valitsuse ametlikule dokumendile pealkirjaga "AI Bill of Rights: automaatsete süsteemide töötamine Ameerika inimeste heaks" ametlik pealkiri, mis on teadus- ja tehnoloogiapoliitika büroo (OSTP) aastapikkuse jõupingutuse tulemus. ). OSTP on föderaalne üksus, mis nõustab Ameerika presidenti ja USA täitevametit mitmesugustes riikliku tähtsusega tehnoloogilistes, teaduslikes ja inseneriaspektides. Selles mõttes võite öelda, et see AI Bill of Rights on dokument, mille on heaks kiitnud ja mille on heaks kiitnud olemasolev USA Valge Maja.

Tehisintellekti õiguste seaduses on viis nurgakivikategooriat:

• Turvalised ja tõhusad süsteemid
• Algoritmiline diskrimineerimiskaitse
• Andmete privaatsus
• Märkus ja selgitus
• Inimlikud alternatiivid, kaalumine ja tagavara

Olen need ettekirjutused hoolikalt läbi vaadanud, vt link siin.

REKLAAM

Nüüd, kui olen loonud kasuliku aluse nendele seotud tehisintellekti eetika ja tehisintellektiõiguse teemadele, oleme valmis hüppama tehisintellektil põhineva masinapõhise diplomaatia peadpööritava teema juurde.

AI diplomaatia kogu oma hiilguses ja ka potentsiaalses allakäigus

Esiteks teeme kindlaks, et siin käsitletav AI tüüp on mittetundlik AI.

Ma ütlen seda sellepärast, et kui või mõned ütlevad millal kui jõuame tundliku tehisintellekti, läheb kogu teema tõenäoliselt täiesti pea peale. Kujutage ette võimalikku kaost ja ühiskondlikku segadust, mis on tingitud sellest, et olete mingil moel sattunud sellesse, mis muidu kunagi varem pole vaieldamatult tõestatud kunstlik intelligentsus, mis kehastab tundlikkust (minu analüüsiks kuulsa tehisintellekti testi kohta, mida tuntakse Turingi testina, vt. link siin). Võite teha põhjendatud kihla, et paljud meie olemasolevad kultuurilised, õiguslikud ja igapäevased normid saavad oma tuumani tohutult kõikuma.

Võib-olla on tundlik tehisintellekt meie sõber või tundlik tehisintellekt meie halvim vaenlane. Kuidas me saame öelda, mis suunas AI läheb?

Teil võib tekkida kiusatus väita, et meil on tõenäoliselt võimalik AI-ga rääkida ja selle järgi välja mõelda, millised kavatsused sellel on. Ahaa, sa oled sattunud segadusse. Oletame, et tehisintellekt on eriti hästi läbi imbunud mingisuguse AI diplomaatia võimalustega. Kui proovite AI-ga rääkida, räägib see võib-olla kõige võluvama ja kõnekama sõnaga. See võib olla inimkonnale väga rahustav.

REKLAAM

Kuid kas seda peab AI oma tehisintellektil põhinevate arvutuskavatsuste osas tõesti silmas?

AI võib teha klassikalist diplomaatilist üks-kaks lööki. Rääkige head mängu ja pange meid ujuma, et AI on meie kõigi aegade parim sõber. See võib anda tehisintellektile aega ressursside kogumiseks, et inimkonda ületada, või võib-olla hoolsalt kulisside taga tööd teha, et vähendada kõike muud, mida inimkonna ülalpidamiseks kasutame. Pärast seda nutikat diplomaatilist varjamist, wham, AI lööb meid kõiki külmaks.

Pidage meeles, mida Will Rogers ütles, mis antud juhul võib seisneda selles, et tehisintellekt ütleb meile "Nice doggie" ja me anname tehisintellektile piisavalt hingamisruumi, et meid seejärel planeedilt pühkida. Seda arusaama tehisintellektist kui eksistentsiaalsest riskist on pikka aega kasutatud. Mõned usuvad, et tehisintellekti väljamõtlemisel sissepuhutud diplomaatiaga jääme snuukrisse. Tehisintellekt kasutab kavalalt ära kogu diplomaatiat, mille peale me aitasime tehisintellekti treenida, ja lõpuks pettetakse meid pimesi, et tehisintellektist saab meie ülemus.

Häbi meile.

Neile teist, kes on veelgi huvitatud sellest futuristliku tehisintellektiga seotud väga spekulatiivsest maastikust, vaadake minu ülevaadet tehisintellekti kui eksistentsiaalse ohu perspektiividest aadressil link siin.

REKLAAM

Tulles tagasi maa peale, rõhutan edaspidi siin tehisintellektist läbi imbunud diplomaatia teed meie olemasolevas mittetundlikus tehisintellektis.

Teeme natuke ajaloo jälgimist.

Katsed välja töötada tehisintellekti, mis kuidagi kehastab diplomaatia ja diplomaatilise käitumise arvutuslikku maitset, on kestnud AI algusaegadest peale. Saate hõlpsasti minna tagasi 1950., 1960. ja 1970. aastatesse ja leida fundamentaalseid uuringuid, mis olid innukad tehisintellekti selles valdkonnas rakendama. Mõned arvasid, et mänguteooria oli võti. Teised keskendusid psühholoogiale ja sellega seotud kognitiivsetele elementidele. Teised proovisid kasutada majandust, operatsioonide uurimist ja lugematul hulgal näiliselt asjakohaseid tegevusvaldkondi.

Esialgne õitseaeg toimus hiljem 1980ndatel. Sel ajal oli üks domineeriv lähenemisviis ekspertsüsteemide (ES) või teadmistepõhiste süsteemide (KBS) kasutamises diplomaatiaga seotud tehisintellektisüsteemide loomiseks. Tulemus oli üsna nigel ja näitas, kui raske ülesanne see olema saab.

REKLAAM

Üks näriv mõistatus kogu selle esialgse uurimise ajastu jooksul oli vajadus vankumatu platvormi järele, millel või mille raames saaks adekvaatselt testida ja uurida tehisintellekti, mis väidetavalt suutis mõnel diplomaatiaga seotud viisil toimida. See vajadus on ehk ilmne. Kui keegi tahab aru saada, kas inimene või tehisintellekt suudab diplomaatiat kasutada, tuleb luua seda otsingut soodustav keskkond.

Sellele pildile tuleb lauamäng Diplomaatia.

Ma saan aru, et lauamäng Diplomaatia pole peaaegu nii tuntud kui Monopol, Ohtvõi strateegia (tõenäoliselt olete nendest mängudest kuulnud). Sellegipoolest on olemas strateegiline lauamäng, mida tuntakse kui Diplomaatia mis töötati esmakordselt välja 1954. aastal ja anti müügile 1959. aastal. Lisaks näost näkku mängimisele, Diplomaatia mängu mängiti sageli tiguposti kaudu. Kirjutaksite oma käigud paberile ja saatke leht neile, kelle vastu mängisite. Suht hull ette kujutada tänapäeval. Hiljem kasutati meili. Lõpuks sai mäng veebis kättesaadavaks ja võimaldas mängijatel üksteisega reaalajas osaleda.

Peale Diplomaatia Kuna mäng sai mikroarvutites kättesaadavaks, hakkasid tehisintellekti spetsialistid seda mängu kasutama käepärase vahendina oma tehisintellektiga läbimõeldud diplomaatia ideede testimiseks. The Diplomaatia mäng oli saadaval arvutites töötava rakendusena, nii et inimene sai masina (st väljamõeldud tehisintellekti) vastu mängida. AI 1990. aastatel, mis kirjutati mängimiseks Diplomaatia oli kurikuulsalt aeglane, salapärane ja peaaegu iga minimaalselt taibuka mänguinimese poolt kergesti pekstav.

REKLAAM

Siin on 1999. aasta ülevaade Diplomaatia Yahoo-le postitatud, mis kirjeldas elavalt tehisintellektiga läbimõeldud diplomaatiavõime kurba hädaolukorda inimmängija vastasena:

• "Kuid, DiplomaatiaKõige silmatorkavam probleem on see, et tehisintellekt mängus on täiesti kohutav. Mis tahes oskustasemega mängijatel ei teki probleeme arvutis vaalapüügiga isegi kõige kõrgemal raskusastmel. Võit on lihtsalt aja ja liidese kannatlikkuse küsimus. Ei ole nii, et arvuti ei skeemi teie selja taga – ta teeb seda ja see teeb sageli koostööd liitlastega, et teilt territooriumi või kaks ära võtta –, kuid sellised skeemid tulevad pigem hoogu ja käivituvad, mitte pideva või konkreetselt. väljakutseid esitav oht."

Tehisintellekti disaini üks eriti häiriv nõrkus oli see, et tundus, et sellel puudub võime arvutada korraga mitu käiku või strateegiat: "Ja elementaarsemal tasemel tundub, et arvuti ei suuda mitut strateegilist käiku hallata. Kui inimmängija võib üheaegselt rünnata Kreekat ja Belgiat, siis tundub, et arvuti keskendub alati vaid ühele asjale korraga. Sel põhjusel ei saa arvuti lihtsalt inimmängijaga võistelda” (ibid).

Ma pole teile veel selgitanud, mis Diplomaatia lauamäng koosneb, nii et võtame veidi aega põhireeglite paika panemiseks.

Seal on mugav uurimistöö AI ja mängimise kohta Diplomaatia mis kirjeldas lühidalt mängu olemust: „Mäng toimub 1901. aasta Euroopa kaardil, mis on jagatud 75 provintsiks. Iga mängija mängib ühte seitsmest tolleaegsest suurriigist: Austria (AUS), Inglismaa (ENG), Prantsusmaa (FRA), Saksamaa (GER), Itaalia (ITA), Venemaa (RUS) ja Türgi (TUR) ning iga mängija. algab kolme või nelja üksusega (armeed või laevastikud), mis on paigutatud kaardil kindlatele algpositsioonidele. Igas mänguvoorus peab iga mängija esitama iga oma üksuse kohta korralduse, mis ütleb neile, kuidas kaardil liikuda, ja võimaldab neil vallutada kaardi provintsid” (Dave de Jonge, Tim Baarslag, Reyhan Aydogan , Catholijn Jonker, Katsuhide Fujita ja Takayuki Ito, "Läbirääkimiste väljakutse diplomaatia mängus" Lepingutehnoloogiad: 6. rahvusvaheline konverents, 2018)

REKLAAM

Samuti peate teadma mängu võidu- ja kaotamisvõimalusi: „Mõned Provintsid on nn. Tarnekeskused ja mängijate eesmärk on need varustuskeskused vallutada. Mängija langeb välja, kui ta kaotab kõik oma varustuskeskused ja mängija võidab mängu, kui ta on alistanud 18 või enam 34-st varustuskeskusest (üksi võit). Kuid mäng võib lõppeda ka siis, kui kõik ellujäänud mängijad nõustuvad viigiga” (ibid).

Usun, et näete seda Diplomaatia on lihtne mäng, mis hõlmab kuni seitset mängijat, kes üritavad üksteist strateegiliselt ületada. Selle manööverdamise ajal saavad mängijad omavahel nõu pidada, tehes seda ilma, et teised mängijad teaksid, millega nad tegelevad. Diplomaatia tuleb esile tänu sellele, et suudate teisi mängijaid oma plaanidega kaasa minna. Võib-olla avaldate oma tõelised plaanid või mitte. Võite pakkuda valesid plaane. Saate teiste mängijatega läbi rääkida. Saate teisi mängijaid petta. Saate sõlmida liite teiste mängijatega. Jne.

Armastuses ja sõjas on kõik õiglane, nagu öeldakse.

Valisin selle konkreetse uurimistöö, kuna see aitas luua arvutipõhise versiooni variandi Diplomaatia nimetatakse DipGame toimima edasiviiva platvormina tehisintellektiga läbimõeldud diplomaatia võimekuse testimiseks: „Multiagentisüsteemides arenenud uurimismudelite ja agentide läbirääkimisarhitektuuride testimiseks on krooniline puudus jagatud rakendusdomeenidest. Käesolevas artiklis tutvustame sel eesmärgil sõbralikku testi. Testbed põhineb Diplomaatia mäng kus läbirääkimistel ja mängijatevahelistel suhetel on oluline roll” (ibid). See ja paljud teised variatsioonid Diplomaatia on loodud ja tehtud uurimiseks ja mängimiseks kättesaadavaks.

REKLAAM

Teadlased selgitasid, miks nad seda uskusid Diplomaatia on nii kasulik mäng, mis aitab tehisintellektiga seotud diplomaatia poole püüdlemisel: „Mäng Diplomaatia on seda tüüpi keeruliste läbirääkimiste jaoks suurepärane proovikivi, kuna see on mäng, mis sisaldab palju raskusi, millega tuleb silmitsi seista ka päriselus läbirääkimistel. See hõlmab piirangutega rahulolu, koalitsiooni moodustamist, mänguteooriat, usaldust ja isegi psühholoogiat. Nüüd, kui tänapäevased Chess and Go arvutid on juba kõigist inimmängijatest palju paremad, ootame seda Diplomaatia hakkab arvutiteaduse järgmise suure väljakutsena rohkem tähelepanu tõmbama” (samas).

Kiire kokkuvõttena lauamäng Diplomaatia pakub juba tuntud ja mõnevõrra populaarset vahendit, et panna inimesi tegutsema erinevatel diplomaatilistel viisidel. Tavaliselt mängivad inimesed teiste inimeste vastu (antud juhul kuni seitsme inimmängija vastu). Saame välja töötada tehisintellekti, mis prooviks võtta mängus mängija rolli. Seega võib teil olla kuus inimmängijat ja üks AI-mängija.

Kujutage ette mängimist Diplomaatia online.

Kui me ei ütle inimmängijatele, et nende hulgas on tehisintellekt, võivad nad loomulikult eeldada, et seitsmes mängija on lihtsalt teine ​​inimmängija. Selleks, et vältida mängijaid arvamast, et AI mängib, võime piirata mänguaspekte nii, et kõik mängijad peavad saatma üksteisele tekstipõhiseid sõnumeid. Te ei saa teisi mängijaid otse näha.

REKLAAM

Võib-olla arvate, et see ei erine eriti võrgumale mängimisest. Milleks see suur kära Diplomaatia mänguna?

Tuletame meelde, et keskendume mängijatevahelisele suhtlusele. Selle mängu eelduseks on, et mängijad kutsuvad üksteise suhtes diplomaatiat. See on erinevalt tavalisest malest. Kui ma töötaksin välja tehisintellektil põhineva malemängurakenduse, mängiks see tavaliselt ühe inimese vastu. Malet mängiva tehisintellekti ja inimmängija vahel pole läbirääkimisi ega arutelusid. Nad teevad lihtsalt malekäike ja üritavad üksteist ületada. Tavaliselt tehakse seda täielikus vaikuses.

Diplomaatia võimaldab meil rakendada otsest arvutuslikku ja inimpõhist diplomaatiat (võimalikult teha seda pigem kirjalikult kui seda peaks valjusti ütlema): „Peamine erinevus Diplomaatia ja muud deterministlikud mängud, nagu male ja mine, on see, et diplomaatias on mängijatel lubatud omavahel läbi rääkida ja koalitsioone moodustada. Igas voorus, enne kui mängijad oma korraldused esitavad, antakse mängijatele aega omavahel läbi rääkida ja teha kokkuleppeid esitatavate korralduste osas. Läbirääkimised toimuvad privaatselt ja iga sõlmitud kokkulepe on teada ainult selle lepinguga seotud mängijatele” (ibid).

Kas võiksite välja mõelda mõne muu mängu, mis kasutaks mängule toetumise asemel interaktiivset diplomaatiat Diplomaatia?

Absoluutselt.

REKLAAM

Selliseid mänge on erinevaid.

Ühe konkreetse mängumargi valimise mugavus seisneb aga selles, et tehisintellekti arendajad saavad keskenduda sellele konkreetsele mängule. Saate kokku leppida AI väljatöötamise ümber, mis teostab diplomaatiat selles määratletud kontekstis. Saate lähenemisviise jagada ja neid vastandada. Saate hinnata erinevaid AI juhtumeid selle mänguga seotud mõõdikute põhjal. Ja nii edasi.

Nagu öeldud, on vastuargument või väljendatud mure selles, et see on nagu kõigi munade ühte korvi panemine. Mõned kardavad, et kui paljud AI arendajad on hõivatud ühe konkreetse platvormi või keskkonnaga, nagu antud juhul Diplomaatia, püüavad nad optimeerida tehisintellekti selle konkreetse areeni jaoks. Negatiivne mõju on see, et AI-d ei üldistata. Me ei tee nii palju edusamme tehisintellektiga rikastatud diplomaatia kõikehõlmavate võimaluste suunas.

Umbes nagu ei näeks metsa puude pärast, kui soovite.

Teine sageli väljendatud mure on see, et sellised mängud nagu Diplomaatia on vaid mängud.

REKLAAM

Tekib keeruline küsimus, kas inimesed, kes mängivad, teevad samu asju, mida nad teeksid reaalses diplomaatias. Võib-olla ei käitu te samamoodi, kui rahvuslik uhkus või rahvuslikud panused pole mängus. Muidugi võite olla mures oma isikliku uhkuse pärast, kui mängite mängu või proovite saada parimaks väravakütiks või võite isegi auhinnaraha võita, kuid siiski, kas see tähendab ÜROs maailma rahu läbirääkimist või kaubeldamist, milliste riikide üle. tuumarelvi peaks olema või mitte.

Mõned usuvad, et need diplomaatiamängud on reaalse maailma sobivad mikrokosmosed. Teised kurdavad, et mängud on kasulikud, kuid ei ulatu rahvusvahelise kaliibriga vanasõnalise "kumm-meesteel-teel"-diplomaatiani. Võib juhtuda, et tehisintellektiga läbimõeldud diplomaatia mänguversioonid ei osutu enamaks kui pelgalt mängueduks. Jumal, väljamõeldud tehisintellekt võib diplomaatiaga mängus võita või väga hästi hakkama saada, kuigi selgub, et sama tehisintellekti kasutamine tõelistes diplomaatilistes tingimustes on väga puudulik ja see kõikub või ebaõnnestub haledalt.

Oletame hetkel, et AI on loodud selliste mängude mängimiseks nagu Diplomaatia on tõesti väärt. Võite põhjendatult väita, et olenemata sellest, kas see sobib ainult mängimiseks või reaalseks tegevuseks, hõlmab see idee tehisintellekti piiride venitamist ja edusamme tehisintellektis, mis võib aidata kaasa diplomaatiale või anda muid kasulikke läbimurdeid tehisintellekti vermimisel.

REKLAAM

Eelista praegu naerunägu.

Järgmisena uurime, kuidas Meta AI on otsustanud luua tehisintellektiga läbimõeldud diplomaatiamängija, mis suudab Diplomaatia.

Hoidke oma mütsid kinni.

Meta AI ja diplomaatia mängiv masinapõhine diplomaat Cicero

Nagu varem mainitud, on uurimistöö avaldatud aastal teadus mis kirjeldab äsja väljakuulutatud ja avalikult välja antud Meta AI rakendust, mis on loodud nimega Cicero (kogu selle arutelu jooksul viitan sellele vaheldumisi kui "Cicerole" ja samamoodi ka "CICERO" suuretähelisele nimele):

REKLAAM

• „Esitleme Cicerot, tehisintellekti agenti, kes saavutas strateegiamängus inimtasemel jõudluse Diplomaatia. sisse Diplomaatia, seitse mängijat peavad privaatseid loomuliku keele läbirääkimisi, et oma tegevusi kooskõlastada, et nii koostööd teha kui ka omavahel konkureerida. Seevastu mitme agendiga tehisintellekti varasemad suured edusammud on olnud puhtalt vastandlikes keskkondades, nagu male, Go ja pokker, kus suhtlusel pole väärtust. Nendel põhjustel, Diplomaatia on olnud väljakutseid pakkuv etalon mitme agendiga õppimisel” (Meta Fundamental AI Research Diplomacy Team, „Inimtasandi mäng diplomaatia mängus, ühendades keelemudelid strateegilise põhjendusega”, teadus, 22. november 2022).

Tsiteerin paberit ja pakun seejärel erinevaid arusaamu, mis loodetavasti teile huvi pakuvad.

Arvestades, et tehisintellekt on äsja kättesaadavaks tehtud, teen tõenäoliselt järgneva analüüsi pärast seda, kui mul on olnud võimalus teha koodi põhjalik praktiline hinnang ja viia läbi eksperimentaalseid mänge, et hinnata tehisintellekti võimeid (nt. peamised tugevused ja nõrkused).

Olge hilisemal postitusel valvel!

Igatahes usun, et võisite äsja tsiteeritavas lõigus märgata, et seal on lause, mis ütleb, et tehisintellekt "saautas strateegiamängus inimtasemel jõudlust Diplomaatia. "

REKLAAM

Mõelge sellele.

Esiteks on kindlasti kiiduväärt, et suutis välja töötada tehisintellekti, mis mängib Diplomaatia mäng väidetavalt inimestega sarnasel jõudluse tasemel. See on ülimalt oluline.

Meil on palju Diplomaatia mängides tehisintellekti, mis on vähem kui inimestega, kes mängivad Diplomaatia mängu. Rohkem, kui suudad pulgaga raputada. On rahustav ja põnev liikuda ülespoole tehisintellekti poole, mis saab mängu mängides palju paremini hakkama. Peame siiski olema ettevaatlikud, tehes selle kohta kiireid järeldusi.

Oletame näiteks, et olen mängimiseks välja mõelnud tehisintellekti Diplomaatia ja ma panin selle vastamisi inimmängijatega, kes pole seda mängu kunagi varem mänginud. Kui mu tehisintellekt neid ületab, oleks veidi liialdus öelda, et minu tehisintellekt on toiminud inimtasemel. Asjaolu, et see tegi seda inimestega, kes mänguga tuttavad ei olnud, on mõnevõrra kulmu kergitav ja kahtlane.

REKLAAM

Toon selle välja, et hoiatada teid, et peaksite alati hoolikalt uurima kõiki näiliselt liiga suuri väiteid tehisintellekti kohta. Varem arutelu tehisintellekti eetika ja tehisintellekti seaduse üle võib avada teie silmad AI kohta valeväidete võimalusele. On täiesti valeväiteid ja on neid salakavalaid, osaliselt tõeseid ja osaliselt eksitavaid väiteid, mis on eriti segased. Peamine on küsida, miks need, kes oma AI kohta väidavad, seda teevad.

Kus on veiseliha?

Siin on see, mida Meta AI meeskond pidi oma inimtasemel jõudluse väite aluse kohta ütlema (lisateavet leiate paberist):

• “Cicero osales 40. augustist 19. oktoobrini 13 anonüümselt 2022 Diplomaatia mängus “blitz” liigas saidil webDiplomacy.net. See liiga mängis viieminutiste läbirääkimistega; need ajakontrollid võimaldasid mängud lõpetada kahe tunni jooksul. Cicero oli 10% rohkem kui ühe mängu mänginud osalejate hulgas ja 2 või enam mängu pidanud liigas 19 osaleja seas 5. kohal. Kõigi 40 mängu kokkuvõttes oli Cicero keskmine tulemus 25.8%, mis on enam kui kaks korda suurem kui tema 12.4 vastase keskmine tulemus 82%. Liiga raames osales Cicero 8-mängulisel turniiril, kus osales 21 osalejat, kellest 6 mängisid vähemalt 5 mängu. Osalejad said mängida maksimaalselt 6 mängu, mille asetus määratakse nende 3 parima mängu keskmise järgi. Cicero saavutas sellel turniiril 1. koha” (samas).

REKLAAM

On suur kergendus näha, et nad on püüdnud tõsiselt oma tehisintellekti väiteid sel juhul toetada (pidage meeles, et mitte kõik AI kasutajad seda ei tee).

Võite soovitada neil teha katse. Eksperiment koosneb inimmängijatest, kes arvatavasti ei teadnud, et nad mängivad AI-mängijaga (töös käsitletakse seda, miks see näis olevat usutav, nimelt ei saanud inimesed avalikult aru, et üks mängijatest oli AI, kuigi huvitav külg puutuja hõlmab lugu ühest mängijast, mis muutus kergelt kahtlustavaks, kuid mitte eriti). Need inimmängijad valiti eksperimentaalse ülesehituse olemuse järgi nii, et nad olid liigamängijad Diplomaatia ja me võime mõistlikult järeldada, et nad teadsid hästi, kuidas mängu mängida. Nad ei olnud algajad.

Esitatud statistika kohaselt, mida me käsitleme endise nimiväärtusena ning õigesti kogutud ja esitatud (erinevad andmed ja koodid on esitatud täiendavates materjalides), näis, et tehisintellekt on mängu piisavalt mänginud, et teha usutav, kuid kitsalt piiratud järeldus et see jõudis selle variandi puhul inimliku jõudluse tasemele Diplomaatia mängu ja nagu märgitud liiga kontekstis mängida inimeste vastu, kes olid pealtnäha kogenud mängijad.

Olen kindel, et mõnel teist võib tekkida tahtmine näägutada mängu mängimise juhtude arvu üle, võib-olla väites, et see on liiga väike, et teha julgeid kuulutusi. Teiseks segaduseks võib olla see, et osalejate esi10% sees olemine ei ole piisavalt kõrge, nii et enne, kui on saavutatud parim 1%, ei tohiks tehisintellekti jõudlusega uhkustada.

REKLAAM

Need segad tunduvad pisut tormavad.

Ma ütlen seda, sest õnneks väidet, et olete "üliinimeseks", ei kasutatud. Lugejad teavad kahtlemata minu närust ja hapu nägemust tehisintellekti töötajatest, kes teevad pidevalt liiga suuri avaldusi, et nende tehisintellekt on saavutanud üliinimliku staatuse. Ma ei lasku oma kaebustesse siinsete üliinimlike karjuvate väidete üle, vt link siin minu vaadete eest.

Minu mõte on antud juhul see, et ma usun, et inimliku jõudluse näitamine on üldiselt lubatud, eeldades, et kõik peavad meeles, et see on äärmiselt kitsas kontekstis ja et me ei püüa seda teha nn. üliinimlik. Samuti kordan ma ikka ja jälle piiratud konteksti põhjusel, mida ma järgmisena selgitan.

Kujutan ette, et mõned sotsiaalmeedia või naiivsed (võimalik, et halva mainega) reporterid võtavad inimtasandi esituse kontseptsiooni kontekstist täielikult välja.

Siin on see, mida ma kardan.

REKLAAM

Hoidke hinge.

Mõned väidavad, et AI on omandanud diplomaatia. Jah, diplomaatia jaoks väljatöötatud tehisintellektisüsteemi uurimine tõestas kahtlusteta, et tehisintellekt suudab ja on nüüd võimeline tegema kõike, mida inimesed diplomaatia heaks teevad.

Saatke välisdiplomaadid koju. Me saame need asendada AI-ga.

Maailm, nagu me seda teame, on muutunud. Oleme loonud tehisintellekti, mis on diplomaatias täiesti võrdne inimestega, ja suudame teha vaimse "loogilise" hüppe ideele, et tehisintellekt suudab nüüd teha kõike, mida inimesed suudavad. Voila, oleme nüüd tõestanud, et AI on inimestega samaväärne. Ilmselt pakub see uuring selgeid tõendeid tundliku AI kohta.

Pange tähele mu sõnu, see on kindlasti mõne kirjaniku veider, vastutustundetu ja tüütu suhtumine.

Ma ei räägi asjast. Liigume edasi.

REKLAAM

Kuidas AI töötab?

Siin on paberi lühikokkuvõte: „Cicero ühendab juhitava dialoogimooduli strateegilise arutlusmootoriga. Mängu igas punktis modelleerib Cicero, kuidas teised mängijad tõenäoliselt mängu oleku ja vestluste põhjal käituvad. Seejärel kavandab see, kuidas mängijad saavad oma vastastikust kasu pakkudes kooskõlastada, ja kaardistab need plaanid loomuliku keele sõnumitesse” (ibid).

Selles kiirkokkuvõttes on suutäis.

Lubage mul veidi lahti pakkida.

Inimmängija, kes mängib Diplomaatia peab ette nägema, mida teised inimmängijad tegema hakkavad. Soovite proovida teiste mängijatega läbi rääkida ja panna nad teie plaanidega kaasa minema. Nad püüavad teiega sama teha. Nad võivad sulle valetada. Sa võid neile valetada. Peate võitlema kuue teise mängijaga, kellel kõigil on oma plaanid ja lähenemisviisid.

REKLAAM

Selle mängu mitme agendi aspektid on mängu mängimiseks tehisintellekti väljatöötamise raskusastme jaoks üliolulised. Tehisintellekt peab jälgima, mida iga inimene võiks teha, mida nad ütlevad, et tahavad teha, ja mis tahes trikke, mida nad teiste mängijatega teevad. Seda tuleb kaaluda sellega, mida nad teile ütlevad, et nad kavatsevad teha, ja sellega, mida te neile ütlete, et teete.

Peadpööritav, kuid tavaliselt inimestele piisavalt lihtne.

Tehisintellekti valdkonna kõnepruugis nimetame seda mõistuse teooriaks (ToM). Mõelge sellele, et teie kui inimene kaldute teoreetiliselt selle üle, mida teised inimesed mõtlevad. Sa ei saa kellegi nööbikest avada ja tema mõtteid näha. Peate ära arvama, mis nende mõtted on. Võite neilt küsida, kuid see, mida nad teile räägivad, võivad olla nende mõtted või nende mõtete salakaval versioon.

Lisaks mõistuse teooria keerukusele peame sellesse hämarasse segusse lisama inimkeele.

Kui inimene suhtleb teiega oma loomulikus keeles, näiteks inglise keeles, on palju ruumi vigadeks ja valesti suhtlemiseks. Ma ütlen teile, et võtan riigi X üle, kuid ütlen ekslikult Y. Oopsie. Või kas ma ütlesin riiki X, aga arvasite ekslikult, et ma ütlesin riiki Y. Kui arvate, et sellist segadust ei saa juhtuda, kui kõik kasutavad tekstisõnumeid, siis eksite kõvasti. Võin kirjutada sõnumi, mis ütleb, et kavatsen rünnata riiki ja ma ei maini, millist riiki. Võib-olla on vihjatud, kumba ma "ilmselgelt" ründaksin. Mängija, kes saab minu sõnumi, võib eeldada, et pean viitama kaudselt riigile X, kuid võib-olla tahtsin, et nad seda arvaksid.

REKLAAM

Edasi ja edasi läheb.

Tuum seisneb selles, et meie uusimad edusammud AI-s loomuliku keele töötlemise (NLP) valdkonnas ja eriti uusimad generatiivsete AI- ja suurte keelemudelite (LLM-id) muudavad sellise loomuliku keele olukorra peaaegu teostatavaks. Varem ei olnud NLP tavaliselt piisavalt hea ja samuti polnud LLM-id veel paremini välja kujunenud.

Varem saatis tehisintellekt sõnumeid, mida te peaaegu kindlasti kohe tuvastasite, et need on kirjutatud skriptitud tehisintellektisüsteemiga. Sõnastus ei olnud ladus. See oli mallitud. See oli ilmselge kingitus, et AI on AI. Tänapäeval on palju raskem aru saada, et tehisintellekt pole nendes kontekstides inimmängija.

Nagu ülaltoodud tsitaadis mainitud, on see konkreetne AI välja töötatud nii, et see sisaldaks "strateegilise arutlusmootoriga juhitavat dialoogimoodulit" (ibid). Dialoog toimub järgmiselt: „Cicero loob dialoogi, kasutades eelnevalt väljaõpetatud keelemudelit, mida treeniti edasi inimeste mängude dialoogiandmete põhjal. Diplomaatia. Ülioluline on see, et lisaks sellele, et dialoogimudel põhines nii dialoogi ajalool kui ka mänguseisundil, koolitati dialoogimudel olema juhitav kavatsuste kaudu, mida me siin määratleme agendi ja tema kõnepartneri kavandatud toimingute kogumina.

REKLAAM

Seal pange tähele, et domeeni seadistus on ülioluline. Kui treeniksite ainult tavapärast dialoogi Internetis, ei oleks see tingimata sobilik Diplomaatia mängu kontekst. Need, kes mängu mängivad, on harjunud omamoodi stenogrammiga, et arutada mängu ja pakutud käike. Soovite, et AI teeks sama. Seega on keelemudeli koolitamine domeenispetsiifiliste dialoogiandmete põhjal tähelepanuväärne lähenemisviis.

Väidetava strateegilise arutlusmootori kohta ütlevad nad järgmist: „Cicero kasutab kavatsuste ja tegevuste nutikaks valimiseks strateegilise mõtlemise moodulit. See moodul käivitab planeerimisalgoritmi, mis ennustab kõigi teiste mängijate poliitikat mängu oleku ja senise dialoogi põhjal, võttes arvesse nii erinevate tegevuste tugevust kui ka nende tõenäosust inimmängudes, ning valib nende ennustuste põhjal Cicero jaoks optimaalse toimingu. . Planeerimine tugineb väärtus- ja poliitikafunktsioonile, mida koolitati isemängiva RL kaudu, mis karistas agenti inimkäitumisest liiga kaugele kaldumise eest, et säilitada inimestega ühilduv poliitika” (samas; pange tähele, et RL on lühend sõnadest Reforcement Learning).

Mängu ajal kalibreerivad mängijad pärast iga käiku oma positsioone uuesti. Sellesse mängu ei saa minna eelnevalt määratletud fikseeritud strateegiaga, mis on paindumatu ja kivisse raiutud. Peate oma tegevusi muutma vastavalt sellele, mida teised mängijad teevad. AI peaks olema programmeeritud samamoodi tegema. Staatiline strateegia iseenesest puudub. Selle asemel jätkake olukorraga samm-sammult kurssi, mõeldes välja, millised on järgmised parimad sammud.

AI tehnoloogilised alused töötati välja järgmiselt: „Saime andmestiku 125,261 XNUMX mängust Diplomaatia mängiti veebis saidil webDiplomacy.net. Neist 40,408 12,901,662 mängu sisaldas dialoogi ning mängijate vahel vahetati kokku XNUMX XNUMX XNUMX sõnumit. WebDiplomacy tegi mängijakontode identifitseerimise ja isikut tuvastava teabe (PII) automaatse redigeerimise. Edaspidi nimetame seda andmekogumit veebidiplomaatiaks” (ibid).

Sarnaselt sellele, kuidas saaksite AI-d malet mängima treenida, mille abil saate haarata miljoneid malemänge ja lasta tehisintellektil mängude mängimise mustrite sobitada, selleks on tehisintellekt. Diplomaatia mängimine oli võrreldavalt väljakujunenud.

Need, kes tunnevad tehisintellekti, võivad olla uudishimulikud selle kohta, milliseid baasmudeleid nad kasutasid: „Võtsime baasmudeliks R2C2 (22) – 2.7B parameetriga trafol põhineva kodeerija-dekoodri mudeli, mis on eelnevalt koolitatud teksti Internetist, kasutades BART müratõrjeobjekti. Eelkoolitatud baasmudelit õpetati seejärel täiendavalt WebDiplomacy alal standardse maksimaalse tõenäosuse hinnangu abil” (ibid).

Lisaks võtsid nad mõnevõrra ebahariliku ja intrigeeriva lähenemisviisi teiste mängijate modelleerimisele, pidades silmas nende eeldatavat poliitikat: „Koostöömängude populaarne lähenemisviis on modelleerida teiste mängijate poliitikat juhendatud õppimise kaudu inimandmetel, mis on tavaliselt nimetatakse käitumuslikuks kloonimiseks (BC). Kuid puhas BC on habras, eriti kuna juhendatud mudel võib õppida dialoogi ja tegude vahelisi valesid seoseid. Selle probleemi lahendamiseks kasutas Cicero mängijate poliitika modelleerimiseks piKL-i (26) variante. piKL on iteratiivne algoritm, mis ennustab poliitikat, eeldades, et iga mängija i püüab nii maksimeerida oma poliitika πi eeldatavat väärtust kui ka minimeerida KL erinevust πi ja BC-poliitika vahel, mida me nimetame ankurpoliitikaks τi (ibid).

Ma arvan, et see hõlmab ülemise joone tahke ja annab teile korraliku ülevaate sellest, mida tehisintellekt teeb ja kuidas see määratud ülesannet täidab.

Järeldus

Tahaksin veel palju mainida, kuid ma viitsin selle aruteluga pikalt ja püüan käsitleda vaid mõnda nurgakivi aspekti. Püüan järgmises postituses sellest rohkem rääkida.

Kas olete kunagi kuulnud vangi dilemmast?

See on klassikaline otsustusprobleem.

Vangide dilemma seisneb selles, et peate otsustama, kas lähete kaasvangi kallale või kaklete. Teine vang võib teid samuti välja rottida. On olemas premeerimisfunktsioon, et kui sa rotid teise vangi välja ja nemad sind välja ei roti, on see omamoodi võit sinu jaoks. Kui nad teid välja rotivad ja teie neid välja ei tee, on see nende jaoks omamoodi võit ja teie jaoks kaotus. Kui te mõlemad teineteisest välja rabate, kaotate sisuliselt mõlemad. Vaadake minu kajastust üksikasjalikult aadressil link siin.

Millise strateegia leiaksite vangide dilemmaga silmitsi seistes?

Kui see oli ühekordne tehing, saate peaaegu mündi visata. Kui olukord korduks ikka ja jälle ja teil oleks tegemist sama teise vangiga, võite leida mustri, mis võib ilmneda. Üks populaarsemaid ja sageli soovitatavamaid mustreid on tuntud kui titt-taat. Ükskõik, mida teine ​​vang teeb, teete sama järgmisel käigul. Kui nad sind välja ei roti, siis sina ei pane neid välja. Kui nad teid välja rotivad, siis järgmisel käigul rotite nad välja.

Võite olla hämmingus, kuidas see kõik on seotud tehisintellektist inspireeritud diplomaatiaga mängimise ajal Diplomaatia.

Siin on asi.

Läbirääkimistel teistega pead sageli otsustama, kas räägid neile tõtt või valetad. Valetamise probleem on see, et kui jääte valega vahele, siis tõenäoliselt ei usalda teine ​​inimene teid sellest ajast peale. Nad ei pruugi teid alguses täielikult usaldada, kuid nüüd, kui olete oma kätt näidanud, et te tõepoolest valetate, otsustavad nad kahtlemata, et olete valetaja.

Mõned mängijad Diplomaatia valetab pidevalt. Nad usuvad, et see on parim strateegia. Valetage, valetage ja rohkem valesid. Teised mängijad lähevad täiesti vastupidiseks. Nad väidavad, et soovite hoiduda valetamisest, kui saate seda teha. Kasutage valet ainult kõige vajalikumates olukordades. Valetamist säästes suudate luua teiste mängijatega usaldust. Kui olete valetamise teel ja teid tuvastatakse, ei usu keegi teie sõna.

Cicerot kirjeldavas artiklis mainitakse seda kaalutlust: „Lõpuks on diplomaatia eriti keeruline valdkond, sest edu eeldab usalduse loomist teistega keskkonnas, mis julgustab mängijaid kedagi mitte usaldama. Iga pöörde toimingud toimuvad samaaegselt pärast mittesiduvaid privaatseid läbirääkimisi. Edu saavutamiseks peab agent arvestama riskiga, et mängijad ei pruugi oma sõnale truuks jääda või et teised mängijad võivad ise kahelda agendi aususes” (ibid).

Paberi ja lühikeste videote kohaselt leidsid teadlased lõpuks, et tehisintellekti võimalikult palju tõtt rääkimine tundus olevat parem üldine strateegia. Mõnes mõttes võiksite seda võrrelda vangi dilemma tihase vastu. Alusta tõe rääkimisest. Kui teie vastane räägib tõtt, jätkate tõe rääkimist. Kui nad hakkavad valetama, peate hindama, kas jääda tõe rääkimise juurde või minna üle valetamisele.

Arvatakse, et see on südantsoojendav leid.

Pidage meeles, et selle keeruline ja intrigeeriv osa Diplomaatia on see, et teete seda kuue teise mängija suhtes (tuntud kui mitme agendi probleem). Sa võid olla nende kõigiga otsekohene. Või võib-olla mõnele tõene, kuid teistele mitte. Samuti on see aspekt, et kui valetate ja jääte vahele ühele teisele mängijale valetamisega, võivad teised mängijad seda potentsiaalselt jälgida või järeldada. Seega teatakse või eeldatakse, et te valetate, isegi kui te ei valetanud konkreetsele mängijale, kelle kohta te loodate, et olete aus ja kelle suhtes proovite olla aus.

Inimesed kipuvad diplomaatia teostamisel oma vale-tõe lähenemisviise välja selgitama ja arendama. Olukorrasõltuvused võivad olla suureks teguriks. Panused liinil on otsustava tähtsusega. Mängu tulevad paljud tegurid.

Oleks põnev, kui oleks AI-ga infundeeritud Diplomaatia masinpõhine mängija mängib väga palju mänge, et näha, millised tulemused võivad põhiliselt vihjata.

Samuti võiksime AI-d võrrelda vähem kui kuue mängijaga, et näha, kuidas see asju muudab. Võiksime lisada ka tehisintellekti, kuna tegemist on rohkem kui ühe mängijaga. Oletame näiteks, et meil on viis inimmängijat ja kaks AI-mängijat (seadistame AI-mängijad eraldi eksemplaridena, et need ei oleks arvutuslikult üks ja sama). Kuidas on lood nelja inimese ja kolme tehisintellektiga? Aga kuus tehisintellekti ja üks inimene?

Teine võimalus oleks AI vastandada ainult tehisintellektiga. Nii saaksime kiires järjekorras läbi joosta gaziljoni mängu. Seitsme erineva AI eksemplari seadistamine. Igaüks neist on omaette mängija. Kuna see kõik on arvutis, saame neid pidevalt käivitada ja toota tuhandeid või miljoneid mängueksemplare.

Muidugi on AI-versus-AI probleem selles, et oleme eemaldanud inimmängijad. Me ei tea, et AI versus AI peegeldab seda, mida inimmängijad teeksid. Igal juhul võib märgata huvitavaid tulemusi.

Olin varem öelnud, et üks seda tüüpi tehisintellekti piirang on see, et see on tavaliselt kitsalt fokusseeritud. Me ei saa kohe teada, et AI, mis mängib Diplomaatia rakendatakse reaalses diplomaatias. Lisaks võib-olla AI, mis sobib hästi Diplomaatia ei lähe eriti hästi teistes diplomaatiale orienteeritud võrgumängudes. See ei pruugi üle minna ja selle asemel olla omamoodi ühe triki poni.

Nagu on märgitud koostise kohta tehtud uuringus DipGame:

• „Me väidame, et reaalsetel läbirääkimistel on oluline valdkonna tundmine ja seda peaks oskama põhjendada. Näiteks ei saa loota, et antiigiäris tehakse tulusaid tehinguid ilma antiigiteadmisteta, hoolimata sellest, kui hea on läbirääkimisi pidada. Pealegi peaks hea läbirääkija suutma arutleda ka oma vastaste soovide üle. Näiteks prooviks hea automüüja välja selgitada, mis tüüpi auto vastab kõige paremini tema kliendi vajadustele, et suurendada kasumliku tehingu tegemise võimalusi” (nagu varem viidatud: Angela Fabregues ja Carles Sierra, „DipGame: A Challenging Negotiation Katsealus", Tehisintellekti insenerirakendused, oktoober 2011).

Kui AI meisterlikkus on sisse saanud Diplomaatia Kui juhtub, peaksid kõik silmad olema tehisintellekti kasutamisel või taaskasutamisel muude diplomaatiaga seotud mängude lahendamiseks. Lisaks tuleks uurida jõupingutusi tehisintellekti kasutamiseks reaalsetes diplomaatiatingimustes.

Lõpetan praegu mõne eetilise tehisintellekti kaalutlusega.

Esiteks oli rahustav märgata, et Meta AI meeskond tunnistas, et nende töö hõlmab tehisintellekti eetika tagajärgi. Tekivad kainestavad küsimused. Kas on õige "lollida" inimesi tehisintellektiga mängima, ütlemata neile, et nad seda teevad? Kas tehisintellekti loodud loomulik keel võib tahtmatult sisaldada solvavaid sõnastusi, mis inimmängijatele edastatakse? Ja nii edasi.

Vaadake kindlasti, kuidas nad tegelesid eetiliste tehisintellektiga seotud probleemidega oma artikli lisamaterjalides (SM): „Arutame selle uurimistöö eetilisi kaalutlusi SM-is, sealhulgas andmete kasutamise privaatsuskaalutlusi (SM, §). A.1), võimalikud kahjud, mis tulenevad mürgisest või kallutatud keele genereerimisest (SM, §A.2), eesmärgipärase dialoogitehnoloogia väärkasutamise võimalused (SM, §A.3) ja tehisintellekti agentide avalikustamine inimmängijatele (SM). , §A.4)” (samas).

Vajame rohkem tehisintellekti arendajaid ja nende juhtkonda, et nad oleksid teadlikud eetilisest tehisintellektist ning astuksid tähelepanelikult samme, et olla tehisintellekti töös ettevaatlikud ja kaalutletud. Lisaks peavad nad tagama, et nad on läbipaistvad selle kohta, milliseid eetilisi AI-meetmeid nad on võtnud ja milliseid eeldusi nad on teinud.

Minu praeguseks viimaseks esemeks on üldine ärevus antropomorfiseerimine KOHTA.

Kui täiustame tehisintellekti nii, et see näib olevat väga diplomaatiline, kas see eksitab inimesi oletama või uskuma, et tehisintellekt on kõigis aspektides samaväärne inimestega?

See on lihtne libe kallak. Kohmakas AI, millega suhtlete, annab vihje, et tõenäoliselt on tegemist tehisintellektiga, mitte inimesega. Sujuvalt itereeritav tehisintellekt, mis näeb välja ülima diplomaatilise tasakaalukuse, paneb inimesed tõenäoliselt kõhklematult langema sellesse lõksu, et tehisintellekt on inimene, sealhulgas nii, nagu oleks sellel inimlik mõistus ja kõik inimeste mõistmisvõimed.

Vahemärkusena mõistke ka, kuidas seda saab ära kasutada a Diplomaatia mängu. Inimmängija, kes näeb peaaegu poeetilisi näivaid sõnumeid teiselt mängijalt, võib mõista, et see peab olema tehisintellekt (nüüd palju kaugemale eelnevast kohmakast tehisintellektist), samas kui teised inimesed ei suudaks nii selgelt sõnumeid koostada. Muidugi, kui tehisintellekt jätkab kohanemist, võib see muuta poeetilist sõnastust, et peegeldada täpsemalt tegelike inimmängijate napisõnalist ja nigelat sõnastust. Inimmängijad võivad omakorda minna üle poeetilisele keelele, püüdes anda endast välja, et nad on inimesed. Idee seisneb selles, et võib-olla on teised inimmängijad valmis tehisintellekti kaudu kaasinimestega ühtlustama.

Järgmine asi, mida teate, hakkab mängimine muutuma prooviks välja selgitada, kes on inimene ja kes on AI. Kui saate aru, milline on kumb, annab see teile võib-olla eelise. Teisest küljest võib see olla mitte. AI võib lõpuks olla mängus sama tark kui inimesed. Teie oletamine, kumb on kumb, ei too teile palju kasu. See võib segada mängu võitmisele keskendumist, olenemata sellest, kas käepärast on AI-mängijad või inimmängijad.

Teadlased, kes soovivad teha inimfaktoritega seotud uuringuid sellise meelepainduva kontseptsiooni kohta, võiksite kaaluda AI-ga infundeeritud tehnoloogia kasutamist. Diplomaatia mängija ja otsige valmis Diplomaatia liigaturniirid, et uurida tekkivaid inimese ja tehisintellekti tuvastamise ja käitumise kohandamise strateegiaid.

Teeme selle kokku.

Mark Twain ütles diplomaatia kohta nii: "Andmise ja võtmise põhimõte on diplomaatia põhimõte - anna üks ja võta kümme." Kas see on aus hinnang inimeste toimimisele või on see lihtsalt huumor, mis küüniliselt, kuid valesti hindab inimese seisundit?

Mõelge nendele lisaküsimustele:

• Kui suudame teha tehisintellektiga diplomaatiat, siis kas see õpetab meile, kuidas inimesed diplomaatiat loovad ja võib-olla võimaldavad inimkonnal diplomaatilise olemise oskust täiustada?
• Kas loome tehisintellekti võltsi, mis näib olevat tundlik, kui see pole midagi sarnast, kõik tänu sellele, et jänest on arvutuslikult mütsist välja tõmmatud, et näiliselt näidata inimlikku diplomaatiat?
• Kas on võimalik leida tasakaal selle vahel, et tehisintellekt on läbi imbunud diplomaatiast, nii et vahepeal hoiatatakse meid, et see on endiselt igapäevane tehisintellekt ja ei peaks seda seetõttu antropomorfiseerima?

Nad ütlevad, et diplomaatia on kunst lasta kellelgi teisel oma tahtmist teha. Veenduge, et meie tee oleks pigem inimeste, mitte tehisintellekti moodi. Olles küll diplomaatiline, aga nüüd, kui ma selle üle hoolikalt mõtlen ja juhuks, kui me peaksime sattuma AI-ülemateni, peaksime ehk lubama, et meie tee on tehisintellekt, mis loodetavasti haakub inimlikule sobivale viisile.

Üritan lihtsalt teostada pisut kavalat diplomaatiat.