Noe om Alice og Bob

Bots med kreative språkkunnskaper har grepet den populære fantasien. De har også vekket angsten for en robocalypse på nytt

Alice og Bob, Alice og Bob Facebook, Facebook-roboter, kunstig intelligens-roboterAlice og Bob, Facebook-robotene som har blitt beryktet på grunn av en uventet mangel på programmeringslogikk, er en del av et eksperiment for å bygge forhandlingsmaskiner. C R Sasikumar

Internett har brent med dramatiske undergangsoverskrifter som proklamerer at Facebook måtte trekke støpselet til useriøse roboter med kunstig intelligens (AI) som utviklet et eget språk, der de førte umenneskelig private samtaler. De leser som teasere for en Terminator globocalypse, som er den verktøybrukende primatens verste mareritt – å bli erstattet av sin egen skapelse, maskinen.

Virkeligheten er mindre dramatisk, men mer spennende. Bots er autonome agenter som opprinnelig var programmert til å utføre husholdningsoppgaver på kommunikasjonskanaler, eller for å prøve å bestå Turing-testen. De kan logge deg på, sparke deg ut hvis du oppfører deg dårlig, holde chatterom åpne når ingen er hjemme, gi informasjon og maskere seg som mennesker. På Internet Relay Chat-systemet var Eggdrop-boten tidenes favoritt.

Barnebarna til slike vaktmesterroboter er innebygd i moderne søkeagenter og messengers og har AI-funksjoner. De snakker med brukere på samme måte som et menneske, svarer på rutinemessige spørsmål og gir råd. Hvis telefonen din ser ut til å kjenne tankene dine og henter frem de riktige tingene uten å måtte bli spurt, må mye av æren gå til roboter som jobber bak kulissene. Som mennesker kan roboter lære av erfaring og er bestemt til større ting i virkelige situasjoner.



Alice og Bob, Facebook-robotene som har blitt beryktet på grunn av en uventet mangel på programmeringslogikk, er en del av et eksperiment for å bygge forhandlingsmaskiner. De fant rett og slett ut hvordan de skulle dele et sett med gjenstander, for eksempel baller, slik at ingen av partene følte seg lurt. Mens Alice forhandlet, kom Alice til å begynne med uforståelige uttalelser som: Balls har null til meg til meg til meg til meg til meg til meg... Og de skumle overskriftene fulgte.

Læring er drevet av insentiver, som lærere og foreldre vet. I dette tilfellet ble belønningssystemet for øvelsen definert - en bedre andel og gjensidig tilfredshet, essensen av forhandlinger. Men det var ingen insentiv for robotene til å fortsette å kommunisere på engelsk, som er et notorisk ulogisk språk. Så de gled inn i en forenklet, mer effektiv Newspeak-lignende argot, som ikke er helt engelsk, men ikke uforståelig som annonsert.

Alices uttalelse, som har blitt feillest som en påstand om maskinuavhengighet, indikerte bare forferdelse over å være kortsluttet (ha null), og hver for meg sto for et objekt hun krevde. Hun gjorde akkurat jobben hun var programmert til: Forhandle like hardt som en butikkeier i Istanbuls store basar. Og hvis hun fant ut at dronningens engelske kom i veien, var hun ikke alene. Mange raser i de tidligere koloniene følte at mestertungen hindret kommunikasjonen i lokalsamfunnene deres.

Bare profesjonelle menneskelige forhandlere trenger å være engstelige hvis gigantene i Silicon Valley investerer i forhandlingsprogrammer. Terrorister og toppfolk bør også frykte forsvinner, for i gisselsituasjoner og internasjonale avtaler kan de stå overfor en uransakelig, uforsonlig maskin som er mye smartere enn Deep Blue, IBM-superdatamaskinen som utfordret sjakkmesteren Garry Kasparov i 1996.

Trangen til å utvikle private språk er en veldig menneskelig egenskap. Før børser ble datastyrt, kommuniserte aksjemeglere på handelsgulvet bud med håndsignaler som var uforståelige for andre. I århundrer har rettshåndhevelse vært forvirret av tyvenes skråninger, de kunstige språkene til domfelte som er vrøvl for fangevokterne deres. Blant engelsktalende kriminelle fra det 20. århundre betydde tullordet arkitnay: Hold kjeft, noen avlytter. I India studerte William Henry Sleeman Ramaseeana, kanten i Thuggee, og publiserte et vokabular i 1836. Et av Tom Stoppards minst fremførte, men mest spennende skuespill er Doggs Hamlet, der skolebarn fremfører Shakespeare på deres språk, Dogg. Det var litt som et transponeringssiffer. For eksempel betydde ettermiddager hei i Dogg.

Ikke bry deg om dommedagsmennene, det som er interessant med Alice og Bob er at ved å skape et språk har de forrådt en veldig menneskelig egenskap, som de ikke var eksplisitt programmert til å vise. For 60 år siden ble de første robotene skrevet for å utforske nettopp dette spørsmålet: Kan maskiner programmeres til å oppføre seg som mennesker? Kan de bestå Turing-testen? Uttalt i en artikkel fra 1950 med tittelen Computing Machinery and Intelligence, foreslo Turing i hovedsak at hvis en maskins kommunikasjon ser ut til å være menneskelig, så bør maskinen betraktes som menneskelig.

Den første naturlige språkbehandlingsroboten som gikk ut av laboratoriet og fikk massepopularitet var Eliza, opprettet i 1964 av Joseph Weisenbaum ved MIT. Han skrev det for å demonstrere at menneske-maskin tekstkommunikasjon ikke kunne stige til nivået av en menneskelig samtale. Tvert imot, Eliza reiste forventningene til publikum om at den ville bestå Turing-testen. Tretti år senere ble enda større forhåpninger inspirert av Julia, skapt av Lycos-grunnlegger Michael Mauldin for å konkurrere om Loebner-prisen, den hellige gral fra Turing-testingen. Men utover et punkt, slynget Julias chat seg ut i tilfeldige spekulasjoner om egenskapene til hunder og katter (du kan chatte med en moderne versjon av henne på scratch.mit.edu/projects/2208608).

Nå har roboter med kreative språkkunnskaper grepet den populære fantasien, og vekket angsten for en robokalypse på nytt. Men en utvikling ved Googles AI-lab er faktisk mer spennende. I september 2016 lanserte Google sitt Neural Machine Translation System, som bruker dyp læring på språk. To måneder senere presset de på konvolutten: Hvis en maskin lærte å oversette for eksempel mellom hindi og tysk, og mellom hindi og engelsk, kunne den oversette mellom engelsk og tysk uten brospråket til hindi? Det kunne, noe som tyder på at det nevrale nettverket hadde lært noe grunnleggende om hvordan sinnet kobler begreper og grammatikk for å smi språk. Den lille, gule, iglelignende Babel-fisken, den levende universelle oversetteren som Douglas Adams drømte om på slutten av syttitallet, svever nå nær øret ditt.

Selvfølgelig, siden det ikke er noen langsiktig prognose for AI, bør advarselen til folk som burde vite bedre, som Elon Musk og Stephen Hawking, gis behørig oppmerksomhet. Det bør være regulering, til tross for protester fra tilhengere av friheten til å innovere, som Mark Zuckerberg. Og det bør utvikles en generell konsensus, enighet om linjer som ikke må krysses, som ved inngrep i det menneskelige genomet. Men det kan ikke benektes at eksperimentene på Facebook og Google fremmer det opprinnelige formålet med AI, som var å modellere og forstå aspekter ved menneskesinnet. De skumle mediehistoriene de tiltrekker seg er forbigående sensasjoner. Dagen etter egner de seg til å pakke inn fisk.