Kan en kunstig intelligens-maskin være bevisst, del II? | Norsk / Norwegian Translation / Oversettelse

Original by David Mumford.

Kan en kunstig intelligens-maskin være bevisst, del II?

12. juli 2019

Siden jeg postet «Kan en kunstig intelligens-maskin være bevisst», har jeg lest to bøker som argumenterer for troen på at bevisste kunstige intelligenser er på vei og vi bør forberede oss. Jeg ønsker å diskutere begge bøkene og vurdere mine egne argumenter i lys av dem. Min første lesning var skjønnlitteratur: Ian McEwans siste bok Machines Like Me der en liten gruppe bevisste robotmenn og -kvinner produseres og selges over hele verden. Romanen hans er uten tvil en ideell måte å gjøre konseptet med en bevisst robot både plausibelt og skremmende. De to hovedpersonene er ikke i tvil om at deres Adam (som han heter) er bevisst og heller ikke hans karakter Turing (en versjon av Turing som lever et langt og fantastisk vitenskapelig liv). Men det ender ikke bra! Min andre lesning varEgotunnelen , av den tyske filosofen Thomas Metzinger. Denne boken undersøker uttømmende hva bevissthet er fra biologiske, psykologiske, informasjonsteoretiske og filosofiske perspektiver. Den presenterer svært relevante data fra Out-of-Body Experiences, klare drømmer og mye annet. Etter en analyse av hva som foregår i menneskelige hjerner, skriver han en seksjon med tittelen «Hvordan bygge et kunstig bevisst emne og hvorfor vi ikke bør gjøre det» som skisserer hvordan det faktisk kan gjøres. La meg se på begge bøkene mer detaljert.

 

Romanforfatteren

 

Spoilervarsel: Jeg kan ikke diskutere Machines Like Me uten å avsløre handlingen. McEwan stuper rett inn med roboten deres Adam som forelsker seg og sover med Miranda, kjæresten til Adams-kjøperen Charlie. Selv om han regelmessig må lades opp av en plugg i navlen, har han blitt lastet med grunnleggende menneskelige følelser, delvis av at Charlie og Miranda har klikket på et sett med online-valg. Deretter bryter han Charlies håndledd når Charlie utilsiktet strekker seg etter av-knappen på halsen hans. Men de fortsetter når Adam ber om unnskyldning til Charlie, bare for å finne i oppløsningen at ideen hans om moralsk oppførsel er totalt ute av synkronisering med menneskehetens forvirrende moralske kompromisser, med handlinger som sender Miranda i fengsel. Charlie, av sin kjærlighet til Miranda, knuser Adams hodeskalle og Turing stempler ham som en morder.

McEwan gjør absolutt høy fra mitt presise poeng: at menneskelige følelser er ekstremt komplekse og kronglete, og derfor må man stille spørsmål ved om en robot noen gang virkelig kan «forstå» dem. Likevel har jeg hevdet at en vesentlig del av det å være bevisst nettopp er å «føle» følelser. Jeg setter dette i anførselstegn som følelse og forståelse er ord som berører hva bevissthet er. Det virker for meg som McEwan gjør et for godt poeng ved å tillate Adam mange intense følelser, men likevel unnlater å gi ham noen dypere forståelse av hvordan følelser fungerer.

Hans fiasko fremhever det menneskelige atferdsmønsteret uttrykt med ordet «lojal». Dette ordet refererer til en blanding av følelser og handlingsmønstre, både fortid og fremtid, og er typisk for den komplekse sammenvevingen av følelser og aktiviteter i mennesker. For eksempel kan de sentrale prinsippene for skotsk etikk godt være sparsommelighet, ærlighet og lojalitet, alle tre er følelsesmessig fraktet aktiviteter. Adam er sparsommelig og ærlig, men svikter kravene til lojalitet. På den annen side skrev min kusine Ruth Silcock en serie barnebøker om en katt som heter Albert John. I sin første bok skrev hun «Albert John var en lojal katt», forutsatt at dette konseptet var helt klart for hennes unge lesere. Men ikke slik for Adam. Derfor er McEwan i det store og hele enig i min tro på at modellering av menneskelige følelser og deres resulterende aktiviteter i en robot er et stort hinder, selv om karakterene hans ser roboten deres som emosjonell nok til å bli ansett som bevisst.

 

Filosofen

 

Metzingers bok er lett den mest innsiktsfulle disseksjon av bevissthetens natur jeg har lest. Hans grunnleggende tese er at hjernen vår konstruerer for oss en fenomenal selvmodell , som han mener «den bevisste modellen av organismen som helhet som aktiveres av hjernen» og som han også kaller Egoet (s. 4). Han utdyper dette slik (s.7):

Først genererer hjernen vår en verdenssimulering, så perfekt at vi ikke gjenkjenner det som et bilde i tankene våre. Da genererer de et indre bilde av oss selv som helhet. Dette bildet inkluderer ikke bare vår kropp og våre psykologiske tilstander, men også vårt forhold til fortiden og fremtiden så vel som til andre mennesker. Det indre bildet av personen-som-helhet er det fenomenale egoet, «jeget» eller «selvet» slik det fremstår i bevisst opplevelse.
Han sier at vi føler at vi bevisst har erfaringene som kroppene våre møter i verden fordi dette integrerte indre bildet av oss selv er fast forankret i våre følelser og kroppslige sansninger og fordi vi ikke er i stand til å gjenkjenne selvmodellene våre som bare modeller , fordi de er gjennomsiktige som et glassvindu som vi ser verden gjennom. Dermed blir han ledet til å beskrive livet vi lever som en egotunnel . Våre sinn er fylt av en modell som vi tar for virkeligheten, derfor er vi i en tunnel som vi beveger oss gjennom etter hvert som tiden går. Selv om han ikke nevner Schopenhauer, virker mye av denne teorien lik Schopenhauers ideer: Die Welt ist meine Vorstellung(Verden er min representasjon) er påstanden han åpner sitt magnum opus Die Welt als Wille und Vorstellung med .

 

Metzinger gjør mye ut av den såkalte gummihåndillusjonen. Her sitter forsøkspersonen ved et bord med venstre hånd bak en barriere, men en venstre gummihånd er plassert på bordet foran ham. Da blir gummihånden kilt av en fjær mens, usynlig, blir den ekte venstrehånden hans også kilt. Etter en viss tid begynner forsøkspersonen å føle at gummihånden er hans egen, at en usynlig arm kobler den til kroppen hans og kiler alene får ham til å føle at den virkelige hånden kiler. Metzinger tolker dette som å lure sinnet til å endre sin selvmodell til en uvirkelig representasjon som fortsatt føles helt ekte. På samme måte diskuterer han inngående fenomener som ut-av-kroppen-opplevelser og klare drømmer (hvor du er klar over at du drømmer, men fortsatt føler at du lever i en levende, overbevisende drømmeverden). Merkelig nok gjør han det ikke Ikke beskrive noen av de andre virtuelle virkelighetseksperimentene som det hvor du, med briller som viser deg gå over en virtuell klippe, faller ned med ekte frykt (men faktisk ned på et teppe i et tomt rom). Jeg var et fag og opplevde dette på Brown. Han diskuterer heller ikke den enorme virtuelle verdenen i filmen «The Matrix» og dagens mote for virtual reality-briller og oppslukende underholdning. Men disse forsterker sikkert bare argumentet hans om at vi lever i en selvmodell og altfor lett kan lures til å ta en alternativ verden som virkelighet. Han diskuterer heller ikke den enorme virtuelle verdenen i filmen «The Matrix» og dagens mote for virtual reality-briller og oppslukende underholdning. Men disse forsterker sikkert bare hans argument om at vi lever i en selvmodell og altfor lett kan lures til å ta en alternativ verden som virkelighet. Han diskuterer heller ikke den enorme virtuelle verdenen i filmen «The Matrix» og dagens mote for virtual reality-briller og oppslukende underholdning. Men disse forsterker sikkert bare argumentet hans om at vi lever i en selvmodell og altfor lett kan lures til å ta en alternativ verden som virkelighet.

 

Vismannen

 

Min favoritthistorie fra den rike arven etter hinduistisk mytologi er historien om vismannen Narada og hans søken etter å forstå Vishnus Maya . Det illustrerer at Metzingers fenomenale selvmodell har antecedanter som går tilbake i det minste til det første årtusen fvt. Det starter med at Narada utfører så mange innstramminger at han får den åndelige kraften til å be Vishnu om en velsignelse. Han ber om en forståelse av Maya (et eldgammelt sanskritord for «illusjon»). Historien fortsetter, i fortellingen av Heinrich Zimmer ( Myths and Symbols in Indian Art and Civilization , s.32-34):

«Vis meg den magiske kraften til Mayaen din,» hadde Narada bedt, og Gud svarte: «Jeg vil. Bli med meg.» med et tvetydig smil på de vakre buede leppene. Fra den behagelige skyggen av den beskyttende eremittlunden førte Vishnu Narada over en naken landstrekning som flammet som metall under den nådeløse gløden fra en brennende sol. De to ble snart veldig tørste. På et stykke avstand, i det grelle lyset, oppfattet de stråtakene til en bitteliten grend. Vishnu spurte: «Vil du gå dit og hente meg litt vann?» «Visst, Herre,» svarte helgenen, og han dro til den fjerne hyttegruppen. Guden slappet av i skyggen av en klippe for å vente på at han skulle komme tilbake.

Da Narada kom til grenda, banket han på den første døren. En vakker jomfru åpnet seg for ham, og den hellige mannen opplevde noe han aldri hadde drømt om til den tid: øynenes fortryllelse. De lignet hans guddommelige Herre og venn. Han sto og så. Han glemte rett og slett hva han var kommet for. Jenta, mild og ærlig, ba ham velkommen. Stemmen hennes var en gyllen løkke om halsen hans. Mens han beveget seg i et syn, gikk han inn døren. Beboerne i huset var fulle av respekt for ham, men likevel ikke det minste sjenerte. Han ble hederlig mottatt, som en hellig mann, men likevel ikke som en fremmed; snarere som en gammel og ærverdig bekjent som hadde vært lenge borte. Narada ble hos dem imponert over den muntre og edle holdningen, og følte seg helt hjemme. Ingen spurte ham hva han var kommet for; han så ut til å ha tilhørt familien i uminnelige tider. Og etter en viss periode ba han faren om tillatelse til å gifte seg med jenta, noe som ikke var mer enn alle i huset hadde ventet. Han ble medlem av familien og delte med dem de eldgamle byrdene og enkle gledene til en bondehusholdning.

Tolv år gikk; han hadde tre barn. Da svigerfaren døde, ble han overhode for husstanden, og arvet godset og forvaltet det, passet storfeet og dyrket åkrene. Det tolvte året var regntiden usedvanlig voldsom; bekkene svulmet opp, elver strømmet nedover åsene, og den lille landsbyen ble oversvømmet av en plutselig flom. Om natten ble halmhyttene og storfeet fraktet bort og alle flyktet. Med den ene hånden som støttet sin kone, mens den andre ledet to av barna hans, og bærende den minste på skulderen, gikk Narada i all hast. Han smiet et hode gjennom stummende mørke og pisket av regnet, vasset gjennom glatt gjørme, sjanglet gjennom virvlende vann. Byrden var mer enn han kunne klare med strømmen som trakk tungt på bena hans. En gang, da han snublet, barnet gled fra skulderen og forsvant i den brølende natten. Med et desperat gråt slapp Narada de eldre barna for å fange den minste, men var for sent ute. I mellomtiden førte flommen raskt bort de to andre, og selv før han kunne innse katastrofen, rev han kona fra seg, feide sine egne føtter under ham og kastet ham hodestups i elven som en tømmerstokk. Bevisstløs ble Narada strandet til slutt på en liten klippe. Da han kom tilbake til bevissthet, åpnet han øynene på et stort ark med gjørmete vann. Han kunne bare gråte. feide sine egne føtter under ham og kastet ham hodestups i elven som en tømmerstokk. Bevisstløs ble Narada strandet til slutt på en liten klippe. Da han kom tilbake til bevissthet, åpnet han øynene på et stort ark med gjørmete vann. Han kunne bare gråte. feide sine egne føtter under ham og kastet ham hodestups i elven som en tømmerstokk. Bevisstløs ble Narada strandet til slutt på en liten klippe. Da han kom tilbake til bevissthet, åpnet han øynene på et stort ark med gjørmete vann. Han kunne bare gråte.

«Barn!» Han hørte en kjent stemme, som nesten stoppet hjertet hans. «Hvor er vannet du gikk for å hente til meg? Jeg har ventet i mer enn en halvtime.» Narada snudde seg. I stedet for vann så han den strålende ørkenen i middagssolen. Han fant guden stående ved skulderen hans. De grusomme kurvene til den fascinerende munnen, som fortsatt smiler, skiller seg med det milde spørsmålet: «Forstår du nå hemmeligheten til min Maya?
På Metzingers språk vil jeg tolke denne historien som følger: Vishnu satte en gaffel i Naradas Ego-tunnel og førte ham nedover den nye gaffelen etter hans anmodning om vann. Den nye gaffelen var lang og førte til slutt til at Narada opplevde sin egen drukning. Men så fikk Vishnu den nye gaffelen til å slutte seg til den gamle med et snev av et grusomt smil om munnen. Dermed kan Maya sees på som en beskrivelse av ens fenomenale selvbilde, en overbevisende virkelighet, men bare et lite vindu inn i det som er der ute, konstruert av vår begrensede bevissthet.

 

 

Tid

 

I et senere kapittel «A Tour of the Tunnel» diskuterer Metzinger de ulike utfordringene for hvordan selvmodellen blir så reell at den skaper en følelse av bevissthet. Det er her han skiller selskap med meg, i avsnittet med tittelen «The Now Problem: A Lived Moment Emerges» (s.34). Jeg kunne ikke vært mer enig i setningen hans «En fullstendig vitenskapelig beskrivelse av det fysiske universet ville ikke inneholde informasjon om hva klokken er ‘nå'». Som jeg har skrevet, søker vitenskapen, nesten per definisjon, lover som holder uavhengig av tid og sted og overlater alt å gjøre med fortid/nåtid/fremtid til historikere og fremtidsforskere. Som sitert i mitt forrige innlegg, følte Einstein selv at «opplevelsen av nået betyr noe spesielt for mennesket, noe som er vesentlig forskjellig fra fortiden og fremtiden, s tenkning var også motivert av hans spesielle relativitetsteori, der samtidighet viste seg å ikke ha noen fysisk betydning, slik at man ikke kan tenke på at universet som en helhet har en fortid og en nåtid, som alltid ruller ut etter hvert som fremtidige hendelser inntreffer. På grunn av relativitet har hver person sitt eget nå, og når romreiser blir reell, vil det være helt klart umulig å tro på et objektivt nå. I Naradas historie er 12 år for Narada en halvtime for Vishnu, og romreiser kan få det til å skje for to mennesker. s tenkning var også motivert av hans spesielle relativitetsteori, der samtidighet viste seg å ikke ha noen fysisk betydning, slik at man ikke kan tenke på at universet som en helhet har en fortid og en nåtid, som alltid ruller ut etter hvert som fremtidige hendelser inntreffer. På grunn av relativitet har hver person sitt eget nå, og når romreiser blir reell, vil det være helt klart umulig å tro på et objektivt nå. I Naradas historie er 12 år for Narada en halvtime for Vishnu, og romreiser kan få det til å skje for to mennesker.

Og faktisk, Metzinger fortsetter med å uttale «Min idé er at denne samtidigheten er nettopp derfor vi trenger det bevisste nå». Det er velkjent at sinnet spiller raskt og løst med samtidighet, slik at to signaler bevisst kan oppfattes som å forekomme i motsatt rekkefølge av deres forekomst i den fysiske verden. Tidsmessig orden synes til en viss grad å være en konstruksjon sinnet lager så godt det kan. Men nå snur Metzinger logikken. Fra implikasjonen at det å oppleve et nå innebærer å oppleve samtidighet, vil han si at det å oppleve samtidig skaper opplevelsen av nået. Han argumenterer for at det å skape en felles tidsmessig referanseramme for alle mekanismene i hjernen fører til den indre modellen av verden rundt et slikt Nå (s.36). Her kan jeg ikke følge ham: alle datamaskiner har en klokke og organiserer sine beregninger og kommunikasjon deretter. Men jeg tror ikke de har bevissthet. Nevroner overfører signaler mye langsommere enn lys, og dette har sannsynligvis noe å gjøre med feilene i tidsrekkefølgen hjernen gjør. Men å få det meste tidsmessig rett synes jeg ikke er nok til å produsere den bevisste følelsen av Nå. Du, leseren, kommer til å lese dette på et tidspunkt i fremtiden, og jeg vil da gjøre noe annet (eller vil være død), og dermed lever hver enkelt av oss gjennom vår egen unike sekvens av nå. Vi kan være litt synkroniserte når vi leser det samme nummeret av New York Times, men ikke desto mindre er nåene våre forskjellige og synkroniseringen vår er dømt til å ha en viss grad av usikkerhet. Nevroner overfører signaler mye langsommere enn lys, og dette har sannsynligvis noe å gjøre med feilene i tidsrekkefølgen hjernen gjør. Men å få det meste tidsmessig rett synes jeg ikke er nok til å produsere den bevisste følelsen av Nå. Du, leseren, vil lese dette på et tidspunkt i fremtiden, og jeg vil da gjøre noe annet (eller vil være død), og dermed lever hver av oss gjennom vår egen unike sekvens av nå. Vi kan være litt synkroniserte når vi leser det samme nummeret av New York Times, men ikke desto mindre er nåene våre forskjellige og synkroniseringen vår er dømt til å ha en viss grad av usikkerhet. Nevroner overfører signaler mye langsommere enn lys, og dette har sannsynligvis noe å gjøre med feilene i tidsrekkefølgen hjernen gjør. Men å få det meste tidsmessig rett synes jeg ikke er nok til å produsere den bevisste følelsen av Nå. Du, leseren, kommer til å lese dette på et tidspunkt i fremtiden, og jeg vil da gjøre noe annet (eller vil være død), og dermed lever hver enkelt av oss gjennom vår egen unike sekvens av nå. Vi kan være litt synkroniserte når vi leser det samme nummeret av New York Times, men ikke desto mindre er nåene våre forskjellige og synkroniseringen vår er dømt til å ha en viss grad av usikkerhet. Det virker for meg nok til å produsere den bevisste følelsen av Nå. Du, leseren, kommer til å lese dette på et tidspunkt i fremtiden, og jeg vil da gjøre noe annet (eller vil være død), og dermed lever hver enkelt av oss gjennom vår egen unike sekvens av nå. Vi kan være litt synkroniserte når vi leser det samme nummeret av New York Times, men ikke desto mindre er nåene våre forskjellige og synkroniseringen vår er dømt til å ha en viss grad av usikkerhet. Det virker for meg nok til å produsere den bevisste følelsen av Nå. Du, leseren, kommer til å lese dette på et tidspunkt i fremtiden, og jeg vil da gjøre noe annet (eller vil være død), og dermed lever hver enkelt av oss gjennom vår egen unike sekvens av nå. Vi kan være litt synkroniserte når vi leser det samme nummeret av New York Times, men ikke desto mindre er nåene våre forskjellige og synkroniseringen vår er dømt til å ha en viss grad av usikkerhet.

Som nevnt ovenfor, staver Metzinger ut anvendelsen av disse ideene til konstruksjonen av bevisste roboter i den senere delen «Hvordan bygge et kunstig bevisst emne og hvorfor vi ikke bør gjøre det» (s.190). På s.192 beskriver han konstruksjonen i fire trinn. Den første er å gi maskinen et kontinuerlig oppdatert integrert indre bilde av verden. Den andre er å organisere sin interne informasjonsflyt tidsmessig, noe som resulterer i et psykologisk øyeblikk, et erfaringsmessig nå. Den tredje er å være sikker på at disse interne strukturene ikke kan gjenkjennes av det kunstige bevisste systemet som internt genererte bilder, så de er gjennomsiktige. Det fjerde trinnet er å integrere et like gjennomsiktig indre bilde av seg selv i den fenomenale virkeligheten. Ingen av disse synes for Metzinger eller meg anses å være umulig vanskelig. Men det er den andre hvor jeg føler at han antar at det skjer for mye som følge av silisiumaktiviteten. Nå virker for meg det virkelig magiske trinnet, trinnet som skaper det Popper kaller verden II og andre kaller åndelig.

Det faktum at livene våre leves som en tur nedover tidens elv, at vi alltid er bevisste på å være på et spesifikt sted omgitt av en lokal bit av den 3-dimensjonale verdenen som endres etter hvert som «tiden går», alt dette virker åpenbart og sunn fornuft, ikke magisk i det hele tatt. Men dette er fordi denne opplevelsen av tid er kjernen i alles bevissthet, alles daglige liv, ikke fordi det i fysikk eller i noen annen vitenskap er noe som likner tidens flyt med et nåværende øyeblikk, opplyst som et fyrtårn. I fysikk er tid statisk, ganske enkelt én måte å sette koordinater på det 4-dimensjonale utvalg av alle hendelser, fortid, nåtid og fremtid og hvor som helst. Vi kan kunstig konstruere en matematisk «flyt», en endimensjonal gruppe av homeomorfismer av rom-tid, men ingen slik flyt er gitt av fysikk, og den har ikke noe særskilt sett med punkter kalt det nåværende øyeblikk. Å leve i en verden av tid virker for meg som en fantastisk gave, og jeg har ingen anelse om hvordan man, som Gud og Adam i taket i Det sixtinske kapell, kan gi denne gaven til en robot.

Til slutt vil jeg legge inn en lenke til en noe mer vitenskapelig behandling av mine ideer om bevissthet, sendt inn til Journal of Cognitive Psychology fra mine tre siste innlegg: lenken .

Få gratis tilbud på alarm.