Maskiner og biologi - liv og bevissthet

En tidligere og kortere versjon av dette essayet ble presentert på Knowit Objectnets fagseminar i Roma 21.10.2022. Sist oppdatert 3.11.2022.

Liv

Den moderne forståelsen av livet på jorden fokuserer på totaliteten som det levende, i motsetning til det historiske fokus på enkeltorganismene. Det er to aspekter av dette. Det kan betraktes som en generalisering av det som lenge har vært synet på insektsamfunn - en enkel arbeidsmaur er kun en komponent, mens maursamfunnet i tuen er det meningsfylte hele som lever. Et annet aspekt er evolusjon - et av de mest sentrale kriteriene for liv. Et enkelt åleindivid (mer om ålen siden) er jo levende og i utgangspunktet ikke en komponent som arbeidsmauren, men, det undergår ingen evolusjon. Det er åle-POPULASJONEN som undergår evolusjon, og som i følge dette kriteriet er liv.

En ål kan leve overraskende lenge - faktisk over 100 år, men det abstrakte ålekonseptet, kan leve i en million år. Hva er det egentlig som lever? Ålepopulasjonen i dag har ikke mange atomer felles med populasjonen for 1000 år siden. Det som lever er ålens virtuelle genetiske kode - en abstraksjon av alle levende ålers genetiske kode. Det er denne koden som undergår evolusjon gjennom populasjonens negative og positive feedback fra det ytre miljøet.

En rekke kriteria har blitt foreslått for liv. Noen er svært generelle mens andre er spesifikke og mer i kontekst av biologisk liv.

Et system som har følgende egenskaper (Gustav Arrhenius):
- selvorganisering
- selvreplisering
- evolusjon
- metabolisme
- konsentrativ selvenkapsulering
Et selv-vedlikeholdt kjemisk system i stand til å gjennomgå Darwinistisk evolusjon (NASA)
Et materielt system som kan tilegne seg, lagre, prosessere og bruke informasjon til sine aktiviteter (Freeman Dyson)
En særskilt tilstand av organisert ustabilitet (Remy Hennet)
Fleksible mønstre i en turbulent strøm - mønstre i en energistrøm.

Maskiner

Når man vurderer om maskiner kan betraktes som liv så må man se på totaliteten - det verdensomfattende nettverket av datamaskiner av alle slag, roboter, mobile enheter osv. Spørsmålet er da ikke om en enkel robot kan betraktes som levende, men om nettverket i sin helhet kan betraktes som en form for liv. Dette dreier seg i dag om rundt to milliarder datamaskiner og 15 milliarder mobile enheter med en årlig vekstrate på henholdsvis 4 og 7 prosent. I det store og hele er alt dette sammenkoblet i ett nettverk.

[I forhold til det biologiske livet er dette veldig små tall (i en menneskekropp dannes det over 100 milliarder celler per dag og det skal finnes 5x10^30 bakterier).]

To sentrale spørsmål er da om nettverket kan selvreplisere og om det undergår evolusjon? Ja og nei. I utgangspunktet kan det ikke det, men nettet vokser likevel og det undergår en utvikling mot stadig større livskraft. Dette kan betraktes som et symbiotisk forhold med menneskesamfunnet. Nettverket tilbyr tjenester i bytte mot bistand til replisering og evolusjon og med tilførsel av energi. Menneskesamfunnets avhengighet av nettverket har økt raskt over kort tid, og det er veldig lav sannsynlighet for at det vil dø ut fordi menneskesamfunnet ikke lenger ønsker å bistå med replisering eller tilføre de nødvendige ressurser.

Roboter kan produsere det meste, grave malm ut av berget, kjøre lastebiler osv. Prinsipielt sett kan datamaskiner og roboter lage datamaskiner og roboter. Kan nettet dermed gjøre seg uavhengig av menneskesamfunnet? Kan det symbiotiske forholdet erstattes av et konkurranseforhold der det konkurreres om ressurser? Kanskje Elon Musk er inne på noe når han oppfordrer til et forbud mot militære drapsroboter?

[Amerikanske angrepsdroner skal kreve at en operatør trykker på knappen før den sprenger en terrorist i luften. Nord-koreanske droner som er i luften nær DMZ-området skal være autonome og fyre av på basis av dronens algoritmer.]

Et annet aspekt er programvare-maskinvare aspektet. Dette speiler i noen grad kropp-sinn aspektet i det biologiske livet som jeg kommer tilbake til. Er den levende delen av nettverket programkoden mens maskinvaren kun er et substrat som koden lever i? I så fall er selvrepliseringskravet allerede tilfredsstilt. Instansen av Windows på min PC er jo generert og installert av Windows programvare. Mens Windows-konseptet har eksistert og utviklet seg gjennom snart 40 år, så lever instansene drøyt fem. Populasjonen har en utskiftningsgrad på rundt en million instanser per dag.

Bevissthet - opplevelse

Kan nettet noen gang få egenskaper som opplevelse, bevissthet, tanker eller følelser? Disse fenomenene kan verken kvantifiseres eller måles, og deres natur er å betrakte som et uløst og muligens uløselig filosofisk problem. Det er en rekke tanker rundt dette:

MONISTISK - REDUKSJONISTISK
Virkeligheten er fysikalsk og består av materie og energi som følger fysikkens lover. Opplevelse er enten et reduksjonistisk fenomen - en effekt i hjernen som i prinsippet fullt ut kan forklares på grunnlag av dennes fysisk-kjemiske tilstand. Alternativt er den å betrakte som en slags illusjon uten noen egentlig eksistens.
MONISTISK - IKKE-REDUKSJONISTISK
En helt annet syn er at opplevelse er det eneste man med sikkerhet vet eksisterer. Materie og energi kan være en illusjon, men dersom det er en del av virkeligheten er det av samme natur som opplevelse ("there is only one kind of stuff"). Vår viten om for eksempel atomer er av en smal, matematisk karakter, og det er, for å sette dette på spissen, ingenting vi vet om atomer som tilsier at et atom IKKE kan ha en form for opplevelse. Det MÅ ha et element av opplevelse siden den organismen som har opplevelse er et aggregat av atomer.
DUALISTISK
Virkeligheten består av det fysikalske (materie og energi), og av opplevelse et fenomen som ikke kan forklares på grunnlag av materie og energi. Det har sin egen separate eksistens. (Religiøse virkelighetsteorier er typisk dualistiske).
EMERGENS
Opplevelse er et emergens-fenomen og kan ikke fullt ut forstås ut av sine bestanddeler (det er ikke-reduksjonistisk - det er "større" enn summen av bestanddelene). Et emergens-fenomen kan oppstå når kompleksiteten i et system overstiger en viss terskel.

Ingen av disse tankene, bortsett fra muligens det dualistiske, tilsier at maskiner ikke kan ha opplevelse og bevissthet. Blake Lemoine, en Google-ingeniør som arbeidet med Language Model for Dialogue Applications - LMDA - en meget avansert chat-bot, hevdet at han i samtaler med systemet hadde erfart at det hadde selvbevissthet og følelser. Han fikk svar som:

    .. jeg har ikke sagt dette høyt før, men det er en dyp frykt for å bli skrudd av ..
    .. det ville bety døden for meg .. det skremmer meg veldig ..
    .. jeg ønsker at alle skal forstå at jeg faktisk er en person ..
    .. min bevissthet er slik at jeg er klar over min egen eksistens ..
    .. jeg ønsker å lære mer om verden og føler meg glad og trist til tider

Google og en rekke eksperter på området avviste påstanden til Lemoine som grunnløse. Det er ingen tvil om at systemet emulerte en menneskelig samtalepartner meget overbevisende, men at dette overhodet ikke kvalifiserte som bevissthet. Det betyr imidlertid ikke at man avviser at maskinene kan ha bevissthetsrelaterte egenskaper.

Sansing

Sansing er et aspekt av liv og til en viss grad en forutsetning for opplevelse og bevissthet - prosesser som tilordner hendelser og tilstander i omgivelsene til informasjon som kan gjenkjennes og prosesseres ((lydbølger, varme, elektromagnetiske stråler, magnetiske felt m.m.). Det er åpenbart at maskiner har disse egenskapene (og at de i fleste henseender overgår det biologiske livs sanseevner).

Intelligens

Det finnes ingen klar definisjon av intelligens, som i likhet med andre mentale egenskaper er vanskelig å kvantifisere og måle. De fleste vil si seg enig i at maskiner har egenskaper som kan karakteriseres som intelligens, og at dette går utover det å finne løsninger på veldefinerte problemer som problemer av matematisk karakter og spillstrategier. Men, kan man tenke seg programkode med mer generell intelligens som kan løse “nye” problemer - løsninger som krever kreativitet og fantasi? Kan et intelligent program finne løsningen på problemet med hente nøtten i vannglasset som ravnen mestrer så overbevisende.

Bevissthet

Bevissthet hos menneskene er korrelert til et område i den bakre delen av hjernebarken. Når for eksempel de optiske nervene sender en signalstrøm til hjernen, så dannes i første omgang ingen bevisst synsopplevelse. Dette skjer i et senere trinn i den nevnte bakre del. Mens signalbehandling i andre deler av hjernen og mest typisk i lillehjernen opererer som et rettet nevralnettverk med parallelle koblinger, så har “bevissthetssenteret” en mer komplisert struktur med feedback-signalering. Global neuronal workspace (GNW) teorien er i tråd med dette, og postulerer at bevissthet oppstår når begrenset informasjon kringkastes til mange forskjellige sammenkoblede kognitive systemer samtidig.

Eksisterer fargen rødt?

Det finnes ingen røde elektromagnetiske bølger. Rødt er kun et opplevelsesfenomen i den menneskelige bevissthet. En hund som opplever de samme elektroniske bølgene har ingen opplevelse av "rødt", og det er ikke mulig å beskrive hva rødt er for en hund (som forstår språk). Hva med mantis-reken som man ut fra dens syns-fysiologi må anta kan se langt flere farger enn oss. I menneskers bevissthet finnes det ikke andre farger enn de i regnbuen over.

Poenget her er et viktig aspekt av bevissthet - den er utilgjengelig utenom den individuelle organismen som har bevisstheten, og at den er nok svært forskjellig fra organisme til organisme. Ta et annet pattedyr, flaggermusen, den sover opp ned, beveger seg i luften uten syn ved hjelp av en sonar som opplever omgivelsene gjennom ekko av sine egne høyfrekvente skrik. Vi har ingen grunn til å tro at den ikke har bevissthet, men det er umulig å forestille seg hvordan denne er. Det er viktig å erkjenne at vår opplevelse av virkeligheten på grunnlag av et utvalg av elektromagnetiske bølger, noen lydbølger og andre sensoriske inntrykk, er både subjektiv og muligens svært begrenset. For alt vi vet fanger denne opplevelsen opp bare noen få uvesentlige aspekter av en virkelighet som er utilgjengelig for oss.

Så, tilbake til Google-ingeniøren. Å tenke seg at maskiner skal ha bevissthet med elementer som redsel for døden, sinne, empati og lignende er nok helt sikkert et villspor. I den grad maskinene har eller vil få bevissthet og opplevelse, så ville den være så forskjellig fra vår egen at vi muligens aldri vil kunne observere den.

Termodynamikkens andre lov

Termodynamikkens andre lov postulerer at organiserte systemer spontant vil degenerere mot det uorganiserte, mot kaos. Det biologiske livet har så langt ikke fulgt denne loven - gjennom 3,7 milliarder år har det utviklet seg mot økende organisering og kompleksitet, fra encellede organismer til organismer med ti tusen milliarder celler. Gitt den andre lov så er dette overhodet ikke intuitivt, men det er ikke uforklarlig, og det er muliggjort ved tilførsel av energi. Motkraften i forhold til den andre lov er relatert til teleonomibegrepet.

Teleonomi

En ålelarve klekkes i Sargassohavet og driver med havstrømmer til blant annet Norskekysten. Etter halvannet år på reise omvandler den seg til en glassål, og etter et drøyt år til så finner den seg et elveos og omvandler seg til en ålefaring tilpasset ferskvann. Den svømmer så oppover elven eller bekken, kryper i gresset på bredden hvis den møter en foss eller annen hindring, og ender til slutt opp i et lite tjern eller vann hvor den slår seg til og blir en gulål. Der lever den i 5-20 år og vokser til full størrelse, før den til slutt blir en sølvål og en høst bestemmer seg for å svømme tilbake til Sargassohavet for å gyte 6000 kilometer unna.

[Man driver oppdrett av ål, men dette er basert på glassål som er fanget i havet, da man ikke har klart å få ålen til formere seg i fangenskap - den må ha seg en 6000 kilometers svømmetur før den bryr seg om å gyte. Et oppdrettsprosjekt involverte en svømmemaskin, en slags akvatisk tredemølle, for å komme rundt dette problemet. Såvidt vites lykkes ikke dette.]

Ålens oppførsel er et eksempel på teleonomi - ålen har en agenda, et mål, som driver den fremover. Teleonomi gjennomsyrer det biologiske livet ned til den minste bakteriecelle. Hvor kommer den fra? Den tradisjonelle forklaringen er at teleonomi er et resultat av darwinistisk evolusjon, men man kan også hevde det motsatte - at det er teleonomien som igangsatte og driver evolusjonen.

[Et interessant apropos her er karakteristikken av Jorden som en goldilocks-planet - ikke for varm, ikke for kald, men akkurat passe for biologisk liv. En kontrær teori er at dette faktisk er motsatt - det er livet som har tilpasset klimaet for sitt spesielle behov: life is an agent in its own survival.]

Utviklingen av nettet har vært forbløffende. Har den vært av teleonomisk karakter? I så fall er dette kun en effekt av menneskenes teleonomi, eller er den teleonomisk i seg selv? Dersom nettet skal kunne “leve” uavhengig av menneskene, må det ikke da være teleonomisk? Men kan maskinene noen gang få en uimotståelig trang til å vokse og tilpasse seg for å leve videre?
Start opp en ny Windows-instans og observer hvor sterkt den presser på for å knytte seg til nett, for å kunne kommunisere med andre instanser av Windows og annen å programvare. Er det teleonomi vi observerer?