Står vi i fare for å overvurdere potensialet til kunstig intelligens?

Kari og Endre Wærness stiller spørsmål ved om menneskets erfaringsbaserte «tause kunnskap» vil kunne måle seg med kunstig intelligens.

Den pågående koronapandemien har gitt et stort oppsving for bruken av digital teknologi. Hjemmekontor med tilhørende digital møtevirksomhet har vært eneste mulighet for å holde i gang store deler av arbeidslivet og samtidig redusere smittefaren. Spredning av smitte har på den annen side økt i alle de deler av befolkningen som har vært nødt til fysisk samhandling for å levere varer eller yte tjenester til kunder eller klienter. Etter at nå størstedelen av verdens befolkning har opplevd denne form for nedstengning av samfunn og sterke begrensninger av samhandling mellom mennesker i mange uker, kan det være verdt å reflektere over hvilke virkninger disse endringene kan tenkes å få på lengre sikt. Det gjelder ikke minst fordi en mer kritisk holdning til digital teknologi og særlig kunstig intelligens var i ferd med å vokse frem før koronakrisen.

Det er viktig å skille mellom bruken av digital teknologi på den ene siden og kunstig intelligens på den andre – den første gir menneskene et nytt verktøy, den andre inneholder potensial for å erstatte mennesker med maskiner. Det er den siste som er mest problematisk, og som er hovedfokus i denne kommentaren.

En svært viktig uenighet blant forskere på kunstig intelligens (AI) har vært spørsmålet om en kunstig menneskelik intelligens (AGI) kan bli en realitet, og i så fall hvilken arbeidsdeling vi da kan få mellom mennesker og roboter.

(foto: unsplash.com)

Ideen om at maskiner kan utføre oppgaver som krever intelligens, går tilbake til filosofene Descartes og Leibniz. Men selve prosjektet med å utvikle denne ideen skjøt først fart på 1950-tallet da det ble erkjent at computere ikke bare var redskaper for «tallknusing», men at de også kunne brukes til å manipulere symboler. Hubert Dreyfus (1972) og Joseph Weizenbaum (1976) la vekt på at den fundamentale forskjellen mellom ”human reason” og ”computer power” innebærer at de to aldri kan bli helt like. Begge disse begrunnet dette med at computeren har ingen kropp, ingen barndom og ingen kulturell praksis, og derfor ikke kan tilegne seg menneskelig intelligens. Weizenbaum, som var professor i computerscience ved MIT, utviklet selv et computerprogram til bruk i psykiatrien (ELIZA, senere kjent som DOCTOR). Han ble raskt dypt sjokkert over psykiaternes overbevisning om at dette programmet lett kunne erstatte psykiaternes samhandling med pasientene. Dette beskriver han i sin bok: «Computer Power and  Human Reason – From Judgment to Calculation” (Weizenbaum 1976). Han ble av den grunn senere latterliggjort og utskjelt av sine fagkolleger som en uvitenskapelig moralist (Carr, 2010, s.208).

I de senere år har vi fått flere publikasjoner som forholder seg kritisk til utviklingen innen computerteknologien. (Se f.eks. Carr 2010, Foer 2017, Fjelland 2020.) Et særlig problem disse har vært opptatt av, er i hvilken grad det overhode vil bli mulig å oppnå en maskinintelligens som ligner på den menneskelige.

Nå helt til koronapandemien kom, fant vi  at selv markedsliberale aviser ga uttrykk for kritiske holdninger til computerteknologien (Se DN 24. jan. 2020). En teknologiinvestor skrev at kapitaltilførsel og grådighet kan føre til en utvikling som truer demokratiet. Det samme ga Virillio uttrykk for allerede i 1977, og det reiser spørsmålet om det er noe grunnleggende menneskelig som aldri kan formuleres og forstås av en maskin.

Hubert Dreyfus (1972) og Joseph Weizenbaum (1976) la vekt på at den fundamentale forskjellen mellom ”human reason” og ”computer power” innebærer at de to aldri kan bli helt like.

Nevrovitenskapens syn på human intelligens

Vi finner også  resultater i nyere nevrovitenskapelige publikasjoner som styrker oppfatningen om at det er en fundamental forskjell mellom kunstig og human intelligens som ikke kan overvinnes.

Professor i nevrovitenskap Stanislas Dehaene  påpeker i sin bok ”Consciousness and the Brain” (2014) følgende: Ikke misforstå meg, jeg har ikke til hensikt å gjenopplive klisjeen om hjernen som en klassisk computer. Med hjernens massive paralleller, selvjusterende organisasjon og kapable regneferdigheter over samtlige mulige distanser, skiller den seg radikalt fra nåværende computere. Nevrovitenskap har virkelig over lang tid avvist computer-metaforen (vår oversettelse, s. 106.)

Freud var den første til å peke på at mye av vårt mentale liv er ubevisst og bare avslørt for oss gjennom den begrensede men fordelaktige stillingen som bevisstheten har. Imidlertid gikk det ganske lenge før noen nærmet seg problemet: 

I 1964 hadde nevrofysiologen Hans Kornhuber rigget til sitt laboratorium. Hans forsøksperson satt i en behagelig stol med den ene armen hvilende på et bord. På pekefingeren var det montert en sensor for styrken, og fra hodet var det ledninger for elektrisk registrering av hjerneaktivitet. Han fikk beskjeden: ”Bøy fingeren ved avtalt signal”, og dermed var forsøkene i gang. Etter hundrevis av slike, ble det helt konstant påvist en liten ”blip” forut for hvert aksjonspotensial i den elektriske målingen over hjernen-som senere ble kalt for en ”gnist av fri vilje”. Dette potensialet fikk navnet Bereitschaftspotenzial (se Kandel, 2012,s. 462).

Freud var den første til å peke på at mye av vårt mentale liv er ubevisst og bare avslørt for oss gjennom den begrensede men fordelaktige stillingen som bevisstheten har.

Fra 1970-årene var det Benjamin Libet som førte eksperimenteringen videre, og ”Bereitschaftspotenzial” fant sin plass 200 millisekunder før bevegelsesimpulsen ble registrert. Bare ved observasjon av hjerneaktiviteten kunne Libet forutsi at forsøkspersonen ville bevege fingeren før denne bevisst forsto at det var det hun hadde bestemt. I 2011 fant nevrokirurgen Izati Fried som opererte epilepsipasienter, en liten samling av 250 nevroner. Når disse blir aktive, forutsier de vilje til bevegelse. Dette funnet samsvarer med at vår vilje faktisk kommer til syne i enkle utskrifter av aktivitet i hjerneområder som kontrollert viljestyrt handling. Dette illustrerer ett av elementene i menneskelig hjernefunksjon som er umulig å kopiere maskinelt og programmere digitalt.

Hva betyr algoritmene?

Kilden til de teknologiske gigantenes makt og byggesteinene for AI er algoritmer. Det er et begrep i nesten enhver historie om disse, men et begrep som i beste fall blir uklart for brukerne. Fra det øyeblikket begrepet algoritme ble oppfunnet, var det ifølge Foer (2017) mulig å se maktpotensialet i dette. Begrepet var utviklet for å automatisere tenkning, fjerne vanskelige revolusjonære avgjørelser fra menneskene og avgjøre omstridte debatter. Algoritmen antas å være fri for partiskhet, intuisjon, emosjon  og tilgivelse. ”They called it a search engine, after all- a nod to piston, gears, and twentieth-century industry – with the machinery white clean of human fingerprints” (Foer 2017,s.69).

Algoritmene avslutter den vitenskapelige metode, mønstrene oppstår av dataene, av korrelasjoner som ikke er ledet av hypoteser. De fjerner menneskene fra hele forsknings- og beslutningsprosessen. Chris Anderson skrev i Wired: ”We can stop looking for models. We can analyze the data without hypothesis about what it might show.We can throw the numbers into the biggest computing clusters the world has ever seen and let statistical algorithms find pattern where science cannot.”(Sitert i Foer,2017,side 70).

Andreas Ulfstein,stipendiat ved NHH (DN, 24.jan.2020) omtaler økende datadrift i samfunnet som viser seg i nylig fremlagt strategi for kunstig intelligens. Beslutninger skal ifølge ham formes av analyser av objektive data og slik redusere risiko for menneskelige feil, drevet av subjektive vurderinger: Jo større datamengder, desto sikrere analyse antatt fri for vurderingsskjevhet. Mennesker er påvirket av preferanser og forutinntatthet, og dermed kan analyser påvirkes av subjektivitet.

Tilgang på informasjon bør være lik for menneske og maskin. Store datamengder fra computeren bør veies opp mot menneskets erfaringsbaserte ”tause kunnskap” (Polanyi, 1958), som ikke bevisst kan hentes frem der og da, og som er sammensatt av erfaring fra sanseapparatene.

Vår vurdering: Tilgang på informasjon bør være lik for menneske og maskin. Store datamengder fra computeren bør veies opp mot menneskets erfaringsbaserte ”tause kunnskap” (Polanyi, 1958), som ikke bevisst kan hentes frem der og da, og som er sammensatt av erfaring fra sanseapparatene. Derfor bør det fortsatt diskuteres når mennesket har forrang og derfor skal ha det avgjørende ord i beslutningsprosesser. Andre elementer av det menneskelige, som verdivurderinger, intuisjon og annet er viktige forklaringer på hvorfor vi for eksempel ikke kan forvente selvkjørende biler og lastebiler på lenge ennå (se for eksempel Anders Lølands innlegg i DN 06.05.2020). Eller kanskje det aldri blir mulig?

 

Avslutning

Fjelland (2020) legger vekt på at overvurdering av teknologi er nært knyttet til undervurdering av mennesket, og at ideen om superintelligente computere er uttrykk for en ”ny religion” knyttet til en ”ingeniørkultur”. ”Om vi tar utgangspunkt i at bevisst oppmerksomhet er det mest genuint humane, tillater den oss å blende for uvesentlige erfaringer, og å konsentrere oss om den viktigste hendelsen vi har å gjøre med, uavhengig av om det er lyst eller ulyst, det blå i himmelen, det kjølige lyset i et Vermeer-maleri, eller det vakre og stillheten på en strand” (Kandel 2007, s. 403). Slike elementer kan ikke frembringes i en computer og bør være grunn god nok til at samfunnsvitenskapene fortsatt interesserer seg for hvordan humane vurderinger kommer ut i konkurransen med maskinintelligens. 

Noen ord om digital teknologi som verktøy for menneskene, inspirert av det oppsvinget bruken av slik teknologi har hatt i koronapandemien. Uten denne teknologien ville de økonomiske konsekvensene av nedstengingen vært mye mer dramatiske, og det er grunn til å tro at vi i hvert fall midlertidig har blitt mer avhengig av digital teknologi enn noen gang før. Denne avhengigheten fører til problemer som vi kanskje ikke så lett har fått øye på. Disse kan være knyttet både til helse og velferd. Fra National Geographic Science’ s dekning av coronavirus pandemien, datert 24.april 2020: skriver Julia Sklar: ”Zoom fatigue” is taxing the brain. Here`s why that happens.”

Et viktig spørsmål i denne sammenhengen blir hvordan  Zoom-fatigue påvirker vår holdning til digital teknologi generelt og til kunstig intelligens spesielt. Det  skal bli  spennende å se om den økte bruken og  avhengigheten av digitale verktøy som koronapandemien har medført, påvirker vår holdning til kunstig intelligens i mer positiv eller negativ retning.

Referanser:

Carr, Nicholas 2011 The Shallows,W:W: Norton & Company, New York og London.

Dehaene, Stanislas 2014 Consciousness and the Brain, Penguin Books, New York.

DN 24.januar 2020.

DN 4.mai 2020

Dreyfus,Hubert1972 What Computers Can`t Do, Harper and Row.

Fjelland, Ragnar 2020 Why General Artificial Intelligence will not be realized.(under publisering).

Foer,Franklin 2017 World Without Mind Why Google, Amazon, Facebook and Apple Threaten Our Future, Penguin Random House. London.

Kandel,Eric 2007 Auf der Suche nach dem Gedächtnis,Pantheon Random Group

Kandel, Eric 2012 The Age of Insight, Random House New York.

Polanyi, Michael 1958 Personal Knowledge, Routledge & Kegan Paul London

Virillio, P. 1977 Speed and Politics, Los Angeles, Semiotext(e)

Weizenbaum, Joseph 1976 Computer Power and Human Reason From Jugdment to Calculation,W.H. Freeman and Company, San Francisco.

https://www.nationalgeographic.com/science/2020/04/coronavirus-zoom-fatigue-is-taxing-the-brain-here-is-why-that-happens.htlm