10/20 Automatoner – Våre nye medborgere?

Innlegg under seminar, forskningsprogrammet Berekraft, medverknad og mangfald, 15. oktober 2020.

Problemstillingen jeg ønsker å ta for meg er knyttet til medborgerskap, medvirkning og mangfold. Spørsmål knyttet til automatoner er ganske sammensatte, og jeg er usikker på i hvilke fag den hører mest hjemme, om det er i KRL, samfunnsfag, realfag, språkfag og ikke minst om det i det hele tatt er relevant for mitt fag, kunst og håndverk.

Automatoner betegner maskiner, skapt av mennesker, som er i stand til å agere på egenhånd. I den greske mytologien hadde i de fleste tilfeller ikke automatoner fri vilje, men de handlet med utgangspunkt i noen egenskaper som var gitt dem. Ut fra dette blir automatonene aktører som kunne påvirke menneskers liv på ulike måter.

I dag finner vi automatoner i svært mange former, fra rent programvarebaserte løsninger, via maskiner som løser ulike oppgaver innenfor tjenesteyting og industri til løsninger i folks hjem. Vaskemaskinen er et eksempel, en automaton som kan ta en del av æren for kvinners inntreden i arbeidslivet utenfor hjemmet. Robotisering av en rekke oppgaver, selvkjørende kjøretøy og innholdsproduksjon ved hjelp av kunstig intelligens kan få lignende og kanskje mer radikale konsekvenser.

Programvareroboter koblet til kunstig intelligens kommer inn i styrerommene og blir en premissleverandør for beslutninger omkring en bedrifts fremtid, maskiner forenkler mange former for produksjon, men påvirker med det også hvilket handlingsrom som gis til de menneskene som forholder seg til automatonene. Avanserte automatoner kan få konsekvenser for hvordan vi tenker omkring medborgerskap, individer og deres rettigheter. Selv om de færreste av oss kommer til å programmere autonome systemer er det derfor viktig at flest mulig mennesker forstår de grunnleggende premissene hvordan autonome systemer fungerer. Slik får vi best mulig diskusjoner omkring teknologien, dens bruk av avgrensninger. Innlegget vil diskutere medborgerskap i lys av programmerbare automatoner og vise noen konkrete eksempler på hvordan vi kan jobbe med dette i skolen.

Spørsmål knyttet til automatoner – altså maskiner som fungerer autonomt, på egen hånd – har interessert mennesker siden Antikken. Gresk mytologi er full av skapninger og objekter som på ulike vis har fått liv. Talos, Pygmalions statue, Pandora. Spørsmålene de stilte den gangen er fremdeles relevante i dag.

Fra ungdommen har jeg et sterkt minne om min mormor som fortalte hvor frigjørende det var for henne å få en vaskemaskin, en gang tidlig på 1950-tallet. Noen kunnskaper forsvant med håndvasken, men det er vanskelig å argumentere godt for å vende tilbake.

ELIZA, beskrevet av psykologen Joseph Weizenbaum i 1966, var verdens første “chatbot”. På noenlunde samme tid som min bestemor fikk vaskemaskin kom transistorene og med denne teknologien skjøt utviklingen av datamaskiner fart. Allerede før jeg ble født hadde psykologen Joseph Weizenbaum vært med å utvikle verdens første chatbot – en ganske velfungerende samtalepartner til sitt bruk.

Hvam (hvem eller hva) løser oppgavene? I dag har vi dialoger med maskiner på mange forskjellige måter, oftest ved å trykke på skjermer og tastatur, men i økende grad gjennom muntlig kommunikasjon.

Om vi ikke er der at vi kan snakke med en robot som med et annet menneske, så er vi svært nær å kunne ha en fornuftig dialog omkring kvaliteter ved den kaffen vi bestiller. Knyttet til fakta kan det i mange tilfeller være mer fruktbart å snakke med en maskin sammenlignet med å snakke med et menneske med mye mindre kunnskaper.

Historisk hadde borgere betydelig mer frihet enn for eksempel bønder, håndverkere .og omreisende handelsfolk. Den gang som nå er det store forskjeller mellom ulike deler av verden og folkegrupper, men i dag kan vi stille oss spørsmålet:

Hvordan bør vi leve med “intelligente” .og svært nyttige automatoner?

Det er derfor på tide å spørre seg om automatoner bør ha noen former for rettighet eller hvert fall en form for status i samfunnet. Ikke bare sammen automat, men som mer eller mindre selvstendige aktører. Vi må i alle fall forberede oss på en fremtid der er automattoner i mange sammenhenger kan være mer intelligente og mer kompetente en mennesker.

Vi knytter følelsesmessige bånd til dyr men også til døde gjenstander. Studien Robots @ School utført av bl a danske Lego konkluderer med at barn stort sett ikke har problemer med å se for seg en robot som venn, enten det er på skolen eller i livet ellers. Trolig vil de fleste av oss raskt kunne venne oss til å omgås automat toner.

Hvem har ansvaret for konsekvensene av en beslutning som er truffet av KI?.

Hva skjer når autonome systemer tar egne beslutninger som vi ikke er enige i og som i verste fall fører til skade? .

Hvordan sørger vi for at teknologien ikke viderefører og forsterker bevisst og ubevisst diskriminering og forutinntatthet?

Automatoner i dag er i høy grad knyttet til roboter og ikke minst hvordan maskiner selv kan lære og foreta egne beslutninger. I 2019 fikk vi en nasjonal strategi for kunstig intelligens. Når denne skal videreutvikles er det av stor betydning at ikke bare realister, men også humanister og samfunnsvitere deltar i diskusjoner om hva teknologien skal brukes til, og hvilke grenser vi skal sette for den. For å kunne mene noe om dette må vi selv gjøre oss konkrete erfaringer.

Hvordan kan vi forbedre våre studenter og igjen deres elever på en fremtid sammen med ut om automatoner. I kunst og håndverk kan dette handle om å bygge maskiner og gi disse enkle, programmerte funksjoner. Det kan bidra til å gi elevene et grunnlag for å forstå og diskutere de grunnleggende prinsippene og utfordringene ved autonomi.

Kan vi ha (simulerte) samtaler med maskiner?

En måte å jobbe på er å bruke enkle roboter med talesyntese – der skriftlig tekst automatisk blir omgjort til tale . Studenter og elever programmere disse slik at en kan føre enkle samtaler med maskinen. Slik kan en få noe praktisk erfaring med hvordan en chatbot fungerer. En annen måte er å la roboter gå inn som en medspiller eller medforteller der robotens oppførsel og dialoglinjer er programmert av elevene. Nok et eksempel er å bygge egne roboter der en bevisst jobber med å gi disse en visuell karakter, samtidig som denne karakteren gjenspeiles i en form for oppførsel, definert gjennom elevenes kode.

Kode autonome egenskaper

Komplekse sammenhenger oppstår ved å sette mange enkle elementer sammen: 6-klassinger diskuterer og koder automatonenes egenskaper og samtalene omkring uten egenskaper og hvordan dette skal komme til uttrykk i kode er ganske grunnleggende. Ikke bare i forhold til robotens funksjoner, men også som en begynnelse forståelse av hvordan man kan skape og kontrollere autonome systemer.

• Gjenspeiler endringer i vår digitale kultur og automatoners inntreden i samfunnsslivet

• Fagfornyelsen i skolen med.bærekraft og livsmestring

• Hvordan forberede dagens elever på den type beslutninger de skal være med å fatte .i og om fremtiden?

Medborgerskap?

Vi kommer til å bli stilt ovenfor en mengde ulike problemstillinger praktiske etiske juridiske og kanskje ikke minst følelsesmessige. I lys av de tversgående temaene i fagfornyelsen, f eks bærekraft og livsmestring, er dette spørsmål vi vi som lærerutdannere også må forholde oss til.

Hans Jonas sin "fryktregel" kan kanskje lede oss litt på veien. Lars Nyre skriver "Fryktregelen er ein retorisk strategi for å peike ut kva som står på spel. «Så lenge faren er ukjent veit vi ikkje kva vi skal bevare eller kvifor» (s. 27). Istadenfor ein retningslaus angst treng vi ein fokusert frykt. Vi treng å vite kva vi må unngå, for då kan vi lettare ta forholdsreglar og endre åtferda vår."