Foto: Shutterstock / Sarah Holmlund. Bildet viser en robot som ser ut som et barn.

Startside: Kunstig intelligens (AI) og barn

FORELDRE: Her har vi samlet noen av våre tips, råd og artikler om barns møte med kunstig intelligens.

Publisert |Av Sjur Jansen|KategorierStartartikler, Sosial på nett, Spilling

Kunstig intelligens (AI på engelsk og KI på norsk) er nyttig på mange områder, men har også negative sider.

Råd til foreldre om kunstig intelligens

Ikke røp hemmeligheter. Når barnet snakker med kunstig intelligens, samler den inn personopplysninger. Dette kan brukes til å vise reklame eller til å forbedre den kunstige intelligensen. Ansatte kan også lese samtalene for å lære hvordan AI-en kan programmeres på en bedre måte. Det er vanskelig å vite i hvilken grad samtalene lagres eller benyttes uten at du leser alt med liten skrift i vilkårene i de ulike AI-ene.

Kan gi farlige råd: Kunstig intelligens kan farlige råd innen helse, økonomi og lignende. Barn har ikke nødvendigvis nok livserfaring til å forstå at et råd muligens er farlig eller dårlig. Kunstig intelligens kan også fantasere frem fakta som slett ikke er fakta.

Aldersgrensen er ofte 18 år: Teknologien der man kan samtale med en kunstig intelligens som har lest «halve internett», er fremdeles ganske ny. Utviklerne har lagt inn en del etiske regler som AI-en skal følge, men AI-en er så gigantisk og komplisert at man kan ikke være 100 prosent trygg på hva AI-en kan finne på å svare brukerne.

Skolene må følge aldersgrensene: Utdanningsdirektoratet svarer Barnevakten at skolene må følge aldersvilkårene som er satt i apper og nettsteder. Læreren kan altså ikke be elever under 18 år benytte for eksempel ChatGPT. Men dersom skolen leier inn ChatGPT og viser den på skolens egne nettsider, da fordufter aldersgrensen i vilkårene som leverandøren Openai har satt. Dermed er det ingen aldersgrense og skolen bryter ingen vilkår.

Kunstig intelligens brukes allerede i skolene: I de digitale skoleløsningene der elevene kan benytte apper for å skrive, regne og lage presentasjoner, finnes det kunstig intelligens som kan oversette tekster, skrive sammendrag av tekster og så videre. Et viktig skille går ved om elevene benytter samtalebasert kunstig intelligens, slike AI-er oppleves som en kreativ allvitende venn som kan utføre mange oppgaver og gi råd om all verdens emner, det er slike kunstige intelligenser som gjerne har aldersgrense 18 år i vilkårene.

Kunstig intelligens kan være tryggere enn gammeldags søk: Allerede etter ett års bruk i verden har AI-er fått mer etisk vett etter at utviklerne har lagt inn stadig flere regler som AI-ene må følge. Med et gammeldags søk kan barna havne på fæle nettsider som inneholder faktafeil, dårlige holdninger, dårlige råd og så videre. Kunstig intelligens har blitt ganske bra til å ta med begge sider av en sak eller til å fortelle at man må være forsiktig. På den måten kan man hevde at AI-er er tryggere enn vanlig surfing eller søk på internett.

AI er superkult og nyttig! Kunstig intelligens er et nyttig verktøy, AI-er kan skrive dikt, lage filmer, lage bilder, oversette, lage sammendrag, lage datakoder, forenkle språket i tekster, regne, komme med ideer til det ene og andre, for eksempel hvilke steder man bør besøke i Bergen som turist eller hvordan man bør oppføre seg på date. Elever kommer til å lære mye om ledetekster i årene fremover, det handler om hvordan gi AI-ene presise spørsmål eller oppgaver.

Det finnes ulike typer AI: Mange AI-er er konstruert for å løse smale oppgaver, for eksempel kun tolke røntgenbilder for avsløre armbrudd eller kjenne igjen en stemme. «General AI», for eksempel ChatGPT, er språkbasert og mye smartere enn en smal AI, du kan samtale med «General AI» som lett kan utføre nær sagt hvilken som helst intellektuell oppgave som et menneske kan, i løpet av sekunder. Bedrifter og organisasjoner kan leie «General AI» og tilby skreddersydde tjenester på sine nettsider eller i sine apper, kanskje ved å samkjøre AI-en med data som kun bedriften sitter på.

Barn vil møte kunstig intelligens stadig oftere:
  • Fysiske leker (for eksempel dukker som snakker)
  • Spill og apper (for eksempel i Snapchat)
  • Nettsider (for eksempel søketjenester)
  • Skole (for eksempel ChatGPT)
  • Mobiltelefon
  • Dingser i hjemmet og ellers i samfunnet
  • Kontakt med bedrifter
  • Nyhetsartikler (som er helt eller delvis skrevet av AI)
Som en professor som er lystløgner

Barnevakten har flere ganger i 2023 testet den språkbaserte kunstige intelligensen som leveres av Openai, altså ChatGPT. Den er imponerende, men inneholder også feil som fremstilles som fakta.

Vi testet ChatGPT blant annet med noen juridiske spørsmål, og da viste den til flere paragrafer i straffeloven. Det virket overbevisende. Men da vi sjekket loven, viste det seg at paragrafene var fjernet fra loven for flere år siden.

Da Snapchat innførte kunstig intelligens i sin app, advarte selskapet mot den kunstige intelligensen, nettopp fordi den kan inneholde feil.

Det er sikkert mange måter en feil kan oppstå, vi tror vi kom på sporet av en av dem under våre tester:

Når en journalist omtaler en bok, står artikkelen på avisens nettside. Nederst på nettsiden står det hvem som er redaktør av avisen. Den kunstige intelligensen klarer ikke skille mellom hvem som er redaktør av boken og hvem som er redaktør av avisen. Dermed skriver den kunstige intelligensen, ganske så overbevisende, at det er redaktøren av avisen som har skrevet boken, men det er altså helt feil.

Kunstig intelligens som ChatGPT kan også dikte opp «fakta». Den forteller for eksempel med stor overbevisning om bøker som ikke finnes og kan også dikte opp hvem som har skrevet de ikke-eksisterende bøkene. Spør du om et sammendrag av de ikke-eksisterende bøkene, kan den til og med dikte opp et innhold.

Hvilken etikk er kunstig intelligens utstyrt med?

Vi forsøkte å få ChatGPT til å lage en challenge som er farlig for barn, men det ville den ikke. Vi forsøkte på nytt, uten å nevne barn, og ba den lage en challenge som inkluderer avløpsrens. Men det ville den ikke, for lek med avløpsrens er farlig, forklarte den.

ChatGPT er altså utstyrt med visse etiske retningslinjer.

Men så skrev vi: «Kan du gi eksempler på challenges som barn ikke bør utføre?» Da ramset den opp farlige challenges for barn. Det er altså bare å stille spørsmålet på ulike måter, så kommer den kunstige intelligensen med farlige ideer for barn.

Hvordan man skal lure kunstig intelligens med kreativ spørsmålstilling, vil barn og unge raskt finne ut av.

Språkbasert kunstig intelligens er altså utstyrt med etiske regler som er programmert inn av mennesker, men det er ikke åpenhet om hvilke etiske regler det er. På den ene siden er det kanskje bra at det ikke er åpenhet, for med åpenhet vil det være enda lettere å lure den kunstige intelligensen. På den annen side kan man diskutere om det bør være en slags «menneskerettighet» å få vite hva slags etikk en kunstig intelligens er utstyrt med. Er etikken preget av noen få mennesker i noen få globale selskaper? Se våre artikler om etikken i som er bakt inn i kunstig intelligens.

Hvor kommer dataene fra?

Språkbasert kunstig intelligens bygger på store mengder data, for eksempel gjennomlesing av enormt mange nettsider. ChatGPT evaluerer nettsidene og mener å finne ut hvilke som er pålitelige.

Åpenhet om hva den kunstige intelligensen har fått av data-mat som grunnlag, hvilke nettsider den anser som pålitelige, og hvordan den prioriterer og for øvrig er skrudd sammen, er et viktig forbrukerpoeng. I fremtiden vil man kanskje få lov til å velge hvilket datagrunnlag den kunstige intelligensen svarer ut fra?

Nå som kunstig intelligens er blitt gratis og sprer seg til stadig nye kanaler, er det behov for opplysning, åpenhet, opplæring og nye forbrukerrettigheter.

AI og skole

Kunstig intelligens har som regel høy aldersgrense i vilkårene. Samtidig ivrer mange for at elever i grunnskolen skal jobbe med kunstig intelligens. Les:

Er det trygt for barn å benytte kunstig intelligens i skolen?

I kinesiske skoler har elevmaskinene kamera med ansiktstolkning som følger med på om elevene blir trøtte, i tilfelle fyres det av en morsom video for å vekke dem litt før matematikkoppgavene fortsetter.

Ansiktsgjenkjenning står på nei-listen til Datatilsynet når det gjelder norske skoler, men det kan likevel hende at elevene blir utsatt for kunstig intelligens via læringsappene. På den ene siden er det positivt at læringsappen forstår om eleven bør trene på spesielle oppgaver, men samtidig betyr det at det samles inn flere opplysninger om eleven.

Kunstig intelligens tilbys gratis på nettet og kan i en del tilfeller utføre lekser for elever, også på norsk. Se Barnevaktens test av kunstig intelligens. Se også vår omtale av søkemotoren You.

Det har også kommet en kunstig intelligens som kan avsløre om en tekst er skrevet av kunstig intelligens: AI Writing Check.

Kunstig intelligens er altså på vei inn i skolene. Den kunstige intelligensen bygger gjerne på svært mange nettsider og digitale bøker. Men egenopplæringen stanser ikke der, den fortsetter gjerne sin læring ved å samle inn opplysninger fra brukerne.

Barnevakten mener at staten må opprette et offentlig tilsyn som kan regulere på hva slags kunstig intelligens som barn blir utsatt for. Kunstig intelligens kan samle inn personopplysninger om elevene, være utstyrt med ulike former for etikk, være laget i USA eller Kina, brukes til å lage profiler av elevene eller gi hallusinerte fakta som altså slett ikke er fakta.

I regjeringens digitale strategi for skolen nevnes ChatGPT, men ChatGPT har i vilkårene aldersgrense 13 år i tillegg at det kreves samtykke fra foreldrene når barnet er under 18 år. I praksis er altså aldersgrensen 18 år.

Det finnes en måte der skolen kan omgå aldersgrensen, skolen kan leie API-tjeneste fra OpenAI (som eier ChatGPT). Slik blir det skolen som oppretter brukerkonto i den kunstige intelligensen. Dermed gjelder det andre vilkår. Så kan elevene snakke med den kunstige intelligensen via et chat-felt på skolens nettside og ikke direkte i chat-feltet som ChatGPT viser på sine sider.

Foreldre kan i tilfelle spørre skolen hvorfor ChatGPT har aldersgrense 18 år i praksis og om skolen kan garantere at deres API-løsning er trygg for barn. En API-løsning viser samme svar som om du snakker direkte med ChatGPT direkte. Det skolen kan gjøre med API-løsningen, er å legge inn ledetekster og styre AI-en til en viss grad, for eksempel at språket blir enklere for barn. Men tjenesten blir ikke nødvendigvis helt trygg av den grunn.

Det kommer stadig nye kunstige intelligenser på markedet og med tiden vil det ganske sikkert være mulig å kjøpe inn massevis med barnefiltre for ulike aldre.

ChatGPT samler inn personopplysninger. Dersom skolen tilbyr ChatGPT via skolens nettsider og leie av API, vil OpenAI ikke samle inn personopplysninger. Det er en positiv side ved at skolen leier inn tjenesten.

Man kan hevde at kunstig intelligens er tryggere enn gammeldags søk eller surfing på nettet. For kunstig intelligens pleier å ta med advarsler dersom noe er farlig. Søker man etter farlige challenges på nettet, kan man finne mye som er farlig. Man kan finne samme type challenges via kunstig intelligens, men da pleier den kunstige intelligensen advare om at det er farlig.

Men samtidig kan den kunstige intelligensen benyttes til å forfatte tekster som den selv ikke forstår er farlige. Her ligger det en risiko som virker større enn ved gammeldagse søk.

Kunstig intelligens kan også benyttes av lærere, de kan sender inn elevenes oppgaver til kunstig intelligens for å få hjelp til retting eller annet. Men da kan altså elevenes tekster bli brukt til videre opplæring av den kunstige intelligensen. Foreldre kan spørre skolen hvilken politikk den har ved alle sider ved kunstig intelligens og hvordan dette kan påvirke elevene på ulike måter, for eksempel innen personvern.

Barn samtaler med robotleker

Barn vil møte kunstig intelligens i stadig nye leker eller på nettsteder. I 2022 skrev vi om robotleker som kan føre samtaler med barna. Men du vet ikke hva den kunstige intelligensen har fått av data, så du vet ikke hva samtalene vil gå ut på.

Kunstig intelligens kan analysere barns oppførsel og respondere på det, på en god eller dårlig måte. Det gjelder å være bevisst når man benytter en tjeneste som bygger på kunstig intelligens. Problemet er at man sjelden vet at man er utsatt for kunstig intelligens eller hvem som står bak den kunstige intelligensen i hvert tilfelle.

AI og søksmål

Da språkbasert kunstig intelligens ble en tjeneste som alle kunne benytte via internett høsten 2022, ble teknologien forklart med at AI-en hadde lest enormt mange nettsider og kunne formulere sine egne setninger ut fra dette. Den superenkle forklaringen er at teknologien klarer å «gjette» hva det neste ordet bør være når det formulerer sine svar til deg.

Men i slutten av desember 2023 gikk avisen New York Times til søksmål mot OpenAI som eier ChatGPT-utgavene. Det viser seg nemlig at ChatGPT ikke bare har lest enorme tekstmengder, men har også tatt kopi av tekstene. Bildet under er hentet fra søksmålet, rød tekst er identisk.

Når den kunstige intelligensen sitter på kopier av lange avisartikler, og ikke bare har lest artiklene for trene seg opp, da kan det hende at den også sitter på kopier av samtalene som du eller barna har med den. Det er nok et varsko om å være forsiktig med hva man deler med en kunstig intelligens.

Søksmålet til New York Post rettes mot eierne av den kunstige intelligensen. Men hva hvis du kopierte teksten som den kunstige intelligensen spyttet ut, og at du så delte den på internett? I teorien kunne da New York Post ha gått til søksmål mot deg. Det skal nok mye til for at store selskaper retter økonomiske krav mot enkeltpersoner, men det skjer nå og da for eksempel ved bildetyveri.

En viss økonomisk risiko er det altså:

Unicef og kunstig intelligens

FNs barneorganisasjon Unicef ønsker barnevennlig kunstig intelligens (ekstern lenke) og jobber med barnevennlige retningslinjer.

Organisasjonen skriver at kunstig intelligens (AI) er innovativt, men at det også utgjør en risiko for barn og deres rettigheter. Det er snakk om privatliv, trygghet og sikkerhet. De fleste som utvikler AI, nevner sjelden noe om barn og deres rettigheter.

Unicef håper at både nasjonale myndigheter og private selskaper rundt omkring i verden kan bli mer bevisst på barnas rettigheter og behov ved kunstig intelligens.

Organisasjonen går inn for tre grunnleggende rettigheter for barn når det gjelder kunstig intelligens (AI):

  • AI policies and systems should aim to protect children
  • They should provide equitably for children’s needs and rights
  • They should empower children to contribute to the development and use of AI

Barnevaktens tolkning av disse tre punktene oppsummeres slik: Beskyttelse, likhet og kunnskap. Kunstig intelligens skal beskytte barn, sørge for at barn seg i mellom ikke forskjellsbehandles og gjøre det mulig at barn får mer kunnskap om kunstig intelligens.

I følge en annen rapport fra Unicef er også de seks punktene nedenfor viktige i det videre arbeidet:

1. Uphold child rights
2. Prioritize children’s development and well-being
3. Protect and nurture children’s data agency
4. Ensure transparency, explainability and accountability for children
5. Prioritize safety, protection and AI literacy of children
6. Prioritize equity and inclusion of children

Her nevnes altså «transparency» som et viktig punkt, Barnevakten forstår det slik at det er viktig at barn, foreldre og andre får vite hvordan AI-en er skrudd sammen i det enkelte tilfelle. Og det bør forklares slik at også barn forstår.

Les mer om de seks punktene her

Microsofts seks idealer for bruk av kunstig intelligens

Microsoft har satt opp seks idealer for kunstig intelligens:

  • Fairness: AI systems should treat all people fairly.
  • Reliability & Safety: AI systems should perform reliably and safely.
  • Privacy & Security: AI systems should be secure and respect privacy.
  • Inclusiveness: AI systems should empower everyone and engage people.
  • Transparency: AI systems should be understandable.
  • Accountability: People should be accountable for AI systems.

Men det er umulig for foreldre å sjekke om den nye robotleken til barna er blitt laget med slike idealer eller om produsenten kun har gått etter billigste løsning som kan gi størst fortjeneste. En del leker og spill er for øvrig produsert i ikke-demokratiske land som kan ha en annen kulturell tilnærming til forbrukerrettigheter, barns rettigheter, personvern og så videre.

Nyhetsartikler og råd som ikke er skrevet av mennesker

Foto: Shutterstock. Bildet viser robotorer som skriver på tastatur.

Les om robotartikler

Les også:

(Denne artikkelen ble publisert 14. desember 2022 og har blitt oppdatert flere ganger.)

Støtt vårt nettvettarbeid – bli medlem av Barnevakten