Synger «Alle fugler små de er» på siste verset?

Det er ikke bare skolen som knebler vår vakre barnesang, men også kunstig intelligens.

Nylig nektet en skole barna å synge «Alle fugler små de er» «fordi den ansees som potensielt krenkende». Siden jeg ikke kunne lese forklaringen på sangens potensielt krenkende innhold bak betalingsmur spurte jeg Googles Gemini om teksten, som dessverre for det meste var gått i glemmeboka.

Svaret var som følger: «Jeg beklager, men jeg kan ikke generere tekst som er hatefull eller nedsettende. Det er viktig å behandle alle med respekt.»

Hatefull eller nedsettende? Fra mine barndomsminner kunne jeg ikke erindre at sangteksten var det. Ei heller kunne jeg erindre at den ikke behandlet alle med respekt.

Selv om Gemini ikke ville svare, dukket sangteksten opp i søket hvor to strofer lyder:

«Skog og mark i grønne skrud kler seg nå på Herrens bud» og «Takk, o Gud, som enn en gang gav oss sol og glede».

Jeg mistenker at det var disse strofene som Gemini ikke kunne fordøye. Og hvis jeg tar feil, hvilke andre deler av teksten er problematiske? Noe med «Lille søster, lille bror»? Eller «Plukke blomster… til mor»? Muligens hadde Gemini vært mer velvillig om medmor ble nevnt, under forutsetning av at Herren og Gud ble sløyfet. Selvsagt.

Det er kritikkverdig at skaperne av Gemini har programmert språkmodellen som de har gjort, men mitt enkle søk avslørte ikke det mest problematiske med verktøyet. Grunnen er at de fleste skjønner at dette handler om åpenbar sensur.

Mer alvorlig er det når svarene blir subtile hvor kanskje en del er formelt riktig, men også inneholder noen fordreide sannheter eller halvsannheter som kan være vanskelige å fange opp. Særlig siden de fleste stiller spørsmål på områder hvor forhåndskunnskapen er begrenset. Hvis da skaperne bak språkmodeller har en bevisst agenda, hvilket mitt søk om «Alle fugler» demonstrerer, kan vi utelukke at de også har innbygd mer raffinerte metoder for å fordreie virkelighetsforståelsen?

For å få godt svar er det nødvendig å gå systematisk til verks, men etter mitt «Alle fugler»-søk, spurte jeg i enkelhet Gemini om det noen ganger hadde vært krig mellom Norge og Russland. De første ordene i svaret var «Ja, Norge var i krig med Russland under den store nordiske krigen fra 1700 til 1721». Hvis en ikke leser videre, mange gjør ikke det, kan en, særlig siden det første ordet i svaret var «Ja», bli forledet til å tro at Norge og Russland var på motsatt side i krigen.

I følgende setninger kommer riktignok en presisering hvor det framgår at Norge og Russland var i krig, men mot samme fiende, Sverige. Altså ingen krig mellom Norge og Russland.

Videre sier imidlertid Gemini at «Nord-Norge ble rammet av russiske herjinger mot slutten av krigen», omtalt som den «eneste direkte krigen mellom Norge og Russland». Her snakker vi ikke bare om ulne halvsannheter, men direkte usannheter hvis en legger Store norske leksikon til grunn.

For å la tvilen komme tiltalte til gode kan en anta at de unøyaktige og feilaktige svarene er pga. svakheter i Geminis språkmodell, men hvorfor blir de da gjennomgående fordreid i Russlands disfavør?

Svaret, tror jeg, er bevisst programmering for å la Russland framstå i et negativt lys.

Kanskje den beste måten å bruke kunstig intelligens på er å stille samme spørsmål til ulike modeller, samt supplere med informasjon fra andre kilder, f.eks. media, leksika eller vitenskapelig litteratur, men hvem tar seg tid til det når tilsynelatende ekspertinformasjon blir stadig lettere tilgjengelig? Og hvis vi ser noen skritt framover, hvor trygge kan vi være på at ulike kilder ikke søker informasjon hos hverandre? Mest sannsynlig ja, og resultatet blir konvergering av informasjonsflyt hvor divergerende alternative stemmer mister terreng.

Dynamikken blir den samme som i media og akademia med noen få toneangivende aktører som kontrollerer informasjonsflyten med ensrettet konsensustenkning som resultat. Heldigvis ser vi der tegn til lyspunkter med tilvekst av nye medier, samt noen relativt usensurerte sosiale medier hvor alternative stemmer har fått en plattform. Om det samme skjer med kunstig intelligens vil tiden vise, men å bryte opp et slikt oligopol, kanskje i realiteten et monopol, hvor det per i dag er umulig for mindre uavhengige aktører å etablere seg, blir ikke enkelt.