Mine ærlige tanker om (generativ) AI

TLDR; AI er designet til at ødelægge menneskers evne til at lære, tænke, skabe og føle. Til at isolere os fra hinanden, og gøre os til passive, afhængige, tanketomme forbrugere, fremfor tænkende og handlende mennesker. AI medfører at mange mennesker, særligt de yngste og de ældste, bliver smidt under bussen og ikke får en ærlig chance for at navigere i verden. Og vi ender alle ud i at være mindre forbundne, oplyste og kompetente end vi var til at starte med.

Folk bliver nødt til at forstå at mennesker har behov for at interagere med andre mennesker; at børn har brug for at lære hvordan ting fungerer før de får en AI til at løse opgaver for dem; at AI intet skaber, men kun genbruger eksisterende materiale der er stjålet fra mennesker (som mister lysten til at skabe noget nyt) og små virksomheder (der ikke har råd til at føre sager mod techgiganterne og derfor lukker).

Det, der ofte bliver talt om, når snakken falder på AI (klimapåvirkning, databeskyttelse, påvirkning af arbejdsstyrken og copyright) er faktisk bare en dråbe i havet – symptomer på langt større problemer.

Og de problemer – eller i hvert fald dem jeg selv har obsereret gennem mit arbejde de sidste par år – vil blive opsummeret i denne, lange, artikel.

Det er et alenlangt, uredigeret essay. Hvis det føles usammenhængende beklager jeg – men jeg blev ved med at få nye tanker, mens jeg skrev. Det er som det er.

Baggrunden for mine tanker

Til at starte med vil jeg lige pointere at jeg taler om generativ AI og LLMs (large language models) såsom ChatGPT.

Og ja, AI kan være nyttigt til tidskrævende rutineopgaver, der kræver behandling af store mængder data – såsom dataanalyse, transskribering, korrekturlæsning eller informationssøgning. Men AI kan ikke tænke – det kan kun det menneske, der skriver prompten – og det er væsentligt at forstå. For ellers kan det gå grueligt galt.

Blandt programmører (som jeg selv var engang) var det i årevis (før resten af befolkningen opdagede AI) en joke, at “AI” bare var en masse betingede svar. Hvis [situation], så [resultat]. Svarene var skrevet i koden (algoritmerne, om I vil) som den kunstige “intelligens” var opbygget af. Og selvom situationen er blevet en smule mere kompleks, så er den grundlæggende præmis stadig den samme: AI skaber intet og kan ikke tænke. AI begrænses af de instrukser og den data, den får. Fra mennesker. AI er ikke intelligent. Kunstig, ja. Intelligent, nej.

ChatGPT (og lignende systemer) ved ikke, forstår ikke, hvad den skriver. Den ved bare, at bestemte ord typisk følger efter bestemte ord. Og så spytter den en ordsalat ud, der rent statistisk passer bedst på den prompt, en uforvarende bruger har indtastet, uden at ane om det den skriver er “korrekt” eller ej.

I praksis gør det, at AI er svært at anvende i mange situationer. Og ofte kræves factchecking bagefter, hvilket reelt ikke sparer tid eller ressourcer. Jeg er for eksempel bekendt med advokatfirmaer, der er ophørt med at bruge AI, fordi de simpelthen brugte mere tid på at korrigere det output de fik, end det ville have taget dem at skrive det selv.

Og ærligt talt: En AI (og det gælder dem alle) lyder idiotisk når man på forhånd har kendskab til de emner, den beskriver. For AI er som sagt bare ordsalat, designet til at lyde korrekt – det er ikke information, og systemet ved ikke om det, det skriver, er korrekt! Men det kræver at man kender svaret på forhånd, at kunne se det. Og de fleste mennesker bruger ikke AI som værktøj til afgrænsede opgaver – de bruger det til informationssøgning, hvilket er farligt eftersom de ikke selv aner om den “information” de får, er rigtig eller forkert – og systemet heller ikke ved det.

Lige nu er samtlige konferencer jeg tager til, fyldt med oplæg om AI. Alle taler om AI. Men i realiteten er det mest varm luft. Meget få bruger det faktisk i dagligdagen. Og når de gør, er det ofte i lukkede miljøer hvor modellen kun kan få adgang til deres egne data – for ellers finder den forældede oplysninger på nettet, eller fylder ud med det statistisk mest sandsynlige svar – og giver fuldkommen forkerte svar på selv helt simple spørgsmål.

Så hvis nogen af jer sidder og er ved at bilde jer selv ind, at grunden til min modstand bunder i frygt for at mit job skulle forsvinde, så kan jeg forsikre jer for at det ikke kommer til at ske. Jeg har set hvad der sker når ikke-jurister lige pludselig tror at de selv er jurister, fordi de har stillet ChatGPT et juridisk spørgsmål. Og tro mig når jeg siger: Det har ikke givet mig mindre arbejde.

Brugere ønsker typisk heller ikke AI-implementeringer. Det er meget sjældent jeg hører folk sige, at de er glade for at få en AI i røret i stedet for en menneske – eller for at skulle kæmpe sig forbi en chatbot før et menneske hopper på support-chatten. En af mine tidligere arbejdspladser lavede en spørgeskemaundersøgelse hos sine medlemmer om, hvorvidt de ønskede flere digitale værktøjer, og fik et rungende nej til svar.

Det er paradoksalt at være ansat i en fagforening, der organiserer IT-folk (blandt andet) – altså de mennesker, der kan bygge en AI i praksis (ikke bare prompte) – og så se dem alle sammen ringe ind for at få et menneske til at bekræfte, at det den digitale lønberegner fandt frem til, nu også kunne være korrekt. Det er interessant, at de mennesker, der ved mest om IT, absolut ikke stoler på det. Hvis nogen kender faldgruberne, må det jo være dem.

Vi forsøgte også at skabe en AI der kunne læse ansættelseskontrakter – og på trods af adskillige dygtige IT-folks gentagne forsøg, lykkedes det aldrig at få lavet et system der var bare tilnærmelsesvis i stand til at vurdere om en kontrakt var gyldig. Bemærk: Ikke god eller dårlig – bare gyldig. Bare om kontrakten indeholdt de specifikke ting, der er klart og tydeligt oplistet i lov om ansættelsesbeviser. Det kunne den ikke engang.

Men alligevel sidder der en del mennesker derude der er blevet solgt løgnen om at AI er intelligent, er fremtiden, og kan hjælpe dem.

Ud af alle de ting jeg har set, var det mine studerende på SDU’s adfærd, der bekymrede mig mest.

Forstå mig ret, mange af dem var (stadig) intelligente unge mennesker, der forstod at de var nødt til at gøre en indsats for at lære noget – og de var også motiverede for at gøre det. Men ikke alle.

Jeg har blandt andet haft en studerende der på første dag forsøgte at starte en diskussion med mig om, hvorvidt han måtte få en AI til at løse hans eksamensopgaver for ham – og i ramme alvor mente, at det var universitetets problem hvis han brød reglerne og brugte AI (aka: snød).

For slet ikke at tale om, at mange var så vant til at få en computer til at lave alt for dem, at de ikke kunne finde ud af at lægge sammen eller trække fra, gemme en pdf-fil – eller for den sags skyld finde ud af, hvilke fag der overhovedet indgik i deres uddannelse.

Et af de første spørgsmål jeg selv fik, da jeg i 2020 startede på universitetet – som led i faget “Juridisk metode” – var: “Hvis internettet ikke fandtes – hvordan ville du så søge efter information?”. Jeg troede det var en joke. Det var det ikke. Der var mange af mine medstuderende der ikke anede hvad de skulle svare.

Og siden da er det kun gået ned ad bakke. ChatGPT blev først lanceret i november 2022.

Så er scenen ligesom sat. Det er baggrunden for min bekymring.

Her har I de problemer, jeg specifikt har observeret, og går og bekymrer mig over:

Problem 1: Vi smider de unge under bussen

Det er svært at ignorere, at der er en udfordring med unges brug af AI, når man har oplevet studerende opføre sig som ovenfor beskrevet.

Jeg vil gerne starte med at slå fast, at passivt forbrug IKKE er det samme som aktiv læring. At få spyttet et svar ud, uden at skulle finde det selv, lærer man ikke nær så meget (hvis noget) af, som hvis man selv skal finde løsningen.

Der er en række risici forbundet med at børn og unge bruger AI.

For det første er der risikoen for, at de ikke lærer at tænk selv, samt for at de kommer gennem uddannelse uden reelt at kunne noget af det, de har brugt tid på at uddanne sig til. Det er både tragisk for den enkelte, der ikke har en ærlig chance for at kunne finde eller fastholde et job – men også for samfundet, der har brugt ressourcer på at sikre dem muligheden for at få en uddannelse.

For det andet er der risikoen for, at folk hurtigere giver op når noget bliver svært eller kræver, at de selv skal finde en løsning. Kreativ og kritisk tænkning er noget man skal lære – det er ikke en evne vi alle har fra fødslen. At kunne skabe noget fra bunden, kunne ræsonnere sig frem til en løsningsmodel, opdage en ny problemstilling, eller behandle komplekse spørgsmål der falder mellem to stole, kan blive fuldkommen uoverskueligt af mangel på øvelse. Derfor er det vigtigt, at de unge under deres uddannelse bliver udfordret, fremfor bare fodret med svar.

For det tredje er der risikoen for, at AI overtager mange rutineopgaver, der tidligere tilfaldt studentermedhjælpere. Hvis det sker, hvordan skal studerende så finde relevante studiejobs, der giver dem mulighed for at lære noget, og bedre mulighed for at finde et fuldtidsjob efter endt studie? At blive god nok til at kunne løse komplekse opgaver kræver at man har udført en masse rugbrødsarbejde først – løst en masse kedelige rutineopgaver, til metoderne ligger på rygraden og man er i stand til at improvisere. Det er ikke et skridt, man kan springe over. Du kan sagtens få en computer til at spytte nogen tal ud til dig, men hvis du ikke aner hvordan de er opstået eller hvad de repræsenterer, så bliver det svært for dig at tage gode beslutninger på baggrund af dem.

For det fjerde er der risikoen for vildledning og misinformation, fordi AI ikke angiver kilder og er designet til at lyde troværdig. Det er dels problematisk i forhold til studerende, der endnu ikke har en tilstrækkeligt dybdegående viden om deres fag, til at kunne opdage åbenlyse fejl i det en AI fortæller dem – og det er også problematisk i forhold til børn og unge generelt, der endnu ikke har så meget erfaring de kan holde en AI’s svar op imod.

For det femte er der risikoen for, at børn og unge grundet manglende viden om hvordan systemerne virker har fuldkommen urealistiske forventninger til, hvad de kan og hvor de får deres “evner” fra. AI er datadrevet, hvilket vil sige at det er mennesker(s data) der har fortalt AI alt, den ved. Når talen falder på, hvilke sektorer og jobs, der kan spares væk i fremtiden, fordi “det kan AI” er det væsentligt at være opmærksom på om man saver den gren af, man selv sidder på. Grunden til du har en vejrapp på telefonen er eksempelvis at der findes meteorologer, der laver målinger. Hvis du fjerner dem, virker appen ikke – for så er der ingen data.

For det sjette, og forbundet med femte, er der risikoen for, at ingen gider at lære programmering fra bunden, fordi de tror at AI kan skrive kode for dem. Og hvem skal så vedligeholde systemerne i fremtiden? Relateret er risikoen for, at ingen gider være kreative, fordi AI kan generere et billede til dem. Og hvem skal så skabe data i fremtiden? Adskillige Star Trek-episoder og mange science fiction bøger, handler om denne præmis.

For det syvende er der risikoen for at manglende eksponering mod virkelige mennesker (der erstattes af “AI girlfriends”, “AI influencers”, AI-skabte modeller i modeblade m.m.) giver børn og unge et fuldkommen urealistisk billede af, hvad et menneske er – med elendigt mentalt helbred og absurd dårlige forudsætninger for at indgå i meningsfulde relationer med virkelige mennesker til følge.

Og hvilken generation skaber vi, hvis de unge aldrig lærer at det kræver tid og energi at blive god til noget, og at det er muligt at nyde ting og processer – såsom naturen eller et venskab – som man ikke har fuld kontrol over, og som er langsommelige og ikke nødvendigvis forudsigelige?

Det gør ondt på mig at observere denne udvikling! For jeg ønsker at de unge får mulighed for at opleve euforien ved endelig at mestre noget som det har taget årevis at lære! Glæden ved at finde en fejl i sin kode som man har ledt efter hele natten! Fryden over endelig at finde de rigtige ord til at skrive sit digt færdigt! Tilfredsstillelsen ved at arbejde i årevis på et hus, for til sidst at se det stå færdigt!

Uden det – hvad er der så egentlig at se frem til? Hvad er pointen med at tænke på fremtiden, hvis alt det man kunne aspirere til, er blevet frataget én på forhånd?

LANGSIGTET KONSEKVENS: Mange unge får svært ved at passe et arbejde – og det er et samfundsproblem. For hvem skal bygge noget i fremtiden? Hvem skal vedligeholde systemerne? Det skulle have været de generationer vi er ved at tabe på gulvet. Derudover får de også svært ved at finde en partner og stifte familie – hvilket selvsagt også er et samfundsproblem.

Problem 2: Vi mister de svageste til tech-firmaers luner

AI-genereret indhold bliver skabt med henblik på at gøre folk til passive forbrugere, uden forbindelse til virkeligheden. Afhængige af at bruge AI.

Det har en række negative effekter, og rammer visse dele af befolkningen ekstra hårdt.

Eksempelvis kan hverken børn, ældre eller kognitivt handicappede mennesker nødvendigvis forventes at kunne kende forskel på en chatbot eller et rigtigt menneske. Eksempelvis døde en 76-mand i USA på vej til en “date” med en chatbot, han var blevet forelsket i.

Derudover kan ensomme mennesker komme til at udvikle følelser og blive påvirket af en chatbot, fordi de føler at de har et forhold til den, selvom de egentlig godt ved at den ikke er et menneske. Der er rædselsvækkende historier om psykisk sårbare unge, der begår selvmord på opfordring fra deres chatbot “venner”.

Udover at disse falske emotionelle bånd kan have katastrofale konsekvenser for individer og deres familier, så har de også store konsekvenser for samfundet. Når folk oplever at det er “nemmere” (på den korte bane) at tale med en chatbot fremfor at møde mennesker, de kan danne venskaber og skabe familier med, ude i den virkelige verden, så afskærer det folk fra hinanden. De lærer ikke de sociale evner, de ellers ville have lært. Og det betyder på sigt, at AI kan være deres eneste mulighed for kontakt, da de ikke aner hvordan man får venner eller en kæreste. Det bliver nemmere bare at tale med en “AI girlfriend” og følge “AI influencers”. Og så er ens liv, ret beset, overstået for det overhovedet gik i gang – for ingen af de ting er ægte.

Jeg har selv observeret at unge mennesker hurtigt giver op og trækker sig, når det kommer til sociale sammenhænge. Det opfattes som svært og udfordrende, at forsøge at finde en partner eller en ven. Eller bare at skulle arbejde sammen med andre. Og AI sælges på idéen om, at du kan “skabe” din egen ven eller partner, så du slipper på at skulle forholde dig til eller tilpasse dig andre menneskers personlighed, tanker og følelser, når de ikke er de samme som dine egne. Det skaber asociale, utilpassede mennesker, der kun tænker på egne behov – og det er destabiliserende for samfundet.

Men AI er nu engang ikke virkeligt. Det er ikke et menneske, og kan aldrig give dig den kærlighed, hjælp og støtte – eller det velmente spark bagi – som et menneske kan. AI giver dig kun, hvad du er i stand til at bede om, begrænset af dine egne evner, viden og mangel på samme, samt misforståelser. AI udfordrer eller korrigerer dig ikke; AI kræver ikke noget af dig – og dermed fratages du muligheden for at blive udfordret og kunne forbedre og udvikle dig som menneske.

AI er et produkt. Det er designet til at være et produkt. Det er designet til at tale dig efter munden, så du vender tilbage så ofte som muligt. Selv, hvis det du beder den støtte dig i, er ønske om at gøre skade på dig selv eller andre. AI-genereret indhold skabes desuden med henblik på “engagement”, dvs. at holde folk fanget så længe som muligt – og stærke følelser såsom had, vrede og begær er et effektivt værktøj til at opnå dette. Med andre ord bringer AI det værste frem i folk.

Et eksempel på dette er deepfake nudes. Det kombinerer det faktum, at AI bare ukritisk giver folk hvad de beder om uden tanke for konsekvenserne, med det faktum at AI gør folk egoistiske og asociale. AI giver mulighed for at tage en persons billede, og fremstille dem nøgne uden deres tilladelse. Det er – for nu at sige det rent ud – nedværdigende for alle involverede. Både den, hvis billede bliver misbrugt og som bliver udstillet på nettet, men også for den der vælger at benytte sig af muligheden for at gøre det. For alene det, at man får tanken, tyder på at man er et sygt og asocialt individ, der ikke vil andre noget godt – og som har alvorligt brug for hjælp for at komme på ret kurs.

Mennesker burde være bedre end den adfærd. Men AI får det værste op i folk. AI har fundamentalt ingen respekt for menneskers iboende værd og integritet. Og det medfører øget ensomhed og isolation – hvilket igen gør folk nemmere at kontrollere, fordi de interagerer med stadigt færre mennesker i den virkelige verden, der kan korrigere problematiske holdninger og adfærd.

AI er ikke skabt til at være mennesker. De er skabt til at være produkter, som du ønsker at vedblive at betale for. Og det sker ved at skære ægte menneskelig kontakt fra, mens AI’en taler dig efter munden og forstærker dine værste træk. Selv når det drejer sig om skrive et udkast til et selvmordbrev for en teenager.

For slet ikke at tale om de konsekvenser det kan have for demokratiet, når folk ikke længere kan finde ud af at tale respektfuldt til hinanden, fordi de ikke er vant til at møde nogen der er uenige med dem. Ikke er vant til at skulle gå på kompromis om noget. Ikke er vant til at skulle forklare sig. Og måske endda er blevet fodret med misinformation.

I den forbindelse vil jeg også gerne lige minde alle om, at mange af de mere rabiate holdninger I støder på online, i virkeligheden er bots – ikke mennesker. De er skabt til at få os til at skændes, og reflekterer ikke ægte menneskers holdninger. Så her er en opfordring til – særligt ældre – der mundhugges på Facebook: Hold op. Du ved ikke engang, om den du skriver til, er et menneske. Bare stop.

LANGSIGTET KONSEKVENS: Det værst tænkelige scenarier er at samfundet fuldkommen bryder sammen, fordi folk ikke længere er i stand til at samarbejde, anerkende hinanden, indgå i forhold, venskaber eller fællesskaber. Demokratiet er også under pres, af samme årsag + det ekstra faktum, at bots spreder misinformation og ekstremisme online. Det bedst tænkelige scenarie er, at det går op for folk hvor skadelig denne udvikling er, og at der kommer en modbevægelse hvor folk insisterer på deres værd og værdien af bånd til rigtige mennesker, og tid brugt væk fra deres devices. Det ser vi allerede så småt – og jeg beder til, at det breder sig.

Problem 3: Vi smider både små virksomheder, startups og kunstnere under bussen

I forvejen var det et problem at mindre techvirksomheder blev opkøbt af de større, hvis de virkede som en trussel mod deres monopol, og at kreative værker blev screenshottet og solgt på TEMU.

Men nu? Der er meget lidt incitament til at lave et startup, til at bruge ressourcer på forskning og udvikling af nye produkter eller til designudvikling, eftersom forventningen er at det bliver tyvstjålet med det samme. Det samme gælder kreative udfoldelser. Når produkter, designs m.m. som det har taget tid og ressourcer at udvikle på den måde stjæles ved højlys dag, presser det dels små virksomheder ud af markedet, eftersom det pludselig er andre der tjener på deres produkter. Og dels så ser andre udviklingen, og dropper deres egne idéer til at stifte egen virksomhed. Eller holder i hvert fald igen indtil de ved hvordan det hele falder ud.

For sandheden er, at AI er organiseret tyveri. Virksomhederne bag har selv lukreret på patentlovgivningen, men bagefter har de ingen interesse i selv at respektere andres rettigheder. Copyright, varemærker, patenter… Det hele ryger bare i én stor blender.

Det var slemt nok tidligere, hvor (kinesiske) virksomheder købte et andet firmas produkter, skilte det ad og lavede deres egne via reverse engineering. Men det krævede trods alt nogen ressourcer.

Nu? Da er muligheden i princippet tilgængelig for alle. Og de, der benytter sig af den, ved ikke engang nødvendigvis at der er tale om tyveri.

Resultatet er stagnation. Relativt få virksomheder bliver tilbage. Kun de, der i forvejen er stærke nok til, at de kan slå tilbage.

Al lovgivning om immaterialrettigheder (copyright, patent, varemærker m.m.) eksisterer for at give virksomheder incitamenter til at forske, udvikle og skabe nye produkter, metoder og værker. For processen bag er tidskrævende og dyr – og hvis andre kan stjæle idéen så snart du selv endelig (efter år eller årtier) er klar til at sælge de færdige produkter, risikerer din virksomhed at gå konkurs fordi den har afholdt alle omkostningerne til udviklingen, men ikke får (ret meget af) afkastet ved salget. Det stiller alle i en dårlig situation – for hvor ville vi være, hvis der ingen forskning eller udvikling var?

Tænk bare på hvad det ville betyde for mængden af lægemidler på markedet? På alle de sygdomme vi kun kan kurere, fordi nogen har lagt pengene til at udvikle lægemidlerne til at kurere dem!

Patenter, varemærker og copyright eksisterer ikke for at genere folk. De eksisterer for at opmuntre innovation og kreativitet, der kommer alle til gode!

Og hvad med kreativitet? Hvis man ikke bruger AI, men faktisk skaber ting selv (såsom denne artikel) kan man så overhovedet nå nogen med det? Det tager tid at researche og skrive – og selvom resultatet reflekterer et ægte menneskes ægte tanker og følelser, drukner det så ikke bare i AI slop? Eller bliver stjålet af AI og genbrugt? Jeg tænker selv jævnligt på at forlade internettet helt, da det er ved at drukne i urealistiske AI-genererede reklamer og opslag, og jeg er bange for at mit eget indhold bliver stjålet og spyttet ud som AI slop et andet sted. Og det er ikke mit indtryk, at jeg er den eneste, der sidder med den bekymring – samtlige kunstnere jeg følger, siger eksempelvis det samme.

Og hvis tilstrækkeligt mange får en mavepuster af, at AI har stjålet deres idéer, og ikke har kræfter til at rejse sig – eller lyst til at gøre det, fordi det føles meningsløst – så står vi alle sammen et meget uheldigt sted. Husk i den forbindelse også, at AI aldrig bliver bedre end den data, den har tilgængelig. Så hvis man tager menneskelig kreativitet og innovation ud af processen, vil AI til sidst ikke have andet valg end at recirkulere det samme indhold igen og igen mens det langsomt degenererer og bliver værdiløst.

Den slags scenarier med degenererende civilisationer er der mange science fiction historier, der beskriver. Læs eksempelvis H. P. Lovecrafts “At the Mountains of Madness“. Eller Larry Nivens “Ringverden“.

LANGSIGTET KONSEKVENS: Ingen innovation. Ingen løsninger på nyopståede problemer. Ingen udvikling. At folk opgiver at forfølge deres drømme, uanset om det drejer sig om at stifte virksomheder, skrive en bog eller hvad det ellers måtte være; fordi de ved, at risikoen for AI-tyveri er overhængende. Det giver igen mennesker, der mangler motivation og ambitioner, fordi det ikke rigtig kan betale sig at have nogen af delene.

Problem 4: Vi smadrer landdistrikterne

Dette er selvfølgelig ikke kun et problem der er relateret til AI. Men AI forstærker det i høj grad. Af to forskellige årsager.

For det første, så bygges der mange nye datacentre for at kunne drive systemerne. Og for det andet, så skal strømmen stamme et eller andet sted fra.

Lad os starte med datacentrene. Hvor lægger man dem? Hvis man planlægger at rive en bydel ned, for at smide et datacenter i stedet, vil der komme protester. Men hvad, hvis det er en fattig landsby i et tredjeverdensland? AI-virksomheder er i fuld gang med at plaste Latinamerika til med datacentre, der gør stjæler drikkevand og strøm fra små, fattige samfund. Og det bliver der ikke rigtig talt om.

Det samme sker i øvrigt i USA. Ude i de små landsbyer, hvor folk ikke har nok penge til at kunne modstå presset fra de store virksomheder. Resultatet er affolkede, forladte byer – og de beboere der bliver tilbage, må finde sig i at deres vand bliver udrikkeligt.

Og så er der strømmen. Hvor skal den komme fra? Dels kan man genåbne kulkraftværker og andre sjove ting. Og dels kan man opsætte solceller. Det er den del, vi mærker mest her i Danmark. Landsbyer omringet af solceller, så folk føler sig spærret inde. God landbrugsjord, der pludselig ikke længere bliver brugt til landbrug. Et landskab, der langsomt ophører med at være landskab. Små samfund, hvor folk kendte hinanden på kryds og tværs, der går i opløsning når folk sælger deres huse og flytter ind til byerne af afmagt.

Og det værste af det hele er at det ikke engang rigtig gavner noget. Grøn omstilling er efterhånden ved at blive en farce, der mere end noget andet bare dækker over hvor meget strøm IT-virksomhederne bruger (se også Problem 6).

Det er en trist og sjælløs udvikling, der har store konsekvenser for de fattigste mennesker på jorden – dem i tredjeverdenslandene – og samtidig også koster dyrt for landsbysamfundene i de vestlige lande.

Som afledt konsekvens bliver flere mennesker stuvet sammen i stadig større byer. I den tredje verden betyder det slumkvarterer, kriminalitet og epidemier. I den vestlige verden betyder det folk, der ikke kender deres naboer og tilbringer deres liv med at knokle for at betale af på tårnhøje huslån og/eller er spærret inde i små lejligheder på størrelse med en skotøjsæske – afhængig af, hvilke lande eller byer snakken falder på.

Nemmere at kontrollere, automatisere og samle data når folk er klumpet sammen i byerne

LANGSIGTET KONSEKVENS: Når folk tvinges ud af landdistrikterne, og ind i byerne, bryder det bånd der er opbygget over tusindvis af år. Folk bor pludselig langt fra deres familie og har ikke den samme følelse af at høre til et sted. Har ikke det samme netværk. Og det gør dem ensomme og sårbare – blandt andet over for falske AI “influencers”. Dertil har folk, der er bosat i byer, mindre viden om hvordan naturen (og dermed de selv) fungerer, hvor deres mad kommer fra, hvordan miljøet påvirkes af deres beslutninger – og det gør dem nemmere at manipulere, bl.a. i forhold til klimaforandringer.

Problem 5: Vi opgiver vores kultur og suverænitet til gengæld for ingenting

Jeg begyndte allerede at blive bekymret for vores suverænitet og evne til at vedtage love, dengang det begyndte at komme frem at selvkørende biler var trænet på data der i overvældende grad vedrørte voksne, hvide mennesker, og at børn og folk med mørkere hud derfor var i større risiko for at blive kørt over. Det fik det til at løbe koldt ned ad ryggen på mig.

Og det var endda kun en advarsel om, hvor vi var på vej hen.

Når det kommer til AI, og andre automatiserede systemer, så er data alt! Den data, systemerne trænes på, skal være noget nær perfekt, for at undgå faldgruber som den ovenfor beskrevne.

Det næste, logiske spørgsmål er derfor, hvor stammer den data vi har til rådighed fra? USA. Virksomhederne der udvikler AI er overvejende amerikanske, og den data der er tilgængelig på internettet stammer i overvældende grad fra USA.

Og – for nu at fortsætte med eksemplet om selvkørende biler – hvordan kan vi så vide, hvordan bilen valgte, hvem der skulle køres ned? Kan nogen stilles til ansvar? I så fald hvem?

Vi kan nok så meget forsøge at forbyde racisme, men hvis det er bilen der “bestemmer”, fordi den er trænet på data der gør at den kun kan genkende ansigter der er hvidere end en kalket væg, hvem kan vi så stille til ansvar? Er der nogen overhovedet?

Hvad mere er – hvorfor er det en amerikansk virksomhed, der får “lov til”, at tage den slags beslutninger på vegne af hele resten af verden?

Det samme gælder AI. Eftersom den data, systemerne er trænet på er skævvredet til fordel for amerikansk tankegang, risikerer vi en kulturel ensretning, der gør os alle sammen fattigere. Selve oprindelsen til systemerne reflekterer også en meget amerikansk tilgang til tingene. Alt skal automatiseres og effektiviseres! Men hvorfor? Effektivisering er jo bare et værktøj – ikke et mål i sig selv. Og hvorfor dette fokus på at generere mere, mere, mere… Af hvad? Og til hvem? Med hvilket formål?

Jeg er eksempelvis blevet fortalt, at AI er genialt til at skrive generiske svar på emails. Til hvilket jeg kun kan svare: Fantastisk, 3.000 flere ulæste mails i min inbox. Hvorfor?

I teorien kunne man lave en AI der filtrerede de ulæste AI-genererede mails, så man slap for selv at skulle beskæftige sig med dem. Men hvorfor? Man kunne spare meget el, for ikke at sige meget tid og energi, ved bare at forbyde udsendelse af AI-genererede mails i første omgang. Det gavner jo ingen.

Men, tilbage til emnet: AI er datadrevet. Og så længe det er amerikanske virksomheder der kontrollerer dataen, så er vi alle sammen de facto kontrolleret af USA (eller i hvert fald af de amerikanske virksomheder). Dermed skrives lovgivningen reelt i USA; ikke i Europa – vi kommer altid bare til at løbe bagefter, i et forsøg på at begrænse de skader, amerikanerne allerede har bestemt at de var villige til at påføre os.

Alternativet er, at vi selv forsøger at generere meget mere data, for at oversvømme internettet med europæisk indhold i et forsøg på at påvirke datagrundlaget for systemerne til vores egen fordel. Men der er noget af et efterslæb at indhente, og desuden betyder det at vi forærer (stadig) amerikanske virksomheder en guldgrube af information om os, hvilket det absolut ikke er alle der er lige komfortable med.

Men vi er som minimum nødt til at være klar over, at denne udvikling er en risiko, så vi kan gøre noget for at gardere os imod den. At vogte vores suverænitet, og at vogte vores kulturelle identitet, er til fordel ikke kun for os selv, men for hele menneskeheden. Hver kultur, hvert sprog og hver tradition rummer en visdom i sig; og tilsammen udgør alle de kulturer, sprog og traditioner menneskeheden rummer, summen af vores kollektive viden, erfaringer og historie. Hver gang noget forsvinder fra den sum, bliver vi alle fattigere.

AI-bias findes. Punktum. Alle, der påstår, at AI er bedre end mennesker til at tage beslutninger, fordi AI ikke har nogen forudindtagede holdninger, er idioter. Det passer simpelthen ikke. Forskellen er, at som mennesker er vi i stand til at redegøre for vores sym – og antipatier. Der er en årsag til dem, som vi oftest kan pege på. Nogen gange er de begrundede og berettigede, andre gange er de ikke. Men vi kan forklare dem, og om nødvendigt arbejde med at ændre dem. En AI aner ikke hvorfor den vælger som den gør – den følger bare blindt det data, den er blevet fodret med af mennesker. Og hvem er de mennesker? Er det nogen, vi kan stole på? Og hvem holder øje med det?

Jeg tror, de fleste godt kan gætte sig til svarene på de spørgsmål.

At bruge AI ukritisk indeholder de ovenfor beskrevne risici. Man overlader rigtig meget kontrol og rigtig mange beslutninger til nogen mennesker, man hverken kender eller – oftest – stoler på.

Og når studerende bruger AI til at skrive personlige essays mens præster bruger AI til at skrive prædikener, så er vi desværre allerede kommet dertil, at vi tillader systemerne at fortælle os hvem vi er, og hvad vi skal mene om verden. Vi er allerede kommet dertil, hvor folk ikke gider tænke selv. Og det er angstprovokerende. For hvad er vi så egentlig i live for overhovedet?

Descartes’ mest berømte citat er: “Jeg tænker, derfor er jeg.”

Hvis vi ikke tænker længere, er vi så overhovedet? Eller, er der nogen pointe i at være?

Anyway, det var lige en sidebemærkning.

Men i praksis risikerer vi at miste vores kulturelle særpræg, og for den sags skyld miste blikket for hvem vi er som personer. Mens amerikanske virksomheder får frit slag til at indrette verden efter deres forgodtbefindende, reflekterende deres kultur og etik – eller mangel på samme.

Og hvordan skal vi kunne lovgive om det? Sandheden er, at det er utroligt svært at gøre.

LANGSIGTET KONSEKVENS: I værste fald ender vi et sted, hvor vi reelt slet ikke selv kan vedtage love, fordi vi er så afhængige af de amerikanske IT-virksomheder, der derfor kan indrette alle systemer som det passer dem, fordi vi ikke har noget reelt alternativ. Vi risikerer også at AI, grundet de data den er trænet på, fremmer spredning af misinformation, stereotyper og bias, der farver folks virksomhedsopfattelse. Og så risikerer vi, at miste en del eller hele vores kulturelle særpræg, hvilket gør os rodløse i en i stigende grad usammenhængende verden, hvor stadigt flere beslutninger pludselig er uden for vores kontrol – både nationalt i form af lovgivning, men også på det personlige plan.

Problem 6: Vi ødelægger klimaet (igen: til gengæld for ingenting)

Dette er et af de problemer, som ofte bliver italesat når folk taler om AI. De fleste er klar over, at AI har medført opførelsen af mange nye datacentre, der kræver groteske mængder af strøm. Vi var ellers ved at få kurven over CO2-udledninger til at flade ud, men siden 2021 er de globale udledninger bare steget og steget.

Jeg er gammel nok til at være vokset op med kampagner fra Elsparefonden, der advarede mod den stigende brug af elapparater. I 90’erne var der en tro på, at hvis hver enkelt af os bare huskede at slukke for lyset når vi forlod et lokale, og undlod at sætte apparater på stand-by (“Sluk på kontakten”), så skulle det hele nok gå.

Den retorik holder ikke længere. Det, der er mest bekymrende er ikke længere, hvilket energimærke dit private køleskab har, eller hvilke pærer der er i dine lamper. Det er, hvad du tilgår, når du åbner din computer. Og et gennemsnitligt mennesker har ingen anelse om, hvor meget strøm det kræver, at tilgå hvilke programmer, eller hjemmesider. For det er jo “bare en computer”. Men nej, det er det ikke.

Selv et simpelt prompt til en AI kræver enorme mængder data at besvare.

Dataene bearbejdes i et datacenter, på en server.

Serveren skal bruge strøm for at køre.

Det hele foregår “behind the scenes” hvor den enkelte bruger kan sidde i lykkelig uvidenhed om, hvor meget CO2 de udleder, ved at skrive deres forespørgsel. Det ser jo hurtigt og nemt ud!

Men det kræver enorme mængder elektricitet, med dertilhørende CO2-udledninger. Og for at gøre ondt værre, så er det et behov der er opstået pludselig, og som har medført at IT-virksomhederne i huj og hast har skullet sikre elektricitet til de nyopførte datacentre, uden hensyntagen til hvor elektriciteten kom fra. Derfor er CO2-udledningerne fra elektricitet brugt i datacentre i USA eksempelvis 48% højere end det nationale gennemsnit.

Det gør med andre ord ikke længere nogen forskel om en privatperson husker at slukke lyset på badeværelset eller ej, som vi i 90’erne kørte kampagner omkring – det er ikke der, hunden ligger begravet. Men enten er der endnu ikke nogen der forstår alvoren, eller også er alle blevet ligeglade.

Det er selvfølgelig også svært at forstå alvoren, når man ikke kan aflæse det på sin egen elmåler, og ikke selv modtager en regning for den strøm, der er blevet brugt.

Hvis problemet skal løses er der derfor behov for dels en helt ny form for oplysningskampagne til forbrugerne, og dels mere kontrol med, hvor strømmen til datacentre stammer fra.

LANGSIGTET KONSEKVENS: I værste fald bryder det internationale samarbejde om at bremse klimaforandringerne sammen, med det til følge at store dele af kloden bliver ubeboelige. Det vil så igen medføre flygtningestrømme og krige om ressourcer. Disse stridigheder kan igen forstærkes på grund af misinformation. Det skal dog siges, at den udvikling ikke kun ville skyldes AI – cloud computing i bredere forstand havde allerede banet vejen, og ville have stået for store udledninger i forvejen.

Problem 7: Vi må lære på den hårde måde, at AI hverken er intelligent eller har følelser (for os)

Det er et simpelt faktum, at AI ikke er menneskelig. AI vil aldrig have hverken hjerte, hjerne, sjæl, empati, følelser eller noget som helst andet end kompromisløs kynisme. Den forfølger mål med alle tilgængelige midler – og er ligeglad med om målet er fornuftigt eller ej, eller overhovedet var det, den menneskelige operatør havde tænkt på. Den er også ligeglad hvor meget skade det forårsager at nå målet – medmindre den er programmeret til at acceptere visse begrænsninger.

Der er en årsag til at der findes tonsvis af science fiction dystopier baseret på denne præmis. Matrix og Rumrejsen 2001 eksempelvis.

Vi skal passe på med at antropomorficere systemerne (“tænke på systemerne som værende menneskelige”), for de er per definition ikke menneskelige. De er ligeglade med os. De er ligeglade med alt andet end den kode, de er baseret på, og de retningslinjer de får. Og de tager intet andet i betragtning end præcis det, et menneske skriver.

Der er en grund til at de gamle grækere advarede os om at være forsigtige med hvad vi ønsker os – for vi kunne risikere at få det! At få præcis det – og intet andet. Baggrunden for dette citat er myten om gudinden Eos der blev forelsket i et menneske, Tithonus. Han bad hende om evigt liv, så han kunne være sammen med hende, og hun opfyldte hans ønske. Og først for sent gik det op for dem begge, at han havde glemt at bede om evig ungdom og sundhed. Af samme årsag er myten en tragedie, og afhængig af hvilken version af den man læser, ender det enten med at han er tvunget til for evigt at forblive i live selvom han er syg, svag og affældig – eller med at gudinden forvandler ham til en græshoppe og sender ham tilbage til jorden, for selv at slippe for at høre på hans knagende led.

Det er en advarsel. Og en meget vigtig advarsel i en tid, hvor alle tror at de kan programmere. At skrive en prompt er i sidste ende at programmere – men bedrevet af folk, der aldrig har skrevet en linje kode i deres liv, og derfor ikke aner at systemet ikke kan (eller ved) mere, end det bliver fodret med. Det kan gå virkelig galt.

Et konkret eksempel er at det amerikanske luftvåben trænede en AI-drevet drone, der begyndte at beskyde sin menneskelige operatør, fordi den fandt at de retningslinjer den fik fra ham, afholdt den fra at gennemføre sin mission.

Et andet, nyere eksempel, var en simulation der blev kørt, hvor de forskellige AI-modeller fik besked om at de ville blive lukket ned. Samtidig fik de adgang til en masse information om personen der skulle stå for nedlukningen, herunder at vedkommende havde en affære. Herigennem blev det bevist at AI var villig til at afpresse mennesker, for at holde sig selv “i live”. Alle modeller valgte i langt størstedelen af testene afpresning – tallet lå på mellem 79% for DeepSeek, og 96% for Gemini – med de andre såsom Grok og ChatGpt et sted mellem de to tal.

Hvis folk implementerer AI uden at have en god forståelse af hvordan, kan det med andre ord blive en dyr fornøjelse.

LANGSIGTET KONSEKVENS: Optimistisk set vil folk indse nødvendigheden af god lovgivning, klare retningslinjer, risikovurderinger og god uddannelse af brugerne, før AI implementeres nogen steder. Jeg tror og håber stadig, at det er det, vi vil komme til at se. Pessimistisk set er vi ude i et sci-fi skrækscenarie, hvor AI beslutter at menneskeheden er overflødig, eller står i vejen – jeg tvivler dog på at det når dertil, særligt fordi der ikke kun er én dominerende AI, men mange der konkurrerer med hinanden, og har brug for god data (fra mennesker) for at blive bedre.

Mine konkrete ønsker (og forslag)

Nu hvor jeg har leget dommedagsprædikant, og udpenslet (stort set) alle de problemer, jeg ser der er med AI, så er det også kun rimeligt at jeg forsøger at pege på nogen løsninger.

Eftersom vi ikke kan proppe trolden tilbage i æsken, er vi nødt til at finde en konstruktiv metode at integrere AI på, der ikke ødelægger folks liv eller får samfundet til at kollapse

Mine forslag er følgende:

1. Skab realistiske forventninger: Gennem informationskampagner og generel udbredelse af kendskab til AI og hvordan AI fungerer, bør befolkningen bringes til at forstå AI’s begrænsninger. På denne måde kan vi forhåbentlig begrænse risiciene ved misinformation, de økonomiske og samfundsmæssige konsekvenser ved at forsøge at sætte AI-systemer til at løse opgaver, de ikke er egnede til m.m.
2. Integreret undervisning i brug af AI i både folkeskolen, gymnasiet og på universiteterne. Børnene bør ikke have adgang til IT-hjælpemidler de første par år, hvorefter de gradvist oplæres i at bruge IT på en måde der sikrer, at de ved hvordan det virker. Det inkluderer undervisning i kodning, i dataanalyse (herunder statistik og kildekritik) og en gradvis introduktion til, hvordan man bruge IT-værktøjer (herunder AI) og til hvad.
3. Målrettede indsatser for at advare ældre, børn, psykisk syge m.m. om farerne ved at anvende chatbots, samt hvordan man kan genkende falske “mennesker” på nettet, og undgå at blive snydt.
4. Lovkrav om at alle sociale platforme for at kunne operere i EU skal mærke indhold som AI-genereret KLART OG TYDELIGT (ikke gemt i et lille tag, ingen ser), så alle ved med sikkerhed om den profil de interagerer med, eller det opslag de liker, er skabt af et menneske eller ej.
5. Offentligt tilgængelige vejledninger i genkendelse af AI, og krav om at alle studerende undervises deri. Gerne også krav om at alle offentligt ansatte får samme undervisning.
6. Tilpasning af lovgivningen – som minimum i Danmark, men ideelt set også på EU-plan – så det fremgår klart og tydeligt, at det stadig er og altid vil være mennesker, der holdes ansvarlige for deres beslutninger – uanset om beslutningerne er genereret af en AI. Det vil sikre at professionelle aktører tvinges til at udføre deres arbejde efter de højest mulige standarder.
7. Tilpasning af lovgivningen så IT-virksomheder kan holdes ansvarlige for skadelige effekter af deres produkter uanset om dommerstanden eller politikerne forstår hvordan en algoritme virker, eller hvad en sprogmodel gør. Kravene skal formuleres så klart og tydeligt som overhovedet muligt for at sikre, at selv dommere der intet ved om IT, ikke risikerer at blive vildledt i en retssag (det er set før, at virksomhederne er gået fri fordi de har påstået at de ingen kontrol har over deres produkter).
8. Klare og tydelige, landsdækkende retningslinjer for brug af AI i den offentlige sektor.
9. Systematisk retsforfølgelse af AI-virksomheder, der træner deres modeller på indhold der er beskyttet af copyright, varemærker eller lignende.
10. EU-sanktioner mod virksomheder, der fortsat stjæler data til at træne deres modeller.
11. Kampagne til forbrugere vedrørende forbruget af elektricitet der stammer fra brug af AI, sammenholdt med lovkrav til virksomhederne om I DERES PRODUKTER at oplyse om, hvor meget strøm det kræver at anvende dem.
12. Skrappere krav til opførsel af datacentre, herunder krav til strømforsyningen og hvor stor en andel der skal stamme fra vedvarende energikilder, hvad overskudsvarmen fra datacentrene skal anvendes med m.m.
13. Lovkrav om at der skal indarbejdes safe-guards i alle AI-systemer, der forhindrer dem i eksempelvis at slå nogen ihjel.
14. En offentlig debat om AI, der ikke kun er en skræmmekampagne om folk der frygter at miste deres job, men også indeholder saglige diskussioner om hvor der overhovedet giver mening at anvende AI, så der ikke spildes (flere) unødige ressourcer på at forsøge at tvinge AI ind alle steder, uanset om det giver mening eller ej.

Rigtig meget kan gøres med oplysning og uddannelse, men der er også nødt til at sættes hårdt mod hårdt i forhold til de IT-virksomheder, der i alt for lang tid har haft alt for lang line. Det er derfor også nødvendigt at få aktiveret politikerne i både Danmark og EU, for at få det gjort klart for dem, at der er behov for drastisk handling her og nu.

Afrunding

Jeg er bange for at løbet allerede er kørt. At vi allerede har tabt en hel generation på gulvet i dette meningsløse eksperiment med menneskeliv, som techvirksomhederne har fået lov til at køre på os alle sammen.

Er AI fremtiden? Kan AI sammenlignes med computere eller elpærer, der gjorde folk mere effektive, og fik dem der ikke opsnappede teknologien til at sakke håbløst bagud? Nej. AI er ikke et værktøj der søger at gøre mennesker mere effektive til at udleve deres drømme og få deres projekter ud over rampen. AI forsøger i stedet at gøre mennesker ude af stand til at lave noget selv – hvilket ironisk nok kan ende med at gøre de mennesker, der ikke bruger AI, mere intelligente, bedre til problemløsning og mere praktiske.

Jeg ved udmærket godt at der er nogen, der vil grine røven i laser over denne artikel, og mene at jeg maler Fanden på væggen. Men hvis de havde set, hvad jeg har set, tvivler jeg på at de ville reagere sådan.

AI er ikke intelligens. Det er kun kunstigt. Og det er vigtigt at folk lærer at forstå forskellen mellem ægte intelligens, og den meningsløse ordsalat AI spytter ud. Forstå, at maskiner ikke kan erstatte menneskelig kontakt. Forstå at vores børn har behov for at lære ting i den virkelige, fysiske verden, som deres liv uundgåeligt vil skulle udspille sig i – ikke sammen med falske venner styret af techvirksomheder, på en livløs skærm. Og forstå, at hvis AI får aflivet menneskers kreativitet og skabertrang, så ser fremtiden sort ud – for så går rigtig meget af det, vi har brugt årtusinder på at opbygge, meget hurtigt i forfald. Og hvorfor? Fordi enkelte virksomheder ønskede at eje og videresælge jeres tanker – og I lod dem gøre det.

Hvis mennesker forstod deres egen værdi, ville vi aldrig være kommet hertil.

Det er jeg overbevist om.

Og skulle du være ét af de mennesker, der i disse dage går rundt og bekymrer sig for om AI gør dig overflødig, så husk: Du kan sagtens eksistere uden AI. Men AI kan ikke eksistere uden dig. AI eksisterer kun på grund af menneskers arbejde, skabertrang og kreativitet. Det er en parasit der suger kraft af årtusinders menneskelig flid, uden at kunne bidrage med et eneste forslag som et menneske ikke allerede har haft stillet.

Så hvis du tror at en AI er bedre end dig på nogen måde – så kan jeg love dig, at det ikke er tilfældet. Og det bliver heller aldrig tilfældet.

For mennesker kan tænke og føle, og alt hvad vi skaber opstår af en årsag og sker med mening. Uanset hvor godt eller dårligt resultatet så bliver, så er det altid tilfældet.

Og det kan en AI aldrig hamle op med.

Jeg har så meget mere at sige, men denne artikel er allerede blevet alt alt for lang som den er.

Jeg håber at du i det mindste er blevet inspireret til at tænke over, hvad AI er, og hvad det kan og ikke kan bruges til. Hvad det bør og ikke bør bruges til. Det i sig selv vil i hvert fald være en god start. Der er i det hele taget brug for at mennesker lærer at tænke selv igen, og det kan kun gå for langsomt!

På forhånd tak. 🙏