Matematikere føler seg truet av KI

– Det kom fullstendig overraskende på meg. Hvis du hadde spurt meg for to år siden om kunstig intelligens kunne bevise store, viktige resultater, ville jeg sagt nei. Kanskje om 50 år, men det har gått veldig fort.

Det sier Mikael Rørdam, som er professor ved Matematisk institutt ved Københavns Universitet. I tillegg til rollen som forskningsleder ved instituttet har han selv en betydelig forskningsproduksjon bak seg.

Bakgrunnen for professorens uttalelse er en rekke nye resultater i matematikk, utført av KI-modeller fra Open AI, som står bak Chat GPT.

I begynnelsen av august la Open AI fram løsninger på ti kjente problemer i matematikk, utarbeidet av selskapets nye modell Astra. Resultatene kritiseres av enkelte matematikere, som mener det finnes eksempler på direkte plagiat i løsningene og at kjerneargumenter i noen av bevisene har vært publisert tidligere – av mennesker.

De ti resultatene kommer i kjølvannet av løsningen av Erdős-problem nr. 1196, som er ett av mange problemer foreslått av den ungarske matematikeren Paul Erdős (1913–1996).

Problemet handler om primitive mengder, som er en generalisering av primtall. Formodningen sier at summen av 1/(n log n), der n er tallene i en primitiv mengde, er begrenset oppad av størrelsesordenen 1+o(1). Med Chat GPT og én enkelt prompt beviste en 23 år gammel amatørmatematiker setningen i april 2026.

Ganske nylig la Open AI fram en løsning på et av matematikkens vanskeligste problemer, Navier–Stokes-ligningene. Men løsningen har ført til anklager om plagiat og juks i prosessen.

Matematikk-trussel

Noen mener at KI er en trussel mot matematikken – et fag som er like gammelt som menneskehetens skriftlige historie.

I den nylige Leiden-erklæringen, som er en uttalelse fra fagmiljøet om kunsti intelligens, advarer ledende matematikere, blant dem Fields-medaljevinnerne Peter Scholze og Terence Tao, om at KI truer matematikkens selvstendighet.

Automatiserte verktøy kan skape plausible, men feilaktige beviser, mens språkmodeller utnytter offentlig kunnskap, omgår opphavsrett og undergraver det tradisjonelle insentiv- og kildehenvisningssystemet. Samtidig setter formidling via pressemeldinger og blogger – uten full tilgang til data – den vitenskapelige evalueringen i fare, påpekes det.

Om KI kan brukes til noe, er toppmatematikerne ikke enige om. Peter Scholze sier:

– Min erfaring er at matematiske ideer, på samme måte som barn, må pleies og utvikle seg gjennom årene. På samme måte som jeg ikke ønsker at barna mine skal undervises av kunstig intelligens, så utvikler jeg mine matematiske ideer uten bruk av kunstig intelligens og unngår generelt, så langt det lar seg gjøre, å lese tekster som er generert av kunstig intelligens.

Terence Tao, som også er en av dem som har undertegnet erklæringen, inntar et annet standpunkt:

– Det vil være noen områder der vi skal bruke kunstig intelligens, men vi bør selv ta initiativet og avgjøre hvor det er.

De nye KI-bevisene henger også sammen med automatiserte bevisprogrammer, som logisk kan skape bevis på grunnlag av inndata fra matematikerne – eller KI-en. Det mest kjente programmet heter Lean.

Den fagre nye verden

Mikael Rørdam fra Københavns universitet sier:

– Mange fremtredende personer – som Terence Tao, som kanskje er en av de største matematikerne vi har – har tatt til seg KI. Hvis du spør dem, vil de si at det er et fantastisk verktøy. Terence Tao bebreidet for et års tid siden matematikere for at de ikke brukte det nok. Den bebreidelsen tror jeg vil endre seg radikalt nå, etter at man har sett de siste resultatene.

Særlig yngre matematikere vil ta det til seg, mener professoren.

– Jeg sier selv til mine ph.d.-studenter at de blir nødt til å lære dette. De kan ikke leve et profesjonelt liv uten å beherske det.

Den fagre nye verdenen er at maskiner kan løse ting som vi trodde det krevdes menneskelig intelligens for å løse.

– Slik jeg forstår det, er maskinen egentlig ikke begavet – den kombinerer bare ting. Den har tilgang til enorme mengder informasjon – mye mer enn en menneskehjerne har. Ved å kombinere disse tingene kan den produsere resultater vi trodde var umulige for maskiner å produsere – eller som jeg trodde var umulige.

Men man har satt teknologien i spill før man har de nødvendige forskningsprosedyrene som skal til for at kunstig intelligens kan spille en rolle. Derfor må det lages regler, og det er man i gang med. Teknologien iler av gårde, og fagfolkene henger litt etter.

– Leiden-erklæringen handler om å sette opp regler for hvordan man lever med kunstig intelligens. Det er i høy grad nødvendig, fordi det er litt som Det ville vesten akkurat nå, sier Rørdam.

– Spørsmålet er også hvor godt man kan demme opp for teknologien. Det er det jeg leser ut av Leiden-dokumentet: At man prøver å skape de juridiske rammene for bruken.

Det spiller inn utrolig mange steder.

– Det spiller inn både ved at vi har et system for fagfellevurdering av forskning – et system som sjekker at forskningen er korrekt på alle mulige måter. Det blir også vanskelig med kunstig intelligens. Man kan se for seg at det produseres så mye forskning med KI at det blir vanskelig å følge med.

Vanskelig bedømming

Et annet aspekt er at forskningen bygger på at forskere siterer korrekt fra resultatene de bruker. Det er en viktig del av måten forskere gir hverandre anerkjennelse på.

– Og det vil kunstig intelligens ikke nødvendigvis følge, fordi den kanskje ikke er programmert til å være nøye med å sitere resultater, sier Rørdam

Og det finnes flere problemer:

Hvis man som matematiker har bevist et stort, flott resultat, får man anerkjennelse i form av priser, fine stillinger, bevilgninger og så videre.

– Det baserer seg på det forskeren har produsert. Hvis man i stedet bruker kunstig intelligens til oppgaven, forsvinner den delen av vurderingen av et individ – i hvert fall i enkelte tilfeller. Da står man der og vet ikke hvilke kriterier man skal bruke for å tildele forskningsmidler og stillinger ved universitetene.

Da må man finne nye måter å gjøre det på.

– Det er den fagre nye verden, der ting kan bli snudd fullstendig på hodet. Det jeg nevner her, er implisitt inneholdt i Leiden-erklæringen, som berører temaene og reflekterer over hvordan man kan styre dette framover. Jeg er sikker på at det som står her, bare er et første skritt på veien mot å fullt ut implementere hvordan vi lever med kunstig intelligens.

Nye etiske retningslinjer

KI kan løse problemer vi ikke trodde det var mulig å løse, forteller Rørdam. Det Ville Vesten er kanskje at det ennå ikke finnes faste regler for dette.

– Man kan sette seg ned og skrive et hav av artikler ved å bruke kunstig intelligens. Det finnes eksempler på store resultater som er blitt publisert eller omtalt, der man ikke gir anerkjennelse til mennesker i det hele tatt, men publiserer dem med ‘Open AI’ som forfatter. Det har vært mennesker bak, men de har uttalt at de ikke har bidratt med originale ideer. De har bare satt maskinen i gang og kanskje gitt den litt retning. Derfor gir de hele anerkjennelsen til Open AI, sier han.

– Det finnes også eksempler på det motsatte: Der folk lar være å kreditere bruken av KI og bruker det til å produsere en masse nye arbeider. Det er vanskelig å kontrollere. Man kan ha en følelse ut fra skrivemåten, men det er der det blir Det Ville Vesten: At folk kan jukse seg til forskning.

Noe av dette er ikke engang juks. Man kan ha en dialog med KI, produsere noen resultater og i artikkelen opplyse hva man har brukt KI til.

– Det er helt greit, men reglene for hvordan man skal kreditere bruken av kunstig intelligens, er ikke klare ennå og er vanskelige å håndheve. Det gjør det til Det Ville Vesten. I tillegg er det en risiko for at det produseres en masse resultater som ikke blir sjekket skikkelig.

Risikerer å bli dumme

Rørdam tror det er mulig å innarbeide tiltak som Leiden-erklæringen i eksisterende forskningsetiske rammer. Men det er ikke nødvendigvis en enkel oppgave:

– Det kan bli vanskelig å kontrollere og håndheve.

Erklæringens forfattere framhever at måten kunstig intelligens-programmer virker på, ikke er gjennomskuelig. Måten programmene henter inn og krediterer informasjon på, er vanskelig å kontrollere.

– Hvis du laster opp materiale til KI, hvordan brukes informasjonen? Hva hvis du laster opp fortrolig materiale eller noe som er underlagt opphavsrett? Alle de tingene er vanskelige å håndtere. De peker på de riktige tingene. Jeg tror ikke vi har løsningen ennå, men hvis vi har den samme samtalen om et tiår, tror jeg man har lært å leve med det.

Kunstig intelligens endrer matematikernes arbeidsform ved å overta det tunge bevisarbeidet, slik at mennesket i stedet kan fokusere på den kreative delen med å stille opp begreper, definisjoner og spørsmål.

Men utviklingen kan vekke bekymring for om en dialog med KI vil erstatte den menneskelige sparringen som gir originale ideer ut av det blå.

– Der rører du ved min største bekymring. Det gjelder også i utdanningssystemet vårt: At vi kan komme i en situasjon der vi glemmer å tenke og lar andre tenke for oss. Hvis skoleelever og studenter ikke lenger skal skrive skriftlige arbeider fordi maskinen gjør det, mister man treningen av hjernen, sier Rørdam.

I gamle dager lærte man tabeller og staving utenat, og det var god hjernetrim.

– Det kan godt hende det kan erstattes av noe annet, men hvis alt intellektuelt arbeid overlates til en datamaskin, risikerer vi å bli dumme. Det kan være katastrofalt for menneskeheten, og det gjelder helt generelt – ikke bare i matematikk. Men spesielt innen matematikk bekymrer det meg. Vi får se hvordan det går. Jeg håper vi ender et godt sted, men akkurat nå er det vanskelig å spå om.

Intervjuet med professor Mikael Rørdam fant sted før den nylige offentliggjøringen av løsningen på Navier–Stokes-ligningene.