Hvad er historien?

Femogtyve modtagere af Fieldsmedaljen, matematikkens svar på Nobelprisen, udsendte den 11. september en fælles erklæring med titlen ‘A Severe Misalignment of AI in Mathematics’. Blandt underskriverne er nogle af verdens mest anerkendte nulevende matematikere, blandt andre Terence Tao, Peter Scholze, Maryna Viazovska og Cédric Villani.

Og hvad er de så bekymrede for?

De bedste AI-modeller kan i stigende grad løse avancerede matematiske problemer, vi mennesker ellers har kæmpet med i generationer. Det har sat gang i et kapløb mellem verdens AI-firmaer, der selvfølgelig gerne ser, at netop deres modeller finder løsningen på de prestigefyldte problemer.

Den 8. september offentliggjorde OpenAI et resultat knyttet til Navier-Stokes-ligningerne. Navier-Stokes er et af de syv Millennium Prize Problems, særligt vanskelige matematiske problemer, som den amerikanske forskningsorganisation Clay Mathematics Institute udpegede i år 2000.

Rygter om store fremskridt på området var ifølge OpenAI en del af grunden til, at man har sendt enorme ressourcer efter arbejdet med Millennium-problemerne. Matematikerne Tristan Buckmasters og Levent Alpöges resultater i deres arbejde med de beslægtede Euler-ligninger pegede da også i retning af en mulig tilgang til at løse Navier-Stokes-problemet. Et arbejde, de blandt andet havde brugt AI-systemer fra både OpenAI og Anthropic til undervejs, men hvis resultater endnu ikke var offentliggjort i sin helhed.

Da OpenAI få dage senere offentliggjorde sit bevis, opstod der derfor en strid om, hvorvidt firmaet kunne have draget nytte af matematikernes upublicerede arbejde. Efter en intern undersøgelse har OpenAI afvist dette.

(Vi har kun lige kradset i overfladen af ovenstående historie. Vil du læse mere, kan jeg anbefale denne Wikipedia-artikel.)

Hvorfor er det vigtigt?

Matematikernes hovedanke er, at AI-firmaerne behandler løsningen af store matematiske problemer som et mål i sig selv, selvom de i forskningen traditionelt først og fremmest har været et middel til at udvikle en øget matematisk forståelse.

I erklæringen sammenligner de uløste problemer med fyrtårne. Når matematikere arbejder sig frem mod en løsning, udvikler de nye metoder, opdager forbindelser og opbygger en forståelse, der kan blive en del af fremtidens matematiske værktøjskasse.

I AI-modellernes våbenkapløb produceres løsninger på komplekse problemer, mens vi går glip af det, problemerne er et middel til: Nye ideer, nye forskningsfelter og en dybere matematisk forståelse. 

Altså: The real treasure was the math we made along the way.

Det er det, erklæringen kalder en “misalignment” – en forskydning mellem AI-selskabernes formål og matematikkens egne mål. 

Hvad betyder det?

Ifølge Fieldsmedalisternes erklæring er AI-udfordringerne i matematikkens verden blot et tidligt eksempel på et bredere problem, der kan ramme mange andre fagområder: At AI kan producere resultatet af intellektuelt arbejde uden nødvendigvis at gøre os klogere. Vi får løsningen på livets gåder, men vi lærer aldrig at forstå dem.

I slutningen af august udspillede der sig en lignende kontrovers i Wall Street Journals debatspalter. Kæmpeinvestoren Stanley Druckenmiller havde skrevet en lang klumme ved hjælp af AI, hvor han kritiserede den amerikanske finansminister Scott Bessent. Avisen forsvarede publiceringen, og opinionsredaktør Paul Gigot konstaterede, at AI var “a fact of modern life”, og at det afgørende for avisen var, om argumentet var forfatterens eget. Spørgsmålet er så, om det i virkeligheden er Stanley Druckenmillers argument, når det er en AI, der har skrevet teksten.

Vi ser også tendensen herhjemme, hvor politikeres SoMe-opslag er blevet markant længere og rummer flere negative parallelismer; hvilket ikke bare et problem, det er en katastrofe. Og samtidig diskuterer vi, om elever og studerende bliver dårligere til selv at læse, skrive og tænke, fordi AI overtager stadig mere af det arbejde, der skulle træne netop de evner.

Det er ikke, fordi Fieldsmedalisterne her opfinder den dybe tallerken, men i udtrykket “misalignment” er der et klart potentiale for at popularisere en konstruktiv måde at behandle de udfordringer, AI giver intellektuelt arbejde. 

Som matematiklæreren i folkeskolen altid sagde: Du snyder kun dig selv, hvis du får AI til at løse Millenniumproblemerne.