Hvad er historien?

Pave Leo XIV har udgivet sin første encyklika, hvilket er en art pavelig dekret eller rundskrivelse, hvor kirkens position meldes ud i forhold til et givent emne. Titlen er Magnifica Humanitas, med undertitlen: “On safeguarding the human person in the time of artificial intelligence”. Dokumentet blev præsenteret i Vatikanet med deltagelse af blandt andre Chris Olah, medstifter af Anthropic, firmaet bag AI-sprogmodellen Claude.

Og det er langt. Meget langt. Med sine mere end 42.000 ord (!) er den lige så lang som en Bilkakrimi. Der er heller ikke økonomiseret med indholdet, som er tæt og mættet, og den når omkring journalistik, diplomati, slaveri, krigsetik og kunstig intelligens.

Encyklikaen rummer en række konkrete politiske markeringer. Pave Leo efterlyser faktatjekket journalistik og multilateral diplomati. Han undskylder pavedømmets sene fordømmelse af slaveriet. Og så kalder han forestillingen om ‘retfærdig krig’ for forældet. En ret opsigtsvækkende formulering. Simon Fuhrmann har skrevet en fin artikel på dansk om den del, som du kan læse her.

Men det centrale anliggende er altså kunstig intelligens.

Pave Leo taler om behovet for at “afvæbne” AI. Ikke nødvendigvis ved at afskaffe teknologien, men ved at fratage AI den næsten religiøse status, den har fået i dele af techmiljøet. For ifølge paven er problemet ikke kun, at kunstig intelligens kan bruges forkert. 

Problemet er også, at den kan få os til at forstå mennesket forkert.

Hvorfor er det vigtigt?

Encyklikaen er ikke bare et opråb om regulering på området. Den er et frontalangreb på to idéer: transhumanisme og posthumanisme.

Transhumanisme handler om at forbedre mennesket gennem teknologi: Kropsteknologi, implantater, medicinsk optimering og andre former for teknologiske “enhancements”. Det er den slags idéer, der får milliardærer til at smide penge efter arrangementer som det nyligt afholdte Enhanced Games, der blev solgt på at være OL med doping.

Posthumanisme går et skridt videre og forestiller sig en fremtid, hvor grænsen mellem menneske og maskine bliver opløst. I sin mest radikale form drømmer den om, at mennesket overskrider sig selv og træder ind i et nyt evolutionært stadie.

(Filosofisk posthumanisme er lidt noget andet, så det gemmer vi til en anden dag, men hvis du er interesseret i det, så er et godt sted at starte Donna Haraways Cyborg Manifesto.)

Her siger Pave Leo altså pænt nej tak, og svaret er grundlæggende teologisk: Mennesket er ikke værdifuldt, fordi det kan optimeres. Det er værdifuldt, fordi det er menneske med alle de fejl og mangler, der følger med. 

Og den menneskelighed skal vi beskytte.

Eller som han selv skriver:

“Everything that appears as a “limit” — incapacity, illness, old age, suffering, vulnerability — tends to be seen primarily as a defect to be corrected, rather than as a reality through which our humanity matures and opens itself to relationship. And yet we must remember that humanity flourishes not despite limitations, but often through them.”

Hvad betyder det?

Det betyder, at debatten om kunstig intelligens ikke kun handler om lovgivning, datasikkerhed og arbejdspladser. Den handler også om menneskesyn nu. 

EU-embedsmænd vil sikkert glæde sig over pavens opbakning til regulering. AI-skeptikere får mere brænde at bære til bålet. Og techoptimister vil formentlig mene, at paven overdriver. 

Men de vil snakke om det, og de gør det allerede.

Den største nyhed er måske, at Pave Leo har formået at udgive et stort læredokument om AI, mens debatten stadig er pågående, og udviklingen tager fart. Sammenlign det med hans navnebror fra det 19. århundrede, pave Leo XIII, som først udgav en encyklika om den industrielle revolution mere end hundrede år efter, at den var begyndt.

Det gør Magnifica Humanitas til mere end et meget, meget langt Vatikan-dokument om AI. Det er (måske) begyndelsen på en offentlig filosofisk og teologisk strid om, hvad mennesket egentlig er.

Tænk sig, at teologi for én gangs skyld er dagsordensættende. 

What a time to be alive.