Påve Leo XIV manar regeringar i världen att dämpa och reglera utvecklingen av AI-system.
Påven har gett ut sin första encyklika, ett brev riktat till alla katoliker i världen. Temat i det är ”människans värdighet i den artificiella intelligensens tidsålder”.
Han skriver att AI skapar nya former av slaveri, till exempel de ”märkta, stympade och förbrukade kropparna” hos dem som arbetar med utvinningen av de sällsynta jordartsmetaller som tekniken kräver.
Samtidigt bad han om förlåtelse för att katolska kyrkan tidigare i historien dröjde med att fördöma slaveri.
”Den som tolererar är medskyldig”
Påven betonar att den katolska kyrkan förnyar sitt tydliga fördömande av ”varje form av slaveri, människohandel och kommersialisering av människor”.
Han skriver att den som inte reagerar på eller som tolererar dessa ”allvarliga kränkningar av människans värdighet” i praktiken gör sig medskyldig.
Enligt påven är den mest kraftfulla tekniken inte heller nödvändigtvis den bästa.
”AI kan imitera och simulera människan men saknar moraliskt samvete, empati, känsolmässig förmåga samt relationell och andlig kapacitet”, påpekar han.
Därför anser han att det behövs juridiska ramverk och oberoende tillsyn av AI-system.
Han nämner hur lätt det går att manipulera bilder och videor med AI, så att människor vilseleds och utsätts för desinformation.
Man får inte heller förbise den nya teknikens miljöpåverkan, till exempel att den ”kräver enorma mängder energi och vatten, orsakar koldioxidutsläpp och skadar skapelsen”, skriver påven.
”Avväpna AI”
Påven konstaterar ändå att AI redan är en makt vi måste förhålla oss till, men han anser att vi måste ”avväpna AI”.
Det borde man enligt honom göra genom att bryta likställandet mellan teknisk makt och rätten att styra, skydda AI från monopol och hindra tekniken från att dominera människan.
”Inför AI handlar det verkliga alternativet inte om entusiasm eller rädsla, utan om två sätt att bygga framsteg: i människans och folkens tjänst eller i maktlogikens tjänst”.
Källor: AFP, Reuters, AP