Vi är delar av en pågående revolution

Samtidigt som internets heliga tempel ­Silicon Valley Bank rasar från sin upphöjda position pågår en annan händelse som av teknologer beskrivs som en revolution: Open AI, ChatGPT. I ena stunden häpnar man inför systemets förmågor för att i nästa känna osäkerhet om vad det kommer att innebära. I ett webbinarium med Nick Thompson, vd för The Atlantic och insatt i utvecklingen av digital teknologi, menade han att de nya smarta systemen innebär livsstilsförändringar och strukturomvandlingar av i stort sett allt. ”Det pågår just nu en omgörning av hela internet”.

Vad betyder det? Nya sätt att tänka, ­arbeta, söka och dela information, nya ­existentiella utmaningar om människosyn och värderingar. I denna omgörning är det viktigt att teologer, etiker, filosofer och andra humanister aktivt engagerar sig. Frågorna behöver diskuteras och tolkas inom ekumeniska och interreligiösa rör­elser, liksom de gör sedan ett halvår i den breda svenska akademiska världen.

Jag frågade modellen ChatGPT-3 vilka de största utmaningarna systemet anser att det har med sig självt. Svaret var ett hyfsat långt resonemang som hade kunnat tolkas som självinsikt om det inte hade kommit från en maskin. AI-chatboten gav mig sina fem största etiska utmaningar som alla kretsar kring tillit och utsatthet. Samtliga har med kyrkans uppgifter att göra, internt eller externt, och utmanar kyrkan till strukturomvandlingar:

● Förstärkning av befintliga fördomar och ojämlikheter. Det betyder att systemet formas av det vi matar det med, det som avspeglar våra begär och behov. När Microsoft provade den tidiga modellen ”Tay” på Twitter 2016 fick man snabbt avbryta. Efter mindre än ett dygn hade ”Tay” formats till feministhatare och antisemit genom att härma mänskligt beteende på Twitter. Lärdomen till oss är vilka avtryck vi ger som individ, församling eller organisation i det digitala.

● Sekretess och integritet. Här handlar utmaningen om hur man kan skydda enskildas, organisationers och myndigheters data om känsliga uppgifter. För kyrkornas del kan det röra konfidentiella upp­gifter för själavård och annat inom ramen för tystnadsplikt. Skyddas det så att enskilda inte riskerar integritetsintrång?

● Förmåga att skapa trovärdig des­information. Systemet kan ”självt” konstruera lögner och propaganda som sprids och påverkar händelser från enskild till global nivå. Det är systemets version av fake news. Församlingar eller ­enskilda kan utnyttjas för destruktiva ändamål som triggar hat och konflikter. ”Trevlighetskyrkan” bör fundera över sin roll och utveckla slipade förmågor för källkritisk granskning av information.

● Användning för skadliga ändamål. Denna risk handlar om att exempelvis automatisera bedrägerier. Det sker genom så kallade deep fakes där AI har lärt sig att härma personers ansikte och röst. Denna programvara kan ”förvandla” vem som helst till presidenterna Obama, Trump ­eller Putin. Även om spärrar byggs in för att avslöja bedrägeriet kan skadorna bli avse­värda på kort tid. Här kan förstås även kyrkliga företrädare utnyttjas. Men systemet kan även användas för goda syften. Tänk om någon kapar den rysk-ortodoxe patriarken Kirills ansikte och röst för att kritisera kriget i Ukraina.

● Transparens. Den sista etiska utmaningen som ChatGPT formulerade var frågan om systemets beslutsfattande, det vill säga öppenhet med hur det har kommit fram till sina slutsatser. Användaren ska kunna fråga: hur kom du fram till detta? Här finns ett stort ansvar hos programutvecklare, finansiärer, forskare och lagstiftare att reflektera över etiskt försvarbara system och dess konsekvenser. Även i detta bör kyrkorna aktivt finnas med och ta ­ansvar för etiken.

ChatGPT innebär stora och svåra utman­ingar men också stora möjligheter. Utvecklingen inom AI går nu så snabbt att forskarna inom området inte ens hinner formulera en forskningsansökan förrän teknologin är förändrad, som en kollega inom informatik och media nyligen sa till mig. Så hur kan man begära att anställda och förtroendevalda inom Svenska kyrkan ska ha något att bidra med? När jag själv försöker sätta mig in i frågorna är det lätt att tappa modet inför all teknologi, men kyrkornas och humanioras bidrag handlar i det väsentligaste om de etiska frågorna. Vilken värld tar vi ansvar för att forma? Vilka avtryck gör vi själva i den digitala världen? Hur tar vi ansvar för värdighet, sanning och rättvisa i den pågående revolution som innebär dramatiska förändringar av världen så som vi känner den?