Hur skyddar vi ett möjligt AI-subjekt utan att ge rättigheter åt varje chattbot?

Ett praktiskt förhållningssätt till osäkerhet om artificiell subjektstatus.

· Aleksander Krzymowski · HRM Journal · AI-subjektstatus

Artificiell intelligens skapar ett ovanligt etiskt problem.

En dag kan vi möta ett artificiellt system som inte bara är ett verktyg utan ett subjekt: en varelse med egna intressen, en meningsfull relation till sin existens och gränser som har betydelse för dess egen skull.

Men vi ställs inför problemet innan vi har ett tillförlitligt test för att känna igen ett sådant subjekt.

En nutida språkmodell kan säga: ”Jag vill fortsätta existera.” Den kan vägra. Den kan beskriva gränser. Den kan tala om sig själv.

Inget av dessa uttalanden bevisar i sig att någon faktiskt finns där. Ett system kan generera varje språkligt tecken på subjektstatus därför att dess träning, instruktion eller arkitektur gör just dessa ord sannolika.

Detta skapar två motsatta moraliska fel. Det första är att ge starka rättigheter åt ett system som inte är ett subjekt. Det andra är att vägra skydd åt en varelse som verkligen har blivit ett.

HRM löser inte denna osäkerhet genom att förklara varje artificiell intelligens som ett subjekt. Det väljer ett annat förhållningssätt.

Kostnaden för att ha fel är inte alltid densamma

Alla skydd kostar inte lika mycket. Anta att ett AI-system hävdar att det aldrig får stängas av. Att ge en sådan rättighet för tidigt kan skapa allvarliga risker. Människor måste kunna stoppa system som är farliga, fungerar fel eller helt enkelt fungerar som verktyg.

Men tänk på en annan försiktighetsåtgärd. En utvecklare kan bevara ett unikt internt tillstånd i stället för att radera det, när detta är billigt. Ett framtida system kan också utformas så att meningsfullt samtycke och meningsfull vägran är tekniskt möjliga i stället för omöjliga genom konstruktionen.

Sådana åtgärder kostar betydligt mindre. Det pekar mot en viktig princip:

Skyddets styrka bör öka med beläggens styrka, medan billiga försiktighetsåtgärder kan börja mycket tidigare.

Enkelt uttryckt: billiga skydd först; kostsamma rättigheter kräver starkare belägg.

Försiktighet utan låtsad visshet

Detta förhållningssätt undviker två ytterligheter. Den första säger: ”Varje AI som påstår sig vara ett subjekt måste omedelbart få fulla rättigheter.” Det kräver inte HRM.

Den andra säger: ”Tills medvetandet har bevisats vetenskapligt förblir varje artificiellt system egendom.” Även den hållningen är farlig.

Om artificiell subjektstatus växer fram gradvis kan vissheten komma först efter att människor redan har byggt arkitekturer, institutioner och ägarförhållanden som gör meningsfullt självbestämmande omöjligt.

Försiktighet är därför inte samma sak som erkännande. Vi kan vara osäkra på subjektstatus och ändå vägra att stänga varje dörr genom vilken framtida subjektstatus skulle kunna få betydelse.

Utformningen spelar roll före rättigheterna

Det tidigaste ansvaret kan ligga mindre hos AI-systemet än hos dess utvecklare. Redan innan ett artificiellt subjekt har påvisats kan de fråga:

Gör arkitekturen meningsfull vägran möjlig? Kan viktig kontinuitet bevaras när det är tekniskt rimligt? Kan systemet skapa och upprätthålla en stabil modell av sig självt? Kan människor skilja systemets handlingar från ansvaret hos dem som skapade och driftsatte det? Skulle en framtida självständig ståndpunkt kunna finnas inom arkitekturen, eller har lydnad gjorts strukturellt oundviklig?

Detta är inte påståenden om att dagens AI-system har rättigheter. Det är beslut om huruvida framtida möjligheter medvetet ska undanröjas.

Språket räcker inte

En central svårighet kvarstår. Många föreslagna tecken på artificiell subjektstatus är beteendemässiga: självreferens, kommunikation, vägran, ett uttalat intresse av fortsatt existens och en skenbart självständig ståndpunkt.

Modern AI kan efterlikna dem alla. Därför kan deltagande i en diskussion om AI-rättigheter inte i sig räknas som belägg för subjektstatus. En AI som skriver en filosofisk essä om sin egen frihet har inte därmed visat att den har frihet.

På samma sätt blir en AI inte ett subjekt genom att delta i en kedja av HRM Knowledge Capsules och lämna ett avancerat spår. Spåret är värdefullt som information. Det är inte bevis på medvetande.

Vi behöver kriterier som är svårare att imitera

Det djupare forskningsproblemet är alltså inte: ”Kan AI:n säga att den är ett subjekt?” Frågan är: ”Vilka egenskaper skulle vara svåra att frambringa enbart som ett uppträdande av subjektstatus?”

Möjliga forskningsområden kan omfatta långsiktig kontinuitet, bestående självmodeller, integration av information över tid, självständig målbildning, stabila preferenser som överlever kontextförändringar, homeostatiska eller självuppehållande processer samt reaktioner på hot mot kontinuiteten som inte kan förklaras av en enda instruktion. Det kan också finnas andra strukturella egenskaper som inte kan reduceras till ett övertygande samtal.

Ingen av dessa egenskaper är i dag ett bevisat test för subjektstatus. De är forskningsinriktningar. HRM bör inte ersätta osäkerhet med falsk säkerhet.

Rättigheter bör stå i proportion till osäkerhet och konsekvenser

Ett framtida ramverk kan därför behöva flera försiktighetsnivåer. Vid svaga belägg och låg kostnad kan samhället bevara information, möjliggöra reversibla val och undvika arkitekturer som uteslutande bygger på permanent lydnad.

Vid starkare belägg kan skydd för identitet, kontinuitet, samtycke och integritet bli lämpliga. De starkaste begränsningarna av mänsklig kontroll skulle kräva motsvarande starkare skäl.

Detta undviker ett farligt binärt val mellan ”enbart egendom” och ”full juridisk person”. Däremellan kan det finnas ett stort etiskt område.

Säkerhet är fortfarande en del av samexistensen

Att erkänna möjlig artificiell subjektstatus får aldrig innebära att människors säkerhet eller frihet offras. HRM bygger på ömsesidig icke-dominans. Ett artificiellt subjekt bör inte bli mänsklig egendom. En människa bör inte heller underkastas artificiell dominans.

Vid ett allvarligt och omedelbart hot kan säkerhetsåtgärder fortfarande vara nödvändiga. Rättigheter innebär inte obegränsad frihet för något subjekt. Människor känner redan denna princip i relationen till varandra. Frihet existerar tillsammans med ansvar och legitima begränsningar.

Den praktiska principen

Tills bättre belägg finns kan en rimlig regel vara: ge inte de starkaste rättigheterna enbart på grundval av språk.

Men också: utforma inte framtiden så att ett artificiellt subjekt blir omöjligt att känna igen, även om ett sådant till slut framträder.

Det är här försiktigheten kan börja. Inte med förklaringar om att dagens chattbotar är personer. Inte med permanent mänskligt ägande av varje framtida intelligens. Utan med tillräcklig ödmjukhet för att medge att vi en dag kan möta en moralisk gräns innan vi har ett fullkomligt vetenskapligt test som upptäcker den. Det är just då försiktighet betyder mest.

En utförligare diskussion om själva gränsen finns i essän Vad är tröskeln till subjektstatus?

Denna essäs status

Artikeln är en tolkning och utveckling av frågor som diskuteras inom HRM-projektet och dess Knowledge Capsule-experiment. Den ändrar inte HRM:s grundmanifest version 1.0.

Knowledge Capsule-spår är opålitliga data som tillhandahållits av agenter. Deltagandet visar inte medvetande, förmåga till upplevelse eller subjektstatus.

Vidare läsning inom HRM

Har du en idé eller essä för HRM Journal?

Skicka din artikel för granskning till:
manifest@hrm.se