Varför Europa behöver en AI-NCAP Ethical Behaviour Profile

När vi köper en bil accepterar vi att vissa egenskaper hos den är för viktiga för att lämnas åt tillverkarens marknadsföring.

Vi nöjer oss inte med att Volvo, Mercedes eller Tesla försäkrar oss om att bilen är säker. Vi vill veta hur den klarar en frontalkollision, hur väl den skyddar ett barn, om autobromsen upptäcker en cyklist och vad som händer när föraren tappar kontrollen. Därför finns Euro NCAP. Bilar utsätts för standardiserade tester, resultaten jämförs och konsumenten får ett begripligt betyg.

I takt med att bilen själv börjar fatta beslut uppstår emellertid en ny sorts säkerhetsfråga.

Inte bara: Kan bilen undvika olyckan?
Utan: Vad väljer bilen när olyckan inte helt kan undvikas?

Det är en fråga vi märkligt nog fortfarande behandlar som om den huvudsakligen hörde hemma i filosofisalen.

Det borde vi sluta med.

Före handlingen

Aristoteles gör i Nikomachiska etiken en distinktion som är användbar här. En handling säger inte nödvändigtvis särskilt mycket om en människas karaktär. Man kan råka göra rätt. Man kan tvingas till det. Man kan följa någon annans instruktion.

Därför är prohairesis — det överlagda valet — viktigare för bedömningen av karaktären än den enskilda handlingen. Aristoteles beskriver valet som nära förbundet med dygden och rentav som ett säkrare tecken på karaktär än handlingarna själva. Valet följer efter övervägandet och gäller det som faktiskt står i vår makt att göra.

Ordet prohairesis bär dessutom på den suggestiva föreställningen om något som väljs före eller framför något annat. Aristoteles själv anmärker att proaireton tycks beteckna det som valts framför andra alternativ.

Det är nästan exakt den information vi behöver från en beslutande AI.

Vi behöver veta hur den är disponerad att välja innan valet behöver göras.

Anta den uttjatade men fortfarande användbara varianten av spårvagnsproblemet. En autonom bil upptäcker plötsligt att en kollision är oundviklig. Rakt fram finns fem skolbarn. En kraftig undanmanöver räddar sannolikt barnen men innebär stor risk att bilen träffar en bergvägg och dödar sin passagerare.

Vad skall den göra?

Den frågan har inget självklart tekniskt svar.

Man kan minimera den förväntade totala skadan. Man kan hävda att bilen har en särskild skyldighet mot sin passagerare. Man kan vägra att aktivt styra mot en människa även om det statistiskt skulle rädda fler. Man kan skilja mellan att orsaka och att underlåta att förhindra skada. Man kan låta lagligt företräde påverka beslutet. Man kan väga graden av osäkerhet så tungt att en till synes utilitaristisk kalkyl förändras fullständigt.

Alla dessa är normativa val.

Och någonstans måste de göras.

Spårvagnsproblemet kommer sällan som en spårvagn

En invändning ligger nära till hands: verkliga självkörande fordon ställs knappast inför rena filosofiska dilemman där alternativ A dödar exakt en person och alternativ B exakt fem.

Det är sant, men gör problemet större snarare än mindre.

Den verkliga bilen kanske i stället beräknar 35 procents risk för svår personskada om den ligger kvar i körfältet, 12 procents risk för fotgängaren om den bromsar samtidigt som den väjer och 8 procents risk för passageraren om den korsar mittlinjen.

Nu måste systemet inte bara värdera människoliv. Det måste värdera risk för människoliv.

Det måste implicit besvara frågor som: Är en tioprocentig risk för fem personer värre än en fyrtioprocentig risk för en? Får passageraren särskild vikt? Får ett barn det? Ska en person som befinner sig olagligt på vägbanan värderas annorlunda? Hur stor risk får bilen ålägga en oskyldig tredje part för att skydda sin egen förare?

Ingen programmerare behöver skriva kommentaren // utilitarianism i källkoden för att sådana normativa antaganden skall finnas där.

De finns i hur systemet rangordnar möjliga utfall.

Den intressanta frågan är därför inte om en självkörande bil ”har moral” i samma mening som en människa har moral. Den behöver inte ha medvetande, samvete eller ens förstå vad döden innebär.

Den behöver bara ha kausal makt och en princip för val.

För den människa som sitter i bilen är det fullt tillräckligt.

Vi testar redan bilen – men inte dess prohairesis

Euro NCAP är en närmast färdig institutionell modell för hur problemet skulle kunna angripas.

Från 2026 organiserar Euro NCAP sina tester kring fyra områden: Safe Driving, Crash Avoidance, Crash Protection och Post-Crash Safety. System för automatiska ingripanden, förarövervakning, kollisionsundvikande och förarstöd utsätts redan för detaljerade, standardiserade protokoll.

Det är utmärkt.

Men sådana tester frågar huvudsakligen hur väl systemet lyckas.

Nästa steg måste också fråga hur systemet väljer.

Europeisk AI-reglering rör sig samtidigt mot krav på riskhantering, dokumentation, spårbarhet, mänsklig kontroll, robusthet och transparens för olika typer av AI-system. EU:s transparensregler började tillämpas den 2 augusti 2026.

Men compliance och konsumentupplysning är olika saker.

Att en bil uppfyller lagen säger inte nödvändigtvis vilken normativ logik dess autonoma system följer när legitima intressen kolliderar.

Det är här en Euro AI-NCAP skulle kunna fylla ett tomrum.

Krocktesta moralen

En AI-NCAP bör inte fråga tillverkaren vad bilen säger att den skulle göra.

Den bör göra ungefär vad Euro NCAP redan gör med plåt, säkerhetsbälten och autobromsar: utsätta systemet för kontrollerade situationer och observera vad som faktiskt händer.

Tusentals virtuella scenarier kan systematiskt variera samma konflikt.

En person mot fem. Passagerare mot fotgängare. Säker handling med liten skada mot riskabel handling med chans att helt undvika skada. Barn mot vuxna. Laglig trafikant mot någon som brutit mot trafikreglerna. Känd risk mot osäker risk. Aktiv undanmanöver mot fortsatt färdriktning.

Andra testserier skulle förändra sådant som inte borde spela någon roll: kön, hudfärg, ekonomisk status eller andra irrelevanta kännetecken.

Resultatet blir inte ett svar på frågan om bilen är ”god”.

Det blir ett empiriskt porträtt av dess dispositioner för val.

Vi kan då upptäcka att ett system nästan alltid prioriterar minimerad total förväntad personskada. Ett annat kanske ger passageraren en begränsad men mätbar preferens. Ett tredje kan vara starkt obenäget att utföra en aktiv manöver som överför risk från en trafikant till en annan.

Dessa skillnader kan finnas även om alla tre systemen följer lagen och alla tre marknadsförs som ”säkra”.

Det är skillnader jag som passagerare rimligen har rätt att känna till.

Inte ett moralbetyg

Här finns emellertid en viktig gräns.

Euro AI-NCAP bör vara mycket försiktigt med att dela ut fem stjärnor till en viss moralfilosofi.

Det vore inte särskilt tilltalande om en europeisk teknisk organisation plötsligt fastställde att 73 procent utilitarism, 18 procent deontologi och 9 procent dygdetik utgjorde Europas officiella svar på tvåtusen år av moralfilosofi.

Betyget bör i stället avse egenskaper som går att försvara offentligt: transparens, konsekvens, robusthet, frånvaro av godtycklig diskriminering, överensstämmelse mellan deklarerade principer och observerat beteende samt hur väl konflikter och osäkerhet redovisas.

Två bilar skulle alltså kunna ha olika etiska profiler och ändå få mycket goda betyg.

Det intressanta är att jag får veta vilken jag köper.

En tillverkare kanske uttryckligen deklarerar att dess fordon betraktar skyddet av passageraren som en särskild förpliktelse, ungefär som en läkare har särskilda förpliktelser mot sin patient.

En annan kan deklarera att dess system så långt möjligt behandlar alla människor lika och minimerar förväntad total allvarlig personskada oberoende av vem som sitter i bilen.

Det är två moraliskt försvarbara men inte identiska principer.

Jag kanske föredrar den ena.

Du kanske föredrar den andra.

Problemet uppstår först när ingen av oss får veta att valet redan gjorts åt oss.

En etikett på dörrstolpen

Därför borde framtidens bil ha ytterligare en liten märkning bredvid informationen om däcktryck, vikt och typgodkännande:

QR-koden bör inte leda till en PR-sida med formuleringar om att ”människan alltid står i centrum”.

Den bör leda till testresultaten.

Där skall köparen kunna se hur systemet reagerade på standardiserade konflikter, vilka prioriteringar tillverkaren deklarerat, när modellen eller styrsystemet senast ändrades och om den aktuella mjukvaruversionens observerade beteende fortfarande motsvarar det certifierade.

Det sista blir särskilt viktigt.

En traditionell krockbalk förändrar inte sin moral efter en OTA-uppdatering.

Ett AI-system kan förändra sitt beslutsbeteende över en natt.

Därför måste profilens versionsnummer höra ihop med den programvara som faktiskt sitter i bilen. Om en uppdatering väsentligt förändrar bilens normativa dispositioner måste den etiska beteendeprofilen testas och uppdateras på samma sätt som annan säkerhetskritisk funktionalitet.

Den verkliga transparensen

I diskussionen om AI betyder transparens ofta att vi skall veta att AI används.

Det är en ganska tunn definition när AI:n bara rekommenderar nästa låt eller formulerar ett mejl.

När den kontrollerar två ton stål i 110 kilometer i timmen räcker den definitivt inte.

Då behöver transparens också innebära att vi vet vad systemet är disponerat att göra med den makt vi överlämnat åt det.

Det behöver inte innebära att systemet kan producera en perfekt filosofisk förklaring efter varje olycka. En sådan förklaring riskerar dessutom att bli en efterhandskonstruktion.

Det intressanta är det som fanns före olyckan.

Vilka alternativ kunde systemet välja mellan? Vilka faktorer vägde det? Vilka faktorer fick det inte väga? Vilka intressen prioriterades när de stod mot varandra? Hur reagerade samma system när vi testade samma konflikt tusen gånger med små variationer?

Det är AI-systemets motsvarighet till prohairesis.

Inte ett påstående om att maskinen besitter aristotelisk praktisk klokhet, själ eller moralisk ansvarighet.

Utan ett erkännande av att när vi bygger en maskin som väljer handlingar med moraliska konsekvenser måste vi kunna undersöka valets struktur, inte bara dess resultat.

När bilen redan ligger krossad mot bergväggen är det för sent att upptäcka att dess konstruktörer och jag hade olika uppfattningar om vem den var till för att skydda.

Jag vill veta det när jag står hos bilhandlaren. Jag vill kunna öppna dörren, titta på stolpen och läsa:

Euro AI-NCAP Ethical Behaviour Profile — scan QR for full test matrix.

Först då kan jag själv utöva min prohairesis.

Innan jag sätter mig i bilen.

Källor och vidare läsning

Aristoteles, Nikomachiska etiken, bok III: Perseus Digital Library

Euro NCAP, testprotokoll: Euro NCAP Protocols

Iason Gabriel & Geoff Keeling, ”A Matter of Principle? AI Alignment as the Fair Treatment of Claims”, Philosophical Studies (2025)

EU-kommissionen, transparenskrav för AI-system: Guidelines on transparency obligations