När maskinen ska bestämma

Självkörande bilar är på alla större biltillverkares agenda. Det testas, programmeras och funderas. Bland frågorna finns förstås hur bilen ska agera när krachen är oundviklig.

Så här tänker Mercedes-Benz genom Christoph von Hugo:

”You could sacrifice the car. You could, but then the people you’ve saved initially, you don’t know what happens to them after that in situations that are often very complex, so you save the ones you know you can save.”

Frågan är oerhört intressant och samtidigt väldigt komplex. Det finns förstås tusentals parametrar att ta hänsyn till på vägen fram mot en oundviklig krasch. Till slut återstår bara en fråga – vad ska bilen köra på?

När en människa har kontrollen av bilen blir svaret givet; hen kommer välja det val som innebär att hen överlever (om hen har kontroll över sitt fordon förstås). Även om det innebär att köra på ett barn, cyklist eller nåt annat mjukt som är i vägen. Men behöver en självkörande bil agera likadant?

if ("crashavoid" = 0)
  targetobstacle = 'soft'

Om första prioriteten är att rädda den eller de som sitter skyddade i bilen (en enhet som den självkörande datorn  vet allt om) som kommer bilen välja att köra på nåt som gör så lite skada som möjligt på bilen och dess innehåll. Det rimliga målet borde vara ett så mjukt mål som möjligt.
Andra prioritet blir då att välja det mjuka mål som innebär minst risk för att människor dör eller skadas. Det borde innebära att bilen ska välja djur före människor, ren före älg, en människa före flera människor osv. Många parametrar blir det.
Men återigen: måste en självkörande bil rädda sin förare och passagerare och skada eller döda andra?

Kan man tänka sig att om man nu lägger ansvaret för att framföra bilen i händerna på en dator  borde man också kunna släppa tanken med att föraren ska överleva till varje pris?
Varför ska oskyldiga få sätta livet till när din självkörande bil lyckats med konststycket att krascha? Jag anser att det ska till väldigt mycket för  att en fungerande självkörande bil ska hamna i en oundviklig krasch.
Samtidigt kan man ju fundera på vad som föranlett den oundvikliga kraschen när en dators kapacitet och därmed möjligheter att utföra undvikande åtgärder är så mycket större än för en mänsklig förare? Sprang barnet bara rakt ut i gatan? Cyklade cyklisten bara rakt ut över cykelpassagen? Kanske är det då rimligt att välja det mjuka hindret istället för trädet vid sidan?
Å andra sidan så borde hastigheten vara anpassad för trafikmiljön så att skadan för den påkörda borde vara lindrig. Finns det människor, barn, övergångställen, cykelpassager etc. så är vi inte på motorvägen där farten är hög utan i en stadsmiljö med lägre hastigheter. Betänk också att bilen är full med skyddande utrustning och ett barn är mjukt. Det mjuka målet borde ju då undvikas i alla lägen.

if ("crashavoid" = 0)
  targetobstacle = 'any' & injuryrisk = 'low'

Men ändå måste datorn programmeras för att svara på frågan vad den ska köra på om den kommer att krascha? Ska datorn i alla lägen kalkylerar risken för skada eller dödsfall bland de möjligheter som erbjuds. Det mål med lägst risk är vad bilen väljer. Hur många hundratals, kanske tusentals parametrar ska tas med i en sådan riskbedömning?
Kanske får man räkna med lite ”collateral damage”? Kommer en bil som är programmerad att offra sin förare och eventuella passagerare före fotgängare eller andra mjuka varelser ens kunna säljas?
Jag avundas inte alla de tekniker som måste lösa dessa kniviga frågor men hoppas att de lyckas tillfredställande. Självkörande bilar tillhör framtiden.

Läs även: Top misconceptions of autonomous cars and self-driving vehicles

/Parkley

Robotikens lagar

1. En robot får aldrig skada en människa eller, genom att inte ingripa, tillåta att en människa kommer till skada.
2. En robot måste lyda order från en människa, förutom om sådana order kommer i konflikt med första lagen.
3. En robot måste skydda sin egen existens, såvida detta inte kommer i konflikt med första eller andra lagen

Sen tillkom den nollte lagen (zeroth law):

0. En robot får inte genom handling, eller underlåtelse att handla, orsaka att mänskligheten skadas.

En kommentar Lägg till din

Kommentera

Fyll i dina uppgifter nedan eller klicka på en ikon för att logga in:

WordPress.com-logga

Du kommenterar med ditt WordPress.com-konto. Logga ut /  Ändra )

Twitter-bild

Du kommenterar med ditt Twitter-konto. Logga ut /  Ändra )

Facebook-foto

Du kommenterar med ditt Facebook-konto. Logga ut /  Ändra )

Ansluter till %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.