Håll dig uppdaterad med vårt kostnadsfria nyhetsbrev

Varje vecka får du en sammanfattning av de senaste nyheterna direkt till din inkorg.

Registrera dig

Ökat fokus på etiskt användande av AI

Digitalisering & IT En ny undersökning visar att antalet företag och organisationer som nu agerar och tar fram etiska riktlinjer för användande av AI snabbt ökar. Covid 19 har satt ökat fokus på etiskt användande av system med AI samt potentiella risker för diskriminering och särbehandling.

Ökat fokus på etiskt användande av AI
Ann Hellenius tycker att det vore synd om frågor kring etik begränsas till regelverk för att skydda kunder och användare.

Rapporten om AI och det etiska dilemmat har tagits fram av Capgemini Research Institute.

Här konstateras att även om företag blir mer medvetna om de etiska dimensioner och frågeställningar som kommer med ökad användning av AI finns brister i hur dessa omhändertas. När det handlar om rättvisa (65 %) och möjlighet att granska utfall och beslut (45 %) har utvecklingen stått stilla sedan den förra rapporten. För området transparens har siffran sjunkit från 73 % till 59 %. Detta trots att 58 % av tillfrågade företag och organisationer säger sig ha arbetat med att informera anställda kring konsekvenser som användande av system med AI kan medföra.

Rapporten visar också att 70 % av kunder kräver att utfall och beslut från system med AI tydligt ska kunna förklaras. De förväntar sig också transparens och rättvisa i kontakten med system från företag som tillämpar AI.

Lagstiftning och riktlinjer från bland annat EU och andra organisationer bidrar till att sätta fokus på frågan om etiska principer för användning av AI. Under 2020 etablerade US Federal Trade Commission (FTC) rekommendationer som innebär att system med AI som fattar ett för kunden negativt beslut, till exempel ett avslag på en låneansökan, måste kunna visa kunden vilken data som beslutet grundats på. Kunden ska ha möjlighet att identifiera och korrigera felaktigheter. Inom detta område visar rapporten att utvecklingen går åt fel håll. 2019 informerade 73 % av tillfrågade verksamheter sina kunder om hur de kan påverkas av beslut tagna med hjälp av AI. I årets rapport har denna siffra sjunkit till 59 %.

En orsak till den lägre siffran för 2020 kan vara att COVID-19 både förändrat konsumentbeteenden och medfört ökad komplexitet för systemen. Brist på historiska data från motsvarande situationer som kan användas för att träna system gör att företag idag måste justera sina system utifrån en ny normalbild där konsumenter agerar annorlunda än tidigare. Denna utveckling kan ha bidragit till minskad transparens.

Många företag och organisationer inom offentlig sektor har accelererat sitt användande av AI i sin kamp för att lindra effekterna av COVID-19 och den globala pandemin. I takt med att denna utveckling fortsätter ökar också kraven på verksamheter att se till att kunder känner fortsatt tillit till, och får en god upplevelse i mötet med tjänster som använder AI. Det finns rapporter om fall där social och kulturell särbehandling har färgat data som samlats in för användning i vård och offentlig sektor.

Det är inte bara i offentlig sektor som diskriminering rapporterats. Studien visar att 65 % av de tillfrågade beslutsfattarna kände till fall där system med AI uppträtt diskriminerande. Nära 60 % av verksamheter i studien har på något sätt utsatts för rättslig granskning eller upplevt missnöje bland kunder till följd av användning av AI. Missnöjda kunder berättar gärna om negativa upplevelser och avråder andra från att anlita det företag eller organisation man upplever sig dåligt behandlad av (45 %). Nästan lika många (39 %) säger att de aktivt kommer att söka en förklaring till behandlingen eller i framtiden välja att interagera med en person istället (39%) även om det medför en högre kostnad. 27 % säger att de helt skulle avsluta sin relation med en verksamhet som givit dem en negativ upplevelse som följd av diskriminerande AI.

Endast 53 % av verksamheterna i studien har idag en roll i organisationen som ansvarar för etiska frågor kopplade till användning av AI. Det kan krävas för att säkerställa att frågan om korrekt etisk tillämpning av artificiell intelligens ska få tillräcklig vikt och uppmärksamhet i ledningen.

Ytterligare en aspekt är frågan om ansvarstagande för beslut och resultat som nåtts med hjälp av AI. Det är viktigt att ledningen för verksamheter som använder AI tar ansvar för eventuella händelser där diskriminering och negativ särbehandling kan påvisas. Endast hälften av de företag och organisationer som ingår i studien har idag formaliserade möjligheter för anställda och kunder att anonymt flagga för incidenter och problem som uppkommit till följd av AI-system.

Rapporten framhåller sju saker som organisationer kan göra för att säkerställa att AI-system utformas och används utan risk för brister gällande etik och särbehandling. Utöver de sju punkterna betonar rapporten också vikten av ledarskap, kultur och interna processer inom området.

1. Tydliggör syftet med varje AI-system och kartlägg vilka effekter och situationer som kan uppstå till följd av systemets funktion.

2. Arbeta proaktivt med att tillämpa AI där det har positiva effekter för samhälle och miljö.

3.Säkerställ att AI-system hanterar frågor kring mångfald och integration både vid utformning och användning.

4. Använd de tekniska möjligheter som finns för att göra systemen mer transparenta och förståeliga.

5.Skapa en mänsklig upplevelse i kontakt med AI och se till att systemen övervakas av människor.

6. Utforma tekniskt robusta och säkra AI-system.

7. Upprätthåll hög integritet genom att ge människor möjlighet att styra i sin interaktion med AI

– Givet den potential som AI har vore det synd om frågor kring etik begränsas till regelverk för att skydda kunder och användare. Om vi istället placerar de etiska dimensionerna av AI i centrum kan vi skapa funktioner och effekter som på allvar bidrar till ett bättre samhälle. All data vi redan har och den teknik som nu utvecklas kan då användas, säger Ann Hellenius, chef över Capgemini Invent i Sverige och Finland.

Läs hela rapporten

Karriär

Strategi & målstyrning

Kunskapsmaterial

Inspiration

Ledarskap & styrning

Vårt nyhetsbrev

De viktigaste nyheterna direkt i mejlen. Helt kostnadsfritt!
Skickar begäran
Jag godkänner att Vd-tidningen sparar mina uppgifter.
VD-tidningen

Vd-tidningen Premium

För dig som har 100 procents fokus på vd-rollen.
Full tillgång till strategiska artiklar med tips och analyser.