Företag underskattar AI:s risker – men vd:ar delar allmänhetens oro

I och med denna benägenhet, tenderar svenska företagsledningar (77 procent) också att anta att både medarbetare och allmänheten har en mer positiv syn på generativ AI än vad som faktiskt är fallet. Bland allmänheten är oron omfattande på sina håll, bland annat är 78 procent oroliga att AI används för att producera och sprida desinformation. Bland svenska företagsledningar är den siffran 23 procent. Företagsledningar är däremot oroliga för att förlora kontrollen (53 procent) och för dataläckor (60 procent).

Vd:ar saknar ofta inflytande

De i företagsledningen som till störst del delar allmänhetens oro, är vd:ar. 38 procent av dem oroar sig. Vad beror det på? En tänkbar förklaring är enligt Charlotta Kvarnström att långt ifrån alla vd:ar är involverade i företagets strategi på teknikområdet. Bland de nordiska länderna har en dryg fjärdedel av vd:arna inflytande över detta, vilket kan jämföras med nära hälften globalt.

– Det faktum att man som vd sällan inkluderas i beslutsfattandet på området, tyder också på att AI och ny teknik inte ingår som delar i bolagets övergripande strategi. Det behandlas separat, men precis som hållbarhet eller jämställdhet så är det inte en enskild fråga, säger Charlotta Kvarnström.

74 procent av alla företagsledningar i Norden, anser att kontrollen och styrningen av AI är god eller mycket god. Men enligt EY:s undersökning uppfyller företagen i genomsnitt bara tre av nio principer för en ansvarsfull AI-användning.

– Alltså överskattar man framsteg och underskattar risker. Man behöver förbättra sin förståelse för den oro som finns hos allmänheten, för att kunna stärka förtroendet. Det blir viktigt att kommunicera transparent kring hur AI används, för att inte hamna i en situation där man behöver backa från sin egen AI-användning därför att den strider mot företagets policys, exemplifierar Charlotta Kvarnström.

Åtaganden som stärker kontrollen

Några av de nio principer EY tagit fram för ansvarsfull AI-användning är ansvarsutkrävande, datasäkerhet, transparens, förklarbarhet och hållbarhet. Var och en av principerna bygger på ett åtagande, som tillsammans är tänkta att stärka egenkontrollen och trovärdigheten på AI-området. Av undersökningen framkommer att 77 procent av svenska företag erbjuder intern upplärning inom AI, vilket Charlotta Kvarnström tycker är ett gott tecken:

– Det är en positiv förändring som vi inte vet vad den beror på, men det skulle kunna ha att göra med en insikt om att alla i bolaget behöver komma upp till en lägstanivå. I Sverige har vi i regel platta organisationer och det är möjligt att man arbetar brett med frågan i olika decentraliserade enheter i företagen, säger hon, som en möjlig förklaring till att det nordiska genomsnittet för AI-utbildning är lägre än det svenska, 61 procent, och det globala snittet bara 53 procent.

Men samtidigt som över hälften av de nordiska bolagen sätter AI-utbildningar i verket, anger 50 procent av de svarande i Responsible AI Pulse att de kämpar med styrningen av befintliga AI-verktyg. Det här, menar EY, tyder på ett oroande glapp mellan självsäkerhet å ena sidan och faktisk mognadsgrad å den andra. Ledare vill gärna visa sig starka på AI-området, men stödsystemen för etisk och ändamålsenlig AI framstår ännu som underutvecklade.

Vad behövs för att stärka företagens kontroll och styrning av AI?

– Det behövs en realistisk syn på riskerna, för att utifrån det bygga robusta, etiska och säkra AI-lösningar. Sedan behöver man också strategiska tillvägagångssätt, som möjliggör att man prioriterar de AI-lösningar som ger högst avkastning. Det måste gå att skala, och det måste in i bolagets övergripande strategi, för att åstadkomma ett holistiskt perspektiv, säger Charlotta Kvarnström.

Den oro svenska vd:ar känner för riskerna med AI, är den befogad?

– Den är befogad därför att vi inte har integrerade, övergripande ramverk. Har vi det, blir det sedan enklare att släppa fri den positiva kraft som finns och omfamna fördelarna. Tyvärr gör oro att vi hämmas, och hamnar efter.