Irritation vanligt när konsumenter möter digitala assistenter

Digitalisering & IT En ny undersökning visar att AI-drivna produkter, oavsett om det är rekommendationssystem på en e-handelssida eller digitala assistenter i hemmet, är inte så smarta som folk vill att de ska vara vilket ofta skapar friktion och utebliven nytta för användarna. För svenska företag kan det dock innebära nya affärsmöjligheter.

Irritation vanligt när konsumenter möter digitala assistenter
Olof Hoverfält Foto: Sabrina Bquin

Förra året genomförde Alice Labs, ett Helsingforsbaserat konsultföretag, och Centret för konsumentforskning vid Helsingfors universitet en årslång studie om användning av tjänster för musik- och videostreaming samt digitala assistenter. Undersökningen gjordes i samarbete med teknik- och designföretaget Reaktor.

Studien omfattade noggranna observationer som visade att rekommendationssystem och digitala assistenter upprepade gånger misslyckas med att erbjuda behagliga möten mellan människa och teknik. Istället leder dessa interaktioner ofta till situationer där maskiner uppfattas som trubbiga och klumpiga – med påföljande irritation när detta uppstår.

– I studien kunde man se att användare av AI-drivna system upprepade gånger hamnade i situationer där de fick en passiv position gentemot det algoritmiska systemet som inte gav dem någon nytta – faktiskt var effekten ofta direkt motsatt och man upplevde något som vi valt att kalla för algoritmisk trötthet eller algoritmisk utmattning. I sådana situationer önskade användarna att det fanns en möjlighet för dem att själva hjälpa systemet i rätt riktning. Man vill helt enkelt ha möjligheten att säga till systemet att det gjort ett fel, och till och med samarbeta aktivt med systemet för att ändra på detta, säger Olof Hoverfält, strateg på Reaktor.

De “algoritmiska möten” som beskrivs i rapporten antyder att ju närmare vi lever med maskiner, desto mer vill vi att de ska vara som oss. Vi vill att de, baserat på vad de ska göra för oss, ska reagera intuitivt på våra skiftande mål och förväntningar, och även förändringar i våra liv, det vill säga kontexten. Algoritmer med mänskliga instinkter är dock fortfarande en dröm som är svår, om inte omöjlig, att uppfylla, menar Olof.

– Digital teknik utvecklas ofta till en ”one size fits all” -modell. Erfarenheterna med rekommendationssystem och digitala assistenter antyder ändå att människor i olika sammanhang antar mycket olika ställning i förhållande till den teknik de använder. De kanske vill vara passiva i vissa situationer eller föredrar att vara aktivt involverade i andra sammanhang.

De till synes små incidenterna i undersökningen sätter fingret på de större frågorna som står på spel när det gäller algoritmiska fördomar och teknikens förmåga att kunna sortera och agera rätt på olika data.

– Den designguide som vi erbjuder föreslår att företag och organisationer behöver bygga digitala tjänster med hänsyn till om människor vill förbli inaktiva eller ta en mer dynamisk roll och samarbeta nära med maskinen i de olika fallen, säger Olof Hoverfält.

Han menar att det är genom att noggrant kombinera mänskliga styrkor med styrkan hos artificiell intelligens som vi verkligen kan börja se smarta maskiner. För svenska företag innebär det en möjlighet att exploatera nischade områden som inte redan är upptagna av de stora techgiganterna.

– Därför behöver vi också mer interaktion mellan den akademiska världen och industrin, samtidigt som yrkesverksamma inom olika områden – från design och datavetenskap till marknadsföring – behöver interagera betydligt närmare varandra, avslutar Olof Hoverfält.

Karriär

Strategi & målstyrning

Kunskapsmaterial

Inspiration

Ledarskap & styrning

VD-tidningen

Vd-tidningen Premium

För dig som har 100 procents fokus på vd-rollen.
Full tillgång till strategiska artiklar med tips och analyser.