Lästid: 3 minuter
Senast redigerad:
Felaktig data största AI-hotet enligt IT-specialister
Rätt domänkunskap och upskilling affärskritiskt i AI-eran
AI hjälper IT- och techteam att lösa problem snabbare, hitta buggar, förstå kod och navigera i stora mängder information. Men trots den utbredda användningen växer en oro: Kan vi verkligen lita på svaren AI ger? En frågeställning som nu driver en växande efterfrågan på medarbetare med rätt domänkunskap inom data och analys.
AI i vardagen. Men till vilket pris?
Redan idag använder 85 procent av IT-specialister och chefer AI i sin yrkesroll. Det visar den nya rapporten Från kod till kultur: AI formar framtidens IT-ledarskap från Ada Digital, som kartlagt hur generativ AI används på arbetsplatsen.
Samtidigt växer osäkerheten. 43 procent pekar ut felaktig eller otillräcklig data som den största risken med AI. En oro som överträffar både minskad mänsklig kontroll och etiska utmaningar.
Förtroendet för AI står alltså och faller med datakvaliteten. Och det är en fråga som bara blir viktigare framåt. Enligt World Economic Forums Future of Jobs Report väntas AI och datahantering skapa över 11 miljoner nya jobb globalt till 2030, medan 9 miljoner försvinner. Det innebär ett kompetensskifte där domänkunskap och datainsikt blir avgörande.
Fel data in – fel beslut ut
Att AI-system tränas på den data de får är självklart. Men när datan är felaktig eller saknar kontext blir beslutsstödet snabbt bräckligt. Det är där affärsrisken uppstår.
Faktum är att 62 procent av dem som valt bort AI i sitt arbete gör det för att tekniken inte levererar tillräckligt korrekta svar. Dessutom oroar sig 57 procent i den gruppen för integritet och säkerhet.
AI-bias: den blinda fläcken
Överraskande nog är det bara 4 procent av respondenterna som nämner AI-bias och diskriminering som en risk. Detta trots att hallucinationer – övertygande men felaktiga AI-svar – ökar i takt med utvecklingen.
Till exempel rapporterar Forbes att nyare versioner av avancerade AI-modeller hallucinerar mer än sina föregångare. Andra beskriver hur resonemangsmodeller kan ”hallucinera i varje steg”, vilket ökar risken för felaktiga svar som ändå låter övertygande.
Samtidigt pekar EU:s AI Act ut AI i rekrytering som ett högriskområde, just på grund av algoritmers förmåga att reproducera gamla mönster.
IT-chefer bäst på AI-lärande, men utbildningsglappet tydligt
En positiv nyhet är att 43 procent av IT-medarbetarna uppger att deras närmaste chef ger dem tid att lära sig och utforska AI – den högsta siffran bland alla branscher.
Särskilt anmärkningsvärt är att nästan en fjärdedel i denna grupp svarar att de fått mycket tid, vilket är klart högre än inom exempelvis ekonomi och marknadsföring. Det tyder på en stark vilja att prioritera upskilling och teknikutveckling i techteamen.
Däremot visar rapporten att endast 16 procent fått någon vägledning i hur man hanterar AI-hallucinationer eller kontrollerar svarens trovärdighet. Något som skapar ett riskfyllt glapp mellan teknikens användning och förståelsen av dess begränsningar.
Fördjupning: IT-chefer bäst i klassen men saknar strategiskt AI-ledarskap
Därför ökar efterfrågan på dataroller
Ada Digital
Hos Ada Digital ser vi en tydlig trend: roller inom data och analys har blivit affärskritiska. Såväl Data Scientists och AI Engineers som AI-analytiker och BI Developers som kan översätta datainsikter till beslut.
– Vi ser en växande efterfrågan på specialister som förstår både tekniken och affären. Det handlar inte bara om att ställa rätt prompt, utan om att ifrågasätta svaret som kommer tillbaka och förstå vilka beslut som står på spel, säger Mathias Jonsson, affärsområdeschef på Ada Digital.
Rätt beslut kräver datakompetens och affärsförståelse
72 procent av respondenterna i Ada Digitals rapport anser att den egna domänkunskapen är avgörande när de använder tekniken. Och att det kommer krävas ännu mer framåt.
Det bekräftas också av WEF:s rapport, som visar att 39 procent av arbetsgivarna globalt förväntar sig att de kompetenser som krävs i arbetslivet kommer förändras fram till 2030.
Det handlar inte om att förstå AI-tekniken i detalj utan om att kunna tolka, ifrågasätta och använda AI på rätt sätt. Att förstå datans begränsningar, se igenom hallucinationer och samtidigt väga in både etik och affärsmål.
– På Ada Digital ser vi att det är kandidater och konsulter med både datakompetens och affärsförståelse som kommer driva AI-omställningen framåt, avslutar Mathias Jonsson.
Rekrytera och hyr specialister inom data, analys och AI?
Vi på Ada Digital hjälper dig att rekrytera och hyra in specialister inom data, analys och AI. Personer som vet hur tekniken fungerar, men också när den ska ifrågasättas. Hör av dig!
