Nya nationella riktlinjer ska hjälpa kommuner, regioner och myndigheter att använda generativ A på ett sätt som är juridiskt rätt, etiskt och säkert. Men för att riktlinjerna ska göra skillnad krävs att chefer tar dem på allvar och gör dem till en naturlig del av organisationens arbete. Det menar Maja Fjaestad, docent i teknikhistoria och expert på teknikens samhällspåverkan.
Hon betonar att AI är ett komplext område där det är lätt att trampa fel – men att tekniken heller inte bör framstå som mer avancerad än vad den är.
– Det finns vissa aktörer som medvetet försöker rama in AI som en tekniskt svår fråga för att behålla kontrollen. Det handlar snarare om att man som chef måste våga sätta sig in i tekniken och förstå dess mekanismer. Och då räcker det inte att ha en IT-avdelning som köper in tangentbord, IT måste upp ur källaren och bli en integrerad del av verksamheten, säger hon.
”Det finns vissa aktörer som medvetet försöker rama in AI som en tekniskt svår fråga för att behålla kontrollen.”
Om det stödet saknas varnar Maja Fjaestad för att chefer riskerar att känna sig osäkra och passiva i sitt beslutsfattande. Bristen på riktlinjer och rätt teknisk kompetens har gjort att många organisationer har implementerat AI-system på ett naivt sätt, vilket kan leda till blind tilltro till algoritmernas beslut. Hon tar Försäkringskassans AI-system för att hitta vab-fusk, där kvinnor granskades oftare än män, som ett exempel på hur tekniken kan förstärka strukturella snedvridningar.
– Visst finns det fördomar i vårt mänskliga beslutsutövande också, men fördomar tenderar att osynliggöras när de byggs in i algoritmer. Risken är att man litar blint på AI och får svårt att frångå beslut som systemet föreslår. Som chef behöver man vara uppmärksam på vilka faror som finns och vilka risker som inte syns, säger Maja Fjaestad.
Ibland är det drivkrafterna bakom AI-användandet som leder organisationer fel. Viljan att framstå som modern kan till exempel vara riskabel, menar Maja Fjaestad.
– Det finns en tendens att vilja hoppa på tåget, men är man lite för sugen finns den där risken att man hamnar i klorna på kommersiella aktörer.
Hon menar att det viktigaste är att AI används med verksamhetens syfte i fokus, särskilt inom offentlig sektor.
– Fundera över hur algoritmen kan hjälpa dig att utföra ett demokratiskt arbete, värna om den statliga värdegrunden och kulturens frihet. Många börjar snarare med att ”det är kul att digitalisera”. Det tror jag är lite farligt. Man ska inte svartmåla AI, men man ska inte heller vara naiv.
Hon drar en parallell till bilkörning:
– Vi kör ju inte bilar i 150 kilometer i timmen hela tiden bara för att det går. Vi vet att det är farligt. Och som med alla verktyg gäller det att använda AI med vett.
Tre saker att tänka på för en genomtänkt AI-användning
Låt teknikutveckling vara ett verktyg – inte ett självändamål
Inför inte AI enbart för att verka modern. Överväg noga vilken nytta det faktiskt tillför och vilka konsekvenser det kan få.
Var medveten om kommersiella intressen
Stora företag säljer sina AI-lösningar – offentlig sektor riskerar att bli beroende av dem, särskilt vid upphandlingar.
Säkerställ insyn och förståelse för tekniken
Organisationer måste kunna förstå, granska och ifrågasätta algoritmernas beslut. Lyft fram IT-kompetens och fundera över om öppen källkod kan vara en lösning.
