Den snabba spridningen av artificiell intelligens långt bortom traditionella IT-avdelningar sätter press på organisationer att implementera tydliga och dynamiska ramverk för AI-styrning. Med sälj-, HR- och ekonomiavdelningar som nu i allt högre grad utvecklar och använder AI-lösningar, ökar komplexiteten och därmed riskerna. Experter menar att en proaktiv hållning, snarare än att invänta lagstiftning, är avgörande för att säkerställa ansvarsfull innovation.
– Den pågående demokratiseringen av AI gör frågan akut. Vi ser hur AI integreras i allt fler verksamhetsområden, och det ställer nya krav på vår förmåga att hantera risker, säger Andreas Gotthardsson, director system engineering, på Fortinet Sverige.
En central del i en ansvarsfull AI-användning är att säkerställa mänsklig kontroll. Medarbetare måste ha relevant AI-kunskap för att kunna tolka resultat, förstå begränsningar och ifrågasätta potentiella snedvridningar. Ett AI-baserat verktyg kan vara ett kraftfullt stöd, till exempel vid upptäckt av misstänkta finansiella transaktioner, men utan mänsklig granskning kan besluten bli förenklade eller felaktiga.
– Utan rätt utbildning bland medarbetare riskerar vi att fatta dåliga beslut, trots avancerad teknik.
Här är CISO-rollen en viktig del för att upprätta tydliga ramverk för dataskydd, transparens och spårbarhet. Och inte minst för att informera styrelse och chefer om de risker som är förknippade med AI.
– Att implementera AI-styrning tidigt ger konkreta fördelar – från ökad beredskap inför nya regleringar till färre säkerhetsproblem och ett högre förtroende bland kunder och partners, säger Andreas Gotthardsson.
Han pekar på en rad välkända exempel på dataläckor och partiska rekryteringsalgoritmer som tydliga bevis på vad som kan hända om styrningen brister, med stor skada på organisationens rykte som följd.
För att AI-styrningen ska bli framgångsrik krävs en tydlig ansvarsfördelning mellan IT, säkerhet, efterlevnad och juridik. Vidare betonas vikten av att utgå från erkända standarder som ISO 42001:2023, NIST AI Risk Management Framework och EU:s AI Act.
Dessutom är tidig involvering av HR, utbildning och affärsledning är avgörande för att ramverken ska stödja organisationens övergripande mål.
Slutligen måste AI-styrningen vara dynamisk. I takt med att AI-tillämpningarna blir bredare och mer autonoma, måste även ramverken utvecklas. Detta kräver löpande uppdatering av regelverk, bevakning av nya föreskrifter och en kontinuerlig dialog med verksamheten.
– Ansvarsfull AI-styrning är inte en engångsföreteelse, utan en levande process som kräver ständig anpassning. CISO:n har en central roll i att strategiskt integrera denna styrning, säkerställa mänsklig kontroll och bygga de robusta skyddsräcken som är nödvändiga, avslutar Andreas Gotthardsson.
BIld: Tung Nguyen
