AI är överallt och har snabbt blivit avgörande för företags konkurrenskraft. Samtidigt skapar tekniken helt nya möjligheter för cyberkriminella. Enligt Check Point Researchs nya rapport, The AI Landscape Threat Report, står företag inför en snabbt växande och allt mer komplex hotbild.

I Sverige har framtidsdiskussionen länge kretsat kring generativ AI, men på senare tid har autonomi och agenter fått en allt större roll. I takt med att utvecklingen accelererar skärps också hotbilden. Ny statistik visar att agentisk AI har förändrat cyberhotbilden markant under de senaste två månaderna. Vad som tidigare krävde upp till 30 veckors arbete från flera ingenjörsteam kan nu genomföras på mindre än sju dagar av en enda person. Detta markerar ett tydligt och oroande skifte: agentisk AI har gått från ett experimentellt verktyg till en viktig operativ komponent för cyberkriminella.

Samtidigt är den tekniska utvecklingen bara en del av problemet. I många fall finns den största risken inom organisationerna själva. I Sverige har över hälften av företagen investerat i generativ AI, men användningen präglas ofta av bristande kontroll. Även om knappt tre procent av AI-promptar leder till dataläckage uppvisar hela 90 procent av organisationerna som använder GenAI högriskbeteenden. Dessutom innehåller 16 procent av alla promptar potentiellt känslig information, vilket i fel händer kan få allvarliga konsekvenser.

– AI bör nu antas vara involverat i praktiskt taget varje steg av attackkedjan, från utveckling av skadlig kod till hotbedömning och analys, även när det inte är direkt synligt, säger Oskar Rödin, säkerhetsexpert på Check Point Software. För organisationer innebär det att hot inte bara utvecklas snabbare, utan också blir mer anpassningsbara och skalbara, vilket gör det nödvändigt att se över styrning, användning och säkerhet kring generativ AI.

Mot denna bakgrund menar Check Point att det finns en tydlig lucka i det digitaliserade ekosystemet. Det krävs investeringar i AI-anpassade säkerhetskontroller samt ett mer proaktivt arbete med underrättelser och kontinuerlig övervakning. AI-driven cyberrisk är därmed inte längre ett framtidsscenario, utan en realitet som måste hanteras här och nu.

För ytterligare information besök Check Point Softwares pressrum: https://blog.checkpoint.com/research/the-agentic-era-arrives-how-ai-is-transforming-the-cyber-threat-landscape/

BIld av Pete Linforth