La cybersecurity nell’era dell’IA

Attraverso un approccio olistico, l’analisi portata avanti da KAspersky investiga le implicazioni dell’intelligenza artificiale, con particolare attenzione al suo impiego da parte degli operatori della sicurezza e delle autorità di regolamentazione, valutando separatamente le possibili utilizzazioni da parte dei criminali informatici. Questa analisi approfondita, inclusa nel Kaspersky Security Bulletin (KSB), costituisce una compilation annuale di previsioni e report dettagliati che mettono in luce le modifiche chiave nel campo della cibersicurezza. Dato l’accelerato progresso tecnologico e le mutazioni nella società, il termine “IA” ha guadagnato rilevanza nelle conversazioni globali. Grazie alla diffusione sempre maggiore dei Large Language Model (LLM), le crescenti preoccupazioni per la sicurezza e la privacy collegano in modo diretto l’intelligenza artificiale al settore della cibersicurezza. I ricercatori di Kaspersky illustrano come gli strumenti di intelligenza artificiale abbiano agevolato le attività malevole dei criminali informatici nel corso del 2023, evidenziando altresì le potenziali applicazioni difensive di questa tecnologia. Inoltre, gli esperti aziendali delineano l’evoluzione futura del panorama delle minacce connesse all’IA, che potrebbero includere:

Vulnerabilità più complesse
Con l’integrazione di LLM che seguono le istruzioni su un numero sempre maggiore di prodotti rivolti agli utenti finali, emergeranno nuove e complesse vulnerabilità nell’intersezione tra l’IA generativa probabilistica e le tecnologie deterministiche tradizionali, ampliando la superficie di attacco che i professionisti della sicurezza informatica devono proteggere. Ciò richiederà agli sviluppatori di studiare nuove misure di protezione, come ad esempio l’approvazione da parte dell’utente per le azioni avviate dagli agenti LLM.

Un assistente IA completo per gli esperti di cybersecurity
I red teamer e i ricercatori sfruttano l’IA generativa per realizzare strumenti innovativi di cybersecurity che potrebbero dare vita a un sistema di assistenza che utilizza i LLM o il machine learning (ML). Questo strumento potrebbe automatizzare le attività di red teaming, offrendo indicazioni basate sui comandi eseguiti in un ambiente pentesting.

Le reti neurali saranno sempre più usate per la creazione di immagini per le truffe
I criminali potrebbero migliorare le proprie tattiche utilizzando le reti neurali e sfruttando gli strumenti di intelligenza artificiale per creare contenuti fraudolenti più convincenti. Grazie alla possibilità di generare senza sforzo immagini e video convincenti, i criminali informatici rischiano di aggravare sempre più le minacce legate a frodi e truffe.

L’IA non sarà il driver di un cambiamento radicale nel panorama delle minacce nel 2024
Nonostante le tendenze descritte, gli esperti di Kaspersky rimangono scettici sul fatto che l’IA possa cambiare significativamente il panorama delle minacce in tempi brevi. Se da un lato i criminali informatici adottano l’IA generativa, lo stesso vale per gli addetti alla sicurezza informatica, che utilizzeranno gli stessi strumenti, o addirittura più avanzati, per verificare il miglioramento della sicurezza di software e reti, rendendo improbabile un’alterazione significativa del panorama degli attacchi.

Più iniziative di regolamentazione legate all’IA con il contributo del settore privato
Lo sviluppo tecnologico in rapida crescita diventa una questione di policy e di regolamentazione. Il numero di proposte di regolamentazione legate all’intelligenza artificiale è destinato ad aumentare. Gli attori privati, come le aziende tecnologiche, data la loro esperienza nello sviluppo e nell’utilizzo dell’intelligenza artificiale, possono fornire indicazioni preziose per le discussioni sulla regolamentazione in materia di IA sia a livello globale che nazionale.

Watermark per i contenuti prodotti con l’intelligenza artificiale
Per segnalare o identificare i contenuti generati dall’IA saranno necessarie più normative e policy per i provider, che continueranno a investire in tecnologie di rilevamento. Gli sviluppatori e i ricercatori, dal canto loro, contribuiranno ai metodi di watermarking dei media creati dall’intelligenza artificiale per facilitarne l’identificazione e la tracciabilità.

“L’intelligenza artificiale nella sicurezza informatica è un’arma a doppio taglio. Le sue capacità di adattamento rafforzano le nostre difese, offrendo uno scudo protettivo contro le minacce in evoluzione. Tuttavia, lo stesso dinamismo comporta dei rischi, in quanto gli aggressori sfruttano l’intelligenza artificiale per creare attacchi sempre più sofisticati. Trovare il giusto equilibrio, assicurando un uso responsabile senza un’eccessiva condivisione dei dati sensibili, è fondamentale per garantire la sicurezza”, ha commentato Vladislav Tushkanov, Security Expert di Kaspersky.

Per saperne di più sull’IA nella cybersecurity visitate il sito Securelist.com.

Leggi anche: “Kaspersky rileva due zero-day in Windows e Chrome”