2024-4-18 20:15:26 Author: www.securityinfo.it(查看原文) 阅读量:1 收藏
L’IA generativa complica la gestione sicura delle applicazioni SaaS
Apr 18, 2024 Approfondimenti, News, RSS
La corsa all’IA generativa ha spinto i produttori di applicazioni SaaS (Software-as-a-Service) ad aggiornare i propri strumenti integrando nuove funzionalità intelligenti per aumentare la produttività.
La GenAI si sta confermando come un assistente indispensabile per facilitare lo sviluppo di software, velocizzare la scrittura di documenti ed email e supportare la creazione di contenuti di valore.
The Hacker News sottolinea che i grandi nomi del panorama tecnologico, tra cui Microsoft, Google, GitHub e Salesforce, hanno già integrato funzionalità di IA generativa nella propria offerta di applicazioni in cloud, e a breve queste feature diventeranno lo standard dei servizi SaaS.
A fronte degli indubbi vantaggi che porta, l’IA generativa nelle applicazioni cloud comporta anche una serie di nuovi rischi di sicurezza che non andrebbero sottovalutati. La diffusione dei nuovi tool ha complicato il panorama delle minacce informatiche, preoccupando le organizzazioni.
La risposta delle aziende ai rischi dell’IA generativa
I modelli usati per alimentare i chatbot di IA generativa utilizzano i dati inseriti dagli utenti per migliorare il proprio addestramento e la qualità delle risposte, rendendoli potenzialmente accessibili agli sviluppatori che lavorano ai modelli; ciò amplia notevolmente la superficie di attacco delle organizzazioni. Anche se gli strumenti avvertono gli utenti di non condividere dati sensibili o informazioni relative alla propria azienda nella maggior parte dei casi questo avvertimento viene ignorato.
Tra i rischi principali ci sono la perdita di IP, dati riservati dei clienti e PII, oltre al fatto che i cybercriminali possono sfruttare le informazioni condivise dagli utenti per eseguire attacchi di phishing e furti di identità.
Le organizzazioni sono preoccupate dai rischi dell’IA generativa, tanto che alcune di esse, soprattutto quelle in industrie e settori che trattano dati riservati, hanno già vietato l’uso di questi tool. The Hacker News riporta che il settore bancario è stato il primo a vietare l’IA generativa, nonostante i manager del settore si dicano fiduciosi sui vantaggi dell’uso dell’IA per migliorare l’efficienza operativa.
Anche il Governo degli Stati Uniti sta seguendo una linea molto severa nei confronti della GenAI: dopo aver bloccato ChatGPT su tutti i PC in dotazione al governo, il mese scorso il Congresso ha vietato l’utilizzo di Copilot di Microsoft.
I divieti imposti dalle organizzazioni rivelano un’incapacità di base nel monitorare l’uso delle applicazioni SaaS basate su IA generativa a causa di un’importante carenza di competenze, sia nella forza lavoro che tra i leader.
I blocchi non impediscono però ai dipendenti di usare comunque i tool di GenAI, spesso appoggiandosi ai dispositivi personali: uno studio di Salesforce ha rivelato che più della metà degli utenti di IA generativa usa strumenti non approvati dal proprio datore di lavoro. I mancati controlli su questi comportamenti e l’assenza di policy chiare per l’uso dell’IA sta mettendo a serio rischio i business.
Pixabay
È ora di riprendere il controllo delle proprie applicazioni
La rapida evoluzione della tecnologia e la diffusione del lavoro ibrido e remoto ha complicato il lavoro degli esperti di cybersecurity. Sempre più organizzazioni si affidano a soluzioni SaaS che spesso soffrono di configurazioni errate e di meccanismi di controllo dell’identità e degli accessi inadeguati.
I cybercriminali stanno sfruttando queste debolezze per distribuire malware ed eseguire attacchi di vario tipo, e l’uso non autorizzato e incontrollato di strumenti di intelligenza artificiale generativa complica un quadro già difficile.
Impedire la diffusione della GenAI è impossibile e contro produttivo; le aziende dovrebbero quindi rivalutare la propria postura di sicurezza e dotarsi di strumenti capaci di gestire la nuova generazione di minacce.
Per ottenere il controllo e la visibilità sulle applicazioni SaaS di IA generativa è necessario mettere in campo soluzioni di sicurezza avanzate basate sul principio di zero-trust che consentono di abilitare l’uso dell’IA riducendone i rischi. Solo con una visione completa delle applicazioni in uso è possibile prevenire, rilevare e rispondere alle minacce, proteggendo al contempo i dati e i processi centrali per il business.
Altro in questa categoria
如有侵权请联系:admin#unsafe.sh