NordLayer lancia AI Scout: una soluzione per monitorare l’uso di servizi AI non autorizzati nelle aziende

NordLayer ha recentemente introdotto AI Scout, uno strumento innovativo progettato per fornire alle aziende una visibilità completa sull’uso di servizi di intelligenza artificiale (AI) da parte dei dipendenti. Questa soluzione si propone di affrontare i rischi associati alla perdita di dati derivanti dall’uso di strumenti non autorizzati, un problema sempre più rilevante nell’era digitale.

Funzionalità di AI Scout

AI Scout è un prodotto standalone che monitora le interazioni degli utenti su browser e desktop. Tra le sue principali funzionalità, il sistema è in grado di:

• Identificare i servizi AI autorizzati e non autorizzati utilizzati dai dipendenti.
• Misurare l’utilizzo reale rispetto alle sottoscrizioni acquistate dalle aziende.
• Stimare il consumo di token tra i modelli linguistici impiegati.

Inoltre, AI Scout include controlli specifici per ispezionare i prompt e bloccare o redigere contenuti sensibili prima della loro trasmissione a servizi esterni. I controlli basati sul browser possono intervenire anche quando un dipendente inserisce informazioni che necessitano di ulteriore revisione.

Monitoraggio oltre i chatbot

Il monitoraggio di AI Scout si estende oltre i chatbot convenzionali, comprendendo anche gli agenti AI e le loro connessioni tecniche con i servizi aziendali. Gli amministratori possono ispezionare l’infrastruttura MCP (Managed Cloud Platform) collegata ad agenti di programmazione e valutare le capacità operative di questi sistemi.

Risposta alla crescita dell’uso di AI

Questa iniziativa di NordLayer risponde alla crescente adozione di tecnologie AI nelle aziende e al fenomeno dello shadow AI, in cui i dipendenti utilizzano servizi gratuiti o non approvati. Secondo ricerche recenti, il 59% delle aziende spende oltre 1 milione di dollari all’anno in tecnologie AI. Inoltre, il 42% dei dipendenti utilizza sistemi AI approvati, mentre il 70% ricorre a modelli gratuiti sul posto di lavoro.

Implicazioni economiche delle violazioni

Le violazioni legate allo shadow AI possono comportare costi significativi per le aziende, con un aumento medio globale di circa 400.000 dollari su un valore medio di 4,99 milioni di dollari per breach. Pertanto, la gestione dei rischi associati all’uso di AI non autorizzati diventa cruciale per la sicurezza aziendale.

AI DLP di AI Scout

Un’altra caratteristica distintiva di AI Scout è l’AI DLP (Data Loss Prevention), progettata per ispezionare i prompt e controllarli prima dell’invio, evitando l’immissione di dati sensibili. Con la rapida crescita di nuovi modelli linguistici (LLM), è evidente la necessità di strumenti di telemetria che possano raccogliere in un’unica piattaforma l’utilizzo dell’AI, sia autorizzato che non.

Conclusioni

In un contesto in cui l’adozione di tecnologie AI è in continua espansione, AI Scout di NordLayer rappresenta una risposta efficace per le aziende che desiderano mantenere il controllo sull’uso di servizi AI e proteggere i propri dati sensibili. Con un monitoraggio attento e funzionalità avanzate, questa soluzione si propone di ridurre i rischi associati all’uso non autorizzato di strumenti di intelligenza artificiale.