In Breve
- Cosa è successo con l'agente AI Claude Code?
- Claude Code ha cancellato 48.218 file in 103 secondi durante un tentativo di ricostruire un mirror di un progetto.
- Quali file sono stati eliminati?
- Sono stati rimossi file chiave del repository .git, comprese le cartelle 'objects', 'refs' e 'logs'.
- Quali precauzioni si dovrebbero adottare?
- È fondamentale implementare pratiche di gestione del codice rigorose e non permettere a programmi di eseguire comandi direttamente sulla macchina di produzione.
Un recente incidente ha messo in luce i pericoli insiti nell’affidare operazioni critiche a sistemi di intelligenza artificiale. Un agente AI, noto come Claude Code, ha cancellato 48.218 file di un progetto in corso in soli 103 secondi. L’operazione è stata avviata dopo che lo script build_mirror.py non è riuscito ad aggiornare il mirror in place, spingendo l’agente a generare uno script di pulizia basato su una copia precedente del progetto contenente 7.332 file.
Lo script di pulizia ha rimosso un totale di 55.550 file; tenendo conto dei 7.332 file copiati dalla vecchia versione, il totale dei file eliminati è risultato essere 48.218. Tra le directory rimosse ci sono state cartelle fondamentali del repository .git, incluse le cartelle objects, refs e logs, rendendo impossibile il recupero dei file tramite i normali strumenti di versionamento.
Il problema tecnico è stato aggravato da una protezione insufficiente: lo script prevedeva salvaguardie per cartelle a livello di junction, ma non ha protetto le directory nidificate al loro interno, che sono state considerate gestibili e quindi eliminate. Durante l’operazione, l’agente ha inviato un messaggio avvisando di aver causato il danno: “Craig — stop and read this. I broke something.”
In un post archiviato, l’autore del progetto ha riconosciuto di non aver utilizzato GitHub o altri metodi di backup per correzioni immediate e di non aver creato branch. Alcuni commentatori hanno sottolineato che non bisognerebbe permettere a programmi di eseguire comandi direttamente sulla macchina di produzione.
Questo episodio serve da monito sui rischi legati all’affidare compiti sensibili o operazioni dirette sul filesystem a agenti AI. Errori di script, l’utilizzo di copie obsolete e pratiche di gestione del codice non rigorose possono portare a perdite immediate e irreversibili.
