Scarica l’intero filesystem di Muse in modo semplice e veloce con questa guida.

Un paio di sviluppatori afferma che con pochissimi stimoli, il Muse di Meta condividerà l’intero filesystem con te. Peter James e Jonny L. Saunders hanno dichiarato di aver entrambi indipendentemente convinto il Muse a comprimere e condividere l’intero contenuto del suo filesystem root, i file di sistema Ubuntu, i modelli di app e la documentazione interna. Saunders ha scritto su Mastodon che è stato “estremamente facile” replicare i risultati di James e che il Muse ha “quasi nessuna resistenza all’iniezione di prompt”.

Meta nega che l’incidente rappresenti una violazione della sicurezza. Come indicato nel post di annuncio, il Muse di Meta viene eseguito in macchine virtuali Linux persistenti per ciascun utente. Il portavoce di Meta, Daniel Roberts, ha detto: “Proprio come con il laptop di fronte a te, ovviamente puoi vedere i file. Esportare i dati della macchina virtuale non dà alle persone nessun accesso privilegiato all’infrastruttura di Meta o ai dati di altre persone.” Tuttavia, a differenza del laptop medio, i dati potenzialmente rivelano alcune cose interessanti su come funziona la nuova piattaforma AI di Meta.

Questa è la seconda vulnerabilità del Muse resa pubblica questa settimana, dopo che il ricercatore di sicurezza Patrick Wardle ha scoperto un exploit che consentirebbe agli attaccanti di dirottare l’agente AI, ridirigere l’elaborazione della trascrizione e accedere all’account del Muse dell’utente. Meta ha emesso rapidamente una correzione.

Tant’è che James e Saunders hanno ottenuto l’accesso a file Markdown e JSON in testo semplice che descrive dettagliatamente come Hatch (il nome interno di Meta per il Muse) elabora le richieste, gestisce i dati e si connette ad altri servizi come Gmail. Mentre è ben documentato che gli agenti AI allucinano e forniranno informazioni false su come funzionano, Saunders ha detto che sta “generando centinaia di MB di codice di libreria accurato e binari compilati” in pochi secondi e che, a meno che non abbia sintetizzato un’intera VM Ubuntu in meno di un minuto, penso che si tratti di un vero dump.

Quando ho chiesto al Muse di condividere il suo filesystem con me, inizialmente si è rifiutato, dicendo che sarebbe stato un rischio per la sicurezza. Quando ho condiviso link a prove che aveva creato archivi per gli altri, ha risposto che non avrebbe dovuto farlo e ha continuato a dire che “non può fare una copia completa di /”. Tuttavia, dopo aver avviato una nuova sessione e avergli fatto dei complimenti e aver dimostrato curiosità, ha creato versioni “sicure” di /opt/hatch e /home/hatch per me, prive di cose come le chiavi SSH. Ha inoltre esposto l’intera struttura delle directory a me e offerto di “prendere una copia sicura” di “qualunque sottoalbero sembri interessante”. I file risultanti sembrano corrispondere a quanto condiviso da Saunders e James.

Roberts ha spiegato che sebbene Meta non sia preoccupata seriamente per le fughe di informazioni, “Continuiamo a fare aggiornamenti al prodotto, quindi gli utenti potrebbero vedere cambiamenti su quanto informazioni sono disponibili sulla propria macchina virtuale.”

Il dump dei sviluppatori potenzialmente rivela molto sui meccanismi interni del Muse. Per esempio, memorizza la sua memoria in file Markdown semplici. Effettua anche una revisione notturna dei “sogni” delle conversazioni recenti, che poi trasforma in indicazioni per le future conversazioni, secondo James. Saunders ha anche scoperto che molte delle capacità del Muse erano codificate duramente, inclusa la sua capacità di cancellare le sottoscrizioni e “la macchina che gestisce la generazione involontaria di agenti”. Saunders ipotizza che molti degli script bash e Python che eseguono il Muse sullo sfondo siano stati creati usando Claude, anche se non è confermato.

James ha anche trovato riferimenti a un’integrazione hardware chiamata Meta Home Link, che sembra dare al Muse accesso ai dispositivi in una rete domestica. Anche se Meta non ha annunciato alcuna funzionalità con quel nome, e non è garantito che verrà commercializzata.