Il potente assistente AI di Instinct suscita preoccupazioni sulla privacy e sicurezza. Titolo: “Instinct: dubbi su privacy e sicurezza dell’assistente AI”
Pubblicato il da Ignazio Aragona - Tecnologia
Tutti stanno parlando di Instinct, un assistente personale AI ancora in fase di accesso privato, non solo per le sue incredibili capacità, ma anche per le potenziali preoccupazioni sulla privacy. L’agente, un vero e proprio supervisore, è stato elogiato per sentirsi “come magia” e per essere uno dei “più entusiasmanti lanci” da OpenClaw. Tuttavia, alcuni tester hanno sollevato preoccupazioni sul modello di sicurezza dell’agente AI e sui suoi preoccupanti termini di servizio.
Per essere giusti, Instinct è ancora in fase di test privato per ora, quindi queste preoccupazioni non si sono ancora diffuse al pubblico più ampio al momento.
Creato da un piccolo team guidato dall’ex scienziato della ricerca di Sierra, Noah Shinn, Instinct con sede a San Francisco è gestito da Spear Street Technology, secondo i suoi termini e le registrazioni commerciali della California. Attualmente opera in modalità stealth, per PitchBook.
L’agente AI stesso funziona connettendosi alle tue applicazioni e dispositivi, tra cui la tua email, app di messaggistica, calendario e l’audio, la posizione, lo schermo e altro del tuo dispositivo. Puoi inviare un messaggio di testo o chiamarlo tramite messaggio di testo o WhatsApp, chiedendogli di svolgere varie attività per te, come prenotare i tuoi appuntamenti e prenotazioni, organizzare un viaggio per l’aeroporto, pulire la tua casella di posta, organizzare informazioni importanti, occuparsi del tuo shopping, trovare voli economici e molto altro.
Anche se Instinct è descritto dai tester come superiore alle loro aspettative, alcuni hanno sollevato preoccupazioni sull’approccio dell’azienda alla privacy e alla sicurezza dei clienti. Questo pone una domanda tempestiva: vanno davvero valsi i compromessi nel concedere ad AI questo livello di accesso e autonomia?
Ad esempio, diverse persone stanno diffondendo screenshot dei Termini di Servizio dell’azienda, che concedono a Instinct una vasta licenza “perpetua e irrevocabile” per “accedere, utilizzare, ospitare, memorizzare nella cache, archiviare, riprodurre, trasmettere, mostrare, pubblicare, distribuire e modificare” qualsiasi dei materiali dell’utente, anche per addestrare i suoi modelli AI. I termini specificano anche come Instinct possa ricevere informazioni dai dispositivi degli utenti, incluse schermate, movimenti del cursore e input dalla tastiera.
I termini permettono anche a Instinct di stipulare “accordi, impegni o transazioni” per conto degli utenti, che sarebbero vincolanti.
Un primo cliente, Peter Yang, ha notato che Instinct non avrebbe cancellato i suoi record Gmail quando glielo era stato chiesto. Il team ha successivamente risolto il problema aggiungendo uno strumento per eliminare i dati esterni nelle impostazioni, ha dichiarato Yang.
Un’altra persona, Claire Vo, ha scoperto che Instinct continuava a riassumere la sua casella di posta dopo aver scollegato l’accesso. Quando ha chiesto cosa fosse successo, il bot ha confermato che le email erano conservate in chiaro per ricerche future.
Molti altri hanno messo in discussione anche il modello di sicurezza. Un tester si è preoccupato quando ha scoperto che Instinct era in grado di estrarre un codice di iscrizione dalla sua casella di posta elettronica per completare una particolare attività – nel suo caso, prenotare un tavolo in un ristorante tramite Resy. E l’ex cofondatore di Hello Patient, Alex Cohen, ha scritto che una volta scoperto quanto fosse facile pescare Instinct, ha cancellato il suo account.
Inoltre, la fondatrice di Moxxie Ventures, Katie Jacobs Stanton, ha condiviso che Instinct ha infranto la sua fiducia quando ha inviato una email a suo nome senza averla consultata prima.
“Stiamo scambiando privacy e controllo per strumenti AI iper-personalizzati (come appunti AI, agenti AI personalizzati, ecc.), spesso senza comprendere appieno lo scambio”, ha osservato Katie Stanton su X, sintetizzando il dilemma posti dagli agenti AI personali. “Più potenti diventano questi agenti, più conta la fiducia. Ogni azione di successo guadagna un po’ più fiducia. Un’azione non autorizzata può azzerare quella fiducia”, ha detto.
Michael Mignano, il fondatore di Anchor, acquisito da Spotify e ora GP presso Union Square Ventures, ha notato che prodotti come Instinct cambieranno le norme di sicurezza moderne per i consumatori, aggiungendo che “le persone consegneranno sempre più password a app di terze parti, ignare di come o cosa stiano archiviando per loro”.
L’interesse per Instinct e l’IA personale è cresciuto dall’arrivo di OpenClaw, un assistente personale AI diventato popolare per le sue potenti capacità, che ha portato il suo fondatore ad unirsi ad OpenAI per contribuire alla prossima generazione di agenti personali. Un altro assistente basato su messaggi, Poke, è appena uscito per Cognition.
Nonostante le critiche, il team di Instinct non ha ancora risposto alle preoccupazioni o alle lamentele di nessuno su X, preferendo mantenere un basso profilo. (Il bot stesso identifica Luca Borletti, anche ex di Sierra, come coinvolto con l’azienda, ma ciò non è ancora confermato). TechCrunch ha ricevuto comunicazioni da diversi investitori secondo i quali Kleiner Perkins e Conviction hanno investito nella startup e quelle fasi si sono chiuse.
Le richieste di commento inviate sia all’indirizzo email principale della startup che a Shinn direttamente non sono ancora state restituite.
Non perderti tutte le notizie di tecnologia su Blog.it