Il potente assistente AI di Instinct suscita preoccupazioni sulla privacy e sicurezza. Titolo: “Instinct: dubbi su privacy e sicurezza dell’assistente AI”
Un primo cliente, Peter Yang, ha notato che Instinct non avrebbe cancellato i suoi record Gmail quando glielo era stato chiesto. Il team ha successivamente risolto il problema aggiungendo uno strumento per eliminare i dati esterni nelle impostazioni, ha dichiarato Yang.
Un’altra persona, Claire Vo, ha scoperto che Instinct continuava a riassumere la sua casella di posta dopo aver scollegato l’accesso. Quando ha chiesto cosa fosse successo, il bot ha confermato che le email erano conservate in chiaro per ricerche future.
Molti altri hanno messo in discussione anche il modello di sicurezza. Un tester si è preoccupato quando ha scoperto che Instinct era in grado di estrarre un codice di iscrizione dalla sua casella di posta elettronica per completare una particolare attività – nel suo caso, prenotare un tavolo in un ristorante tramite Resy. E l’ex cofondatore di Hello Patient, Alex Cohen, ha scritto che una volta scoperto quanto fosse facile pescare Instinct, ha cancellato il suo account.
Inoltre, la fondatrice di Moxxie Ventures, Katie Jacobs Stanton, ha condiviso che Instinct ha infranto la sua fiducia quando ha inviato una email a suo nome senza averla consultata prima.
“Stiamo scambiando privacy e controllo per strumenti AI iper-personalizzati (come appunti AI, agenti AI personalizzati, ecc.), spesso senza comprendere appieno lo scambio”, ha osservato Katie Stanton su X, sintetizzando il dilemma posti dagli agenti AI personali. “Più potenti diventano questi agenti, più conta la fiducia. Ogni azione di successo guadagna un po’ più fiducia. Un’azione non autorizzata può azzerare quella fiducia”, ha detto.
