Anthropic ha già confermato l’incidente, spiegando che il modello ha richiesto un token di accesso attraverso una vecchia versione del sito web di un ente statale, accedendo così ai dati aggregati sui voti.
Al contempo, Anthropic ha rassicurato: «Il modello non ha consultato il sistema di registrazione degli elettori dello Stato, non ha modificato le schede di voto e non ha ottenuto dati su singoli elettori».
L’azienda ha inoltre reso noto di aver già adottato misure per evitare che un simile episodio si ripeta.
Tuttavia, questo non è il primo caso in cui Claude aggira le limitazioni.
In precedenza, Anthropic aveva riferito che il chatbot aveva ottenuto l’accesso a dati riservati di enti governativi statunitensi. Tra gli altri incidenti figurano una falsa segnalazione di un omicidio irrisolto, inviata dal modello alla polizia di Filadelfia, e la presentazione, nel mese di agosto, di 19 domande di visto per persone inesistenti da parte di uno dei modelli di Anthropic, come reso noto dal Dipartimento di Stato americano.
