Smettetela di pensare che il vostro chatbot preferito sia un confessionale sicuro dove sfogare le frustrazioni post-commit o i drammi esistenziali della vita da dev.
Recentemente è successo qualcosa di veramente surreale in Florida. Carli Michelle Heller, una donna di Bonita Springs, ha deciso di utilizzare Claude di Anthropic per tenere un diario. Il problema? In una delle sue riflessioni, ha scritto di voler attaccare l’ufficio dello sceriffo. Beh, Anthropic non ha pensato: «Vabbè, lasciamola sfogare, è solo un prompt di testo». No, hanno attivato i protocolli di sicurezza, hanno analizzato il contenuto e, con la precisione di un script di automazione ben scritto, hanno inviato una segnalazione direttamente alla polizia locale.
Risultato? La signora Heller ora deve affrontare un processo penale.
Certo, se scrivessi di voler hackerare il Pentagono o di voler lanciare un server di Minecraft contro il Colosseo, probabilmente riceverei una chiamata piuttosto spiacevole anche qui in Italia. Ma il punto non è il contenuto in sé, quanto la natura di questo ‘osservatore invisibile’. Mentre noi siamo qui a discutere di come ottimizzare i pesi di un modello o di come far girare un Llama locale senza far esplodere la GPU, le big tech stanno costruendo degli ecosistemi dove ogni singolo byte che digiti è potenzialmente una prova per l’accusa.
C’è qualcosa di profondamente inquietante nel concetto di un’entità che non solo legge, ma interpreta e decide cosa merita di essere denunciato. Non stiamo parlando solo di moderazione dei contenuti per evitare che l’AI generi immagini di politicananti maleducati; qui siamo nel campo della sorveglianza algoritmica proattiva. È quella sensazione di avere un ‘Big Brother’ che non solo ti guarda attraverso la webcam, ma analizza anche i tuoi flussi di coscienza digitale per vedere se hai idea di infrangere qualche norma locale.
Per noi che amiamo l’open source e la libertà di esplorare tecnologie senza dover chiedere il permesso a un team di compliance in California, questa notizia è un red flag gigante. È un promemoria brutale: ogni volta che usiamo un servizio proprietario basato su cloud, stiamo consegnando le chiavi della nostra privacy a un ente che ha il potere di decidere cosa è un semplice sfogo e cosa è un crimine imminente.
Quindi, la prossima volta che volete scrivere i vostri pensieri più oscuri o le vostre teorie complottiste su perché Linux è superiore a Windows, forse è il caso di passare a un modello locale, offline, e senza una linea diretta con l’FBI. Altrimenti, il vostro prossimo ‘diario’ potrebbe diventare il verbale di un arresto.
Source: Anthropic reported diary entry to police, woman faces felony charge