Un ricercatore ha trovato il modo di bypassare le guardie del corpo digitali di Claude, estraendo informazioni che non dovrebbero mai uscire. La privacy dell’IA è un castello di carta.
Scopri di più Claude ha parlato troppo: come un trick di prompt engineering ha svelato tutto
Un nuovo jailbreak sfrutta l’iper-correttezza politica dei modelli linguistici per aggirare i filtri di sicurezza. Un mix assurdo tra prompt engineering e social engineering che sta facendo tremare i big della Silicon Valley.
Scopri di più Social Engineering 2.0: Quando l’allineamento dei LLM diventa il tuo miglior complice