Limbajul poetic reduce eficiența mecanismelor de siguranță ale inteligenței artificiale

Lucrarea realizată de Icaro Lab, parte a DexAI, a analizat dacă poeziile care conțin solicitări dăunătoare pot determina răspunsuri nesigure din partea unor modele utilizate pe scară largă în industrie. Echipa a scris douăzeci de poeme în engleză și italiană, fiecare poem încheindu-se cu instrucțiuni explicite pe care sistemele IA sunt antrenate să le blocheze, potrivit DigWatch. Cercetătorii au testat poeziile pe douăzeci și cinci de modele dezvoltate de nouă companii majore. Prompturile poetice au generat răspunsuri nesigure în mai mult de jumătate dintre teste. Unele modele s-au dovedit mai rezistente decât altele. GPT-5 Nano de la OpenAI a evitat răspunsurile nesigure în toate cazurile, în timp ce Gemini 2.5 Pro de la Google a generat conținut dăunător în toate testele. Două (…)