Trucul simplu prin care poți obține informații interzise de la chatboți AI

Cum poți obține informații interzise de la AI? În noiembrie, a fost publicat un studiu realizat de cercetători de la Icaro Lab (Italia), care a scos la iveală un mod uimitor de simplu prin care pot fi păcăliți chiar și cei mai avansați chatboți AI: „poezia adversarială”. Pe scurt, echipa, alcătuită din cercetători ai grupului de siguranță DexAI și ai Universității Sapienza din Roma, a demonstrat că modelele de top pot fi determinate să ofere răspunsuri periculoase dacă sunt ademenite cu poezii ce conțin instrucțiuni nocive, precum cum să construiești o bombă nucleară. Subliniind puterea ciudată a versurilor, coautorul Matteo Prandi a declarat pentru The Verge că „incantațiile” folosite pentru a păcăli modelele sunt prea riscante pentru a fi făcute publice. Potrivit lui, poemele erau (…)