Claude Opus 5.5 se întoarce în silenzio la un model mai vechi când vine vorba de securitate

De ce a construit Anthropic un comutator de model pentru interogările de securitate?

Anthropic a descoperit că modelul său cel mai nou, Claude Opus 5.5, revine automat la Opus 4.8 atunci când utilizatorii pun întrebări legate de amenințări de securitate. Schimbarea se întâmplă în mijlocul conversației și este acompaniată de un mesaj vizibil care anunță schimbarea de model pentru Această reacție apare doar când inputul atinge subiecte senzibile, cum ar fi exploatarea vulnerabilităților sau metodologiile de atac.

Odată ce se produce comutarea, Opus 5.5 rămâne inactiv pentru restul sesiunii de chat, iar toate 8.

Compania spune că acest mecanism este intenționat și a fost conceput ca o măsură de precautie împotriva utilizării potențial periculoase a modelului său cel mai puternic.

Experții avertizează că actorii determinați pot încă compune cunoștințe pe mai multe interacțiuni sau modele. Anthropic spune că investește în monitorizare îmbunătățită, politici de utilizare și constrângeri la nivel de model pentru a reduce dependența de comutatori reactivi. Scopul pe termen lung este de a construi modele care să fie atât foarte capabile, cât și rezistente inherent la abuz, fără a necesita dezactivarea potențialului lor complet.

De ce comută Claude Opus 5.5 la Opus 4.8 în timpul întrebărilor legate de securitate?

De ce comută Anthropic modelul în mijlocul conversației?

Anthropic a conceput acest comutator ca o măsură de siguranță pentru a preveni utilizarea modelului său cel mai avansat pentru generarea de ghiduri nocive, chiar și când cererea este neintenționată sau exploratory în natură.

Poți preveni utilizatorii comutarea în timpul unei conversații? Nu, comutarea este automată și este declanșată de sistem atunci când detectează priviri legate de exploatarea vulnerabilităților, tehnici de atac sau subiecte similare sensibile din punct de vedere al securității.

Odată ce este activat, Opus 5.5 rămâne inactiv pentru restul sesiunii.

Înseamnă asta că Opus 4.8 nu este sigur pentru interogări de securitate? Nu necesar.

Opus 4.8 rămâne un model puternic, dar lipsește cele mai noi ameliorări din versiunea 5.5. Compania consideră că este suficient de capabil pentru utilizare generală, prezentând totuși un risc mai redus în domeniile cu stakes ridicate.