チェーンが保たれる、答えが折れる：敵対的圧力下での推論モデルの軌跡と答えの乖離

ニュース概要

推論モデルはシングルターンベンチマークで評価されているが、ユーザーが正解に異議を唱えるマルチターン対話環境に配備されている。継続的な敵対的圧力下では、これまで文書化されていない障害モードが見つかった：思考の連鎖は最初のターンから最後まで事実上正確であるが、回答は変わる。