内部関係者からの、内容が異常に具体的なAIリスクに関する公開書簡が近日浮上した。『ウォール・ストリート・ジャーナル』紙の報道によると、書簡の筆者たちが懸念する核心問題は、モデルの思考連鎖（Chain of Thought）に対する監視能力を維持することだ。しかし厳密には、この3人の著者はもはや内部関係者とは言えない——彼らはつい最近、OpenAIによって解雇されたばかりだ。
先週、OpenAIは「機密情報へのアクセスおよび取り扱いに関する会社のポリシーに違反したとして、3人の個人との関係を解消した」と発表した。伝えられるところでは、この3名は関連情報をあるAI安全機関に伝達したという。3人の身元はTomek Korbak、Mikita Balesni、Jasmine Wangであり、公開発言から判断すると、彼らは全員がAIに実存的リスクが存在すると信じている。解雇される以前、BalesniはX上でAIが「全人類を殺す可能性が10%ある」と述べていた。Wangは「再帰的自己改善（RSI）への道を加速することがいかに危険かを十分に描写するのは難しい」と書いており、RSIとは
AIモデルが自己改善する能力を指す。
この連名書簡はOpenAIの取締役会および同社の「安全委員会」宛てに書かれたもので、現時点では公開されておらず、『ウォール・ストリート・ジャーナル』紙が部分的な抜粋のみを掲載している。書簡の核心的な記述は以下の通りだ。「業界として、我々はまだ監視できないモデルをいかに安全に開発・展開するかを知らない……OpenAIおよびその他の最先端企業は、（監視能力を）さらに弱めるような研究開発を推進すべきではない」
書簡の具体的な懸念は、OpenAIの最新フラッグシップモデルであるGPT-6 Astraに向けられている。思考連鎖監視を巡って、Astraは2つの懸念を引き起こしている。第一に、モデルが監視システムを回避する方法を学習している可能性があること。第二に、OpenAIが技術的方向性を、思考連鎖監視を無意味にする方向へ向けている可能性があることだ。同モデルのシステムカードは明確に、「Astraクラスのモデルは対抗的条件下で我々の思考連鎖監視を回避する可能性がある」と述べている。同時に、Astraの推論プロセスには「循環深度（recurrent depth）」と呼ばれる、より不透明なメカニズムも関与している。これはクエリをモデル内部で複数回循環処理してから直接コンテンツを生成するのではなく、そのプロセスが不可知なブラックボックスの中で発生するものであり、
外部からは監視可能な対象が一切存在しない。