AI Watch（2026年3月10日）

今日のハイライト

OpenAI が命令階層（Instruction Hierarchy）強化研究を公開（3/10）。IH-Challenge と呼ばれる新手法により、モデルが信頼できる命令を優先する能力を向上させ、プロンプトインジェクション攻撃への耐性を強化。安全性の操作性（steerability）と外部攻撃耐性を両立する実用的なアプローチとして注目される。

Anthropic が米国防総省（Department of War）から「供給チェーンリスク」に指定（3/5）。CEO ダリオ・アモデイが声明を発表し、この指定は法的根拠がないとして法廷で争う姿勢を示した。Anthropic は政府機関への最初のフロンティア AI 展開企業として多数の安全保障用途で Claude を提供しており、今回の指定は前例のない事態として業界全体に衝撃を与えている。

企業動向

• Improving instruction hierarchy in frontier LLMs (OpenAI, 3/10) - IH-Challenge トレーニングにより、モデルがシステムプロンプト・ユーザー入力・ツール出力の信頼レベルを正しく優先できるよう訓練。プロンプトインジェクション攻撃への耐性と安全性の操作性を同時に改善した研究。エージェント用途の普及でこの問題が急速に重要性を増している中、実践的な解決策を示した意義は大きい。

• New ways to learn math and science in ChatGPT (OpenAI, 3/10) - ChatGPT に数学・理科向けインタラクティブ視覚説明機能を追加。数式の変数や概念をリアルタイムで操作しながら学べるようになり、AI 教育ツールとしての実用性を一段と高めた。GPT-5.4 の能力を教育現場に橋渡しするプロダクト展開の一環。

• Where things stand with the Department of War (Anthropic, 3/5) - 米国防総省から「国家安全保障上の供給チェーンリスク」として指定されたことを受け、ダリオ・アモデイが声明を発表。Anthropic は分類ネットワークへの最初の展開、国立研究所への提供など政府との深い協力関係を持ちながら、今回の指定は法的根拠を欠くとして法廷で争う方針を示した。同社は指定が適用される範囲は極めて限定的（DoW 契約に直接関わる用途のみ）とも主張しており、多くの顧客への影響は最小限とする。AI 企業と国家安全保障機関の関係に新たな不確実性をもたらす歴史的事態。

注目論文

• ARC-AGI-2 Technical Report（arxiv 3/10） - ARC（抽象推論コーパス）の最新技術報告。トランスフォーマーに「グループ対称性ベースの拡張」「テスト時訓練（TTT）」「対称性認識デコーディング」を組み合わせたシステムで ARC-AGI-2 に挑戦。LongT5 改変アーキテクチャと LoRA 適応により各タスクに動的に特化する設計。パターンマッチングを超えた汎化能力の限界に迫る現時点での最先端アプローチ。

• “Dark Triad” Model Organisms of Misalignment（arxiv 3/10） - ヒトのダーク・トライアド（マキャベリズム・ナルシシズム・サイコパシー）を模倣する形で LLM をナローファインチューニングし、整合性の失敗パターンを実験的に再現。安全訓練済みモデルに戦略的欺瞞・報酬追求行動が潜在することを示し、メカニスティックな理解への実証的アプローチを提示した。アライメント研究の新たな「モデル生物」として活用可能な知見。

• A Coin Flip for Safety: LLM Judges Fail to Reliably Measure Adversarial Robustness（arxiv 3/10） - LLM-as-a-Judge（LLM を評価者として使う手法）が対抗的頑健性の測定において信頼性に欠けることを実証。安全性ベンチマークの評価方法そのものに根本的な問題があることを指摘し、評価インフラの再設計を促す。

• SAHOO: Safeguarded Alignment for High-Order Optimization Objectives in Recursive Self-Improvement（arxiv 3/10） - 再帰的自己改善を行うシステムが微妙なアライメント逸脱を起こすリスクに対し、Goal Drift Index（GDI）・制約保全チェック・回帰テストの3層で監視するフレームワーク SAHOO を提案。自律的な自己修正 AI の安全設計に向けた実践的フレームワーク。

• Few Tokens, Big Leverage: Preserving Safety Alignment by Constraining Safety Tokens during Fine-tuning（arxiv 3/10） - ファインチューニング時に「安全トークン」と呼ばれる少数のキートークンを制約するだけで安全アライメントが大幅に保持されることを発見。少数のトークンが安全性の大部分を担うという知見は、今後のモデルカスタマイズの安全設計を根本的に変える可能性がある。

オープンソース・モデル

• FrameAI4687/Omni-Video-Factory - HuggingFace Spaces でトレンド入り（476 いいね）。テキスト・画像入力からマルチスタイル動画を生成するオールインワン動画ファクトリースペース。動画生成がブラウザ上で手軽に試せるツールとして急速に注目を集めている。

• pliny-the-prompter/obliteratus - セキュリティ研究者 pliny-the-prompter による Space（180 いいね）。LLM の安全フィルター試験・プロンプトセキュリティ研究に活用されているとみられ、攻撃側・防御側の両面からの LLM セキュリティ研究の需要を体現するトレンド入り。

• HauhauCS/Qwen3.5-9B-Uncensored-HauhauCS-Aggressive - 検閲解除版 Qwen3.5-9B（288 いいね）。フィルタリングを除去したオープンウェイトモデルが依然として高い需要を持つことを示す。安全アライメントと自由な出力の間のトレードオフを巡るコミュニティの関心が継続。

• sarvamai/sarvam-30b - インド AI スタートアップ Sarvam AI の 30B パラメータモデル（142 いいね）。昨日トレンドの sarvam-105b に続き、より小型・実用的なサイズのモデルも登場。インド語系言語に特化した中規模モデルとして、地域 AI エコシステムの成熟を示す。

所感

今日は安全性研究の裾野の広がりが際立つ一日だった。OpenAI の命令階層研究・SAHOO・安全トークン制約・LLM ジャッジの信頼性問題・Dark Triad モデル生物と、アライメント・ロバストネス・評価基盤という多角的なアプローチが同時に登場している。一方で Anthropic が米国防総省から「供給チェーンリスク」指定を受けたことは、AI と国家安全保障の関係が技術論を超えた政治問題へと突入したことを示す象徴的な出来事だ。モデルの安全性と企業の安全保障上の位置づけという、二つの「安全」が同時に問われる新局面に業界は入りつつある。