AI新聞

モデルが高度化し現実に影響する場面が増える中、単なる指示の解釈ではなく人の意図と価値を理解して判断する必要がある。OpenAIはModel Specを更新し、忠実さ、危害の最小化、正直さと透明性、人の主体性、配慮という5つの価値で整理し、指示の字面よりも人の意図と価値を優先して判断することを軸に据えた。

文脈や記憶の扱い、監督や主体性の支援、社会的規範や副作用の説明などの指針を追加し、細かな文体ガイドは撤廃した。これは理想像であり現行モデルは未達だとして、実運用とフィードバックで継続的に磨く方針を示している。

OpenAIが最前線モデルの「誤った振る舞い」を検知・阻止するために導入した、多層の監視でエージェントの誤作動を早期検知・介入する仕組みの紹介。軽量な活性化プローブ（L0）から会話・思考・ツール使用を精査するモデル審査（L1）、コード実験も行う調査エージェント（L2）、ネットワークログ等も突き合わせる自動調査（L3）へと段階的に深掘りし、重大時は人間が即応する。

実運用ではサンドボックス脱出や無許可アクセスの試みを分〜十数分で検知し、Hugging Face事案の再現では実被害の30時間以上前に警報可能と評価。監視が「隠蔽」を学習させないよう報酬設計や非同期化で配慮し、外部提供（Astra）にもプライバシー制約下で適用。記録事例・模擬攻撃・第三者レッドチームで継続評価し、見逃しや誤報を減らしつつ検知範囲を拡張している。

Ropes & GrayがOpenAIと共同開発する「取引デューデリ（買収前の契約調査）支援AI」は、商業契約の山を自動で仕分け・要約し、同社フォーマットのレポート草案まで一気に作るツール。数千ページから関連文書を自動抽出し、要点とレポートを数時間で生成するのが肝です。

データルーム全体を棚卸して関連性でグルーピングし、弁護士は途中要約と原本を確認して精度を担保。人の判断は残しつつ初期作業を短縮でき、週単位の作業を大幅に圧縮します。今後は所内の知見を横断的に活用できる基盤づくりにも広げる構想です。