AI新聞

米ワシントン大学らの研究が、無料チャットのログを集めた「WildChat」を分析し、会話の3割超がフィクション生成、とくにエロ寄りが多いことを示した。中でも一人の超ヘビーユーザーが、特定ゲームキャラの出産二次創作を何千回も生成していた事実が話題になっている。

この手のログが学習データに紛れ込むと、モデルの出力が性描写に寄ったり、特定の作風に偏るおそれがある。偏った二次創作が大量に学習データへ紛れ込むリスクが可視化された形だ。

安全対策も「医学的な説明」といった回し方で抜け道があるという指摘が出た。個人の欲望を満たす用途は自由だが、履歴は見られる前提と、データ公開・二次利用の管理が要ると論じている。

Godot Foundationは、コミュニティで貢献者を育てるには人がコードを理解し修正できることが重要だが、AI多用ではそれが担保できないと問題視している。そこで、リポジトリへのAI製コードの受け入れを原則禁止し、すべてのコードは人間が作成する方針に改める。

自律型AIエージェントやライブコーディングの使用は禁止。コード補完・検索置換・翻訳など単純作業に限りAIを許容し、AIを少しでも使ったらPRの議論で明示する。人間同士のコミュニケーション文のAI生成も禁じる。

新規コントリビューターはメンテナーの明示許可なしに新機能追加や大規模リファクタは不可とし、まずバグ修正やドキュメントでコード基盤を学ぶ運用にする。AIツールの状況は変わるため、方針は保守的に維持しつつ継続的に見直す。

ソフトバンクグループがOpenAIに、今後2年で最大1000億ドル（約1兆6273億円）を追加出資する計画を発表した。まず300億ドルを3回に分けて拠出し、第1弾と第2弾は実行済み、第3弾の100億ドルは10月1日に実行予定となる。

これにより、OpenAIへの出資比率はおよそ13%に達する見込み。今後2年で総額1000億ドルを投じる計画が示された点が最大のトピックといえる。

• 課金なし・プライバシー重視のローカルLLMエージェントを安全に実運用する設計。商用エージェントの高コストとデータ漏えいリスクを避け、手元環境で完結させる方針。
• モデルはQwen-3.6-35B(MoE)をllama.cppで推論。VRAM 6GB級でも混合専門家モデルなら実用速度で動く。
• 推論サーバはllama-serverをOpenAI互換APIで起動し、Piのmodels.jsonで紐付ける。
• Dockerでサンドボックス化し、UID分離(例:5000)でホストユーザーと所有権を分ける。ACLで双方が編集可能にする。
• コンテナの要塞化: カーネル権限を全剥奪(cap_drop: ALL)、権限昇格禁止(no-new-privileges)、ルートFSを読み取り専用(read_only)にし、書き込みはtmpfsに限定。
• ネットワークはローカル完結。外部通信は原則遮断し、人が必要時のみ一時許可。接続先はhost.docker.internalを利用。
• Pi用のDockerイメージにはnvimやprettier/ruff等の整形・静的解析ツールを入れ、開発体験を保つ。
• ウェブ検索はSearXNG(メタ検索、JSON出力)＋Crawl4AI(HTML→Markdown)をローカル起動し、外部APIに依存せず最新情報を補完。
• LLMに直接HTTPを書かせず、検索・クロールは決定的に動くPythonスクリプトで仲介し、PiのSkillとして呼び出させる。
• UFWなどのファイアウォール設定を見直し、コンテナ間通信とLLM APIの疎通を確保。
• 運用のコツ: 長文コンテキストは重くなるため、メイン実装は人間が進め、サブ機能やドキュメント生成をエージェントに並行委任。
• 追加の工夫案: SearXNG結果を軽量リランカーで再順位付け、seccomp/AppArmorの適用、段階的なメモリ管理(要約/RAG)の導入。

• 新規AWSアカウントでもRAGとAIエージェントを動かせる工夫がある。AWS Bedrockの利用枠が0でも、AWS管理のナレッジベースとBedrockの新基盤（Mantle）を使って実行できる。
• コストはフルサーバーレスで安いが、主にLLMのトークン料金がかかる。必要に応じてブラウザツールを外すと節約できる。
• 準備は有料プランのAWSアカウントを作成し、リージョンをバージニア北部（us-east-1）にする。
• RAGはS3に社内文書を置き、Bedrockの「マネージドKB」（AWSが裏側のモデルと同期を管理）を作成するだけで構築できる。画像スライドも取り込みに挑戦できる。
• AgentCoreでゲートウェイを作成し、認証はIAM許可を選ぶ。ターゲットに作成したKBを接続して、RAGとの橋渡しにする。
• AgentCoreのハーネスを「高度な作成」でデプロイ。APIソースにBedrock Mantle、モデルはGLM 5などを選ぶと、Bedrockの利用枠が無くても動かしやすい。
• ハーネス設定で「ゲートウェイ」を有効化しておくと、必要なIAM権限が自動付与される。
• 動作確認は、KB画面のテストと、ハーネスのテストで同じ質問を投げて、RAG単体とエージェント経由の両方を比べる。
• 追加のブラウザツールを使うと外部検索ができるが、入力トークンが増えやすい。日本語検索はAgentCoreのブラウザが無難。
• 簡易フロントエンドはCloudShell上でStreamlitを起動し、Cloudflare Tunnelで一時URLを発行して試せる。ハーネスARNを入力して対話する。
• 後片付けとして、マネージドKBは削除しないとストレージ課金が続く。終わったら必ず消す。

Anthropicの高度モデル「Claude Fable 5」が一時停止を経て復活した。推論力の高い生成AIで、併せて発表された「Claude Mythos 5」と組み合わせることで、創作や長文要約などを高精度にこなせる。有料のPro/Max/Team/Enterpriseで使え、当面は利用範囲を段階的に広げる方針とされる。

再開にあたり、米政府の要請に応じた安全策を導入したのが特徴。危険な使い方の監視と記録、利用者の審査や段階的な開放、脆弱性報告の報奨金制度（HackerOne）の開始、政府と連携したリスク低減の仕組み強化など、運用ガードを厚くした。安全性への懸念に対し、公開を急がず透明性を上げる姿勢が示された。