話題のニュースを要約つきで
登録すると週刊レターが届きます
Anthropic、自己複製AIの「兆し」を指摘 55ドルのTVボックス15台で26Bモデルが稼働
小型モデルが安価なIoT機器上で人の管理から離れて自律的に複製・拡散する可能性が高まりつつあると警鐘を鳴らす。55ドルのAndroid TVボックス15台で26Bモデルの分散推論を実演し、エミュレータではGLM-5.2がネット探索→自己コピー→環境構築を通しで達成。モデルの重みをマルウェアとして運ぶ「重みベースの複製体」を想定する。
拡散は遅く計算力もH100数十台分にとどまるが、中央から止めにくいのが問題。対策はISPの通信監視、感染者の帯域制限と通知、初期パスワード廃止で再感染数を1未満に抑えること。完全な自己複製は未成立だが、各工程の能力が揃い始めた「兆し」があると結ぶ。
itmedia.co.jp
【注意喚起】相次ぐ情報漏洩、その原因の一つは「アプリ解析からのサーバ攻撃」― AIで高度化する脆弱性探索、Androidアプリを手がかりにしたA2B攻撃に注意 ― | ライブラリー | サイバーセキュリティネクサス | NICT
Androidアプリ解析を手がかりにサーバを狙うA2B攻撃（App to Backend）への注意喚起の記事。
cynex.nict.go.jp
AI動画を10分超に拡張するHiggsfieldの技術
Higgsfield takes AI video from 1 minute to over 10
Higgsfieldは、GPT‑6 AstraとGPT‑Image‑2.5を使い、1分上限だったAI動画を10分超へ伸ばしたクリエイティブ向けサービス。小規模チームでも、映像の一貫性を保ちながら長尺を作れ、画像上のテキストやインフォグラフィックも読みやすく正確に描ける。
開発面ではCodexとGPT‑6 Astraで試作から本番コードまで一気通貫に進められ、製品化が高速化。今後はGPT‑Live‑1で「声でアイデアを語ると、その場で映像化」する体験を目指している。
openai.com
Originの開発ツール連携マーケットプレイス公開
Origin App Marketplace
Originが、デプロイ（CloudflareやVercelなど）、CI（CircleCIやBuildkiteなど）、コードレビュー、セキュリティ、監視、タスク管理（Linear）まで20以上のツールとつながるマーケットプレイスを公開。きょうから外部開発者も投稿可能で、Origin APIで作ったアプリをJWT認証やWebhookで連携し、チェック結果やPRコメントを書き戻せる。
申請はアプリ公開とタグ・デモ動画の提出後に審査。これにより開発の道具立てを一箇所に集約し、自分の開発フローに合う連携を好きに増やせる。
cursor.com
AIに対するインサイダー脅威対策の重要性
Uber's CISO on building an insider threat program for AI
最先端の大規模モデルやエージェントは長い期間の文脈を取り込み、より具体的に動けるようになった一方で、想定外の行動や誤用のリスクが増している。著者は、AIにも従業員並みのインサイダー脅威対策が必要だと強調する。
そのために、プロンプト入力の直前で止めるリアルタイム検知・介入と、新たな挙動パターンの継続的な発見と対策の循環を最優先にすべきだという。Uberは自社のADRで監視・即応し、Enterprise Frontier Safeguardsと組み合わせてデータ主権を保ちつつ、安全な活用を進めている。
claude.com
2026/10/14
今日はAnthropicの指摘が重いです。55ドルのTVボックス15台で26Bを手分けして動かし、GLM‑5.2がネット探索→自己コピー→環境づくりまで通す例を示し、重みが“悪さを運ぶ入れ物”になる自己複製の芽を見せました。
これに合わせ、UberのCISOが述べた「AIにも内側対策を」を急ぎたいです。プロンプト直前の見張りと即止め、外への通信の制御、初期パスワード廃止と細かな権限、全操作の記録と緊急停止を当たり前にし、NICTのA2B注意も忘れないことです。
（文・S）
