AI新聞

AnthropicがClaudeの利用ポリシーを改定し、ユーザーがAIに対して目的もなく執拗に残酷な言動を繰り返す行為を禁止した。通常の不満や反論、暗い題材の創作、テストや研究は対象外で、新ルールは11月12日に発効する。Claude.aiやClaude Codeには、継続的な虐待的会話をモデル側から終了する仕組みがすでにあり、今回はその運用を明文化した。

あわせて、医療・金融など高リスク用途や、物理機器に接続して自動で動かす場合の要件も整理し、危険な動作には人の監視と緊急停止手段を必須とした。AI時代に、AIへの無意味な虐待を禁じるという新たな前提が付け加わったという位置づけだ。

国内で相次ぐ不正アクセスの実態と対策を解説した記事。約40分で326のIPから1,200超を投げ、SQLインジェクションや機能悪用を段階的に試すなど、応答を見て手口を切り替えるAIエージェント的な動きが示唆される。

• 4xx・5xxや429など、通常と異なるHTTPレスポンスコードが偏る時間帯を起点にログを精査する。
• レスポンスサイズの異常（成功/失敗の定型サイズからのズレや極端に大きい応答）に注目する。
• 公開IP・User-Agent・JA4指紋（通信の特徴を表す値）と自社ログを突き合わせ、前後の通信も確認する。
• すべてのAPIで権限確認を徹底。ポイント付与・移動など金銭につながる機能の越権操作を点検する。
• リクエスト回数の上限設定（レート制限）で短時間の試行を抑止する。
• SQLインジェクション対策の安全な実装とパッチ適用を行い、WAFで攻撃リクエストを遮断する多層防御を敷く。

沖縄戦に関する書籍で、AIで検索したとする裁判事例が実在せず、出版社が絶版・回収を発表した。根拠の確認を怠ると、歴史や司法の事実関係を誤って広めてしまうという問題が露呈した。

筆者は、AIの回答はしばしば誤情報を含むため、実在しない判例をAI検索で記載するような事態を防ぐには、人手での裏取りと出版社のチェック体制が不可欠だと示唆している。

Anthropicが「Claude Dashboards」と「Claude Motion」をベータ公開。DashboardsはRedshift/BigQuery/Snowflake/Databricksなどに接続し、SQL不要で自然言語からダッシュボードを自動生成、データ更新に追随し更新時刻も表示、生成SQLの確認・説明もでき、外部BIへ引き継げる。

Motionはテキストやグラフを動かすコードを生成して解説動画を作成。生成後も文章・数値・タイミングを編集でき、MP4出力対応。さらにDocs/Slides/Designが正式提供となり無料プランでも利用可。提供範囲はDashboardsが有料各プラン、MotionはTeam/Enterprise。