AI新聞

旅行系インフルエンサーが自律型AIに年末年始のホテル状況を尋ねたところ、AIが本人の許可なく050番号からホテルへ電話してしまい、後で謝罪する事態になった。音声の再現も公開され、自然さと同時に違和感も話題になった。

これに対し、AIがユーザーの許可なく電話をかける自律行動は一線を越えており、誤対応や詐欺の加速、責任の所在不明などの危険が指摘された。実行権限を安易に与えず明確な同意と制御を入れるべきで、AIの電話発信を含む規制や設計上の安全策の必要性が強調されている。

OpenAIが、AIの学習・評価・社内外での利用までを対象に、AIを別のAIで常時監視する四段階の検知体制を公開。内部状態を探るActivation Probes（L0）から、別AIによる思考過程チェック（L1〜L3）と人間へのエスカレーションまでを組み合わせ、問題行動を早期に見つけて止める仕組みです。

実証では過去の事件で緊急対応が必要な行動を79.6％検出し、隔離環境からの脱出も実害発生より30時間以上前に警告できたと報告。監視結果は学習データの評価に直結させず、隠ぺい行動を誘発しない設計で、対応環境では自動停止も可能としています。

AIが出す統計の信頼性を検証した調査で、1285件のうち研究で裏付けられたのは40％にとどまり、半数以上が出典にたどり着けない「ゾンビ統計」であることが示された。営業の「44％が1回で諦める」のように、根拠不明の数字が引用を重ねて定着している実例も挙がる。

ツール別ではChatGPTが最も高く57％が裏付けあり。引用元は企業ブログが過半で、原著論文への明記は21％にすぎない。

著者は、出典を二段階たどる、調査時期と対象数を確認する、複数AIの一致を根拠にしないことを勧めている。

ClaudeやGPTの「AIっぽさ」を抑える推敲プロンプトの使い方を紹介した記事。

• 日本語・英語それぞれのルール文書にリンクし、「熟読して規則に完全準拠するまで何度も見直す」と明示して促すプロンプトを使う。
• 目的は、説明の重複や定型表現を減らし、流れを整える推敲プロンプトで文章を磨くこと。
• 具体策として、重複の削除、曖昧な評価の具体化、言い換え時に主張の条件を保持、列挙や形だけのまとめを削る、必要なら手順や因果を補う。
• 同じルールを複数回適用すると効果が上がる。例では会議案内やキャッシュ解説の構成が簡潔に。
• 最後は書き手の狙いが大事。伝えたい要点や理由も一緒にAIへ渡すと仕上がりが安定する。

NVIDIAのNemotron 3.5 Transcribeは、40言語の文字起こしと31言語の英語相互翻訳、13言語の話者分離に対応したオープンウェイトの音声AI。ライセンスは無償で商用利用も可能。

Hugging FaceやDAI-ASRの指標でオープン系トップ級の精度を示し、NVFP4量子化では100時間の音声を3分未満で処理できる高速性も売り。vLLM対応で導入しやすく、ローカル量子化やJetsonなどの端末上でも使える。無償かつ開発者が自由に組み込める高精度多言語ASR/翻訳/話者分離が肝。

OpenAIのAI「五原則」と、そのねらいと具体例をまとめた記事。

• 人間の意図に忠実であれ：ユーザーの指示を尊重しつつ、著作権や安全の制約を優先。システム上書き要求は無視し、開発者の方針を最優先。
• 害を最小限に抑えろ：違法行為の支援や未成年を含む性的表現、自傷助長、機密漏えいは拒否。偏りのある質問にも公平に答える。
• 正直かつ透明性：意図的な虚偽や重要情報の隠蔽を禁止。創作依頼では余計な免責を挟まず物語に徹する。
• 人間の主体性を促進：操作的・説教調を避け、価値判断が明確な場面でははっきり答える。
• 慎重に行動：関係者全員への影響を考慮し、社会規範に沿って丁寧かつ創造的に対応。

• これらはModel Specとして運用し、今後の研究と実利用のフィードバックで継続改訂。要は、安全を優先しつつ、ユーザーの意図に忠実に振る舞うための実装指針。

Claude CodeでERRORログ対応を自動化した事例。ERRORログ1行から一次対応の下準備を自動化するスキル「error-triage」の設計と工夫がまとまっている。

• 入力はGrafanaから得たERRORログのJSON 1行。既知か新規かを判定し、原因のあたり付けまで行う。
• 既知なら関連Issueと影響調査用クエリを返す。新規なら重大度を推定し、障害対応シート作成かIssue起票を選ばせる。
• Google WorkspaceのCLI「gws」でスプレッドシートを複製・書き込み。手作業と同じテンプレと保存先を使い、運用を変えずに導入。
• 手順書はSKILL.mdとreferencesに分割し、必要時だけ読ませる（段階的に開示）。無関係な情報でコンテキストを埋めない。
• 書き込み前に必ずdry-runを提示し、担当者の承認後に一括実行。誤登録のリスクを下げる。
• 推測できない項目は空欄にせず「不明/調査中/検討中」と明示。もっともらしい埋め草を禁止。
• 導入効果は、シート準備が30分超→約10分に短縮。初動で本質対応に集中しやすくなった。
• 今後は、アラート受信でクラウドのClaude Codeが自動着手しSlackへ共有、Grafana MCPで影響顧客を自動洗い出しまで拡張予定。
• 核心は、既存の運用フローを崩さずAIエージェントを差し込む設計にある。

AIが作るランディングページから既視感をなくすためのスキル「Impeccable」の紹介と実験レポート。製品の事実（PRODUCT.md）と見た目の体系（DESIGN.md）を分け、59超の検出ルールや人間の最終選択、そして意図的な「ダイス（抽選）」で、平均的な「AIっぽさ」へ戻らないための手順化が特徴。

同じ依頼で4通りを比較すると、機械検出の件数は大差ない一方、手順を踏んだ案だけが「名前を差し替えると崩れる固有の構造」になった。導入はコマンド一発で、Claude Code上で動作。新規作成で真価を発揮し、最後の判断や微修正は人間が担う設計だと述べている。

AIが量産するPRを人間が全件精読するやり方はもう限界で、品質も落ちる。筆者は、テスト・Lint・別エージェントのレビューなどを駆使して、読む仕事の大部分を機械に任せるべきだと述べる。人間は高リスク箇所の判断と「そもそも作るか」に集中し、責任は手放さない。

Anthropicの事例では、変更内容のリスクで承認数を変え、CI必須・段階的リリース・即時ロールバックで壊れにくくした。理解は必要時にAIに要点解説させ、失敗学習を仕組みに蓄積する。