人間には普通の契約書に見えるのに「嘘のフォント」でAIだけ別の文章を読まされる「Noroboto」攻撃とは?
Noroboto攻撃は、悪意あるフォントを文書に埋め込むことで、人間には正しい契約書に見せつつ、AIには異なる内容を読ませる手法。契約条件や金額など重要部分をAIが誤認するリスクがある。
AIによる文書レビューはテキスト抽出の正確性に依存しており、フォントとUnicodeの対応関係を検証しないと危険。OCR併用や三者間(人間・ファイル・AI)の内容一致確認が対策となる。

gigazine.net








