Cloudflare 上で Jev で作るほぼ0円運用可能な高品質なページ内検索
CloudflareとJevで、低コストで高品質なページ内検索を作る実装記事。
- 設計方針: まずベクトル検索で候補を20件に絞り、Jevで「関連しているか」を判定して並べ替える(リランク)。RAG(ベクトル検索→並べ替え→回答)の中で、Jevは「並べ替え」に使うと安くて速いのに精度が出る。
- 具体実装: 埋め込みはWorkers AIのbge-m3。JevはNoul(真偽0〜1)で関連度を採点し、0.2以上をスコア順に返す。
- インフラ: 静的サイトをWorkers Assetsで配信。GitHub Actionsで記事を前処理→Vectorizeに格納→検索時にVectorize→AI Gateway経由でJev。
- コスト: 1検索あたり約$0.0002。月200PV・10PVに1検索でも約$0.016。TypeSafe AIの$5クレジットで当面実質無料。
- 品質: Goの文脈を踏まえた関連付けが効き、Googleのsite検索より有用な結果が出るケースがあった。
- レイテンシ: Jevは日本リージョンがなく、AI Gatewayも待機で回線が切れると遅延悪化。連続リクエストは数百ms、間隔が空くと1秒超に。重要な場面ではGateway経由を見直す余地。

zenn.dev



