Vectorize と AI Search — ベクトル検索と RAG

Worker プロジェクトと 1024 次元・cosine のインデックスを作成し、FAQ 4 件を埋め込みベクトルとして投入します。所要 15 分程度です。

1. プロジェクトを作成する。対話プロンプトでは Hello World example → Worker only → TypeScript を選び、デプロイは No にする

   npm create cloudflare@latest -- faq-rag
   cd faq-rag

2. Vectorize インデックスを作成する。bge-m3 の出力に合わせて 1024 次元、テキスト向けの cosine を指定する

   npx wrangler vectorize create faq-index --dimensions=1024 --metric=cosine

3. カテゴリで絞り込めるよう、ベクトルを投入する前に metadata index を作成する

   npx wrangler vectorize create-metadata-index faq-index --property-name=category --type=string

4. wrangler.jsonc に Vectorize と Workers AI の binding を追加する

   {
     "vectorize": [
       { "binding": "VECTORIZE", "index_name": "faq-index" }
     ],
     "ai": { "binding": "AI" }
   }

5. src/index.ts を次の内容に置き換える（この時点では /insert のみ実装）

   export interface Env {
     VECTORIZE: Vectorize;
     AI: Ai;
   }
   
   interface EmbeddingResponse {
     shape: number[];
     data: number[][];
   }
   
   const faqs = [
     { id: "1", category: "hr", text: "有給休暇は入社6か月後に10日付与されます。申請は勤怠システムから行います。" },
     { id: "2", category: "hr", text: "経費精算の締め日は毎月末日で、翌月5営業日までに申請が必要です。" },
     { id: "3", category: "it", text: "社用PCの初期パスワードは情報システム部が配布し、初回ログイン時に変更します。" },
     { id: "4", category: "it", text: "VPNに接続できない場合は、クライアント証明書の有効期限を確認してください。" },
   ];
   
   export default {
     async fetch(request, env, ctx): Promise<Response> {
       const path = new URL(request.url).pathname;
   
       if (path === "/insert") {
         // FAQ 本文をまとめてベクトル化する
         const modelResp: EmbeddingResponse = await env.AI.run("@cf/baai/bge-m3", {
           text: faqs.map((faq) => faq.text),
         });
         // metadata に本文も同梱し、検索後のルックアップを不要にする
         const vectors: VectorizeVector[] = modelResp.data.map((values, i) => ({
           id: faqs[i].id,
           values,
           metadata: { category: faqs[i].category, text: faqs[i].text },
         }));
         const inserted = await env.VECTORIZE.upsert(vectors);
         return Response.json(inserted);
       }
   
       return Response.json({ text: "12-2 で検索を実装します" }, { status: 404 });
     },
   } satisfies ExportedHandler<Env>;

6. デプロイして /insert にアクセスする

   npx wrangler deploy
   curl "https://faq-rag.<YOUR_SUBDOMAIN>.workers.dev/insert"

<YOUR_SUBDOMAIN> は自分の workers.dev サブドメイン（deploy 時の出力に表示される）に置き換えます。{"mutationId":"..."} が返り、数秒後に npx wrangler vectorize info faq-index で vectorCount が 4 になっていれば投入完了です。

質問をベクトル化して類似 FAQ を検索し、ヒットした本文をコンテキストとして LLM に回答させます。所要 10 分程度です。

1. 12-1 の src/index.ts で 404 を返していた最後の行を、次の検索 + 生成処理に置き換える

       const question =
         new URL(request.url).searchParams.get("q") ?? "休暇は何日もらえますか？";
   
       // 1. 質問を FAQ と同じモデルでベクトル化する
       const qEmb: EmbeddingResponse = await env.AI.run("@cf/baai/bge-m3", {
         text: [question],
       });
   
       // 2. 類似検索。metadata に入れた本文も一緒に取得する
       const result = await env.VECTORIZE.query(qEmb.data[0], {
         topK: 3,
         returnMetadata: "all",
       });
   
       // 3. ヒットした FAQ 本文をコンテキストに整形する
       const context = result.matches
         .map((m) => `- ${m.metadata?.text}`)
         .join("\n");
   
       // 4. コンテキスト付きで回答を生成する
       const { response: answer } = await env.AI.run(
         "@cf/meta/llama-3.1-8b-instruct",
         {
           messages: [
             { role: "system", content: `Context:\n${context}` },
             { role: "system", content: "コンテキストが質問に関連する場合は、それに基づいて日本語で回答してください。" },
             { role: "user", content: question },
           ],
         },
       );
   
       return Response.json({ question, answer, sources: result.matches });

2. 再デプロイして質問を投げる

   npx wrangler deploy
   curl -G "https://faq-rag.<YOUR_SUBDOMAIN>.workers.dev/" --data-urlencode "q=休暇は何日もらえますか"

レスポンスの answer に「入社 6 か月後に 10 日付与」に基づく回答が、sources に cosine スコア付きのマッチ（1 に近いほど類似）が入っていれば成功です。IT 系 FAQ だけを対象にしたい場合は query() のオプションに filter: { category: "it" } を追加すると、12-1 で作った metadata index による絞り込みが効きます。

チャンク分割も埋め込みも自分では書かず、FAQ の Markdown をアップロードするだけで検索と回答生成が動くことを確認します。所要 15 分程度です。

1. 新しいプロジェクトを作成する（選択肢は 12-1 と同じ）

   npm create cloudflare@latest -- faq-ai-search
   cd faq-ai-search

2. wrangler.jsonc に namespace binding を追加する。AI Search はローカルでは動作しないため、remote: true を付けて wrangler dev からデプロイ済みインスタンスへプロキシさせる

   {
     "ai_search_namespaces": [
       { "binding": "AI_SEARCH", "namespace": "default", "remote": true }
     ]
   }

3. src/index.ts を次の内容に置き換える。/setup がインスタンス作成と FAQ 投入、それ以外のパスが質問への回答を担当する

   export interface Env {
     AI_SEARCH: AiSearchNamespace;
   }
   
   const faqMarkdown = [
     "# 社内 FAQ",
     "## 有給休暇",
     "入社6か月後に10日付与されます。申請は勤怠システムから行います。",
     "## 経費精算",
     "締め日は毎月末日で、翌月5営業日までに申請が必要です。",
     "## VPN 接続",
     "接続できない場合は、クライアント証明書の有効期限を確認してください。",
   ].join("\n\n");
   
   export default {
     async fetch(request, env): Promise<Response> {
       const url = new URL(request.url);
   
       // 初回のみ: インスタンスを作成して FAQ をアップロードする
       if (url.pathname === "/setup") {
         const instance = await env.AI_SEARCH.create({ id: "faq-search" });
         const item = await instance.items.uploadAndPoll("faq.md", faqMarkdown);
         return Response.json({ created: "faq-search", status: item.status });
       }
   
       // 検索 + 回答生成をまとめて実行する
       const question = url.searchParams.get("q") ?? "休暇は何日もらえますか？";
       const response = await env.AI_SEARCH.get("faq-search").chatCompletions({
         messages: [{ role: "user", content: question }],
         ai_search_options: { retrieval: { max_num_results: 3 } },
       });
   
       return Response.json({
         question,
         answer: response.choices[0].message.content,
         sources: response.chunks.map((chunk) => chunk.item.key),
       });
     },
   } satisfies ExportedHandler<Env>;

4. デプロイし、/setup に一度だけアクセスしてから質問する

   npx wrangler deploy
   curl "https://faq-ai-search.<YOUR_SUBDOMAIN>.workers.dev/setup"
   curl -G "https://faq-ai-search.<YOUR_SUBDOMAIN>.workers.dev/" --data-urlencode "q=VPNにつながらない"

/setup は {"created":"faq-search","status":"completed"} を返し、質問には answer（生成された回答）と sources（出典ファイル名 faq.md）が返ります。CLI からも npx wrangler ai-search stats faq-search でインデックス状況の確認、npx wrangler ai-search search faq-search --query "..." で検索を試せます。