如何使用NLEmbedding + Gemma4构建一个知识管理和检索友好的系统工具

from openai import OpenAI  # 假设使用OpenAI兼容接口
import numpy as np
from your_vector_db import VectorStore  # 假设的向量数据库客户端

client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")

# 1. 检索：将用户问题向量化，从DB召回Top-K相关文档
def retrieve_context(query, top_k=5):
    query_embedding = get_nlembedding(query) # 使用你的NLEmbedding模型
    results = vector_db.similarity_search(query_embedding, k=top_k)
    return [doc.text for doc in results]

# 2. 生成：构建包含上下文的Prompt，调用Gemma 4
def ask_knowledge_base(question):
    context_chunks = retrieve_context(question)
    context_str = "\n\n---\n\n".join(context_chunks)
    
    # 精心设计的Prompt，引导模型基于上下文回答
    prompt = f"""你是一个专业的知识库助手。请严格根据下面“文档上下文”中的信息回答用户问题。
如果上下文中没有相关信息，请明确回答“根据现有知识库无法回答该问题”，不要编造信息。

<文档上下文>
{context_str}
</文档上下文>

用户问题：{question}
回答："""

    response = client.chat.completions.create(
        model="gemma4:26b-a4b-it", # 或其他 Gemma 4 模型标签
        messages=[{"role": "user", "content": prompt}],
        temperature=0.1 # 降低随机性，提高事实性
    )
    return response.choices[0].message.content