Yuan2.0大模型，联合向量数据库和Llama-index，助力检索增强生成技术

1. 背景

在大模型爆发的时代，快速准确地从大量数据中检索出有价值的信息变得至关重要。检索增强生成（rag）技术，结合了传统的信息检索和最新的大语言模型（llm），不仅能够回答复杂的查询，还能在此基础上生成信息丰富的内容。

rag技术的核心在于其能够将大型语言模型的生成能力与特定数据源的检索相结合。这意味着，当模型面对用户提出的问题时，它不仅依赖于自身训练时的知识，还可以实时地从外部数据源中检索相关信息，以此增强回答的准确性和丰富性。这种方法对于处理最新信息特别有效，能够有效弥补传统模型在时效性方面的不足。

yuan2.0模型是浪潮信息发布的新一代基础语言大模型。这里我们将基于yuan2.0大模型、milvus向量数据库、llamaindex大模型应用框架，与大家一起完成rag系统的搭建。

本文将以yuan2.0最新发布的februa模型为例进行测试验证，用更小规模的模型达到更好的效果。

2. rag系统架构

rag(检索增强生成)就是通过检索获取相关的知识并将其融入prompt，让大模型能够参考相应的知识从而给出合理回答。因此，可以将rag的核心理解为“检索+生成”，前者主要是利用向量数据库的高效存储和检索能力，召回目标知识；后者则是利用大模型和prompt工程，将召回的知识合理利用，生成目标答案。

从rag系统的运行流程我们可以看到，整个rag系统可以分解为三个核心部件：

向量数据库：用来存放向量化之后的知识库，并提供向量检索能力，为rag系统实现对知识的初步检索。这里我们采用milvus向量数据库来实现知识的存储和初筛。它通常被用来存储、索引和管理由深度神经网络和其他机器学习（ml）模型生成的大规模嵌入向量。作为一个专门设计用于处理输入向量查询的数据库，milvus能够处理万亿级别的向量索引。与现有的关系型数据库主要处理遵循预定义模式的结构化数据不同，milvus从底层设计用于处理从非结构化数据转换而来的嵌入向量。

语言大模型（llm）：用来实现基于检索到的知识的推理和答案生成。这里我们将采用浪潮最新发布的yuan2.0大模型来实现答案生成。从官方公布的资料来看，yuan2.0是在yuan1.0的基础上，利用更多样的高质量预训练数据和指令微调数据集，令模型在语义、数学、推理、代码、知识等不同方面具备更强的理解能力。yuan2.0包含了2b、51b、102b不同参数量的系列模型。根据官方公布的资料显示，今年3月最新发布的yuan2-2b-februa在数学推理、代码生成等任务上的精度均取得了明显提升。为了部署方便，我们将采用yuan2-2b-februa来构建rag系统的llm模块。关于yuan2.0模型的详细介绍请参考：yuan2.0 github

问答推理框架：问答推理框架主要用来实现rag系统的问答逻辑。它接收用户的提问输入，并根据输入向向量数据库发起索引请求，将得到的索引结果与问题结合，形成新的提示词（prompt），并将提示词提交给llm，最后将llm生成的结果返回给用户。这里我们将采用llamaindex工具来实现这个框架。其主要由3部分组成：

1. 数据连接。首先将数据能读取进来，这样才能挖掘。
2. 索引构建。要查询外部数据，就必须先构建可以查询的索引，llamdaindex将数据存储在node中，并基于node构建索引。索引类型包括向量索引、列表索引、树形索引等；
3. 查询接口。通过这些接口用户可以先基于索引进行检索，再将检索结果和之前的输入prompt进行组合形成新的扩充prompt，对话大模型并拿到结果进行解析。

3. 部署教程

3.1 流程图

以yuan2-2b-februa大模型为例，rag实践流程图如下所示：

具体而言，包括以下步骤：

yuan2.0-2b大模型rag实践包括以下步骤：

step 1:向量数据库的安装，以及知识的填充；详细安装过程参见后续章节；

step 2：llama_index的安装；详细安装过程参见后续章节；

step 3：llama_index中设置data_loader模块，可以直接从向量数据库中查询；

step 4：根据用户输入进行向量检索，将检索结果与input合并，形成新的prompt；

step 5：加载yuan2.0-2b大模型；合并后的prompt作为输入，传递给大模型，大模型将结果输出返回；

3.2 向量数据库安装以及知识填充

向量数据库安装步骤如下

#start milvus.
wget https://raw.githubusercontent.com/milvus-io/milvus/master/scripts/standalone_embed.sh
bash standalone_embed.sh start

#stop milvus
bash standalone_embed.sh stop

#to delete data after stopping milvus, run:
bash standalone_embed.sh delete

容器实例：

知识填充，所有知识保存在knowledge.txt文件中，每行代表一条新的知识,源码文件milvus.py文件内容如下：

from pymilvus import (
    db,
    milvusclient,
    fieldschema, collectionschema, datatype,
    collection,
)
from llama_index.embeddings.huggingface import huggingfaceembedding
fmt = "\n=== {:30} ===\n"
# 1. connect to milvus
print(fmt.format("start connecting to milvus"))
client = milvusclient(
    uri="http://10.51.24.214:19530",db_name="yuan"
)
#client.drop_collection("customized_setup")
# print(db.list_database())
# db.drop_database("yuan")
# print(db.list_database())
# db.create_database("yuan")
# print(db.list_database())
# 2. define collection
print(fmt.format("define collection"))
schema = client.create_schema(
    auto_id=false,
    enable_dynamic_field=true,
)
schema.add_field(field_name="id", datatype=datatype.int64, is_primary=true)
schema.add_field(field_name="vector", datatype=datatype.float_vector, dim=512)
schema.add_field(field_name="text", datatype=datatype.varchar,max_length=2560)
index_params = client.prepare_index_params()

index_params.add_index(
    field_name="id"
)
index_params.add_index(
    field_name="vector",
    index_type="autoindex",
    metric_type="cosine"
)
index_params.add_index(
    field_name="text"
)
print(fmt.format("create collection `customized_setup`"))

client.create_collection(
    collection_name="customized_setup",
    schema=schema,
    index_params=index_params
)

# fields = [
#    fieldschema("doc_id", datatype.int64, is_primary=true, auto_id=true),
#    fieldschema("vector", datatype.float_vector, dim=512)]
# schema = collectionschema(fields, "hello_milvus is the simplest demo to introduce the apis")
# print(fmt.format("create collection `hello_milvus`"))
# hello_milvus = collection(name="hello_milvus", schema=schema, consistency_level="strong",using="yuan")
# 3. insert data
chunk_list = []
print("creat embedding model...")
embed_model = huggingfaceembedding(model_name="baai/bge-small-zh-v1.5",trust_remote_code=true)
with open('knowledge.txt', 'r') as file:
    line = file.readline()
    id = 0
    while line:
        # generate embeddings using encoder from huggingface.
        embeddings = embed_model.get_text_embedding(line)
        print(len(embeddings))
        chunk_list.append({"id":id,"vector":embeddings,"text":line})
        line = file.readline()
        id = id + 1

# 4.2. insert data
print(fmt.format("insert data"))
print(chunk_list)
res = client.insert(
    collection_name="customized_setup",
    data=chunk_list
)
print(res)

说明：如果运行过程出现相关模块unknown location 之类的错误，可以通过执行llamaindex-cli upgrade-file milvus.py，根据提示进行相关包的安装。

初始数据样例包含以下信息，用于实验结果验证：

广州大学（guangzhou university），简称广大（gu），是由广东省广州市人民政府举办的全日制普通高等学校，实行省市共建、以市为主的办学体制，是国家“111计划”建设高校、广东省和广州市高水平大学重点建设高校。广州大学的办学历史可以追溯到1927年创办的私立广州大学；1951年并入华南联合大学；1983年筹备复办，1984年定名为广州大学；2000年7月，经教育部批准，与广州教育学院（1953年创办）、广州师范学院（1958年创办）、华南建设学院西院（1984年创办）、广州高等师范专科学校（1985年创办）合并组建成立新的广州大学。

运行结果：

3.3 llama_index安装以及设置

安装llama-index

##在线安装
pip install llama-index

 设置data_loader加载，从milvus中获取知识,具体源码可参考yuan.py文件。

from llama_index import download_loader
import os
milvusreader = download_loader("milvusreader")
reader = milvusreader(
    host="localhost", port=19530, user="<user>", password="<password>", use_secure=false
)
# the query_vector is an embedding representation of your query_vector
# example query vector:
#   query_vector=[0.3, 0.3, 0.3, 0.3, 0.3, 0.3, 0.3, 0.3]
query_vector=[n1, n2, n3, ...]
documents = reader.load_data(
    query_vector=query_vector,
    collection_name="demo",
    limit=5
)

版本截图：

3.4 prompt合并

text_qa_template=prompttemplate(
    ("背景：{context_str}"
    "问题: {query_str}\n")
)

说明：

1. context_str是知识库中查询到的结果；

2. query_str为用户输入的问题；

具体情况如下：

3.5 yuan大模型下载以及推理试用安装 

yuan2.0模型是浪潮信息发布的新一代基础语言大模型。我们开源了全部的3个模型：yuan2.0-102b、yuan2.0-51b、yuan2.0-2b。提供预训练、微调、推理服务的相关脚本，以供研发人员做进一步开发。yuan2.0是在yuan1.0的基础上，利用更多样的高质量预训练数据和指令微调数据集，令模型在语义、数学、推理、代码、知识等不同方面具备更强的理解能力。

官方提供了yuan2.0的模型文件，可以通过以下链接进行下载： 

 模型文件内容截图：

运行以下代码可以进行简单的推理效果试用：

import torch, transformers
import sys, os
sys.path.append(
    os.path.abspath(os.path.join(os.path.dirname(__file__), os.path.pardir)))
from transformers import automodelforcausallm,autotokenizer,llamatokenizer

print("creat tokenizer...")
tokenizer = llamatokenizer.from_pretrained('ieityuan/yuan2-2b-februa-hf', add_eos_token=false, add_bos_token=false, eos_token='<eod>')
tokenizer.add_tokens(['<sep>', '<pad>', '<mask>', '<predict>', '<fim_suffix>', '<fim_prefix>', '<fim_middle>','<commit_before>','<commit_msg>','<commit_after>','<jupyter_start>','<jupyter_text>','<jupyter_code>','<jupyter_output>','<empty_output>'], special_tokens=true)

print("creat model...")
model = automodelforcausallm.from_pretrained('ieityuan/yuan2-2b-februa-hf', device_map='auto', torch_dtype=torch.bfloat16, trust_remote_code=true)

inputs = tokenizer("请问目前最先进的机器学习算法有哪些？", return_tensors="pt")["input_ids"].to("cuda:0")
outputs = model.generate(inputs,do_sample=false,max_length=100)
print(tokenizer.decode(outputs[0]))

 4. 案例测试

利用yuan2.0大模型，联合向量数据和llama_index，对比用户同一个问题的输出结果，验证方案的可行性。

用户输入问题："介绍一下广州大学"，

使用检索增强生成技术之前的模型回答效果，该结果可以直接使用yuan2-2b-februa模型进行推理复现：

 使用检索增强生成技术之后的模型回答效果，运行完整代码，可以复现该结果：

 对比发现：添加知识库之后，大模型的回答学到了“国家“111计划”建设的高校“的新知识。

四、总结 

利用yuan大模型、向量数据库和llamaindex助力大模型检索增强生成技术，为nlp领域开辟了一个可能性领域。这个管道不仅可以理解和生成文本，而且还利用庞大的信息数据库来增强其响应，使其在聊天机器人、推荐系统等各种应用程序中具有难以置信的强大功能。

然而，旅程并没有就此结束。nlp的世界正在迅速发展，保持最新趋势和技术的更新至关重要。这里讨论的实现是进入更广泛、更复杂的语言理解和生成世界的垫脚石。不断试验，不断学习，最重要的是不断创新。

yuan2.0大模型及周边软件将持续更新，欢迎关注yuan2.0官方github，及时获取最新进展！

yuan2.0 github

五、附录

本篇教程所用的示例数据及代码请移步以下链接

 yuan.py脚本的完整代码如下：

import logging
import sys
import torch
from pymilvus import milvusclient
from transformers import autotokenizer, automodelforcausallm
from llama_index.embeddings.huggingface import huggingfaceembedding
logging.basicconfig(stream=sys.stdout, level=logging.debug)
logging.getlogger().addhandler(logging.streamhandler(stream=sys.stdout))
from llama_index.core import vectorstoreindex, simpledirectoryreader, servicecontext
from llama_index.llms.huggingface import huggingfacellm
from llama_index.core import prompttemplate
query = "介绍一下广州大学"
yuan_path = "/workspace/yuan_2/yuan2-2b-februa-hf"
print("yuan2-2b-februa creat tokenizer...")
tokenizer = autotokenizer.from_pretrained(yuan_path, add_eos_token=false, add_bos_token=false, eos_token='<eod>')
tokenizer.add_tokens(['<sep>', '<pad>', '<mask>', '<predict>', '<fim_suffix>', '<fim_prefix>', '<fim_middle>','<commit_before>','<commit_msg>','<commit_after>','<jupyter_start>','<jupyter_text>','<jupyter_code>','<jupyter_output>','<empty_output>'], special_tokens=true)
print("yuan2-2b-februa creat model...")
model = automodelforcausallm.from_pretrained(yuan_path, torch_dtype=torch.bfloat16, trust_remote_code=true)
device_map = torch.cuda.current_device() if torch.cuda.is_available() else torch.device('cpu')
model = model.to(device_map)
# model = model.to("cpu")
llm = huggingfacellm(
    # context_window=2048,
    max_new_tokens=1024,
    generate_kwargs={"temperature": 0.25, "do_sample": false, "repetition_penalty": 1.2, "max_length": 2048},
    # query_wrapper_prompt=query_wrapper_prompt,
    tokenizer=tokenizer,
    model=model,
    # tokenizer_name=yuan_path,
    # model_name=yuan_path,
    device_map="auto",
    # tokenizer_kwargs={"max_length": 2048},
    # uncomment this if using cuda to reduce memory usage
    model_kwargs={"torch_dtype": torch.float16, "trust_remote_code":true}
)
print("creat embedding model...")
embed_model = huggingfaceembedding(model_name="baai/bge-small-zh-v1.5",trust_remote_code=true)
# from llama_index.readers.milvus.base import milvusreader
#
# # load documents
# reader = milvusreader(
#     host="10.51.24.214", port=19530, use_secure=false
# )
# # example query vector:
# documents = reader.load_data(
#     query_vector=embed_model.get_text_embedding(query),
#     collection_name="customized_setup",
#     limit=5
# )
client = milvusclient(
    uri="http://10.51.24.214:19530",db_name="yuan"
)
res = client.search(
    collection_name="customized_setup",     # target collection
    data=[embed_model.get_text_embedding(query)],                # query vectors
    limit=3,                           # number of returned entities
)

print(res)
# res = self.collection.search(
#             [query_vector],
#             "embedding",
#             param=search_params,
#             expr=expr,
#             output_fields=["doc_id", "text"],
#             limit=limit,
#         )
from llama_index.core.schema import document
documents = []
# todo: in future append embedding when more efficient
for hit in res[0]:
    print(hit)
    res = client.get(
        collection_name="customized_setup",
        ids=[hit["id"]],
        # output_fields=["doc_id", "text"]
    )
    print(res[0]["id"])
    document = document(
        id_=res[0]["id"],
        text=res[0]["text"],
    )
    documents.append(document)
service_context = servicecontext.from_defaults(llm=llm, embed_model=embed_model)
index = vectorstoreindex.from_documents(
    documents, service_context=service_context, show_progress=true
)
# define prompts that are used in llama-index, {query_str} is user's question,{context_str} is content queried by milvus
query_engine = index.as_query_engine(**{"text_qa_template":prompttemplate(
    ("背景：{context_str}"
    "问题: {query_str}\n")
)})
response = query_engine.query(query)
print(response)