在使用大型语言模型(llm)时，幻觉是一个常见的问题。LLM生成流畅连贯的文本，但往往生成不准确或不一致的信息。防止LLM产生幻觉的方法之一是使用提供事实信息的外部知识来源，如数据库或知识图谱。

向量数据库和知识图谱

向量数据库

向量数据库是表示实体或概念(如单词、短语或文档)的高维向量的集合。数据库可用于测量不同实体或概念之间的相似性或相关性，基于它们的向量表示。

例如，一个向量数据库可以根据“巴黎”和“法国”的向量距离告诉你，“巴黎”和“法国”比“巴黎”和“德国”更相关。

查询向量数据库通常涉及搜索相似的向量或 检索基于特定标准的向量。下面是一个如何查询向量数据库的简单示例:

让我们假设有一个向量数据库，其中包含以高维向量表示的客户配置文件，并且您希望找到与给定参考客户相似的客户。

1、首先为参考客户定义一个向量表示。这可以通过提取相关特征或属性并将其转换为向量格式来实现。

2、使用合适的算法，如k近邻(k-NN)或余弦相似度，在向量数据库中执行相似度搜索。该算法将根据参考客户向量的相似度分数来识别最近邻。

3、检索与上一步中确定的最近邻向量相对应的客户配置文件。这些概要文件将根据定义的相似性度量表示与参考客户相似的客户。

4、向用户显示检索到的客户配置文件或相关信息，例如显示他们的姓名、人口统计数据或购买历史记录。

知识图谱

知识图谱是表示实体或概念及其关系(如事实、属性或类别)的节点和边的集合。基于它们的节点和边缘属性，可用于查询或推断关于不同实体或概念的事实信息。

例如，一个知识图可以根据边缘标签告诉你“巴黎”是“法国”的首都。

查询图数据库涉及遍历图结构并根据特定标准检索节点、关系或模式。

假设你有一个表示社交网络的图数据库，其中用户是节点，他们的关系表示为连接节点的边。如果为给定用户找到朋友的朋友(共同联系)，那么我们应该进行如下操作：

1、在图数据库中标识表示参考用户的节点。这可以通过查询特定的用户标识符或其他相关标准来实现。

2、使用图查询语言，例如Cypher(在Neo4j中使用)或Gremlin，从参考用户节点遍历图。指定要探索的模式或关系。

MATCH (:User {userId: 
‘referenceUser’})-[:FRIEND]->()-[:FRIEND]->(fof:User) RETURN fof