提示工程技术可帮助大语言模型在检索增强生成系统中处理代词等复杂核心参照物。

译自Improving ChatGPT’s Ability to Understand Ambiguous Prompts，作者 Cheney Zhang 是 Zilliz 的一位杰出的算法工程师。他对前沿 AI 技术如 LLM 和检索增强生成(RAG)具有深厚的热情和专业知识，积极为许多创新 AI 项目做出贡献，包括 Towhee、Akcio 等。

在不断扩大的 AI 领域中，像ChatGPT这样的大语言模型(LLM)正在以前所未有的速度推动创新研究和应用。一个重要的发展是检索增强生成(RAG)的出现。这种技术将 LLM 的力量与作为长期记忆的向量数据库相结合，以增强生成响应的准确性。RAG 方法的典型体现是开源项目Akcio，它提供了一个强大的问答系统。

Akcio 的架构

在 Akcio 的架构中，使用数据加载器将特定领域的知识无缝集成到向量存储中，如Milvus或Zilliz(完全托管的 Milvus)。向量存储检索与用户查询最相关的前 K 个结果，并将其传达给 LLM，为 LLM 提供有关用户问题的上下文。随后，LLM 根据外部知识完善其响应。

例如，如果用户查询“2023 年大语言模型的使用案例是什么？”关于导入 Akcio 的题为“2023 年大语言模型进展洞察报告”的文章，系统会巧妙地从报告中检索出三个最相关的段落。

1. In 2023, the LLM use cases can be divided into two categories: generation AI and decision-making. Decision-making scenarios are expected to have higher business value.
2. The generation AI scenario mainly includes dialogue interaction, code development, intelligent agents, etc.
3. NLP applications include text classification, machine translation, sentiment analysis, automatic summarization, etc.