大模型服务平台百炼：知识库

预置模型

知识库功能支持下列预置模型：

• 通义千问-Max/Plus/Turbo

• 通义千问2开源版

上述列表并不完整且可能随时发生变化，请以百炼的我的应用-新增应用页面中选择模型下拉框显示的列表为准。

自定义模型

知识库功能支持基于下列模型调优后的自定义模型：

• 通义千问-Plus/Turbo

上述列表并不完整且可能随时发生变化，请以百炼的我的应用-新增应用页面中选择模型下拉框显示的列表为准。

控制台

1. 在百炼的知识索引页面，单击创建知识库。

2. 输入知识库名称和知识库描述。数据类型选择非结构化数据或结构化数据。

   请注意，知识库创建后将无法更改其数据类型，且单一知识库无法同时支持非结构化数据与结构化数据。

   说明

   以下情况，建议选择非结构化数据：

   • 文档为pdf、docx、doc、txt、markdown、pptx、ppt、png、jpg、jpeg、bmp、gif等格式。

   • 文档为xlsx或xls格式，但不同文档的表结构可能不完全相同。

   • 从阿里云对象存储OSS导入文档。

   以下情况，建议选择结构化数据：

   • 文档为xlsx或xls格式，且不同文档的表结构完全相同。

   • 文档为xlsx或xls格式，将用于FAQ问答类场景。例如Excel文档包含两列，分别为问题和答案。结构化数据允许您限定问题列用于知识库检索，答案列用于大模型回答参考（非结构化数据难以实现此效果）。

   • 从阿里云数据库RDS导入数据。

   非结构化数据

   1. 设置知识库配置。

      参数名称

      参数说明

      配置模式

      建议选择推荐配置（百炼基于过往最佳实践得出）。若选择自定义，则可针对知识库的检索与召回等关键参数进行设置。 请注意，创建知识库后将无法更改配置模式中除相似度阈值之外的其它参数。 自定义参数设置 多轮会话改写：开启后百炼将基于会话上下文自动调整原始输入Prompt（用户问题）以提升检索效果。 Embedding模型：用于将原始输入Prompt和知识文本转化为数值化向量，以便对二者进行相似度比较。默认的DashScope text-embedding-v2模型（暂不支持更改）除了支持中英文双语外，还支持多种语言，并对向量结果进行归一化处理。 Rank模型：位于知识库外部的评分系统，它会计算用户问题与知识库中每个文本切片的相似度分数并按此降序排列，并返回分数最高的前K个文本切片。如果您只需语义排序，请选择GTE-ReRank排序；若您同时需要语义排序和文本匹配特征以确保相关性，请选择官方排序（推荐）。 相似度阈值：该阈值表示允许召回的文本切片的最低相似度分数，用于筛选Rank模型返回的文本切片，即只有分数超过此数值的文本切片才会被召回。调低此阈值预期会召回更多文本切片，但可能导致召回一些相关度较低的文本切片；相反，提高此阈值会减少召回的文本切片。若设置得过高，则可能导致知识库丢弃相关的文本切片。

   2. 单击下一步，选择要导入知识库的文档。

      若文档已在百炼的数据管理中且为目标版本，此处可直接勾选它；否则需先前往数据管理导入（具体操作请参见非结构化数据），导入完成后再返回此处进行勾选。

      • 选择类目：导入该类目下的所有文档，支持选择多个类目。

      • 选择文件：也可以自行选择需要导入的文档。

        单次最多选择50个文档，单文档最大限制100MB或1000页。

   3. 单击下一步，配置知识库数据处理策略。

      参数名称	参数说明
      metadata抽取（可选）	metadata（元数据）是与非结构化文档内容相关的一系列附加属性，这些属性以key-value键值对的形式进行存储和展示。 元数据的作用：元数据为文档提供了重要的上下文信息，可显著提升知识库检索的准确性。例如，当在知识库中检索“A产品的功能概述”时，如果所有文档中的内容都包含“功能概述”，但均没有提到“A产品”，那么知识库可能会召回大量与原始查询无关的文本切片。若将产品名称作为元数据附加到所有文档及其相关的文本切片上，知识库就能精准地过滤出与“A产品”相关的且包含“功能概述”的文本切片，从而提高检索的准确性，同时减少模型的输入Token消耗。 元数据的用法：通过API调用应用时，您可以在请求参数metadata_filter中指定metadata。应用在检索知识库时，会先根据metadata筛选相关文档。 注意：创建知识库后将无法再配置metadata抽取。 配置metadata抽取 开启metadata抽取，然后单击meta信息设置为知识库中的所有文档附加统一或个性化的元数据。下图是上方示例使用的meta信息模板： 新建Meta信息模板说明 取值方法说明： 常量：用于为知识库中的所有文档附加一个固定的属性。 如上方示例所示，如果知识库中所有文档的作者相同，您可以统一设置一个字段名为author的常量。 变量：为知识库中的每个文档附加一个可变属性。目前支持的属性包括file_name和cat_name。选择file_name时，百炼会将文档的名称附加到其元数据中，如上方示例所示。选择cat_name时，百炼会把文档所在类目的名称附加到文档的元数据中。 大模型：系统将依据设定的实体描述规则，对知识库中每个文档的文本内容进行匹配。系统会自动识别并提取文档中的相关信息，然后将这些信息作为属性附加到文档的元数据中。 如上方示例的meta信息模板所示，如果您希望提取每个文档中所有出现过的年份信息作为文档的属性，可以设置一个名为date的大模型字段，实体描述配置如下： 正则：系统将根据设置的正则表达式，对知识库中每个文档的文本内容进行匹配。符合该表达式的内容将被提取，并作为属性添加到文档的元数据中。 如上方示例的meta信息模板所示，如果您希望提取每个文档中所有出现过的参考资料，并且假设参考资料规律为：以“《”开头、以“》”结尾，则可以设置一个名为reference的正则字段，正则表达式配置如下： 关键词搜索：系统会在每个文档中查找预设的关键词，并将找到的关键词作为属性添加至该文档的元数据中。 例如，在上述示例的meta信息模板中，我们预设的关键词为： 但由于该文档中仅出现了“融资、产业、绿色、资本”这四个关键词，因此系统只提取了这四个关键词作为该文档keywords属性的值。 是否参与检索：开启后表示该属性将附加到所有文档及其相关文本切片上，和文本切片内容共同参与知识库检索。 是否参与模型回复：开启后表示该属性将附加到所有文档及其相关的文本切片上，和知识库召回的文本切片内容共同参与回复生成过程。
      文档切分chunk	选择智能切分（推荐）或自定义切分。 文档切分chunk作用：知识库会将您的文档切分成文本切片，并将这些文本切片通过Embedding模型转换为向量。随后文本切片和向量将以键值对的形式存入向量数据库中。您可以查看知识库里每一个文本切片的具体内容（文字和图片），具体操作请参见查看知识库。 注意：创建知识库后将无法再更改文档切分chunk。不合适的切分策略可能会降低检索和召回效果，详情请参见如何检查文本切片质量。 智能切分：采用系统内置切分策略。经评测对于多数文档可获得最佳的检索效果。 自定义切分：如果智能切分无法正常切割，您也可以对智能切分的部分策略进行调整。 自定义切分参数设置 采用自定义切分时，知识库会先依据选定的分句标识符将文档拆分为若干段落，然后再根据这些段落创建文本切片。在拆分和切分的过程中，知识库会尽量保证每个部分的语义完整，减少不必要的拆分和切分，同时尽量满足您设置的分段预估长度和分段重叠长度要求。 分句标识符：将文档按照选定的标点符号拆分为若干段落。支持多选，多个分句标识符之间为“或”的关系。 分段预估长度：指您希望每个文本切片的字符数上限。超过该长度时，文本很可能会被截断。 分段重叠长度：即当前文本切片与上一个文本切片的重叠字符数。建议设置为文本切片预估长度的10%到25%，以保留文本切片之间语义的相关性，有利于提高多文本切片召回的召回质量。请注意，您为该参数设置的值必须小于分段预估长度，否则会导致文档切分chunk异常。

   结构化数据

   1. 设置知识库配置。

      参数名称

      参数说明

      配置模式

      建议选择推荐配置（百炼基于过往最佳实践得出）。若选择自定义，则可针对知识库的检索与召回等关键参数进行设置。 请注意，创建知识库后将无法更改配置模式中除相似度阈值之外的其它参数。 自定义参数设置 多轮会话改写：开启后百炼将基于会话上下文自动调整原始输入Prompt（用户问题）以提升检索效果。 Embedding模型：用于将原始输入Prompt和知识文本转化为数值化向量，以便对二者进行相似度比较。默认的DashScope text-embedding-v2模型（暂不支持更改）除了支持中英文双语外，还支持多种语言，并对向量结果进行归一化处理。 Rank模型：位于知识库外部的评分系统，它会计算用户问题与知识库中每个文本切片的相似度分数并按此降序排列，并返回分数最高的前K个文本切片。如果您只需语义排序，请选择GTE-ReRank排序；若您同时需要语义排序和文本匹配特征以确保相关性，请选择官方排序（推荐）。 相似度阈值：该阈值表示允许召回的文本切片的最低相似度分数，用于筛选Rank模型返回的文本切片，即只有分数超过此数值的文本切片才会被召回。调低此阈值预期会召回更多文本切片，但可能导致召回一些相关度较低的文本切片；相反，提高此阈值会减少召回的文本切片。若设置得过高，则可能导致知识库丢弃相关的文本切片。

   2. 单击下一步，选择数据来源以导入结构化数据。

      如果您通过数据管理导入结构化数据，后续您需要手动将数据表的更新同步至知识库。展开更新知识库部分查看更新结构化知识库具体步骤。

      如果您通过云数据库RDS导入结构化数据，则RDS表中的数据更新将自动同步至知识库（一般为秒级，但在请求高峰期可能会稍有延迟）。

      数据来源	说明
      数据管理	若数据表已在百炼数据管理中且为目标版本，此处可直接勾选它；否则需先前往数据管理导入（具体操作请参见导入结构化数据），导入完成后再返回此处进行勾选。
      关联RDS	将RDS实例中特定数据表的数据同步到您的知识库中。 实例限制：RDS实例目前只支持MySQL引擎（版本无限制），暂不支持PostgreSQL等其它引擎。实例地域无限制。只支持基础系列和高可用系列（暂不支持开启数据库代理）。 数据库和表限制：知识库只能关联单个数据库中的一张表，不支持多表关联。知识库对关联的表中的数据量没有限制，但每一行记录的大小必须控制在10MB以内。请注意，在创建知识库后，不建议再对源表进行DDL类操作（例如：DROP TABLE、RENAME TABLE、TRUNCATE TABLE、ADD COLUMN、DROP COLUMN），否则可能会导致RDS与知识库之间的数据同步失败。欲了解详情，请参见关于DDL操作的说明。 为了使知识库能够接收RDS的数据，您还需要设置RDS实例的白名单。

   3. 单击下一步，设置知识库索引。请注意，索引配置在知识库创建后无法更改。

      参数名称	参数说明
      是否参与检索	开启后表示允许知识库在此列数据中进行搜索。
      是否参与模型回复	开启后表示本列的检索结果将作为大模型生成回答时的输入信息。如下图示例的配置中，对“姓名”、“性别”、“岗位”、“年龄”开启是否参与检索，对“姓名”和“岗位”开启是否参与模型回复后， 知识库将会在所有列数据中进行检索，但只对检索到的数据中“姓名”、“岗位”两列的内容提供给大模型进行回答参考。 如下图所示，因为“年龄”没有开启参与模型回复，大模型在关联该知识库后依然无法回答“张三的年龄”的问题。

3. 单击导入完成，完成知识库创建。

API

1. 要创建一个非结构化知识库（索引），请调用CreateIndex接口。

   管理结构化数据的知识库暂不支持通过API进行创建，请通过控制台创建此类知识库。

   请求返回中Data.Id的值即为知识库主键ID，请妥善保管该值，它将用于后续所有知识库相关的API操作。

   • StructureType字段中请指定用于创建知识库的数据结构类型。非结构化数据请传入unstructured。

   • RerankModelName字段中请指定排序模型名称。官方排序请传入gte-rerank-hybrid。

     排序模型用于对从知识库召回的知识文本结果根据语义相关性进行再排序。推荐官方排序。

   • SinkType字段中请指定知识库的向量存储类型。

     内置的向量数据库可满足基本需求。如需高级功能，如管理、审计和监控数据库，推荐ADB-PG（AnalyticDB for PostgreSQL）。

     • 指定内置的向量数据库，请传入DEFAULT。

     • 指定ADB-PG（AnalyticDB for PostgreSQL）数据库，请传入ADB。

2. 上一步CreateIndex接口只负责初始化知识库构建流程，接下来还需要再调用SubmitIndexJob接口完成知识库的创建。任务的执行需一定时间，如果需要查询任务的状态，可调用GetIndexJobStatus接口（请求返回中Data.Status为COMPLETED时表示知识库已创建完成）。