LM大语言模型数据处理-github code - 人工智能平台 PAI

LLM数据处理算法提供了对数据样本进行编辑和转换、过滤低质量样本、识别和删除重复样本等功能。您可以根据实际需求组合不同的算法，从而过滤出合适的数据并生成符合要求的文本，方便为后续的LLM训练提供优质的数据。本文以开源RedPajama-Data中的少量数据为例，为您介绍如何使用PAI提供的大模型数据处理组件，对GitHub代码数据进行数据清洗和处理。

数据集说明

本文Designer中“LLM大语言模型数据处理-github code-DLC组件”预置模板用的数据集为开源项目RedPajama-Data的原始数据中抽取的5000个样本数据。

创建并运行工作流

进入Designer页面。
1. 登录PAI控制台。
2. 在顶部左上角根据实际情况选择地域。
3. 在左侧导航栏选择工作空间列表，单击指定工作空间名称，进入对应工作空间。
4. 在左侧导航栏选择模型开发与训练 > 可视化建模（Designer），进入Designer页面。
创建工作流。
1. 在预置模板页签下，选择业务领域 > LLM 大语言模型，单击LLM大语言模型数据处理-github code - DLC组件模板卡片上的创建。
2. 配置工作流参数（或保持默认），单击确定。
3. 在工作流列表，选择已创建的工作流，单击进入工作流。

工作流说明：

工作流中关键算法组件说明：

LLM-敏感信息打码（DLC）-1
将“content”字段中的敏感信息打码。例如：
- 将邮箱地址字符替换成[EMAIL]。
- 将手机电话号码替换成[TELEPHONE]或[MOBILEPHONE]。
- 将身份证号码替换成IDNUM。
LLM-特殊内容移除（DLC）-1
将“content”字段中的URL链接删除。
LLM-文本标准化（DLC）-1
将“content”字段中的文本进行Unicode标准化处理。
LLM-Copyright信息移除（DLC）-1
删除“content”字段中的Copyright信息。
LLM-计数过滤（DLC）-1
将“content”字段中不符合数字和字母字符占比，和不符合字母字符占文本token比例的样本去除。GitHub代码数据集中大部分字符都由字母和数字组成，通过该组件可以去除部分脏数据。
LLM-长度过滤（DLC）-1
根据“content”字段的长度、平均长度以及最大行长度进行样本过滤。平均长度以及最大行长度基于换行符\n分割样本。
LLM-N-Gram重复比率过滤（DLC）-1
根据“content”字段的字符级N-Gram重复比率和词语级N-Gram重复比率（会先将所有单词转成小写格式再计算重复度）进行样本过滤，即将文本里的内容按照字符进行大小为N的滑动窗口操作，形成了长度为N的片段序列。每一个片段称为gram，对所有gram的出现次数进行统计。最后统计频次大于1的gram的频次总和 / 所有gram的频次总和两者比率作为重复比率进行样本过滤。
LLM-长度过滤（DLC）-2
根据“content”字段的长度进行样本过滤。
LLM-文章相似度去重（DLC）-1
根据设置的window_size、num_blocks和hamming_distance值去除相似的样本。

运行工作流。
运行结束后，右键单击LLM-文章相似度去重（DLC）-1组件，选择查看数据 > 输出数据（OSS），查看经过上述所有组件处理后的样本文件。

人工智能平台 PAI：LLM大语言模型数据处理-github code-DLC组件

数据集说明

创建并运行工作流

相关参考