人工智能平台 PAI：DLC MNIST训练最佳实践

前提条件

• 首次使用AutoML功能时，需要完成AutoML相关权限授权。具体操作，请参见云产品依赖与授权：AutoML。

• 已完成DLC相关权限授权，授权方法详情请参见云产品依赖与授权：DLC。

• 已创建工作空间并关联了通用计算资源公共资源组。具体操作，请参见创建工作空间。

• 已开通OSS并创建OSS Bucket存储空间，详情请参见控制台快速入门。

步骤一：创建数据集

1. 将脚本文件mnist.py上传到已创建的OSS Bucket存储空间中。具体操作，请参见控制台快速入门。

2. 创建OSS类型的数据集，用于存储超参数调优实验生成的数据文件。具体操作，请参见创建数据集：从阿里云云产品。

   其中关键参数说明如下，其他参数使用默认配置：

   • 数据集名称：自定义数据集名称。

   • 选择数据存储：选择脚本文件所在的OSS存储目录。

   • 属性：选择文件夹。

步骤二：新建实验

进入新建实验页面，并按照以下操作步骤配置关键参数，其他参数配置详情，请参见新建实验。参数配置完成后，单击提交。

1. 设置执行配置。

   本方案提供单机训练、分布式训练以及嵌套参数训练三种训练方式，您可以选择其中一种训练方式。

   单机训练参数配置说明

   参数	描述
   任务类型	选择DLC。
   资源组	选择公共资源组。
   框架	选择PyTorch。
   数据集	选择步骤二中已创建的数据集。
   节点镜像	选择PAI平台镜像 > pytorch-training:1.12PAI-gpu-py38-cu113-ubuntu20.04。
   机器规格	选择CPU > ecs.g6.4xlarge。
   节点数量	设置为1。
   节点启动命令	配置为python3 /mnt/data/mnist.py --save_model=/mnt/data/examples/search/model/model_${exp_id}_${trial_id} --batch_size=${batch_size} --lr=${lr}。
   超参数	batch_size 约束类型：选择choice。 搜索空间：单击，增加3个枚举值，分别为16，32和64。 lr 约束类型：选择choice。 搜索空间：单击，增加3个枚举值，分别为0.0001、0.001和0.01。 使用上述配置可以生成9种超参数组合，后续实验会分别为每种超参数组合创建一个Trial，在每个Trial中使用一组超参数组合来运行脚本。

   分布式训练参数配置说明

   参数	描述
   任务类型	选择DLC。
   资源组	选择公共资源组。
   框架	选择PyTorch。
   数据集	选择步骤二中已创建的数据集。
   节点镜像	选择PAI平台镜像 > pytorch-training:1.12PAI-gpu-py38-cu113-ubuntu20.04。
   机器规格	选择CPU > ecs.g6.4xlarge。
   节点数量	设置为3。
   节点启动命令	配置为python -m torch.distributed.launch --master_addr=$MASTER_ADDR --master_port=$MASTER_PORT --nproc_per_node=1 --nnodes=$WORLD_SIZE --node_rank=$RANK /mnt/data/mnist.py --data_dir=/mnt/data/examples/search/data --save_model=/mnt/data/examples/search/pai/model/model_${exp_id}_${trial_id} --batch_size=${batch_size} --lr=${lr}。
   超参数	batch_size 约束类型：选择choice。 搜索空间：单击，增加3个枚举值，分别为16、32和64。 lr 约束类型：选择choice。 搜索空间：单击，增加3个枚举值，分别为0.0001、0.001和0.01。 使用上述配置可以生成9种超参数组合，后续实验会分别为每种超参数组合创建一个Trial，在每个Trial中使用一组超参数组合来运行脚本。

   嵌套参数训练参数配置说明

   参数	描述
   任务类型	选择DLC。
   资源组	选择公共资源组。
   框架	选择PyTorch。
   数据集	选择步骤二中已创建的数据集。
   节点镜像	选择PAI平台镜像 > pytorch-training:1.12PAI-gpu-py38-cu113-ubuntu20.04。
   机器规格	选择CPU > ecs.g6.4xlarge。
   节点数量	设置为1。
   节点启动命令	配置为python3 /mnt/data/mnist.py --save_model=/mnt/data/examples/search/pai/model/model_${exp_id}_${trial_id} --batch_size=${nested_params}.{batch_size} --lr=${nested_params}.{lr} --gamma=${gamma}。
   超参数	nested_params 约束类型：选择choice。 搜索空间：单击，增加2个枚举值，分别为{"_name":"large","{lr}":{"_type":"choice","_value":[0.02,0.2]},"{batch_size}":{"_type":"choice","_value":[256,128]}}和{"_name":"small","{lr}":{"_type":"choice","_value":[0.01,0.1]},"{batch_size}":{"_type":"choice","_value":[64,32]}}。 gamma 约束类型：选择choice。 搜索空间：单击，增加3个枚举值，分别为0.8、0.7和0.9。 使用上述配置可以生成9种超参数组合，后续实验会分别为每种超参数组合创建一个Trial，在每个Trial中使用一组超参数组合来运行脚本。

2. 设置Trial配置。

   参数		描述
   优化指标	指标类型	选择stdout。表示最终指标从运行过程中的stdout中提取。
   	计算方式	选择best。
   	指标权重	配置如下： key：validation: accuracy=([0-9\\.]+)。 Value：1。
   	指标来源	命令关键字配置为cmd1。
   	优化方向	选择越大越好。
   模型存储路径		设置为保存模型的OSS路径。本方案配置为oss://examplebucket/examples/model/model_${exp_id}_${trial_id}。

3. 设置搜索配置。

   参数	描述
   搜索算法	选择TPE。算法详情说明，请参见支持的搜索算法。
   最大搜索次数	配置为3。表示该实验允许运行的最多Trial个数为3个。
   最大并发量	配置为2。表示该实验允许并行运行的最多Trial个数为2个。
   开启earlystop	打开开关。如果一个Trial在评估一组特定的超参数组合时发现效果明显很差，则会提前终止该Trial的评估过程。
   start step	配置为5。表示该Trial在最早执行完5次评估后，可以决定是否提前停止。

步骤三：查看实验详情和运行结果

1. 在实验列表中，单击目标实验名称，进入实验详情页面。

   

   在该页面，您可以查看Trial的执行进度和状态统计。实验根据配置的搜索算法和最大搜索次数自动创建3个Trial。

2. 单击Trial列表，您可以在该页面查看该实验自动生成的所有Trial列表，以及每个Trial的执行状态、最终指标和超参数组合。

   根据配置的优化方向（越大越好），从上图可以看出，最终指标为96.52对应的超参数组合（batch_size：16、lr：0.01）较优。

相关文档

• 您也可以提交MaxCompute计算资源的超参数调优实验，详情请参见MaxCompute K均值聚类最佳实践。

• 关于AutoML更详细的使用方法和原理介绍，请参见自动机器学习（AutoML）。