Llama |
您所在的位置：网站首页 › 阿里云可以玩游戏吗 › Llama |
Llama
| 运行环境要求 本示例目前仅支持在华北2（北京）、华东2（上海）、华南1（深圳）、华东1（杭州）地域使用PAI-快速开始（PAI-QuickStart）模块运行。 最低使用V100/P100/T4（16GB显存）及以上卡型运行训练任务（QLoRA轻量化微调）。 通过PAI控制台使用模型模型部署和调用进入快速开始页面。 登录PAI控制台。 在顶部左上角根据实际情况选择地域。 在左侧导航栏选择工作空间列表，单击指定工作空间名称，进入对应工作空间内。 在左侧导航栏选择快速开始。 在快速开始页面右侧的模型列表中，单击Meta-Llama-3-8B-Instruct模型卡片，进入模型详情页面。 单击右上角部署，配置推理服务名称以及部署使用的资源信息，即可将模型部署到EAS推理服务平台。 当前模型需要使用公共资源组进行部署。
使用推理服务。 在任务管理中单击已部署的服务名称，在服务详情页面单击查看WEB应用，即可通过ChatLLM WebUI进行实时交互。
PAI-QuickStart为Meta-Llama-3-8B-Instruct模型配置了微调算法，您可以通过开箱即用的方式对该模型进行微调。 训练算法支持使用JSON格式输入，每条数据由问题、答案组成，分别用"instruction"、"output"字段表示，例如： [ { "instruction": "你是一个心血管科医生，请根据患者的问题给出建议：我患高血压五六年啦，天天喝药吃烦啦，哪种东西能根治高血压，高血压克星是什么？", "output": "高血压的患者可以吃许多新鲜的水果蔬菜或者是芹菜山药之类的食物，可以起些降血压的作用，另外高血压的患者平时也应当注意低盐，低脂，低胆固醇饮食，适当的实施体育运动和锻练高血压的患者还应当在医生的指导下口服降血压的药物，断然不可擅自停药，防止对血压引发影响。" }, { "instruction": "你是一个呼吸科医生，请根据患者的问题给出建议：风寒感冒咳白痰怎么治疗？", "output": "风寒感冒，咳有白痰的患者，主要症咳嗽痰多色白量多，兼具胸脘作闷，鼻塞，流清涕，全身酸痛，易疲劳等症状。临床诊断上常用杏苏散和二陈丸实施治疗。在用药物治疗的同时，应忌食辛辣刺激性的食物和寒凉性食物，多吃易消化营养丰富的食物，宜清淡饮食，留意歇息。" } ]在模型详情页单击右上角微调训练。关键配置如下： 数据集配置：当完成数据的准备，您可以将数据上传到对象存储OSS Bucket中，或是通过指定一个数据集对象，选择NAS或CPFS存储上的数据集。您也可以使用PAI预置的公共数据集，直接提交任务测试算法。 计算资源配置：算法需要使用V100/P100/T4（16GB显存）的GPU资源，请确保选择使用的资源配额内有充足的计算资源。 超参数配置：训练算法支持的超参信息如下，您可以根据使用的数据，计算资源等调整超参，或是使用算法默认配置的超参。 超参数 类型 默认值 是否必须 描述 learning_rate float 5e-5 是 学习率，用于控制模型权重，调整幅度。 num_train_epochs int 1 是 训练数据集被重复使用的次数。 per_device_train_batch_size int 1 是 每个GPU在一次训练迭代中处理的样本数量。较大的批次大小可以提高效率，也会增加显存的需求。 seq_length int 128 是 序列长度，指模型在一次训练中处理的输入数据的长度。 lora_dim int 32 否 LoRA维度，当lora_dim>0时，使用LoRA/QLoRA轻量化训练。 lora_alpha int 32 否 LoRA权重，当lora_dim>0时，使用LoRA/QLoRA轻量化训练，该参数生效。 load_in_4bit bool true 否 模型是否以4 bit加载。 当lora_dim>0、load_in_4bit为true且load_in_8bit为false时，使用4 bit QLoRA轻量化训练。 load_in_8bit bool false 否 模型是否以8比特加载。 当lora_dim>0、load_in_4bit为false且load_in_8bit为true时，使用8 bit QLoRA轻量化训练。 gradient_accumulation_steps int 8 否 梯度累积步骤数。 apply_chat_template bool true 否 算法是否为训练数据加上模型默认的chat template，以Llama-3系列模型为例，格式为： 问题：user\n\n + instruction + 答案：assistant\n\n + output + 单击训练，PAI-QuickStart自动跳转到模型训练页面，并开始进行训练，您可以查看训练任务状态和训练日志。
如果需要将微调训练完的模型部署为在线服务，可以在同一页面的模型部署卡片中选择资源组，然后单击部署实现一键部署。模型调用方式和上文直接部署模型的调用方式相同。 通过PAI Python SDK使用模型PAI-QuickStart提供的预训练模型也支持通过PAI Python SDK进行调用，首先需要安装和配置PAI Python SDK，您可以在命令行执行以下代码： # 安装PAI Python SDK python -m pip install alipai --upgrade # 交互式的配置访问凭证、PAI工作空间等信息 python -m pai.toolkit.config如何获取SDK配置所需的访问凭证（AccessKey）、PAI工作空间等信息请参考安装和配置。 模型部署和调用通过PAI-QuickStart在模型上预置的推理服务配置，您可轻松地将Meta-Llama-3-8B-Instruct模型部署到PAI-EAS推理平台。 from pai.model import RegisteredModel # 获取PAI提供的模型 model = RegisteredModel( model_name="Meta-Llama-3-8B-Instruct", model_provider="pai" ) # 直接部署模型 predictor = model.deploy( service="llama3_chat_example" ) # 用户可以通过推理服务的详情页，打开部署的Web应用服务 print(predictor.console_uri)模型微调训练通过SDK获取PAI-QuickStart提供的预训练模型后，您可以对模型进行微调。 # 获取模型的微调训练算法 est = model.get_estimator() # 获取PAI提供的公共读数据和预训练模型 training_inputs = model.get_estimator_inputs() # 使用用户自定义数据 # training_inputs.update( # { # "train": "", # "validation": "" # } # ) # 使用默认数据提交训练任务 est.fit( inputs=training_inputs ) # 查看训练产出模型的OSS路径 print(est.model_data())如果需要将微调训练完的模型部署为在线服务，可以在同一页面的模型部署卡片中选择资源组，然后单击部署实现一键部署。模型调用方式和上文直接部署模型的调用方式相同。 更多关于如何通过SDK使用PAI-QuickStart提供的预训练模型，请参见使用预训练模型 — PAI Python SDK。 相关参考PAI Python SDK |
【本文地址】
今日新闻 |
点击排行 |
|
推荐新闻 |
图片新闻 |
|
专题文章 |