使用SageMaker对Whisper模型进行微调及部署教程

使用SageMaker对Whisper模型进行微调及部署教程

amazon-sagemaker-finetune-deploy-whisper-huggingface This is a demo project showing how to fine-tune and deploy the Whisper model on SageMaker. 项目地址: https://gitcode.com/gh_mirrors/am/amazon-sagemaker-finetune-deploy-whisper-huggingface

项目介绍

本项目展示了如何使用Amazon SageMaker对OpenAI的Whisper模型进行微调（Fine-tuning）和部署。Whisper是OpenAI开源的自动语音识别（ASR）模型，采用了编码器-解码器（encoder-decoder）transformer架构，并使用了大量多语言、多任务的已标注数据进行训练。通过本项目，您可以在SageMaker平台上对Whisper模型进行微调，并将其部署为可用的服务。

项目快速启动

1. 克隆项目仓库

首先，克隆本项目的GitHub仓库到本地：

git clone https://github.com/aws-samples/amazon-sagemaker-finetune-deploy-whisper-huggingface.git
cd amazon-sagemaker-finetune-deploy-whisper-huggingface

2. 设置环境

确保您已经安装了必要的依赖项。您可以使用以下命令安装所需的Python包：

pip install -r requirements.txt

3. 数据准备

在SageMaker Studio Notebook中加载并处理数据。以下是一个简单的数据加载和预处理示例：

from datasets import load_dataset

# 加载Common Voice数据集
dataset = load_dataset("mozilla-foundation/common_voice_11_0", "zh-TW")

# 数据预处理
# 例如，下采样音频到16kHz，提取特征等
# 具体代码请参考zhtw-data.ipynb

4. 微调模型

使用SageMaker进行模型微调。以下是一个简单的微调示例：

from sagemaker.huggingface import HuggingFace

# 设置训练参数
hyperparameters = {
    'epochs': 3,
    'train_batch_size': 8,
    'model_name_or_path': 'openai/whisper-small'
}

# 创建HuggingFace Estimator
huggingface_estimator = HuggingFace(
    entry_point='train.py',
    source_dir='.',
    instance_type='ml.p3.2xlarge',
    instance_count=1,
    hyperparameters=hyperparameters
)

# 开始训练
huggingface_estimator.fit({'train': 's3://your-bucket/path/to/train', 'test': 's3://your-bucket/path/to/test'})

5. 模型部署

训练完成后，您可以将模型部署为SageMaker Endpoint：

from sagemaker.huggingface import HuggingFaceModel

# 创建HuggingFace Model
huggingface_model = HuggingFaceModel(
    model_data='s3://your-bucket/path/to/model.tar.gz',
    role='YourSageMakerRole',
    transformers_version='4.6',
    pytorch_version='1.7',
    py_version='py36'
)

# 部署模型
predictor = huggingface_model.deploy(
    initial_instance_count=1,
    instance_type='ml.m5.xlarge'
)

应用案例和最佳实践

应用案例

最佳实践

典型生态项目

通过本教程，您可以快速上手使用SageMaker对Whisper模型进行微调和部署，并将其应用于实际的语音识别任务中。

amazon-sagemaker-finetune-deploy-whisper-huggingface This is a demo project showing how to fine-tune and deploy the Whisper model on SageMaker. 项目地址: https://gitcode.com/gh_mirrors/am/amazon-sagemaker-finetune-deploy-whisper-huggingface

总结