Personalização de modelos do Amazon Nova no SageMaker AI
Você pode personalizar os modelos do Amazon Nova, incluindo os modelos aprimorados do Amazon Nova 2.0, por meio de fórmulas, e treiná-los no SageMaker. Essas fórmulas permitem técnicas como ajuste fino supervisionado (SFT) e ajuste fino por reforço (RFT), com opções de adaptação de full-rank e de baixa classificação (LoRA).
O fluxo de trabalho completo de personalização envolve etapas como treinamento de modelo, avaliação de modelo e implantação para inferência. Essa abordagem de personalização de modelos no SageMaker oferece maior flexibilidade e controle para ajustar modelos do Amazon Nova compatíveis, otimizar hiperparâmetros com precisão e implementar técnicas como LoRA, ajuste fino com eficiência de parâmetros (PEFT), SFT de full-rank, RFT e pré-treinamento contínuo (CPT).
Abordagens de personalização
O SageMaker oferece duas abordagens para personalizar os modelos do Amazon Nova:
Experiência baseada em interface de usuário: use o Amazon SageMaker Studio para personalizar modelos do Amazon Nova por meio de uma interface simples e guiada. Essa abordagem fornece um fluxo de trabalho completo, incluindo treinamento, avaliação e implantação sem escrever código. A experiência baseada em interface de usuário é ideal para experimentação rápida, desenvolvimento de prova de conceito e usuários que preferem um fluxo de trabalho visual.
Experiência baseada em código: use o SageMaker Python SDK, o Nova SDK e as fórmulas de treinamento para personalizar modelos de forma programática. Essa abordagem oferece maior flexibilidade, permitindo que você configure hiperparâmetros avançados, integre-se aos pipelines de CI/CD e automatize os fluxos de trabalho de treinamento. A experiência baseada em código é recomendada para workloads de produção, requisitos complexos de personalização e equipes com práticas estabelecidas de MLOps.
| Abordagem | Melhor para | Benefícios principais |
|---|---|---|
| Baseado em interface de usuário | Experimentação, prototipagem, iterações rápidas | Configuração simples, fluxo de trabalho guiado, sem necessidade de codificação |
| Baseado em código | Produção, automação, configurações avançadas | Flexibilidade total, integração de pipeline, controle de versão |
Plataformas de personalização
AWSA oferece três plataformas para personalizar os modelos do Amazon Nova, cada uma projetada para diferentes casos de uso e requisitos:
Amazon Bedrock: fornece o caminho mais fácil e rápido para a personalização de modelos com configuração mínima. O Bedrock lida com todo o gerenciamento da infraestrutura automaticamente, permitindo que você se concentre em seus dados e casos de uso. Essa plataforma é ideal quando você precisa do menor tempo de retorno do investimento e prefere uma experiência totalmente gerenciada.
Tarefas de treinamento do SageMaker: oferecem um ambiente totalmente gerenciado para personalizar modelos do Amazon Nova, em que você não precisa criar nem manter nenhum cluster. O serviço gerencia automaticamente todo o provisionamento, a escalabilidade e o gerenciamento de recursos de infraestrutura, permitindo que você se concentre na configuração dos parâmetros de treinamento e no envio da tarefa. Essa plataforma oferece um equilíbrio entre facilidade de uso e flexibilidade, compatível com técnicas como ajuste fino com eficiência de parâmetros (PEFT), ajuste fino de full-rank e ajuste fino por reforço (RFT).
SageMaker HyperPod: oferece um ambiente especializado para treinamento distribuído em larga escala, exigindo que você crie e gerencie clusters do EKS com grupos de instâncias restritas (RIGs). Essa plataforma oferece máxima flexibilidade na configuração do ambiente de treinamento com instâncias de GPU especializadas e armazenamento integrado do Amazon FSx para Lustre, o que a torna particularmente adequada para cenários avançados de treinamento distribuído, desenvolvimento contínuo de modelos e workloads de personalização em nível empresarial.
| Plataforma | Complexidade | Flexibilidade | Melhor para |
|---|---|---|---|
| Amazon Bedrock | Menor | Standard | Personalização mais rápida, configuração mínima |
| Tarefas de treinamento do SageMaker | Médio | Alto | Flexibilidade equilibrada e facilidade de uso |
| SageMaker HyperPod | Mais alto | Máximo | Grande treinamento distribuído, workloads empresariais |
Se você fornecer uma chave do KMS para sua tarefa de treinamento de personalização de modelos do Amazon Nova para criptografia no bucket do S3 de saída de propriedade da Amazon:
-
Você deve fornecer a mesma chave do KMS ao chamar tarefas de treinamento iterativas subsequentes ou ao chamar a API CreateCustomModel do Amazon Bedrock usando o modelo criptografado.
-
A identidade que chama a API
CreateTrainingJob(em vez do perfil de execução) deve ter permissões paraCreateGrant,RetireGrant,EncrypteGenerateDataKey, conforme definido na política de chave do KMS.