AWS anuncia que dois modelos de IA Mistral estarão disponíveis no Bedrock

A Mistral AI, uma empresa de IA com sede na França, está em uma missão para elevar os modelos disponíveis publicamente ao desempenho de última geração. Eles se especializam na criação de modelos de linguagem grande (LLMs) rápidos e seguros que podem ser usados para várias tarefas, desde chatbots até geração de código.

A AWS anunciou que dois modelos de IA Mistral de alto desempenho, o Mistral 7B e o Mixtral 8x7B, estarão disponíveis em breve no Amazon Bedrock. A AWS está trazendo o Mistral AI para a Amazon Bedrock como o 7º provedor de modelo fundacional, juntando-se a outras empresas líderes de IA, como AI21 Labs, Anthropic, Cohere, Meta, Stability AI e Amazon. Com esses dois modelos de IA Mistral, o cliente terá a flexibilidade de escolher o LLM ideal e de alto desempenho para seu caso de uso para criar e escalar aplicativos de IA generativa usando o Amazon Bedrock.

O Mistral 7B é o primeiro modelo básico da Mistral AI, suportando tarefas de geração de texto em inglês com recursos de codificação natural. Ele é otimizado para baixa latência com um baixo requisito de memória e alta taxa de transferência para seu tamanho. Esse modelo é poderoso e suporta vários casos de uso, desde a sumarização e classificação de texto até a conclusão de texto e conclusão de código.

Já o Mixtral 8x7B é um modelo de Mistura de Especialistas (MoE) popular e esparso de alta qualidade que é ideal para resumo de texto, perguntas e respostas, classificação de texto, conclusão de texto e geração de código.

Escolher o modelo de base certo é fundamental para criar aplicativos bem-sucedidos. Entre seus benefícios estão:

Equilíbrio entre custo e desempenho — um destaque proeminente dos modelos da Mistral AI atinge um equilíbrio notável entre custo e desempenho. O uso de MoE esparso torna esses modelos eficientes, acessíveis e escaláveis, ao mesmo tempo em que controla os custos.

Velocidade de inferência rápida — os modelos de IA Mistral têm uma velocidade de inferência impressionante e são otimizados para baixa latência. Os modelos também têm um baixo requisito de memória e alta taxa de transferência para o seu tamanho. Esse recurso é mais importante quando se deseja dimensionar seus casos de uso de produção.

Transparência e confiança — Os modelos de IA da Mistral são transparentes e personalizáveis. Isso permite que as organizações atendam a requisitos normativos rigorosos.

Acessíveis a uma ampla gama de usuários — os modelos de IA Mistral são acessíveis a todos. Isso ajuda organizações de qualquer tamanho a integrar recursos de IA generativa em seus aplicativos.