Nvidia lança pacote de serviços que acelera criação de apps com IA

Por Nilton Cesar Monastier Kleina

18/03/2024 - 13:002 min de leitura

Nvidia lança pacote de serviços que acelera criação de apps com IA

Fonte :  GettyImages 

Imagem de Nvidia lança pacote de serviços que acelera criação de apps com IA no tecmundo

A Nvidia apresentou nesta segunda-feira (18) uma série de ferramentas de inteligência artificial (IA) para uso corporativo. Com os novos recursos, empresas de todos os tamanhos podem criar e implantar aplicativos personalizados em suas próprias plataformas.

Eles são chamados de Nvidia NIM, sigla para Nvidia Inference Microservices. Na prática, o NIM é um conjunto de processos e ferramentas que ajuda na utilização de dezenas de modelos de IA populares. Elas são indicadas para empresas que precisam desenvolver aplicativos para uso interno ou otimizar processos.

As aplicações de IA servem para empresas dos mais diversos setores.As aplicações de IA servem para empresas dos mais diversos setores.

Os microsserviços voltados para desenvolvedores envolve "pacotes" com todas as tecnologias lançadas nos últimos anos pela companhia — que foi uma das que mais cresceu no último ano em valor de mercado ao virar referência no mercado de IA. 

Ela permite que os clientes usem o catálogo de ferramentas para aprimorar o próprio ambiente de trabalho, inclusive adotando a IA como parte do modelo de negócios caso ainda não tenham feito isso antes.

Os novos serviços da NVIDIA para IA

Segundo a companhia, o NIM permite que desenvolvedores reduzam o tempo de implantação e criação de uma plataforma do zero "de semanas para minutos", sendo econômico até em pegada de carbono

As ferramentas pré-construídas do NIM têm como base os softwares de inferência na Nvidia, como o Triton Inference Server e o TensorRT-LLM. Elase contêm APIs de linguagem, fala e análise de dados que podem ser aplicados em diferentes setores e adaptados para operar com bancos de dados dessas corporações.

A Nvidia virou uma empresa trilionária por causa da IA.A Nvidia virou uma empresa trilionária por causa da IA.

Na área da saúde, por exemplo, empresas podem usar os NIM para aprimorar chatbots de atendimento para gerar respostas precisas e contextualizadas, ou gerar gráficos completos e de fácil visualização para diagnósticos.

Os serviços foram criados a partir da tecnologia NVIDIA CUDA, usada por quem tem uma infraestrutura com GPUs, data centers ou serviços de computação em nuvem da empresa. 

Os pacotes suportam modelos abertos e privados, tanto da própria NVIDIA quanto de outras companhias. As parceiras incluem Google, Meta, Microsoft, Mistral AI e Stabilyu AI, alguns dos maiores nomes do campo da IA generativa atual.

Além disso, kits de desenvolvimento acelerado de software, bibliotecas e ferramentas serão disponibilizados no novo ambiente chamado de NVIDIA CUDA-X.

Disponibilidade

Os novos microserviços de IA da NVIDIA já estão disponíveis como parte do NVIDIA AI Enterprise 5.0. O preço da licença é US$ 4,5 mil anuais por GPU, ou então US$ 1 por GPU a cada hora contratada.

A plataforma foi criada para ser acessível a uma série de equipamentos e softwares. Fora a capacidade de rodar no próprio data center do cliente, os microserviços serão disponibilizados em marketplaces de ambientes de nuvem como AWS, Google Cloud, Oracle Cloud e Microsoft Azure.

No site das plataformas de IA da Nvidia, desenvolvedores interessados podem solicitar um período gratuito de avaliação.


Por Nilton Cesar Monastier Kleina

Especialista em Analista

Jornalista especializado em tecnologia, doutor em Comunicação (UFPR), pesquisador, roteirista e apresentador.


Veja também


Fontes