A Nvidia revelou hoje (7/1) o Project DIGITS, um supercomputador pessoal de inteligência artificial (IA) que fornece aos pesquisadores e cientistas de dados acesso ao poder da plataforma Nvidia Grace Blackwell. Ele conta com um superchip GB10 com capacidade de 1 petaflop de desempenho de computação de IA para prototipagem, ajuste fino e execução de grandes modelos de linguagem de inteligência artificial.
CONTEÚDO RELACIONADO: MediaTek colabora com a NVIDIA em design para novo chip
Com o Project DIGITS, os usuários podem desenvolver e executar inferências em modelos utilizando seu próprio computador e, então, implantá-los perfeitamente em uma nuvem acelerada ou uma infraestrutura de data center.
Com a arquitetura Grace Blackwell, empresas e pesquisadores podem prototipar, ajustar e testar modelos de IA em sistemas locais do Projeto DIGITS, executando o sistema operacional NVIDIA DGX baseado em Linux e, em seguida, implantá-los perfeitamente no NVIDIA DGX Cloud™, na nuvem ou em infraestruturas de data centers.
Isso permite que os desenvolvedores criem protótipos de IA no Project DIGITS e depois os dimensionem na infraestrutura de nuvem ou data center, usando a mesma arquitetura Grace Blackwell e a plataforma de software NVIDIA AI Enterprise.
Com o supercomputador, os desenvolvedores podem executar modelos de linguagem grande de até 200 bilhões de parâmetros para turbinar inovações de IA. Além disso, utilizando a rede Nvidia ConnectX, dois supercomputadores de IA do Project DIGITS podem ser conectados para executar modelos de até 405 bilhões de parâmetros.
Mais recursos
Os usuários do Projeto DIGITS podem acessar uma extensa biblioteca de softwares de IA da Nvidia para experimentação e prototipagem, incluindo kits de desenvolvimento de software, frameworks e modelos disponíveis no catálogo NGC e no portal Developer. Os desenvolvedores podem ajustar modelos com o framework NeMo, acelerar a ciência de dados com bibliotecas RAPIDS e executar estruturas de frameworks como PyTorch, Python e notebooks Jupyter.
Para criar aplicações de agentes de inteligência artificial, os usuários também podem aproveitar os microsserviços da Blueprints e NIM, que estão disponíveis para pesquisa, desenvolvimento e testes por meio do Nvidia Developer Program.
Características técnicas do superchip
A Nvidia explica que o superchip traz uma GPU Nvidia Blackwell com núcleos CUDA de última geração e Tensor Cores de quinta geração, conectados via interconexão chip-to-chip NVLink-C2C a uma CPU Nvidia Grace de alto desempenho, que inclui 20 núcleos com eficiência energética construídos com a arquitetura Arm.
A MediaTek, líder de mercado no designs de sistemas de um chip baseados em Arm, colaborou no design do superchip, contribuindo para uma melhor eficiência energética, desempenho e conectividade da categoria.
O superchip permite que o Projeto DIGITS entregue um desempenho poderoso usando apenas uma tomada elétrica padrão. Cada unidade do Project DIGITS possui 128 GB de memória unificada e até 4 TB de armazenamento NVMe.
Participe das comunidades do IPNews no Instagram, Facebook, LinkedIn e X
