Empresa acredita que futuro da inovação está coligado com o uso de inteligência artificial por dispositivos
Durante o Microsoft Build 2023, conferência anual a empresa realizada hoje (23/5), a Qualcomm Technologies aproveitou para exibir as suas mais recentes inovações em inteligência artificial (IA) on-device, incluindo IA generativa em execução em plataformas de computação Snapdragon, bem como novos caminhos para desenvolvedores que criam aplicativos para PCs com Windows 11 alimentados por Snapdragon.
A inovação precisa incluir IA no dispositivo e na nuvem, defende a Qualcomm. A execução de aplicativos de IA no dispositivo melhora a relação custo-benefício, a privacidade, a personalização e a latência, ainda segundo a empresa. As plataformas Snapdragon, por exemplo, incluem o Qualcomm AI Engine dedicado para processar cargas de trabalho de IA de forma mais eficiente do que quando processadas puramente em CPU ou GPU, tornando a IA on-device possível mesmo em dispositivos menores.
O Stable Diffusion, um modelo de IA generativa de texto para imagem com mais de 1 bilhão de parâmetros, por exemplo, é capaz de rodar inteiramente no dispositivo, e a empresa diz que vê um caminho claro para rodar modelos com até 10 bilhões de parâmetros em dispositivos nos próximos meses, incluindo modelos linguísticos grandes (large language models – LLMs).
Para aprimorar o Qualcomm AI Stack e ajudar os desenvolvedores a criar a próxima geração de experiências de IA no dispositivo, o Qualcomm AI Engine Direct SDK será disponibilizado ao público pela primeira vez no Build. Com o ONNX Runtime e o Qualcomm AI Stack, é possível executar as cargas de trabalho de IA hoje no Snapdragon 8cx Gen 3 AI Engine no Surface Pro 9 5G e no Lenovo ThinkPad x13s.
Participe das comunidades IPNews no Instagram, Facebook, LinkedIn e Twitter.
