ASUS Lança Acelerador USB UGen300 com 40 TOPS de IA Local para Dispositivos

A ASUS revelou no evento Ubiquitous AI, em Milão, na quinta-feira (29), o novo acelerador UGen300 e sua linha de hardware especializada para inteligência artificial local. O dispositivo, com formato de pendrive, visa permitir que empresas e usuários executem modelos de linguagem com total privacidade em seus aparelhos.

O UGen300 promete desempenho de até 40 TOPS (INT4) com consumo energético típico de apenas 2,5W. Ele é equipado com o chip Hailo-10H e 8GB de memória LPDDR4 dedicada, possibilitando carregar e rodar modelos de linguagem e visão diretamente no acessório, sem sobrecarregar a CPU ou GPU do dispositivo.

Com design compacto (105 x 50 x 18 mm) e conexão USB 3.1 Gen 2 (10 Gbps), o acelerador é compatível com sistemas Windows, Linux e Android. Além disso, inclui mais de 100 modelos pré-treinados e suporte a ecossistemas como TensorFlow, PyTorch, Keras e ONNX.