华硕带来UGen300 USB AI加速器即插即用，将推理性能带到任何设备

华硕宣布，推出UGen300 USB AI加速器。这是华硕推出的首款人工智能USB设备，可以将AI推理直接带到任何设备上。

UGen300 USB AI加速器的整体尺寸为105 x 50 x 18 mm，非常地小巧，配备了Hailo-10H芯片，可提供40 TOPS的AI算力，支持LLM和VLM等大型语言模型，加上与TensorFlow、PyTorch和ONNX等主要AI框架的广泛兼容性，具备典型出厂即用功能。其内置了8GB的专用LPDDR4内存，通过USB 3.1 Gen2 Type-C接口与其他设备连接，在典型工作负载下仅消耗2.5W的电力。

由于采用了便捷的即插即用设计，确保了与Windows、Linux和Android的跨平台兼容性，适配很好地补充了主机CPU和NPU的计算需求，为AI加速，从而释放系统资源，使设备端生成式AI推理无需依赖云计算。通过运行诸如文本生成、视频摘要、事件触发、语音到行动、以及实时感知等对性能要求较高的通用AI应用，从而能够在边缘实现高效、高性能的AI。

华硕表示，UGen300 USB AI加速器由一个精简的生态系统支持，旨在加快AI开发进程。即将推出的UGen通用工具将允许用户通过使用超过100个预训练模型进行快速验证，从而实现轻松起步。用户还可以选择连接到Hailo开发者社区，实现更快地构建和部署。

超能网**

**关注我们，浏览热门硬件评测

随时查看最新天梯榜