快科技 4 月 3 日消息，华硕近日发布了旗下首款人工智能 USB 设备—— UGen300 USB AI 加速器，将强大的 AI 推理能力便捷地带到任何设备上。

这款外形小巧的加速器内置了 Hailo-10H 芯片，可提供高达 40 TOPS 的 AI 算力，并支持运行 LLM 和 VLM 等大型语言模型。

得益于对 TensorFlow、PyTorch 和 ONNX 等主流 AI 框架的广泛兼容性，它真正实现了开箱即用。加速器配备了 8GB 专用 LPDDR4 内存，通过高速 USB 3.1 Gen2 Type-C 接口连接设备，且在典型工作负载下功耗仅为 2.5W，节能高效。

UGen300 最大的亮点在于其即插即用的设计，确保了在 Windows、Linux 和 Android 系统上的跨平台兼容性。

它能有效补充主机 CPU 或 NPU 的计算能力，为 AI 任务提供强劲加速，从而释放系统资源，使得设备端的生成式 AI 推理无需依赖云端即可高效运行。

无论是文本生成、视频摘要等生成式 AI 任务，还是事件触发、语音指令转行动、实时感知等对性能要求较高的通用 AI 应用，UGen300 都能在边缘侧实现高性能处理，推动高效 AI 的普及。