在刚刚结束的 GTC 2019 大会上,英伟达公司推出了 RTX Server、Data Science Server、Jetson Nano 等全新计算设备,以及大量软件工具,试图把自己的业务扩展到数据科学和超小型 IoT 设备等方面。
黄仁勋发布了两版 Jetson Nano:面向开发者、爱好者的 99 美元开发包;以及面向公司的 129 美元的产品模块。英伟达 Jetson 家族又有了新成员,如今包括面向自动驾驶的 Jetson AGX Xavier、面向边缘 AI 的 Jetson TX2。
Jetson Nano 及其开发板。
据黄仁勋介绍,Jetson Nano 是一个能够创建数百万智能系统的人工智能计算机。这款小型但强大的 CUDA-X AI 计算机为运行现代 AI 工作流程提供了 472 千兆位的计算性能。它非常节能,功耗低至 5 瓦特。Jetson Nano 开发板包含一块 4 核 A57CPU、128 核 Maxwell 架构 GPU 以及 4G 内存。看起来是比树莓派3 性能强一个等级的存在。
Jetson Nano 支持高清传感器,可以并行处理许多传感器并在每个传感器流上运行多个现有的神经网络。它还支持许多流行的人工智能框架,使得开发人员可以轻松地将他们喜欢的模型和框架集成到产品中。该开发包可以开箱即用地运行 Linux,拥有 4GB 内存和相机及其他附件所需的 I/O。
Jetson Nano 开发者工具包技术规格。
据英伟达博客介绍,Jetson Nano 可以运行大量网络,包括 TensorFlow、PyTorch、Caffe/Caffe2、Keras、MXNet 这些流行的机器学习框架的完整本地版本。通过实现图像识别、目标检测与定位、人体姿态估计、语义分割、视频增强和智能分析等能力,这些网络可被用于构建自动驾驶机器和复杂的 AI 系统。
下图展示了在各种流行模型的推理基准结果。Jetson Nano 在许多场景中实现了实时表现,能够处理多种高清晰视频流。
各种深度学习推理网络在 Jetson Nano 和 TensorRT 下的表现,使用了 FP16 精度,batch size 为 1。
此外,英伟达还将 Jetson Nano 与树莓派、英特尔的计算棒以及谷歌的 Edge TPU 开发版进行了对比,部分结果如下。
Jetson Nano 与树莓派、英特尔的计算棒以及谷歌的 Edge TPU 开发版的推理表现结果对比。