英伟达今日宣布推出EGX加速计算平台,旨在满足对即时、高吞吐量的边缘人工智能,即数据产生之处不断增长的需求,在确保反馈时间的同时能够减少需要发送至云端的数据量。英伟达方面称,EGX加速计算平台能够帮助企业在边缘实现低延迟的人工智能,即基于5G基站、仓库、零售商店、工厂及其他地点之间的连续的数据流实现实时感知、理解和执行。
来自该项目的英伟达成员表示,无论是在视觉上还是在言语上,人工智能都已经成为了“杀手级”应用,能够实现比人类更高的准确度与响应速度。
新的NVIDIA EGX平台可以基于Jetson NANO处理器,组装的轻型计算平台可实现每秒5亿次并把功耗维持在几瓦特;搭载NVIDIA T4的EGX边缘服务器可以达到10万亿每秒的运算。芯片的低功耗对人工智能运算很重要,目前传统CPU在这类运算中能耗巨大,EGX目前是少数能够实现的计算平台。