2022年3月29日,人工智能初创公司OmniML宣布获得1000万美元种子资金,以加速AI在边缘设备上的使用。本轮融资由GGV Capital领投,Qualcomm Ventures、Foothill Ventures和其他几家风险投资公司跟投。
加速边缘设备AI计算
「做技术类的startup,应该有深厚的技术积累,应该致力于解决一个很痛的痛点,而不是成为一个补充营养的维生素。其次,做的东西要独一无二,带来数量级的提升而不只是小改进,可以明显区别于其他产品。另外,对于AI Researcher来说一个综合的团队很重要。在企业中,仅仅依靠技术是不够的,市场落地同样重要。」这是OmniML创始人之一、MIT EECS助理教授韩松早前接受媒体采访时的一段话。
官网资料显示,OmniML成立于2021年,总部位于加利福尼亚州,旨在为边缘设备放大和启用强大的机器学习功能。OmniML通过创建深度学习模型来弥合AI应用程序与边缘上的各种设备之间的差距,从而提高AI的速度、准确性和效率。
目前,人工智能技术虽然已经在所有可以想象的领域改善我们的生活,但是针对日益多样化的边缘硬件,至今没有一个高效的功能模型设计的AI解决方案。因此,模型部署需要重复的手动设计和训练迭代,花费大量的资源和时间。
OmniML核心产品是一个模型设计平台,可自动针对GPU、AI SoC甚至微型MCU进行模型协同设计、训练和部署。
「对于每个ML应用程序,我们提供了一组量身定制的模型架构和运行时库,以便在边缘设备上高效执行。给定目标硬件设备,我们的平台探索不同组合的广阔空间,然后进行搜索以获得每个设备的最佳设计,而无需重复训练。通过我们的协同设计方法,部署的模型将在速度和内存占用减少方面有数量级的提高,而不会牺牲太多的准确性。」
OmniML通过弥合人工智能应用程序与它们对硬件的高要求之间的差距,以加速人工智能在边缘设备上的部署——尤其是计算机视觉。由于开发人员不再需要针对特定芯片和设备手动优化ML模型,OmniML能够使ML任务在不同边缘设备上的速度提高10倍,而工程工作量仅为1/10,不仅大幅提高模型性能,而且显著降低企业成本。
据悉,OmniML正在与智能相机和自动驾驶等领域的客户合作,创建支持人工智能的高级计算机视觉,以提高安全性和实时态势感知能力。