10月27日,依图科技首席技术官颜水成博士受邀出席「全球AI芯片 城市智能峰会」。此次峰会是在人工智能城市应用日趋规模化的时代背景下,聚焦AI 芯片以及城市计算与视频物联网领域,分享前瞻技术理论、探讨产品经营方法。

随着AI算法的高速发展、半导体摩尔定律的失效,AI算力不足的问题浮出水面,成为AI行业面临的共同痛点。当前,算力的价值不仅关乎计算性能本身,更能让开发者根据特定场景与特定数据流,研发出专用的算力硬件产品与软件平台,从而提供端到端“算力 算法”一体化解决方案。

提升智能密度是“点亮”AI的核心关键

在本次峰会上,颜水成博士发表了“视觉计算:AI算法 VS AI芯片”主题演讲。他提到,人类文明变迁的核心点在于基础设施的变化,而基础设施的变化带来的直接影响,是人和人之间沟通效率和方法的大幅提升。

依图科技首席技术官颜水成博士出席「全球AI芯片 城市智能峰会」

基础设施提升的关键就在于提升一个区域或者一个地方的“智能密度”。在宏观层面,智能密度反映了从单体的机器智能到群体智能的速度,例如当城市中互通互联的摄像头从5千路发展到20万路以上时,人工智能就能对城市的行为从代替人进行记录,发展为帮助人进行判断,甚至实现智能预测。

在微观层面,智能密度反应的是芯片单位面积的智能算力,即更高级的算法可以用更少的机器算力,实现更多的智能。可以预见的是,智能密度的提升将解锁高阶智能,成为人工智能普及的核心关键。

2019年5月,依图发布了集成其领先视觉算法的全球首款云端视觉推理AI芯片求索(QuestCore ),目的就是提升智能密度,也是依图“算法和芯片强耦合”理念的成功落地,被业界视为芯片领域一次标志性探索。使用依图求索(QuestCore )芯片构建的AI服务器和软硬一体化解决方案,可以将1万路视频解析原本需要 16 台机柜的方案压缩到 1 台,使整体建设费用投入减少 50%,运维成本降低 80%,让城市管理者建得起、用得省,并能使用世界领先的AI算法。

在依图看来,摩尔定律的终结和人工智能技术的发展将开启一个新的“算法即芯片”时代。只有找对问题、找对场景、用对算法,并以此来定制芯片,才有可能不断提升性价比。

“算法即芯片”时代,智能密度提升解锁更多场景

一直以来,芯片的发展都受到“摩尔定律”的指引。每18个月,晶体管密度增加一倍,算力、性能增加一倍,计算密度增加一倍。可近年来,受限于物理材料的限制,摩尔定律正在趋缓、濒临终结,依靠传统方式来提升芯片效能的方法已经收效甚微,而高成本、高能耗、低利用率的特点已满足不了当下复杂的人工智能使用场景需求。

在“算法即芯片”的概念指引下,开发一款有竞争力的AI芯片,首先要明确AI芯片的典型应用场景,这在很大程度上决定了芯片的应用效率;其次,要预测最前沿算法的发展趋势,保障芯片能够承载和支持这些最前沿的算法。这意味着,要让算法方和芯片方两者相互优化、协作开发,同时分层解耦。依图承建的视觉计算国家新一代人工智能开放创新平台(以下简称“视觉计算国家开放创新平台”)即应此而生。

2019年8月,国家科技部宣布由依图承建视觉计算国家开放创新平台,助力芯片设计与人工智能的深度结合,打造覆盖智能算法、芯片和产品的开放生态,推动视觉计算生态体系建设。

依图承建“视觉计算国家新一代人工智能开放创新平台”

搭建开放生态,突破算法和芯片对接瓶颈

“很多理论加速比很高的深度学习模型并不能被现在的AI芯片加速,依图承建的视觉计算国家开放创新平台希望起到连接器的作用,帮助新的AI模型的芯片化加速。”颜水成博士在分享中谈到,创新性的网络结构可能具备非常高的理论加速比,但无法在现有AI芯片和工具链上达到理论值。

比如,颜水成博士团队曾设计了一个More is Less结构,能够在降低模型计算复杂度的同时,让理论上的精度无损。模型虽好,但是基本上没有AI芯片能够支持这种结构,即模型的理论加速值无法在芯片上实现出来。

如果有一个平台能够让算法开发者和芯片开发者实时沟通,能够通过对大量算法模型的测试报告的结果进行统计,算法开发者可以知道自己的算法在卷积类型、操作类型、I/O的时间消耗等,并以此优化模型结构,从而更早地把新模型发展趋势考虑进来,芯片开发者就能确定芯片或工具链在下一版本的优化方向和目标,同时也可实现面向新型深度学习模型的芯片设计与优化,有助于让理论加速比变成实际的加速比。

颜水成博士表示,依图将通过开放的产品平台和生态社区,发挥“连接器”作用,依托视觉计算国家开放创新平台,打造算法及芯片的共赢生态,从而赋能更多人工智能应用广泛、快速落地,最终推动人工智能的行业的发展。