产品中心 产品中心
联系方式 CONTACT US

电话:0371-64955886

传真:0371-64955889 

QQ:742612104 547528771

联系人: 13607653684

邮箱:zzdczgyxgs@163.com


关注延迟、性能、功耗并重应用「龙加智」推出实时AI计算平台

来源:极速体育nba直播吧    发布时间:2024-02-20 09:08:41

详情展示

  近年来,AI在安防、物流、无人驾驶、医疗、教育等领域逐步深入落地,多样化的场景需求逐步推动算力需求的提升,同时也带动了AI芯片需求的迅速增加。Gartner曾预测,全球AI芯片的销售额将在2023年达到343亿美元,而2018年这一数字为42.7亿美元,年增长率可达52%

  近日,36氪接触到了一家来自硅谷的AI芯片研发设计公司——「龙加智(Dinoplus ai)」。该公司关注当下市场的同时对AI芯片提出的更加高的要求:更快处理速度、更低功耗、更低延迟,以独特的芯片架构、高效率灵活的软件架构为核心,开发了包括FPGA(现场可编程门阵列)和ASIC(特定应用集成电路)产品和相关的SDK(软件开发工具包)等软件产品在内实时AI计算平台。

  该平台可大范围的应用于私有云、5G、边缘云计算、工业自动化、无人商店等领域,能在提供与同种类型的产品一致性能表现下,实现更低功耗、确定的更低延时。

  一是绝大部分的AI芯片解决方案没有针对延迟优化,难以满足低时延和低“时延抖动”(单次请求的时延波动值)场景的需求。比如在无人驾驶中,计算延时必须控制在毫秒级别,否则会造成车毁人亡;而且延迟的确定性对总系统稳定性至关重要。 在语音控制场景中,长时延造成的卡顿也会影响用户体验。

  二是大部分AI芯片谈到低时延的时候仅仅针对图像和视频处理。 其实低时延对语音识别,搜索引擎,和自然语言处理等都有很大价值。

  三是AI处理器使用门槛高,不易使用,难以将其性能发挥到最好;另外,AI算法进化速度很快,很多AI计算平台难以适应未来算法。

  针对这样一些问题,龙加智都有相应的方案推出。龙加智在关注提升计算性能、降低功耗的同时,重视延时的缩短。“不单单是降低了延时,而且固定的、稳定的低延时,即计算平台在多次执行同一个任务时,反应时长是一个固定的数。”胡遇杰说,“市面上,许多AI处理器,每次执行同一任务时,反应时间都不一样,而用户在使用我们的计算平台时,是可以预计确切反应速度的,就能增加总系统的确定性和可靠性。”

  龙加智的AI芯片的延迟对大部分的AI任务都做到了低延迟,包括图形图像,语音,搜索,自然语言处理等。

  不仅仅延迟,在计算性能上也有优势。 根据测算,在具体的应用中,龙加智ASIC产品用于语音AI识别,解决能力约为Nvidia Tesla V100的13倍,功耗仅仅是前者的1/6;在图像AI识别中,龙加智能达到Nvidia Tesla V100相同的解决能力,而响应时间在0.12ms以下,是V100的1%左右。除了在语音和图像识别,龙加智联合运营商,能将5G边缘云计算的响应速度降低至0.12ms,将整个5G边缘云到终端的通讯计算速度的延时控制在10ms内。

  之所以能做到这样的性能,主要得益于龙加智独特的芯片架构。据介绍,该芯片采用了分布式存储架构、双片上网络结构、伪长指令集的处理器、控制回路和数据回路分割等技术、架构。这使得龙加智的AI芯片组可以特别高效率的利用计算单元,并能以很低且固定的延迟进行计算。“尤其在批处理数为1时(batchsize=1),芯片的浮点计算资源的典型利用效率接近77%。”胡遇杰说,“更高利用率说明我们的芯片可以更小面积、更低成本。而且龙价值的芯片组不需要外存就可以工作,这样也能节约一大块系统成本和功耗。”

  在AI计算平台“好用”方面,龙加智在芯片组的基础之上开发了专有编译器和SDK,在兼容市面上的主流计算框架的同时,也支持用户自行开发芯片应用。此外,胡遇杰还透露,公司正在针对智慧城市等垂直应用场景开发应用模版,用户只需进行简单的功能需求勾选就能配置相应芯片应用,希望以此逐步降低AI计算平台的应用门槛。

  商业模式上,龙加智主要是通过IP授权和产品营销售卖获得收益。目前, 龙加智针对图像和语音识别的FPGA产品已形成销售,通用可编程的ASIC产品也已成型。 IP授权也已被电信运营商、汽车制造商等大公司采用。

  龙加智认为,AI计算平台的打造必须能适应不断进化的AI算法,这就必须要做到强大性能和灵活性的统一。因而,龙加智AI计算平台下一步将继续融合专用ASIC的高性能和FPGA的灵活性。“决定计算平台或是芯片性能的关键除了计算单元之外,还有计算单元之间互联。”胡遇杰说,“龙加智的方案是将FPGA嵌入ASIC之中链接计算单元,利用FPGA的灵活性实现不同应用使用不同的连接,从而使高性能ASIC也能灵活适应算法的演进。”

  团队方面,龙加智的核心团队在技术和商业两方面都有丰富的经验。公司创始人兼CEO胡遇杰曾先后在爱立信、博通、Cadence工作,有15年的低延时ASIC和DSP研发经验。公司董事并执行主席Sam Heidari,曾任Quantenna Communications公司董事会主席兼首席执行官(2019年OnSemi 以11亿美元收购 Quantenna)并在多家私有和上市公司担任技术高管,是全球半导体联盟董事会成员。业务开发高级副总裁Patrick Ang是半导体行业成功的连续创业者和经验比较丰富的上市公司高管,曾在多家上市公司担任高级管理职务,包括OPTi的EVP,Creative Technology的副总裁和ESS Technology的首席运营官,拥有超过30年的半导体行业经验。

  据悉,龙加智曾于2017年完成天使轮融资,2020年初获得pre-A融资,目前A轮融资仍在进行中。

  龙加智科技与SiFive达成合作,共同开发人工智能处理器平台返回搜狐,查看更加多

官方微信

扫描识别联系我们

官方微信

扫描识别联系我们

版权所有©极速体育nba直播吧|极速体育直播在线观看|极速nba直播吧 备案号:豫ICP备2020034307号-1 服务热线:13607653684 网站地图