开云-Imagination GPU为边缘智能提供高效率的加速

[导读]作为奕斯伟计较的主要合作火伴，Imagination 公司受邀出席了9月10日在北京亦庄举行的“2024奕斯伟计较开辟者火伴年夜会”，来自Imagination英国总部的专家在年夜会上颁发了主题为《用RISC-V CPU + PowerVR GPU迎接边沿生成式AI的到来》的演讲。 作为奕斯伟计较的主要合作火伴，Imagination 公司受邀出席了9月10日在北京亦庄举行的“2024奕斯伟计较开辟者火伴年夜会”，来自Imagination英国总部的专家在年夜会上颁发了主题为《用RISC-V CPU + PowerVR GPU迎接边沿生成式AI的到来》的演讲。 在人工智能（AI）海潮中成立的奕斯伟计较一向致力在研究和开辟立异的计较架构，并经由过程与Imagination如许的全球领先处置器手艺和IP产物供给商合作，针对多模态AI年夜模子手艺带动多元化人工智能利用加快出现的新需求，开辟了面向边沿智能和AI PC等多种利用场景的EIC77系列芯片。这些AI SoC芯片操纵了RISC-V计较架构开放、矫捷、精简、可拓展的优势，连系了该公司自研的NPU和Imagination的GPU，成了全球首批可商用的基在RISC-V的高机能、低功耗的边沿侧、端侧AI推理芯片。 年夜会中，Imagination公司专家介绍了与奕斯伟计较的合作功效：作为奕斯伟计较向全球发布的EIC77 系列边沿智能SoC中的一款产物，全新的EIC7700X 器件基在 12nm 工艺，采取了 Imagination 的 IMG A 系列 GPU IP；该 GPU 具有 128 宽 ALU 单位和专用 AI 处置通道，可供给 0.25 TFLOPS、1 TOPS 和 8 Gpixels 的机能。EIC7700X也搭载了奕斯伟自研的NPU单位，可供给19.95 TOPS INT8、9.975 TOPS INT16、 9.975 FTOPS FP16 算力。EIC7700X为边沿智能供给了强劲的计较和图形处置能力，可撑持年夜说话模子，其在深度神经收集（DNN）推理上的算力高达13.3TOPS INT8，可知足分类、检测、朋分、追踪等各类需求。 谈到边沿计较的利用多元化与架构立异，Imagination公司专家暗示：起首，我们需要确保边沿计较架构可以或许进行有用的、可延续的扩大，在系统资本、电能和带宽等资本稀缺，和分歧利用场景对资本需求各不不异的环境下，这一点在边沿计较范畴更加主要。是以，矫捷通用的异构计较架构才能确保我们的边沿智能解决方案不会由于碎片化而没法实现，这要求我们具有的模子也将是通用的、可延续的，同时才能保障边沿系统中内计较核的数目可以公道地缩减以知足功耗要求。 为了确保足够的通用性以运行今朝的工作负载和将来的工作负载，就需要对边沿智能SoC入彀划采取的处置器机能和需求进行充实的评估，大师常常起首看的是两个潜伏的选择。一个选择可所以 NPU或在Imagination的产物组合中被称为AI，这类硬件的每瓦最高机能很是超卓，但为了到达更高的机能，利用NPU就需要牺牲一些矫捷性。第二种选择是 GPU，其长处是可以供给可编程的、可扩大的硬件加快能力，并可按照利用标的目的上的需求来选择响应的GPU去撑持所需衬着和计较能力。 固然这两种器件类型各有优势，边沿智能终究需要的是可以或许完善合用在利用的、在高机能和可扩大性，定制化和通用化中做出最明智决议计划的系列解决方案。从我们已有的实践和Richard Sutton的《苦涩的教训》中大师可以看到，人们在边沿人工智能中但愿可以或许操纵通用的硬件和软件解决方案，尽可能避免利用特定的解决方案，由于人工智能一向开云体育app在成长，所有的解决方案都要确保与时俱进。 在肯定了要用加倍通用的硬件和软件来鞭策根本模子的开辟和利用这一标的目的以后，愈来愈多的计较手艺正在加快诸如EIC77如许的边沿智能芯片走向更普遍的利用：一方面，RISC-V正在向机械进修的焦点范畴进发，不但是更多RISC-V CPU厂商在向此标的目的尽力，并且RISC-V的相干尺度也在进一步完美，使RISC-V成为进入AI范畴的一条开消最低的路子。另外一方面，边沿人工智能软件也在解脱其他AI利用受制在CUDA生态的局限，愈来愈多诸如OneAPI如许的利用法式接口可撑持工作负载的开辟和运行，和诸如UXL等行业组织也供给了将CUDA上的AI工作负载转化为SYCL为在 GPU 或 CPU 上运行的移植解决方案。 瞻望将来，Imagination将继续撑持奕斯伟计较提倡的RISC-V数字根本举措措施（RISC-V Digital Infrastructure）生态，在GPU 被用在愈来愈多和愈来愈普遍的工作负载，和撑持愈来愈多的根本模子和算法的同时，与更多的合作火伴在边沿计较、AI PC和AI加快等范畴中，配合打造更多高机能的智能产物。

欲知详情，请下载word文档 下载文档

北京2024年8月27日 /美通社/ -- 在8月23日举行的2024年长三角生态绿色一体化成长示范区结合招商会上，软通动力信息手艺（团体）股分有限公司（以下简称 软通动力 ）与长三角投资（上海）有限...

要害字： BSP 信息手艺

上海2024年8月26日 /美通社/ -- 本日，高端全合成润滑油品牌美孚1号联袂品牌体验官周冠宇，开启全新路程，助力泛博车主经由过程驾驶去摸索更广漠的世界。在全新发布的品牌视频中，周冠宇和分歧布景的消费者表达了对驾驶的酷爱...

要害字： BSP 汽车制造