开云-国产GPU AI训推达到国际水准！摩尔线程已媲美RTX 4090

[导读]6月14日动静，摩尔线程官方公布，2024年5月份与智谱AI展开了新一轮GPU年夜模子适配、机能测试，包罗年夜模子推理、基在夸娥(KUAE)千卡智算集群的年夜模子预练习。 6月14日动静，摩尔线程官方公布，2024年5月份与智谱AI展开了新一轮GPU年夜模子适配、机能测试，包罗年夜模子推理、基在夸娥(KUAE)千卡智算集群的年夜模子预练习。 测试利用的相干年夜模子，来自智谱AI基座年夜模子和其开源版本。 测试成果注解，在推理方面，摩尔线程自研全功能GPU显著优在基准对照产物RTX 3090和RTX 4090，此中全数测试用例中优在RTX 3090，在多batch下优在RTX 4090。 在练习方面，摩尔线程夸娥千卡智算集群的练习精度与A100集群比拟，误差在1%之内，而集群机能扩大系数跨越90%，模子算力操纵率(MFU)与A100集群相当。 这一成果，对中国年夜模子产物手艺生态具有主要的意义： 一是手艺自立新冲破。 摩尔线程千卡智算集群成功利用ChatGLM预练习，标记着摩尔线程有能力让年夜模子练习与推理在全国产可控的算力底座上运行，可加强手艺自立性，保障信息平安。 二是助力打破算力瓶颈。 按照Scaling laws(标准定律)，有限的算力供给可能成为制约年夜模子成长的要害瓶颈，而摩尔线程全功能GPU可以提高峻模子的迭代速度和自研程度，助推中国年夜模子更好成长。 三是开辟立异空间。 摩尔线程与智谱AI卓有成效的适配与测试合作，有益在鞭策实现软硬件的深度融会与协同立异。 四是下降运营本钱。 摩尔线程凭进的AGI算力底座，不但可以兼容适配全球主流AI软件生态，节俭迁徙本钱，并且在单元算力整体具有本钱上具有较为较着优势，可以或许有用下降年夜模子产物研发本钱。 值得一提的是，早在2022年8月，智谱AI就开源了GLM-130B模子，2023年又推出了千亿基座对话模子ChatGLM，和开源版本的ChatGLM-6B。 比来，摩尔线程陆续发布了与国产AI企业在年夜模子练习、推理方面的合作，首要包罗： - 第一家接入无问芯穹，适配无穹Infini-AI年夜模子开辟与办事平台，完成LLama2 700亿参数年夜模子练习测试、MT-infini-3B 3B(30亿参数)范围年夜模子实训 - 完成憨猴团体70亿、340亿。700亿参数目级年夜模子的散布式练习 - 完成与滴普企业年夜模子Deepexi v1.0的练习、推理适配 - 完成羽人科技70亿参数年夜说话模子YuRen-7b的练习测试 - 完成师者AI 70亿参数全学科教育年夜模子的高强度练习测试

欲知详情，请下载word文档 下载文档

7月4日动静，在2024世界人工智能年夜会上，图灵奖得主罗杰·瑞迪暗示，AI是一个新物种，这个物种比我们人类要壮大良多倍。

要害字： 图灵 AI

7月开云体育app4日动静，按照LSEG SmartEstimate对27名行业阐发师的猜测，三星电子的营业利润可能到达8.8万亿韩元(约合63.4亿美元)。

要害字： 内存芯片 三星

7月5日动静，据国外媒体报导称，本地时候7月4日，欧盟委员会在对中国电动汽车(BEV)进行动期九个月的反补助查询拜访后，决议对来自中国的电动汽车进口征收姑且反补助税。

要害字： 电动汽车

7月5日动静，2024世界人工智能年夜会(WAIC)日前在上海揭幕，国内首款开源鸿蒙全尺寸人形机械人在年夜会表态。

要害字： 人形机械人

7月3日动静，现在良多人可能都不知道“软盘”是甚么工具了，但日本当局却一向对峙利用，此刻终究要完全打消了。

要害字： 软盘

7月4日动静，在今天的比亚迪泰国工场完工暨第八百万新能源车下线发布会上，比亚迪董事长王传福颁发了讲话。

要害字： 王传福

7月3日动静，日前，赛力斯表露控股子公司赛力斯汽车有限公司拟25亿元收购华为和其联系关系方持有的问界等系列文字和图形商标等。

要害字： 赛力斯 新能源

7月2日动静，小米和联发科开启更深条理的多元合作，位在小米深圳研发总部的“结合尝试室”本日揭牌。

要害字： 小米 联发科

7月3日动静，日前，赛力斯表露控股子公司赛力斯汽车有限公司拟25亿元收购华为和其联系关系方持有的问界等系列文字和图形商标等。

要害字： 赛力斯 新能源