开云-NVIDIA AI Foundry 为全球企业打造自定义 Llama 3.1 生成式 AI 模型

[导读]● NVIDIA AI Foundry 供给从数据策管、合成数据生成、微调、检索、防护到评估的全方位生成式 AI 模子办事，以便摆设自界说 Llama 3.1 NVIDIA NIM 微办事和新的 NVIDIA NeMo Retriever 微办事，以实现正确响应 ● 借助 NVIDIA AI Foundry，企业和列国此刻可以或许利用自稀有据与 Llama 3.1 405B 和 NVIDIA Nemotron 模子配对，来构建“超等模子” ● NVIDIA AI Foundry 供给从数据策管、合成数据生成、微调、检索、防护到评估的全方位生成式 AI 模子办事，以便摆设自界说 Llama 3.1 NVIDIA NIM 微办事和新的 NVIDIA NeMo Retriever 微办事，以实现正确响应 ● 埃森哲率先利用新办事，为客户建立自界说 Llama 3.1 模子;Aramco、AT T、优步和其他行业带领者率先利用全新 Llama NVIDIA NIM 微办事 美国加利福尼亚州圣克拉拉—2024 年 7 月 23 日—NVIDIA 公布推出全新 NVIDIA AI Foundry 办事和 NVIDIA NIM™ 推理微办事，与一样刚推出的 Llama 3.1 系列开源模子一路，为全球企业的生成式 AI 供给强力撑持。 借助 NVIDIA AI Foundry，企业和列国此刻可以或许利用 Llama 3.1 和 NVIDIA 软件、计较和专业常识，为其特定范畴的行业用例建立自界说“超等模子”。企业可使用自稀有据和由 Llama 3.1 405B 和 NVIDIA Nemotron™ Reward 模子生成的合成数据，来练习这些超等模子。 NVIDIA AI Foundry 是由 NVIDIA DGX™ Cloud AI 平台驱动。该平台由 NVIDIA 与全球领先的公有云配合设计，旨在为企业供给年夜量计较资本，所供给的计较资本可跟着 AI 需求的转变轻松扩大。 企业和制订主权 AI 计谋的国度正但愿建立具有特定范畴常识的自界说年夜说话模子，以便生成式 AI 利用可以或许反应其怪异的营业或文化。是以，这些新办事的推出恰逢当时。 NVIDIA 开创人兼首席履行官黄仁勋暗示：“Meta 的 Llama 3.1 开源模子标记着全球企业采取生成式 AI 的要害时刻已到来。Llama 3.1 将掀起各个企业与行业建立进步前辈生成式 AI 利用的海潮。NVIDIA AI Foundry 已在全部进程中集成了 Llama 3.1，并可以或许帮忙企业构建和摆设自界说 Llama 超等模子。” Meta 开创人兼首席履行官马克·扎克伯格暗示：“全新的 Llama 3.1 模子是开源 AI 迈出极为主要的一步。借助 NVIDIA AI Foundry，企业可以轻松建立和定制大师想要的最早进的 AI 办事，并经由过程 NVIDIA NIM 进行摆设。我很兴奋能将它交付到大师手中。” 企业此刻可以从 ai.nvidia.com 领会合用在 Llama 3.1 模子的 NVIDIA NIM 推理微办事，以加速将 Llama 3.1 模子摆设到出产级 AI 的速度。NIM 微办事是将 Llama 3.1 模子摆设到出产中的最快路子，其吞吐量最多可比不利用 NIM 运行推理时超出跨越 2.5 倍。 企业可以将 Llama 3.1 NIM 微办事与全新 NVIDIA NeMo Retriever NIM 微办事组合利用，为 AI copilot、助手和数字人虚拟形象搭建进步前辈的检索工作流。 埃森哲率先利用 AI Foundry 为企业建立自界说 Llama 超等模子 全球专业办事公司埃森哲率先借助 NVIDIA AI Foundry，利用 Accenture AI Refinery™ 框架为本身和那些但愿所摆设的生成式 AI 利用可以或许反应其文化、说话和行业的客户来建立自界说 Llama 3.1 模子。 埃森哲董事长兼首席履行官 Julie Sweet 暗示：“全球领军企业看到了生成式 AI 正在若何深切改变各行各业，而且但愿摆设由自界说模子驱动的利用。埃森哲的内部 AI 利用一向在利用 NVIDIA NIM 推理微办事。此刻，借助 NVIDIA AI Foundry，我们可以或许帮忙客户快速建立和摆设自界说 Llama 3.1 模子，为他们的优先营业事项供给变化性的 AI 利用。” NVIDIA AI Foundry 供给一种可用在快速构建自界说超等模子的端到端办事。其连系 NVIDIA 软件、根本举措措施和专业常识与开放社区模子、手艺和来自 NVIDIA AI 生态系统的撑持。 借助 NVIDIA AI Foundry，企业可以或许利用 Llama 3.1 模子和 NVIDIA NeMo 平台(包括在 Hugging Face RewardBench 上排名第一的 NVIDIA Nemotron-4 340B Reward 模子)建立自界说模子。 在建立了自界说模子后，企业便可以构建 NVIDIA NIM 推理微办事，以便在其首选的云平台和全球办事器制造商供给的 NVIDIA 认证系统™上，利用本身选择的最好机械进修运维(MLOps)和人工智能运维(AIOps)平台在出产中运行这些模子。 NVIDIA AI Enterprise 专家和全球系统集成商合作火伴与 AI Foundry 客户一同加速从开辟到摆设的全进程。 NVIDIA Nemotron 为高级模子自界说供给助力 假如企业需要更多练习数据来建立开云体育app特定范畴的模子，可以在建立自界说 Llama 超等模子同时利用 Llama 3.1 405B 和 Nemotron-4 340B 生成合成数据，以提高模子的正确性。 具有本身的练习数据的客户可使用 NVIDIA NeMo 对 Llama 3.1 模子进行自界说，经由过程范畴自顺应预练习(DAPT)进一步提高模子的正确性。 NVIDIA 和 Meta 还一路为 Llama 3.1 供给了一种提炼方式，供开辟者为生成式 AI 利用建立更小的自界说 Llama 3.1 模子。这使企业可以或许在更多加快根本举措措施(如 AI 工作站和笔记本电脑)上运行由 Llama 驱动的 AI 利用。 行业领军企业纷纭利用 NVIDIA 和 Llama 为 AI 供给强力撑持 医疗、能源、金融办事、零售、交通、电信等行业的企业已在利用合用在 Llama 的 NVIDIA NIM 微办事。首批利用面向 Llama 3.1 全新 NIM 微办事的公司包罗 Aramco、AT T 和优步。 Llama 3.1 多语种年夜说话模子(LLM)调集是一个具有 8B、70B 和 405B 三种参数范围的生成式 AI 模子调集。该调集中的模子在跨越 16,000 个 NVIDIA Tensor Core GPU 上练习而成，并针对 NVIDIA 加快计较和软件(不管是在数据中间、云和配备 NVIDIA RTX™ GPU 的当地工作站或配备 GeForce RTX GPU 的 PC 上)进行了优化。 全新 NeMo Retriever RAG 微办事年夜幅提高正确性和机能 经由过程利用全新的 NVIDIA NeMo Retriever NIM 推理微办事来实现检索加强生成(RAG)，企业可以将自界说 Llama 超等模子和 Llama NIM 微办事摆设到出产中，以提高响应正确性。 当与合用在 Llama 3.1 405B 的 NVIDIA NIM 推理微办事连系利用时，NeMo Retriever NIM 微办事可觉得 RAG 工作流中的开放和贸易文本问答带来极高的检索正确性。 企业生态系统为 Llama 3.1 和 NeMo Retriever NIM 摆设供给助力 数百家供给企业、数据和根本举措措施平台的 NVIDIA NIM 合作火伴此刻可以或许将这些新的微办事集成到其 AI 解决方案中，从而为 NVIDIA 社区 500 多万开辟者和 1.9 万家草创公司的生成式 AI 供给超强助力。 此刻可以经由过程 NVIDIA AI Enterprise 取得 Llama 3.1 NIM 和 NeMo Retriever NIM 微办事的出产撑持。NVIDIA 开辟者打算会员将很快可以或许免费拜候 NIM 微办事，以在他们首选的根本举措措施长进行研究、开辟和测试。

欲知详情，请下载word文档 下载文档

2024年8月7日，中国，北京——继 Google Cloud Next 24 后，全球领先的智能装备品牌 OPPO 本日表态 2024 年谷歌中国开辟者年夜会。OPPO 软件工程事业部总裁唐凯受邀进行主题演讲...

要害字： 生成式 AI AI 手机

云办事供给商、GPU 云供给商和企业用户纷纭采取 Spectrum-X；NVIDIA 收集经由过程泛博系统制造商进入各个市场 要害字： 生成式 AI 以太网

桑迪亚尝试室正在操纵检索加强生成(RAG)手艺建立 Kokkos 数据库，并将其与 AI 模子买通。研究人员采取分歧的 RAG 方式进行尝试，初步测试显示出了可喜的功效。

要害字： 生成式 AI 超等计较机