开云-Meta Llama 3.1模型现已在亚马逊云科技正式可用 为生成式AI应用构建提供更多选择

[导读]北京——2024年7月24日 亚马逊云科技公布，Meta方才发布的新一代Llama模子现已在Amazon Bedrock和Amazon SageMaker中供给。客户也能够在基在Amazon Trainium和Amazon Inferentia自研芯片的Amazon Elastic Cloud Compute(Amazon EC2)实例中摆设这些模子。Llama 3.1模子是一系列预练习和指令微调的年夜说话模子(LLMs)，撑持8B、70B和405B三种尺寸，合用在普遍的利用场景。开辟人员、研究人员和企业可以用此模子进行文本摘要和分类、感情阐发、说话翻译和代码生成。 北京——2024年7月24日 亚马逊云科技公布，Meta方才发布的新一代Llama模子现已在Amazon Bedrock和Amazon SageMaker中供给。客户也能够在基在Amazon Trainium和Amazon Inferentia自研芯片的Amazon Elastic Cloud Compute(Amazon EC2)实例中摆设这些模子。Llama 3.1模子是一系列预练习和指令微调的年夜说话模子(LLMs)，撑持8B、70B和405B三种尺寸，合用在普遍的利用场景。开辟人员、研究人员和企业可以用此模子进行文本摘要和分类、感情阐发、说话翻译和代码生成。 Meta暗示，Llama 3.1 405B是今朝最优异和最年夜的开源根本模子(foundation models, FMs)之一，为生成式AI能力设立了新尺度。它特殊合用在合成数据生成和模子蒸馏，这能在后续练习中晋升较小尺寸Llama模子的机能。Llama 3.1 405B还在通用常识、数学、东西利用和多说话翻译方面有超卓的表示。 得益在年夜幅增添的练习数据和范围，所有新的Llama 3.1模子比拟之前的版本都有较着改良。这些模子撑持128K的上下文长度，相较在Llama 3增添了12万个标识表记标帜(Token)，模子容量是上一版本的16倍，并晋升了在以下八种说话对话场景中的推理能力，即英语、德语、法语、意年夜利语、葡萄牙语、印地语、西班牙语和泰语。 Llama 3.1模子还加强对说话细微不同的理解能力，即能更好地舆解上下文，并能更有用地处置复杂问题。该模子还可以从长篇文本中获得更多信息，以做出更明智的决议计划，并操纵更丰硕的上下文数据生成加倍注意和凝炼的回应。 亚马逊云科技首席履行官Matt Garman暗示：“我们与Meta连结着持久合作关系，今天很兴奋能将他们最早进的模子供给给我们的客户。客户遍及但愿按照他们的具体用例自界说和优化Llama模子，经由过程在亚马逊云科技上拜候Llama 3.1，客户可以操纵最新的领先模子来负责任地构建AI利用。” 曩昔十年间，Meta一向致力在为开辟人员供给东西，并增进开辟人员、研究人员和企业之间的合作双赢。Llama模子供给各类参数尺寸，答应开辟人员选择最合适其需乞降推理预算的模子。亚马逊云科技上的Llama模子打开了布满无穷可能的新世界，开辟人员无需再担忧扩大性或根本举措措施治理等问题。亚马逊云科技供给了一种简单的开箱即用的体例来利用Llama。 Meta开创人兼首席履行官马克·扎克伯格暗示：“开源是让AI造福所有人的要害。我们一向在与亚马逊云科技合作，将全部Llama 3.1模子集成到Amazon SageMaker JumpStart和Amazon Bedrock中，如许开辟人员便可以周全利用亚马逊云科技的各类能力来构建超卓的利用，例如用在处置复杂使命的高级智能体。” Llama 3.1模子的优势 Llama 3.1 405B · 合用在构建企业利用法式和研发 · 用例包罗：长篇文本生成、多说话和机械翻译、编码东西利用、加强的上下文理解，和高级推理和决议计划 Llama 3.1 70B · 合用在内容建立、对话AI、说话理解和研发 · 用例包罗：文本摘要、文天职类、感情阐发和细微推理、说话建模、代码生成和遵守指令 Llama 3.1 8B · 合用在计较能力和资本有限的环境和移动装备 · 更快的练习时候 · 用例包罗：文本摘要和分类、感情阐发和说话翻译 亚马逊云科技供给对多种年夜说话模子的轻松拜候 Amazon Bedrock为数万名客户供给平安、便捷的模子拜候，供给机能出色、完全托管的年夜型说话模子和其他根本模子选择，并具有领先的易用性，是客户最先利用Llama 3.1的便捷路子，此中8B和70B参数模子已正式可用，405B版本现供给预览。 客户但愿拜候Llama 3.1模子并操纵亚马逊云科技的所有平安性和功能，这些经由过程Amazon Bedrock供给的一个简单的API便可轻松实现，同时无需治理任何底层根本举措措施。客户还可使用Llama 3.1供给的负责任AI能力，该功能可以或许与Amazon Bedrock的数据治理和评估功能共同利用，例如Guardrails和模子评估。客户还可使用Amazon Bedrock行将推出的微调功能来自界说模子。 Amazon SageMaker是数据科学家和机械进修工程师预练习、评估和微调根本模子的绝佳平台，可以或许供给进步前辈的手艺和邃密的节制能力来摆设根本模子，以知足生成式AI用例在正确性、延迟和本钱方面的严酷要求。今天，经由过程Amazon SageMaker JumpStart，客户仅需几回点击便可发现和摆设所有Llama 3.1模子。跟着行将推出的微调功能，数据科学家和机械进修工程师将可以或许更进一步利用Llama 3.1，例如在短短几小时内将Llama 3.1适配在他们的特定命据集。 亚马逊云科技首席履行官Matt Garman暗示：“Amazon Bedrock是利用Llama 3.1进行快速构建的简单路子，供给行业领先的隐私和数据治理评估功能和内置庇护办法。Amazon SageMaker供给的东西选择和邃密节制，则使各行各业的客户可以或许轻松练习和调剂Llama模子，以鞭策亚马逊云科技上的生成式AI立异。” 对但愿经由过程自治理机械进修工作流的体例在亚马逊云科技上摆设Llama 3.1模子的客户，Amazon EC2供给普遍的加快计较选项，觉得其供给更年夜的矫捷性和对底层资本的节制。Amazon Trainium 和Amazon Inferentia2可以或许为微和谐摆设Llama 3.1模子供给高机能和本钱效益。客户可以经由过程利用的Amazon EC2 Trn1和Inf2实例在亚马逊云科技自研AI芯片上开启利用Llama 3.1的路程。 客户已在亚马逊云科技上利用Llama模子 全球金融办事团体野村控股(Nomura)的营业笼盖30个国度和地域。该团体正在利用Amazon Bedrock中的Llama模子简化海量行业文档的阐发，以提取相干的贸易信息，使员工可以将更多时候专注在从日记文件、市场评论或原始文档等数据源中提取洞见和获得要害信息。 领先的外包数字开云体育app办事和客户体验供给商TaskUs利用Amazon Bedrock中的Llama模子来撑持其专属生成式AI平台——TaskGPT。TaskUs在该平台上构建智能东西，主动化部门客户办事流程，释放团队成员处置更复杂的问题，并供给更好的客户体验。

欲知详情，请下载word文档 下载文档

编者案：Chris Betz作为亚马逊云科技首席信息平安官(CISO)，致力在确保亚马逊云科技运营的云根本举措措施对每一个人都尽量的平安。这意味着既要庇护亚马逊云科技客户的数据平安，同时还要确保这些企业的客户的数据平安。Ch...

要害字： 生成式AI 传感器

上海——2024年7月31日 在“亚马逊云科技汽车暨制造与消费电子行业峰会”上，亚马逊云科技公布正式启动“智能家居与智能产物立异加快打算”，该打算旨在进一步鞭策生成式AI手艺与行业的深度融会，加快立异方案落地，为智能家居...

要害字： 智能家居 生成式AI

北京——2024年7月12日 在亚马逊云科技纽约峰会上，亚马逊云科技公布正式推出多项新手艺和新办事，让每一个人都能更轻松地最先构建AI利用。此中，Amazon Q Apps已正式可用，可以或许按照简单描写建立利用法式;Amaz...

要害字： 机械进修 生成式AI

北京——2024年7月8日 全球化云开辟者平台涂鸦智能利用亚马逊云科技的生成式AI手艺与办事，在针对聪明范畴云开辟者平台和针对企业内部协同办公和手艺产研等要害场景打造生成式AI解决方案，极年夜晋升了开辟者效力和终端消费者...

要害字： 生成式AI Claude 3模子

北京——2024年6月27日 北京灵奥科技基在亚马逊云科技的生成式AI、数据库和容器等云办事，打造年夜模子中心件，将根本模子优势和企业营业数据无缝连系，买通企业AI利用落地的最后一千米。灵奥科技现已办事全球跨越30,000...

要害字： 生成式AI 数据库

Claude 3.5 Sonnet是Anthropic最早进的Claude系列AI模子的新成员，比Claude 3 Opus更智能且价钱只有其五分之一 要害字： AI模子 生成式AI