开云-Amazon Bedrock全新升级，新增业界领先的AI防护、新智能体功能和模型定制能力

[导读]Amazon Bedrock新增主动化推理查抄、多智能体协作和模子蒸馏三项新功能，基在坚实的企业级功能根本构建，助力客户更快地从概念验证过渡到出产级的生成式人工智能 北京——2024年12月12日 亚马逊云科技在2024 re:Invent全球年夜会上，公布推出Amazon Bedrock的三项新功能。Amazon Bedrock是一项完全托管的办事，借助高机能根本模子，构建和扩大生成式人AI利用法式。新发布的功能可帮忙客户避免因模子幻觉而致使的事实性毛病，编排多个AI智能体处置复杂使命，和建立更小的、针对特定使命的模子，这些模子在本钱与延迟方面远低在年夜型模子的同时，仍能告竣附近结果。 · 主动化推理查抄功能是强有力的生成式AI庇护办法，有助在避免因模子幻觉而致使的事实性毛病，从而斥地了需要更高精度的新的生成式AI用例。 · 多智能体协作功能可帮忙客户轻松构建和编排多个AI智能体，以配合解决问题，从而扩大客户利用生成式AI解决复杂用例的体例。 · 模子蒸馏功能使客户可以或许将特定常识从功能壮大的年夜模子转移到更小、更高效的模子，运行速度最快可提高500%，本钱下降75%。 · 现在，数以万计的客户在利用 Amazon Bedrock，穆迪公司、普华永道和Robin AI等公司都在利用这些新功能，以经济高效的体例扩年夜推理范围，实现史无前例的生成式AI立异。 亚马逊云科技人工智能和数据副总裁Swami Sivasubramanian博士暗示：“Amazon Bedrock具有普遍的模子选择、领先的功能，使开辟人员可以或许更轻松地将生成式AI集成到其利用中，而且重视平安和隐私。对但愿将生成式AI作为其利用和营业焦点的客户来讲，Amazon Bedrock已成为一个不成或缺的东西。是以，Amazon Bedrock的客户群仅在客岁就增加4.7倍之多。跟着生成式AI逐步改变愈来愈多企业营业和客户体验，推理将成为每一个利用的焦点部门。跟着此次新功能的推出，我们正在为客户进行立异，以解决全部行业在将生成式AI利用推向出产时面对的首要挑战，好比下降幻觉和本钱。” 主动化推理查抄功能避免因模子幻觉而致使的事实性毛病 固然模子在不竭前进，但即便是能力最强的模子也会发生幻觉，供给不准确或误导性的响应。幻觉依然是全部行业面对的一个底子挑战，这限制了企业对生成式AI的信赖。特殊是在医疗保健、金融办事和当局机构等受监管的行业中，正确性相当主要，这些组织需要进行审核，以确保模子做出恰当的响应。主动化推理查抄功能是壮大的生成式AI庇护办法，可经由过程逻辑正确且可验证的推理来帮忙避免因模子幻觉而致使的事实性毛病。经由过程提高客户对模子响应的信赖，主动化推理查抄功能为生成式AI斥地了瞄准确性要求极高的新利用场景。 主动化推理是AI的一个分支，它应用数学来验证工作的准确性。在处置用户需要切确谜底的问题时，主动化推理表示超卓，特别是在那些主题普遍且复杂、并有一套明白界说的法则或常识系统的范畴。亚马逊云科技具有一支由世界一流的主动化推理专家构成的团队，他们曩昔十年利用这项手艺在全部亚马逊云科技改良用户体验，例如正确摆设证实权限和拜候节制以加强平安性，或在摆设之前，对Amazon Simple Storage Service(Amazon S3)中的数百万个场景进行查抄，以确保可用性和持久性获得保障。 Amazon Bedrock Guardrails使客户可以或许轻松地将平安和负责任的AI查抄利用到生成式AI利用法式中，从而指点模子仅会商相干主题。经由过程Amazon Bedrock Guardrails，主动化推理查抄功能可让Amazon Bedrock验证事实响应的正确性，生成可审计的输出，并向客户正确展现模子得出成果的缘由。这提高了透明度，并确保模子响应合适客户的法则和政策。例如，健康保险供给商采取了生成式AI驱动的客户办事利用法式，它需要可以或许准确响应客户有关保单的问题，主动化推理查抄功能可实现这一点。为了利用该功能，供给商无需主动化推理方面的专业常识，只需上传其政策信息，Amazon Bedrock 会主动制订需要的法则，并指点客户频频测试，以确保模子调剂为准确的响应。然后，保险供给商利用主动化推理查抄功能，当模子生成响应时，Amazon Bedrock 会对其进行验证。假如响应不准确，例如弄错了免赔额或标识表记标帜了不在承保规模内的法式，Amazon Bedrock 会利用主动化推理查抄功能中的信息来建议准确的响应。 全球专业办事公司普华永道正在利用主动化推理查抄功能来建立高度正确、可托且有效的AI助手和智能体，以鞭策其客户的营业处在领先地位。普华永道将该功能纳入到为金融办事、医疗保健和生命科学范畴客户供给的特定行业解决方案，包罗验证AI生成的合规内容是不是合适美国食物药品治理局(FDA)和其他监管尺度的利用法式。在公司内部，普华永道采取主动化推理查抄功能来确保生成式AI助手和智能体生成的响应正确且合适内部政策。 轻松构建和调和多个智能体以履行复杂的工作流程 跟着企业将生成式AI作为其利用法式的焦点部门，这项手艺的利用不再仅限在总结内容和加强聊天体验。企业还但愿本身的利用法式可以或许履行现实操作。AI驱动的智能体可以经由过程操纵模子的推理功能，将使命(例如帮忙退货或阐发客户保存数据)分化为模子可以履行的一系列步调，从而帮忙客户的利用法式完成这些操作。Amazon Bedrock智能体功能使客户可以或许轻松构建智能体，使其可以或许跨公司系统和数据源工作。单个智能体可能很有效，但更复杂的使命，如对数百或数千个分歧变量进行财政阐发，可能需要年夜量各具特长的智能体。但是，要建立一个可以或许调和多个智能体、在智能体之间同享上下文并动态分派分歧使命给响应智能体的系统，需要专业东西和生成式AI专业常识，这是良多企业难以企和的。是以，亚马逊云科技扩大Amazon Bedrock智能体功能以撑持多智能体协作，使客户可以或许轻松地构建和调和专业智能体来履行复杂的工作流程。 凭仗Amazon Bedrock多智能体协作功能，客户可以经由过程为项目标特定步调建立和分派专用智能体，从而取得更正确的成果，并经由过程编排多个并行工作的智能体来加快使命。例如，金融机构可使用Amazon Bedrock智能体对一家公司进行投资前的尽职查询拜访。起首，客户可使用 Amazon Bedrock智能体建立一系列专注在特定使命的专用智能体，例如阐发全球经济身分、评估行业趋向和审查公司的汗青财政状态。在建立完所有专用智能体后，再建立一个主管智能体来治理全部项目。主管智能体负责调和工作，包罗将使命分化并路由到响应的智能体，为特定智能体供给完成工作所需的信息，并肯定哪些操作可以并行处置，和哪些操作需要期待其他使命的具体信息完成后才能继续。一旦所有专业智能体都完成了本身的使命，主管智能体味将信息汇总，综合成果，并制订整体风险概况。 穆迪公司是信誉评级和金融洞察范畴的全球带领者，已选择Amazon Bedrock多智能体协作功能来加强其风险阐发工作流程。穆迪公司正在操纵Amazon Bedrock建立智能体，为每一个智能体分派特定的使命，并答应其拜候量身定制的数据集，以实行其职责。例如，一个智能体可能会阐发宏不雅经济趋向，另外一个智能体可能会利用专有财政数据评估公司特定风险，第三个智能体则斟酌竞争和计谋定位。这些智能体无缝协作，将输出成果综合成切确、可操作的洞察。这类立异方式使穆迪公司可以或许供给更快、更正确的风险评估，巩固其作为金融决议计划范畴值得相信的权势巨子机构的名誉。 利用模子蒸馏功能建立更小、更快、更具本钱效益的模子 现在，客户正在测验考试各类型号的模子，以找到最合适其营业怪异需求的模子。但是，即便在所有可用模子中，也很难找到一个可以或许供给特定常识、本钱和延迟的最好组合。较年夜的模子常识更丰硕，但响应时候更长、本钱更高，较小的模子运行速度更快、更廉价，但功能不敷壮大。模子蒸馏是一种将常识从年夜型模子转移到小型模子，同时保存小型模子性价比的手艺。但是，这项工作需要机械进修(ML)专业常识来处置练习数据、手动微调模子，和在不侵害客户最初选择该小型模子的机能特点的条件下调剂模子权重。借助Amazon Bedrock模子蒸馏功能，任何客户此刻都可以蒸馏出本身的模子，与原始模子比拟，被蒸馏模子的速度可以提高500%，运行本钱下降75%，在检索加强生成(RAG)等用例中，正确性损掉低在2%。此刻，客户无需具有专业的机械进修常识，可按照本身用例进行优化，实现功能、正确性、延迟和本钱的最好组合。 借助Amazon Bedrock模子蒸馏功能，客户只需为给定的用例选择最好模子，该系列模子中的一个较小的模子便能知足客户对本钱和延迟的需求。在客户供给样本提醒后，Amazon Bedrock将完成生成响应和微调较小模子的所有工作，假如需要，它乃至可以建立更多样本数据以完成蒸馏进程。这为客户供给了一个具有年夜模子的相干常识和正确性，同时又具有较小模子的速度和本钱的模子，使其成为出产场景下(照实时聊天互动)的抱负选择。模子蒸馏合用在来自Anthropic、Meta的模子，和新发布的Amazon Nova模子。 Robin AI供给一款AI驱动的助手，该办事能使复杂的法令流程更快、更经济且更容易在拜候。该公司正在利用模子蒸馏来帮忙实现针对数百万合同条目的高质量法令问答。模子蒸馏帮忙Robin AI以极低的本钱取得所需的正确性，而更快的响应则为客户与AI助手之间供给了更流利的互动。 主动化推理查抄、多智能体协作和模子蒸馏功能均已预览可用。

欲知详情，请下载word文档 下载文档

北京2024年8月27日 /美通社/ -- 在8月23日举行的2024年长三角生态绿色一体化成长示范区结合招商会上，软通动力信息手艺（团体）股分有限公司（以下简称 软通动力 ）与长三角投资（上海）有限...

要害字： BSP 信息手艺

上海2024年8月26日 /美通社/ -- 本日，高端全合成润滑油品牌美孚1号联袂品牌体验官周冠宇，开启全新路程，助力泛博车主经由过程驾驶去摸索更广漠的世界。在全新发布的品牌视频中，周冠宇和分歧布景的消费者表达了对驾驶的酷爱...

要害字： BSP 汽车制造