69年前的炎天，麦卡锡在达特茅斯学院的学术研究会上第一次提出了“人工智能”的观点，同时也正式标记着AI的出生，在随后的多少十年间，跟着神经收集、呆板进修等方面的研讨日趋完美，各种年夜模子纷纭落地，人工智能也真正意思上迎来了属于本人的高光时辰。正如冯·诺伊曼所说的，“技巧的一直减速提高，将会激发人类汗青上某个要害的奇点。”现在，咱们比以外都更凑近谁人转变汗青的霎时。对浩繁企业而言，经由过程集成年夜模子来晋升利用休会跟功效深度曾经成为了广泛共鸣，但“幻想很饱满，事实很骨感。”一个摆在面前的成绩是，差别的企业有着差别的行业属性跟落地场景，模子选的太庞杂，可能会牛鼎烹鸡，抉择才能缺乏的模子，则会白白挥霍企业的本钱投入。怎样更好地管控模子应用、下降本钱付出，并清楚地洞察AI应用近况跟效劳成绩，成为企业构建AI利用的内涵诉求。2023年4月份，亚马逊云科技正式对外宣布了Amazon Bedrock，并在随后的多少个月时光里疾速建立了包含基本设备层、模子东西层跟利用层在内的天生式AI三层技巧栈系统，建立了云端构建跟应用天生式AI的新范式，并十分麋集地停止了一系列的严重功效更新，此中，全托管式天生式AI效劳Amazon Bedrock恰是天生式AI三层技巧栈中最主要的模子东西层。据亚马逊云科技CEOMatt Garman表现，现在，天天都无数以万计的客户在出产利用中应用Amazon Bedrock，仅在客岁的应用量就增加了濒临5倍。在未几前举行的2024 re:invent时期，Amazon Bedrock更是一口吻宣布了21项新特征，从而让企业可能在统筹范围与本钱的同时抉择最合适营业场景的年夜模子，并放慢AI策略的落地。模子抉择片面进级在亚马逊云科技建立之始，就明白了客户至上的理念，即开辟者跟客户永久有抉择最优产物的权力，无论是上百款数据库，仍是超越百款的EC2都在证实这一点，而在模子抉择方面，这一理念同样见效。起首天然是对2024 re:invent时期推出的Amazon Nova系列模子的支撑，此中包含文生文模子Nova Micro，低本钱多模态模子Nova Lite，在正确性、速率跟本钱间实现均衡的Nova Pro、可处置庞杂推理义务的Nova Premier、新一代图像天生模子Amazon Nova Canvas以及新一代视频天生模子Amazon Nova Reel，这些模子分辨实用于差别的应用场景，并在多种义务中展示召盘尖的机能，且具有行业当先的性价比，特殊是Amazon Nova Micro、Lite跟Pro在各自的智能种别中，本钱要比Amazon Bedrock中表示最佳的模子还要廉价至少75%，同时在包含伯克利函数挪用排行榜、VisualWebBench网页阅读器操纵基准测试、Mind2Web通用多模态代办基准测试，以及综合RAG测试中的种种行业基准测试中表示优良，并支撑Amazon Bedrock的种种新特征。别的，Amazon Bedrock也接入了浩繁行业上的当先模子，如可能根据文本跟图像高效且以片子级质感天生高品质视频的Ray2，用于代码天生、测试、文档体例以及及时代码补全的malibu跟point，以及可能根据种种作风的文本描写天生高品质图像的Stable Diffusion 3.5 Large等等。为了全方位满意客户在差别场景的奇特需要，亚马逊云科技还推出了Amazon Bedrock Marketplace，为用户呈上多达100 余种涵盖热点、新兴以及专业范畴的多样化模子，如Mistral AI的Mistral NeMo Instruct 2407、Technology Innovation Institute的Falcon RW 1B以及NVIDIA NIM微效劳、以及用于金融行业的Writer的Palmyra-Fin、用于翻译的Upstage的Solar Pro、Camb.ai的文本转音频MARS6以及用于生物学的Evolutionary Scale的ESM3天生模子等。更低本钱，更高效力有一个行业内的广泛共鸣是，企业在抉择模子时，每每会基于机能、功效跟本钱等方面停止衡量，依据差别的场景需要抉择差别定位的模子。尤其是本钱，在模子才能跟用户休会相差不年夜的情形下，谁能用更低的本钱供给效劳，谁就盘踞了更年夜的上风。为此，Amazon Bedrock也在本钱、速率跟正确率等方面停止了片面优化。在下降推理本钱方面，Amazon Bedrock的提醒词缓存、提醒词智能路由、模子蒸馏三年夜功效能够无效下降本钱，详细来说：经由过程提醒词缓存功效，能够无效增加反复处置且不会影响正确性，对受支撑的模子，该功效最高可将本钱下降90%，并将耽误最多收缩85%。借助提醒词智能路由功效，客户可能在设置AmazonBedrock时主动把提醒词调配到统一模子系列里的差别基本模子，以优化呼应品质跟本钱，因为该功效能够猜测每个恳求对应的每个模子的机能，并将恳求静态路由至最有可能以最低本钱供给所需呼应的模子，可在不影响正确性的条件降落低多达30%的本钱。而模子蒸馏功效则能把年夜模子的常识转移到小模子上，同时保存小模子的性价比，从而让客户在不专业呆板进修常识的条件下，依据本人的用例优化模子，以较小的模子满意在本钱跟耽误方面的请求。与原始模子比拟，被蒸馏模子的速率能够进步500%，运转本钱下降75%，在检索加强天生（RAG）等用例中，正确性丧失仅不到2%。别的，Amazon Bedrock还推出了低耽误优化推理功效，该功效基于Amazon EC2 Trn2实例，应用最新硬件跟软件优化，可在多模子上实现更好的推感性能。用户指定推理恳求优先级后，平台就能够主动处置，为支撑的指定模子供给优化的机能。常识库功效更新针对基本年夜模子无奈获取专属常识的成绩，Amazon Bedrock的常识库功效能够让模子读懂用户专属的内容以裁减模子的常识面、从而晋升天生成果的关系性跟正确性。此次更新在以往浩繁差别的数据源接入的基本上，新增了却构化数据检索支撑跟图数据的支撑，以及将非构造化多模态数据转换为构造化数据的新功效。详细来说，经由过程构造化数据检索功效，客户可能直接查问天生式AI利用顺序中构造化数据的存储地位，借助该功效，提醒词信息也会转换为SQL查问，用于检索数据成果，同时，常识库还会依据客户的架构跟数据停止主动调剂，从查问形式中进修，并供给一系列定制选项，来进一步进步所选用例的正确性。而对GrahpRAG的支撑则能天生更具相干性的呼应。客户能够在不具有图数据库专业常识的条件下，应用Amazon Neptune图数据库效劳主动天生图谱，从而将差别的相干信息映射成网状构造来对数据间的关联停止建模跟存储，并跨数据链接各实体之间的关联。除此之外，Amazon Bedrock还新增了Amazon Bedrock Data Automation功效，它可能将非构造化多模态数据转换为构造化数据，用于天生式AI跟剖析。该功效能够疾速从非构造化数据文件中提守信息，并将其转化为构造化格局，实用于智能文档处置、视频剖析以及RAG等场景，并应用预约义的默许设置天生内容，比方视频片断每个场景的描写、音频的转录内容。客户也能依据本身数据架构天生定制化输出，轻松加载到现无数据库或数据堆栈。据悉，宝马团体行将为旗下的人工智能驱动的虚构助手My AI Assistant（MAIA）实行GraphRAG，借助Amazon Neptune支撑的GraphRAG主动化图形建模功效，宝马团体可能根据数据应用情形，连续更新MAIA所需的常识图谱，从其数据资产中供给更具相干且片面的洞察，进而连续为数百万车主打造优质休会。新增主动推理检讨功效亚马逊CEO Andy Jassy在2024re:Invent报告中提到“良多时间，人们用不错的模子做了些任务，就认为打造出很棒的天生式AI利用顺序了，但现实上可能只实现了大略70%的任务，而客户不会爱好那30%存在成绩的利用顺序。”而在这30%的成绩傍边，尤以模子幻觉最难处置。固然年夜模子的机能在一直提高，但即使是才能最强的模子也会发生幻觉，供给不准确或许误导性的呼应，这在很年夜水平上会影响企业对天生式AI的机能。幻觉固然难以根绝，但天生内容中的现实性过错却并不难发明。“从前年夜模子缺少可证实现实的逻辑，招致呈现幻觉时难以改正。但有了主动推理技巧，咱们可能经由过程数学验证方法周密证实现实性过错能否会产生，从而无效改良幻觉成绩。”亚马逊云科技年夜中华区产物部总司理陈晓建表现。现在业界广泛以为，主动化推理检讨功效是强盛的天生式AI维护办法，可经由过程逻辑正确且可验证的推理来辅助避免因模子幻觉而招致的现实性过错，因为其应用数学来验证事件的准确性，因而在处置用户须要准确谜底的成绩时，主动化推理检讨功效会带来愈加准确的成果。Amazon Bedrock Guardrails中就供给了这一功效，该功效可让Amazon Bedrock验证现实呼应的正确性，天生可审计的输出，并向客户清楚展现模子得出成果的起因。这晋升了通明度，确保模子呼应合乎客户的规矩跟政策。以某安康保险供给商为例，该公司采取了天生式AI驱动的客户效劳利用顺序，在安排了AmazonBedrock后，供给商只要上传其政策信息，Amazon Bedrock便会主动制订须要的规矩，并领导客户停止重复测试，以确保模子调剂为准确的呼应，在启用主动化推理检讨功效后，Amazon Bedrock还会对模子天生的呼应停止验证，假如呼应不准确，Amazon Bedrock还会经由过程主动化推理检讨功效中的信息来倡议准确的呼应。多智能体合作进步效力AI智能体作为将天生式AI才能利用于事实天下的主要道路，逐步被越来越多的企业所器重，此前亚马逊云科技曾经在Amazon Bedrock推出了智能体功效，使得客户可能跨公司体系跟数据源任务，但假如要对数百或许数千个差别变量停止财政剖析，单个智能体就能干为力了，但是，要想创立一个可能和谐多个智能体、在智能体之间共享高低文并静态调配差别义务给响应智能体的体系也须要良多专业东西跟天生式AI专业常识，这是良多企业所不存在的。为懂得决这一成绩，亚马逊云科技扩大了Amazon Bedrock的智能体功效以支撑多智能体合作，使客户可能轻松地构建跟和谐专业智能体来履行庞杂的任务流程，凭仗该功效，客户能够经由过程为名目的特定步调创立跟调配公用智能体，从而取得更正确的成果，并经由过程编排多个并行任务的智能体来减速义务。信誉评级跟金融洞察范畴的引导者穆迪公司曾经抉择Amazon Bedrock多智能体合作功效来加强其危险剖析任务流程。详细来说，经由过程Amazon Bedrock创立智能体，并为每个智能体调配特定的义务，如A智能体用于剖析微观经济趋向、B智能体用于应用专有财政数据评价公司特定危险、C智能体用于斟酌竞争跟策略定位，这些智能体能够无缝合作，将输出成果综分解准确、可操纵的洞察，从而为穆迪公司供给更快更正确的危险评价，坚固其作为金融决议范畴值得信任的威望机构的名誉。正如亚马逊云科技人工智能跟数据副总裁Swami Sivasubramanian博士所说的，“Amazon Bedrock领有普遍的模子抉择、当先的功效，使开辟职员可能更轻松地将天生式AI集成到其利用中，而且重视保险跟隐衷。对盼望将天生式AI作为其利用跟营业中心的客户来说，Amazon Bedrock已成为一个弗成或缺的东西。因而，Amazon Bedrock的客户群仅在客岁就增加4.7倍之多。跟着天生式AI逐步转变越来越多企业营业跟客户休会，推理将成为每个利用的中心局部。跟着此次新功效的推出，咱们正在为客户停止翻新，以处理全部行业在将天生式AI利用推向出产时面对的重要挑衅，比方下降幻觉跟本钱。”