原标题：挖掘生成式AI价值，亚马逊云科技Amazon Bedrock进一步扩大可选模型范围

　　Amazon Bedrock正式可用，帮助更多客户构建和扩展生成式AI应用程序

　　Amazon Bedrock是一项完全托管的服务，提供了来自众多领先AI公司(包括AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亚马逊)面向海外业务的的高性能基础模型，以及企业构建生成式AI应用程序所需的一系列功能，能够在实现简化开发的同时确保隐私性和安全性。基础模型具有良好的适用性，可为信息搜索、内容创建及药物发现等诸多领域提供支持。但是对于许多希望利用生成式AI的企业来说，尚有一些问题需要解决。首先，它们需要简单直观的选取和访问高性能基础模型，满足其场景需求且表现优异;其次，客户希望应用程序实现无缝集成，无需管理庞大的基础设施集群或花费大量成本;最后，客户希望借助基础模型并结合自身数据来轻松构建差异化的应用程序，而这些客户用于定制的数据无疑是非常宝贵的资产，具有知识产权，因此在使用过程中必须做到全面保护，在确保安全和隐私的同时，保证客户对数据共享和使用方式拥有控制权。

　　借助Amazon Bedrock的完善功能，企业能够更方便、轻松地尝试多种领先的基础模型，使用自己的专有数据定制模型。此外，Amazon Bedrock还提供差异化能力，例如无需再编写任何代码便可创建的托管代理(AI agent)，它可以执行复杂任务，如旅行预订、处理保险索赔、策划广告活动和管理库存等。由于Amazon Bedrock采用无服务器(serverless)技术，客户不必管理任何基础设施，就可以使用已经熟悉的亚马逊云科技服务将生成式AI能力安全地集成和部署到应用程序中。

　　Amazon Bedrock在开发之初就考虑到安全性和隐私保护，帮助客户保护敏感数据。客户可以使用Amazon PrivateLink，在Amazon Bedrock与虚拟私有网络(VPC)之间建立专门的安全连接，确保任何数据传输都不会暴露在公共网络。对于存在高度监管需求的客户，Amazon Bedrock符合HIPAA(《健康保险流通与责任法案》)要求，并且可以在GDPR(欧盟《通用数据保护条例》)合规标准下使用，让更多的客户从生成式AI中获益。

　　Amazon Bedrock通过Amazon Titan Embeddings和Llama 2进一步扩大可选模型范围，

　　帮助每个客户找到适合应用场景的模型

　　事实上，没有任何一个单一模型可以适用于所有的应用场景。因此，为了挖掘生成式AI的价值，企业往往需要访问多个模型，根据自己的要求寻找最适合的那一个。为此，Amazon Bedrock让出海客户只需通过单一API就能找到和测试AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亚马逊提供的领先的基础模型。此外，亚马逊云科技近日还宣布了Anthropic未来的所有基础模型都将在Amazon Bedrock上可用，并为亚马逊云科技出海客户提供模型定制和微调等特殊功能的优先访问。而现在起，Amazon Bedrock再次引入新的基础模型带来更多选择：

　　Amazon Titan Embeddings现正式可用：Amazon Titan基础模型是由亚马逊云科技在大型数据集上创建和预训练的一系列模型，可以支持各种应用场景。作为这些模型中第一个正式可用的模型，Amazon Titan Embeddings是一种大语言模型(LLM)，它将文本转换成被称为嵌入向量(embeddings)的数值表示，以支持检索增强生成(RAG)的应用场景。基础模型虽然适用于多种任务，但却只能根据从训练数据和提示词上下文中学到的信息来回答问题。一旦这些回答需要利用高时效性的知识或专有数据时，其有效性就会受限。为了能通过扩展数据来改进基础模型的回答，许多企业将目光转向RAG——这一流行的模型定制技术能将基础模型连接到可被引用的知识库，从而改进响应效果。要开始使用RAG，客户必须先访问一个嵌入模型，将数据转换成嵌入向量，使基础模型更容易理解数据之间的语义和关系。然而，构建嵌入模型需要大量的数据和资源，以及深厚的机器学习专业知识，因此很多客户很难完成自行构建，也就无法实现RAG。Amazon Titan Embeddings使客户能够更简单地启用RAG，以便利用专有数据扩展各种基础模型的能力。Amazon Titan Embeddings支持超过25种语言和多达8192个token的上下文长度，非常适合基于企业的应用场景处理单个单词、短语或整个文档。该模型可返回1536个维度的输出向量，确保高度准确性的同时还专为实现更低延迟和更优性价比进行了优化。

　　Llama 2即将在未来几周推出：Amazon Bedrock是业界 通过托管API提供Meta下一代大语言模型Llama 2的完全托管的生成式AI服务。Llama 2模型比之前的Llama模型有了显著改进，包括使用了比原始训练多40%的训练数据，并具有更长的上下文长度(4000个token)，以处理更大的文档。Amazon Bedrock提供的Llama 2模型已经过优化，可以在亚马逊云科技基础设施上提供快速响应，非常适合对话式应用场景。客户可以构建由130亿和700亿个参数的Llama 2模型驱动的生成式AI应用程序，且无需设置和管理任何基础设施。

　　Amazon CodeWhisperer新功能将允许客户使用私有代码库安全地定制CodeWhisperer代码建议，

　　进一步提升开发人员效率

　　Amazon CodeWhisperer是一款基于AI的编程助手，它通过对数十亿行来自亚马逊和公开可用的代码进行训练，提高开发人员的生产力。虽然开发人员在日常工作中频繁使用CodeWhisperer，但有时他们需要将其企业内部私有代码库(例如内部API、代码库、软件包和类)整合到应用程序中，而这些代码都不属于CodeWhisperer的训练数据。内部代码的使用也是一个难题，因为说明文档有限，并且没有开发人员可以求助的公共资源或论坛。

　　例如，要编写一个用于从购物车中移除商品的函数，开发人员必须首先了解用于与应用程序交互的API、集合和其他内部代码。以前，开发人员可能需要花费数小时来检查以前编写的内部代码，从而找到所需信息并理解其工作原理。即使找到了正确的资源，他们仍需仔细检查代码，以确保其符合公司编码的 实践，并且不会重复引用代码中的任何缺陷或漏洞。

　　Amazon CodeWhisperer新定制功能将解锁生成式AI编程的全部潜力，通过安全地利用客户的内部代码库和资源提供定制化建议。这使得开发人员在各种任务中能够更准确地获得代码建议，从而节省时间。首先，管理员需要从源(例如GitLab或Amazon S3)连接到他们的私有代码存储库，并调度一个作业来创建自己的定制内容。在创建定制内容时，CodeWhisperer利用各种模型和上下文定制技术，学习客户的代码库并改进实时代码建议，从而使开发人员花更少的时间去寻找无差别的问题的正确答案，同时将更多时间投入到创建新的差异化体验上。管理员可以在亚马逊云科技控制台(Amazon Console)集中管理所有定制功能、查看评估指标、估算每个定制功能的性能，并有选择地将它们部署给公司内特定的开发人员，以限制对敏感代码的访问。

　　通过选择高质量的存储库，管理员可以确保CodeWhisperer提供的定制建议不包含已弃用的代码，以满足企业质量与安全标准。考虑到企业级安全和隐私，这项功能可以确保定制内容完全私密，而支持CodeWhisperer的底层基础模型在训练过程中不使用定制内容，能够保护客户宝贵的知识产权。该自定义功能将很快作为CodeWhisperer企业版的一部分在预览中提供给客户使用。此外，CodeWhisperer的自定义设置默认确保了安全性，无论客户使用Amazon CodeWhisperer专业版还是企业版，在处理来自开发人员 IDE 的请求时，亚马逊云科技均不会存储或记录任何客户内容。

　　Amazon QuickSight的新生成式BI创作功能，

　　可以帮助业务分析师使用自然语言命令轻松创建和定制数据可视化效果

　　Amazon QuickSight是一个为云端构建的统一BI服务，能够创建交互式仪表盘、分页报告以及嵌入式分析，同时具备使用QuickSight Q进行自然语言查询的能力，因此企业的每位用户都能以他们偏好的格式获取所需的洞察。

　　通常情况下，商业分析师需要花费数小时使用BI工具来探索各种不同的数据源，添加计算、创建和完善可视化效果，然后将它们呈现在仪表盘中提供给业务利益相关者。要创建一个简单的图表，分析师首先必须找到正确的数据源、识别数据字段、设置过滤器，同时进行必要的个性化设置以实现良好的可视化效果。

　　如果进行数据可视化需要进行新的计算(例如年度销售额)，分析师还必须确定所需的参考数据，然后创建、验证并将视觉效果添加到报告中。如果可以减少商业分析师手动创建和调整图表和计算所花费的时间，让他们将更多时间投入到高价值的任务中，企业也能从中获益。

　　新的生成式BI创作功能扩展了QuickSight Q的自然语言查询功能，使其不仅能够回答清晰表述的问题(例如，“加利福尼亚州销售排名前10的产品是什么?”)，还能帮助分析师从问题片段(例如，“销售排名前10的产品”)快速创建可定制的视觉效果，通过提出后续问题来澄清查询意图，优化视觉效果，并完成复杂的计算。业务分析师只需描述想获得的结果，QuickSight即可生成具有良好观感的视觉对象。分析师仅需简单操作就能将其轻松添加到仪表盘或报告中。

　　例如，分析师可以要求QuickSight Q为“2022年和2023年运动鞋销售额的月度趋势”创建可视化内容，该服务会自动选择合适的数据，并根据请求使用最合理的图表格式(比如线形图或条形图)绘制所需信息。QuickSight Q还将提供预设的提示问题，帮助分析师澄清在多个数据字段与其匹配查询时可能出现的歧义(比如图表应包括运动鞋销售额的美元总额还是销售的单位个数)。

　　分析师获得了最初的可视化内容后，还可以使用自然语言添加复杂的计算，改变图表类型，或优化可视化效果。QuickSight Q中新的生成式BI创作功能使业务分析师能够轻松快捷地创建良好的视觉效果，更快速地为大规模数据驱动型决策提供宝贵的信息依据。

   投稿邮箱：chuanbeiol@163.com   详情请访问川北在线：http://www.guangyuanol.cn/