2024年4月23日 今天，亚马逊云科技宣布推出Amazon Bedrock的全新功能，为客户提供了一种更简单、更快捷、更安全的方法，帮助客户开发先进的生成式人工智能（AI）应用。目前，已有成千上万的用户选择将Amazon Bedrock作为其生成式AI战略的核心基础。Amazon Bedrock让用户能够轻松接入来自AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI以及亚马逊等公司的领先基础模型（FMs），同时满足了开发和部署生成式AI应用所需的功能性和企业级安全性需求。Amazon Bedrock提供的强大模型均以完全托管服务的方式提供给客户，因此客户无需担心底层基础设施，这为应用程序的无缝部署、可扩展性和持续优化提供保障。新增的功能允许客户在Amazon Bedrock上运行专属的完全托管模型，简化了为特定应用场景选择最佳模型的过程，并使得对生成式AI应用程序的保护措施更加易于实施，同时还扩展了模型的选择范围。
从迅速崛起的初创公司到注重安全的大型企业及政府机构，全球范围内各类组织正通过Amazon Bedrock激发创新、提升生产效率并打造全新的用户体验。例如，纽约证券交易所（NYSE）利用Amazon Bedrock丰富的基础模型和先进的AI生成能力，处理众多监管文件，并将复杂的法规内容转化为易于理解的语言。欧洲最大的航空公司瑞安航空正在通过Amazon Bedrock提升服务效率。Amazon Bedrock能够帮助机组人员实时查询特定国家法规的相关信息，或从数量庞大的手册中快速提取关键摘要，确保乘客的顺畅出行；专注于为社区医疗机构提供电子健康记录（EHR）解决方案的技术供应商Netsmart，正在努力减轻医护工作者在临床文档管理上的工作负担。通过在Amazon Bedrock上构建的生成式AI自动化工具，他们旨在将个人健康记录的管理时间减少高达50%。这将使Netsmart客户加速患者报销申请的提交过程，同时患者所得到的护理体验也将得到提升。
“企业应用Amazon Bedrock正呈现出爆炸式的增长。成千上万不同规模，来自不同行业的企业选择Amazon Bedrock作为他们生成式AI战略的核心基础，它极大加速并简化了企业从试验阶段到实际生产的转变。”亚马逊云科技AI和数据副总裁Swami Sivasubramanian博士表示，“客户对Amazon Bedrock充满热情，因为它不仅提供企业级的安全性和隐私保护，还提供了广泛的前沿模型选择，使得构建生成式AI应用变得前所未有得简单。随着今天新功能的推出，我们将继续快速创新，以为我们的客户提供更丰富的功能和行业领先的模型，进一步推动生成式AI的大规模普及。”
全新的专有模型导入功能可以帮助客户将其定制模型集成至Amazon Bedrock，减少运营成本并加速应用程序的开发
在Amazon Bedrock上，来自生命健康和金融服务等行业的客户不仅可以轻松访问AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI和亚马逊的多种领先的基础模型，还能利用自身数据定制公开模型，以支持特定行业的用例。当企业需要用自有数据构建这些模型时，他们通常依赖Amazon SageMaker这类服务，后者提供业内领先的模型训练功能，可以从头开始训练模型或对现有的公开模型如Llama、Mistral和Flan-T5进行高级定制。自2017年推出以来，Amazon SageMaker已成为构建和训练世界级基础模型的平台，其中包括超大参数量的公开模型Falcon 180。同时，客户还希望能够将他们自己的定制模型与Amazon Bedrock内置的高级生成式AI工具相结合，如知识库、Guardrails、代理（Agents）和模型评估等，而无需自行开发这些功能。
借助全新的Amazon Bedrock专有模型导入功能，企业现在能够将自己的定制模型导入到Amazon Bedrock中，以完全托管的API形式进行访问，这种方式为构建生成式AI应用程序带来前所未有的体验。只需点击几下，客户即可将他们使用Amazon SageMaker或其他工具开发的模型集成到Amazon Bedrock平台上。模型通过自动化验证流程后，客户便可像访问平台上其他模型一样，访问自己的定制模型，同时享受到目前Amazon Bedrock所具备的所有优势——包括无缝的可扩展性、强大的应用保护能力、遵循负责任的AI原则、利用检索增强生成（RAG）扩充模型知识库、轻松创建用于完成多步任务的代理（Agents）、进行微调以持续训练和优化模型，且无需管理底层基础设施。这一新功能让企业能够轻松地通过同一API访问Amazon Bedrock的模型与自己的定制模型。Amazon Bedrock专有模型导入功能现已推出预览版并支持三种最受欢迎的开放模型架构：Flan-T5、Llama和Mistral，并计划未来支持更多模型。
模型评估功能帮助客户评估、比较和选择适合其应用程序的最佳模型
Amazon Bedrock提供了最广泛的业内领先的模型选择，满足企业在价格、性能或能力方面的各种需求，并允许企业独占或与其他企业共享模型。构建生成式AI应用程序的关键一步是找到合适的模型，而选择特定应用场景的最佳模型则需要客户在准确性和性能之间达成微妙的平衡。现在，企业还需要花费大量时间分析每个新模型如何满足他们的应用场景，这阻碍了他们向用户提供生成式AI体验的速度。今天，模型评估功能已正式可用，它是企业快速分析和比较Amazon Bedrock上模型的最快方式，让评估模型的时间从几个星期缩短到几个小时，从而促使他们更快地推出新的应用程序并改善用户体验。客户可以立即开始评估，通过选择预定义的评估标准（例如准确性和鲁棒性）并上传自有数据集/提示词库，或者从内置的、公开可用的资源中进行选择。对于主观标准或需要细致判断的内容，Amazon Bedrock使客户能够轻松将人工审核融入工作流程中，以根据特定应用场景的指标（如相关性、风格和品牌声音）对模型进行评估。一旦设置完成，Amazon Bedrock将运行评估并生成报告，使客户能够轻松了解模型在关键指标上的表现，并迅速选择最适合其应用场景的模型。
通过Amazon Bedrock Guardrails功能，客户可以利用前沿技术轻松实施防护措施，去除个人信息和敏感信息、亵渎语言、特定词汇并屏蔽有害内容
企业需要以安全、可信任和负责任的方式实施生成式AI。许多模型使用内置控制来过滤不良和有害内容，但大多数客户希望进一步定制他们的生成式AI应用程序，以确保生成结果更具相关性，在符合公司政策的同时遵循负责任的AI原则。现在，Amazon Bedrock的Guardrails功能已正式可用，它在基础模型的原生能力之上提供了行业领先的安全保护，能够帮助客户阻止高达85%的有害内容。Guardrails是唯一一项由顶级云服务商提供的解决方案，它允许客户在单一服务中同时拥有内置和定制的防护机制，并可与Amazon Bedrock中的所有大语言模型（LLMs）以及经过微调的模型一起使用。要创建一个Guardrail，客户只需提供一个自然语言描述来定义其应用程序上下文中不予显示的主题即可。此外，客户还可以设置阈值以过滤如仇恨言论、侮辱、黄色用语、或在提示词中含有攻击和暴力性等内容，并设置过滤器来移除任何个人信息和敏感信息、亵渎言论或特定的屏蔽词。通过为生成式AI应用程序提供一致的用户体验和标准化的安全和隐私控制，Amazon Bedrock Guardrails使客户能够快速且安全地进行创新。
更多模型选择：Amazon Titan Text Embeddings V2、正式可用的Titan Image Generator，以及来自Cohere和Meta的最新模型
Amazon Bedrock专属的Amazon Titan模型是由亚马逊云科技在大规模且多样化的数据集上创建和预训练而成的，专为多种应用场景设计，并内置负责任的AI功能。Amazon Bedrock不断继续扩展Amazon Titan系列，为客户提供更多选择和灵活性。Amazon Titan Text Embeddings V2针对使用RAG的应用场景进行了优化，非常适合如信息检索、问答聊天机器人和个性化推荐等任务。许多企业采用RAG技术，这种流行的模型定制技术通过连接到知识源以增强基础模型的生成结果。然而，运行这些操作可能会消耗大量计算和存储资源。即将推出的新版Amazon Titan Text Embeddings V2模型降低了存储和计算成本，同时提高了准确性。通过为客户提供灵活的嵌入（embeddings）功能，将存储需求降低至原来的四分之一，显著降低了运营成本，同时在RAG应用场景中保持97%的准确性，表现优于其他领先模型。
Amazon Titan Image Generator现已正式可用，它为广告、电子商务、媒体和娱乐等行业客户提供了一种低成本的方式来生成专业级别的图像，或对现有图像进行增强和编辑，仅凭自然语言提示即可实现。Amazon Titan Image Generator还为其生成的所有图像设计了一个隐形水印，以帮助识别AI生成的图像，从而推动AI技术的安全、可靠和透明发展，并有助于减少虚假信息的传播。同时，Amazon Titan Image Generator还可以检查图片中是否存在水印，并帮助客户确认图片是否由其生成。
同时，Amazon Bedrock上的Meta Llama 3基础模型已正式可用，Cohere的Command R和Command R+模型也即将推出。Llama 3专为开发者、研究人员和企业设计，旨在支持他们构建、试验并负责任地扩展生成式AI项目。Llama 3模型是一系列经过预训练及微调的大语言模型，适用于广泛的应用场景，特别擅长执行文本摘要和分类、情感分析、语言翻译及代码生成等任务。而Cohere的Command R和Command R+模型则是前沿的基础模型，客户能够基于此构建支持10种语言、具备先进RAG功能的企业级生成式AI应用，助力全球业务拓展。
Amazon Bedrock助力客户和合作伙伴成功
由亚马逊打造的Rufus是一款以生成式AI为核心的专业购物助手，它是基于公司庞大的产品目录、客户建议、社区问答以及互联网信息进行训练。Rufus能够解答客户的购物疑问、提供产品比较，并根据对话情境进行推荐。“为了在亚马逊商店中提供卓越的对话式购物体验，我们致力于为Rufus开发先进的模型，并期待它为客户带来超乎预期的价值。”亚马逊商店Foundational AI部门副总裁兼杰出科学家Trishul Chilimbi表示，“通过利用Amazon Bedrock的定制模型导入功能，我们能够将Rufus先进的底层模型提供给内部开发人员，以完全托管的API形式访问它。现在，从物流到工作室的各个业务团队都可以使用这个模型来构建自己的应用，而Amazon Bedrock则简化了开发流程，帮助所有亚马逊客户快速开发新体验。”
电通是全球领先的综合营销和技术服务提供商之一。“在过去的三个月里，我们利用Amazon Titan Image Generator模型的预览版，通过自然语言提示词创造了大量逼真的专业级图像，主要用于产品推广和一致的品牌标识生成。”电通创意全球技术总监James Thomas表示，“我们的创意团队对Titan Image Generator生成的多样化内容感到印象深刻，这些内容帮助我们为全球范围内的广告活动创造了引人注目的图像。我们期待体验该模型新推出的水印检测功能，这将提升AI生成内容的透明度，并帮助我们与客户建立更牢固的信任关系。”
Salesforce是全球AI客户关系管理（CRM）领域的领导者，其“CRM+数据+AI+信任”的强大组合为企业提供了强大的客户连接能力。“AI是我们承诺帮助客户在Salesforce应用中提供个性化体验的核心，这些应用都建立在Data Cloud的数据之上。为了在我们的统一数据平台上实施生成式AI，我们正在评估各种基础模型，确保所选模型最符合客户的需求。”Salesforce AI产品高级副总裁Kaushal Kurapati表示，“Amazon Bedrock是我们开放生态系统模型策略的关键部分，这项新的模型评估功能提供自动化与人工评估两种方式，加速了我们的模型比较和选择。现在，我们不仅可以基于直观标准评估模型，还能从友好性、风格和品牌相关性等更多定性标准进行评估。这种能力的提升将使我们为客户运营模型变得更加简单和迅速。”
