2024年3月8日 亚马逊云科技宣布Mistral AI的两款高性能模型Mistral 7B和Mixtral 8x7B在Amazon Bedrock上正式可用。Mistral AI是一家总部位于法国的AI公司,致力于将公开可用的模型提升至最先进的性能水平。他们专注于构建快速而安全的大语言模型(LLM),此类模型可用于从聊天机器人到代码生成等各种任务。Mistral AI入驻Amazon Bedrock,成为其第七家基础模型提供商,与AI21 Labs、Anthropic、Cohere、Meta、Stability AI和Amazon这些领先的 AI公司一起提供生成式AI服务。新模型的入驻进一步提高了用户在Amazon Bedrock上选择高性能基础模型的自由度,助力企业落地生成式AI。
Mistral 7B是Mistral AI推出的首个基础模型,支持英语文本生成任务并具备自然编码能力。它经过调优,在同等规模模型中具备低延迟、低内存要求和高吞吐量等优点。Mixtral 8x7B是前沿且优质的稀疏混合专家(Mixture-of-Experts, MoE)模型,非常适用于文本摘要、问题解答、文本分类、文本完善和代码生成等应用场景。
借助Amazon Bedrock,企业可以轻松使用Mistral AI的模型,解锁多种生成式AI用例。
文本摘要:Mistral AI模型善于从长文章中提取必要信息,帮助用户快速掌握文章主旨和核心要义。
个性化回答:Mistral AI模型具备卓越的语言理解、推理和学习能力,能够对问题给出个性化答案,内容更接近于人类回答。Mistral AI模型准确性高、可解释性好、功能全面,善于个性化任务,模型输出的内容与用户所需高度一致。
代码生成:Mistral AI模型对自然语言和代码相关任务的理解力都很卓越,这使其非常适用于同时面向编程代码和自然语言的项目。Mistral AI模型可帮助生成代码片段,给出修复漏洞(bug)的建议,优化既有代码,加速开发流程。
选择合适的基础模型是成功构建生成式AI应用程序的关键。Mistral AI模型具备如下优势:
卓越的性价比:Mistral AI模型的亮点之一是在成本和性能之间实现了卓越的平衡。采用稀疏混合专家技术使这些模型变得高效、普惠且可扩展,同时还能控制成本。
快速推理:Mistral AI模型推理速度极快,专门为低延迟响应进行了优化。在同等规模的模型中,Mistral AI模型对内存要求更低、吞吐量更大。这一优势对于希望在生产中扩展用例的企业来说尤为重要。
透明而可信赖:Mistral AI模型透明且可自定义,便于企业满足严格的监管要求。
面向广泛用户:Mistral AI模型可供所有用户使用。这有助于任何规模的企业将生成式AI功能集成到他们的应用程序当中。
降低微调门槛:Mistral AI模型可通过用户的自定义数据快速轻松地实现模型微调,以解决特定任务,显著提升性能,进而提供业务洞察。
Amazon Bedrock上的Mixtral 8x7B和Mistral 7B 模型已在美西(俄勒冈州)正式可用。