互联网

从自定义导入到完全托管,在Amazon Bedrock上做满血版DeepSeek-R1企业级部署更容易了

来源:TechWeb 作者:果青 2025-03-11 15:20:17 我要评论

3月11日消息,今年1月末,亚马逊云科技就率先全面上线DeepSeek-R1模型,并为其客户提供了四种部署DeepSeek-R1模型的方法,其中就

3月11日消息,今年1月末,亚马逊云科技就率先全面上线DeepSeek-R1模型,并为其客户提供了四种部署DeepSeek-R1模型的方法,其中就包括通过Amazon Bedrock 自定义导入DeepSeek-R1-Distill模型。

自1月下旬该模型推出以来,已有数千名客户使用Amazon Bedrock的自定义模型导入功能部署了DeepSeek-R1模型。

3月11日,亚马逊云科技宣布在Amazon Bedrock上推出完全托管的满血版DeepSeek-R1。

从自定义导入到完全托管,企业客户通过Amazon Bedrock部署DeepSeek-R1的方法更加简洁方便了。

亚马逊CEO Andy Jassy就表示:“我们让DeepSeek-R1的使用变得更加轻松。该模型现已在Amazon Bedrock上以完全托管模式提供——亚马逊云科技是首个将DeepSeek-R1作为完全托管服务推出的云服务提供商。用户无需进行任何配置或维护,即可获得所需的全套安全防护和工具,用于构建高效实用的生成式AI应用。”

作为服务企业级部署大模型的平台,这次亚马逊云科技在Amazon Bedrock上推出完全托管的满血版DeepSeek-R1,其背后有两个关键词:一个是完全托管,一个是企业级部署。

完全托管,点点按钮就可完成DeepSeek-R1部署

此次在Amazon Bedrock上推出完全托管的满血版DeepSeek-R1进一步扩展了亚马逊云科技的客户在Amazon Bedrock中使用DeepSeek-R1及其蒸馏版本的方式,堪称在亚马逊云科技上使用DeepSeek-R1的最佳打开方式,同时也是最省心的方式。

这种方式集各种优势于一身:满血版的强大性能、完全托管的省心省力及极致弹性,同时尽享Amazon Bedrock的各种强大的构建工具与企业级的安全防护功能。

现在,企业无论是初创公司还是大型企业,无论技术能力如何,都可以在Amazon Bedrock中轻松访问完全托管、无服务器的DeepSeek-R1,并将其应用于企业级部署。企业可以利用Amazon Bedrock强大的能力来解决复杂问题、编写代码、处理数据、分析数据等,而无需担心任何复杂的设置或运维。

亚马逊云科技生成式AI副总裁Vasi Philomin表示:“借助这种完全托管的实现方式,客户能够以无服务器按token付费的模式使用该模型,帮助他们无需管理任何基础设施即可实现从实验到生产的规模扩展。”

根据亚马逊云科技提供的演示blog,现在企业只需要简单几步操作即可完成DeepSeek-R1的部署。

首先,在Amazon Bedrock的基础模型中,找到DeepSeek-R1模型并选择。

然后,选择完全托管的的DeepSeek-R1模型,即可。

最后,值得注意的是,Amazon Bedrock还提供了多种安全防护(Guardrails)能力。用户在左侧导航中可以选择配置多个过滤器创建护栏。

例如,如果过滤了“政治”字词,护栏将在提示中识别该字词,并向用户显示被阻止的消息。

企业级部署安全无忧:解决大模型幻觉、有害内容问题

谈到大模型安全和企业级部署,就不得不考虑到大模型天生的“幻觉问题”。

强大如DeepSeek-R1,也不可避免存在幻觉问题。而且,其强大的语言能力让其生成的幻觉内容变得更加隐蔽且难以识别。

此前,就有媒体在测试to C的DeepSeek时指出其以假乱真的“虚构”能力(如下图)。

在企业级部署上,大模型的这种幻觉和虚构是会直接给企业带来经济损失和法律纠纷的,因此是完全不可接受的。如何把控生成内容的尺度,并避免出现明显的事实性错误,是企业级AI应用中必须解决的首要问题。

亚马逊云科技就强烈建议客户将Amazon Bedrock Guardrails和Amazon Bedrock模型评估功能与DeepSeek-R1结合使用,以保护其生成式AI应用程序。

Amazon Bedrock Guardrails就像高速公路上的护栏能防止车辆偏离道路一样,有助于防止应用程序生成有害或不恰当的内容。这包括屏蔽攻击性语言、露骨的内容或其他被认为不适合最终用户的内容,以及识别和删除个人数据以保护用户隐私。

同时,Amazon Bedrock Guardrails还提供自动推理检查功能,它可以轻松检查因模型幻觉而导致的事实性错误。它运用数学逻辑方法来验证内容的正确性。在那些主题广泛且复杂、并有一套明确定义的业务规则或知识体系的领域,自动推理检查功能表现出色。

亚马逊云科技大中华区产品部总经理陈晓建表示:事实性错误通过人工不难发现,因为它是明确的对错问题。以前大模型缺乏可证明事实的逻辑,导致出现幻觉时难以纠正。但有了自动推理技术,我们能够通过数学验证方式严密证明事实性错误是否会发生,从而有效改善幻觉问题。”

事实上,有害内容和幻觉问题只是生成式AI安全的一个方面。亚马逊云科技提供全栈的安全防护能力和服务,助力客户高效实施安全合规。亚马逊云科技还将广泛的安全、合规服务与Amazon Bedrock进行集成,提供全面的安全防护,包括静态数据和传输中数据加密、细粒度访问控制、安全连接选项以及各种合规认证。例如:通过Amazon KMS密钥管理服务对静态数据和传输中数据进行加密;通过Amazon IAM进行细粒度的身份与访问管理;通过Amazon Network Firewall网络防火墙服务来实现网络安全;提供包括HIPAA、ISO、GDPR在内的国际主流合规认证;通过Amazon CloudWatch和Amazon CloudTrail进行监控和日志记录等。

此外,在数据安全方面,亚马逊云科技始终践行“客户始终拥有数据”的安全理念。通过Amazon Bedrock,客户可以在确保数据安全和隐私保护的前提下,使用自有数据快速进行基础模型的微调和定制,客户的所有数据均经过加密,且不会离开虚拟私有云(VPC)环境。同时,亚马逊云科技确保客户的任何数据都不会用于训练底层模型。

亚马逊云科技CEO Matt Garman强调:“自DeepSeek-R1在亚马逊云科技上线以来,我们看到了巨大的需求,而现在,我们成为了首个将DeepSeek-R1作为完全托管服务推出的云服务提供商。这意味着用户可通过无缝集成的强大AI能力,获得所有核心功能:内置安全防护、全面监控能力、可定制护栏,以及对数据的完全掌控。”

亚马逊云科技致力于为客户广泛提供来自领先AI公司的众多AI模型,加速客户构建与扩展生成式AI应用。此次亚马逊云科技在Amazon Bedrock上推出完全托管的满血版DeepSeek-R1正是其上述理念的践行之一。截至目前,亚马逊云科技Amazon Bedrock上已提供来自领先AI公司,如AI21 Labs、亚马逊、Anthropic、Cohere、Luma AI、meta、Mistral AI、Stability AI、DeepSeek的高性能基础模型选择。(果青)

 

转载请注明出处。

本站页面、图片和视频等资料部分由互联网编辑生成,版权归原创者所有,本网站只提供web页面服务,并不提供资源存储,若本站收录的页面无意侵犯了贵司版权,请 联系我们

网友点评
0相关评论