缩短企业生成式AI探索路径，亚马逊云科技深度携手德勤中国

缩短企业生成式AI探索路径，亚马逊云科技深度携手德勤中国--丁科技网

作为数智转型的新工具，生成式AI被越来越多的企业用来探索对商业模式、创新方法、工作流程以及客户体验的重塑。

最近，德勤中国与亚马逊云科技共同宣布创建生成式AI联合实验室，德勤中国管理咨询云服务领导合伙人及人工智能与数据服务副领导合伙人孙晓臻表示，该实验室创建的出发点，就是“帮助企业加快在业务用例上的积累速度，缩短生成式AI的探索之旅，尽快进入到生成式AI大规模应用并发展的阶段，以提升数据价值、业务价值”。

整合优势资源，展开“1+3”合作

某国际领先制造企业，在中国拥有几万名员工，内部产品支持及工作流程等长期处于离散的状态，导致内部效率受到制约。在这样的背景下，生成式AI的应用，成为了改善与升级的方向。

据了解，该企业在德勤和亚马逊云科技的帮助下，应用生成式AI知识管理解决方案，不仅整合了本身拥有的庞大知识库，还集成了企业积累的独特知识系统，如各种产品和服务、平台和工具、内部流程等。

随后，基于企业自有数据的方案能够及时响应，自动提取知识，快速定位例产品描述、用户手册、技术规格、营销材料、常见问题解答、法规等内容，在短短4个月内，已经应用于50多个内部业务团队，在产品研发、IT、公司运营、客户服务等不同场景都获得了效率提升。其中，在内部员工的咨询服务上，该方案能够直接解决绝大多数的员工提问，大幅提高员工满意度。

在类似案例中，德勤中国与亚马逊云科技发现了更多共性和个性的需求，从而致力于为更多企业提供相关的专业服务。生成式AI联合实验室，就此成立。

伴随联合实验室成立，双方将整合优势资源，围绕“1+3”展开合作：

“1”，是以亚马逊云科技的坚实技术为依托，在AI计算能力、亚马逊云科技海外区域推出的全新托管生成式AI服务Amazon Bedrock、和全托管机器学习服务Amazon SageMaker等技术领域深入合作。

“3”，是结合德勤在战略咨询、技术实施和全球合规等方面的卓越能力，在生成式AI业务应用战略咨询、生成式AI安全合规咨询和生成式AI应用落地场景创新等三大方面展开合作，帮助企业打通从业务战略、应用场景、安全合规到技术落地的业务闭环，充分释放生成式AI的巨大潜力。

坚实技术支撑，完善赋能体系

技术层面，亚马逊云科技提供完整的生成式AI云服务技术，加速企业的生成式AI旅程。

具体而言，亚马逊云科技在每一个技术栈，都提供相关的生成式AI服务，形成从底层的加速层（如加速芯片、存储优化），到中间层模型构建工具和服务，再到最上层的生成式AI相关应用的完善赋能体系。

在底层，有自研机器学习推理芯片Amazon Inferentia2和自研机器学习训练芯片Trainium。基于Amazon Inferentia2芯片的Amazon EC2 Inf2实例，可以打造具成本效益的生成式AI云基础设施。生成式AI推理工作负载的要求很高，Inf2实例为在亚马逊云科技上大规模运行这类工作负载提供了可观的性能、能效并降低成本。基于Amazon Trainium芯片的新型Trn1n实例，将网络带宽提高了一倍，为训练生成式AI模型提供了更高的性能。

在中间层，全新的托管生成式AI服务Amazon Bedrock和全托管机器学习服务Amazon SageMaker，帮助客户去安全地、便捷地选择适合的业务模型。

借助Amazon Bedrock，通过API使用基础模型加速开发生成式AI应用程序无需管理基础设施；用户可从亚马逊云科技、AI21 Labs Anthropic和Stability AI等提供的基础模型中找到适合用例的基础模型；客户还可利用自己的私有数据对模型进行微调，以满足自身个性化需求。

至于Amazon SageMaker，可以从数据准备、基础模型选型、基础模型微调到基础模型部署和管理，帮助客户完成基础模型的微调与部署。

在最上层，有开箱即用的生成式AI应用Amazon CodeWhisperer。它可以通过编写大部分无差别的代码，帮助开发人员消除重复性工作并专注创新本身。

三大合作，释放生成式AI潜力

三个方向上的合作，具体来看：

生成式AI业务应用战略咨询方面，重点帮助企业解决普遍存在的业务场景模糊问题。

凭借在管理与战略咨询、技术落地实施方面的积累，德勤帮助企业洞察行业趋势，发掘应用场景，制定生成式AI战略，发掘应用场景，并利用亚马逊云科技可靠、安全、高效的生成式AI服务快速落地商业应用，降低企业利用生成式AI探索业务创新的门槛。

生成式AI安全合规咨询方面，帮助企业做好数据、模型和应用的安全防护。

德勤在全球安全合规咨询方面拥有强大的实力，可在业务、数据层面为客户提供生成式AI的安全合规咨询服务，并针对不同国家和地区的生成式AI法律法规进行解读，将其融入企业的业务流程和产品研发，帮助企业提升整体业务和产品安全合规性。

亚马逊云科技一方面通过技术、服务和工具帮助更多企业充分释放生成式AI的潜力，助力企业在数据、模型以及应用各个环节的安全和合规；另一方面，将AI以及生成式AI技术应用于安全及合规服务中，以更智能的安全、合规服务应对复杂的安全威胁、提高合规效率。

生成式AI应用落地场景创新方面，联合实验室利用亚马逊云科技海外区域全新的托管生成式AI服务Amazon Bedrock和全托管机器学习服务Amazon SageMaker推出了系列解决方案，以满足企业的各类出海应用场景需求。首批聚焦三项方案：

一是基于大语言模型的智能BI解决方案，以Amazon Bedrock和Amazon SageMaker为基础，预置了包括中文在内的多种大语言模型，可实现自然语言到SQL查询语言的无缝转换，使企业普通业务人员无需具备SQL专业技能也能获取所需数据，并洞察业务价值。。

二是生成式AI知识管理解决方案，基于Amazon Bedrock和Amazon SageMaker，提供包括Amazon Titan和Anthropic Claude等领先人工智能公司的高性能基础模型，以及多种开源大语言模型选项。通过构建企业知识平台，帮助企业在保障内部数据隐私和安全的前提下，快速高效地部署知识问答或检索系统。该解决方案已经在某国际领先制造企业用于内部员工的咨询服务，能够直接解决绝大多数的员工提问，大幅提高员工满意度。

三是大语言模型运维平台（LLMOps）解决方案，通过采用Amazon SageMaker作为模型训练和推理平台，使客户能自助对大语言模型调优工作进行流程化管理，利用基础设施即代码（IaC）快速生成工具链资源，实现操作自动化，提高模型迭代效率。

除以上内容外，人力方面，联合实验室由双方委派产品技术专家、云解决方案架构师、数据科学家、AI专家和行业专家等组成，亚马逊云科技投入云上计算资源、行业最佳实践以及合作伙伴资源，德勤中国投入行业解决方案资产、商业最佳实践、开发与运营能力，以及生成式AI业务应用战略咨询服务和生成式AI安全合规咨询服务。（丁科技网原创，转载务必注明“来源：丁科技网”）