7

当谈生成式AI技术与应用时,亚马逊云科技谈些什么?

 1 year ago
source link: https://www.dingkeji.com/post/sj/152288.html
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
neoserver,ios ssh client

当谈生成式AI技术与应用时,亚马逊云科技谈些什么?--丁科技网

当谈生成式AI技术与应用时,亚马逊云科技谈些什么?

科幻作家、被相当多的读者称为“赛博朋克之父”的威廉·吉布森,写到过这样的句子:“未来已来,只是尚未平均分布。”目前,以生成式AI为代表的新一轮AI爆发式创新,正是如此。但在丁科技网看来,“尚未平均分布”,暗含着“分布是必然”的意味。就像,AI创新重塑各行各业的可能性,在被更多人深信。

在前不久的“2023亚马逊云科技中国峰会上”,生成式AI与AI创新,是贯穿两天议程的主题词,谈如何助力企业应用生成式AI、做好AI创新,谈如何用数字基础设施推动AI创新之外,亚马逊云科技也更纵深剖析生成式AI本身。相关分享来自亚马逊云科技全球产品副总裁Matt Wood,他谈到了典型场景、价值探索、应用方式以及创新建议等等。

12e5ca74baf34801a694740870c94795~noop.image?_iz=58558&from=article.pc_detail&x-expires=1689810410&x-signature=V6H2ZtmnQN%2Fw1BoNGA3y30vzT%2Fo%3D

(亚马逊云科技全球产品副总裁Matt Wood)

Matt Wood表示:“亚马逊云科技在为客户提供广泛的机器学习能力方面有着悠久的历史,过去10年间提供每一个级别的机器学习能力,包括底层芯片、Amazon SageMaker机器学习服务和开箱即用的AI服务。”

“亚马逊云科技始终希望将拥有广阔前景的且令人兴奋的技术提供给每个人。在云计算时代我们提供通过API访问云上应用的快捷访问,这一愿景不会因为生成式AI的出现而改变。我们想用生成式AI做同样(指亚马逊云科技的愿景)的事情,我们想把这个非常广阔的、创造性的、重要的技术放到每一个构建者和每一个商业用户的手中。”

生成式AI的典型场景

Matt Wood分享了目前生成式AI的四个典型应用场景,着重提到的是“决策”:

首先是创意输出,包括写作、设计、编码、建模等;

其次是功能增强型场景,比如搜索相关性,生成式AI擅长总结或者搜索,如果有一些东西需要排序,有的模型就可以帮助做出排序;

再次是全新交互式的体验,比如说让生手甚至是一个专家和应用程序进行交互,使得能够产生新的知识和想法,这就是全新在特定领域具备学习性的问答,和聊天机器人的互动可以探索一些“数据”,带来“非常开放的知识”,比如,要和客户进行互动服务,或者说作为内部员工,就需要更多的了解公司、公司的章程等等;

最后是决策支持,或在人工监督下自动执行复杂任务的应用程序。“这种方式是最具革命性的,有潜力带来巨大的价值。”

如何解锁生成式AI价值

在Matt Wood看来,如何挖掘生成式AI价值呢?

其一要提供对一流基础模型的访问;其二需要提供安全私密的环境去定制模型;其三需要通过定制芯片提供低成本和低延迟访问;其四需要搜寻机会提升使用体验。

Matt Wood提到:

Amazon Bedrock提供对一流的基础模型的访问。这项新服务允许用户通过 API 访问来自 AI21 Labs、Anthropic、Stability AI 和亚马逊的基础模型。Amazon Bedrock 是客户使用基础模型构建和扩展生成式AI应用程序的最简单方法,为所有开发者降低使用门槛。在 Amazon Bedrock上,用户可以通过可扩展、可靠且安全的亚马逊云科技托管服务,访问从文本到图像的一系列“强大”的基础模型。

借助Amazon Titan模型库实现安全且私密的模型调优。Amazon Titan是涵盖一系列不同的模型的库,可实现文本归纳总结、搜索结果嵌入、有害内容删减等,用户可以安全、隐私地对这些模型做优化和微调。

另外,自研定制芯片满足低成本、低延迟的需求。比如,推理芯片Inferentia和训练芯片Trainium。

Amazon CodeWhisperer 则用以改善体验。“这是我们基于机器学习为开发人员提供的一个代码生成的服务,支持包括Java、JavaScript和Python等在内的15种不同编程语言,个人用户可免费使用。在测试中,与未使用CodeWhisperer的参与者相比,使用CodeWhisperer的参与者完成任务的速度平均快57%,成功率高27%。”

数据推动生成式AI广泛应用

数据是生成式AI的起点,数据也将推动生成式AI的广泛应用。就此,亚马逊云科技认为应该采取云原生的数据战略,更好地实现效率的提升。有三件事需要重要考虑:

一是,全面的工具集,满足现在和未来所需。

亚马逊云科技目前的15种专门构建的云上托管数据库服务,为各类用户的应用场景提供完美契合的数据服务;亚马逊云科技的分析服务已全面实现Serverless化,包括交互式查询服务Amazon Athena、大数据处理服务Amazon Managed Streaming for Apache Kafka (Amazon MSK)、实时分析服务Amazon Kinesis、数据仓库服务Amazon Redshift、数据集成服务Amazon Glue、商业智能服务Amazon QuickSight以及运营分析服务Amazon OpenSearch Service。

二是,轻松集成,连接所有数据。

亚马逊云科技提出了Zero-ETL的愿景,致力于实现无缝的数据转换和调用,而用户不用编写任何的代码。最近推出了Aurora新的服务——Amazon Aurora可以与Amazon Redshift进行Zero-ETL集成,允许使用 Amazon Redshift 对来自Aurora的PB级事务数据进行近实时分析和机器学习 (ML)。事务数据在被写入Aurora后的几秒钟内,即可用在Amazon Redshift中,因此不必构建和维护复杂的数据管道来执行提取、转换和加载 (ETL) 操作。

三是,构建端到端的数据治理。

通过数据治理,加速并保障数据流通。亚马逊云科技去年推出的一项全新的数据管理服务Amazon DataZone,可以让客户更快、更轻松地对存储在亚马逊云科技、客户本地和第三方来源的数据进行编目、发现、共享和治理。借助Amazon DataZone,管理员和数据资产管理者可以使用精细的控制工具管理和治理数据访问权限,确保数据访问发生在正确的权限和正确的情境之下。

使用数据开启生成式AI旅程的五条建议

最后,Matt Wood给出了“使用数据开启生成式AI旅程的五条建议”:

基于自己现有的数据战略去做构建;在组织内实现更广泛、更安全的生成式AI实验;为需求场景做定制化模型;携手亚马逊云科技,探索无限可能;选择场景,即刻启程,构建未来。(丁科技网原创,转载务必注明“来源:丁科技网”)


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK