4

即刻感受GPT，HPE助力中国企业跨越一步之遥

 1 year ago
source link: http://www.zhiding.cn/special/HPE_202307
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
neoserver,ios ssh client
初识 • 你好GPT
ar1.png

GPT的前世今生

  • GPT的核心就是AI，是超级运算和海量数据的结合。
  • GPT（Generative Pre-training Transformer）是由Alec Radford编写的语言模型。
    2018年由埃隆·马斯克领投的OpenAI首次发布。
  • GPT-2 2019年通过800万份文档，15 亿个参数训练出来。
  • GPT-3 2020年5月推出。模型参数比GPT-2多了两个数量级达到1750亿。
  • GPT-4 2022年……
ar2.png

GPT的加速鸿沟

  • 能说会道，绘画、写代码、编辑视频似乎无所不能，但也会一本正经地胡说八道。
  • 训练所需算力昂贵：
    45T数据 ，285万CPU+1万GPU，训练费用大1200万美元。

report

Recommend

About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK