2

ai 训练(非大模型)现在可以用 cpu 跑吗?

 7 months ago
source link: https://www.v2ex.com/t/1012625
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
neoserver,ios ssh client

V2EX  ›  问与答

ai 训练(非大模型)现在可以用 cpu 跑吗?

  onikage · 9 小时 17 分钟前 · 1718 次点击

今年想了解下 ai 相关,暂时不考虑大模型,只是为了解决应用层面一些特定场景,比如特定物品识别之类的,标注数据量也不多,训练的时候需不需要用到显卡? 现在在用 12500cpu ,没有显卡,另外也想请教下苹果 m 对这种玩票性质训练有加成吗?

24 条回复    2024-01-30 15:22:48 +08:00
elliottzhao87

elliottzhao87      8 小时 58 分钟前   ❤️ 1

前不久跑了一个小小的模型,就是几万个参数那种,CPU 完全没问题……
xinge666

xinge666      8 小时 58 分钟前 via iPhone

TensorFlow 和 PyTorch 都已经有 mps 加速了,用来加速训练简单的模型是没问题的。
lpf0309

lpf0309      8 小时 51 分钟前

CPU 显存低,bitchsize 太小,准确率和速度都会降低。苹果 m 应该也没加成
Wataru

Wataru      8 小时 50 分钟前

ultra 带 npu 可以跑
paidaxtis

paidaxtis      8 小时 48 分钟前 via Android

@lpf0309 cpu 用内存
lchynn

lchynn      8 小时 48 分钟前

INTEL 有个新出的 BigDL 框架,可以看看。不过对 CPU 好像有要求要新一点的,太老不行。

https://github.com/intel-analytics/BigDL
shellcodecow

shellcodecow      8 小时 32 分钟前

自来水管不用 你用吸管?
Muniesa

Muniesa      8 小时 13 分钟前 via Android   ❤️ 1

一直都可以,就是比 GPU 慢亿点点。pytorch 有对 m 系列的 GPU 支持,比 CPU 肯定快多了。如果只是玩票可以考虑用 Google colab 用 GPU 训练,训练完可以在自己电脑 CPU 上推理,CPU 推理也慢但是没有训练慢那么多。
raptor

raptor      8 小时 8 分钟前

@lchynn 需要新的 ultra CPU 吧
PsychoKidA

PsychoKidA      7 小时 55 分钟前

物品识别肯定可以。用 .onnx 模型搭配 ONNX 框架就行。如果要加成,要看芯片商出的推理框架,比如苹果就是 CoreML ,高通就是 QNN 。
xz410236056

xz410236056      7 小时 22 分钟前

mac 有 MPS 可以加速训练
Morriaty

Morriaty      7 小时 20 分钟前   ❤️ 1

你要是没接触过,就别纠结 CPU GPU 的问题啊,先把 numpy 、torch 、transforms 这些库搞熟
siriussilen

siriussilen      7 小时 18 分钟前

可以,就是慢了点
fredweili

fredweili      7 小时 9 分钟前

CPU 不行,苹果就更不行了,都是英伟达的 CUDA
CrazyRundong

CrazyRundong      6 小时 49 分钟前 via iPhone   ❤️ 1

12500 cpu 是指一万两千五百个 cpu 核心的集群还是说一颗 Intel 12500 ?前者可以试试 Intel 的加速库 + MPI 分布式训练,后者够呛。即使是训 100M 级别的 CV 模型,以前用 1080Ti 都觉得慢得不行
onikage

onikage      5 小时 54 分钟前

@Muniesa 别吓我,初期肯定反复试错,一等几个小时肯定受不了。
onikage

onikage      5 小时 52 分钟前

@Morriaty 这些肯定是要了解的
onikage

onikage      5 小时 51 分钟前

@CrazyRundong 就是普通的 12 代酷睿 i5
paopjian

paopjian      5 小时 15 分钟前

你这种情况为什么不白嫖 colab
736531683

736531683      2 小时 58 分钟前

完全可以的,就是比较慢,苹果早就支持 cuda 加速了,前面不要乱说。
loryyang

loryyang      2 小时 56 分钟前

你问问题的这个方式只能说明你对模型训练的知识了解太少了。不要多问,先上手去做吧
loryyang

loryyang      2 小时 55 分钟前

@loryyang #21 稍微补充一下,不同的模型训练都是不一样的,底下到底用了什么框架,tf 还是 pytorch ,都是不太一样的。你应该先选择一个你感兴趣的模型,然后翻一下对应的文档(基本上都会清楚说明的),自己再去造轮子训练一下
cherryas

cherryas      2 小时 11 分钟前

铁杵可以磨成针吗和这个问题的答案一致。
cherryas

cherryas      2 小时 5 分钟前

当鸡啄完米,狗吃完面,火烧断锁就可以训练完一次了。

About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK