2
AutoML 学习
source link: https://qiankunli.github.io/2022/08/22/automl.html
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
AutoML 学习
2022年08月22日简介（未完成）
大规模机器学习与AutoML技术建模流程包括数据—特征—算法—调参—评估，经过这个流程得到模型，然后评估模型还差，如果不好，通过反馈重新进行这个过程。在这个过程中有很多数据、特征和算法环节(数据抽样、数据去噪、特征选择、特征变换等)，每个环节都可能影响模型效果，整个建模过程就是这些环节反复调整，直到得到模型。AutoML借助计算机搜索的优点，将整个过程在计算机上自动实现，难点就是将这个问题数学化，然后就有了目标函数和方向。
AutoML问题定义，通俗地来说，假设有这么一个过程：我们有一个训练集、一组参数，然后训练出一个模型，利用测试集评测模型，根据评测结果来看参数效果好坏。我们希望整个过程能够自动化，这就是AutoML。AutoML技术挑战包括超参结构复杂、目标函数不可导、评估代价巨大。
- 超参结构复杂
- 目标函数不可导，在机器学习中如果可导，采用简单的随机梯度下降方法就能解决；
- AutoML利用AI评估AI，每评估一次就需要把模型训练一次，代价非常大。
Gitalking ...
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK