正在加载一言...
D3 VIEW
D3 VIEW
![](/img/in-post/2021-08-31/header.jpg)
2021-08-31
Attention / Conv 大锅烩
Self-Attentions and Convolutions
长期记录和实现看过的各种论文里的自注意力和卷积机制,咕咕咕,实现地址在:
![](/img/in-post/2021-07-28/header.jpeg)
2021-07-28
自然梯度下降
Natural Gradient Decent
自然梯度下降(Natural Gradient Decent)把参数看成一种概率分布,然后使用 KL 散度而不是欧氏距离来作为距离的度量,从而更好地描述更新后的分布和原分布有多大的不同。
![](/img/in-post/2021-07-27/header.jpeg)
![](/img/in-post/2021-06-12/header.jpg)
2021-06-12
支持向量机
Support Vector Machine (SVM)
SVM(Support Vector Machine,支持向量机)是一种二类分类模型,目标是在特征空间上找到间隔最大化的超平面。
![](/img/in-post/2021-04-26/header.jpg)
![](/img/in-post/2021-01-28/header.jpg)
![](/img/in-post/2021-01-01/header.jpg)
![](/img/in-post/2020-10-07/header.jpg)
![](/img/in-post/2020-09-04/header.jpg)
![](/img/in-post/2020-08-24/header.jpg)
2020-08-24
Regularization-based Continual Learning
EWC / Online EWC / IS / MAS ...
基于正则(regularization-based)的持续学习:用一个表示参数重要程度的正则项来控制参数在未来的任务中的更新幅度。