https://index.zshipu.com/geek/tags/%E5%A2%9E%E9%87%8F%E5%AD%A6%E4%B9%A0/ Recent content in 增量学习 on 知识铺的博客 Hugo -- gohugo.io zh-CN Tue, 15 Mar 2022 10:02:09 +0800 https://index.zshipu.com/geek/post/%E4%BA%92%E8%81%94%E7%BD%91/%E8%98%91%E8%8F%87%E8%A1%97%E5%A2%9E%E9%87%8F%E5%AD%A6%E4%B9%A0%E7%95%AA%E5%A4%96%E7%AF%87%E4%B8%89%E7%9A%84%E5%8A%A8%E6%80%81%E6%AD%A3%E5%88%99%E5%AE%9E%E8%B7%B5/ Tue, 15 Mar 2022 10:02:09 +0800 https://index.zshipu.com/geek/post/%E4%BA%92%E8%81%94%E7%BD%91/%E8%98%91%E8%8F%87%E8%A1%97%E5%A2%9E%E9%87%8F%E5%AD%A6%E4%B9%A0%E7%95%AA%E5%A4%96%E7%AF%87%E4%B8%89%E7%9A%84%E5%8A%A8%E6%80%81%E6%AD%A3%E5%88%99%E5%AE%9E%E8%B7%B5/ 作者：美丽联合集团 算法工程师 琦琦 ， 公众号关注：诗品算法 0、引言 这篇文章仍是在蘑菇街 增量学习背景下的实践，增量学习的理论很简单，但实践起来，还是有很多细节和trick的。比如，针对不同的模型结构，我们可以设计不同的优化器承接，其对应的动态正则设计方案也会有所差异。 这篇文章是已受理的 https://index.zshipu.com/geek/post/%E4%BA%92%E8%81%94%E7%BD%91/%E8%98%91%E8%8F%87%E8%A1%97%E9%A6%96%E9%A1%B5%E6%8E%A8%E8%8D%90%E8%A7%86%E9%A2%91%E6%B5%81%E5%A2%9E%E9%87%8F%E5%AD%A6%E4%B9%A0%E4%B8%8E%E5%AE%9E%E8%B7%B5%E5%B7%A5%E7%A8%8B%E7%AE%97%E6%B3%95/ Tue, 15 Mar 2022 09:33:17 +0800 https://index.zshipu.com/geek/post/%E4%BA%92%E8%81%94%E7%BD%91/%E8%98%91%E8%8F%87%E8%A1%97%E9%A6%96%E9%A1%B5%E6%8E%A8%E8%8D%90%E8%A7%86%E9%A2%91%E6%B5%81%E5%A2%9E%E9%87%8F%E5%AD%A6%E4%B9%A0%E4%B8%8E%E5%AE%9E%E8%B7%B5%E5%B7%A5%E7%A8%8B%E7%AE%97%E6%B3%95/ 作者：美丽联合集团 算法工程师 琦琦 ，公众号关注：诗品算法 阅读原文： https://zhuanlan.zhihu.com/p/212647751 一、楔子 害，写个这么严肃的技术话题还需要楔子么？这不是让大家放松一下嘛！毕竟是我的处女作，还是要来个看似一本正经的开场白和自我介绍的。 大家好，我是混迹于奋斗X之都——杭州的互联网大龄脱发女程序员一枚，大家可以关注我 https://index.zshipu.com/geek/post/%E4%BA%92%E8%81%94%E7%BD%91/%E8%98%91%E8%8F%87%E8%A1%97%E5%A2%9E%E9%87%8F%E5%AD%A6%E4%B9%A0%E7%95%AA%E5%A4%96%E7%AF%87%E4%BA%8C%E4%BC%98%E5%8C%96%E5%99%A8%E8%AE%BE%E8%AE%A1%E7%90%86%E8%AE%BA%E7%AF%87/ Tue, 15 Mar 2022 09:07:54 +0800 https://index.zshipu.com/geek/post/%E4%BA%92%E8%81%94%E7%BD%91/%E8%98%91%E8%8F%87%E8%A1%97%E5%A2%9E%E9%87%8F%E5%AD%A6%E4%B9%A0%E7%95%AA%E5%A4%96%E7%AF%87%E4%BA%8C%E4%BC%98%E5%8C%96%E5%99%A8%E8%AE%BE%E8%AE%A1%E7%90%86%E8%AE%BA%E7%AF%87/ 作者：美丽联合集团 算法工程师 琦琦 ， 公众号关注：诗品算法 0、引言 在增量学习中，针对不同的模型结构，我们可以设计不同的优化器承接。在这篇文章中，我将为大家详细阐述我们在实践中尝试过的优化器原理及其优缺点。我们最终选择的是AdaDeltaW和FTRL，原因就藏在这篇文章中～相信你会怀揣 https://index.zshipu.com/geek/post/%E4%BA%92%E8%81%94%E7%BD%91/%E8%98%91%E8%8F%87%E8%A1%97%E5%A2%9E%E9%87%8F%E5%AD%A6%E4%B9%A0%E7%95%AA%E5%A4%96%E7%AF%87%E4%B8%80%E5%8A%A8%E6%80%81%E6%AD%A3%E5%88%99%E4%B9%8B%E4%B8%AD%E8%BD%AC%E8%AE%BE%E8%AE%A1%E5%90%AB%E4%BB%A3%E7%A0%81%E5%AE%9E%E7%8E%B0/ Tue, 15 Mar 2022 09:02:35 +0800 https://index.zshipu.com/geek/post/%E4%BA%92%E8%81%94%E7%BD%91/%E8%98%91%E8%8F%87%E8%A1%97%E5%A2%9E%E9%87%8F%E5%AD%A6%E4%B9%A0%E7%95%AA%E5%A4%96%E7%AF%87%E4%B8%80%E5%8A%A8%E6%80%81%E6%AD%A3%E5%88%99%E4%B9%8B%E4%B8%AD%E8%BD%AC%E8%AE%BE%E8%AE%A1%E5%90%AB%E4%BB%A3%E7%A0%81%E5%AE%9E%E7%8E%B0/ 作者：美丽联合集团 算法工程师 琦琦 ， 公众号关注：诗品算法 0、引言 大家还记得那篇增量学习实践相关的文章吗？很多小伙伴私信我，想要进一步了解流程和设计细节等。感谢大家的信任，我愿将这些干货无私分享。从这篇文章开始，我会将增量学习的设计细节陆续拆分成几篇技术文章分享给大家。美名其曰——增