麻省理工最年轻教授的算法课:MIT博士生 北大校友 利用自监督算法
麻省理工最年轻教授的算法课:MIT博士生 北大校友 利用自监督算法论文地址:https://arxiv.org/abs/2006.07529目前,杨宇喆的研究方向主要有两个:基于学习的无线感应技术,应用方向是医疗保健;机器学习,主要是针对机器学习和强化学习的鲁棒性进行研究。论文二作Zhi Xu,本科毕业于伊利诺伊大学厄巴纳-香槟分校,同样是MIT的博士生,感兴趣的研究方向是机器学习理论和现代应用,目前主要在研究强化学习的稳定性、效率、结构和复杂度。
也就是说,为了利用自监督克服标签偏见,在长尾学习的第一阶段,需要先放弃标签信息,进行自监督预训练。
此阶段后,可以使用任何标准训练方法,训练得到最终模型。(例如此前所用的迁移学习、重加权、域自适应……)
这样,就能更好地解决长尾问题。
作者介绍论文一作杨宇喆,目前是MIT计算机科学的三年级博士生,本科毕业于北京大学。
目前,杨宇喆的研究方向主要有两个:基于学习的无线感应技术,应用方向是医疗保健;机器学习,主要是针对机器学习和强化学习的鲁棒性进行研究。
论文二作Zhi Xu,本科毕业于伊利诺伊大学厄巴纳-香槟分校,同样是MIT的博士生,感兴趣的研究方向是机器学习理论和现代应用,目前主要在研究强化学习的稳定性、效率、结构和复杂度。
论文地址:
https://arxiv.org/abs/2006.07529
项目地址:
https://github.com/YyzHarry/imbalanced-semi-self
论文解读@杨宇喆:
https://zhuanlan.zhihu.com/p/259710601
— 完 —
量子位 QbitAI · 头条号签约
关注我们,第一时间获知前沿科技动态