本次研讨会旨在以理论视角分析深度学习中的关键组成部分,议程将涵盖深度学习最新理论与优化算法,基础模型的理解与实践进展。
3 月 25 日,清华大学交叉信息研究院将与微软亚洲研究院和清华大学统计学研究中心联合组织机器学习理论与基础模型研讨会。来自国内外机器学习领域的学术界、工业界一线学者将在研讨会上分享他们的最新研究。我们诚挚地邀请您参会,一起探讨、交流学术动态并展望未来!
本次研讨会旨在以理论视角分析深度学习中的关键组成部分,议程将涵盖深度学习最新理论与优化算法,基础模型的理解与实践进展。
我们希望将关注该问题的不同领域的研究人员和从业者聚集在一起,以交流最新的研究思想和成果,探讨未来机器学习理论研究的方向。我们相信通过本次研讨会,参会者将可以与其他同行、专家和学者进行深入交流和合作,为机器学习理论的发展注入新的动力和活力。
一、活动信息
活动时间
3 月 25 日(星期六)
上午 8:30 至 下午 16:40
参会信息
线下:北京市海淀区丹棱街5号微软大厦
线上:Microsoft Teams
报名成功后将收到具体参会信息
注册报名
扫描二维码注册报名
报名截止时间:3 月 17 日
二、演讲嘉宾
三、日程安排
8:30 – 8:40
Introduction of the Workshop
Session 1
8:40 – 9:05
Faster Neural Network Training, Algorithmically
Jonathan Frankle
9:05 – 9:30
Bayesian Interpolation with Deep Linear Networks
Boris Hanin
9:30 – 9:55
Variational Principles for Mirror Descent and Mirror Langevin Dynamics
Maxim Raginsky
9:55 – 10:20
How Does Sharpness-Aware Minimization Minimize Sharpness?
Zhiyuan Li
10:20 – 10:35
Coffee break
Session 2
10:35 – 11:00
Analysis of a Toy Case for Emergence
Sebstien Bubeck
11:00 – 11:25
Surya Ganguli
11:25 – 11:50
Why Can GPT Learn In-Context?
Language Models Implicitly Perform Gradient Descent as Meta-Optimizers
Li Dong
11:50 – 12:15
Flow Straight and Fast: A Simple and Unified Approach
to Generative Modeling, Domain Transfer, and Optimal Transport
Qiang Liu
12:15 – 13:30
Lunch Time
Session 3
13:30 – 13:55
Condensation in Deep Learning
Zhiqin Xu
13:55 – 14:20
Adapting to Distribution Shifts: Recent Advances in Importance Weighting Methods
Masashi Sugiyama
14:20 – 14:45
Which Graph Neural Network can Provably Solve Practical Problems?
Di He
14:45 – 15:10
Contrastive Learning Is Spectral Clustering On Similarity Graph
Yang Yuan
15:10 – 15:25
Coffee Break
Session 4
15:25 – 15:50
On the Theoretical Understanding of Mixup
Kenji Kawaguchi
15:55 – 16:15
Benign Overfitting in Two-layer Convolutional Neural Networks
Yuan Cao
16:15 – 16:40
Environment Invariant Linear Least Squares
Cong Fang
主办单位
> 清华大学交叉信息研究院
https://iiis.tsinghua.edu.cn/
> 微软亚洲研究院理论中心
https://www.microsoft.com/en-us/research/group/msr-asia-theory-center/
> 清华大学统计学研究中心
http://www.stat.tsinghua.edu.cn/