本文共 2866 字，大约阅读时间需要 9 分钟。

北京智源大会倒计时：3天

第二届北京智源大会将于2020年6月21日至24日在京召开。本次大会将邀请包括6位图灵奖得主在内的全球顶尖人工智能专家，共同探讨"人工智能的下一个十年"。大会将设置19个专题论坛，涵盖人工智能数理基础、自然语言处理、智能体系架构与芯片、人工智能伦理治理与可持续发展等多个热门方向，深入系统探讨当前人工智能领域的前沿动态与未来发展方向。

期间，特受关注的青年科学家专题论坛将于6月24日上午举行。本次论坛将邀请若干领域的前沿学者，围绕"学习到学习方法的理论理解"等议题展开深入探讨。

各个专题论坛都将邀请知名学者和顶尖研究者参与讨论，让行业内外人员有机会近距离交流，洞察前沿趋势。

要素如下名称详细扩展：

<1. Towards a theoretical understanding of learning to learn methods>

"理解学习到学习方法的理论基础"：优化算法在深度学习中发挥着核心作用。近期研究尝试利用元学习方法设计更好的优化算法，将优化性能作为优化目标。这一方法在理论和实践层面都面临诸多挑战。本次发言将探讨基于简单目标的学习到学习方法。研究表明，(a)对于简单二次目标，可以设计梯度友好的损函数，梯度下降能够收敛，然而基于反向传播的自动微分工具将遇到数值问题，无法正确计算梯度。此外，(b)在训练优化器时，使用验证损失优于使用训练损失。前者可以在保持良好的一般化性能的同时，确保模型不易过拟合。本次实验将验证上述发现，并在synthetic数据和MNIST数据上进行实验验证。

<2. Near-Optimal Reinforcement Learning with Self-Play>

自我对战 legalize 通过自身学习，现代强化学习实现超人级性能。然而，大多数强化学习理论仅适用于单智能体与固定环境的设定。在双玩家序贯游戏的自我对战设置中，如何高效地设计自我对战算法仍然开 многих问题。我们首次提出了一套可靠的自我对战算法，并在基本表格 episodic Markov 游戏中展示其接近最优的采样复杂度。这一算法与信息理论下限差异仅以多项式级别的增加在各个自元的长度上。

<3. How Private ArePrivate Algorithms?>

隐私保护数据分析已在数学上找到固实基础。自2006年引入差分隐私（Differential Privacy, DP）后，这一隐私保护机制存在一些明显弱点：其对复合操作的处理不够紧密。本次发言将提出一种新的放宽差分隐私的定义，即"d-dp"。该新定义避免了传统差分隐私所存在的一些难点，具有多项令人为质好的性质。第一，d-dp保持研究员测试解释的差分隐私特性，使得其保证易于解读。第二，它允许无缝的思考复合操作和后处理，并特别明确了隐私放大方法的分析。最后，我们将基于假设检验的d-dp定义提出了一种标准的参数化家族，即"高斯差分隐私"（Gaussian Differential Privacy），证明该方法在研究环境复合时具有突出的分析能力。为此，我们引入了一项中心极限定理，该定理不仅展示了任何基于假设检验的隐私定义（包括差分隐私）的隐私保证在复合时会收敛到高斯差分隐私，而且还为隐私放大分析提供了一种可行的工具。我们还将通过 staining 随机梯度下降的隐私保证进行改进分析。

<4. Conformal Inference of Counterfactuals and Individual Treatment Effects>

潜在结果框架下个体治疗效应的不确定性评估至关重要，尤其是在风险敏感和不确定的环境中做出决策需要可靠的风险评估。在现有方法中，灵活的机器学习算法虽然在一致性和收敛速度上具有理论上的吸引力，但在不确定性量化方面表现不佳。讨论中将提出一种基于额外验证的方法，能够为counterfactuals和个体治疗效应提供可靠的区间估计。在完全随机化的试验或分层随机化的试验中，如果遵守完全随机化或完全随机化的条件，并且实验完全遵守，则区间估计具有保证平均覆盖率，无论数据生成机制如何。在忽略遵守条件的随机试验以及一般观察研究中，满足强可忽略性假设的区间估计具有双重稳健性，前提条件是能够准确估计倾向性得分或潜在结果的分位数。如果能够准确实现上述两者之一，则平均覆盖率得到保障。实验结果显示，不管是在简单的模型还是真实数据中，现有方法在不确定性评估方面存在覆盖率显著不足的问题，而我们的方法能够实现所需的覆盖率同时保证区间长度在合理范围内。

<5. Shape Matters: Understanding the Implicit Bias of the Noise Covariance>

随机梯度下降（SGD）中的噪声具有至关重要的隐性正则化效应。先前的理论研究主要将注意力集中在球对称高斯噪声上，而实际中许多参数依赖性噪声（诸如通过小批处理或标签污染产生的噪声）要比高斯噪声更有效。发言将介绍最近的研究成果，我们将基于Vaskevicius等人和Woodworth等人提出的二次参数化模型，探讨小批处理标签噪声对训练的影响。研究表明，在过参数化的模型中，标签噪声的随机梯度下降能够对稀疏真实值进行恢复，与任何初始条件下的初始值模式下来说，labels noise的SGD更容易收敛到真实值最小的局部最小值。而高斯噪声或梯度下降则可能导致模型过拟合至密集解。此时分析揭示参数依赖性噪声让优化算法偏好具有比高斯噪声更低方差的局部最小值，而对高斯噪声的处理具有相同方差的偏好。

本次大会将汇聚包括以下学者在内的全球顶尖人工智能领袖：

Michael I. Jordan教授

朱军教授

其他国内外顶尖人工智能专家

本次大会将设立19个专题论坛，主题覆盖人工智能数理基础、自然语言处理、机器学习、强化学习、包括能够显示个体治疗效应的方法论、隐私保护与可持续发展、图神经网络问题等多个重要领域。

本次大会将邀请19个专题论坛，详细议题如下：

等多项专题讨论。本次会议旨在提供一个高水平的交流平台，汇聚全球顶尖人工智能学者，共同探讨人工智能的前沿研究与方向性问题。

转载地址：http://fdyxz.baihongyu.com/