Bengio 一作论文：因果机制、元学习与模型泛化如何产生关联？
选自arXiv
作者：Yoshua Bengio 等
机器之心编译
参与：魔王
Yoshua Bengio 等人发表研究，基于学习器适应新分布的速度提出一种元学习因果结构。
Yoshua Bengio 等人基于学习器适应新分布的速度提出一种元学习因果结构，这些新分布由干R * = M预、智能体动作以及其它非稳态（non-stationarity）导致的稀疏分布变化引起。这项研究证明，在此假设下，正确的因果结构选择会使学习器更快地适应修改后的分布，因为在所学知识经过适当模块化后，分布变化将集中在一或多个机制中。这导致稀疏的预期梯度，以及在适应此类变化时需要重新学习的有效自@ S g & % h m D由度的数量较少。因而，该研究将适应修改后分布z S ^ 2 _ 2 [的速度作为元学习的目标，表明这可用于决定两个观测变量之间的因果关系。
分布变化无需对应标准干预，学习器不具备关于干预的直接知识。该% Q H 5 ,研究证明，因果结构可通过连续变量进行参数化，并以端到端的形式学得。研究者还探索了如何将这些想法用于学习编码器来映射低级观测变量与导致更快速分布外适应的未观测因果变量，进而学得一个表示空间，使之满足独立机制以及动作和非稳态导致的机制内微小稀疏变化的假设。
论文链接：https://Y | % narxiv.org/pdf/1901.109; k ( - n f !12.pdf
机器学习方法的泛化难题
目前的机器学习方法在训练= b w [分布以外的R ^ Z ( x I数据上泛化效果较弱S ^ K u ) t i过这种变化。这超出了良好迁移学习的范畴，需要因果学习和因果推理。因此，仅学习观测变量的联合分布还不够。你还应当充分y 7 ? v @ x 0 y学习底层高级变量及其与恰当推断干预效果的因果关系。例如，A=Raining causes B=Open Umbrella（反之则不然）。改变 Raining 的边缘概率@ ^ z `（如由于天气发生变化）不会改变 A 和 B 之间的关联机制（P(B|A)），但这会对 P(B) 产生影响。反过来，智能体对 B (Open umbrella) 的干预不会影响到 A (Raining)。这种不对称仅从 (A, B) 训练对中通常是无法看到的，除非分布发生变化，比如干预引起的分布变化。
这是该研究的动机，即学习器基于未必已知的干预带来的一组分布进行学习，不o c t D S仅能够捕捉联合分布，还能发现一些底层因果结构。
Yoshua Bengio 等人的新思路
机器学习方法通常利用某种形式的数据分布w O r u 8假设（没有免费午餐定理告诉我们不要对泛化抱有信心）。该研究不仅考虑数据分布假设，还考虑分布的变化（如由于智能体的某些动作，训练分布转变为迁移分布）。该研究依赖这一假设：当关于分布的知识得到恰当表示时，分布的变化2 Z r = o 9 F较小。这得益于底层假设（不过该假设很难直接验证）：由于干预的某种泛化形式导致分布变化，因此仅有一个或少量真值机制发生改变。
如何才能利用这一假设呢？该研究进行了理论和实验验证，发现如果拥有正确的知识表示，则在训练分布上经过良好训练的模型能够快速适应迁移分布。这得益于该研究的假设：真值数据生成过程是独立机制的组成部分，当训练分布变成迁移分布时，仅有少量真值机制和参数需要改变。因此，捕获对应知识分解的~ ` E模型仅需要少量更新和示例即可适应迁移分布。下文将展示，在未经更改的参数上预期梯度接近E D C # Y [ (于# 5 U . 0（前提是模型在训练分布上得到很好的训练），因此在适应迁移分布的过程中有效搜索空间将大大缩小，从而实现快速适应。
因此，基于「正确I } # ? X ,的知识表示空间带来微小的分布变化」这一假设，研究者定义了度量适应速度的元学习目标，从而优化知识的表示、分解和结构化方式。这是该研究的核心想法。注意，在存在更多非稳态（即分布出现很多变化）时获得的信号也会更强，就像元学习中更多的元示例会带来更5 J f x `好的结果一样。
通过这种方式，研究者将机器学习领域通常认为的麻烦事（非稳态、不受控制的干预等导致的分布变化）N e 5 0 ) a C转换成! 7 r f ! ~训练信号，从而找到一种恰当的方式将知识分解为匹配微小I ` & 0变h r h V s z ^化这一假设的组件和机制7 | = A _。因此，研究者最终以端到端的方式对在分布变化4 K s = - c S ; j上的快速迁移及其稳健性进行优化。如果数据真的基于独立因果9 | % S } } q a机制的组成m C _ X k ? ` (部分生成，则存在模拟该结构的知识分解。如果在每个时间步中w b j p，现实世界智能体只能改变一个或少量高级变量（或生成这些高级变量的相关机制），则该研究关于（正确知识表示的）微小变化的假设得到验证。此外，除了@ 4 p } j R & D实现快速迁移以外，该研究或许还能y A L g将对真实因果分解的近似恢复为独立机制（达到观测和干预能够揭示这些机制的程度）e e . E [ `。
何为因？何为果？
学习具备两个离散变量的因果图
假设 A 和 B 是可以取 N 个可能值的离散变量，则考虑使用以下公式（A → B 模型和 B → A 模型）来估计其联合分布：
关于适应迁移分布的实l ` S 4 : M N =验, z )
研究者进行c f Z r 4 P g * Q了多次实验，来对比正确的因果模型和不正确模型在迁移分布上的学习曲线。在来自不同但具备相关性的迁移分布的数据上仅执行少量梯度步的适应对于获得元学习算法可用的信号至关重要。为了展示适应的效果，促进对来自迁移分布的少量数据的利用，研究者在离散随机变量上对模型进行试; p C , k v m ` x验，变量可取 N = 10 个可能值。