一些神经网络像人类一样学习语言

来源:ScienceAI


大脑是如何学习的?这是一个谜,它既适用于我们头骨中的海绵状器官,也适用于我们机器中的数字对应物。

尽管人工神经网络 (ANN) 是由复杂的人工神经元网络构建而成,表面上模仿我们大脑处理信息的方式,但我们不知道它们是否以类似的方式处理输入。

俄勒冈大学(University of Oregon)语言学家 Vsevolod Kapatsinski 说:「神经网络的学习方式是否与人类相同,这个问题一直存在争议。」

上个月,由加州大学伯克利分校的计算语言学家 Gašper Beguš 领导的一项研究表明,自然网络和人工网络的学习方式相似,至少在语言方面是这样。研究人员将人类聆听简单声音的脑电波与分析相同声音的神经网络产生的信号进行了比较。结果出奇地相似。

Beguš 和他的同事写道,「据我们所知,观察到的对相同刺激的反应 [是迄今为止报告的最相似的大脑和 ANN 信号。]」

该研究以「Encoding of speech in convolutional layers and the brain stem based on language experience」为题,于 2023 年 4 月20 日发布在《Scientific Reports》上。

一些神经网络像人类一样学习语言

论文地址:https://www.nature.com/articles/s41598-023-33384-9

最重要的是,研究人员测试了由适用于各种任务的通用神经元组成的网络。

威斯康星大学麦迪逊分校(UW–Madison)的心理学家 Gary Lupyan 说:「他们表明,即使是非常非常普遍的网络,它们对语音或任何其他声音没有任何进化的偏见,但仍显示出与人类神经编码的对应关系。」 结果不仅有助于揭开 ANN 学习方式的神秘面纱,而且还表明人类大脑可能尚未配备专门为语言设计的硬件和软件。

为了给人类方面的比较建立一个基线,研究人员在两个八分钟的时间段内为 14 名说英语的人和 15 名说西班牙语的人重复播放了一个音节——「bah」。当它播放时,研究人员记录了每个听众脑干神经元平均电活动的波动——大脑中首先处理声音的部分。

此外,研究人员将相同的「bah」音输入两组不同的神经网络,一组接受英语发音训练,另一组接受西班牙语发音训练。然后,研究人员记录了神经网络的处理活动,重点关注网络层中首先分析声音的人工神经元(以反映脑干读数)。正是这些信号与人类脑电波非常匹配。

一些神经网络像人类一样学习语言

研究人员选择了一种称为生成对抗网络 (GAN) 的神经网络架构。GAN 由两个相互竞争的神经网络(判别器和生成器)组成。生成器创建样本,可以是图像或声音。判别器确定它与训练样本的接近程度并提供反馈,从而导致生成器进行另一次尝试,依此类推,直到 GAN 可以提供所需的输出。

在这项研究中,判别器最初接受了一组英语或西班牙语声音的训练。然后,从未听过这些声音的发生器必须找到一种产生它们的方法。它从发出随机声音开始,但在与判别器进行了大约 40,000 轮交互之后,生成器变得更好,最终产生了正确的声音。作为这种训练的结果,判别器也能更好地区分真实的和生成的。

正是在这一点上,在判别器得到充分训练之后,研究人员向它播放了「bah」的声音。该团队测量了判别器人工神经元平均活动水平的波动,它产生的信号与人类脑电波非常相似。

人类和机器活动水平之间的这种相似性表明这两个系统正在从事类似的活动。「正如研究表明,来自照顾者的反馈会影响婴儿发出的声音,来自判别器网络的反馈会影响生成器网络的声音产生,」Kapatsinski 说。

该实验还揭示了人与机器之间另一个有趣的相似之处。脑电波显示,讲英语和讲西班牙语的参与者听到「bah」的声音不同(讲西班牙语的人听到更多的「pah」),GAN 的信号还表明,训练过英语的网络处理声音的方式与训练过西班牙语的网络有所不同。

「而且这些差异朝着相同的方向发挥作用,」Beguš 解释说。讲英语的人的脑干对「pah」声的反应比讲西班牙语的人的脑干稍早,而用英语训练的 GAN 对相同声音的反应比用西班牙语训练的模型稍早。在人类和机器中,时间差异几乎相同,大约为千分之一秒。Beguš 说,这提供了额外的证据,表明人类和人工网络「可能以相似的方式处理事情」。

一些神经网络像人类一样学习语言
Gašper Beguš,加州大学伯克利分校的计算语言学家。

虽然目前还不清楚大脑究竟是如何处理和学习语言的,但语言学家 Noam Chomsky 在 20 世纪 50 年代提出,人类天生就具有理解语言的天生独特能力。Chomsky 认为,这种能力实际上是与人类大脑紧密相连的。

这项使用并非为语言设计的通用神经元的新工作表明情况并非如此。Kapatsinski 说:「这篇论文明确地提供了证据,反驳了语言需要特殊的内在机制和其他独特特征的观点。」

Beguš 承认这场辩论尚未解决。同时,他也在进一步探索人脑与神经网络之间的相似之处,例如,通过测试来自大脑皮层(在脑干完成其任务后进行听觉处理)的脑电波是否与 GAN 更深层产生的信号相对应。

最终,Beguš 和他的团队希望开发一个可靠的语言习得模型来描述机器和人类如何学习语言,从而进行人类受试者无法进行的实验。「例如,我们可以创造一个不利的环境 [就像那些被忽视的婴儿那样],看看这是否会导致类似语言障碍的事情,」该研究的共同作者、华盛顿大学的神经科学家 Christina Zhao 说。

一些神经网络像人类一样学习语言
Christina Zhao,华盛顿大学神经科学家。

「我们现在正试图看看我们能走多远,我们能用通用神经元获得多接近人类语言,」Beguš 说。「我们能否通过现有的计算架构达到人类的性能水平——仅仅通过让我们的系统变得更大、更强大——还是这永远不可能?」 虽然在我们能够确定之前还需要做更多的工作,他说,「我们很惊讶,即使在这个相对较早的阶段,这些系统的内部运作——人类和人工神经网络——看起来如此相似。」


参考内容:https://www.quantamagazine.org/some-neural-networks-learn-language-like-humans-20230522/

本文转自:ScienceAI,转载此文目的在于传递更多信息,版权归原作者所有。如不支持转载,请联系小编demi@eetrend.com删除。

最新文章