诺奖得主欣顿认为：“人工智能不久就会比我们聪明得多”

　　参考消息网6月11日报道　据德国《商报》网站5月27日报道，2024年诺贝尔物理学奖得主、聊天生成预训练转换器（ChatGPT）核心算法提出者杰弗里·欣顿提出了所谓的“反向传播法”，使人工神经网络可以接受有针对性的训练，实现逐步改进。这种方法至今仍是人工智能研究的核心基石。欣顿也由此成为了人工智能领域最具影响力的人物之一。

　　《商报》在柏林独家专访了他。在这场涉及风险与革命的对话中，欣顿解释了自己离开老雇主谷歌的原因，谈论了他认为人工智能进一步发展存在哪些危险——以及这项技术提供了哪些令人难以置信的机遇，尤其是对医学、科研和教育领域来说。

　　自我复制

　　《商报》问：欣顿先生，听说您之所以在2023年人工智能突破的巅峰期离开了谷歌，是因为您想更坦诚地探讨人工智能的风险。

　　欣顿答：这只是原因之一。

　　问：究竟是什么促使您下决心离开呢？

　　答：一个原因是我当时75岁了，无论如何都想退休。这是主要原因(笑)。

　　问：那真正的主要原因是什么呢？

　　答：我当时研究了怎么来比较“模拟”模型和“数字”模型……

　　问：您说的是，人类是模拟模型，机器是数字模型……

　　答：我当时想搞清楚，我们是不是可以通过模拟模型来节约能源。但研究让我坚信，数字智能绝对优于模拟智能。

　　问：为什么？

　　答：首先，它是不朽的。即便毁掉了所有硬件，只要存储的数据完好，人们就可以重建一切。届时这个模型就能继续存在下去，我们人类可做不到这点。其次，数字模型可以随意复制。每个副本都可以积累自己的经验并彼此共享经验。如此一来，这套系统的学习速度就快得多，人可是轻易做不到这点的。每个人多少有些不同，每个人都要自己积累经验。而且，人不能随意加速学习进程。

　　问：这对我们人类意味着什么？

　　答：我们受到的最大制约是我们的经验量。我们的生命只能持续几十亿秒。数字系统则可以随意自我复制——一起积累数万亿秒的经验。因此，人工智能不久就会比我们聪明得多。

　　正视风险

　　问：您在认识到这点后觉得这很可怕。这种感觉是不是与被称为原子弹之父的罗伯特·奥本海默对自己的发明深感自责类似？

　　答：差别在于，原子弹只擅长毁灭。也许不该在德国谈这个，但当时，奥本海默有充分的理由制造原子弹。而人工智能不仅能毁灭，也可以实现许多美好的事物。但让我感到遗憾的是，我太晚才意识到人工智能的危险性。

　　问：您看到了哪些具体的危险？

　　答：有两种。最大的危险是，坏人会滥用人工智能，也就是利用它操纵选举、研发新病毒、实施计算机网络攻击或制造可以杀人的自动武器。制造由人工智能控制的杀人武器的竞赛已经出现了。而且仅在2023年到2024年间，我们就发现“网络钓鱼攻击”的数量增加了1200%——这都是基于大语言模型的发展。而另一种危险是，人工智能本身也会变成坏人。

　　问：难道不能对此加以阻止吗？在国际社会就某种道德规则达成共识后，不可以训练人工智能模型去遵循这种道德规则吗？

　　答：这有望奏效。但只要看看儿童的德育情况，我们就会知道答案：只简单向他们解释什么是道德规则，是不行的。这还不够。

　　问：那怎么做才行？

　　答：这小部分与奖惩机制有关。但更重要的部分是，儿童是通过模仿来学习的。他们如果经常看到良好的行为，就会效仿良好的行为。如果他们身边的人行为不端，那么他们在长大后很有可能也这样。人工智能的情况与之类似。我们影响人工智能的手段就如同养育孩子：我们必须向他们展示良好的行为。因此，我发现，用包括马基亚维利的著作或连环杀手日记在内的各种文本去训练人工智能大模型是有问题的。您是不会让孩子去读这些书来学习的。

　　问：在政治和社会层面应该采取哪些措施来遏制这种风险呢？

　　答：为了实现真正的改变，公众必须要求制定明确的规则。只有这样，政府才会采取行动——不顾大公司的反对。没有外部压力什么也办不成。

　　问：欧盟已经通过《人工智能法案》尝试这么做了。这是您说的途径吗？

　　答：这是个开始，虽然还太弱。《人工智能法案》重点关注的是在生成式人工智能出现之前就存在的旧威胁。例如，它涉及军用人工智能，但并未涉及那些生死攸关的风险，例如，人工智能可能控制我们人类。但这比美国的情况要好。在那里，他们目前正试图禁止各州颁布自己的人工智能规范。

　　造福人类

　　问：您被视为“人工智能的教父”。您最大的突破是什么？

　　答：回想起来，那是在上世纪80年代，我使用了一种叫反向传播的方法训练了一个可以学习单词含义的小型语言模型。人们可以将这个从1980年到1985年运作的模型视为当今大语言模型的前身。

　　问：让我们来谈谈人工智能的机遇吧。人工智能可以让我们更有效率、提高我们的创造力——尤其是在科研方面。您认为使用人工智能的最大好处是什么？

　　答：在医疗卫生、教育和科研领域，只要我们能避免负面发展趋势，人工智能就将带来巨大的进步。

　　问：您觉得人工智能在哪方面的应用最能造福人类？

　　答：改善医疗的应用。人工智能可以帮助评估影像检查结果、作诊断和研发新药。医疗卫生领域几乎所有的人工智能应用都是积极的。当然也有一些负面应用，例如当保险公司用人工智能来决定不给谁上保险时。美国企业对这个非常感兴趣。但除此之外，几乎只有积极影响。

　　问：谈谈劳动力市场吧，哪些行业将得益于人工智能，哪些行业会变成输家？会出现大规模失业吗？

　　答：这在很大程度上取决于需求是不是有弹性。在医疗卫生领域，情况是这样的：提供的服务越多，被使用的服务就越多。如果医生的效率提高十倍，我们得到的护理就会十倍于从前。那太棒了！因此，我们不需要减少医疗卫生领域的从业人员。

　　问：但并非所有领域都是这样……

　　答：是的，在只需要平庸脑力劳动的领域都不会这样。我们不会突然需要十倍的平庸脑力——因此，这些领域的就业岗位会明显减少。（编译/王勍）