人类走向“人工智能未来”

　　参考消息网1月22日报道 世界报业辛迪加网站1月3日发表技术投资人、政策分析师查尔斯·弗格森的文章《我们的人工智能未来》，内容编译如下：

　　尽管人工智能在教育、艺术、医学、机器人技术及其他领域带来令人振奋的变革方面拥有巨大潜力，但也带来了重大风险，而其中大多数风险尚未得到解决。从政治机构和其他机构迄今为止的反应来看，我们可以断定，未来多年将会处于不稳定状态。

　　我们正处于一场与第一次工业革命同样重要的变革之中，至今已历时两年。然而，专家们对人工智能的影响有着不同观点，有的盲目乐观，有的如临大敌。我们真能预测人工智能的未来吗？我认为是可以的。

　　首先，极乐世界也好，人类灭绝也罢，短期内都不会出现。相反，我们将要面对多年的不稳定状况。人工智能技术将持续飞速发展，具备愈发惊人的能力。我们甚至还没有穷尽当前基于Transformer架构的模型(这类模型很大程度依赖暴力计算)，而且人们正在投入巨大精力以研发更好的模型、半导体技术、处理器架构、算法以及训练方法。最终，我们将会打造出等同于或超越人类智力的通用人工智能系统。

　　不过，就目前而言，人工智能仍存在显著局限。它甚至连做顿饭、遛遛狗都做不到，更不用说打仗或管理一个组织。邪恶的超级智能短期内也不会统治地球。但人工智能革命将如何发展——以及它能带来多大进步，又会造成多少痛苦——将取决于技术和人类制度之间的一系列竞赛。到目前为止，技术已经把人类制度远远甩在后面。

　　潜在益处巨大

　　我对人工智能潜在的益处十分乐观，而且我看到了人工智能在教育、艺术、医学、机器人技术以及其他领域令人振奋、鼓舞人心的发展态势。但我也看到了风险，而其中大多数风险尚未得到解决。

　　就像第一次工业革命时期一样，人工智能对就业和收入的影响变幻莫测，而且往往毫无预兆地出现。国民生产总值的总体发展轨迹或许看起来积极且平稳，但在这看似光鲜的曲线之下，社会各阶层的民众将会承受巨大的痛苦与焦虑，同时也会有许多新机遇出现，部分人还会借此积累巨额财富。

　　目前，人工智能最适用于那些高度复杂但也高度结构化的活动：街道导航、图像分类、下棋、语言运用(包括人类语言和计算机语言)。但人工智能对特定人类活动的实际影响取决于三个变量：自动化的速度和程度；与可以实现(或不可实现)自动化活动相关的人类技能水平；以及——至关重要的一点——廉价的人工智能自动化实现后将创造出多少额外需求。

　　这对实际应用的意义可能出人意料。来看几个例子，先从语言翻译说起。最近，我先后与两位杰出的人工智能专家讨论了这个问题。第一位专家认为，人工智能很快就会让人类译员彻底消失，因为人工智能翻译在五年内将接近完美。但第二位专家认为，我们对译员的需求将比以往更多。由于人工智能能够实现对任何内容的快速、低成本翻译，需要翻译的材料将会呈爆炸式增长，届时需要人类对人工智能系统进行训练和改进，同时也需要对最重要的材料进行审核和纠错。

　　经过进一步研究，我认为第二种观点更准确。待翻译的内容将出现巨大增长(事实上已经在增长)；而且，在某些情况下，我们仍需要人类进行监督。翻译的内容可不只是天气预报和菜单；还涉及联邦调查局、中央情报局、化工企业、医疗器械制造商、急诊室医生、外国领导人、外科医生、飞行员、突击队员以及防自杀热线等。虽然人类译员的角色将向训练、监管和纠正人工智能系统转变，但在未来很长一段时间内，我们可能仍需要译员。

　　其他领域也有类似问题。很多人认为软件工程师的职业快要消失了，因为人工智能仅凭非技术性人类指令就能出色地完成软件工程师的工作。但也有人认为，这一趋势将推动软件产量和复杂度大幅提升，需要很多人类专家来构思、组织、验证和监控这庞大的代码体系。在这方面，关于人工智能对劳动力的影响尚未达成共识。

　　就业困难加剧

　　对于律师而言，形势似乎更为严峻。虽说现在还为时尚早，但我已经多次听到这样的对话：我们原本需要一份雇用/投资/合伙/收购协议，但律师迟迟弄不出来，于是我们就交给Perplexity(一款人工智能服务)，结果还做得不错。我们找律师审核了一下，没问题，所以除了审核工作，我们不再需要律师。

　　而且，与语言翻译不同的是，人工智能似乎不太可能让法律工作出现千倍的增长。所以，我预计律师行业确实会面临压力，届时只需要那些有经验的专家处理复杂案件。相反，在其他一些行业——常被提及的包括会计和审计——人工智能将缓解专业人才严重短缺的状况。

　　再看看驾驶领域。当前对自动驾驶汽车的关注掩盖了另一个情况：人工智能已经让驾驶员这一职业的技能要求降低了。二十年前，城市出租车司机必须聪明、机警，还要有超强的记忆力。如今，伦敦的出租车司机已经不需要“博学多才”。现在，手机上都有导航功能，这让职业驾驶员沦为网约车平台上无需动脑的零工。而当自动驾驶技术足够成熟(其实已经快到这个阶段了)，这些工作将彻底消失。

　　接下来，看看机器人技术(自动驾驶汽车其实只是其中一个例子)。有了生成式人工智能，我们正在见证一场革命，它最终将影响从体力劳动到家务劳动再到战争等所有体力活动。

　　今年，机器人技术领域的风险投资激增，这表明风投行业正在豪赌机器人将在未来五年内开始大规模取代人类。最先实现完全自动化的活动将出现在高度结构化、受管控的环境中——比如仓库、配送中心、超市、生产线。在人们身边的非结构化活动(比如在家中或路上)中实现自动化尚需时日，但这些方面也正在取得进展。

　　武器装备升级

　　人工智能取得惊人进展的另一个领域是武器装备。在这一领域，恰当的类比对象不是工业革命，而是第一次世界大战。1914年，交战双方的很多人认为那场战争不会造成太大伤亡；然而，新技术——机枪、炸药、大炮以及化学武器——却带来了可怕的大规模屠杀。

　　我担心的是，目前很少有政治或军事领导人真正明白，人工智能驱动的战争会是多么可怕。人工智能将使人类脱离许多战斗岗位，但也意味着任何身处战斗中的人类都将被极其高效地击毙。这会导致没有人类参战的“无害化”战争，还是会引发史无前例的屠杀呢？从乌克兰的情况来看，前景并不乐观。

　　有了廉价的、人工智能驱动的系统，装甲车、舰艇和飞机等昂贵的有人操控系统变得不堪一击，这将破坏国家军事力量的根基。更糟糕的是，这一切发生在新冷战伊始和西方国内政治不稳定加剧的时期。那么，人工智能对枪支管制又意味着什么呢？美国宪法第二修正案是否保护那些可以放置在酒店房间窗口、设置成一周后瞄准下方所有人或特定某个人的人工智能武器？

　　虚假信息泛滥

　　最后一个令人担忧的问题是虚假信息。虽然人工智能已经能制造出相当逼真的文本、图像、短视频和音频虚假内容，但到目前为止，人工智能造假在选举和新闻媒体中似乎没起什么大作用，这让很多观察人士把心放了下来。但现在就宣告胜利未免太过草率。就目前而言，知名新闻机构、大型互联网平台和国家情报部门还比较容易辨别真假。但人工智能技术仍处于起步阶段。十年后(甚至可能更早)，当没有人能确切分辨真假时，情况又会怎样呢？

　　这些问题将在诸多领域产生影响。一个显而易见的影响是，各国需要彻底改革和加强其社会保障和教育系统，以应对这样一个所有技能和职业快速且频繁更迭的世界。如果我们不能为此作好准备，那么人工智能给人们造成的冲击，会让在过去30年里被全球化进程抛在后面的人们所怀有的愤怒显得微不足道。同样，我们应严格监管深度伪造内容，包括设定标注要求以及对制作或传播未标注内容的行为施以严厉的刑事处罚。

　　欢迎来到未来。我希望我们能拥抱它，因为不管我们喜欢与否，它都将到来。（编译/王栋栋）