印度选举用AI深伪多名政客 舆论称易对选民造成误导

　　参考消息网4月24日报道 据法国《回声报》网站4月6日报道，在议会选举初期，印度各政党正在拥抱人工智能(AI)。

 

　　这是一种可以让死人说话、传播虚假信息并为每个选民量身订制信息的方式。

 

　　1月26日，穆图韦尔·卡鲁纳尼迪突然出现在印度南部泰米尔纳德邦执政党——德拉维达进步联盟(DMK)组织的一次集会上。

 

　　戴着黑色墨镜、穿着白色长衫、系着橙色围巾：一段长达八分钟的视频短片中，这位曾经领导泰米尔纳德邦长达20年之久的人，向他的儿子M.K.斯大林表示祝贺，后者在2021年当选为该邦首领。

 

 

　　3月6日，2018年去世的泰米尔纳德邦前首席部长穆图韦尔·卡鲁纳尼迪的AI生成图像被投射到南部城市金奈的一座建筑物上。(美联社)

 

　　卡鲁纳尼迪在谈到自己的儿子时说：“当新冠疫情肆虐全球时，我们的首席部长奔向惊慌失措的人们。全国人民都知道你是如何奋力抢救人们的生命，我也知道。”

 

　　儿子无法感谢父亲的感人话语。

 

　　原因很简单：这位父亲已于2018年去世。穆图韦尔·卡鲁纳尼迪的视频是由生成式AI深度伪造出来的。

 

　　随着印度准备在4月19日至6月1日选举议员，各政党正在大量使用AI。

 

　　“印度是将AI用于政治目的的先锋”，森蒂尔·纳亚加姆向《回声报》说道，他用深度伪造技术“复活”了穆图韦尔·卡鲁纳尼迪。为制作这段视频，德拉维达进步联盟向他支付了“几千美元”。他通常为独立电影制作特效。

 

　　巨大的市场

 

　　森蒂尔·纳亚加姆正考虑转型到为政党服务的领域，因为其商业前景广阔。这位程序员笑着说：“深度伪造政治人物的市场正在形成。你可以让某个名人说一些话，这样就能增加他们的影响力。”

 

　　在泰米尔纳德邦，政客们可以毫无顾忌地让死人说话。原因何在？因为像卡鲁纳尼迪这样的昔日政治领袖，仍然比他们的继任者更受欢迎。根据贾维斯咨询集团的数据，印度政治领域AI的市场价值已达到5500万欧元。

 

　　为实现这个深度伪造的目的，森蒂尔·纳亚加姆必须“武装”自己。一块最新的英伟达显卡和一个从开源算法发布平台“抱抱脸”(Hugging Face)上获取的生成式AI模型就已足够。

 

　　不过，这个模型是在西方人脸上训练出来的，因此必须加以调整，否则在肤色更深的印度人身上的效果就不那么令人信服。

 

　　纳亚加姆的深度伪造让德拉维达进步联盟非常满意。

 

　　据多家印度媒体报道，该党正在考虑在即将举行的大选所有集会上，都让AI版的卡鲁纳尼迪来造势。3月6日，该党再次在金奈(泰米尔纳德邦首府——译者注)一座纪念碑上投射出这位领袖的形象。

 

　　误导性工具

 

　　通过深度伪造“复活”领导人不是个例。今年2月，泰米尔纳德邦的主要反对党全印安纳德拉维达进步联盟(AIADMK)也“复活”了该党的昔日风云人物贾娅拉姆·贾亚拉利塔。在一段录音中，可以听到这位于2016年去世的女政治家呼吁支持该党现任领导人。

 

　　此外，主要的全国性政党也在利用这一工具。3月16日，总理纳伦德拉·莫迪所在的政党印度人民党(BJP)分享了其主要对手拉胡尔·甘地的一段深度伪造内容，其中可以听到这位政治人物说：“我什么都不做。”——这是他从未说过的一句话。

 

　　拉胡尔·甘地所属的印度国大党也利用技术将总理的脸贴在了歌手尤斯特的脸上，后者正在演唱一首名为“Chor”(印地语中为“小偷”)的歌曲。

 

　　这段视频意在嘲讽这位印度领袖，因为他被指责偏袒该国的亿万富翁，损害了社会最弱势群体的利益。这段视频被分享到印度国大党的照片墙(Instagram)账户上。

 

　　对政治团体来说，利用深度伪造让对手说出自己想让他们说的话，这可是巨大的诱惑。去年11月，在特伦甘纳邦的地区选举中，国大党在X网站上发布了一段视频，在视频中即将离任的该邦首席部长K.T.拉马·拉奥呼吁为反对党国大党投票。

 

　　一位政党官员告诉半岛电视台：“这段视频看起来很真实，却是AI制作的。普通选民不太可能知道视频的真假。由于投票已经开始，对手没时间降低影响。”拉胡尔·甘地所在的政党最终赢得特伦甘纳邦的选举。

 

　　政党们还聘请专门从事生成式AI的公司为选民制作个性化信息。许多私营企业为印度政党提供这项服务。班加罗尔的拉杰尼蒂政治管理咨询公司(Rajneethi)的技术主管维奈·德什潘德解释道：“我们采集政界领导人的声音和面部视频作为样本。然后，我们就可以利用AI制作视频。你所要做的就是在算法中输入一段文字，就可以让政治人物说出你想要的内容。”

 

　　个性化推送

 

　　声音和面孔的“克隆”对保持政党与党员之间的联系也非常有用。在印度，党务工作者在选举过程中发挥着重要作用，没有他们的帮助很难当选。“问题是，这些志愿者往往是免费工作，很少得到政党领导人的认可。”迪夫延德拉·贾道恩指出。

 

　　这位自学成才的男子30岁时创办Polymath Solutions公司，为政党提供AI服务。他说，他为印度人民党工作，也为国大党工作。“AI使他们能够向支持者发送个性化的视频信息。”贾道恩解释说。

 

　　这个过程非常简单：领导人向程序员发送一段几十秒的发言视频。通过克隆声音和对口型同步配音，视频就可以无限生成。然后，党务工作者就会收到一条视频信息，在这条信息中，他们可以听到政党领导人直呼其名向他们表示感谢。

 

　　从法律上讲，各政党可以自由发挥：印度法律对政党使用AI没有任何规定。政府仍在起草《数字印度法案》，这是未来几年规范互联网和新技术的重要立法。贾道恩表示：“AI是中立的。如何使用它才是合法与否的关键。在印度，人们并不了解AI，因此很容易上当受骗。”