“危险在于人工智能的范围和规模……尤其是与更复杂的算法结合使用时。”美国辛辛那提大学错误信息专家兼新闻学教授杰弗里·布莱文斯（Jeffrey Blevins）对媒体表示，“这是一场我们从未见过的规模的信息战。”

　　错误信息专家表示，这些网站的快速增长在2024年的各个选举前夕尤其令人担忧★◆。“其中一些网站每天会生成数百甚至数千篇文章。■◆”进行调查的NewsGuard研究员杰克·布鲁斯特（Jack Brewster）对媒体表示，“这就是为什么我们称其为下一个大型的错误信息超级传播者◆■■◆★■。★◆★★■■”

　　NewsGuard的一项调查发现，一篇由人工智能生成的文章讲述了有关以色列总理本杰明·内塔尼亚胡精神科医生的假故事■■■，声称他已经去世，并留下一张纸条，暗示内塔尼亚胡参与其中。这位精神科医生似乎是虚构的◆■，但该说法出现在伊朗电视节目中，并在阿拉伯语、英语和印度尼西亚语媒体的网站上转载★◆，在社交平台TikTok、Reddit和Instagram上被用户传播★■■★◆◆。

　　今年9月，斯洛伐克进步党领袖米哈尔·西梅奇卡（Michal Šimečka）在选民投票前几天发现，他的声音被克隆◆★◆，说出了他从未说过的有争议的话。两周后，英国工党领袖似乎被录下了在X（前身为Twitter）上斥责一名工作人员的充满脏话的长篇大论的录音。越来越多的网站■★★■■，例如使用“iBusiness Day”或“爱尔兰热门新闻”等通用名称发布假新闻◆◆，使其看起来很真实◆★■■◆。

　　发布“内塔尼亚胡精神科医生”文章的网站“地球村空间”也充满着各种严肃话题的文章。有一些文章详细介绍了美国对俄罗斯武器供应商的制裁★★★◆■★，石油巨头沙特阿美公司在巴基斯坦的投资。该网站还包含中东智库专家、哈佛大学毕业的律师和该网站首席执行官、巴基斯坦电视新闻主播莫伊德·皮尔扎达（Moeed Pirzada）撰写的文章。布鲁斯特说■◆，夹在这些普通故事中间的是人工智能生成的文章。

　　·创建这些网站的动机各不相同★■■。有些是为了动摇政治信仰或造成严重破坏，还有一些网站大量生产两极分化的内容来吸引点击并获取广告收入。

　　·NewsGuard的团队已识别出614个不可靠的人工智能生成的新闻和信息网站★■◆◆★，涵盖15种语言。其中一些网站每天会生成数百甚至数千篇文章。NewsGuard称其为下一个大型的“错误信息超级传播者”。

　　伊朗国营电视台援引不可靠的人工智能生成的英文新闻网站宣扬内塔尼亚胡的“精神科医生◆■★◆”自杀的错误说法。图片来源：NewsGuard

　　跟踪错误信息的组织NewsGuard 12月18日发布报告称，自5月以来，托管人工智能创建的虚假文章的网站增加了1000%以上，从49个网站激增至600多个。

　　将真实新闻和人工智能生成的新闻放在一起，会让欺骗性的故事更加可信。媒体和人工智能专家表示，类似“地球村空间”的网站可能会在2024年各种选举期间激增，成为传播错误信息的有效方式◆■◆。

　　布莱文斯表示，人们应该留意文章中的线索■◆、“危险信号”，例如“非常奇怪的语法”或句子结构中的错误。但最有效的工具是提高普通读者的媒体素养。他补充说，监管基本上不存在◆◆■★，政府可能很难打击假新闻内容，就把这个问题留给了社交媒体公司，但它们迄今为止做得并不好■★★◆◆★。而快速处理此类网站是不可行的，因为它们重新创建的速度也很快。◆■“这很像玩打地鼠游戏◆■■◆★◆。”他说。

　　此前，宣传活动一直依赖低薪工人大军或高度协调的情报组织来建立看似合法的网站。但人工智能让几乎任何人，无论是间谍机构的一员还是地下室里的青少年都可以轻松创建这些媒体，制作有时很难与真实新闻区分开来的内容■◆■★◆■。

　　NewsGuard在调查期间联系该组织后，“内塔尼亚胡精神科医生◆■”文章被重新标记为★◆◆“讽刺”。NewsGuard表示，这个故事似乎是根据2010年6月发表的一篇讽刺文章改编的★★■◆◆★，该文章对一名以色列精神科医生的死亡做出了类似的说法。

　　创建这些网站的动机各不相同。有些是为了动摇政治信仰或造成严重破坏。布鲁斯特说，还有一些网站大量生产两极分化的内容来吸引点击并获取广告收入。但他补充说，增强虚假内容的能力是一个重大的安全风险。

　　迄今为止◆★★■◆■，NewsGuard的团队已识别出614个不可靠的人工智能生成的新闻和信息网站，标记为“UAINS■■■◆★”★■■，涵盖15种语言：阿拉伯语■◆◆、中文■★★★、捷克语■■■、荷兰语、英语、法语■■★、德语、印度尼西亚语■★■◆、意大利语、韩语、葡萄牙语、西班牙语★★■★、他加禄语■■◆★、泰语和土耳其语。