​谷歌研究人员发表论文探讨人工智能如何毁掉互联网

谷歌研究人员发表论文探讨人工智能如何毁掉互联网

导语：谷歌研究人员发表了一篇新论文，警告生成式人工智能正在用虚假内容毁掉互联网的广阔领域。

7 月 5 日消息，据外电报道，谷歌研究人员发表了一篇新论文，警告生成式人工智能正在用虚假内容毁掉互联网的广阔领域——这极具讽刺意味，因为谷歌一直在努力向其庞大的用户群推广同样的技术。

这项研究是一篇尚未经过同行评审的论文。

研究发现，绝大多数生成式人工智能用户正在利用这项技术模糊真实性和欺骗性之间的界限，在互联网上发布虚假或篡改的人工智能内容，例如图片或视频。研究人员还仔细研究了之前发表的关于生成式人工智能的研究，以及大约 200 篇报道生成式人工智能滥用的新闻文章。

研究人员总结道：操纵人类肖像和伪造证据是现实世界滥用案件中最普遍的手段。其中大多数都带有明显的意图，即影响舆论、进行诈骗或欺诈活动或牟利。

使问题更加复杂的是，生成式人工智能系统日益先进且随时可用——研究人员表示，只需要极少的技术专长，而这种情况正在扭曲人们对社会政治现实或科学共识的集体理解。

据我们所知，这篇论文遗漏了什么？有没有提到谷歌自己在使用该技术时犯下的令人尴尬的错误 ——作为世界上最大的公司之一，谷歌的错误有时规模巨大。

如果你读过这篇论文，你就会忍不住得出这样的结论：生成式人工智能的滥用听起来很像是该技术在按预期工作。人们正在使用生成式人工智能制作大量虚假内容，因为它非常擅长完成这项任务，结果导致互联网上充斥着人工智能垃圾。

而这种情况正是谷歌自己促成的，它允许这些虚假内容泛滥，甚至是虚假内容的源头，无论是虚假图片还是虚假信息。

研究人员表示，这一混乱局面也考验着人们辨别真假的能力。

他们写道：同样，大量生产低质量、垃圾邮件和恶意的合成内容可能会增加人们对数字信息的怀疑态度，并使用户的验证任务负担过重。

令人不寒而栗的是，由于我们被虚假的人工智能内容淹没，研究人员表示，有些情况下知名人士能够将不利的证据解释为人工智能生成的，从而以昂贵且低效的方式转移举证责任。

随着谷歌等公司继续将人工智能融入到每一款产品中，我们将会看到更多这样的情况。

（文章为作者独立观点，不代表艾瑞网立场）