人工智能 (AI) 兴起为人们带来了诸多便利和机遇，但也引发了一些担忧。例如网络安全专家担心 AI 生成的内容可能扭曲人们对现实的认知，尤其是在重要的选举年，这种担忧更令人不安。
思科 Talos 安全情报与研究小组的技术主管 Martin Lee 对此持不同看法，他认为“深度造假”技术的威胁可能被夸大了。思科拥有一个名为“Talos”的安全研究团队，由约 250 名安全研究人员和 600 名软件工程师组成。
Lee 指出，新的生成式 AI 工具确实“有可能让虚假内容的生成变得更容易”，而深度造假本身也是一项强大的技术，但存在缺陷：AI 生成的材料通常包含明显的可识别特征，表明它不是由真人制作的。尤其是视觉内容，已证明很容易受到影响。例如，AI 生成的图像可能包含视觉异常，例如一个人有两只以上的手，或者一个肢体被合并到图像的背景中。
用 AI 合成的语音音频和真人的语音片段之间进行分辨可能比较困难。但专家们表示，AI 的水平仍然取决于它的训练数据。
不过 Lee 表示，客观地看，机器生成的内容通常可以被检测到。目前威胁不大
美国云端运算和企业软件公司 Appian 的首席执行官 Matt Calkins 表示，AI “用处有限”。该公司帮助企业更容易地利用软件工具制作应用程序。他认为，今天的许多生成式 AI 工具可能很“无聊”。
他指出，真正的问题在于“我们愿意信任 AI，让它了解我们自己”。他警告说，这可能会使 AI 在未来成为一个更有效、更危险的虚假信息工具。他还表示，他对美国在监管这项技术方面取得的进展感到不满。
他补充说，可能需要 AI 制造出一些极其“冒犯”的东西，美国立法者才会采取行动。他说，“给我们一年时间，等到 AI 冒犯了我们再说吧。然后也许我们会做出正确的决定。”
无论 AI 多么先进，思科的 Lee 表示，仍有一些经过验证的方法可以发现错误信息，无论这些信息是机器还是人类制造的。
