斯坦福大学教授被指控使用 AI 撰写批评 Deepfake 的专家证词

据称斯坦福大学一位知名教授被指控传播人工智能生成的虚假信息，该教授同时身兼专家证人之职，为一项旨在将人工智能生成的虚假信息排除在选举之外的法律提供支持，这一事件显然带有一定的尴尬和讽刺意味。

本月早些时候，在Kohls诉Ellison案中，斯坦福大学社交媒体实验室的创始主任杰夫·汉考克（Jeff Hancock）被指控侵犯了一名YouTuber和明尼苏达州代表的第一修正案权利，并声称该州将使用深度伪造技术来影响选举结果，这已成为刑事犯罪。汉考克的观点包括引用了一项据称发现，即使个人被告知存在深度伪造，他们仍可能难以区分真实内容和虚假内容的研究。然而，根据原告的律师声称，汉考克引用的研究实际上并不存在，该研究题为“深度伪造视频对态度和行为的影响”，据称发表在信息技术与社会杂志上。

原告在一份寻求排除汉考克专家意见的动议中写道：“引文带有人工智能（AI）‘幻觉’的特征，这表明至少引文是由像ChatGPT这样的大型语言模型生成的。”尽管原告不知道这种幻觉在汉考克的声明中如何消除，但这使得整个文件受到了质疑，尤其是当大部分评论不包含任何方法或分析逻辑时。

关于汉考克使用人工智能的指控，最初由明尼苏达改革者报道。至今，汉考克尚未对Gizmodo的置评请求做出回应。

明尼苏达州是全美20个在选举活动中使用深度伪造受到法律规范的州之一。该州的法律规定，在选举前90天内故意或鲁莽地传播深度伪造材料是刑事犯罪，前提是该材料是在未经被描绘者同意的情况下制作的，并且旨在影响选举结果。

此次挑战该法律的诉讼由保守派律师事务所代表明尼苏达州众议员玛丽·弗兰森（Mary Franson）和克里斯托弗·科尔斯（Christopher Kohls）发起，后者是一位名为里根先生的YouTuber。科尔斯提起的诉讼挑战了加州的选举深度伪造法，这导致联邦法官上个月发布了一项初步禁令，以阻止该法律生效。