OpenAI 公布2024选举虚假信息打击计划

据统计 ，公布2024 年预计将有 50 多个国家举行大选，选举虚假信息虚假信息的打击威胁成为人们关注的焦点 。

人工智能聊天机器人 ChatGPT 和图像生成器 DALL-E 的计划开发商 OpenAI 近日宣布了一项新的措施
，以防止在今年大选之前再次出现虚假信息滥用和误导事件。公布

本周一(1月15日) ，选举虚假信息该公司宣布正在与美国历史最悠久的打击无党派公职人员专业组织——全美国务卿协会（NASS）合作，防止 ChatGPT 在 11 月美国总统大选前向用户输出一些错误信息 。计划

例如，公布当被问及有关选举的选举虚假信息问题时
，如在哪里投票，高防服务器打击OpenAI 的计划聊天机器人将引导用户访问美国投票信息的权威网站 CanIVote.org 。该公司认为，公布这项工作的选举虚假信息经验教训将为我们在其他国家和地区的工作提供借鉴 。

利用加密水印打击深度伪造

为了防止深度伪造，打击OpenAI 还表示将对其最新版人工智能图像生成器 DALL-E 3 生成的图像实施内容出处和真实性联盟（Coalition for Content Provenance and Authenticity，C2PA）的数字证书
。

C2PA 是联合发展基金会（Joint Development Foundation）的一个项目 ，该基金会是云计算一家总部位于华盛顿的非营利组织，其主要举措是内容真实性倡议（CAI）和起源项目，通过实施加密内容出处标准来应对数字时代的虚假信息和操纵行为
。

包括 Adobe、X 和《纽约时报》在内的几家大公司都是该联盟的成员 ，并积极支持该标准的制定。

OpenAI 表示，它正在试验一种出处分类器  ，这是免费模板一种用于检测由 DALL-E 生成的图像的新工具。据其内部测试显示 ，即使图像经过常见类型的修改，早期结果也很有希望 。他们计划将其提供给第一批测试者--包括记者、平台和研究人员--以征求反馈意见。

谷歌 DeepMind 也开发了类似的工具，利用 SynthID 对人工智能生成的图像和音频进行数字水印处理。Meta 也在尝试为其图像生成器开发类似的水印工具，不过马克-扎克伯格的源码下载公司很少分享相关信息 。

OpenAI 称在发布新系统之前会对其进行红队测试，让用户和外部合作伙伴参与反馈
，并建立安全缓解措施 ，以降低潜在的危害。

打击虚假信息具有挑战性

基于人工智能的文本分析平台 Copyleaks 的联合创始人兼首席执行官阿隆-亚明（Alon Yamin）在接受 Infosecurity 采访时表示十分鼓励 OpenAI 致力于打击虚假信息的行为  ，但实施起来可能具有挑战性
。

他表示，今年的大选被认为是近代史上最大的选举年之一，亿华云不仅是在美国，在全世界范围内 ，人们都非常担心人工智能会被滥用于政治活动等
，这种担心是完全有道理的。但正如我们多年来在社交媒体上看到的那样，由于用户群规模庞大 ，这些行动可能难以实施
。

在英国，下一次大选应在 2024 年年中至 2025 年 1 月之间举行，信息专员办公室（ICO）于 1 月 15 日启动了关于生成式人工智能的系列咨询。

模板下载