2024年，OpenAI推出新工具應對全球選舉年的挑戰

2024年，全球将迎来史上最大规模的“选举年”。

这种情况下，不少选民对于人工智能是否深入介入并影响选举表示担忧。就连人工智能公司OpenAI的高层也有这种忧虑。OpenAI首席执行官Sam Altman去年5月份在美国国会作证时就曾表示，他对生成式人工智能通过虚假信息损害选举公正性的能力感到紧张。

为了应对这种情况，当地时间1月15日， OpenAI特地推出一个“AI工具礼包”，对ChatGPT进行了“针对性升级”，目的就是为了尽量降低AI对选举的影响。

OpenAI

OpenAI表示，其应对2024“选举年”的方法，是“通过提升准确的投票信息、执行谨慎的政策和提高透明度来继续我们的平台安全工作。”OpenAI进一步表示，在致力于选举相关工作方面，公司内部汇聚了安全系统、威胁情报、法律、工程和政策团队的专业知识，正在快速调查和解决潜在的滥用行为。

防止滥用

自ChatGPT推出以来，OpenAI就一直在尽力避免ChatGPT被滥用。OpenAI称，公司一直致力于迭代工具来提高事实准确性、减少偏见并拒绝某些请求。例如，DALL·E就设有防护措施，可以拒绝要求生成真人（包括候选人）图像的请求。

而在接下来的选举中，OpenAI将在防止滥用方面对ChatGPT继续进行完善。

●在OpenAI获取更多信息之前，将不允许人们构建用于政治竞选和游说的应用程序。

●OpenAI将不允许开发者创建冒充真人（例如候选人）或机构（例如地方政府）的聊天机器人。

●OpenAI将不允许开发者创建阻止人们参与选举投票进程的应用程序。包括歪曲投票过程和资格（例如，何时、何地或谁有资格投票）或阻碍投票（例如，声称投票无效等）。

另外，借助最新的GPT模型，用户可以随时向OpenAI报告发现的潜在违规行为。

增加透明度

为了防止虚假图片误导选民，OpenAI将提高图像来源的透明度，包括推出检测使用哪些工具来生成图像的功能。

OpenAI透露，其正在开展多项溯源工作。OpenAI将为DALL·E 3生成的图像将加上内容来源和真实性联盟（Coalition for Content Provenance and Authenticity，简称“C2PA”）推出的“内容凭证（content credentials）”

C2PA是一个联合开发基金会项目，该联盟由Adob​​e、Arm、英特尔、微软和Truepic等多个公司组成。此前，C2PA就推出了官方内容凭证。这种所谓的凭证使用了加密技术对内容来源详细信息进行编码，旨在为世界各地的创作者、营销人员和消费者提供值得信赖的数字内容的信号。

该“内容凭证”的图标是一个包含字母“CR”的极简图像，可以蚀刻到图像和视频等传播媒介中。

CR

值得注意的是，OpenAI并不是第一家采用“数字水印”的人工智能企业。上个月，谷歌也表示，旗下人工智能实验室DeepMind开发出一种工具——SynthID，可以为其人工智能产品所生成的图像和音频加上“数字水印”。另外，Meta也表示，其人工智能产品也可以在内容中添加隐形水印。

OpenAI还透露，公司内部还在尝试一个新工具——来源分类器（provenance classifier），可以用于检测DALL·E生成的图像。OpenAI透露，公司内部测试已经显现出积极的初步结果，即使图像经过了常见类型的修改该工具也能检测出来。根据OpenAI的计划，不久之后将会把该工具提供给第一组外部测试人员（包括记者、平台和研究人员）以获取反馈。

此外，ChatGPT与现有信息源集成度也将越来越高。例如，用户可以在ChatGPT上访问全球实时新闻报道来源，包括归属和链接。信息来源的透明度和新闻来源的平衡可以帮助选民更好地评估信息并自行决定他们的信任偏好。

改善对权威投票信息的获取

在美国，OpenAI正在与美国国务卿协会(National Association of Secretaries of State，简称“NASS”)合作。NASS是美国历史最悠久的无党派公职人员专业组织。据了解，NASS有可供选民参考的信息包括选民投票率、投票程序、商业服务、电子政府和政府档案等。

如果ChatGPT被用户问及某些与程序性选举相关的问题时，ChatGPT将会把用户引导到美国投票信息权威网站CanIVote.org。后续在其他国家及地区，OpenAI也会参考该经验，对ChatGPT作出类似的改进。

OpenAI表示，在接下来的几个月里，ChatGPT将会继续完善。“我们期待着继续与合作伙伴合作并向其学习，以便在今年的全球选举之前预测和防止我们的工具可能被滥用。”

#OpenAI##ChatGPT##人工智能#