TikTok 将识别并标记第三方AI生成的内容

小哪吒

5月10日消息，在全球视频共享领域占据重要地位的TikTok，宣布了一项针对其平台上人工智能（AI）生成内容的新政策。该公司计划通过应用称为“内容凭证”的数字水印技术，对上传至其服务的AI生成图像和视频进行标记。这一措施旨在提高内容的透明度，并应对可能的虚假信息问题，特别是在即将到来的美国大选中。

TikTok已经成为承诺对抗虚假信息的20家科技公司之一，并已经对使用其应用内部工具制作的AI内容进行了标记。最新的政策扩展到了服务外部生成的视频和图像。TikTok运营、信任和安全主管Adam Presser表示，公司还制定了禁止未标记AI内容的政策，违反者将因违反社区准则而被删除。

内容凭证技术由内容来源和真实性联盟（C2PA）牵头，该联盟由Adobe和微软等公司共同创立，并对其他公司开放使用。这一技术已被OpenAI等采用，YouTube、Google和Meta（拥有Instagram和Facebook的公司）也计划使用内容凭证。

为了使系统有效运作，生成内容的AI工具制造商和分发内容的平台都必须同意使用这一行业标准。例如，使用OpenAI的Dall-E工具生成的图像将被附加水印，并将数据嵌入文件中，以指示其是否被篡改。当这样的图像上传到TikTok时，它将自动被标记为AI生成。

TikTok的这一新策略是对其平台上内容真实性监管的重要加强，也是对当前社交媒体上虚假信息挑战的直接回应。随着AI技术的发展，AI生成的内容越来越难以与真实内容区分，这给社交媒体平台的内容监管带来了新的挑战。TikTok的这一举措显示了其在维护内容真实性和平台诚信方面的领导力和责任感。

TikTok在美国拥有1.7亿用户，是字节跳动公司旗下的产品。最近，美国通过了一项法律，要求字节跳动剥离TikTok，否则将面临禁令。对此，TikTok和字节跳动已提起诉讼，要求阻止该法律，称其违反了第一修正案。