OpenAI确认正研发文本水印技术，但仍面临挑战

日前有消息源透露，OpenAI已开发出能够高精度识别ChatGPT所生成文本的工具，但至今没有正式发布。对此OpenAI方面回应称，正在研发文本水印技术，并表示这一技术仍面临大量的挑战和难题。

据悉，OpenAI目前正在探索的文本水印技术核心理念，是通过微调ChatGPT生成文本中的词汇选择，从而实现文本水印的嵌入，这种水印未来可借助特定工具识别、并验证文本的出处。

公开资料显示，传统意义上的水印是指将来源信息添加到元数据中，但也有多种去除的方式，包括涂抹、剪切、缩放、压缩、加噪、滤波等。而文本水印则是一种信息隐藏技术，起源可追溯至上个世纪90年代，是通过将机密信息（即水印）嵌入文本中，以实现在共享水印规则的个体间进行安全、隐蔽的消息传递。

同时OpenAI方面还表示，文本水印只是这个解决方案的一部分，其还将并行研究分类器技术和元数据策略，以构建全面、多层次的文本认证体系，从而更精准地确定文本的来源。需要注意的是，虽然这一技术在部分测试场景中表现出色，但在面对诸如翻译、深度改写或插入特殊字符等复杂文本篡改时，效果会受到较大的影响，同时还可能对非英语母语等用户群体产生不成比例的影响。

对此OpenAI方面强调，由于上述因素以及文本水印技术对内容生态可能产生的深远影响，因此将谨慎的推进文本溯源技术的进程，此外其还表示将优先考虑对音视频内容认证工具的开发。

值得一提的是，此前在2024年2月，OpenAI方面就曾宣布ChatGPT网页版、移动版，以及图像生成模型DALL-E3，将为所生成的图像添加来自内容来源和真实性联盟（C2PA）水印，以帮助用户识别使用人工智能生成的内容。

据了解，C2PA是由Adobe、微软等公司共同发起，主要用于打击网络虚假信息和提高数字内容可信度的行业联盟。其水印中包含了不可见的元数据，以及可见的、位于图像左上角的CR符号两个部分，用户可轻松识别任何由OpenAI相关平台生成图像的来源。

【以上内容转自“三易生活网”，不代表本网站观点。如需转载请取得三易生活网许可，如有侵权请联系删除。】

延伸阅读：

• 重磅！ 微软宣布可以在Azure OpenAI服务中使用ChatGPT 利好万兴科技等企业
• ChatGPT4.0 来了，远传科技如何助推场景化落地