AI一本正经地胡说八道 有种办法可以识破它

近年来，生成式人工智能在文本、图像、音乐等领域大放异彩。然而，随着生成式人工智能变得越来越强大，人们越来越难以鉴别AI生成的内容。
http://www.weixin998.com/
近日，发表的封面文章提供了一种文本水印方案，可以提高 AI 生成文本的检测精度。

AI一本正经地胡说八道 有种办法可以识破它

AI 生成内容检测的必要性

在文本、图像和音乐中，AI 生成的文本是最难以检测的。因为现有的图像和音乐生成技术尚未像文本生成技术一样发达，AI 生成的图像和音乐往往有某些非自然的视觉或听觉特征。AI 生成的内容在整体上效果较好，但具体到细节就显得不够自然。在图像和音乐中，也可以人工添加人类难以发现的水印，在后期检测中通过水印筛选出AI生成的作品。

然而在文本中难以直接添加人类不可见的水印，这是因为文本与图像和音乐不同，每一个文字都是完全可见的。同时，可用于训练 AI 的文本数据也远多于图像和音乐。在庞大的、基于人类写作的语料库的训练之下，AI 已经非常擅长模拟人类的表达方式和语言习惯，甚至能够调整文本的风格和语气，这使得 AI 生成的文本难以直接检测。

尽管 AI 生成的文本与人类创作的文本难以分辨，但 AI 生成的内容可能带有事实性的错误，并不能保证可靠性。无法辨别来源的内容可能会导致虚假信息的传播，也带来了学术作弊、版权争议等种种问题。