谷歌宣布为AI生成图像加水印，AI识别内容真伪成趋势
谷歌还宣告，其自身的生成式AI工具会于每张图片里涵盖元数据，嵌入水印，用以表明这是由AI生成的图像，并非真实照片，谷歌的博客文章记载，和其他公司会在“未来几个月”推出这种标记。
AI 野蛮生长的时代，科技是最快的解法。
科技解法一：AI 生成内容识别器
向1000名已满18周岁的学生展开调查这一行为，是由在线课程供应商发起的，调查结果显示，有超过89%的学生借助某事物去完成家庭作业，如果依靠人力逐一来分辨AI生成的痕迹，着实极为劳心劳力。
于是，最为直截的念头是，倒不如让人工智能去分辨内容是不是由人工智能生成的。二月一日，团队推出了“人工智能生成内容识别器”，其目的在于辨别文本是经由电脑自动生成的还是人类创作的，它在本质上是一个划分真实内容与人工智能生成内容的分类器。然而，在博客当中指出，这个识别器对于人工智能撰写内容的检出成功概率仅仅只有百分之二十六。
2月份的时候，某科技网站，利用相似的聊天机器人，生成了7段风格各异的文字，以此测试几款较为流行的AI文本检测器的“侦查能力”，然而，没有一款AI检测器能够通过测试。
然而，AI 的能力呈现出越来越强的态势，在此情形下，绕过 AI 检测器这件事变得越来越容易 。
就拿上述之中表现最为出色的来讲，澎湃新闻的记者所采用GPT - 4生成的一段有着250字的小说，被其判定成“有可能完全是由人类创作出现的” 。
被判定为“有可能完全出自人类之手”的是GPT - 4生成的文字。
科技解法二：数字水印
数字水印是指，在AI进行生成的时候，以一种用户肉眼不可以察觉的方式，在内容之中插入一些信息，从而打上“此文章（此图）由AI生成”这样的隐秘水印 。
AI生成内容识别器失效之后，着手思索于生成的文本里增添数字水印，对齐团队负责人Jan Leike向《纽约时报》透露，该团队正在探寻的水印方法，与马里兰大学研究人员近期发表的一篇论文中所描述的方法相类似，而对齐团队主要职责是提升系统安全性 。
然而，这种新方法存在局限之处，在于水印唯有从最开始便嵌入到大语言模型中才会有效果，若想要广泛进行运用，人工智能领域的公司必须针对水印的实施标准达成一致的看法。
该公司的首席执行官，名为Sam，在接受某一特定采访时宣称，并不存在一款堪称完美的人工智能生成文字识别工具，“人们总归会弄明白他们到底需要修改多少文字，而且还会有其他用于修改输出文本的工具出现。”
借由嵌入“元数据”，图像能够显著地将“AI”标记于作者栏。只是AI进行文字生成仍在寻觅一种能付诸实践的解决办法。
开启头的那两张图内里，左侧边是真实的照片，右侧面是借助AI生成的，你有没有猜出来呢？
本期资深编辑 周玉华
欢迎 你 发表评论: