Adobe一直处于生成式人工智能领域的前沿，推出了许多人工智能解决方案，从经典的文本到图像生成器到专门为企业设计的工具。不管应用程序是什么，有一件事是相同的:Content Credentials的存在。
在本周的Adobe峰会上，该公司将内容凭证扩展到其创意和企业应用程序中，包括在Firefly和Adobe Experience Manager中的新结构参考。
这一增加凸显了Adobe继续致力于帮助观众区分真假内容的承诺——生成式人工智能工具的日益出现加剧了这一问题——通过包含有关内容如何创建的信息的易被篡改的元数据。
“这里的技术问题是最容易解决的——我们已经解决了;采用是下一个最难解决的问题，但我们正在显示出吸引力，”Adobe内容真实性计划高级总监安迪·帕森斯对ZDNET表示。
在峰会上，Adobe宣布普华永道(PwC)、nbc环球新闻集团、WPP和欧特克(Autodesk)加入了内容真实性倡议组织(Content Authenticity Initiative)，该组织旨在推动“采用开放的行业标准来保证内容的真实性和来源”。在过去的一年里，OpenAI、meta和谷歌等科技巨头都支持使用内容凭证。
帕森斯补充说:“你会看到这些大品牌加入进来，不仅仅是给我们提供他们的标志，说这是一个好主意，而是实际上实施了内容认证。”
什么是Co ?ntent凭证吗?
那么，为什么这些公司都在使用内容证书呢?让我们看看内容凭证以及如何使用它们。
内容凭证作为数字内容的“营养标签”，允许用户查看内容的重要成分，包括创建者的姓名、创建的时间和日期、用于创建内容的工具(如相机或软件程序)以及所做的编辑。
通过加密元数据和水印将信息永久地添加到内容中，确保即使有人更改了数据或内容，凭证仍然是附加的。
由于内容凭据是基于免费的开源技术，因此创建者可以选择将内容凭据附加到任何内容上，以确保适当的署名。此外，许多AI应用程序(如Adobe Firefly)自动实现内容凭据来生成内容。
因此，重要的是，生成人工智能领域的主要参与者，如OpenAI和meta，已经表明了使用内容凭证来标记其人工智能模型中生成的图像的承诺，努力实现所有人工智能生成的图像都被正确标记的世界。
为什么给人工智能生成的图像贴上标签如此困难创造
随着生成人工智能工具变得越来越流行，创建逼真的假图像变得比以往任何时候都更容易，正确识别人工智能生成的内容的需求变得更加关键。
帕森斯说:“随着[生成式人工智能]工具变得民主化，低成本或免费，以及这些低成本或免费工具的质量变得与现实难以区分，当然，[内容凭证]变得越来越重要。”
恶意行为者可以利用生成式人工智能创建虚假内容，传播错误信息，误导公众。这一趋势在选举年构成了特别紧迫的威胁。
“真正令人担忧的是，也许今年2024年的选举将成为人工智能选举的季节，人们对什么是真实的，候选人在做什么，他们没有做什么……会有足够多的欺骗性内容，给系统增加很多噪音。”帕森斯补充道。
为了应对这一威胁，除了内容凭据外，Adobe Firefly还采取了其他措施，以确保AI不可能出现几代政治人物或名人。
Adobe AI仅在Adobe Stock Images和版权过期的公共领域内容上进行培训。这项技术无法生成名人或政治候选人的图像，因为它还没有接受过这些数据的训练。
Adobe负责ZDNET产品营销的副总裁迪帕•苏布拉曼尼亚姆表示:“在这些检查、添加元数据的能力以及图像模型接受公开授权内容训练的方式之间，Firefly图像模型无法创建米老鼠或唐纳德•特朗普，因为它从来没有真正看到过米老鼠或唐纳德•特朗普。”
即使对于不禁止生成公众人物的应用程序，以及通过抓取互联网进行培训的应用程序，内容凭证的存在也可以帮助解决来源和内容真实性的问题，因为用户可以轻松验证图像的来源，而无需了解元数据。
如何使用Content凭证
对于消费者来说，开始使用内容凭证很容易。如果您在一段内容旁边看到Content Credentials pin，您可以单击它以显示该图像的所有最重要的信息，如本文顶部的图像所示。当pin不可用时，您可以将图像上传到Content Credentials网站。
上传照片后，如果元数据中有Content Credentials，就会显示给您。如果不是，它会将你的图像与互联网上的类似图像进行匹配，并告诉你这些图像是否是人工智能生成的。
我尝试了一下这项技术，把教皇方济各(Pope Francis)穿着羽绒服的照片截图下来，上传到Content Credentials网站。因为这是一张截图，所以图像没有元数据。然而，该网站确实将这张照片与互联网上找到的其他图片进行了比对，并确定这张照片是由人工智能生成的，如下图所示:
使用内容凭证直观、简单，并且有助于找到我想知道的内容，随着时间的推移，随着内容凭证在互联网上的出现，它将变得更容易。
帕森斯说:“我认为，作为消费者，了解事物的最好方式就是观察它的实际操作——触摸它，点击它，看看它是如何工作的。”“所以，所有这些资源都可以在contentcredentials.org上找到。”
披露:Sabrina Ortiz前往拉斯维加斯参加Adobe峰会的费用是由Adobe公司支付的，这是一个常见的行业长途旅行惯例。ZDNET的作者和编辑的判断和意见始终独立于我们所报道的公司。
