微软承诺为 AI 生成的图像和视频添加水印以打击「深度伪造」

AI行业快讯10个月前发布 senki
7,244 0 0
微软承诺为 AI 生成的图像和视频添加水印以打击「深度伪造」

微软近期一直忙于推出基于 AI 的软件和服务。今年 3 月,它正式发布了 Bing Image Creator,该工具允许用户只需几个文本提示就能创作艺术作品。4 月,微软推出了 Microsoft Designer 的全面公开预览,该工具可以让用户通过文本提示和 AI 模型创建博客文章、网站等项目。

微软承诺为 AI 生成的图像和视频添加水印以打击「深度伪造」然而,有很多人担心基于 AI 的艺术创作工具可能被敌对团体甚至国家用来传播虚假信息。随着越来越多的「深度伪造」图像和视频的制作,微软正在积极采取措施确保其程序生成的 AI 艺术可以被识别。

在今天的微软 Build 2023 开发者大会上,微软宣布将很快推出一个功能,让任何人都可以通过该功能判断一幅艺术作品或视频剪辑是否由 Bing Image Creator 和 Microsoft Designer 生成。微软表示:

该技术使用加密方法为由 AI 生成的内容添加标记和签名,其中包含有关其来源的元数据。微软一直在研发用于验证出处的方法,并共同创立了 Project Origin 和内容出处和真实性联盟(C2PA)标准组织。微软的媒体出处将根据 C2PA 标准对生成内容进行签名和验证。

微软表示,该功能将适用于其两个 AI 内容创作程序的「主要图像和视频格式」。然而,它没有公布支持元数据的具体格式,也没有提供具体的添加日期,只表示将在未来几个月内推出。

此消息是微软本月早些时候宣布 Bing Image Creator 现已支持 100 多种不同语言之后发布的。该程序已经生成了超过 2 亿张图像。

www.AIGC00.com

© 版权声明

相关文章