用“无形的水印”与AI生成的假新闻作斗争
Arijit Sarkar 11小时前,Meta与AI生成的虚假新闻与“无形水印”元元将使用深层学习模型,将其AI工具生成的图像应用水印
Arijit Sarkar 11小时前Meta用“隐形水印”与AI生成的假新闻作斗争
Meta将利用深度学习模型将水印应用于其AI工具产生的图像,这对人眼是看不见的。
1411总看法3总股票收听第0:00新闻加入我们的社交网络
社交媒体巨头元(以前称为Facebook)将在其使用人工智能(AI)创建的所有图像中包括一个无形的水印,因为它加快了措施防止滥用技术。
该公司在12月6日的报告中详细介绍了Meta AI的更新(Meta的虚拟助手)透露,该公司将很快在使用“ Imagie With Meta AI体验”中创建的所有AI生成的图像中添加隐形水印。像许多其他AI聊天机器人一样,Meta AI根据用户提示生成图像和内容。但是,META的目的是防止不良行为者将服务视为欺骗公众的另一种工具。
像许多其他AI图像生成器一样,Meta AI根据用户提示生成图像和内容。最新的水印功能将使创造者更难删除水印。
“在接下来的几周中,我们将添加元AI体验的图像中的隐形水印,以提高透明度和可追溯性。”
梅塔(Meta)表示,它将使用深度学习模型将水印应用于其AI工具产生的图像,这对人眼是看不见的。但是,可以使用相应的模型检测到无形的水印。
与传统的水印不同,Meta声称其AI水印(用Meta AI称为Imagine)“有弹性,可弹性,例如裁剪,颜色变化(亮度,对比等),屏幕截图等常见的图像操作。”尽管最初将针对通过Meta AI创建的图像推出水印服务,但该公司计划将该功能带入使用AI生成的图像的其他Meta服务。在其最新更新中,Meta AI还引入了Facebook的“ Reimagine”功能Messenger和Instagram。该更新允许用户彼此发送和接收AI生成的图像。结果,两种消息服务还将获得无形的水印功能。
相关:汤姆·汉克斯(Tom Hanks),MRBEAST和其他名人警告AI Deep Fake Scams
Dall-E和Midjourney等AI服务已经允许在其耗尽的内容中添加传统的水印。但是,可以通过简单地裁剪图像边缘来去除此类水印。此外,特定的AI工具可以自动从图像中删除水印,元AI声称的输出将不可能做到这一点。
自从生成AI工具的主流化以来,众多企业家和名人都召集了AI驱动的骗局运动。骗子使用随时可用的工具来创建伪造的视频,音频和流行人物的图像,并将其传播到互联网上。
5月,AI生成的图像显示五角大楼附近的爆炸爆炸(美国国防部的总部)导致股市短暂下跌。
付费验证系统中危险的主要示例:此帐户在推特上发了一张(很可能是AI生成的)照片的(假)关于五角大楼爆炸的故事,乍一看就像合法的彭博新闻一样喂养。pic.twitter.com/sthercln0p-安迪·坎贝尔(@andybcampbell),2023年5月22日
如上图所示,伪造的图像后来被其他新闻媒体散发出来,导致了雪球效果。但是,负责建筑物安全的地方当局,包括五角大楼部队保护局,他们知道循环报告,并确认“没有爆炸或事件”。
@pfpaofficial和ACFD意识到一份社交媒体报告在线流传着有关五角大楼附近发生爆炸的信息。五角大楼保留地或附近没有发生爆炸或事件,并且对公众没有直接的危险或危害。pic.twitter.com/uzny0s7del
– 2023年5月22日,阿灵顿Fire&EMS(@arlingtonvafd)
同月,人权倡导组织国际大赦国际(Amnesty International)因描绘警察残酷行为的AI生成的形象而跌倒,并用它来对当局进行运动。
AI生成的图像来自国际特赦组织。来源:Twitter
“我们不希望使用AI生成的图像对受害者的核心信息分散注意力的批评,以支持受害者及其在哥伦比亚的正义呼吁。”罗萨斯(Rosas),大赦美洲董事。
杂志:立法者的恐惧和怀疑驱动器提出的拟议加密法规
#facebook #business #ai #meta #chatgpt
添加反应
添加反应
原创文章,作者:互联世界,如若转载,请注明出处:https://www.53moban.com/15825.html