新的数据中毒工具将在未经允许的情况下惩罚AI刮擦艺术
特里斯坦·格林（Tristan Greene）3小时前，新的数据中毒工具将在未经许可的未经许可的情况下惩罚AI刮擦艺术，但该工具目前正在研究阶段，但团队计划将其整合到现有
Tristan Greene 3小时前，新的数据中毒工具将在未经许可的情况下惩罚AI的AI
该工具目前处于研究阶段，但团队计划将其与现有的艺术家保护工具集成在一起。
16806总看法3总股票收听第0:00新闻加入我们的社交网络
芝加哥大学的研究人员开发了一种工具，使艺术家能够“毒化”其数字艺术，以阻止开发人员在其工作中培训人工智能（AI）系统。
该工具称为“夜幕降灯”，以植物系列的名字命名（其中一些以其有毒浆果而闻名），以使图像修饰的图像以使其包含在内的数据集污染了用于训练AI的数据集，该数据集用不正确的信息来训练AI。
根据麻省理工学院技术评论的一份报告，夜幕更改数字图像的像素，以欺骗AI系统误解它。例如，技术评论提到了AI的AI，猫的形象是狗，反之亦然。
这样一来，AI从理论上会损坏AI的准确和感官输出的能力。使用上面的示例，如果用户从受污染的AI中请求“猫”的图像，则可能会将狗标记为猫或AI训练集中所有“猫”的合并，包括那些实际上，已经通过Nighthade工具修饰的狗的图像。
相关：通用音乐集团与保护艺术家的权利免受AI侵犯的伙伴关系
康奈尔大学（Cornell University）的教授Vitaly Shmatikov看过这项工作的一位专家认为，研究人员“尚不知道针对这些攻击的强大防御力” – 这意味着即使是像Openai的Chatgpt这样的强大模型也可能有风险。《夜幕降临》背后的研究团队由芝加哥大学教授本·赵（Ben Zhao）领导。新工具实际上是其现有的名为Glaze的现有艺术家保护软件的扩展。在以前的作品中，他们设计了一种艺术家可以混淆或“釉”的方法。
例如，创建木炭肖像的艺术家可以被釉面以现代艺术的AI系统出现。
非玻璃和釉面AI模仿的例子。图像来源：Shan等。Al。，2023。
根据技术评论，夜幕降临将最终实施到Glaze中，目前可以免费使用网络使用或下载。
原创文章，作者：大天，如若转载，请注明出处：https://www.53moban.com/11597.html
