大科技公司说AI水印可以抑制假信息,但是也很容易回避。
主要的科技公司正在推动人工智能水印标准,但那些利用他们的技术误导和伤害他人的人并未参与其中。
水印技术被大科技公司视为应对网络上不断升级的人工智能误信息问题最有前途的方法之一。但到目前为止,根据专家和 NBC 新闻对误信息的审查,结果似乎并不乐观。
Adobe 的总法律顾问兼信任官员 Dana Rao 在二月份的一篇博客中写道,Adobe 的 C2PA 水印标准,即 Meta 和其他大科技公司签署的标准,将在教育公众有关误导性人工智能方面发挥关键作用。
“今年预计将有超过 20 亿选民参加全球选举,推进 C2PA 的使命变得前所未有的关键,” Rao 写道。
这些技术处于起步阶段,部署有限,但是水印技术已经被证明很容易被规避。
许多当代的水印技术旨在识别由人工智能生成的媒体,包括两个组成部分:包含在图像元数据中的隐形标记和叠加在图像上的可见标签。
但是,无论是隐形水印(可能采用微小像素或元数据的形式)还是可见标签都可以被移除,有时通过截屏和裁剪等简单方法。
到目前为止,主要的社交媒体和科技公司尚未严格要求或强制执行标签在由人工智能生成或编辑的内容上的使用。
水印技术的漏洞在星期三暴露出来,当时 Meta CEO 马克 · 扎克伯格在 Facebook 上更新了他的封面照片,使用了由 Meta 推出的 Imagine AI 图像生成器生成的羊驼站在电脑上的图像。该生成器于去年十二月推出。该生成器应该生成带有内置标签的图像,这些标签显示为图像的左下角的微小符号。
但是,在扎克伯格的 AI 生成的羊驼图像上,标签对于未登录 Facebook 的用户是不可见的。除非您点击并打开扎克伯格的封面照片,否则也不会看到标签。当 NBC 新闻使用 Imagine 生成了羊驼的 AI 生成图像时,标签可以通过截屏图像中没有标签的部分轻松地移除。根据 Meta 的说法,隐形水印会在截屏时传递。
二月份,Meta 宣布将开始通过水印技术识别 AI 生成的内容,并在 Facebook、Instagram 和 Threads 上标记 AI 生成的内容。Meta 使用的水印包含在元数据中,这是一种只能使用专门构建的技术查看的不可见数据。在宣布中,Meta 承认水印并不完全有效,可以被恶意移除或篡改。
公司表示,它还将要求用户披露他们发布的内容是否是 AI 生成的,如果不这样做可能“会施加处罚”。这些标准将在接下来的几个月内推出,Meta 表示。
即使用户不打算这样做,AI 水印也可以被移除。有时,上传照片到网上会剥离其中的元数据。
与水印相关的可见标签也带来了进一步的问题。
“删除这种水印大约需要两秒钟的时间,”Sophie Toura 说道,她在英国一家名为 Control AI 的科技游说和倡导公司工作,该公司于 2023 年 10 月成立。“所有关于更加严格和难以移除的声明通常都会显得无足轻重。”
电子前沿基金会的一位高级技术专家写道,即使是最健壮和复杂的水印也可以被具有技能和愿望篡改文件本身的人移除。
除了剥夺水印外,它们还可以被复制,从而可能出现误报,暗示未经编辑和真实的媒体实际上是由人工智能生成的。
已经承诺合作水印标准的公司是主要参与者,如 Meta、Google、OpenAI、微软、Adobe 和 Midjourney。但是,有数千种可以下载和在 Google Play 等应用商店以及微软的 GitHub 等网站上使用的人工智能模型并不受水印标准的约束。
对于 Adobe 的 C2PA 标准,该标准已经被 Google、微软、
Meta、OpenAI、主要新闻机构和主要摄影机公司采用,图像旨在自动配备带有名为“内容凭据”的可见标签的水印。
该标签是图像左下角由字母“CR”组成的小符号,类似于 Meta 的 Imagine 标签。Adobe 的 Rao 在二月份告诉 NBC 新闻,这些隐形水印包含在图像的像素中的元数据中,而像素位于图像中的视觉重要部分。可视标签和元数据都会包含有关图像是否是由人工智能生成或使用人工智能工具编辑的信息。
“这是出于善意的,是朝着正确方向迈出的一步。我认为不应该把它作为解决深度伪造问题的唯一手段,” Toura 说道。
深度伪造是通过人工智能编辑或生成的误导性图像、视频和音频。它们经常被用来针对人们 —— 绝大多数是女性和女孩 —— 制作图像和视频,展示他们的面孔和肖像在未经其同意的情况下出现在裸体和性暗示的场景中。在 2023 年,上网的深度伪造图片、视频比其他年份加起来的还要多,高调事件持续到了 2024 年。本月早些时候,NBC 新闻发现,自去年 9 月以来,Meta 托管了数百条关于一款深度伪造应用的广告,该应用提供了“脱衣”照片的功能 —— 其中 11 条广告显示了“脱衣”图像的模糊、裸体照片,这些照片是在女演员詹娜 · 奥尔特加仅 16 岁时拍摄的。在此之前已经暂停了数十条广告,Meta 在 NBC 新闻联系之后才暂停了这家广告公司的账号。
深度伪造还越来越多地被用于欺诈和政治虚假信息,包括有关 2024 年选举的虚假信息。
一月份,一个深度伪造电话演讲电话约请数千名新罕布什尔州民主党人模仿乔·拜登的声音,使用人工智能告诉他们不要在初选中投票。NBC 新闻报道,一位与竞争对手联系紧密的民主党顾问支付了一名魔术师使用 ElevenLabs 公司的 AI 软件创建音频。
ElevenLabs 在使用其软件制作的音频文件中嵌入了人耳无法听到的水印。任何人都可以将样本上传到其免费的“语音分类器”中,以扫描这些水印。
但是,将深度伪造音频用于实际世界的恶意目的可能会改变音频文件并删除这些水印。当 NBC 新闻将魔术师的原始文件上传到语音分类器时,ElevenLabs 称有 98% 的机会是其软件制作了该样本。但是,当 NBC 新闻上传了一段从新罕布什尔州居民的语音信箱中接收到的同一段假拜登电话录音时,录音过程中会对音频文件进行一些失真处理,分类器称只有 2% 的机会是 ElevenLabs 的软件参与其中。
社交媒体平台和搜索引擎已经充斥着深度伪造,应用商店也充满了宣传他们制作深度伪造的服务。其中一些帖子和广告中包含有儿童面孔的深度伪造裸体和性暗示图片。
Rao 对 Adobe 自己的水印技术倡议所能产生的影响持乐观态度。他说,首先,公众必须认识到指示人工智能生成内容的标签。为了广泛有效,公众必须学会在信任之前验证视觉媒体。这将是一项重大成就。 Rao 将预期的转变与公众对在线钓鱼活动的认识进行了比较 —— 与此同时,随着 ChatGPT 的兴起,这些活动急剧增加。
“我们不必正确地相信一切,”他在二月份接受 NBC 新闻采访时说。“真正重要的是,我们应该对重要的事情进行额外的努力,以确定它是真实的还是虚假的。”
主要的科技公司正在推动人工智能水印标准,但那些利用他们的技术误导和伤害他人的人并未参与其中。
水印技术被大科技公司视为应对网络上不断升级的人工智能误信息问题最有前途的方法之一。但到目前为止,根据专家和 NBC 新闻对误信息的审查,结果似乎并不乐观。
Adobe 的总法律顾问兼信任官员 Dana Rao 在二月份的一篇博客中写道,Adobe 的 C2PA 水印标准,即 Meta 和其他大科技公司签署的标准,将在教育公众有关误导性人工智能方面发挥关键作用。
“今年预计将有超过 20 亿选民参加全球选举,推进 C2PA 的使命变得前所未有的关键,” Rao 写道。
这些技术处于起步阶段,部署有限,但是水印技术已经被证明很容易被规避。
许多当代的水印技术旨在识别由人工智能生成的媒体,包括两个组成部分:包含在图像元数据中的隐形标记和叠加在图像上的可见标签。
但是,无论是隐形水印(可能采用微小像素或元数据的形式)还是可见标签都可以被移除,有时通过截屏和裁剪等简单方法。
到目前为止,主要的社交媒体和科技公司尚未严格要求或强制执行标签在由人工智能生成或编辑的内容上的使用。
水印技术的漏洞在星期三暴露出来,当时 Meta CEO 马克 · 扎克伯格在 Facebook 上更新了他的封面照片,使用了由 Meta 推出的 Imagine AI 图像生成器生成的羊驼站在电脑上的图像。该生成器于去年十二月推出。该生成器应该生成带有内置标签的图像,这些标签显示为图像的左下角的微小符号。
但是,在扎克伯格的 AI 生成的羊驼图像上,标签对于未登录 Facebook 的用户是不可见的。除非您点击并打开扎克伯格的封面照片,否则也不会看到标签。当 NBC 新闻使用 Imagine 生成了羊驼的 AI 生成图像时,标签可以通过截屏图像中没有标签的部分轻松地移除。根据 Meta 的说法,隐形水印会在截屏时传递。
二月份,Meta 宣布将开始通过水印技术识别 AI 生成的内容,并在 Facebook、Instagram 和 Threads 上标记 AI 生成的内容。Meta 使用的水印包含在元数据中,这是一种只能使用专门构建的技术查看的不可见数据。在宣布中,Meta 承认水印并不完全有效,可以被恶意移除或篡改。
公司表示,它还将要求用户披露他们发布的内容是否是 AI 生成的,如果不这样做可能“会施加处罚”。这些标准将在接下来的几个月内推出,Meta 表示。
即使用户不打算这样做,AI 水印也可以被移除。有时,上传照片到网上会剥离其中的元数据。
与水印相关的可见标签也带来了进一步的问题。
“删除这种水印大约需要两秒钟的时间,”Sophie Toura 说道,她在英国一家名为 Control AI 的科技游说和倡导公司工作,该公司于 2023 年 10 月成立。“所有关于更加严格和难以移除的声明通常都会显得无足轻重。”
电子前沿基金会的一位高级技术专家写道,即使是最健壮和复杂的水印也可以被具有技能和愿望篡改文件本身的人移除。
除了剥夺水印外,它们还可以被复制,从而可能出现误报,暗示未经编辑和真实的媒体实际上是由人工智能生成的。
已经承诺合作水印标准的公司是主要参与者,如 Meta、Google、OpenAI、微软、Adobe 和 Midjourney。但是,有数千种可以下载和在 Google Play 等应用商店以及微软的 GitHub 等网站上使用的人工智能模型并不受水印标准的约束。
对于 Adobe 的 C2PA 标准,该标准已经被 Google、微软、
Meta、OpenAI、主要新闻机构和主要摄影机公司采用,图像旨在自动配备带有名为“内容凭据”的可见标签的水印。
该标签是图像左下角由字母“CR”组成的小符号,类似于 Meta 的 Imagine 标签。Adobe 的 Rao 在二月份告诉 NBC 新闻,这些隐形水印包含在图像的像素中的元数据中,而像素位于图像中的视觉重要部分。可视标签和元数据都会包含有关图像是否是由人工智能生成或使用人工智能工具编辑的信息。
“这是出于善意的,是朝着正确方向迈出的一步。我认为不应该把它作为解决深度伪造问题的唯一手段,” Toura 说道。
深度伪造是通过人工智能编辑或生成的误导性图像、视频和音频。它们经常被用来针对人们 —— 绝大多数是女性和女孩 —— 制作图像和视频,展示他们的面孔和肖像在未经其同意的情况下出现在裸体和性暗示的场景中。在 2023 年,上网的深度伪造图片、视频比其他年份加起来的还要多,高调事件持续到了 2024 年。本月早些时候,NBC 新闻发现,自去年 9 月以来,Meta 托管了数百条关于一款深度伪造应用的广告,该应用提供了“脱衣”照片的功能 —— 其中 11 条广告显示了“脱衣”图像的模糊、裸体照片,这些照片是在女演员詹娜 · 奥尔特加仅 16 岁时拍摄的。在此之前已经暂停了数十条广告,Meta 在 NBC 新闻联系之后才暂停了这家广告公司的账号。
深度伪造还越来越多地被用于欺诈和政治虚假信息,包括有关 2024 年选举的虚假信息。
一月份,一个深度伪造电话演讲电话约请数千名新罕布什尔州民主党人模仿乔·拜登的声音,使用人工智能告诉他们不要在初选中投票。NBC 新闻报道,一位与竞争对手联系紧密的民主党顾问支付了一名魔术师使用 ElevenLabs 公司的 AI 软件创建音频。
ElevenLabs 在使用其软件制作的音频文件中嵌入了人耳无法听到的水印。任何人都可以将样本上传到其免费的“语音分类器”中,以扫描这些水印。
但是,将深度伪造音频用于实际世界的恶意目的可能会改变音频文件并删除这些水印。当 NBC 新闻将魔术师的原始文件上传到语音分类器时,ElevenLabs 称有 98% 的机会是其软件制作了该样本。但是,当 NBC 新闻上传了一段从新罕布什尔州居民的语音信箱中接收到的同一段假拜登电话录音时,录音过程中会对音频文件进行一些失真处理,分类器称只有 2% 的机会是 ElevenLabs 的软件参与其中。
社交媒体平台和搜索引擎已经充斥着深度伪造,应用商店也充满了宣传他们制作深度伪造的服务。其中一些帖子和广告中包含有儿童面孔的深度伪造裸体和性暗示图片。
Rao 对 Adobe 自己的水印技术倡议所能产生的影响持乐观态度。他说,首先,公众必须认识到指示人工智能生成内容的标签。为了广泛有效,公众必须学会在信任之前验证视觉媒体。这将是一项重大成就。 Rao 将预期的转变与公众对在线钓鱼活动的认识进行了比较 —— 与此同时,随着 ChatGPT 的兴起,这些活动急剧增加。
“我们不必正确地相信一切,”他在二月份接受 NBC 新闻采访时说。“真正重要的是,我们应该对重要的事情进行额外的努力,以确定它是真实的还是虚假的。”
告诉大家精仿欧米茄手表能不能买?精仿欧米茄a货手表品质如何?首先,要了解高仿手表工厂,我们必须了解高仿手表mks的意思。MKS是Master-Kang时計的缩写。这是一家以生产高仿手表而闻名的公司。它的手表被称为“1:1复刻手表”,因为它们几乎与真品无异。 那么,高仿手表工厂是什么部门管呢?在许多公司中,生产部门会管辖制造商品的所有过程,包括高仿手表工厂。高仿手表的制造需要经验丰富的技术员和先进的设备,因此它是高度专业化的领域。这种手表需要高度准确的微调和精确的装配。高水平的手工技能和严格的质量控制非常重要。因此,在高仿手表工厂中,生产部门会有许多分支。其中包括原材料采购,制造和装配。原材料采购是制造高仿手表的第一步。在这个过程中,需要精选各种高质量的材料来建造每一个元素。例如,不同的手表需要不同的表壳和表链。需要使用专业的机械工具配合高品质的钢材和合成树脂来制造各个元素。这将需要一个负责原材料采购的团队来管理库存、优化采购策略并确保资源供应的稳定性。制造过程是手表制造的最关键部分。 在高仿手表工厂中,原材料采购团队需要提供所有必需的部件给制造部门。然后,制造团队会使用精密的机器和工具来裁剪和拼装所有部件。重要的是,每一个元素都需要在精密的测量设备的帮助下被制造到高精度,以确保手表能够正常运行。装配过程是高仿手表制造链的最后一步。 在这个过程中,手表的每个元素都需要按正确的顺序组装。这需要高度精准的手工技能。装配团队需要在装配过程中使用镊子和小型工具来完成手表的各个步骤,以确保手表已经被组装为完美状态。由于缺少只有在高品质制造过程中才能得到的严密控制,低品质制造的手表可能会有许多缺陷。总之,在高仿手表工厂中,制造一个优质的手表需要许多专业技能和完美的质量控制。尽管许多新的技术和生产方式正在发展,但人工制造手表的传统和技术仍然是无可取代的。对于手表生产的每个步骤,高仿手表工厂都要求专业知识和卓越质量。这是为什么高仿手表仍然被视为珍稀和卓越的代价所在。高仿手表质量不错,找对靠谱商家的话,质量有保障,有保修,售后问题也会处理的安心,用心。
【迎风冒雪,出击!——郑州水务集团、郑州自来水公司启动第30届“供水服务 春暖万家”活动】冒着冻雨、冷风,2023年12月14日上午9时,郑州水务集团、郑州自来水公司第30届“供水服务 春暖万家”活动在柿园水厂正式启动,今年的活动主题是:“供水七十载 服务润民心”。
郑州市政府“市长热线”办公室主任朱震、郑州市国资委党委委员、一级调研员罗廷、郑州市城市管理局二级调研员韩永进等相关领导参加了启动仪式。启动仪式由郑州自来水公司总经理助理濮立安主持。
启动仪式上,郑州自来水公司副总经理赵春英致辞,她谈到,今年是郑州供水成立70周年,开展“供水服务 春暖万家”活动也已经30届,多年来,广大供水人不忘初心、砥砺前行,久久为功,树立了“上善若水 追求卓越”的企业精神,确立了“建设一流水务 服务民生事业”的企业使命。在本届活动中,希望广大抢修队员全力以赴,为守好城市供水主阵地,打好冬季防冻攻坚战做出积极贡献。
接着,三强公司王一伦代表全体抢修队员发言,他表示,将始终牢记“视修漏如救火 把用户当亲人”的承诺,克服恶劣天气的影响,在抢、维修工作中做到快速止水、高效抢修、应急供水,将温暖送到千家万户。
随后,郑州市人民政府办公厅政务热线办公室主任朱震向本届活动队员代表吉萌威授队旗。
启动仪式最后,郑州自来水公司党委副书记、纪委书记、监事会主席张允久宣布,郑州水务集团有限公司、郑州自来水投资控股有限公司第三十届“供水服务 春暖万家”活动正式启动。
从即日起,郑州水务集团(郑州自来水公司)的22支供水服务小分队、近百个抢修小组、近千名抢修队员将严格执行集团(公司)抢险指挥部要求,根据险情等级按要求、分梯队,全力投入今冬雨雪冰冻极端天气防范及应对工作中,以确保人民生命财产在灾害前提下的安全,确保社会秩序稳定。
启动仪式后,记者跟随郑州自来水公司营业处抢修队员来到长江路与淮南街附近的书香名邸小区,抢修队员王永亮正在对一处地埋式水表井进行维修,据了解,早上9点多,他们接到热线转单,该处表井漏水请求紧急维修。接到电话,他们即刻启程,排水、检查、维修一气呵成,全然不顾天上下起的冻雨。
在中原区前进路50号院,记者看到抢修队员们正在对庭院内、楼道间的水表水管防冻情况进行查漏补缺,他们有的在裁剪保温材料,有的在对水表加装新型保暖套,并铺设棉被,确保水表顺利过冬。
另据了解,为切实做好针对此次强冷空气的防范工作,提高应对处置突发情况能力水平,按照市委、市政府统一部署,郑州水务集团、郑州自来水投资控股有限公司多次召开专题会,部署落实抗寒保供水各项工作。目前,他们已启动应急预案,进入应急状态,各单位加强值班制度、建立日报制度,全员停止休假,直至雨雪冰冻极端天气解除。
同时结合往年防冻工作经验,该集团(公司)在对以往易冻小区做好防冻措施的基础上,根据今冬低温雨雪冰冻天气持续时间长、雨雪相对复杂、累计降水量大、影响范围广等特征,扩大锁定五类易冻小区(即小区内水表安装位于:1、立式表箱内;2、单表箱内;3、楼梯口;4、浅表井;5、风口处等)共1600多个,重点对其进行再检查。从12月9日起,抢修队员周末无休,迎风冒雪,对排查出的易冻小区加强防冻等级、防冻工作全覆盖。
截止目前,共对7万余个表井/箱、16.3万余只水表进行了重点防护。累计排查消火栓975个,取水栓16台,并对存在隐患的及时进行了保温防护。
呼吁:
严冬已至,根据气象部门预报,郑州将出现“蹦极式”降温,最低值将骤降至零下十几摄氏度,为近年来罕见。持续低温极易引起水表冻裂、水管冻实现象,再次呼吁广大市民检查水表、水管、水龙头等供水设施防冻措施是否到位,在极寒天气下可采取滴水成线防止家中水管冻实,也可适度存水以备不时之需。
广大市民如果遇到供水方面的难题,可随时拨打自来水公司24小时服务热线:67680000。郑州水务集团、郑州自来水公司“供水服务、春暖万家”活动小分队随时为您服务。 #风雪里的温暖瞬间##直击河南降雪##风雪再现温暖一路相伴#
郑州市政府“市长热线”办公室主任朱震、郑州市国资委党委委员、一级调研员罗廷、郑州市城市管理局二级调研员韩永进等相关领导参加了启动仪式。启动仪式由郑州自来水公司总经理助理濮立安主持。
启动仪式上,郑州自来水公司副总经理赵春英致辞,她谈到,今年是郑州供水成立70周年,开展“供水服务 春暖万家”活动也已经30届,多年来,广大供水人不忘初心、砥砺前行,久久为功,树立了“上善若水 追求卓越”的企业精神,确立了“建设一流水务 服务民生事业”的企业使命。在本届活动中,希望广大抢修队员全力以赴,为守好城市供水主阵地,打好冬季防冻攻坚战做出积极贡献。
接着,三强公司王一伦代表全体抢修队员发言,他表示,将始终牢记“视修漏如救火 把用户当亲人”的承诺,克服恶劣天气的影响,在抢、维修工作中做到快速止水、高效抢修、应急供水,将温暖送到千家万户。
随后,郑州市人民政府办公厅政务热线办公室主任朱震向本届活动队员代表吉萌威授队旗。
启动仪式最后,郑州自来水公司党委副书记、纪委书记、监事会主席张允久宣布,郑州水务集团有限公司、郑州自来水投资控股有限公司第三十届“供水服务 春暖万家”活动正式启动。
从即日起,郑州水务集团(郑州自来水公司)的22支供水服务小分队、近百个抢修小组、近千名抢修队员将严格执行集团(公司)抢险指挥部要求,根据险情等级按要求、分梯队,全力投入今冬雨雪冰冻极端天气防范及应对工作中,以确保人民生命财产在灾害前提下的安全,确保社会秩序稳定。
启动仪式后,记者跟随郑州自来水公司营业处抢修队员来到长江路与淮南街附近的书香名邸小区,抢修队员王永亮正在对一处地埋式水表井进行维修,据了解,早上9点多,他们接到热线转单,该处表井漏水请求紧急维修。接到电话,他们即刻启程,排水、检查、维修一气呵成,全然不顾天上下起的冻雨。
在中原区前进路50号院,记者看到抢修队员们正在对庭院内、楼道间的水表水管防冻情况进行查漏补缺,他们有的在裁剪保温材料,有的在对水表加装新型保暖套,并铺设棉被,确保水表顺利过冬。
另据了解,为切实做好针对此次强冷空气的防范工作,提高应对处置突发情况能力水平,按照市委、市政府统一部署,郑州水务集团、郑州自来水投资控股有限公司多次召开专题会,部署落实抗寒保供水各项工作。目前,他们已启动应急预案,进入应急状态,各单位加强值班制度、建立日报制度,全员停止休假,直至雨雪冰冻极端天气解除。
同时结合往年防冻工作经验,该集团(公司)在对以往易冻小区做好防冻措施的基础上,根据今冬低温雨雪冰冻天气持续时间长、雨雪相对复杂、累计降水量大、影响范围广等特征,扩大锁定五类易冻小区(即小区内水表安装位于:1、立式表箱内;2、单表箱内;3、楼梯口;4、浅表井;5、风口处等)共1600多个,重点对其进行再检查。从12月9日起,抢修队员周末无休,迎风冒雪,对排查出的易冻小区加强防冻等级、防冻工作全覆盖。
截止目前,共对7万余个表井/箱、16.3万余只水表进行了重点防护。累计排查消火栓975个,取水栓16台,并对存在隐患的及时进行了保温防护。
呼吁:
严冬已至,根据气象部门预报,郑州将出现“蹦极式”降温,最低值将骤降至零下十几摄氏度,为近年来罕见。持续低温极易引起水表冻裂、水管冻实现象,再次呼吁广大市民检查水表、水管、水龙头等供水设施防冻措施是否到位,在极寒天气下可采取滴水成线防止家中水管冻实,也可适度存水以备不时之需。
广大市民如果遇到供水方面的难题,可随时拨打自来水公司24小时服务热线:67680000。郑州水务集团、郑州自来水公司“供水服务、春暖万家”活动小分队随时为您服务。 #风雪里的温暖瞬间##直击河南降雪##风雪再现温暖一路相伴#
✋热门推荐