被造黄谣的女孩:AI脱衣成黑色产业链,施害者被隐藏(图)
新闻来源: 译言网 于2023-11-07 19:39:28 提示:新闻观点不代表本网立场
2017 年，国外著名成人网站Reddit上出现了一段《神奇女侠》主演盖尔·加朵的小黄片，这个视频利用深度伪造（Deepfake）合成，将盖尔·加朵（右）的脸替换了色情女星的脸。
至那时起，深度伪造名人色情内容一发不可收拾，斯嘉丽·约翰逊与艾玛·沃特森等明星都曾惨遭毒手。
但如今，伪造色情逐渐盯上了普通人。只要你在网络上发布过自拍，人工智能都有办法帮你“一键脱衣”，规范AI色情内容刻不容缓。
01
AI一键脱衣
上周五，当考特尼（Courtney）醒来时， 她的Instagram收到了一张她的裸照，还附有一个傻笑的表情。
虽然无比震惊，作为一名有抱负的社会工作者，考特尼知道照片是假的。
对方截屏了她的一张自拍，将照片上传到深度伪造（deepfake）裸体生成网站中，这些网站可以“一键脱掉”照片中任何人的衣服。
20多岁的考特尼感到惊恐万分，她立即拉黑了对方，并且删除了网上自己的所有照片，她害怕此事重演。
考特尼感到很焦虑，她担心照片外泄，害怕粉丝、朋友甚至是家人看到。
2019年荷兰人工智能公司Sensity的一项研究显示，约96%的深度伪造视频是未经同意的色情内容，其中大部分是女性。
“从前只存在于脑海的意淫，被AI技术和内容创作者变为现实。”Blackbird.AI 情报总监罗伯塔·达菲尔德告诉法新社。
“由于内容极易获取，监管却太难，AI色情技术突飞猛进，成为剥削和歧视妇女的新形式。
02
“妈妈，他们对我做了什么？”
2018 年以来，AI生成色情内容的前10大网站中，假裸照内容剧增了290%以上。
2023年9月17日，米里亚姆·阿迪布·门迪里（Miriam Al Adib Mendiri）结束旅行，回到西班牙南部的家中，她发现14岁女儿心神不宁，女儿给她看了自己的裸照。
阿迪卜还记得女儿的话：“妈妈，他们对我做了什么？”
女儿从没有拍过裸照。警方称，当地的一群男孩在社交媒体上，截取了镇上几位女孩穿着衣服的照片，利用人工智能APP“nudifier”合成了裸照。
近几个月来，AI裸体照片充斥网络。Nudifier只是众多利用真实图像制作裸体照片的人工智能工具之一。伊利诺伊大学厄巴纳-香槟分校（University of Illinois at Urbana-Champaign）的人工智能专家王刚（Gang Wang）说，通过分析数百万张图像，AI软件可以更好地预测人体裸体的效果，轻而易举地替换色情内容的长相。
尽管许多AI图像生成器阻止用户生成色情内容，但开源软件（如 Stable Diffusion）会公开其代码，允许业余开发者进行改动，这通常用于作恶。（Stable Diffusion 的制造商 Stability AI 没有回复。）
行业分析师吴珍维（Genevieve Oh） 说，AI公司鼓励用户在社交媒体上分享AI生成照片，只要代码公开，利用推荐计划他们就能赚钱。
排名前10位的AI色情图片网站中，2023年就已有超过415000张图片上传，累计9000万次浏览。
除此之外，AI生成的色情视频也在井喷式增长。在搜索了40个热门网站的伪造视频后，吴珍维发现2023年新增了超过14.3万个色情视频，超过了2016年至2022年的视频总数。这些虚拟色情视频已有超42亿的浏览量。
03
“它将永远成为你的污点”
澳大利亚珀斯的诺埃尔·马丁（Noelle Martin）也是伪造色情内容的受害者。10年前，28岁的她出于好奇搜索自己的照片，结果发现了自己的伪造色情照片。直到今天，马丁也不知道是谁伪造的。后来，马丁还发现过伪造性视频。她怀疑有人截取了她的照片，将其篡改为色图。
马丁被吓坏了，多年来，马丁联系了许多网站，想要删除这些图片。有些网站没有回应，有些网站删除了，但很快又出现。
马丁说：“这一切都是徒劳，它们将永远存在，将永远成为你的污点。”
她说，她越举报，事情反而变得更糟。有些人甚至说，是她的穿着打扮和自拍，让对方骚扰了她。这实质上把责任归咎于她，而非伪造者。
最终，马丁转向立法部门。她主张在澳大利亚制定一条法律，规定如果公司不遵守网络安全监管机构发出的删除此类内容的通知，将被处以55.5万澳元（约合人民币259万元）的罚款。
但是，各国都有自己的网络法规，清理全部互联网几乎不可能。马丁目前是西澳大利亚大学的律师和法律研究员，她认为这个问题必须通过某种全球性的方案来解决。
04
AI内容监管的尝试
2023年6月，美国联邦调查局（Federal Bureau of Investigation）警告，最近的裸照勒索数量有所增加。虽然尚不清楚其中有多少是AI生成的裸照，但这一趋势正在扩散。联邦调查局表示，截至 9 月，已有超26800人成为“性勒索”的受害者，比 2019 年增加了 149%。
联邦调查局补充说，受害者包括未成年儿童和成年人。
AI工具的扩散已经超出了监管范围。
AI品牌保护公司Ceartas的首席执行官和创始人丹·珀塞尔(Dan Purcell)告诉法新社说:“它不是在我们看不到的地方，创造和分享色情图像。”
“它就在我们眼皮底下，法律需要立即跟进。”
在英国，政府提出了一项新的《网络安全法案》，提出分享深度伪造色情内容为刑事犯罪。
包括加州和弗吉尼亚州在内的美国4个州，已经禁止分享深度伪造色情内容。但如果对方并不在辖区内，法律很难保护受害者。
2023年5月，一位美国议员提出了《防止深度伪造亲密图像法案》，该法案将把分享未经同意的深度伪造色情制品定为违法行为。
Reddit等热门网络社区也在努力规范蓬勃发展的AI色情小组。
珀塞尔说：“互联网是一个没有国界的司法管辖区，需要统一的国际法来保护人们免受剥削。”
至那时起，深度伪造名人色情内容一发不可收拾，斯嘉丽·约翰逊与艾玛·沃特森等明星都曾惨遭毒手。
但如今，伪造色情逐渐盯上了普通人。只要你在网络上发布过自拍，人工智能都有办法帮你“一键脱衣”，规范AI色情内容刻不容缓。
01
AI一键脱衣
上周五，当考特尼（Courtney）醒来时， 她的Instagram收到了一张她的裸照，还附有一个傻笑的表情。
虽然无比震惊，作为一名有抱负的社会工作者，考特尼知道照片是假的。
对方截屏了她的一张自拍，将照片上传到深度伪造（deepfake）裸体生成网站中，这些网站可以“一键脱掉”照片中任何人的衣服。
20多岁的考特尼感到惊恐万分，她立即拉黑了对方，并且删除了网上自己的所有照片，她害怕此事重演。
考特尼感到很焦虑，她担心照片外泄，害怕粉丝、朋友甚至是家人看到。
2019年荷兰人工智能公司Sensity的一项研究显示，约96%的深度伪造视频是未经同意的色情内容，其中大部分是女性。
“从前只存在于脑海的意淫，被AI技术和内容创作者变为现实。”Blackbird.AI 情报总监罗伯塔·达菲尔德告诉法新社。
“由于内容极易获取，监管却太难，AI色情技术突飞猛进，成为剥削和歧视妇女的新形式。
02
“妈妈，他们对我做了什么？”
2018 年以来，AI生成色情内容的前10大网站中，假裸照内容剧增了290%以上。
2023年9月17日，米里亚姆·阿迪布·门迪里（Miriam Al Adib Mendiri）结束旅行，回到西班牙南部的家中，她发现14岁女儿心神不宁，女儿给她看了自己的裸照。
阿迪卜还记得女儿的话：“妈妈，他们对我做了什么？”
女儿从没有拍过裸照。警方称，当地的一群男孩在社交媒体上，截取了镇上几位女孩穿着衣服的照片，利用人工智能APP“nudifier”合成了裸照。
近几个月来，AI裸体照片充斥网络。Nudifier只是众多利用真实图像制作裸体照片的人工智能工具之一。伊利诺伊大学厄巴纳-香槟分校（University of Illinois at Urbana-Champaign）的人工智能专家王刚（Gang Wang）说，通过分析数百万张图像，AI软件可以更好地预测人体裸体的效果，轻而易举地替换色情内容的长相。
尽管许多AI图像生成器阻止用户生成色情内容，但开源软件（如 Stable Diffusion）会公开其代码，允许业余开发者进行改动，这通常用于作恶。（Stable Diffusion 的制造商 Stability AI 没有回复。）
行业分析师吴珍维（Genevieve Oh） 说，AI公司鼓励用户在社交媒体上分享AI生成照片，只要代码公开，利用推荐计划他们就能赚钱。
排名前10位的AI色情图片网站中，2023年就已有超过415000张图片上传，累计9000万次浏览。
除此之外，AI生成的色情视频也在井喷式增长。在搜索了40个热门网站的伪造视频后，吴珍维发现2023年新增了超过14.3万个色情视频，超过了2016年至2022年的视频总数。这些虚拟色情视频已有超42亿的浏览量。
03
“它将永远成为你的污点”
澳大利亚珀斯的诺埃尔·马丁（Noelle Martin）也是伪造色情内容的受害者。10年前，28岁的她出于好奇搜索自己的照片，结果发现了自己的伪造色情照片。直到今天，马丁也不知道是谁伪造的。后来，马丁还发现过伪造性视频。她怀疑有人截取了她的照片，将其篡改为色图。
马丁被吓坏了，多年来，马丁联系了许多网站，想要删除这些图片。有些网站没有回应，有些网站删除了，但很快又出现。
马丁说：“这一切都是徒劳，它们将永远存在，将永远成为你的污点。”
她说，她越举报，事情反而变得更糟。有些人甚至说，是她的穿着打扮和自拍，让对方骚扰了她。这实质上把责任归咎于她，而非伪造者。
最终，马丁转向立法部门。她主张在澳大利亚制定一条法律，规定如果公司不遵守网络安全监管机构发出的删除此类内容的通知，将被处以55.5万澳元（约合人民币259万元）的罚款。
但是，各国都有自己的网络法规，清理全部互联网几乎不可能。马丁目前是西澳大利亚大学的律师和法律研究员，她认为这个问题必须通过某种全球性的方案来解决。
04
AI内容监管的尝试
2023年6月，美国联邦调查局（Federal Bureau of Investigation）警告，最近的裸照勒索数量有所增加。虽然尚不清楚其中有多少是AI生成的裸照，但这一趋势正在扩散。联邦调查局表示，截至 9 月，已有超26800人成为“性勒索”的受害者，比 2019 年增加了 149%。
联邦调查局补充说，受害者包括未成年儿童和成年人。
AI工具的扩散已经超出了监管范围。
AI品牌保护公司Ceartas的首席执行官和创始人丹·珀塞尔(Dan Purcell)告诉法新社说:“它不是在我们看不到的地方，创造和分享色情图像。”
“它就在我们眼皮底下，法律需要立即跟进。”
在英国，政府提出了一项新的《网络安全法案》，提出分享深度伪造色情内容为刑事犯罪。
包括加州和弗吉尼亚州在内的美国4个州，已经禁止分享深度伪造色情内容。但如果对方并不在辖区内，法律很难保护受害者。
2023年5月，一位美国议员提出了《防止深度伪造亲密图像法案》，该法案将把分享未经同意的深度伪造色情制品定为违法行为。
Reddit等热门网络社区也在努力规范蓬勃发展的AI色情小组。
珀塞尔说：“互联网是一个没有国界的司法管辖区，需要统一的国际法来保护人们免受剥削。”
| 网编：欢颜 |
|
5 条 | |||
|
|||||
【生活原创】【三叶原创】【留园网事】【生活百态】【杂论闲侃】【婚姻家庭】【女性频道】【数码家电】【电脑前线】【手机数码】
敬请注意：新闻内容来自网络，供网友多视角阅读参考，观点不代表本网立场！若有违规侵权，请联系我们。