数字生成深度伪造威胁妇女安全，专家呼吁加强监管和法规保护隐私

　　人工智能影像技术可以用于创作艺术、虚拟试衣间或帮助设计广告活动。但专家担心，这些易于获得的工具的更黑暗面可能会加剧一些主要危害妇女的问题：非自愿深度伪造色情内容。深度伪造是指使用人工智能或机器学习数字创建或修改的视频和图像。几年前，Reddit用户分享了将女性名人的面孔放在色情演员的肩上的剪辑，从那时起，使用这种技术创建的色情视频开始在互联网上传播。此后，深度伪造制造者已经传播了类似的针对在线影响者、记者和其他具有公共形象的人的视频和图像。成千上万的视频存在于无数的网站上，一些网站甚至提供用户自己创建这些图像的机会，实质上允许任何人在未经允许的情况下将任何人变成性幻想，或使用技术伤害前任伴侣。

　　专家表示，随着制作复杂性更高和视觉效果更引人注目的深度伪造变得更加容易，这个问题变得越来越严重。而且，随着基于互联网上数十亿图像进行训练并使用现有数据生成新内容的生成性人工智能工具的开发，这个问题可能会变得更加严重。

　　“现实是，技术将继续扩散，将继续发展，并将继续变得像按按钮一样容易，”EndTAB创始人亚当·道奇说道，“只要这种情况发生，人们毫无疑问将继续滥用这种技术以伤害他人，主要通过在线性暴力、深度伪造色情内容和虚假的裸体图像。”

　　澳大利亚珀斯的诺尔·马丁（Noelle Martin）就曾经历过这个现实。十年前，这位28岁的女子在好奇心驱使下使用谷歌搜寻自己的一张图片，发现了深度伪造色情内容。直到今天，马丁仍然不知道谁制作了假图像或她在其中进行性行为的视频。她猜测，有人可能从她的社交媒体页面或其他地方拍摄了一张照片，并将其制作成色情内容。可怕的是，马丁联系了多个网站数年，试图让这些图像下架。有些网站没有回应。其他人下架后不久她又发现了它。 “你赢不了，”马丁说，“这是永远存在的东西。就好像它永远毁了你一样。”

　　她说，她越发声，这个问题就越加严重。有些人甚至告诉她，她的着装和社交媒体上的照片导致了骚扰，实质上归咎于她本人而非制造者。最终，马丁将注意力转向立法，呼吁澳大利亚立法，对于不遵守在线安全监管机构有关此类内容的撤下通知的公司罚款555,000澳元（370,706美元）。但是，当国家对于有时在世界另一端制作的内容有自己的法律时，治理互联网几乎是不可能的。马丁现在是西澳大学的律师和法律研究员，她说她相信这个问题必须通过某种全球性解决方案来控制。

　　与此同时，一些人工智能模型表示，他们已经在限制对露骨图像的访问。OpenAI表示，它从用于训练图像生成工具DALL-E的数据中移除了露骨内容，这限制了用户创建这些类型的图像的能力。该公司还过滤请求，称它会阻止用户创建名人和知名政治家的人工智能图像。而Midjourney模型则阻止使用某些关键词，并鼓励用户向管理员标记有问题的图像。

　　与此同时，初创公司Stability AI在去年11月推出了一项更新，该更新删除了使用其图像生成器Stable Diffusion创建露骨图像的能力。在发现一些用户使用该技术创建了以名人为灵感的裸照之后，对显式深度伪造的规定进行了更新。

　　Stability AI发言人Motez Bishara表示，该过滤器使用关键词和其他技术（如图像识别）来检测裸体图像，并返回模糊的图像。但是，由于该公司向公众发布了其代码，因此用户有可能操纵软件并生成他们想要的内容。Bishara表示，Stability AI的许可证“适用于基于Stable Diffusion建立的第三方应用程序”，严格禁止“任何非法或不道德目的的滥用”。

　　一些社交媒体公司也已经在加强其规定，以更好地保护其平台免受有害材料的侵害。TikTok上个月表示，所有显示逼真场景的深度伪造或被篡改的内容都必须标记为假或已被改动，并且不再允许针对私人人物和年轻人的深度伪造。此前，该公司已经禁止性暗示内容和误导观众关于现实世界事件的深度伪造，并造成伤害。

　　游戏平台Twitch也最近更新了其有关显式深度伪造图像的政策，因为一位名叫Atrioc的流媒体主在1月底的一次直播中被发现正在打开一个深度伪造色情网站。该网站上展示了其他Twitch流媒体主的假图像。Twitch已经禁止显式深度伪造，但现在即使意图表达愤怒，展示这种内容的一瞥也将被删除，并将受到惩罚。而有意推广、创建或分享该材料将被视为立即封禁。

　　其他公司也试图禁止深度伪造进入其平台，但保持其不侵犯需要谨慎。最近，苹果和谷歌表示，他们从应用商店中删除了一款产品的应用程序，该应用程序正在运行性暗示的深度伪造视频以营销产品。关于深度伪造色情的研究并不普遍，但人工智能公司DeepTrace Labs在2019年发布的一份报告发现，它几乎完全用于针对女性的武器化，最受关注的是西方女演员，其次是韩国K-pop歌手。谷歌和苹果已经删除的那个应用程序在Meta平台上运行广告，该平台包括Facebook、Instagram和Messenger。Meta发言人丹尼·利弗在一份声明中说，该公司的政策限制了生成性和非生成性的成人内容，并限制了该应用程序在其平台上广告的页面。

　　举报/反馈