（盖蒂图片社）
包括微软和 OpenAI 在内的美国 AI 公司已同意从其 AI 学习数据集中删除裸照，以防止性剥削性深度伪造的泛滥。鉴于韩国报道了大量涉及深度伪造的性犯罪，越来越多的人敦促使用 AI 的韩国公司采取类似措施。
9 月 12 日，在白宫的斡旋下，微软和其他公司表示，他们将“在适当的情况下并根据 [AI] 模型的目的”自愿从其 AI 学习训练数据集中删除裸照。
参与此次承诺的其他公司包括 Adobe、Anthropic 和 Cohere。
同一天，微软还与 Meta、TikTok、Bumble 和 Discord 等公司一起做出了另一项承诺，宣布了防止基于图像的性虐待的自愿原则。
该声明是美国政府主导的一项运动的一部分，该运动旨在打击基于图像的儿童性虐待以及未经同意制作的性深度伪造图像。
白宫科技政策办公室在一份声明中表示，此类图像“数量急剧增加，主要针对女性、儿童和 LGBTQI+ 人群，成为迄今为止增长最快的人工智能有害用途之一”。
韩国IT相关活动组织“真保网络中心”在同日发表的声明中，批评韩国国内使用人工智能技术的公司对深度伪造犯罪采取不干预的态度。
该进步网络强调，这一问题“并不局限于海外大型科技公司”，并指出“有报道称，韩国大型科技公司 Naver 的子公司 Snow 的相机应用程序‘Soda’使用人工智能技术生成令人不快的性照片，完全无视女性用户的意愿。”
该组织继续表示，“即使在得知女性用户抱怨人工智能生成令人反感的色情图片后，Snow 及其一些高管仍在逃避责任，坚称他们‘无法 100% 控制人工智能生成的内容’。”
文章强调称：“需要采取技术和组织措施，以便 Naver 和其他人工智能公司所倡导的‘人工智能伦理’不只是空谈。”
“我们强烈呼吁国会正在讨论的人工智能立法能够分配责任，让人工智能企业充分注意防止其产品和服务可能造成的性剥削风险，”报告称。
林在宇 记者
如有疑问或意见请发送至 [english@hani.co.kr]
本文采摘于网络，不代表本站立场，转载联系作者并注明出处：https://www.fwsgw.com/a/yingxiao/205519.html