type
status
date
slug
summary
tags
category
icon
password
URL
互联网观察基金会 (IWF) 是一家致力于从互联网上删除儿童性虐待材料 (CSAM) 的非营利组织，该组织报告称，人工智能生成的 CSAM 有所增加。
一个月内，IWF 分析师在暗网上的一个 CSAM 论坛中发现了 20,254 张人工智能生成的图像。其中，11,108 张图像被归类为潜在犯罪图像，并由 12 名 IWF 专家总共花费了 87.5 小时进行分析。
这些犯罪图像被判定违反了英国两项法律之一：1978 年《儿童保护法》或 2009 年《验尸官和司法法》。总共有 2,562 张图像被列为犯罪伪照片，416 张图像被列为刑事禁止照片。图片。
根据 IWF 的说法，这些内容可以使用文本到图像技术来创建，其中输入描述会创建与真实照片几乎没有区别的逼真图像。
一个可以快速增长的利基市场
该报告还强调了其他发现，包括人工智能生成的内容目前仅占 IWF 工作的一小部分，但具有快速增长的潜力。
人工智能生成的 CSAM 也变得越来越现实，这给国际货币基金组织和执法当局带来了挑战。
还有证据表明，人工智能生成的 CSAM 会导致已知的虐待受害者和知名儿童再次受害。
此外，人工智能生成的 CSAM 为犯罪者提供了另一个从虐待儿童中获利的机会。
对国际货币基金组织的影响
IWF 为政府、执法机构和科技公司提出了一系列建议，以解决人工智能生成的 CSAM 日益严重的问题。
其中包括促进如何处理内容的国际协调、审查在线内容删除法律、更新警察培训以涵盖人工智能生成的 CSAM、对人工智能模型的监管以及确保开发和使用生成式人工智能和大语言模型 (LLM) 的公司在其条款和条件中包括禁止生成 CSAM。
最终，人工智能生成的 CSAM 的增加对 IWF 从互联网上删除儿童色情内容的使命构成了重大威胁。
随着技术的进步，图像变得更加真实，虐待儿童的情况可能会增加。
6 月底，美国国家失踪和受虐儿童中心报告称，人工智能生成的虐待图像“急剧增加”。这些图像将使调查变得复杂，并可能妨碍受害者的身份识别。
在恋童癖论坛中，用户交换开源模型的指令来生成图像。儿童保护倡导者和美国司法部门代表表示，这些行为都是应受惩罚的，但目前还没有关于分类和惩罚的判决。
总结
- 互联网观察基金会 (IWF) 报告称，人工智能生成的在线儿童性虐待材料 (CSAM) 有所增加，一个月内在暗网论坛中发现了 20,000 多张此类图像。
- 人工智能生成的 CSAM 变得越来越现实，给国际货币基金组织和执法部门的工作带来挑战，尤其是随着数量的增加。
- IWF 建议政府、执法机构和科技公司就如何处理此类内容寻求国际协调，审查在线内容删除法律并确保对人工智能模型的监管。
- 作者:Ai-皇帝
- 链接:https://www.ai-hd.com/article/47f8198f-d8f6-4ada-b085-c15cd634adb7
- 声明:本文采用 CC BY-NC-SA 4.0 许可协议，转载请注明出处。