负责任的人工智能现在有了 ISO 标准

type

status

date

slug

summary

国际标准化组织 (ISO) 和国际电工委员会 (IEC) 批准了新的国际标准 ISO/IEC 42001。该标准旨在支持组织负责任地开发和部署人工智能系统。

ISO/IEC 42001 是世界上第一个人工智能管理系统标准，旨在为快速发展的技术领域提供有用的指导。

它解决了人工智能带来的各种挑战，例如道德考虑、透明度和持续学习。该标准旨在为组织提供一种结构化的方法来平衡与人工智能相关的风险和机遇。

该标准针对提供或使用基于人工智能的产品或服务的公司。它是为所有人工智能系统设计的，应该适用于不同的应用领域和环境。 ISO 在本页提供了一个样本；全文售价 187 瑞士法郎。

ISO已经制定了多项人工智能标准，包括定义人工智能术语的ISO/IEC 22989、提供人工智能和机器学习框架的ISO/IEC 23053以及为人工智能相关风险管理提供指导的ISO/IEC 23894。

现采用ISO/IEC 42001进行全面控制。

AWS 集成 ISO 标准

亚马逊的IT部门Amazon Web Services (AWS)已经加入了新的ISO/IEC 42001标准。 AWS 自 2021 年以来一直致力于该开发，并已在该标准最终发布之前奠定了基础。

除其他外，这家美国公司还为 Claude 等语言模型提供重要的服务器基础设施。 Claude 的开发者 Anthropic 是负责任地使用技术的早期倡导者，并为法学硕士制定了“宪法”。

AWS 认为对 AI 的信任至关重要，并认为纳入 ISO/IEC 42001 等促进 AI 治理的标准是建立公众信任的一种方式。

国际标准是支持组织将国家监管要求转化为合规机制（包括全球广泛兼容的技术实践）的重要工具。

有效的标准有助于减少人们对人工智能是什么以及负责任的人工智能意味着什么的困惑，并帮助行业专注于减少潜在危害。AWS 与多元化的国际利益相关者组成的社区合作，改进风险管理、数据质量、偏见和透明度等各种主题的新人工智能标准。

Swami Sivasubramanian，AWS 数据和机器学习副总裁

随着人工智能在各个领域的使用越来越多，人们也越来越担心人工智能系统的不受控制的使用可能造成的损害。例如，如果大型语言模型的开发人员没有集成适当的防护措施，它们可能会被滥用于犯罪目的，正如开源项目所证明的那样。

人工智能监管领域的趋势是将负责任的人工智能确立为法律要求。因此，组织可以将负责任的人工智能实践整合到他们的系统中，或者等待新的法规强制他们这样做。

欧盟委员会于 2021 年发起并于今年通过的《欧盟人工智能法案》也旨在规范欧洲的人工智能，并可能影响欧盟以外的立法。

该提案采用基于风险的方法，旨在适用于在欧盟开发或运营人工智能系统的所有参与者。

该立法与 ISO/IEC 42001 一起标志着技术和其他行业向负责任的人工智能更广泛的文化转变。

Amazon Web Services (AWS) 已承诺遵守新的 ISO/IEC 42001 标准，并致力于改进风险管理、数据质量、偏见和透明度等主题的新 AI 标准。