麻省理工学院发布人工智能风险综合数据库

MIT和其他机构的研究人员发布了一个名为AI风险库（AI Risk Repository）的综合数据库，收录了数百个由人工智能系统引起的风险。这个数据库旨在帮助政府、研究和行业的决策者评估人工智能的不断发展的风险。

AI风险库通过整合来自43个现有分类体系的信息，包括同行评审的文章、预印本、会议论文和报告，形成了一个包含700多个独特风险的数据库。它采用二维分类系统，首先根据风险的原因进行分类，考虑责任实体（人类或AI）、意图（有意或无意）以及风险发生的时间（部署前或部署后）。其次，风险被划分为七个不同的领域，包括歧视和毒性、隐私和安全、错误信息和恶意行为者以及滥用。

这个数据库设计为一个动态更新的资源，公开可访问，组织可以下载以供自己使用。研究团队计划定期更新数据库，包括新的风险、研究发现和新兴趋势。AI风险库旨在成为组织在不同领域评估和缓解风险的实用资源。例如，开发AI驱动的招聘系统的组织可以使用该库来识别与歧视和偏见相关的潜在风险，而使用AI进行内容审核的公司可以利用“错误信息”领域来理解与AI生成内容相关的潜在风险，并开发适当的保障措施。

研究人员承认，尽管该库提供了全面的基础，但组织需要根据自己的具体情况量身定制风险评估和缓解策略。然而，拥有这样一个集中且结构良好的库可以减少忽视关键风险的可能性。研究团队计划使用AI风险库作为他们自己研究下一阶段的基础，并计划在未来的研究阶段添加新的风险和文档，并邀请专家审查风险并识别遗漏。同时，研究团队将随着AI风险格局的演变更新AI风险库，并确保它对研究人员、政策制定者和从事AI风险和风险缓解工作的行业专业人士保持有用。

来源：venturebeat