微软推出“值得信赖的人工智能”功能，以修复幻觉并增强隐私

微软公司在2024年9月24日宣布了一系列新的人工智能安全特性，这些特性被统称为“Trustworthy AI”，旨在解决AI安全、隐私和可靠性方面的日益增长的担忧。这些新特性包括Azure OpenAI服务的机密推理、增强的GPU安全性以及改进的AI输出评估工具。

其中一项关键特性是Azure AI内容安全中的“修正”功能，该功能旨在解决AI幻觉问题，即AI模型生成虚假或误导性信息的情况。微软还扩展了其在“嵌入式内容安全”方面的努力，允许AI安全检查直接在设备上运行，即使在离线状态下也能执行。

微软推动Trustworthy AI反映了行业对高级AI系统潜在风险的日益认识，并且可能使微软在竞争激烈的云计算和AI服务市场中占据领先地位。尽管实施这些安全特性存在挑战，但微软的方法似乎已经引起了一些知名客户的共鸣，例如纽约市教育局和南澳大利亚教育局，它们正在使用Azure AI内容安全创建适当的AI驱动教育工具。

行业分析师认为，微软对AI安全的专注可能会为技术行业树立新的标准。随着对AI伦理和安全的担忧持续增长，能够展示对负责任AI开发的承诺的公司可能会获得竞争优势。然而，一些专家警告说，虽然这些新特性是朝正确方向迈出的一步，但它们并不是解决所有AI相关问题的万能药。AI技术的快速发展意味着可能会出现新的挑战，需要在AI安全领域持续保持警惕和创新。

来源：venturebeat