美国主流AI公司承诺实现安全可靠和可信任的AI发展

拜登-哈里斯政府近日宣布，已获得七家领先的美国AI公司的自愿承诺，以帮助实现人工智能 (AI) 技术朝着安全、可靠和透明的方向发展。这些承诺由Amazon、Anthropic、Google、Inflection、Meta、Microsoft和OpenAI这七家公司共同提出，重点是根据安全、可靠和信任的要求指引人工智能的开发。承诺包括与标准制定机构和行业同行合作的保证。具体来说，公司承诺如下：

在发布产品之前确保产品的安全性；

公司承诺在发布人工智能系统之前对其进行内部和外部安全测试；

公司应推动向整个行业以及与政府、民间社会和学术界分享有关管理人工智能风险的信息； 

构建将安全放在首位的系统；

公司承诺投资增强网络安全和应对内部威胁的防护措施，以保护专有和未发布的模型；

公司鼓励第三方发现和报告其人工智能系统中的漏洞；

赢得公众的信任；

公司致力于制定健全的技术机制，以确保用户知道内容何时由人工智能生成，例如水印系统；

公司承诺公开报告其人工智能系统的功能、局限性以及适用和不适用的领域。 

公司承诺优先研究人工智能系统可能带来的社会风险，包括避免有害的偏见和歧视以及强化隐私保护。

公司致力于开发和部署先进的人工智能系统，以帮助解决社会面临的最大挑战。 

白宫发布的一份文件指出，“做出这一承诺的公司许诺与行业同行和标准制定机构酌情合作，开发一个专业的技术框架，帮助用户区分用户生成的与通过人工智生成的音频或视频内容。”

这一声明是拜登-哈里斯政府为确保人工智能安全、负责任地开发而持续努力的一部分。