中国准备应对人工智能失控风险

美国公司Anthropic的研究人员警告称强大的人工智能模型失控的风险，这引起了中国的关注。北京的政治家和监管机构正在为与人工智能发展相关的挑战做好准备，这一问题将在即将举行的美中谈判中成为关键议题。在美国，正在讨论生存威胁，而在中国，人工智能被视为可控技术。北京并不要求像Anthropic所建议的那样设立独立的监测机构，而是依靠开发者的承诺和严格的政府监管。中国监管机构承认“操作控制的丧失”是人工智能面临的现实风险。新规要求开发者改善识别和阻止不当行为的系统。同时，世界首个强制性的国家人工智能安全标准正在制定中，相关部门呼吁保护关键的信息基础设施免受新型人工智能模型的威胁。