技术是一把双刃剑。生成式人工智能日益渗入日常生活、赋能各行各业的同时，也存在一些隐忧。比如，输出结果不符合事实的模型“幻觉”，在传媒领域不当使用可能带来欺诈、虚假信息传播等不良影响；大模型依靠从互联网抓取的海量数据训练，有可能损害数据隐私、侵犯版权等；人工智能在军事领域的应用也有风险，在复杂环境或执行复杂指令时“失控”是人们的普遍担忧。
为规范生成式人工智能的应用，中国已发布《互联网信息服务深度合成管理规定》与《生成式人工智能服务管理暂行办法》等多项规章，对人工智能相关技术规范、义务主体与责任作出规定，强调技术开发、服务提供者的主体责任。国际上，中国支持联合国发挥主渠道作用，在充分尊重各国治理原则和实践前提下，形成具有广泛共识的人工智能治理框架和标准规范。
在第三届“一带一路”国际合作高峰论坛上，中方提出《全球人工智能治理倡议》，就普遍关切的人工智能发展与治理问题提出建设性解决思路，向世界贡献一个负责任人工智能大国的治理方案，为相关国际讨论和规则制定提供了蓝本。这既是中国为人工智能安全发展和应用做出的庄严承诺，更是中方践行人类命运共同体理念的重要举措。
放眼海外，相比于美国在人工智能技术应用层面的发展速度，美国关于人工智能治理的政策和立法相对迟缓，主要强调安全原则，鼓励企业自律。今年10月，美国总统拜登签署行政令，为本国人工智能安全制定新标准。这一行政令要求美国人工智能系统的研发人员与政府分享其安全测试结果及其他关键信息、完善相关标准和测试工具等。该行政令超越了OpenAI、谷歌等主要科技企业在今年早些时候做出的自愿承诺，但仍缺乏强制执行效能。《纽约时报》对此评论说，该行政令试图走一条“中间道路”——允许人工智能在很大程度上不受干扰地继续发展，同时制定一些适度的规则。
在历经马拉松式谈判后，欧洲议会、欧盟成员国和欧盟委员会三方于12月就《人工智能法案》达成协议。将成为监管法规的该法案严格禁止“对人类安全造成不可接受风险的人工智能系统”，包括有目的地操纵技术，利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。欧洲媒体报道，欧盟相关机构围绕该法案的激烈探讨表明，欧盟一方面担心该法案会阻碍欧洲初创企业追赶谷歌和OpenAI等公司发展的步伐，另一方面又怕失去在人工智能治理领域的话语权。
人工智能治理是全球共同挑战，需要国际社会秉持真正的多边主义精神，开展广泛对话，不断凝聚共识。今年11月在英国举行的全球首届人工智能安全峰会上通过的《布莱奇利宣言》就指出，人工智能的许多风险本质上是国际性的，因此“最好通过国际合作来解决”。在人工智能的复杂效应不断显现之际，为同时做好该技术的发展安全和治理，需要更全面深入的科学论证、周密规划和有效执行。负责任地利用人工智能的力量，确保人工智能良好演进并以造福全人类的方式推动创新，应是人类发展科技的核心要求。
