执⾏摘要执⾏摘要前沿⼈⼯智能安全已成为全球和中国重点关注的议题2023年10⽉18⽇，习近平主席在第三届“⼀带⼀路”国际合作⾼峰论坛开幕式主旨演讲中宣布中⽅将提出《全球⼈⼯智能治理倡议》1，重申各国应在⼈⼯智能治理中加强信息交流和技术合作，共同做好⻛险防范，形成具有⼴泛共识的⼈⼯智能治理框架和标准规范，不断提升⼈⼯智能技术的安全性、可靠性、可控性、公平性。2023年10⽉26⽇，联合国秘书⻓古特雷斯宣布，联合国正式组建⼀个新的“⼈⼯智能⾼级别咨询机构”2，以探讨这项技术带来的⻛险和机遇，并为国际社会加强治理提供⽀持。2023年11⽉1⽇，中国、美国在内的28个国家和欧盟，共同签署了《布莱切利⼈⼯智能安全宣⾔》3，⼀致认为前沿⼈⼯智能技术可能会引发巨⼤⻛险，尤其是在⽹络安全、⽣物技术和加剧传播虚假信息等⽅⾯。此前的2023年4⽉28⽇，中共中央政治局会议明确提出，要重视通⽤⼈⼯智能发展，营造创新⽣态，重视防范⻛险4。2023年7⽉10⽇，国家⽹信办等七部⻔联合公布《⽣成式⼈⼯智能服务管理暂⾏办法》5。随着前沿⼈⼯智能的快速发展，按照《关于加强科技伦理治理的意⻅》6、《新⼀代⼈⼯智能治理原则》7、《新⼀代⼈⼯智能伦理规范》8等治理⽂件，社会应积极落实对更⾼级⼈⼯智能的潜在⻛险研判和防范，确保⼈⼯智能安全可靠可控，推动经济、社会及⽣态可持续发展。8 国家新⼀代⼈⼯智能治理专业委员会, “新⼀代⼈⼯智能伦理规范”, 2021-09-25,https://www.safea.gov.cn/kjbgz/������/t��������_������.html.7 国家新⼀代⼈⼯智能治理专业委员会, “新⼀代⼈⼯智能治理原则⸺发展负责任的⼈⼯智能”, 2019-06-17,https://www.most.gov.cn/kjbgz/������/t��������_������.html.6 中共中央办公厅、国务院办公厅, “关于加强科技伦理治理的意⻅”, 2022-03-20,https://www.gov.cn/zhengce/����-��/��/content_�������.htm.5 国家⽹信办等七部⻔, “⽣成式⼈⼯智能服务管理暂⾏办法”, 2023-07-10,https://www.gov.cn/zhengce/zhengceku/������/content_�������.htm.4 新华社, “中共中央政治局召开会议 分析研究当前经济形势和经济⼯作 中共中央总书记习近平主持会议”,2023-04-28, https://www.gov.cn/yaowen/����-��/��/content_�������.htm3 UK Government, “Countries agree to safe and responsible development of frontier AI in landmarkBletchley Declaration”, 2023-11-01,https://www.gov.uk/government/news/countries-agree-to-safe-and-responsible-development-of-frontier-ai-in-landmark-bletchley-declaration.2 联合国, “秘书⻓组建⾼级别咨询机构，全球39名专家共商⼈⼯智能治理”, 2023-10-26,https://news.un.org/zh/story/����/��/�������.1 中央⽹信办, “全球⼈⼯智能治理倡议”, 2023-10-18,http://www.cac.gov.cn/����-��/��/c_����������������.htm.I前沿⼈⼯智能安全的最佳实践推动前沿⼈⼯智能安全的⼯作刻不容缓GPT-�等前沿⼤模型展现出强⼤的涌现能⼒，在多领域逼近⼈类⽔平。同时，⼤模型为多个技术⽅向带来新的发展空间，包括多模态、⾃主智能体、科学发现等能⼒。模型能⼒在未来⼏年内仍存在数量级进步的空间。Inflection在未来18个⽉内将使⽤⽐当前前沿模型GPT-�⼤100倍的计算量。Anthropic预计在未来的5年⾥⽤于训练最⼤模型的计算量将增加约1000倍。由于⼤模型的涌现能⼒9，这些更先进⼈⼯智能系统所带来的机遇和⻛险具有巨⼤不确定性。短期内，社会需要积极预防⼈⼯智能所带来的⽹络安全、⽣物安全和虚假信息的滥⽤⻛险。与此同时，⼈⼯智能正获得越来越强的社交操纵、欺骗和战略规划等潜在危险能⼒，未来先进的⾃主⼈⼯智能系统将带来前所未有的控制挑战。⾯对科技伦理和公共安全的重⼤⻛险，社会应该具备底线思维，凡事从最坏处准备，努⼒争取最好的结果。全球⼈⼯智能安全峰会中讨论了应对潜在⻛险的⼈⼯智能安全级别(ASL)框架，参...
