�jjlftAI ffl &� �:i: ���)8J.ltlii5 Safety and Global Governance of Generative Al Report i!tWifit!ltR&*3��Uffrt�*��� ��±Jllrr.if3f��*t9.J'� 2024iF 1 F.I Jan 2024 目 录 编者的话I 序言II 人工智能治理：为了人工智能发展得更好更快，II 以加速实现全球可持续发展目标II 龚克II 介绍V 第一章 生成式人工智能的风险与挑战1 大语言模型怪兽对利维坦与法律秩序的挑战1 季卫东1 以更积极主动的治理应对人工智能发展中的风险与挑战4 段伟文4 人类价值对齐难题与大模型伦理嵌入6 王小红6 人工智能的全球监管：主要差距和核心挑战8 罗斯塔姆·J·诺伊维尔特(Rostam J. Neuwirth) 8 生成式人工智能对全球治理的挑战与应对9 孙南翔9 全球人工智能风险不可避免地需要全球合作10 邓肯·卡斯-贝格斯(Duncan Cass-Beggs) 10 第二章 生成式人工智能的全球治理策略12 基础模型和生成式人工智能时代全球人工智能治理的制度设计原则12 尼古拉斯·莫斯(Nicolas Moës)，尤兰达·兰奎斯特(Yolanda Lannquist)， 12 尼基·伊利亚迪斯(Niki Iliadis)，尼古拉斯·米埃赫(Nicolas Miailhe) 12 有关全球人工智能治理的关键政策建议14 周辉14 基础模型开发和部署的国际监督16 罗伯特·特拉格(Robert Trager)，菲恩·海德(Fynn Heide) 16 协调、合作、紧迫性：国际人工智能治理的优先事项18 卡洛斯·伊格纳西奥·古铁雷斯(Carlos Ignacio Gutierrez) 18 数据伦理与联合国教科文组织开放科学建议20 国际科技数据委员会数据伦理工作组20 通用人工智能或大型基础模型的国际治理：渐进原则与开放探索22 张鹏22 I 第三章 人工智能治理助力发展中国家与全球可持续发展23 发展中国家距离利用人工智能的力量还有多远？23 尤金尼奥·巴尔加斯·加西亚(Eugenio Vargas Garcia) 23 推动发展中国家参与人工智能治理与可持续发展25 鲁传颖25 人工智能供应链与地缘政治：与全球南方国家共同治理27 方淑霞(Marie-Therese Png) 27 人工智能监督可以从碳排放中学到什么29 夏洛特·西格曼(Charlotte Siegmann)，丹尼尔·普里维特拉(Daniel Privitera) 29 人工智能治理如何促进全球经济增长与可持续发展？31 廖璐31 为全球大多数人的人工智能治理——以东南亚为例32 莉安托涅特·蔡(Lyantoniette Chua) 32 第四章 工程视角下的人工智能治理34 理解模型能力是全球人工智能治理的优先事项34 纳撒尼尔·沙拉丁(Nathaniel Sharadin) 34 标准化视角下的人工智能安全治理全球协作与敏捷更新36 马骋昊、高万琪、范思雨36 人工智能治理——一场再建巴比塔的革命38 王俊，娜迪娅38 新加坡治理生成式人工智能的方法和实践41 丹尼丝·王(Denise Wong) 41 通过人工智能技术民主化实现人工智能对齐43 伊丽莎白·西格(Elizabeth Seger) 43 学习机器的工程智慧45 布雷特·卡兰(Brett Karlan)，科林·艾伦(Colin Allen) 45 多元、开放、互动：生成式人工智能模型训练所需的原则47 刘纪璐(JeeLoo Liu) 47 第五章 企业视角下的人工智能治理49 一种负责任地扩展人工智能模型的框架49 迈克尔·塞利托(Michael Sellitto) 49 以价值对齐塑造健康可持续的大模型发展生态51 司晓、曹建峰51 不要让深黑盒人工智能锁定了我们文明进化的路径53 韦韬53 英特尔负责任的人工智能应用探索54 邹宁、王海宁54 致谢56 免责声明56 联系方式56 贡献情况56 I 编者的话 本报告是由多元的作者观点汇集而成，旨在引起公众对生成式人工智能技术发展的安全性和治理问题的关注，并激发进一步的思考。我们认识到，这一领域的发展速度迅猛，伴随着许多潜在的挑战和机遇。报告中的具体观点仅代表各个作者本人，而不代表世界工程组织联合会创新技术专委会（WFEO-CEIT）或深圳科学技术协会的立场。我们强调，对于生成式人工智能技术的探索和应用，需要行业内外的广泛合作与持续对话，以确保科技的进步能够造福全人类，并在伦理和法律框架内得到妥善管理。通过这份报告，我们希望促进更多的交流和合...
