42年前的科学家“反战誓言”，如今是AI时代最需要的伦理底线

如今，以人工智能为代表的飞速发展的科技力量对社会生活的影响已经引发全球范围内的严重伦理关切。作为被联合国支持和采用的科技伦理倡议《乌普萨拉准则》，其虽是在20世纪冷战阴影下制定的，但它在今天仍然具有重要的现实意义，可以作为评估现代创新的潜在益处和危害的指导框架。本文收录于合集：科学与社会2026年下半年以来，......本文来自微信公众号： 返朴 ，作者：范明如今，以人工智能为代表的飞速发展的科技力量对社会生活的影响已经引发全球范围内的严重伦理关切。作为被联合国支持和采用的科技伦理倡议《乌普萨拉准则》，其虽是在20世纪冷战阴影下制定的，但它在今天仍然具有重要的现实意义，可以作为评估现代创新的潜在益处和危害的指导框架。本文收录于合集：科学与社会2026年下半年以来，一波接一波的人工智能（AI）冲击接踵而来。先是在AI深度渗透数学研究引发学术乱象、机制失衡等不良局面后，国际数学界在6月2日公开发布了《人工智能与数学莱顿宣言》，这是数学界为应对AI对数学研究带来的巨大冲击而发起的首个正式集体行动，明确拒绝将数学和AI技术用于开发战争、压迫或大规模监控系统[1]。紧接着，俄乌战场上开始出现“没人下令、无人负责”的AI引导的无人机自主作战，引发国际社会对战争伦理和人类控制权丧失的强烈担忧......与此同时，中国和欧盟都在近期推进了各自的AI监管进程，应对严重的伦理关切。但是，科技成果侵犯人类伦理的焦虑显然并不能被监管措施所完全打消，而且，我们到底该怎么界定其中的责任呢？其实早在四十余年前，一份最早的行业倡议《乌普萨拉科学家伦理准则》就已涉及这个问题，该准则至今仍是处理科研伦理后果方面一份很特别的基础文件。缘起和准则1980年代初，地缘政治局势高度紧张，核军备竞赛不断升级，科学研究迅速军事化。全球环境意识开始觉醒，公众对酸雨、臭氧层损耗以及潜在的“核冬天”可能带来的灾难性生态后果日益感到恐慌。科学不但是可能毁灭人类的工具，而且已经发展到足以永久性地破坏全球生物圈的地步。乌普萨拉大学的一群科学家自1981年以来定期会面，深入探讨科学研究中的伦理问题，他们的学科涵盖自然科学、医学、社会科学、技术、法律、神学等领域。研讨会组织者指出，既有的学科准则很少甚至从未提及武器研发或军事研究的伦理问题，而且完全忽略了环境因素。受到日益加剧的全球焦虑情绪的影响，乌普萨拉研讨会从一开始就致力于制定一套科学家伦理准则，旨在解决科学发现带来的深刻伦理困境。初步提案于1982年末推出，根据随后的讨论，于1984年1月发布了最终版本，即《乌普萨拉科学家伦理准则》（The Uppsala Code of Ethics for Scientists，以下简称《乌普萨拉准则》）。《乌普萨拉准则》由四位学者本特·古斯塔夫松（Bengt Gustafsson）、拉尔斯·吕登（Lars Rydén）、贡纳尔·蒂贝尔（Gunnar Tibell）以及彼得·瓦伦斯汀（Peter Wallensteen）执笔，发表在奥斯陆和平研究所的期刊Journal of Peace Research,21(4):311–316。与许多主要关注数据完整性的准则不同，《乌普萨拉准则》的独特之处在于直接探讨了研究发现所带来的道德和社会影响，为评估潜在研究成果的利弊提供了哲学基础，使其在人工智能伦理和生物安全等现代争议性领域具有高度相关性。《乌普萨拉准则》将伦理责任赋予每位科学家，详细规定了科学家的直接责任，倡导在科研行为中秉持诚实、正直、公平、值得信赖和透明的原则，要求他们持续评估其科研成果的可预见应用。准则概述了如下四条科学家必须遵守的核心原则：1.研究的方向应确保其应用和其他后果不会造成重大的生态破坏。2.研究的方向应确保其后果不会使当代和后代更难过上安全的生活。因此，3科学努力不应旨在开发用于战争或压迫的应用或技能。研究方向不得使其后果与公民、政治、经济、社会和文化权利国际协定中所表达的基本人权相冲突。3.科学家负有特别的责任，认真评估其研究的后果，并将其公之于众。4.科学家若判断其正在进行或参与的研究与本守则相冲突，则应停止此类研究，并公开说明理由。此类判断应同时考虑相关负面后果的可能性和严重程度。《乌普萨拉准则》的制定者认为，该准则所涉及的伦理困境属于个人层面，是一个良心问题。个人问责制和专业自律是必要的保障措施，因为结构性或政治性监管往往不足以维护生物安全和全球安全。该准则呼吁研究人员在进行科学探索时进行道德自省，避免其研究成果被用于破坏生态或非人道的军事目的。科学家负有反对滥用或误用科研成果的首要责任，必须运用其专业知识，积极促进公众教育，为民主决策提供信息，并确保技术造福整个社会。《乌普萨拉准则》对于全球科学规范产生了深远影响，常被誉为科学家的“希波克拉底誓言”，至今仍是处理科学研究成果的伦理后果方面独一无二的准则。和平的愿景乌普萨拉大学是斯堪的纳维亚半岛的第一所大学，创建于1477年，2027年10月将迎来550周年校庆。乌普萨拉大学的著名校友达格·哈马舍尔德（Dag Hammarskjöld，1905-1961）是瑞典的著名外交家和政治家，从1953年起出任第二任联合国秘书长，直到1961年9月18日在前往非洲的停火谈判中坠机身亡。哈马舍尔德在担任联合国秘书长期间，为世界和平事业倾尽毕生精力，被认为是20世纪最伟大的政治家之一。他生前获得11人的诺贝尔和平奖提名，身后被追授为1961年度和平奖得主。哈马舍尔德是迄今唯一在任内殉职的联合国秘书长，也是唯一被追授的诺贝尔和平奖得主。因其绝对的正直、人道主义精神和对和平的奉献精神，哈马舍尔德备受全世界尊敬。1962年，非政府组织达格·哈马舍尔德基金会在乌普萨拉成立，其宗旨是加强国际合作、促进可持续发展与和平建设的对话和政策。达格·哈马舍尔德基金会与乌普萨拉大学联合设立了达格·哈马舍尔德年度讲座，首届讲座于1998年9月举行。虽然《乌普萨拉准则》制定于1984年，然而其所蕴含的哲学和道德原则与哈马舍尔德的理念高度契合。《乌普萨拉守则》强调科学家应具备全球视野、恪守原则和保持中立的正直品格，这与哈马舍尔德对国际公务员的愿景不谋而合。1982年诺贝尔和平奖得主、瑞典外交官阿尔瓦·默达尔（Alva Myrdal，1902-1986）是学术研究与国际政策之间的重要桥梁。她早就开创了一种理念：科学知识必须积极地服务于人类福祉与和平。1951年，默达尔被任命为联合国教科文组织社会科学部部长，并立即将这一理念付诸实践。她利用全球学术研究成果制定联合国项目，旨在解决贫困、文盲和性别不平等等战争的根源性结构问题。1962-1973年间，默达尔担任出席日内瓦联合国裁军委员会会议的瑞典代表团团长，她将地震学家和核物理学家等独立学术专家直接纳入其外交团队，赋予不结盟、无核国家强大的话语权。1966年，默达尔参与创建了斯德哥尔摩国际和平研究所（SIPRI），并担任首任理事会主席。SIPRI为联合国提供了关于全球武器贸易和军事开支的客观、透明的数据，默达尔的战略依赖于一个持续的循环：学术界为政策提供信息，而政策又动员公众舆论。《乌普萨拉准则》发表时，四位作者均为乌普萨拉大学教授，当年的国际局势使他们意识到，个人保持沉默已不再可能，必须采取行动。默达尔的理论框架直接激发了1980年代初全球基层和学术运动的活力，为瑞典创造了特定的政治氛围，使得《乌普萨拉准则》的制定者能够安全地要求科学家们拒绝接受军事资助。哈马舍尔德和默达尔的雕像丨笔者摄学者们的贡献《乌普萨拉准则》作者们的学术背景和经历直接影响了准则的制定，将科学伦理的重点从个人诚信转向全球责任。古斯塔夫松从宏观视角阐述了地球在宇宙中脆弱的地位以及人类漫长的历史进程，吕登指出工业和科学突破可能无意中破坏生态系统，蒂贝尔和瓦伦斯汀均在核焦虑最为严重的冷战时期开始职业生涯，意识到科学界已经成为推动全球毁灭的主要引擎。他们一致认为，科学家必须着眼于未来，有责任保护子孙后代；应考虑其工作对生物圈的长期系统性影响；有义务拒绝参与武器研发。科学属于公共讨论的范畴，如果科学家预见到研究成果可能被滥用，有义务告知公众和科学界。四位作者中，一位已故，三位荣休。现将他们的学术背景简介如下：本特·古斯塔夫松（1943-）是理论天体物理学家，专攻恒星物理学。他在乌普萨拉出生，这座城市拥有悠久的天文研究传统，其历史可追溯到18世纪的瑞典天文学家安德斯·摄尔修斯（Anders Celsius）以及他建立的乌普萨拉天文台。在这样的环境中成长，古斯塔夫松从小就对天文学产生了浓厚兴趣。他11岁时用纸筒和眼镜镜片制造了自己的第一架望远镜，进行了基本的月球观测。1974年，古斯塔夫松获得乌普萨拉大学理论天体物理学博士学位，他在恒星大气和化学丰度、元素通过核合成的起源，以及银河系和其他恒星系统的化学演化等多个方面做出了大量开创性工作。古斯塔夫松是瑞典皇家科学院院士，一直参与同行评审流程和咨询工作，对国家科学政策有影响力。他主张在科学实践中建立健全的伦理框架，发起了包括乌普萨拉大学的研究伦理研讨会在内的一系列活动，旨在促进对现有范式保持怀疑态度的讨论。21世纪初以来，古斯塔夫松担任国际科学理事会（ICSU）科学行为自由与责任委员会主席，负责监督在科研实践面临压力的情况下，维护伦理标准和保护科学独立性的工作。古斯塔夫松始终倡导原创的、以数据为先的研究方法，他的贡献强化了这样一种观点：伦理科学要求对公开的学术不端行为和隐蔽的意识形态盲从保持警惕。拉尔斯·吕登（1940-）是生物化学和环境科学家，他的研究领域包括蛋白质进化与纯化、固定化生物分子以及铜的生物化学。吕登长期致力于可持续发展、和平研究以及科学界的社会责任，他认为“与铁幕背后的人们建立联系至关重要”。柏林墙倒塌后，拉尔斯受全球大学网络的启发，于1991年创建并负责“波罗的海大学计划”（BUP），这是一个以乌普萨拉大学为基地，围绕波罗的海地区开展的区域性合作项目，如今已涵盖14个国家的约230所大学。除了学术著作外，拉尔斯还广泛涉猎科研伦理和科普领域，发表了大量关于生物化学和生物技术的科普文章。贡纳尔·蒂贝尔（1930-2012）是高能物理学家，因其对核结构和粒子物理学的贡献而备受推崇。1958年，蒂贝尔作为首批前往日内瓦欧洲核子研究中心（CERN）的瑞典核物理学家之一，参与了第一台加速器的研究工作，并于1975-1979年间担任CERN的高级物理学家。蒂贝尔曾任瑞典物理学会主席及欧洲物理学会教育分会大学预科部主席，积极参与乌普萨拉大学研究伦理论坛的工作。他退休后负责管理乌普萨拉大学的“林奈在线”网站，向大众普及和传播科学知识。蒂贝尔还是一位业余合唱团歌手，致力于古典音乐的推广和诠释，多年担任《乌普萨拉新报》的古典音乐评论员。彼得·瓦伦斯汀（1945-）是全球和平与冲突研究领域的先驱，在该领域深耕半个多世纪，他的研究主要集中于制裁在国际冲突管控中的应用、联合国维和行动与国际调解。瓦伦斯汀参与创建了这一领域的重要研究中心——乌普萨拉大学和平与冲突研究系，于1985-2012年间担任达格·哈马舍尔德和平与冲突研究教席首任教授。他还于2006-2018年间担任美国圣母大学克罗克国际和平研究所首任理查德·G·斯塔尔曼（Richard G.Starmann）高级和平研究教授。1978-2015年间，瓦伦斯汀创建并领导了著名的乌普萨拉冲突数据项目（UCDP），该项目是研究武装冲突与和平谈判的全球资源库。瓦伦斯汀撰写了大量学术著作，他的权威教科书《理解冲突解决：战争、和平与全球体》于2002年初版，2023年更新至第六版。该书整合了来自UCDP的全面实证数据，对不同武装冲突形式进行分类，为在日益变幻莫测的全球政治格局中达成和平协议提供了途径。2021年，施普林格出版社出版了《彼得·瓦伦斯汀：和平研究的先驱》一书，收录了瓦伦斯汀十个核心研究主题的30篇文章，包括他在20世纪90年代参与实际和平进程的经历。该书对于瑞典和平研究的兴起作了独特的回顾，还阐述了该学科如何从最初关注“战争替代方案”发展到全面研究“持久而积极的和平”的诸多维度。影响及现实意义《乌普萨拉准则》发表后，各方反应不一，凸显了冷战后期东西方科学家之间深刻的意识形态分歧。1957年成立的学者和公共人物国际组织——帕格沃什与世界事务会议（Pugwash Conferenceson Science and World Affairs）是《乌普萨拉准则》重要的国际传播平台。20世纪80-90年代，该平台使得铁幕两侧的科学家得以绕过各自政府，共同认同科学界负有防止核灾难的集体责任。联合国也将《乌普萨拉准则》作为其全球裁军倡议的支持框架，联合国大学举办了多场高级别国际研讨会，促进科学家之间的信任并推动“和平教育”，联合国教科文组织直接参与了《乌普萨拉准则》的实践。《乌普萨拉准则》问世后的几十年间，《英国科学家通用伦理准则》（2007）、《旧金山科研评估宣言》（2012）、联合国教科文组织《开放科学建议书》和《人工智能伦理问题建议书》（2021）等相继推出。尽管《乌普萨拉准则》是在20世纪冷战阴影下制定的，但在今天仍然可以作为评估现代创新的潜在益处和危害的指导框架。《乌普萨拉准则》意味着技术开发必须将人类的道德监督和生命安全置于首位，确保新兴技术用于增强而非取代人类智慧，始终保留人类的控制权。比如全自主攻击无人机的核心技术是计算机视觉、机器学习和自动化控制，试图用AI算法代替人类进行“杀戮”决策直接挑战了《乌普萨拉准则》的底线。19世纪英国作家查尔斯·狄更斯在历史小说《双城记》的开篇写道：“这是最好的时代，也是最坏的时代；是智慧之年，也是愚妄之年；是信仰的纪元，也是怀疑的纪元；是光明之季，也是幽暗之季；是希望之春，也是绝望之冬。”在这个AI全面重构人类社会的时代，复活并延伸《乌普萨拉准则》倡导的精神，具有重要的现实意义。注释[1]2025年9月，在荷兰莱顿大学举办的“机械化与数学研究”国际会议上，10个国家的近60位数学家、计算机科学家、哲学家、科技史与社科研究者共同发起制定《莱顿宣言》的倡议。来自全球15所大学的17名数学家联合成立了起草工作组，会后八个月内工作组结合全球学界海量反馈定稿，最终形成了11页的《莱顿宣言》，内容对标2026年5月AI技术与科研现状。《莱顿宣言》明确指出，不受控制的自动化和商业逻辑正在侵蚀数学这一极具人文色彩的学科，包括结论可靠性隐患、文献溯源与版权受损、科研生态与激励失衡、成果评价乱象与资本裹挟等。为了守护“求真、严谨、透明、自主”的数学本源价值，《莱顿宣言》列出了大多数数学家的共识，向不同群体给出了清晰的框架引导。宣言试图在技术热潮中划出一条冷静的边界，要求个体数学家规范AI使用、恪守开放科学准则、强化人类主体责任、维护学术规范、参与公共科普与行业讨论、评估伦理风险及审慎开展合作。这份获得国际数学联盟正式认可与背书的宣言，旨在维护生成式人工智能时代人类主导研究的完整性，清晰界定了AI作为数学研究的优质辅助对象与助力的工具地位，但永远无法取代人类的思辨、理解、创造与探索。注：本文封面图片来自版权图库，转载使用可能引发版权纠纷。