OpenAI CEO首场中国演讲：推进AGI安全治理，需要国际科技界展开合作

来源:电子技术应用ChinaAET发布时间:2023-06-121934浏览

萨姆·阿尔特曼强调，OpenAI在依托技术消除全球合作障碍的同时，还试图为AGI治理系统沟构建一个框架和安全标准。他认为，AI安全确实需要技术的参与，但更为关键的是，“要保持一致的价值观。”

正在世界各地进行旋风式访问的“ChatGPT之父”、人工智能公司OpenAI的CEO萨姆·阿尔特曼（Sam Altman），6月10日首次“云”上参与了在中国举行的行业峰会“2023北京智源大会”。北京智源大会是由智源研究院（全称：北京智源人工智能研究院）主办的年度国际性人工智能领域的专业交流活动，定位于“AI内行顶级盛会”，今年已经是第五届。五年前，智源研究院在科技部和北京市的支持下，联合北京人工智能领域的优势单位共建而成。因汇集了张宏江、黄铁军等国际顶尖人工智能学者，智源研究院聚焦核心技术与原始创新，旨在推动人工智能领域发展政策、学术思想、理论基础、顶尖人才与产业生态的五大源头创新。萨姆·阿尔特曼在名为“AI安全与对齐”的分论坛中进行了主题演讲，在穿越五大洲近20个国家，与多国领导人、开发者及学生们展开交流、讨论后，他发现，世界的注意力都集中在解决AI的安全问题上。除了给OpenAI优化工具等方面工作提出宝贵意见，萨姆·阿尔特曼希望，在亲眼目睹了通用人工智能（Artificial General Intelligence, AGI）发展带来的变革，人类的想象力被迅速拓展后，防范风险，“推进AGI安全治理，是我们寻找共同立场的最重要领域之一。”萨姆·阿尔特曼举例称，像根除小儿麻痹和天花等疾病，以及减少全球气候变化等风险，大国之间经常在关键医学和科学领域展开合作，以实现共同目标。在他看来，AGI安全治理同样需要国际合作，尤其在AI开发和安全部署方面，需要建立包容的国际标准，使所有国家对AGI发展抱以一个统一且平等的准则；同时，在可验证的方式下，全球范围内建立起对AGI安全开发的信任。作为首场中国演讲，萨姆·阿尔特曼特意援引《道德经》中的“千里之行，始于足下”，以呼吁国际科技界能迈出建设性的第一步，合作推动AGI安全。与此同时，他也提及，要深入地思考，如何尊重和保护知识产权，推动并引导与安全研究有关的投资。谈及OpenAI当前的重点内容，“如何训练优化模型，以使AI系统成为人类有益且安全的助手。”萨姆·阿尔特曼演讲后还与智源研究院理事长张宏江进行了对话，他谈到，过去的六个月时间里，人们愈发重视AGI风险和机遇，OpenAI在让人们享受技术变革带来的益处同时，也在努力减轻风险，但“全球合作始终是困难的”。萨姆·阿尔特曼强调，OpenAI在依托技术消除全球合作障碍的同时，还试图为AGI治理系统沟构建一个框架和安全标准。他认为，AI安全确实需要技术的参与，但更为关键的是，“要保持一致的价值观。”为此，OpenAI要设计出一个公平、包容又具有代表性的系统，“我们需要构建安全的分类器和检测器，以监测符合用户规范的情况。”中国、美国和欧洲是推动人工智能和创新的三个主要力量，当张宏江问及国际合作对于解决AI需求和决策具备怎样的优势时，萨姆·阿尔特曼表示，AI安全需要受益于不同国家和不同背景下的用户偏好，因此需要融合不同的观念来实现这一目标。聚焦中国，萨姆·阿尔特曼认为，这里拥有世界上一些最优秀的AI系统，也从根本上使研究人员在解决AI系统问题时面临困难，他希望未来中美两国间的AI技术研究人员能一起为AI安全做出贡献。对谈中，张宏江疑问，未来OpenAI的GPT源代码会否重新开放，萨姆·阿尔特曼并未直接回答。但他对开源模型的发展以及开源这一路径的正确性予以认可，只是伴随模型变得越来越大，他强调，“确保正确性变得昂贵，开源一切可能不是最优路径。”

来源| 经济观察网

【AI】4 月份 ChatGPT 访问量再创新高：达到百度的 60%、谷歌的 2%

【AI】国产ChatGPT Al大模型盘点

【AI】10张图总结2023年人工智能状况