在与西方在人工智能（AI）领域的首次合作中，中国同意与美国和欧洲合作，评估并解决该技术造成“灾难性”危害的风险。
三人与其他 26 名签署者一起签署了“布莱切利宣言周三在英国举行的人工智能安全峰会上，旨在为人工智能制定安全的前进道路。
峰会和宣言紧随 一些科技高管的警告包括埃隆·马斯克和政治领导人认为人工智能的快速发展对世界构成了生存威胁。
另关于 AF：专家称大型科技夸大了人工智能对人类的威胁
这些警告引发了世界各国政府和国际机构竞相设计保障措施和监管措施。
布莱切利宣言表示：“我们决心以包容的方式共同努力，确保以人为本、值得信赖和负责任的人工智能是安全的，并通过现有的国际论坛和其他相关举措支持所有人的利益。”
“注意到包容性人工智能和弥合数字鸿沟的重要性，我们重申，国际合作应努力酌情吸引广泛的合作伙伴参与。”
该宣言提出了双管齐下的议程，重点是确定共同关注的风险并建立对这些风险的科学理解，同时制定跨国政策来缓解这些风险。
这是西方首次对人工智能的安全发展进行管理。
中国科学技术部副部长吴朝晖与美国和欧盟领导人以及马斯克和 ChatGPT 的山姆·奥尔特曼等科技巨头一起来到布莱奇利公园，这里是英国第二次世界大战密码破译者的故乡。
该协议的其他亚洲签署国包括印度、印度尼西亚、日本、菲律宾、新加坡和韩国。
关于中国存在的问题
中国科技部副部长吴朝晖在为期两天的峰会开幕式上表示，北京准备加强人工智能安全方面的合作，以帮助建立国际“治理框架”。
“国家无论大小，都拥有平等开发和使用人工智能的权利，”他说。
鉴于中国在发展人工智能方面的作用，中国是峰会的主要参与者。 但一些英国议员质疑，鉴于北京、华盛顿和许多欧洲国家首都之间在中国参与科技方面的信任度较低，该机构是否应该存在。
美国在峰会前夕明确表示，对北京的呼吁很大程度上来自英国
“这是英国的邀请，不是美国，”美国驻伦敦大使简·哈特利说。
美国副总统卡马拉·哈里斯出席峰会，利用英国峰会宣布成立美国人工智能安全研究所。 就在美国总统乔·拜登宣布这一消息几天后 签署人工智能行政命令 周一。
ChatGPT 引发的恐惧
虽然欧盟将人工智能监管重点放在数据隐私和监视及其对人权的潜在影响上，但英国峰会正在研究被称为“前沿人工智能”的高性能通用模型带来的所谓存在风险。
“我们特别担心网络安全和生物技术等领域的此类风险，以及前沿人工智能系统可能放大虚假信息等风险的领域。 这些人工智能模型最重要的功能可能会造成严重的、甚至是灾难性的伤害，无论是有意还是无意。”布莱切利宣言说道。
谷歌 Deepmind 联合创始人穆斯塔法·苏莱曼 (Mustafa Suleyman) 告诉记者，他认为当前的人工智能前沿模型不会造成任何“重大灾难性危害”。
不过，他表示，随着行业训练更大的模型，提前计划是有意义的。
去年 11 月，当微软支持的 OpenAI 向公众开放 ChatGPT 时，人们开始担心人工智能可能对经济和社会产生的影响。
使用自然语言处理工具来创建类似人类的对话，引起了包括一些人工智能先驱者在内的担忧，即机器最终可能会获得比人类更高的智能，从而导致无限的、意想不到的后果。
下次峰会将在韩国举行
政府和官员现在正试图与人工智能公司一起制定前进的道路，这些公司担心在该技术充分发挥潜力之前会受到监管的压力。
科技亿万富翁马斯克在峰会上对记者表示：“我不知道公平规则到底是什么，但在进行监督之前，你必须从洞察力开始。”
他补充说，当风险出现时，可以使用“第三方裁判”来发出警报。
与此同时，英国数字部长米歇尔·多尼兰 (Michelle Donelan) 表示，将这么多关键人物聚集在一个房间里就是一项成就。 她宣布再召开两场人工智能安全峰会，一场将于六个月后在韩国举行，另一场将于六个月后在法国举行。
多尼兰对记者表示：“现在，各国首次同意，我们不仅需要独立地关注，而且需要共同关注前沿人工智能的风险。”
- 路透社，还有 Vishakha Saxena 的额外投入
另请阅读：
G7 同意人工智能行为准则以限制技术威胁风险
北京出台全面法律来监管类似 ChatGPT 的人工智能技术
中国希望将类似 ChatGPT 的技术“整合”到其经济中
富士康和英伟达将建立生产智能的“人工智能工厂”
西方间谍头子警告中国利用人工智能窃取技术机密
OpenAI 老板敦促制定法规以防止“对世界造成伤害”
价值 60 万美元的“Deepfake”欺诈加剧了中国的人工智能争论
