来自至少九个国家和欧盟的政府科学家和人工智能专家将在美国选举后在旧金山举行会议，协调安全地开发人工智能技术，并避免其危险。
拜登总统的政府在周三宣布了一场为期两天的国际人工智能安全会议，计划于11月20日和21日举行。这场会议将于一年多前在英国举行的人工智能安全峰会上，代表们承诺共同努力，以遏制人工智能进步可能带来的潜在灾难风险。
美国商务部长吉娜·雷蒙多告诉美联社，这将是英国峰会和五月在韩国举行的后续会议后的“第一次奋起会议”，后者激发了一系列公开支持的安全研究和技术测试机构的成立。
专家们可能要面对的紧迫议题包括人工智能生成的假冒情况不断增加，以及如何判断人工智能系统何时具有如此广泛的能力或危险性，需要设置防护措施。
雷蒙多在接受采访时表示：“我们将思考如何与各国合作制定标准，以防范合成内容的风险，人工智能被恶意行为者恶意使用的风险等。因为如果我们控制风险，我们能够取得令人难以置信的成就。”
作为当前泛生成人工智能技术的中心，旧金山的会议旨在作为技术上的合作，共同制定安全措施，为明年二月在巴黎举行的更广泛的人工智能峰会做准备。这场会议将在一场总统选举之后举行，总统选举将在现任副总统卡玛拉·哈里斯和前总统唐纳德·特朗普之间进行。哈里斯协助制定了美国有关人工智能风险的立场，而特朗普则曾誓言废除拜登的标志性人工智能政策。
雷蒙多和国务卿安东尼·布林肯宣布，他们的机构将共同主持这次会议，利用新成立的国家人工智能安全机构网络，其中包括美国、英国、澳大利亚、加拿大、法国、日本、肯尼亚、韩国、新加坡和由27个国家组成的欧盟。
参与者名单中最大的人工智能强国是中国，但中国并不是这个网络的一部分，尽管雷蒙多表示：“我们仍在努力弄清楚其他可能参与的科学家。”
她说：“我想，有些风险我们都希望避免，比如人工智能应用于核武器，人工智能应用于生物恐怖主义等。世界上每个国家都应该能够达成一致意见，认为这些是坏事，我们应该共同努力防范它们。”
许多政府承诺保护人工智能技术，但采取了不同的方法，欧盟是第一个实施一项全面人工智能法律，对最危险应用设置最严格的限制。
去年十月，拜登签署了一项关于人工智能的行政命令，要求开发最强大人工智能系统的开发者与政府分享安全测试结果和其他信息。该行政命令还授权商务部制定标准，以确保在公开发布之前，人工智能工具是安全和可靠的。
总部位于旧金山的OpenAI制造了ChatGPT，上周表示，在发布其最新模型o1之前，已授予美国和英国国家人工智能安全机构提前访问权限。该新产品不仅能够超越公司著名的聊天机器人，在回答查询时进行“复杂推理”，并产生“长链的内部思想”，在大规模杀伤性武器类别中构成“中风险”，公司表示。
自2022年底以来，泛生成人工智能工具开始引起世界关注，拜登政府一直在推动人工智能公司承诺在其最复杂的模型发布之前进行测试。
雷蒙多说：“这是正确的模式。也就是说，目前这都是自愿的。我认为我们可能需要超越自愿制度。我们需要国会采取行动。”
技术公司原则上大多同意需要对人工智能进行监管，但一些公司对可能抑制创新的提议感到不满。加利福尼亚州州长加文·纽瑟姆周二签署了三项标志性法案，以打击2024年选举前的政治深度伪造，但尚未签署或否决更具争议性的法案，该法案将规管目前尚不存在但如果建立可能构成严重风险的极端强大人工智能模型。
