摘要：埃隆·马斯克和一群人工智能专家和行业高管在一封公开信中呼吁暂停六个月开发比 OpenAI 新推出的 GPT-4 更强大的系统，理由是对社会和人类的潜在风险。本月早些时候，微软支持的 OpenAI 推出了其 GPT（生成式预训练变压器）AI 程序的第四次迭代，该程序以其广泛的应用程序让用户惊叹不已，从让用户参与类似人类的对话到创作...

埃隆·马斯克和一群人工智能专家和行业高管在一封公开信中呼吁暂停六个月开发比 OpenAI 新推出的 GPT-4 更强大的系统，理由是对社会和人类的潜在风险。

本月早些时候，微软支持的 OpenAI 推出了其 GPT（生成式预训练变压器）AI 程序的第四次迭代，该程序以其广泛的应用程序让用户惊叹不已，从让用户参与类似人类的对话到创作歌曲和总结冗长的内容文件。

这封由非营利组织未来生命研究所 (Future of Life Institute) 发布并由包括马斯克在内的 1000 多人签署的信函呼吁暂停先进人工智能的开发，直到此类设计的共享安全协议得到独立专家的开发、实施和审核。

“只有当我们确信它们的影响将是积极的并且它们的风险将是可控的时候，才应该开发强大的人工智能系统，”信中说。

OpenAI 没有立即回应置评请求。

这封信详述了具有人类竞争力的人工智能系统以经济和政治破坏的形式对社会和文明造成的潜在风险，并呼吁开发人员与政策制定者就治理和监管机构进行合作。

联合签署人包括 Stability AI 首席执行官埃马德·莫斯塔克、Alphabet 旗下(GOOGL.O) DeepMind 的研究人员、AI 重量级人物约书亚·本吉奥（通常被称为“AI 教父”之一）和斯图尔特·罗素（人工智能研究先驱）场。

根据欧盟的透明度登记册，未来生命研究所主要由马斯克基金会、伦敦的有效利他主义组织创始人承诺和硅谷社区基金会资助。

周一，欧盟警察部队欧洲刑警组织加入了对 ChatGPT 等先进人工智能的道德和法律担忧，警告该系统可能被滥用于网络钓鱼企图、虚假信息和网络犯罪。

与此同时，英国政府公布了围绕人工智能的“适应性”监管框架的提案。

周三发布的一份政策文件概述了政府的做法，将在其人权、健康和安全以及竞争监管机构之间分担管理人工智能 (AI) 的责任，而不是创建一个专门负责该技术的新机构。

透明度

马斯克的汽车制造商特斯拉(TSLA.O)正在将人工智能用于自动驾驶系统，他一直直言不讳地表达了他对人工智能的担忧。

自去年发布以来，OpenAI 的 ChatGPT 促使竞争对手加速开发类似的大型语言模型，以及公司将生成式 AI 模型集成到他们的产品中。

上周，OpenAI 宣布已与大约十几家公司合作，将他们的服务构建到其聊天机器人中，允许 ChatGPT 用户通过 Instacart 订购杂货，或通过 Expedia 预订航班。

未来生命研究所 的一位发言人告诉路透社，OpenAI 的首席执行官山姆·奥特曼 还没有签署这封信。

“这封信并不完美，但精神是正确的：我们需要放慢脚步，直到我们更好地理解其后果，”签署这封信的纽约大学教授加里马库斯说。“大公司对他们正在做的事情越来越保密，这使得社会很难抵御可能出现的任何危害。”

批评者指责这封信的签署者在推动“人工智能炒作”，认为围绕该技术当前潜力的说法被大大夸大了。

“这类声明是为了炒作。这是为了让人们担心，”于默奥大学人工智能研究员兼副教授约翰娜·比约克伦德。“我认为没有必要拉手刹。”

她说，人工智能研究人员不应暂停研究，而应遵守更高的透明度要求。“如果你从事人工智能研究，你应该对你的研究方式非常透明。”