美国网络安全官员警告：避免人工智能潜在的「灭绝事件」需要采取行动

摘要：美国一位网络安全高级官员周三表示，如果科技公司未能自我约束并与政府合作控制人工智能的力量，人类可能面临「灭绝事件」的风险。这番言论是在数百名科技领袖和公众人物支持类似声明的一天后发表的，该声明将人工智..

美国一位网络安全高级官员周三表示，如果科技公司未能自我约束并与政府合作控制人工智能的力量，人类可能面临「灭绝事件」的风险。

这番言论是在数百名科技领袖和公众人物支持类似声明的一天后发表的，该声明将人工智能的存在威胁比作大流行病或核战争。

该声明的签署者中有 350 人，其中包括 OpenAI 首席执行官 Sam Altman 和谷歌 DeepMind 的首席执行官 Demis Hassabis 等知名人士。

在回应有关这份联合声明的问题时，网络安全与基础设施安全局局长 Jen Easterly 敦促签署者自我约束并与政府合作。

Easterly 表示：「我要求这 350 人和 AI 开发商在我们努力建立监管框架的同时，思考自我约束，思考你们可以做些什么来减缓这个过程，以免给人类带来灭绝事件。」Easterly 补充道：「如果你们真的认为这些能力可能导致人类的灭绝，那么让我们团结起来采取行动吧。」

周二，行业领袖发出了警告。这家位于旧金山的非营利组织 AI 安全中心发布了一句简短的声明，称「减轻人工智能带来的灭绝风险应该与流行病和核战争等社会规模风险一样成为全球重点」。

支持这一声明的人士还包括音乐家格莱姆斯（Grimes）、环保活动家比尔·麦基本（Bill McKibben）和神经科学作家山姆·哈里斯（Sam Harris）等公众人物。

作为人工智能行业的高管，Altman 在大约两周前的参议院作证中表示，他支持政府监管以避免人工智能的有害影响。Altman 表示：「如果这项技术出了问题，后果可能会很严重。」

他还补充说：「我们认为，政府的监管干预对于减轻日益强大的模型的风险至关重要，」并提议采取许可证或对 AI 模型操作所需的安全要求。

与其他启用人工智能的聊天机器人一样，ChatGPT 可以立即回应用户在各种主题上的提示，例如生成一篇关于莎士比亚的文章或给定目的地的旅行建议。

微软于今年三月推出了其必应搜索引擎的一个版本，使用了最新的 ChatGPT 模型 GPT-4 来提供回答。竞争对手谷歌在今年二月宣布了一个名为 Bard 的人工智能聊天机器人。

大量由人工智能生成的内容的增加引发了人们对于可能传播错误信息、仇恨言论和操纵性回应的担忧。

在周三的讲话中，Easterly 说：「归根结底，这些能力将创造令人惊叹的事物。它们将让我们的生活更轻松、更美好。」她补充道：「它们也将让我们的对手的生活更轻松、更美好，对手将会在这个领域充斥着虚假信息，能够发动网络攻击和制造各种武器。」