OpenAI 首席执行官警告称:竞争对手将使 AI 变得更加邪恶

2023-03-22 14:09
摘要:当你在担心 ChatGPT 的创建者 OpenAI 及其强大的、私有的、偶尔会失灵的AI 技术会带来负面影响的同时,这家公司的CEO Sam Altman也担心其新兴竞争对手可能使 AI 变得更加邪恶。Sam Altman上周在接受采访的时候表示,..

当你在担心 ChatGPT 的创建者 OpenAI 及其强大的、私有的、偶尔会失灵的AI 技术会带来负面影响的同时,这家公司的CEO Sam Altman也担心其新兴竞争对手可能使 AI 变得更加邪恶。

Sam Altman上周在接受采访的时候表示,“我确实担心的一件事是,我们不会成为这项技术的唯一创造者,会有其他人不像我们一样去施加一些安全限制。”

他接着说,“我认为,社会只有有限的时间来弄清楚如何对此做出反应,包括如何监管,如何处理。”

Sam Altman的担忧是很有道理的,在竞争激烈和危险的环境下,许多公司和国家可能会优先考虑权力和利润,而不是安全和道德。另外一个事实是,人工智能技术的发展速度迅速超过了政府监管的速度。

尽管OpenAI展现的是一副友善的态度,其成立之初是一家非盈利、开源公司,但此后已经180度大转弯,它实际上不会告诉任何人其模型如何运作的具体细节。

截止目前,OpenAI还是“封闭的”,并没有开放具体的“技术文件”,比如该公司更多关于体系结构(包括模型大小)、硬件、培训计算,数据集建设、培训方法等细节是保密的。

Sam Altman也表示,他和他的同事公开表达了对他们正在努力打造的技术的担忧,这也可能是一件好事。

更新于:2023-03-22 14:09