一开发者用OpenAI 技术构建了个AI宣传机器,强调大规模生产的AI虚假信息危险性

2023-09-04 14:09
摘要:文章概要:1. 一国外开发者2个月内利用OpenAI工具打造AI宣传机器,每月运营成本低于400美元2. 项目目的是展示AI大规模生产虚假信息的危险3. 开发者没有将模型投入使用,因为它会推动假信息传播。最近,一名匿名的开发..

文章概要:

1. 一国外开发者2个月内利用OpenAI工具打造AI宣传机器,每月运营成本低于400美元

2. 项目目的是展示AI大规模生产虚假信息的危险

3. 开发者没有将模型投入使用,因为它会推动假信息传播。

最近,一名匿名的开发者利用OpenAI的ChatGPT等工具,在不到2个月的时间内打造出了一个人工智能宣传机器。这个名为“CounterCloud”的项目每月的运行成本不到400美元,突显了进行大规模宣传是多么廉价和简单。

这名开发者使用了“Nea Paw”这个化名,声称自己是网络安全专业人员。在YouTube上发布的视频中,他描述了这个项目的实现过程和目的。他表示,自己希望看到AI假信息“在现实世界中运行”,因为大型语言模型具有阅读和撰写假新闻的强大语言能力。

他开始将“对立”文章输入ChatGPT,并设定提示语指示其生成反驳文章。AI机器人会以不同风格和观点生成同一文章的不同版本,通过“捏造故事”、“伪造历史事件”来质疑原文章的准确性。为了制造真实性,还添加了新闻主播朗读自动生成文章的音频剪辑和照片。

在2个月内,这个AI系统每天24个小时不断的运行,“90%的时间生成令人信服的内容。

开发者还没有将模型投入互联网使用,因为这会主动传播虚假信息。但他认为,公开CounterCloud项目及其内部运作机制,能更好地提醒公众人工智能宣传的威胁。

更新于:2023-09-04 14:09