ChatGPT是什么？ChatGPT为什么这么火？

摘要：OpenAI研发的聊天机器人ChatGPT上线5天就突破100万用户，它具有流畅的人机对话能力，以及写代码、找Bug、做海报等能力，更能用鲁迅的文风进行天马行空的创作。对话型AI有何玄机?ChatGPT是人工智能研究实验室OpenAI在..

OpenAI研发的聊天机器人ChatGPT上线5天就突破100万用户，它具有流畅的人机对话能力，以及写代码、找Bug、做海报等能力，更能用鲁迅的文风进行天马行空的创作。

对话型AI有何玄机?

ChatGPT是人工智能研究实验室OpenAI在11月30日发布的全新聊天机器人。在OpenAI的官网上，ChatGPT被描述为优化对话的语言模型，是InstructGPT的姐妹模型。这个模型以对话的形式进行互动，使得ChatGPT能够回答后续问题、承认错误、发出质疑并拒绝不适当的请求。

ChatGPT采用了人类反馈中强化学习（RLHF）技术，通过抹去个人信息的人工注释添加到训练集之前，以提高帮助性和真实性，同时减轻语言模型的危害和偏见的效果。

ChatGPT等聊天机器人通过海量信息的训练能够提供想法和回答问题，但它们提供的答案有时真假参半。这引发了人们的担心，认为随着技术的发展，这类机器人可能被利用来传播假消息和谣言。

美国弗吉尼亚州的数据科学家亚伦·马格利斯（Aaron Margolis）表示，尽管LaMDA有很强的开放式对话能力，但有时也会“胡编乱造”，因为它是一个被互联网信息训练出来的系统。

他给出的一个例子是，LaMDA描述了马克·吐温与李维斯·施特劳斯之间的会面，但这并不是真实的，尽管马克·吐温和李维斯同时居住在旧金山，但他们从未一起工作过。科学家将这种不准确的聊天机器人现象称为“幻觉”。