Anthropic通过在AI模型的提示中加入请求来防止歧视

2023-12-08 14:02

Anthropic采用一种新方法来防止人工智能(AI)对受保护群体进行歧视,通过在提示中加入请求,要求AI“非常非常非常非常”友好地对待,并且这一策略在降低歧视方面取得了成功。研究人员通过在提示中加入“干预”来告..

OpenAI 宣布 66 亿美元新融资 公司估值达到 1570 亿美元

2024-10-03 12:41

根据 OpenAI 公司发布的博客文章,OpenAI 刚刚完成了一轮历史性融资,筹集了 66 亿美元,估值达到 1570 亿美元,将继续追求其构建通用人工智能的使命。据《金融时报》报道,本轮融资由 Thrive Capital 领投,承诺投..

Anthropic 宣布 Claude AI 重大更新:全新界面和新的定制功能

2024-10-19 12:45

站长之家(ChinaZ.com) 10 月 19 日消息:Anthropic 公司日前宣布对其 iOS 和 Android 应用进行了重要更新,为移动用户带来了全新的界面和增强的功能。这次更新还首次推出了 iPad 应用,旨在为那些使用 Claude AI 进..

大模型训练遭投毒损失千万美元?Anthropic惊人发现:LLM植入炸弹,代码库暗藏bug!

2024-10-20 12:19

【新智元导读】最近,大模型训练遭恶意攻击事件已经刷屏了。就在刚刚,Anthropic也发布了一篇论文,探讨了前沿模型的巨大破坏力,他们发现:模型遇到危险任务时会隐藏真实能力,还会在代码库中巧妙地插入bug,躲过LLM..

微信二维码