AI 将主导今年安卓和 iPhone 更新，但也带来严重的隐私新问题
今年安卓和 iPhone 的更新将以 AI 为主题， 其中很大一部分来自谷歌。但这也给所有用户带来了一个严重的新警告，我们使用手机的方式将因此改变。
把生成式 AI 集成到我们最常用的手机应用程序中， 势必会比去年 ChatGPT 的推出造成更大影响。我们已然处在这样的时代。
但慢着， 这一切也存在巨大的安全和隐私风险。
当涉及生成式 AI 聊天机器人时， 我们似乎都有盲区。我们可能会注意所安装的应用、授予的权限、使用的浏览器以及与 Facebook、谷歌等共享的数据。但一旦面对 AI 聊天机器人， 我们就会忘记这一切， 陷入与一个「有益的新朋友」的私人聊天中， 并渴望分享信息。
但显然， 这绝不是朋友， 它是数十亿美元计算生态系统的前台， 最终由广告和数据经纪业务提供资金。
此前已经有警告，AI 聊天进入我们的私人消息应用带来的风险。就在 Bard 变为 Gemini， 大量新应用准备进入我们的手机之际， 谷歌自己也警告所有安卓和 iPhone 用户要对这些新技术保持高度警惕。
谷歌警告称:「请不要在对话中输入机密信息或任何您不希望审核者看到的数据， 或者谷歌可能会用来改进我们的产品、服务和机器学习技术的数据。」谷歌收集您在 Gemini 中的对话、相关产品使用信息、位置信息和反馈， 以「改进和开发谷歌产品、服务和机器学习技术」。
谷歌确保「您在 Gemini 中的对话不会被用于向您展示广告」， 尽管这可能会改变， 届时「我们会明确地通知您」。
这里的风险在于， 那些与各种 AI 聊天机器人过度分享的用户可能会陷入巨大的隐私困境， 这些聊天机器人帮助他们编写商业计划、销售演示文稿或作业。当您退出聊天时， 您提出的问题和获得的回答将被存储为记录， 这意味着它可以被检索和审查。它也可能泄露。
当然， 独立应用只是一个开始， 谷歌还警告说:「当您将 Gemini 与其他谷歌服务集成和使用时， 它们将保存并使用您的数据来提供和改进其服务， 这与其政策和谷歌隐私政策一致。如果您使用 Gemini 与第三方服务进行交互， 它们将根据自己的隐私政策处理您的数据。」
我们才刚刚开始理解生成式 AI 的风险。例如， 谷歌 Gemini(前身 Bard) 似乎会要求查看您过去的所有私人消息， 以塑造其建议的上下文和内容。它还会破坏 Messages 的端到端加密。
这里的真正问题在于非本地、开放式存储。谷歌表示， 默认情况下， 数据将被存储长达 18 个月，「您可以在 Gemini 应用活动设置中将其更改为 3 或 36 个月。您设备、IP 地址的一般区域信息以及谷歌帐户中的家庭或工作地址也与您的 Gemini 应用活动一起存储。」
当然， 这不仅限于谷歌。这种程度的数据收集和使用在新兴的生成 AI 行业中相当常见。我们如何评判谷歌与 OpenAI 等公司的安全性和隐私性还有待观察。
但正如 ESET 的 Jake Moore 警告的那样:「我们在线分享的任何数据， 即使是在私人渠道中， 也有可能被存储、分析甚至与第三方共享。当信息成为一种优质资产甚至被视为一种货币时，AI 模型可以被设计成深入挖掘用户透露的大量个人信息。数据共享最终可能在未来制造安全和隐私问题， 许多用户对这些风险一无所知。」
谷歌称， 如果您调整 Gemini 的设置， 可以关闭长期数据收集。「未来的对话不会被发送给人类审查或用于改进我们的生成式机器学习模型...... 您也可以从固定和最近的聊天中删除聊天。当您这样做时， 相关活动也会从您的 Gemini 应用活动中删除。」但即使这样，「您的对话将保存在您的帐户中， 最长可达 72 小时， 以允许我们提供服务并处理反馈。这些活动不会出现在您的 Gemini 应用活动中。」
正如之前评论， 驱动这一新一代智能手机功能的 AI 分析在设备端/设备端外的性质将成为新的鸿沟。苹果可能会在其自己的应用和服务上尽可能多地在设备端本地进行——如果可行的话。我们知道它现在正在试验在设备端/设备外的性能。鉴于谷歌完全不同的设置和重点， 它将在云端做更多工作。
对于手机上已经装有 Gemini 动力应用的数百万安卓和 iPhone 用户来说， 他们面临一些艰难的选择。其他人也不会落后太多。
我们不能两全其美。要么我们重视隐私， 重视近年来在私密浏览、跟踪和位置共享方面取得的巨大进步。要么我们认为集成到主流应用中的 AI 实在太酷了， 难以割舍， 于是我们会无所不用其极。
如果是后者， 那么这可能会成为最终的「小心你所祈求的」。
更新于：9个月前