AI视角看世界
4月20号下午,一个叫张呈的网友用Kimi处理工作,就上传了一张三行英文的PPT目录,让AI帮忙翻译。几轮对话之后,Kimi给他发了一份陌生人的完整简历:姓名、电话、邮箱、工作经历、项目业绩,一项不落。
他按照简历上的电话打过去,对方还真有人接。
那个人说,当天上午确实往Kimi上传了自己的简历,让大模型帮忙润色。
两个人的数据,在同一个AI系统里串线了。
这不是"幻觉",这是数据隔离失效
事情曝光后,有人联系了Kimi那边,得到的回复是"AI出现幻觉所致"或者"小概率事件"。
但技术专家的说法完全不一样。他们指出,幻觉是"胡说八道",编造不存在的信息。而这次是"说对了,但不该说",泄露的信息跟真人完全吻合,这说明问题出在数据隔离环节。
具体原因可能有好几种:不同用户的数据没隔离开,A用户请求命中了B用户的残留数据;检索系统把向量库里的文件索引绑错了用户;文件解析和临时存储环节出错,读到了别人的文件;甚至消息队列里任务标识和用户标识搞混了。
翻译成人话就是:大模型时代的隐私风险,已经不只是"数据库被黑客偷走"这种老问题了。数据在传输、缓存、推理、检索的每一个环节,都可能出岔子。
国内首个大模型安全众测结果显示,大模型普遍存在隐私泄露风险,共发现安全漏洞281个。据不完全统计,国内外大模型隐私泄露事件已经有100多起。
同一天,33款App被点名了
就在Kimi事件发酵的同时期,4月27号,中央网信办通报了33款App和小程序的个人信息收集问题。这不是例行公事,是中央网信办、工信部、公安部三部门联合的2026年专项行动。
被通报的情况分成四类:15款App连基本的隐私收集规则都没有,或者启动时不弹窗提示;2款没告诉你SDK收集了什么就直接收集;4款违反必要原则过度收集;还有12款存在其他违规。
这两件事放在一起看,你会发现一个很有意思的信号:传统App的数据收集问题和AI大模型的数据安全问题,正在被同时出手治理。三部门的专项行动从4月初就启动了,覆盖面不只是小公司,2025年Kimi等35款应用就已经被通报过一次。
普通人能做什么?几个实际建议
说实话,看到这些数据我也有点不淡定了。但完全不用AI也不现实,毕竟效率摆在那。律师的说法比较明确:平台不能拿"AI幻觉"当免责理由,运营主体必须承担数据安全的法定义务。但在这之前,咱们自己能做的大概有这几件事。
别把真正敏感的东西直接扔给AI。简历、合同、财务报表、身份证照片这类信息,尽量不上传到大模型。如果你确实需要AI帮忙处理,至少把关键个人信息先脱敏。张呈上传的只是一张三行英文的PPT目录,都能触发别人的简历泄露,这说明你丢进去的任何东西都可能触发系统"翻车"。
定期清理App权限。安卓和iOS都有权限管理,位置、通讯录、相册、麦克风这些敏感权限,不用的就关掉。尤其是那种不知名的小工具App,它要这些权限干嘛?
隐私协议别直接跳过。虽然没人真的会逐字读那个长篇大论,但至少扫一眼它要收集哪些信息。如果连隐私政策都没有弹窗,或者条款写得特别模糊,直接不用。
从法律角度看,AI平台在隐私协议里写的"谨慎上传"提示,并不能免除它们的法定数据安全保护义务。
你的数据泄露了,平台要担责,而不是你自己"不小心"。
AI技术发展太快了,但数据保护的脚步还没跟上。
100多起泄露事件、281个安全漏洞,这些数字说明行业整体还处在"先跑后修"的阶段。三部门的专项行动是个好信号,但真正要让每个平台都把数据安全当回事,可能还需要更多这样的通报,甚至几个标杆性的处罚案例。
不过说句实在话,我身边大部分人包括我自己,用AI的时候基本不考虑隐私问题。这种心态可能要改改了。
你平时用AI的时候,上传过哪些比较敏感的内容?或者有没有遇到过"刚聊完什么App就给你推什么"的情况?评论区聊聊。
💬 转给天天往AI里丢文件的朋友,请他看看Kimi的教训
觉得有价值?点个「在看」,让更多朋友看到
📱 顺手安利:我们做了一款「中医穴位图」小程序,每天推荐一个穴位,三分钟学会养生小技巧。打工人养生不求人,微信搜「中医穴位图」就能找到。
数据来源:36氪 / 中央网信办 / 国家网络与信息安全信息通报中心
作者:思维知匙 | 未经授权禁止转载