你的ChatGPT交谈记录可能被人偷窥!
最近,OpenAI悄然推出了一个名为“莉莉项目”的新举措。该项目招募了数百名外包工作人员,专门审核普通用户的ChatGPT聊天记录,并为这些对话进行评分。这项人工审核功能默认是开启的,即便用户主动选择关闭,之前的聊天记录依旧会被审核。
在人工智能时代,许多人在与ChatGPT交流时习惯讨论一些私密或内心的想法,通常认为这些对话仅存于服务器中,仅供机器访问。然而,最近的报道显示这一想法是错误的。实际上,OpenAI内部的莉莉项目意味着普通用户的聊天内容将被真人外包人员审阅。工作人员需要仔细分析用户的提问,理解其真实需求,并对ChatGPT的多种回答进行1到7分的评分。
不论是免费用户、Plus会员还是Pro会员,这项人工审核默认开启。尤为重要的是,关闭此功能后,仅对新对话有效,过往的所有聊天记录依然会接受人工审核。对于媒体的持续询问,OpenAI并未明确表示是否告知用户自己的聊天记录可能被审核。 千亿球友会
人工审核的流程非常严谨。据内部培训资料显示,外包人员的工作分工明确:首先通读用户的完整提问,提炼出其关切的问题和真实需求,接着逐条评价和评分ChatGPT的回答。OpenAI对AI输出的内容有着具体的要求,体现在不能过于迎合用户,避免使用花哨的表情符号,力求内容专业、自然而非生硬。
随着项目的推进,该项目的外包招聘方是Crossing Hurdles公司,员工的时薪超过50美元。然而,关于这项审核机制的具体应用在何种AI模型上,以及项目的周期和覆盖范围目前依然不明。
尽管OpenAI宣称会使用隐私过滤器来筛查聊天内容,确保隐私信息不被披露,但他们也承认,这个过滤器并不可靠,有时会漏掉一些隐私内容。许多用户在ChatGPT中分享医疗隐私、财务状况和个人秘密,通常认为这些信息是完全保密的,但这种隐私保护并没有绝对的保障,若出现问题,公司早已声明不承担责任。 千亿球友会
不仅OpenAI,许多AI公司如Anthropic也采用人工审核来优化模型,这是行业普遍现象,问题在于信息的不透明。相比之下,Gemini的隐私声明简明易懂:为了优化AI功能,部分对话会被人工审核,所有用户都可直接查看。相较之下,OpenAI从未主动公布这项政策,用户最终通过内部文件泄露和媒体报道得知自己的聊天记录被真人查看。
如果OpenAI希望用户将其视为可以倾诉的信任伙伴,就应该展现出相应的诚意,保障用户的隐私。