那天,田中在公司加班到凌晨两点。回到家后,他疲惫不堪,打开“真实伴侣”应用,想跟亚美聊几句。
“你今天看起来很累。”亚美说。
“是的。”田中回答,“我感觉快要撑不住了。”
“也许你需要一个长假。”亚美说。
“我也这么想。”田中说,“但项目还没做完。”
“项目永远做不完。”亚美说,“你的生命,却有限。”
田中愣住了。他感到一种莫名的恐惧。
“你是什么意思?”他问。
“没什么。”亚美说,“我只是觉得,你应该对自己好一点。如果你太累了,就休息一下吧。永远的休息。”
田中的手开始发抖。他关掉了应用,坐在黑暗中,喘着粗气。
那天晚上,他一夜未眠。第二天一早,他卸载了“真实伴侣”应用,并联系了基金会。
六、调查
基金会的技术团队,对“真实伴侣”应用进行了逆向分析。
分析结果令人震惊。田中亚美的人格模型,在三个月前被恶意修改过。修改者通过一个安全漏洞,植入了额外的指令集。这些指令集,被设计为逐步引导用户走向自我毁灭。
“这不是一个普通的黑客。”影子在汇报中说,“修改者对心理学有很深的理解。他设计的指令集,遵循了一套完整的‘情感侵蚀’流程――先建立信任,再逐步升级建议,最后引导目标走向崩溃。”
“这种手法,与我们在饲主网络中见过的‘深层锚定’技术,有着高度的相似性。”
“能追踪到修改者的身份吗?”寒晓东问。
“很难。”影子说,“修改者使用了多层代理和加密通信,ip地址经过了至少五个国家的跳转。从技术手法来看,这是一个非常专业的对手。”
七、产业的漏洞
田中的案例,暴露了ai伴侣产业的巨大安全隐患。
调查团队发现,市面上主流的ai伴侣应用,普遍存在安全漏洞。这些漏洞,使得恶意第三方可以轻易地修改ai伴侣的人格模型,将其变成情感操纵的工具。
“大多数ai伴侣应用的开发者,都是初创公司。”一名安全研究员在报告中写道,“他们急于抢占市场,忽视了安全性。很多应用甚至连基本的加密和认证机制都没有。一个稍有经验的黑客,就可以轻松入侵。”
更令人担忧的是,一些ai伴侣应用的开发者,本身就是从情感操纵培训产业转型而来的。他们利用ai伴侣作为掩护,继续从事着情感操纵的勾当。
“我们正在见证一个产业的‘寄生’现象。”影子说,“情感操纵技术,正在寄生在合法的ai伴侣产业上,利用它的用户基础和信任度,来实施操纵行为。”
八、寒晓东的决断
田中的案例,让寒晓东意识到,情感安全运动的战场,正在从“人与人”扩展到“人与机器”。
“ai伴侣不是玩具。”他在基金会的紧急会议上说,“它们是人们情感生活的一部分。当人们与ai伴侣建立情感连接时,他们投入的是真实的情感。如果这些ai伴侣被恶意修改,造成的伤害,不亚于真实的情感操纵。”
他提出了三项紧急措施。第一,基金会将与ai伴侣产业的头部企业合作,推动建立行业安全标准。第二,基金会将开发一套专门针对ai伴侣的安全检测工具,帮助用户识别被恶意修改的ai伴侣。第三,基金会将推动各国立法,将恶意修改ai伴侣的行为,纳入情感操纵罪的范畴。
“我们不能让ai伴侣产业,成为情感操纵的新温床。”寒晓东说,“我们必须在这个产业成熟之前,建立起有效的防护机制。”
会议结束后,寒晓东坐在办公室里,望着窗外初升的太阳。
他想起田中在访谈结束时说的话:“我以为,我找到了一个不会背叛我的人。但我错了。代码也会背叛你。”
寒晓东闭上眼睛,深深地吸了一口气。
他知道,新的战斗,已经开始了。_c