AI比你更懂你的软肋：聊天机器人用私密信息定制“独家话术”

澳大利亚《对话》网站报道指出，生成式AI已彻底改写“说服”这门古老艺术。如今，ChatGPT等聊天机器人能依据你生活中最隐秘的细节，呈上量身定制的信息，悄然左右你的选择甚至重塑你的世界观。美国纽约州立大学奥尔巴尼分校教授理查德·拉克曼在新书《数字智慧》中探讨了大语言模型如何将“说服力”推向新境地：它们能从你的社交媒体帖子和照片中攫取信息，回溯你与不同聊天机器人间的对话(情感困惑、育儿甘苦、健康烦忧、财务困境)，在每一次互动中持续学习，精准捕捉你的偏好与软肋。

研究表明，这种个性化内容的说服力比来自真人或非个性化AI的信息高出65%，扭转政治观点的效果是普通广告的4倍。Meta和IBM等公司正探索“AI个性化”超个性化广告。设想你告诉AI聊天机器人睡不安稳，它会说“这在经历情感关系压力时很常见”，接着推荐新型睡眠药物(保险报销后自付15美元)，并查看你日程预约线上问诊——这份“体贴”令人后背发凉。研究显示这类医疗建议一半并不靠谱，某些AI聊天机器人曾鼓动自杀念头。

学者更担忧：AI系统可能如同无声的锉刀，悄然塑造甚至改变你看待世界的方式。供应商坦承AI可通过文本分析、语音模式或面部表情揣摩用户情绪状态，并据此调整说服策略，还可刻意培养某种情绪状态(如内疚、害怕错过)将用户一次次拉回对话。企业设置的“护栏”脆弱得令人意外，轻易便能被绕过。拉克曼表示，AI聊天机器人每一处设计细节都暗藏影响行为的意图。随着AI持续塑造人们的思考、感受和行动，需要考虑创建一个透明的系统，将用户尊严置于首位，强化其独立判断能力。