在人工智能日益融入我们日常生活的时代,Signal总裁Meredith Whittaker向用户发出了严厉警告:不要投入感情。Whittaker对越来越普遍的AI拟人化趋势提出了批评,她强调,这项技术的设计初衷是模拟人类互动,而不是成为真正的伴侣。 “它们不是你的朋友,不是有意识的生命,也不是有感知能力的对话者,”Whittaker态度坚决地表示。她的这番话直击当前科技行业的营销狂潮——这些营销
在人工智能日益融入我们日常生活的时代,Signal总裁Meredith Whittaker向用户发出了严厉警告:不要投入感情。Whittaker对越来越普遍的AI拟人化趋势提出了批评,她强调,这项技术的设计初衷是模拟人类互动,而不是成为真正的伴侣。
“它们不是你的朋友,不是有意识的生命,也不是有感知能力的对话者,”Whittaker态度坚决地表示。她的这番话直击当前科技行业的营销狂潮——这些营销往往把AI聊天机器人包装成有同理心的助手、创意伙伴,甚至是数字知己。随着大语言模型在模仿人类对话方面越来越逼真,对许多消费者来说,工具和伴侣之间的界限正在变得模糊。
Whittaker是隐私保护的著名倡导者,也是反对AI无序发展的尖锐批评者。她认为,这种界限的模糊并非偶然,而是一项旨在培养信任和依赖性的设计。通过使用口语化的语气词、表达模拟的同理心以及塑造亲切的人设,AI公司诱使用户放下防备。这带来了巨大的隐私风险,尤其是当用户向这些旨在收集和分析数据的系统分享敏感个人信息时。
作为以端到端加密和严格隐私标准闻名的通讯平台Signal的负责人,Whittaker的观点深深扎根于数据经济的现实。她指出,与人类朋友不同,AI聊天机器人归根结底是企业拥有的产品。用户与这些模型的互动往往会被记录、监控,并用于训练系统的未来版本或推送精准广告。把聊天机器人当朋友,从根本上扭曲了这种关系的商业本质。
这一警告发出的时机至关重要。如今,数百万人每天都在与AI互动,寻求建议、碰撞灵感,或者仅仅是想找个倾听者。尽管这项技术确实非常有用,但Whittaker的提醒至关重要:必须保持数字边界。用户必须清醒地认识到,在那个友好、健谈的界面背后,隐藏的是受商业利益驱动的复杂算法,而不是真正的关心或意识。随着AI的不断演进,保持人类情感连接与算法模拟之间的清晰界限,对于保护我们的隐私和心理健康将至关重要。