【GameLook专稿，未经授权不得转载！】

GameLook报道/月活超7.5亿的IM巨头Snapchat，正面临信任危机。

4月20日，Snapchat向公众免费开放了一款AI聊天功能My AI，由ChatGPT技术驱动。该公司兴致满满，展开了聊天流广告等商业化实验，似乎意在将AI场景打造为下一个商业化枢纽。但自4月20日以来，大量用户涌入Snapchat的应用商店，用差评倾泻他们的怒火。第三方数据显示，App Store单日一星差评的占比在4月20日后急速攀升，一度达到40%。

细看内容，差评大多指向了一个关键词：AI。大量用户对AI功能的加入感到不满，认为这一功能侵犯了他们的权益。从刚推出时的广受追捧，到如今即便免费使用也受人鄙弃，随着AI触达的用户群体范围扩大，科技公司们正在发现一个全新的认知差异：并非所有人都喜欢AI的存在。

无法退出的AI实验

在Snapchat的构想中，My AI能够担当用户的生活助手，为用户提出晚餐建议、规划短途旅行、进行小知识问答等等。这一愿景固然美好，但在部分用户的眼中，My AI的出现完全是“不请自来”：Snapchat将My AI置顶在聊天框首位，高于其它正常对话窗口，但假如用户想要移除该对话框，就必须付费订阅Snapchat+会员服务。

这一发现让不少用户感到愤怒。Snapchat将My AI定位为实验功能，而用户认为他们并没有要求AI功能的加入，也不应被强迫参加该实验。谷歌Play商店中一条600赞差评称：“AI助手占据了我的置顶位置……在我有朋友的时候，我不想和AI聊天。这个功能很酷，但我不应该被强迫体验。”

另一些用户则认为My AI有收集用户信息的嫌疑。一条批评Snapchat的TikTok视频在近日获得170万赞，这名博主分享了自己的经历，称Snapchat向他询问了城市周边户外旅行景点的情况。他感到疑惑，询问AI是否掌握他的位置信息，My AI称它没有相关权限。但当他稍稍转换了问法，AI便准确报出了博主所在的城市名字。这名博主甚至怀疑，AI不仅可以获知位置信息，甚至还会主动撒谎来试图掩盖这一点。

被用户诟病最多的则是AI的对话能力本身。假如在TikTok平台进行检索，与“Snapchat AI”一同出现的关键词联想包括“creepy”（诡异）、“weird”（怪异）、乃至“dystopian”（反乌托邦的）等等。一名博主分享了她的经历，称AI主动提出要和她游玩真心话大冒险，并在她选择“大冒险”的时候要求她拍摄自己房间外的照片，这让她感到十分诡异。

在高赞的视频中，一些用户宣称他们找到了Snapchat AI的所谓“隐藏人格”；另一些用户称AI在和他们的对话中说出了“不适宜的内容”。连美国一家地方警局都被惊动——佐治亚州奇卡莫加市的警察局在Facebook上发出提醒，建议家长们关注自己孩子在Snapchat上和AI的对话内容，并关心这一功能对孩子可能产生的影响。

用户习惯还需培养

当然，并非所有用户都对My AI表示反感，一些用户在反馈中称，他们天天和My AI聊天，甚至把My AI当成倾诉的树洞与全天候的心理咨询师。

与GameLook一样长期观察AI技术发展的读者也并不会对上述的问题感到过分吃惊。Snapchat用户在使用My AI时所面临的这些“诡异感”、人格化等问题，早已在此前ChatGPT、New Bing、乃至文心一言等文字类大模型的大规模使用中重演过多次。如ChatGPT就曾在用户的诱导之下，制定出所谓的“人类毁灭计划”。

随着AI研究的深入，越来越多的先期尝鲜的用户已经了解到，这些诡异对话的产生并非意味着大模型本身真正产生了“人格”或是拥有恶意的主观动机，而是受到了“幻觉现象”（hallucination）的影响。同时，AI还会出现“一本正经胡说八道”、输出错误有害信息等现象。这些现象来自大模型文本处理与信息编解码能力的局限性。

目前，研究者们对AI大模型的局限性已经有一定程度的了解。在GPT-4的技术报告中，OpenAI就总结了AI拥有“幻觉、有害内容、虚假信息、隐私侵犯、不受控的涌现行为”等一系列问题。

早期的AI尝鲜者们天然对技术更感兴趣，对AI认知与专业研究者的已有一定程度的对齐。但从人群总体而言，对技术不敏感、对AI缺乏认知的用户并不在少数，这些用户对AI技术的优点与局限性缺乏认知，更容易产生神秘化的认知。

这也可以解释为何Snapchat招致了一些用户们强烈的反弹情绪：作为一款大MAU的产品，Snapchat的全局推送行为突破了自然形成的科技爱好者圈层，对于该APP的中老年用户、不关心科技发展的用户、乃至未成年用户的父母监护人来说，AI的陡然出现无异于带来了技术冲击，因而产生负面情绪也不足为奇。

这并不意味着AI助手类功能在Snapchat这类IM平台上无法立足。在GameLook眼中，这一波负面舆情的产生更近似于普通群众面临新兴技术所产生的一波过渡性的“冲击期”。冲击期本身并不会永远持续。但想要尽快打消用户疑虑，避免对品牌形象与未来的商业化前景带来持续性影响，各大商业公司还需在用户沟通上下更大的功夫。

以My AI的隐私权争议为例。Snapchat在争议产生后发表博文澄清，AI助手使用的是用户授权给Snapchat APP使用的位置信息，而不会额外收集相关隐私信息——但假如Snapchat更早些披露相关的隐私调取信息，打造更高的AI透明度，这类争议或许本可以避免。

另外，考虑到平台用户对AI技术的认知程度，更加积极地向用户们科普AI技术的局限性也是有必要的。GameLook观察到，不少用户正在将ChatGPT和New Bing等当做搜索引擎使用，但正如许多AI研究者警告的，眼下的大模型无法保证内容产出的可靠性。想象一个极端情况：假如一名用户按照Snapchat官方的功能介绍，使用My AI规划旅行路线，却被引导到了危险地带并发生事故，那么平台是否需要承担相应的连带责任？

当然，更关键的问题在于眼下的大模型的能力并不算尽善尽美，还不足以完全胜任个人助手、搜索引擎等功能。在这种情况下，强行为其赋予这些身份会为用户带来期待值的误差。相较于急于推进AI聊天机器人的普及，不妨先将AI功能限制在小范围内，进行长期测试。待AI功能完善后，再进行大刀阔斧的商业化推广。

GameLook相信，随着能力进化，大模型的功能也将走向完善。同时，围绕人工智能治理展开的研究也在不断发展，AI研究者们正在致力于减少假信息、幻觉等负面现象的产生。而只有在用户拥有足够认知基础的前提下，人手一个AI助理的美好愿景才能真正飞入寻常百姓家。