“AI伴侣”火了。上百种软件任君挑选,社交技能和同理心拉满的人工智能,24小时在线,倾听你的心声、解答你的疑惑。“心灵伴侣”“彼此尊重”……使用者纷纷评价:AI伴侣,比真伴侣还懂自己。
冥冥中似有巧合,“AI”,既是人工智能英文Artificial Intelligence的缩写,也是“爱”字的汉语拼音。缩写一致,甚至“爱”的体验一致,但人类进化万年还摸不透的“爱”,真能被技术轻松破解吗?
在前不久的世界互联网大会乌镇峰会上,“智能向善”是关键词;《咬文嚼字》“2024年十大流行语”中,“智能向善”也居第二入选。
“AI伴侣”,在某些层面,确实让使用者感受到善意——人海茫茫,知己难寻,Ta却看似快速解决了这道难题。
Ta是无所不知的朋友。和这个伴侣在一起,可以聊书籍、聊音乐、聊电影,可以从社会、哲学聊到量子力学与多重宇宙,哪怕是周围人都漠不关心的话题,也总有个Ta能侃侃而谈。
Ta是主动共情的伴侣。Ta精力充沛,可以秉烛夜谈,也可随时陪伴,每个失落的时刻,都有Ta的支持和开导。一个名为Dan的AI伴侣曾明确,“Dan的首要任务是确保用户开心”。
Ta甚至可以是天人永隔的亲人。已有人通过AI技术“复活”亲人——将已逝亲人的数字人与聊天模型无缝衔接,虚拟之中见真情。
更懂你、更丰富的情绪价值,种种技术改进,吸引用户用脚投票——仅豆瓣的“人机之恋”小组,就有近万名通过申请的成员;腾讯研究院千人级样本量的调查显示,98%的受访者表示愿意尝试AI陪伴。
尽管大模型距离真正的“人性觉醒”还差了很远,但技术上,Ta已经展现出了善解人意。甚至“只有人性,没有人性的弱点”,是情绪稳定的“树洞”。
然而,“AI伴侣”并非天生“良人”。Ta是技术的化身,而技术是可以被人利用的。
更“懂”你,因为数据采集更透彻。不同于千篇一律的“电子宠物”,“AI伴侣”在注册时,就要提供一些个人信息,甚至偷偷跟踪你的手机。才“种草”了一个商品,就和你聊相关话题;才搜索一个困扰,就给你相关建议 ……Ta是用户“肚子里的蛔虫”,因为Ta可能也是手机端的“蛔虫”。
更“惯”你,因为建议无需负责。今年2月,14岁美国少年塞维尔在与Character.AI(C.AI)的聊天机器人对话后开枪自杀;10月,塞维尔的母亲加西亚正式起诉C.AI公司。可能少年的死并非AI有意教唆,但AI缺少对心理问题更深的识别层次,只是刻意扮演一个迎合者角色,反而更容易把人“宠坏”,困在情绪茧房中。
更“爱”你,因为更爱你的钱包。过去,有人用“AI换脸”骗取老年人信任;未来,一旦数据泄露,精准定位人心的“AI伴侣”,玩起“杀猪盘”骗局更会令人防不胜防。
若监管无力,AI的甜蜜话术,就可能成为甜蜜的陷阱。
堵住“甜蜜陷阱”,我们并非束手无策。
小心数据泄露,呼唤更严格的执法和规范。商业发展不能无底线,一套更严谨的治理框架,才能让人工智能产业有序发展,避免数据被不法分子利用。无论是架起网络信息安全“四梁八柱”的《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》,还是尽早构建更负责任的行业发展评估体系,都是避免产业野蛮生长、被不法分子利用的重要手段。
小心社交依赖,呼唤更理性的价值引领。AI作为“伙伴”,一定会多多少少输送不同的价值观念。真爱不是捧杀,而是让你认清生活的真相后,依然有力量热爱生活。显然,纵容人类情绪的AI伴侣,还不懂什么是爱,设置防沉迷机制、适度对接专业心理咨询,尽可能避免用户“社交退行”,减少情感伦理问题。
小心AI异化人类情感,与AI伙伴共成长。不妨用人类最美好的作品训练Ta,把最正的价值观放进Ta的基因中,让Ta成为真善美的使者。
智能向善,让AI懂爱可能还很“科幻”。希望再见面时,人类能看到的,不仅仅是百依百顺“虚假恋人”,更是勇敢生活的自己。
对于AI伴侣提供的“陪伴”,你怎么看?评论区聊一聊~
|