□程勤勤

一口一声温柔的“姨姨妈妈”，一段身世凄苦的缺爱经历，一番惹人怜惜的真情哭诉，背后不是身世坎坷的少年，而是流水线批量生产的AI数字人。近日，《新京报》调查曝光“AI小海”带货乱象：众多账号共用同一虚拟面孔，刻意编造单亲成长、负重养家的悲情剧本，精准拿捏中老年女性的共情心理引流带货，不仅售卖商品价格虚高，幕后团队更是赚取超高佣金，将大众的善意变成了可量化、可复制的牟利工具。虚假的苦难剧本肆意泛滥，真诚的人间温情，却在这场流量骗局中被肆意收割。

事实上，AI虚假共情带货早已不是新鲜套路。从早前爆红的“假靳东”虚假账号，到各类AI人设悲情营销，再到如今系统化、产业化的“AI小海”矩阵，营销套路不断翻新，收割中老年群体的内核却从未改变。现实中，有独居老人对AI温柔的陪伴话术信以为真，为奔赴一场虚拟邀约独自远行；评论区里，无数长辈真心宽慰、慷慨下单，用善意温暖屏幕里的“苦命孩子”。可残酷的是，他们倾注的心疼与善意，换来的从来不是双向的温情，只是冰冷算法和精心设计的商业陷阱，真挚的情感，最终沦为资本套利的筹码。

技术本身无分善恶，但使用者必有底线是非。AI数字人作为新兴技术产物，本可用于便民服务、公益宣传、乡村助农等正向场景，为网络生态赋能增效。可在流量与利益的驱使下，部分运营者彻底摒弃诚信经营的底线，利用AI低成本、可复制、难追责的特点，批量制造虚假人设、编造悲情故事，以情感欺骗实现变相收割。法律边界已然清晰，此类虚构身世、刻意卖惨、诱导消费的行为，已然构成消费欺诈，涉案金额达标更会触及刑事红线。所谓“技术中立”，从来都不是从业者突破道德底线、规避法律责任的挡箭牌。

乱象频发的背后，平台形式化监管的缺位也难辞其咎。部分“AI小海”视频虽标注了“内容由AI生成”，算法却持续将其推送给中老年用户。一个专业术语的标注，对不熟悉AI的老人而言形同虚设。当批量起号、雷同剧情反复出现，平台若只满足于形式合规而放任流量倾斜，本质上是在为收割行为提供基础设施。监管层面，“清朗”专项行动已剑指“假扮弱势群体”乱象，接下来需要的是更主动的排查机制和更严厉的处置手段。‌

然而，再完善的事后监管，也追不上批量生成的“数字儿子”。真正需要追问的是：为什么老人宁愿相信一个AI生成的“小海”，也不愿相信身边真实的人？心理学分析指出，这类账号之所以“有效”，是因为它们高频、即时地回应了老人的情感需求，“达到了随叫随到、耐心倾听的效果”。空巢独居、丧偶、退休后价值感流失——这些才是“AI小海”得以趁虚而入的缺口。‌

苦难可以被虚构，但老人的孤独是真实的。数字人可以伪装，但子女的陪伴无法被算法替代。监管要盯住屏幕背后的操盘手，平台要守住流量分配的价值底线，而作为子女，或许该想一想：当“小海”在屏幕里喊“姨姨妈妈”的时候，我们有多久没给妈妈打过电话了。

本文为红辣椒评论原创文章，仅系作者个人观点，不代表红网立场。转载请附原文出处链接和本声明。

来源：红网

作者：程勤勤

编辑：吴海刚

本文为红辣椒评论 原创文章，仅系作者个人观点，不代表红网立场。转载请附原文出处链接和本声明。

本文链接：https://hlj.rednet.cn/nograb/646054/51/16379392.html

本文来源：红辣椒评论