79岁老人独自坐火车去见“苦命小海”，上车才知道对方是AI

最近，一批名叫“小海”的苦命男孩在短视频平台上批量涌现。他们对着镜头一口一个“姨姨妈妈”，哭诉着单亲、窘迫的身世，让不少中老年人看了心疼落泪，纷纷下单买货帮扶，甚至有七旬老人独自坐火车前去探望。 今年5月，新疆乌鲁木齐铁路公安的乘警在巡视车厢时，发现一位79岁的老人独自一人乘车远行，神情焦急。乘警上前询问得知，老人不识字，也说不清具体目的地， 只知道自己要去山西运城“走亲戚”，看望一个天天在手机里喊她“姨妈”的苦命孩子。 在乘警的耐心劝说和联系下，这位老人最终下车，坐家人买好的返程票回到了家。 △乘警进行劝阻 一位不认字的七旬老人，怎么把手机屏幕里一段虚构的视频当了真？总台记者在短视频平台搜索发现，让这位老人深信不疑的，正是近期在网络上批量出现的“数字人小海”。 这些由AI生成的十几岁男孩形象，无一例外都在上演着“ 懂事、窘迫、心疼长辈 ”的苦情剧本。 在一些视频里 ，“小海”眼含热泪，对着 镜头展示手里的馒头：“姨姨妈妈，我是小海，同学们都去吃饭了，我躲在教室里面吃馒头。姨姨妈妈，我有好好吃馒头，我还买了个肉包是给姨姨妈妈的，小海想把好吃的给姨姨妈妈们……”而视频下方则是中老年网友一句句真情实感的语音和文字留言。 △ 数字人“小海”吃馒头卖惨，不少网友信以为真。 先用“躲在教室吃馒头”等虚假身世筛选出最具同情心、最缺乏防备的中老年群体， 然后就会把他们精准推向下一步——带货 。在另一段带货视频里，“小海”摇身一变，成了最懂老人心的“贴心晚辈”，开始推荐阿胶。 △数字人开始卖货 调查中记者发现，操作这样一个“小海”账号，门槛极低。互联网平台中，几块钱就能买到全套AI数字人生成教程，各种营销话术模板更是比比皆是。同样的文案，换一张脸、换一个声音，就能批量生成出成百上千个“小海”。 北京航空航天大学法学院副教授赵精武指出，这些躲在代码背后操纵数字人卖惨带货的主体， 只要恶意编造故事博取同情卖货， 就已涉嫌构成欺诈。 赵精武表示， 数字人卖惨带货和真人卖惨带货 在法律定性上 无本质差异 。即便 标注“AI生成”，也不能就此认定老年人受骗是自身疏忽，该 标识仅 说明视频制作工具。此类内容瞄准 家庭 情感缺位的老年人，主观上并非 描述客观事实 ，存在 恶意误导、博取同情 ， 可认定为欺诈。 在这条产业链上， 账号或直播间运营者是第一责任人。 事实上，《人工智能生成合成内容标识办法》早在去年9月施行，为什么依然管不住一个又一个裂变出来的“小海”？不少涉事账号在视频角落打上了“AI生成”水印，为什么还是拦不住老人受骗？ 专家认为， 老年人数字素养参差不齐 ， 现行法规仅要求AI生成视频标注AI标识，老年群体往往忽略边角水印，还有 老年用户将AI生成内容理解成“因无法直接拍摄真实事件，所以只能以AI视频替代描述”， 导致很多老年人上当受骗。 为什么在年轻人眼里一眼就能看穿的粗糙AI合成影像，一些老年用户完全看不出来，甚至像那位79岁的老人一样千里迢迢去寻人？ 北京大学政府管理学院教授马亮认为，表面上看这是老年人的数字素养差距， 但深层的根源，在于社会中不容忽视的“情感空巢”问题。 不少老人轻信AI视频甚至付费，源于线下生活孤独、缺少 有效 陪伴，试图借数字消费满足精神需求。社会工作与社区治理部门 应该跟进 ， 为老年人提供更多线下关怀 与AI 应用指导 ， 避免老人上当受骗。 △资料图 除了 操盘账号的 黑灰产与商家外，短视频平台同样饱受质疑。 相同的苦情话术、高度雷同的数字人面孔、高频挂载的商品链接， 为什么总能精准找到老年用户？ 马亮 认为 ，面对批量 制造的 坑老视频， 平台的责任绝不能止步于给视频打个标签，或者等网友举报了再去封号 。 传统“打地鼠式”治理，依赖举报再处置， 这种响应式治理非常被动、滞后 。这类坑老视频以牟利为目的，平台具备技术能力，可通过 视频下方的 评论、用户后续购物行为等数据识别欺诈内容。 对此，赵精武也明确表示，面对成批出现的“小海”账号，传统的“通知—删除”规则已不再适用，平台的注意义务必须前置升级。 针对老年人这类特殊群体， 从“适老化服务”向“银龄守护模式”转变 ，在算法推荐、反诈宣传等环节实施专项保护。 ▌ 本文来源： 央视新闻微信公众号 转载自中央广电总台中国之声 监制丨李行健 记者丨任梦岩 微信编辑丨余甜甜 部分图片来自视觉中国 ©央视新闻 转发提醒！ 平台地址： http://www.jintiankansha.me/t/0derxIwS0k