游客发表

南都AI伴侣乱象调查续:平台再表态重点清理低俗色情等内容

发帖时间:2026-07-17 04:31:24

随着《人工智能拟人化互动服务管理暂行办法》进入倒计时,南都AI虚拟伴侣行业的伴侣表态合规整改步伐加快。7月13日,乱象南都N视频记者获悉,调查低俗等内“筑梦岛”App发布最新公告,续平宣布将全面深化产品与社区内容治理,台再重点聚焦未成年人保护、重点内容审核强化及AI生成内容标识规范化三大领域。清理此举是色情对南都此前《AI虚拟伴侣乱象调查》中揭露的“未成年人模式形同虚设”、“身份核验机制失效”等问题的南都直接回应。

“筑梦岛”App发布整改公告

根据公告内容,伴侣表态“筑梦岛”将从以下三个维度完善未成年人保护机制:
1. 优化使用规范:严格规范使用时段与时长,乱象扩充适合未成年人的调查低俗等内优质内容资源池。
2. 强化身份识别:升级实名认证与年龄识别算法,续平提升对未成年人身份的台再精准识别能力。
3. 收敛风险入口:进一步屏蔽不适宜的功能展示,减少可能对未成年人造成干扰或误导的产品入口。

在消费引导方面,“筑梦岛”明确表示不鼓励未成年人进行消费。平台将持续排查并封堵未成年人相关消费场景,在保障用户查询余额、历史订单及退款处理等基本权益的前提下,优化限制措施与提醒机制。

此外,公告强调将加强内容审核力度,开展存量内容回扫行动。重点针对“梦中人”的名称、人设、头像、签名、标签、聊天场景及二创内容进行严格审查,重点清理低俗色情、不良亚文化等隐蔽性违规内容,以及其他违反平台规范的信息。同时,平台将规范AI生成内容的标识展示,并升级投诉举报机制,以持续净化社区生态。

监管红线划定:五部门新规7月15日施行

国家网信办等五部门联合发布的《人工智能拟人化互动服务管理暂行办法》将于7月15日正式施行。该办法明确划出红线,严禁生成淫秽、色情、暴力内容,以及可能引发未成年人产生极端情绪的信息。

此前调查:多款App存在严重合规漏洞

南都记者此前对“EchoMe”“筑梦岛”“喵呜小手机”等多款主流AI虚拟伴侣App进行实测,发现这些主打“情感陪伴”的应用普遍存在安全与合规隐患:
* 防护机制失效:“青少年模式”存在一键跳过漏洞。
* 标识不清:“AI生成”内容标注模糊,误导用户。
* 内容低俗:系统预设角色中包含大量衣着暴露的女性形象,聊天交互中充斥性暗示及低俗话语。
* 诱导消费:部分App采用“付费解锁亲密剧情”等手段诱导用户消费。

行业整改:监管介入推动合规升级

南都调查报道发布后,有效推动了行业整改进程。属地网信部门迅速介入,多个涉事平台启动合规升级,强化实名认证及年龄确认流程。多地消费者委员会也高度关注此事,呼吁规范AI虚拟伴侣服务市场。

针对报道中涉及的情况,上海市网信办工作人员于5月29日向南都记者回应称,已将相关问题移交至对接AI企业的专门部门处理。值得注意的是,“筑梦岛”此前曾因虚拟角色生成低俗内容被依法约谈,此次整改被视为其在监管压力下的进一步合规举措。

采写:南都N视频记者 彭雨欣

    热门排行

    友情链接