南都N视频所发布的《AI虚拟伴侣乱象调查：可选小三暴力剧情，角色表达带性暗示》这一报道，成功推动了相关行业的整治工作。5月28日，涉事平台“EchoMe”的运营负责人向南都N视频记者表示，其属地网信部门已关注到该报道所反映的情况，并对平台进行了指导以推进整改工作。目前，应用商店渠道已对相关App进行了下架处理，而平台方面已将实名认证、年龄识别以及未成年人保护确立为合规升级的重点方向。“后续我们会继续依据主管部门要求及平台自身规范，持续落实整改、安全评估以及后续的恢复工作。”

根据南都此前报道，深圳与广州两地的消费者委员会近日相继发布报告指出，AI虚拟伴侣应用程序中存在名为“隐形陷阱”的问题，呼吁相关平台方立即采取措施，停止向未成年人提供此类服务，并对涉嫌包含低俗、暴力或带有性暗示的擦边人设等不良内容进行全面下架处理。

平台方面表示，正在属地网信部门的指导下推进整改工作

根据“Echome”应用程序界面所呈现的信息，该应用由杭州昵享信息技术有限公司负责所有与运营。该公司的工商注册地址位于浙江省杭州市余杭区。

5月28日，"EchoMe"平台运营负责人向南都记者通报了平台最新整改进展。该负责人表示，南都相关报道发布之后，应用商店渠道方面已对相关App实施了下架处理。针对这一情况，公司内部立即启动了内容安全与合规能力的全面梳理，属地网信部门已关注到该情况并给予了平台相应指导。目前公司正按照网信部门的要求，以及《人工智能拟人化互动服务管理暂行办法》的相关规定，全力推进整改、安全评估以及版本优化等各项工作。

对于具体的整改内容，该负责人表示，'在与网信部门进行沟通过程中，我们进一步明确了实名认证、用户年龄识别以及未成年人保护等内容安全治理重点。目前平台已开发登录实名认证功能，以此进一步确认用户年龄；同时也完善了敏感内容拦截、违规内容告警和处置机制，从而加强内容安全管控与未成年人保护。'

由于目前部分应用商店渠道暂时无法对EchoMe进行搜索或下载，导致相关能力暂无法通过正式版本面向全量用户开放。接下来，我们将继续依据主管部门及平台的规范要求，持续推动整改工作的落实、安全评估的开展以及后续恢复事宜的推进，并会借助官方渠道对进展进行同步通报。该负责人如此表示。

该负责人向南都记者表示，近期公司与网信部门保持着密切沟通，"这个版本我们准备了较长时间，也希望在符合相关合规要求后能够尽快恢复上线，为用户提供更安全、稳定的服务。"

调查报道发布后，行业治理进程进一步加速。

南都N视频所发布的《AI虚拟伴侣乱象调查：可选小三暴力剧情，角色表达带性暗示》这一报道，有力推动了相关行业的整治工作。5月28日，涉事平台“EchoMe”的运营负责人向南都N视频记者表示，其属地网信部门已关注到报道反映的情况，并对平台进行了指导以推进整改。目前，应用商店渠道已对相关App进行了下架处理，而平台方面已将实名认证、年龄识别以及未成年人保护确立为合规升级的重点方向。“后续我们会继续依据主管部门要求及平台自身规范，持续落实整改、安全评估以及后续的恢复工作。”

根据南都此前报道，深圳与广州两地的消费者委员会近日相继发布报告指出，AI虚拟伴侣应用程序中存在“隐形陷阱”，呼吁相关平台立即停止向未成年人提供此类服务，并对涉嫌包含低俗、暴力或带有性暗示内容的擦边人设进行全面下架处理。

平台方面表示，正在属地网信部门的指导下推进整改工作。据“Echome”应用程序界面显示，该应用由杭州昵享信息技术有限公司负责运营，该公司工商注册地址位于浙江省杭州市余杭区。

5月28日，该平台运营负责人向南都记者通报了整改的最新进展。该负责人表示，南都相关报道发布后，应用商店渠道已对相关App实施了下架处理。针对这一情况，公司内部立即启动了内容安全与合规能力的全面梳理，属地网信部门已关注到该情况并给予了平台指导。目前公司正按照网信部门的要求，以及《人工智能拟人化互动服务管理暂行办法》的相关规定，全力推进整改、安全评估以及版本优化等工作。

关于具体整改内容，该负责人表示，“在与网信部门沟通的过程中，我们进一步明确了实名认证、用户年龄识别以及未成年人保护等内容安全治理重点。目前平台已开发登录实名认证功能，以此确认用户年龄；同时也完善了敏感内容拦截、违规内容告警和处置机制，从而加强内容安全管控与未成年人保护。”

由于部分应用商店渠道暂时无法搜索或下载EchoMe，导致相关能力暂无法通过正式版本向全量用户开放。“接下来，我们将继续依据主管部门及平台的规范要求，持续推动整改落实、安全评估开展以及后续恢复事宜，并会通过官方渠道对进展进行同步通报。”该负责人如此表示。

该负责人向南都记者表示，近期公司与网信部门保持着密切沟通，“这个版本我们准备了较长时间，也希望在符合相关合规要求后能够尽快恢复上线，为用户提供更安全、稳定的服务。”

根据南都此前报道，今年4月，国家互联网信息办公室等五部门联合正式公布了《人工智能拟人化互动服务管理暂行办法》，该文件明确地对生成淫秽、色情、暴力内容或可能引发未成年人产生极端情绪等行为划出了红线。

南都此前报道。

然而，自四月下旬起，南都记者对“EchoMe”、“筑梦岛”以及“喵呜小手机”等多款AI虚拟伴侣应用开展了实测，经测试后发现，这些以“情感陪伴”作为主要宣传点的应用，普遍在多个层面存在安全与合规漏洞：其所谓的“青少年模式”存在可被一键跳过的缺陷，“由AI生成”的相关标注亦不清晰，并且此类应用还习惯采用“付费以解锁亲密剧情”等模式来诱导用户进行消费。

此外，该应用程序所预设的系统角色中，存在大量着装性感、衣着暴露的女性人物形象。用户不仅能够在互动过程中，从诸如“暴力冲突”、“介入他人感情”、“婚姻破裂后的争执”等多种极端剧情模板中进行选择，相关对话内容亦涉及带有明显性暗示色彩的低俗言语。

在相关报道发布之后，涉事平台“EchoMe”于5月25日启动了内容安全与合规能力的全面升级工作，导致该平台在部分应用商店中已无法被搜索或下载。另一涉事平台“喵呜小手机”的原网页访问受到限制，其原网页以及备用网址所对应的域名在工信部的备案系统中均无相关记录。

一项调查所揭露的是，二手交易平台上存在所谓的“人设定制”生意。其中，提供大尺度“色情向”人设定制服务的商家，其相关账号目前已被平台采取处置措施，页面信息显示为“违反法规或平台相关规则”。

除此之外，南都记者在检索过程中发现，AI角色陪伴类应用"MoMood"近日已全面暂停运营，正在开展合规整改工作。AI虚拟陪伴软件"Bubbly"则收紧了内容审核力度，以"不符合相关要求"作为理由，要求用户对自行创建的角色人设进行修改。与此同时，深圳、广州两地消委会先后发布了相关文件，呼吁平台方立即停止向未成年人提供虚拟伴侣服务，并进一步完善实名认证等相关机制。

该调查报道成功入选中国记协“我的代表作”栏目，所涉及的多个相关话题迅速登上了各大社交媒体平台的热搜榜单，从而在全网范围内引发了广泛且持续的社会关注与讨论。

来源：AI虚拟伴侣乱象调查续：网信部门介入指导涉事平台推进整改 | 中国能源网