健康运营指引

用户安全解决方案

安全风控接口

为提高微信开放平台生态安全性，针对小程序各应用场景中可能存在的恶意注册、营销作弊等黑产风险和安全问题，平台开放API方式向开发者提供安全风控接口协助开发者应对刷单、虚假交易、恶意骗取补贴等营销作弊风险和批量注册、伪造身份等注册黑产风险，以便开发者维护小程序运营秩序和安全。

安全风控接口提供能力和应用场景

• 营销作弊场景：在首单优惠和特价优惠等营销活动中有效识别刷单、虚假交易、恶意骗保骗补贴等破坏运营秩序和安全的行为。
• 恶意注册：识别并拦截机器批量注册、垃圾小号、伪造身份等恶意注册行为。

能力申请流程

• 登录小程序，在【开发→开发管理→安全中心→风险用户扫描】申请开通即可。

风险等级说明和使用建议

开发者可根据接口返回的风险等级数判别用户的风险程度，风险等级代表的意义及对应业务的使用，可参考下方的说明及建议，具体的使用可根据业务实际情况动态调整，以达到准确的拦截，保护业务健康有序的开展。

开发接入指引

调用API

内容安全解决方案

为提高微信开放平台生态安全性，针对小程序各内容场景中可能存在的安全问题，平台开放API方式向开发者提供内容安全解决方案协助开发者应对文本、图片、音频内容类型下的敏感内容识别、涉黄内容识别、暴恐内容识别等问题，以便开发者维护小程序运营秩序和安全。

文本内容安全检测：

功能描述：文本审核接口能够识别文本信息中的色情、时政违规、暴恐等违法有害内容，帮助用户及时、精准地防范违规风险，可用于内容审核、敏感信息过滤、舆情监控等场景。

• 该功能基于10万级大规模敏感词库，结合多种文本对抗方法、政策权威要求等，并运用了深度学习技术，高效识别高危有害内容。同时我们会根据大规模语料和实时反误杀系统，不断更新迭代，确保效果持续提升。

应用场景：用户个人资料文本内容检测；媒体新闻类用户发表文章、社区评论内容检测；游戏类用户编辑上传的素材(如答题类小程序用户上传的问题及答案)检测等。

图片内容安全检测：

功能描述：图片内容安全基于腾讯海量数据资源和深度学习技术，为开发者提供图片内容的智能审核服务，不仅能帮助用户降低色情、时政违规、暴力恐怖等风险，还能大幅度节省人工审核成本，保护业务健康发展。

• 通过学习和分析图片影像的肤色、姿态和场景等多种维度，可对图片进行色情识别。
• 提供包括敏感人物的面部识别与敏感事件等的场景识别。
• 基于舆情分析，提供更为严格的暴恐模型，智能识别暴力、血腥场景及恐怖主义、极端主义等涉嫌违禁的图片内容。

应用场景：用户自定义头像检测、涉及拍照的工具类应用(如P图，自拍类应用)用户拍照上传检测；电商类商品上架图片检测；媒体类用户文章里的图片检测；社交类用户上传的图片检测等。

音频内容安全检测：

功能描述：识别音频中的涉黄、涉政、谩骂等违规内容，从而降低人工成本，提高审核效率。 应用场景：游戏聊天频道中的语音检测；直播中的主播语音检测；论坛社区发布相关媒体内容的音频检测。

开发接入指引

• 文本内容安全接口文档：msgSecCheck
• 图片内容安全接口文档：imgSecCheck
• 音频/图片内容安全异步接口文档：mediaCheckAsync

常见问题

1、请不要完全依赖内容安全服务

• 将小程序UGC内容接入内容安全服务，可以有效缓解人工审核、降低违规风险，但接入内容安全服务并不意味着一劳永逸解决所有问题，为了进一步确保内容安全，我们仍建议在一些环节设置人工审核确认，以弥补AI算法存在的一些不足。
• 例如API判断为REVIEW的内容，说明可能存在风险，需要人工确认；API判断为PASS的内容，可能包含被漏掉的违规内容，可以按照一定比例抽查。

2、如果对内容安全解决方案有使用疑问或者需求，应该如何反馈？

• 微信开放社区开设了安全风控专区，开发者可以到安全中心专区发帖互动交流。