Appearance
信息发布审核白皮书
本产品作为具备互联网信息发布功能的软件,征订该“白皮书”详细界定我司对于用户生成(UGC)内容的审核风控规则,以及违规判定条例。
适用产品和范围
目前该条例的征订适用于我司全部公开的包含UGC模块或能力的软件产品。
您可以点击了解这些产品
为什么对信息进行审核
对信息进行审核的目的是为了保证信息的真实性、准确性和可信度。在当前信息爆炸的社会中,虚假、误导性或不准确的信息可能会对公众带来负面影响,甚至可能给社会带来危害。因此,对信息进行审核是一种必要的措施,以确保公众收到的信息是真实的、有用的和可靠的。同时,信息审核也能够帮助人们过滤掉垃圾信息,使得信息传播更加高效和有价值。
常见的违规信息
以下是常见的违规信息类型:
- 色情、低俗内容:包括但不限于黄色网站、色情图片和视频、淫秽文字等。
- 暴力、恐怖内容:包括但不限于暴力、恐怖、血腥和残忍的场面、图片和视频、恶意攻击等。
- 谣言、虚假消息:包括但不限于虚假新闻、谣言、不实言论、造谣传谣等。
- 政治敏感信息:包括但不限于反党反政府言论、分裂国家言论、涉及台独藏独等言论。
- 侵犯隐私的内容:包括但不限于侵犯他人隐私、泄露个人信息等。
- 抹黑、谩骂他人,包含但不限于社会团体、个人、组织、烈士等。
这些信息存在于互联网上的各种形式,例如文章、图片、视频、社交网络等。对这些违规信息进行审核和管理,有助于维护网络空间的健康发展,保障公民的合法权益和社会的稳定。 为了保障平台长久运行,我们对信息进行AI模型审核,人工审核,这样一来在审核资源紧缺的情况下将导致一些负面影响,您仅需了解,我们会不断优化这些影响对我司产品体验感的负面打分。
- 发布内容被错误的删除
- 发布内容审核较慢
是否涉及隐私
审核仅针对发布的内容进行审核,不会涉及账户隐私泄露。
如何审核
我们披露有关于我司对发布内容审核的机制,这样以便你了解我们是如何运作的,且让您知道审核的过程中我们如何保障您的隐私。
现在使用的审核方式
为了提高审核效率,我司采用多个审核方式进行集中审核,以便及时安全地展示用户发布的内容。通常仅敏感信息会进入人工审核。且对于不同数据的审核方式不一致。
- AI模型审核
- 具备强风控能力且合规运营的第三方审核接口(我司集中且仅适用百度,腾讯,阿里云提供的)
- 人工审核
不同数据类型的审核
针对不同的数据类型审核的方式,范围,目的均由差异。了解这些数据的审查范围和目的。
类型 | 方式 | 第三方 | 范围 | 目的 |
---|---|---|---|---|
用户信息 | 机器审核,人工脱敏审核 | 不开放 | 包含用户开放的信息如用户名,头像等 | 排查违规头像,昵称,签名等 |
发布的图片 | 机器审核,人工审核 | 部分开放 | 当用户发布图片信息为公开的,将提交机器审核或者第三方审核 | 排查违规内容 |
发布的字符串(问答,交易,互动,评论等) | 机器审核,人工审核 | 部分开放 | 当用户发布字符串信息为公开的,将提交机器审核或者第三方审核 | 排查违规内容 |
其他二进制数据 | 机器审核,人工审核 | 部分开放 | 部分转移到安全评估机构分析二进制内容是否包含恶意的代码注入 | 排查违规内容,风险内容,潜在的用于入侵的二进制数据包 |
如何保障您的个人信息安全
我们十分注重您的隐私安全,所以在审核数据时我们会进行以下的差异化处理,您需要了解,因为如果您发布的内容也将直接影响个人信息安全。
请您避免
请您避免发布下面的信息,可能还有更多,但您知道会侵犯他人隐私或个人隐私安全的内容。
- 请勿发布包含它人/个人邮件,联系方式,地址的文字信息
- 请勿发布包含它人/个人隐私,照片,器官,头像,等敏感信息的图片
- 请勿发布包含机密信息的
- 请勿发布包含造成重大不良影响的
- 请勿发布包含未经许可的提前发布的
- 请勿发布包含金融账户信息的
- 其他包含敏感信息的
哪些信息会被脱敏
无论是我司的审核人员还是传递到第三方进行审核的,包含部分固定格式的信息都会被格式化处理,或者不会被选取用于直显审核。
- 邮件
- 不同国家地区的手机号,座机
- 固定格式的账号如固定格式的银行卡,身份证,行驶证,等字符串或数字 如QQ号: QQ1046175189 -> QQ***
- 包含邮编的可匹配的地址
- 用户公开的位置,设备信息,IP等公开信息
- 不受公开的个人信息
如有疑问
欢迎在相关产品中投递反馈信息。