网络暴力信息防治的第一步在于发现和识别网络暴力信息。《网络暴力信息治理规定（征求意见稿）》细化了《关于切实加强网络暴力治理的通知》中提出的内容识别预警措施，在第九条中规定，网络信息服务提供者应当建立网暴信息分类标准和典型案例样本库，在区分舆论监督和善意批评的基础上，明确细化网络暴力信息标准，增强识别的准确性。

而网络暴力信息时常变化，识别网络暴力信息并非易事，相关标准和样本库的建设也非一蹴而就。网络信息服务提供者可以结合实际业务特点和具体处置案例，利用技术手段，不断更新分类标准，持续完善样本库。

2. 网络暴力重点账号管理和应急响应机制

网络暴力信息防治还需要加强对网络暴力信息发布源头主体，即用户账号的管理。《网络暴力信息治理规定（征求意见稿）》第十条提出，网络信息服务提供者应当根据历史发布信息、违规处置、举报投诉等情况，动态管理涉网络暴力重点账号，及时采取干预限制措施。此外，履行此义务也可以与《互联网用户账号信息管理规定》第十五条规定的账号信用管理体系进行衔接，即建立账号信息动态核验制度，适时核验存量账号信息，发现不符合相关要求的，应当暂停提供服务并通知用户限期改正；拒不改正的，应当终止提供服务。

除重点账号管理之外，《关于切实加强网络暴力治理的通知》中还指出建立涉网暴舆情应急响应机制，要求网站平台组织专门工作力量，及时收集网暴相关热点话题和舆情线索，强化网暴舆情事前预警。根据陌生人私信显著增加、相关话题热度迅速攀升、搜索量快速增长、举报频次加大等情况，及时发现网暴异常行为。虽然这一机制未体现在《网络暴力信息治理规定（征求意见稿）》之中，但也值得企业加以关注并落实。

3. 网络暴力信息预警模型

网络暴力信息防治中采取技术手段进行预警，应及时发现可能存在的网络暴力信息苗头。与《关于切实加强网络暴力治理的通知》所规定的措施一致，《网络暴力信息治理规定（征求意见稿）》第十一条要求网络信息服务提供者根据自身的特点，建立健全网络暴力信息预警模型，综合考虑事件类别，针对事件涉及主体、参与人数、信息内容、发布频次、环节场景、举报投诉等维度，及时预警网络暴力风险。

（二）网络暴力信息处置义务

1. 处置措施和展示限制

当网络信息服务提供者发现侮辱谩骂、造谣诽谤、侵犯隐私等网络暴力信息，应当根据《网络暴力信息治理规定（征求意见稿）》第十二条的规定采取删除屏蔽、断开链接、限制传播等处置措施。本条还规定了网络暴力信息的展示限制。

值得注意的是，《中华人民共和国民法典》（下称“《民法典》”）第1195条亦规定，网络用户利用网络服务实施侵权行为的，权利人有权通知网络服务提供者采取删除、屏蔽、断开链接等必要措施。网络服务提供者接到通知后，应当及时将该通知转送相关网络用户（即侵权嫌疑人），并根据构成侵权的初步证据和服务类型采取必要措施；未及时采取必要措施的，对损害的扩大部分与该网络用户承担连带责任。《民法典》第1197条进一步规定，网络服务提供者知道或者应当知道[1]网络用户利用其网络服务侵害他人民事权益，未采取必要措施的，与该网络用户承担连带责任。因此提示互联网平台企业如未对网络暴力信息采取相应处置措施，则可能承担民事侵权责任。

此外，《网络暴力信息治理规定（征求意见稿）》第十二条规定，对于涉及网络暴力的不良信息，不得在《网络信息内容生态治理规定》第十一条规定的重点环节（包括服务类型、位置版块等）呈现，例如新闻信息网站首页屏幕、弹窗和重要页面，信息服务热门推荐、榜单、弹窗，搜索服务的热搜词、热搜图及默认搜索，音视频服务首页首屏、发现、精选、榜单、弹窗，电子商务平台首页首屏、推荐区等[2]。这要求网络信息服务提供者加强对于重点环节的管理，及时发现并遏制网络暴力信息的扩散传播。

2. 跟帖评论

在跟帖评论场景下，《网络暴力信息治理规定（征求意见稿）》第十三条规定网络信息服务提供者应当加强对跟帖评论信息内容的管理，及时处置通过评论、回复、留言、弹幕、点赞等方式发布、传播的网络暴力信息。而具体处置措施可以参考《互联网跟帖评论服务管理规定》第七条的规定：

（1）对发布违法和不良信息内容的跟帖评论服务使用者，应当依法依约采取警示提醒、拒绝发布、删除信息、限制账号功能、暂停账号更新、关闭账号、禁止重新注册等处置措施，并保存相关记录；

（2）对未尽到管理义务导致跟帖评论环节出现违法和不良信息内容的公众账号生产运营者，应当根据具体情形，依法依约采取警示提醒、删除信息、暂停跟帖评论区功能直至永久关闭跟帖评论区、限制账号功能、暂停账号更新、关闭账号、禁止重新注册等处置措施，保存相关记录，并及时向网信部门报告。

3. 网络社群

鉴于网络暴力信息很容易在社区、群组进行大规模传播扩散，《网络暴力信息治理规定（征求意见稿）》第十四条强调了网络信息服务提供者对于网络社区板块和网络群组的管理规定：即不得在词条、话题、超话、群组、贴吧等环节集纳网络暴力信息，禁止创建以匿名投稿、隔空喊话等名义发布导向不良等内容的话题版块和群组账号。企业可参考《关于切实加强网络暴力治理的通知》的相关规范细化处置措施：（1）及时解散网暴信息集中的话题版块，暂停新设相关话题版块；（2）密切巡查以相关事件名称、当事人及相关人员姓名命名的词条、话题、群组、贴吧，及时清理涉网暴内容；（3）排查关闭以匿名投稿、隔空喊话等名义发布导向不良等内容的话题版块和群组账号。

其中，除明确网络信息服务提供者的义务外，《网络暴力信息治理规定（征求意见稿）》在此也规定了网络社区版块、网络群组的建立者和管理者的管理责任，包括规范成员网络行为和信息发布，发现用户制作、复制、发布、传播网络暴力信息的，应当依法依约采取移出群组等管理措施。

4. 直播和短视频

在涉及网络直播和短视频的场景下，《网络暴力信息治理规定（征求意见稿）》第十五条规定应当强化直播和短视频内容审核，及时阻断涉及网络暴力信息的直播，处置含有网络暴力信息的短视频。参考《关于切实加强网络暴力治理的通知》的相关规定，在发现网络暴力信息内容时，网络信息服务提供者应当：

（1）及时关停网暴内容集中的直播间，封禁违规主播；

（2）密切关注网暴当事人开设的直播间，及时管控诱导逼迫自残自杀等信息；

（3）对存在网暴风险的短视频先审后发，清理含有网暴信息的短视频，拦截过滤负面弹幕。

此外，网络直播平台还应当关注《关于加强网络直播规范管理工作的指导意见》的规定，对照网络直播行业主要问题清单建立健全和严格落实总编辑负责、内容审核、用户注册、跟帖评论、应急响应、技术安全、主播管理、培训考核、举报受理等内部管理制度。

（三）完善网络暴力防护机制

1. 事前防护

《网络暴力信息治理规定（征求意见稿）》第十八条规定了“一键防护”和“私信规制”两大网暴当事人事前保护机制。

（1）一键防护

“一键防护”是指向用户提供一键关闭陌生人私信、评论、转发和消息提醒等设置。《网络暴力信息治理规定（征求意见稿）》第十八条规定，用户面临网络暴力风险时，网络信息服务提供者应当及时发送系统信息，提示其启动一键防护，避免受到网络暴力信息的骚扰。第二十条强调，在发现以下情况时，网络信息服务提供者应当及时协助当事人启动一键防护，切实强化当事人保护：

1)   网络暴力当事人涉及未成年人、老年人等的；

2)   当事人在公开环节表示遭受网络暴力的；

3)   若不及时采取强制介入措施，可能造成严重后果的其他情形。

实践中，主流平台均为用户提供了“一键防护”机制，具体做法如下：

A. 微博：用户开启“一键防护”后，7天内将不接收未关注人私信和陌生人互动通知，历史未关注人评论和转发将被隐藏（如下图一）。

B. 小红书：用户开启“一键防护”后，7天内将不接收未关注人私信、评论、弹幕和分享，即不允许其他人@本人（如下图二）。

C. 抖音：用户开启“一键防网暴”功能后，陌生人不可以评论、私信、搜索用户、发送弹幕，保护时间可由用户自行选择3天、7天或30天（如下图三）。

D. 知乎：当用户受到大量非正常评论时，将会弹窗提示用户是否开启“一键防护”功能，开启后7天内将只允许用户关注的人评论和发私信（如下图四）。

（2）私信规则

《网络暴力信息治理规定（征求意见稿）》第十九条要求网络信息服务提供者不断完善私信规则，允许用户根据自身需要设置仅接收好友私信或拒绝接收所有私信。同时网络信息服务提供者应当对照网络暴力信息分类的标准，采取技术措施阻断网络暴力信息通过私信传输。

实践中，主流平台对于私信互动场景下的防网暴做法如下：

A. 微博：用户可以调整接收评论和私信的范围，避免受到陌生人打扰（如下图一）；此外，用户还可以开启“评论防火墙”功能，系统将自动对拉黑用户的评论以及含有屏蔽词的评论进行过滤；用户可以开启“屏蔽”功能，以屏蔽不友善用户或关键词；用户可以开启“评论精选”功能，对所有评论需要由用户亲自审核后方可展示；当评论区出现令人不适的评论，用户可以选择拉黑并停止评论。

B. 小红书：对于用户没有回复或关注的陌生人，用户在24小时内仅可接收对方发来的1条文字信息（如下图二）；此外，陌生人消息发送的消息将自动归入消息盒子，不直接展示私信内容。

C. 抖音：用户可以自行设置私信权限，或者选择智能屏蔽过滤系统识别低质量私信（如下图三），还可以设置视频/评论权限、私密账号。

D. 知乎：用户可自主选择“允许接收私信”“默认状态”“接收我关注的人的消息”，加强私信场景的主动防护（如下图四）；用户还可以将所有陌生人发来的私信统一放在“陌生人私信箱”中，自主选择是否浏览。

此外，大多数平台都为用户提供了发文警示和/或风险提示功能。如果信息发布方用户拟发布的内容涉及网络暴力等内容，系统将自动警示要求该用户自查（如下图一、图二）；一旦信息接收方用户收到的私信内容涉及网暴信息，系统将自动对该用户进行风险提示（如下图三、图四）。

2. 投诉举报

由于网络暴力信息传播扩散快，对于当事人的身心影响严重，《网络暴力信息治理规定（征求意见稿）》第二十一条明确规定网络暴力信息的投诉举报方式应当更加快捷简便。网络信息服务提供者应当在显著位置设置专门的网络暴力信息快捷投诉举报入口，开通网络暴力信息投诉举报电话，简化投诉举报程序。

对于用户的投诉举报，网络信息服务提供者应结合投诉举报的内容以及相关证明材料及时受理研判，对明确为网络暴力的情况，依法依规进行处置并反馈结果；对核实不属于网络暴力的，应当按其他类型举报受理要求予以处理并反馈结果。

目前，《网络暴力信息治理规定（征求意见稿）》等相关法律法规尚未对投诉举报的响应和处理期限做出特别规定，但可以参考《App违法违规收集使用个人信息自评估指南》9.32项以及《网络安全标准实践指南 移动互联网应用程序（App）收集使用个人信息自评估指南》6.3项、《App违法违规收集使用个人信息行为认定方法》第六点以及《网络数据安全管理条例（征求意见稿）》中第二十三条提出“十五个工作日”的时限要求，并可以在此基础上缩短对于网络暴力信息的处理期限，尽可能减小网络暴力信息对当事人的伤害以及于网络秩序的负面影响。

实践中，多数平台为用户提供了快速举报通道，建立了网络暴力信息的专门举报标签或举报专区（如下图一、图二），部分平台为用户提供了多种举报途径方式，方便用户在不同场景下进行举报，还提供“一键举报”的功能，允许用户批量举报多条私信内容（如下图三、图四）。

3. 取证

《最高人民法院、最高人民检察院、公安部关于依法惩治网络暴力违法犯罪的指导意见（征求意见稿）》中指出，与传统违法犯罪不同，网络暴力往往针对素不相识的陌生人实施，被害人在确认侵害人、收集证据等方面存在现实困难，维权成本极高。为解决网络暴力受害人取证难的问题，《网络暴力信息治理规定（征求意见稿）》第二十二条规定，网络信息服务提供者应当向用户提供针对网络暴力信息的“一键取证”等功能，提高证据收集便捷性，协助受害人快速、完整地对网暴实施者及相关言论进行取证，便于其后续维权。网络信息服务提供者还应当依法依规为用户维权，司法机关、有关部门调查取证工作等提供及时必要的技术支持和协助。

实践中，主流平台多为用户提供了较为便捷的取证渠道：

A. 微博：用户对私信投诉后，可以通过该功能批量多选包括文本、图片、语言等消息在内的聊天证据以快速取证（如下图一）。

B. 小红书：用户可以在私信页面通过“举报多用户一键取证”，批量选取多个用户聊天证据（如下图二）。

C. 快手：用户可以通过私信场景下的“一键取证”或者针对任一违规内容的“单条信息立即取证”快速收集证据（如下图三）。

4. 未成年人特殊保护

近年来，监管机关不断加强对于危害未成年人身心健康的网络暴力的规制，特点是从深入细全面整治，从严从重处置。2022年3月14日，国家网信办发布的《未成年人网络保护条例（征求意见稿）》第二十七条规定，任何组织和个人不得通过网络以文字、图片、音视频等形式，对未成年人实施侮辱、诽谤、威胁或者恶意损害其形象等网络欺凌行为[3]。国家网信办于近期开展“清朗·2023年暑期未成年人网络环境整治”专项行动，针对未成年人注册用户数量较大或对未成年人具有显著影响的网站平台，则针对网络欺凌行为进行重点治理，包括：

（1） 使用网络烂梗对未成年人进行侮辱谩骂；

（2） 对未成年人进行“人肉搜索”，恶意传播泄露未成年人隐私的欺凌视频；

（3） 通过恶意P图、编造谣言等，诋毁未成年人。

《网络暴力信息治理规定（征求意见稿）》第二十三条提出，坚持最有利于未成年人的原则，加强对于未成年人用户的特殊、优先保护。规定网络信息服务提供者应当优先处理针对涉未成年人的网络暴力信息举报。发现未成年人用户存在遭受网络暴力风险的，应当立即处置违法违规信息，提供保护救助服务。并且，值得注意的是，与其他网络暴力处置不同，网络信息服务提供者在发现存在针对未成年人的网络暴力风险时，应当向有关部门报告。

实践中，已有平台专门设置了侵犯未成年人权益的投诉举报通道与未成年人免打扰模式，例如，在QQ上未成年人可以就网络欺凌问题进行投诉举报（如下图一），未成年人还可以自主选择不可被陌生人搜索、拉入群等（如下图二）。

二、未履行合规义务的法律责任

（一）作为网络运营者/个人信息处理者的法律责任

根据《网络暴力信息治理规定（征求意见稿）》第二十六条第一款，网络信息服务提供者违反本规定的，依照《网络安全法》《个人信息保护法》等法律、行政法规的规定予以处罚。

现行《网络安全法》第四十七条规定了网络运营者应加强对其用户发布的信息的管理，发现法律、行政法规禁止发布或者传输的信息的，应当立即停止传输该信息，采取消除等处置措施，防止信息扩散，保存有关记录，并向有关主管部门报告。《网络暴力信息治理规定（征求意见稿）》项下的网络信息服务提供者属于《网络安全法》中的网络运营者[4]，因此如果网络信息服务提供者未依法依规处置网络暴力信息的，依据《网络安全法》第六十八条将受到的行政处罚包括：

（1）由有关主管部门责令改正，给予警告，没收违法所得；

（2）拒不改正或者情节严重的，处十万元以上五十万元以下罚款，并可以责令暂停相关业务、停业整顿、关闭网站、吊销相关业务许可证或者吊销营业执照，对直接负责的主管人员和其他直接责任人员处一万元以上十万元以下罚款。

值得注意的是，国家网信办于2022年9月14日发布的《关于修改〈中华人民共和国网络安全法〉的决定（征求意见稿）》扩大了现行处罚对应的法律责任内容，并提高了处罚力度。在责任内容方面，该征求意见稿将《网络安全法》第四十九条建立网络信息安全投诉、举报制度也纳入了责任范围，这意味着网络运营者未建立网络暴力信息相关制度的，或未及时受理并处理有关网络暴力信息的投诉和举报的，可能面临处罚。（更多相关内容请参见《对<网络安全法>修订征求意见稿的要点解读》)

此外，网络信息服务提供者也可能是个人信息处理者，需要履行个人信息保护的一般性合规义务，例如因未有效防范或及时处置网络暴力信息而被认定为未采取安全保护措施防止个人信息泄露等安全事件的发生等，构成未履行个人信息安全保护义务，导致用户的个人信息权益受到侵害的，将承担《个人信息保护法》第六十六条规定的法律责任：情节严重的，最高可处五千万元以下或者上一年度营业额百分之五以下罚款，并可以责令暂停相关业务、停业整顿、关闭网站、吊销相关业务许可证或者吊销营业执照等；而对于直接负责的主管人员和其他直接责任人员而言，则不仅面临着最高一百万元的罚款，还可能受“从业禁止”的处罚，在一定期限内禁止担任相关企业的董事、监事、高级管理人员或者从事网络安全管理和网络运营关键岗位的工作。

而对于法律、行政法规没有规定的情况，《网络暴力信息治理规定（征求意见稿）》明确，应适用第二十六条第二款规定的罚则，即各级网信部门依据职责给予警告、通报批评，责令限期改正，可以并处一万元以上十万元以下罚款；因处置不及时造成公民生命健康安全等严重后果的，处十万元以上二十万元以下罚款，可责令暂停信息更新。

《网络暴力信息治理规定（征求意见稿）》同时还特别规定，网络信息服务提供者发起、组织网络暴力或借网络暴力事件实施恶意营销炒作等行为，应当依法从严从重处罚。

（二）作为平台运营者的法律责任

《网络暴力信息治理规定（征求意见稿）》在第六章中集中细化了网络信息服务提供者应当对违规网络机构和个人用户采取的处置措施：

（1）对于组织、煽动发布网络暴力信息的网络机构，网络信息服务提供者应当依法依规采取警示沟通、暂停商业收益、限制提供服务、入驻清退等处置措施。

（2）对于网络用户违反本规定的，网络信息服务提供者应当依法依约采取警示提醒、限制账号功能、关闭注销账号等处置措施；对首发、多发、组织、煽动发布网络暴力信息的，采取列入黑名单、禁止重新注册等处置措施。

（3）对借网络暴力事件实施恶意营销、违规营利等行为的，除前款规定外，应当依法依约采取清除新增粉丝、暂停营利权限等处置措施。

并且网络信息服务提供者有义务保存有关处置记录，并及时向网信等有关主管部门报告。

类似的，《网络信息内容生态治理规定》也在“法律责任”一章中明确，网络信息内容生产者（即制作、复制、发布网络信息内容的组织和个人）涉及侮辱或者诽谤他人，侵害他人名誉、隐私和其他合法权益的，网络信息内容服务平台[5]应当依法依约采取警示整改、限制功能、暂停更新、关闭账号等处置措施，及时消除违法信息内容，并保存记录并向有关主管部门报告。此外，《个人信息保护法》第五十八条规定了“守门人处理者”的义务，即对严重违反法律、行政法规处理个人信息的平台内的产品或者服务提供者，停止提供服务[6]。

而《网络暴力信息治理规定（征求意见稿）》暂未细化平台运营者的未履行上述信息内容管理法律责任。网络信息服务提供者作为平台运营者未对涉及网络暴力信息的机构和个人用户账号进行处置，导致违反前述义务的，则将依照《网络安全法》第四十七条、第六十八条予以处罚；而“守门人平台”违反上述义务的，可能依照《个人信息保护法》第五十八条、第六十六条予以处罚。同时，由于前述处置措施主要围绕平台的用户账号信息管理义务进行规定，因此网络信息服务提供者作为平台方还可能依《互联网用户账号信息管理规定》[7]受到处罚。

三、结语

《网络暴力信息治理规定（征求意见稿）》作为第一部关于防治网络暴力的部门规章，虽然部分条款尚需更加细化，但其首次从一般规定、监测预警、处置和保护机制四个方面勾勒出网络信息服务提供者对于网络暴力信息治理应当履行的信息内容管理主体责任义务，将成为网络信息内容治理板块中的重要组成部分。期待规定出台生效后，网络平台信息服务提供者的合规体系建构将会更加完整、精细、且易于执行，可以有效减少网络暴力对网民带来伤害的可能性，营造更加和平美好的网络环境。