从“一法一决定”报告出台看机器人水军的法律规制

机器人法律人工智能

吴丹君周天一 | 2017-12-28 11:09

【数据猿导读】今年6月，牛津大学计算宣传研究项目小组发布报告称，在对2015至2017年间中国大陆和台湾地区、美国、俄罗斯、德国、加拿大、巴西、波兰、乌克兰等国家主流社交媒体中的政治相关文章进行研究分析后，他们发现机器人水军发挥的舆论影响、左右时局的作用已不容小觑

作者：吴丹君周天一北京观韬中茂（上海）律师事务所

今年6月，牛津大学计算宣传研究项目小组发布报告称，在对2015至2017年间中国大陆和台湾地区、美国、俄罗斯、德国、加拿大、巴西、波兰、乌克兰等国家主流社交媒体中的政治相关文章进行研究分析后，他们发现机器人水军发挥的舆论影响、左右时局的作用已不容小觑。

相比人工水军，机器人水军宣传效果更好，成本更低，能够自动识别相关网络文章并进行转载、跟帖、评论、点赞、回复以更好地参与网络讨论，无论是美国大选、英国脱欧还是俄罗斯舆论中都充斥着机器人水军的影子。

9月份，赵燕斌等芝加哥大学研究人员发布的论文《在线点评系统中的自动众包攻击和防御》表明，人工智能可以通过一种名为RNN（循环神经网络）的深度学习技术生成复杂的点评信息，此类虚假点评即使人类也难以分辨。显然，机器人水军已经在全世界范围内成为了一种影响或控制舆论的重要方式。

12月24日，全国人大常委会执法检查组发布关于检查《网络安全法》（以下称“《网安法》”）、《全国人大常委会关于加强网络信息保护的决定》（以下称“一法一决定”）实施情况的报告，报告明确要求各地有关部门落实法律要求，治理违法违规信息，维护网络空间清朗。机器人水军正处于现行网络安全制度体系下的灰色地带，虽然没有明确的禁止性规定，但我国相关立法也对其行为方式做了一定的规制。

网络水军的的危害主要体现在四个方面：首先是国家安全，网络水军易被境外势力利用，借此实施煽动分裂国家、破坏国家统一的活动，就可能危害国家安全，在去年12月公安部办理的周世锋等四人涉嫌颠覆国家政权罪中，网络水军就成为宣传“挑事”的重要手段。

其次是市场秩序，通过在网上发表不实言论损害他人商业信誉或对自身产品进行虚假宣传，可在短时间内对受害者造成重大经济损失或为雇主带来巨大经济利益，10年蒙牛雇佣网络水军对伊利进行诽谤的案例即是明证。

再次是公民的人身权利，网络水军以追求经济利益为目的，受雇过程中容易侵害他人名誉权、隐私权、人身自由权，造成公民社会评价的降低。

最后是社会稳定，11年日本福岛地震后通过在网络散布谣言引发的“抢盐”事件不仅造成了社会上的食盐恐慌，还导致了部分地区的群体性事件。作为新型网络水军，机器人水军在线时间更长，跟帖、转发、评论效率更高，需要的成本也更加低廉，在一人的操控下短期内就能掀起网络舆论的漩涡，因此危害也更为巨大。

涉及“机器人水军”的法律规定

《网安法》

《网安法》第十二条强调了网络运营者的权利和义务，指出任何个人和组织使用网络应当遵守公共秩序，尊重社会公德，不得危害网络安全，不得利用网络从事危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，传播暴力、淫秽色情信息，编造、传播虚假信息扰乱经济秩序和社会秩序，以及侵害他人名誉、隐私、知识产权和其他合法权益等活动。这一规定为具体规制机器人水军的行为奠定了基调，只要利用机器人水军在互联网实施了违反上述内容的行为，不仅触及了《网安法》的红线，还可能涉及刑事责任。

《刑法》

针对机器人水军可能产生的危害，现行《刑法》分别进行了规定。首先，对于涉嫌传播危害国家安全的信息，根据《全国人大常委会关于维护互联网安全的决定》的规定，利用互联网造谣、诽谤或者发表、传播其他有害信息，煽动颠覆国家政权、推翻社会主义制度，或者煽动分裂国家、破坏国家统一的，应当分别构成煽动分裂国家罪和煽动颠覆国家政权罪。

其次，对于扰乱市场秩序的，《刑法》第二百二十五条规定了非法经营罪。涉嫌诈骗的，还应根据第二百六十六条以诈骗罪定罪处罚。此外，机器人水军散布一些诋毁企业的虚假信息也可能涉及第二百二十一条的损害商业信誉、商品声誉罪。最后，对于侵犯公民人身权利的，《刑法》第二百四十六条明确，以暴力或者其他方法公然侮辱他人或者捏造事实诽谤他人,情节严重的，构成侮辱罪、诽谤罪。

另根据2014年最高人民法院发布的《关于审理利用信息网络侵害人身权益民事纠纷案件适用法律若干问题的规定》,明确了雇佣、组织、教唆或者帮助他人发布、转发网络信息侵害他人人身权益,被侵害人有权请求行为人承担连带责任。

应当注意的是，对于利用机器人水军进行虚假宣传扰乱市场秩序的行为，若该行为使得消费者对特定产品产生了误解，还可能侵犯《消费者权益保护法》第八条规定的消费者知情权。

《互联网跟帖评论服务管理规定》

《互联网跟帖评论服务管理规定》（以下称“《跟帖规定》”）主要针对跟帖评论服务，即互联网站、应用程序、互动传播平台以及其他具有新闻舆论属性和社会动员功能的传播平台，以发帖、回复、留言、“弹幕”等方式，为用户提供发表文字、符号、表情、图片、音视频等信息的服务。跟帖评论作为机器人水军发挥影响的主要方式，跟帖服务提供者在审查跟帖评论内容时应当落实以下三个方面的主体责任：首先，对新闻信息的跟帖评论建立先审后发制度，相较《侵权责任法》第三十六条规定的避风港原则，《网安法》第四十七条明确要求网络运营者应当加强对其用户发布的信息的管理，违法信息一经发现立即停止传输并予以消除，《跟帖规定》建立先审后发制度，主要在于维护传播平台的良好生态，但对网站的管理责任也提出了更高的要求。

其次，建立信息安全管理制度，《跟帖规定》明确网站要建立跟帖评论审核管理、实时巡查、应急处置等信息安全管理制度，及时发现、处置违法信息并上报主管部门。最后，完善技术措施，研发使用反垃圾信息管理系统，提升垃圾信息处理能力。

值得注意的是，《跟帖规定》仅规定跟帖服务提供者及其用户不得为谋取不正当利益或基于错误价值取向，采取选择性删除、推荐跟帖评论、利用软件、雇佣商业机构及人员等方式干预或误导舆论，涉及违法违规信息的，跟帖服务提供者还应当及时采取警示、拒绝发布、删除信息、限制功能、暂停更新直至关闭账号等措施，并保存相关记录。由于机器人水军主要通过AI技术实现对真实评论的模拟，上述条文虽然仅将主体限定为跟帖服务提供者及其用户，但仍可视作针对机器人水军的限制性规定。

《互联网论坛社区服务管理规定》

《互联网论坛社区服务管理规定》（以下称“《论坛规定》”）将互联网论坛社区服务定义为在互联网上以论坛、贴吧、社区等形式，为用户提供互动式信息发布社区平台的服务，因此无论是天涯论坛、百度贴吧、新浪微博这种囊括了海量信息内容的综合性平台亦或虎扑、豆瓣、知乎等专注特定领域提供社交服务的企业，都属于《论坛规定》的规制范围。

鉴于论坛、贴吧、微博可能成为机器人水军影响舆论的主要平台，互联网论坛社区服务提供者在信息治理方面应当履行的义务主要包括三部分：一是建立健全信息安全管理制度，不得发布、传播法律明令禁止的信息，同时应当与用户签订协议，明确用户同样不得发布、传播上述信息的义务，明确论坛社区版块发起者、管理者履行与其权利相适应的义务；二是加强对其用户发布的信息的管理，发现含有法律法规和国家有关规定禁止的信息的，应当立即停止传输该信息，采取消除等处置措施，保存有关记录并及时报告；三是互联网论坛社区服务提供者自身及其从业人员不得通过发布、转载、删除信息或者干预呈现结果等手段，谋取不正当利益。从上述内容我们可以看出，《论坛规定》对论坛社区服务提供者提出了较为严格的信息管理和审查要求，在处理机器人水军这一问题上，互联网论坛社区服务提供者应保持足够重视。

机器人_法律_人工智能-1

规避“机器人水军”的合规建议

落实真实身份信息认证

机器人水军主要因其宣传高效、成本低廉而被用于舆论宣传，因此，为了有效规避机器人水军可能带来的信息风险，在平台账号注册之初即增加其注册成本无疑会提高机器人水军的使用门槛，从而客观上减少机器人水军的使用频率，而落实用户真实身份信息认证是一种有效的途径。

无论是《跟帖规定》还是《论坛规定》均明确了网站平台应当按照“后台实名、前台自愿”原则进行用户真实身份信息认证，不得向未认证真实身份信息的用户提供相关服务。在用户进行注册程序时，信息服务提供者就应当对其真实身份基于组织机构代码、身份证件号码、移动电话号码等信息进行验证，严格遵守实名制要求，及时登记备案，定期进行核验，保证用户注册程序的合法合规。

自2015年实施的《互联网用户账号名称管理规定》首次要求互联网信息服务提供者对注册用户进行真实身份信息认证以来，我国目前已经在《网安法》、《跟帖规定》、《论坛规定》、《互联网用户公众账号信息服务管理规定》、《互联网群组信息服务管理规定》、《互联网直播服务管理规定》、《即时通信工具公众信息服务发展管理暂行规定》等多部法律法规中明确了实名制要求，呼应了“一法一决定”报告中提出的“制定配套法规政策，构建网络安全制度体系”的做法。

当然，现行的实名制在具体实施过程中多以手机号的形式进行实名认证，由于同一个身份证可以办理多个手机号码，事实上大量的互联网账户并不能与其实际使用者一一对应，这也为机器人水军提供了可乘之机，落实真实身份信息认证并不能仅限于手机号，而应综合身份证号码与手机号码，两者结合才能有效限制机器人水军的准入门槛。

构建信息安全管理制度

构建信息安全管理制度，同样可以从侧面对机器人水军形成有效监管。互联网信息服务提供者应当落实主体责任，建立健全用户注册、信息审核、实时巡查、应急处置、个人信息保护、安全防护等制度，违法信息一经发现，及时消除并予以上报，同时兼顾《网安法》关于网络安全等级保护制度和网络信息安全的规定，制定内部安全管理制度和操作规程，采取必要的技术措施进行数据加密、分类、备份，监测、记录网络运行状态和网络安全事件，并按照规定留存相关的网络日志不少于六个月。根据“一法一决定”报告提出的建议，《网络安全等级保护条例》的立法进程亟待加快，实践中的诸多问题需要明确，互联网信息服务提供者应对后续立法保持跟进，密切关注涉及信息安全和监管的内容。

结语

本次“一法一决定”报告既显示了我国目前网络安全的诸多问题与不足，也为后续国家制定网络安全政策与法规指明了新的方向，机器人水军作为一种新型的舆论宣传方式，虽然目前尚处于没有法律法规规范的灰色地带，但相关互联网信息服务提供者仍应积极落实用户真实身份信息认证要求，同时构建信息安全管理制度，明确自身作为舆论平台的信息监管责任。

另据新闻报道，在推特等国际社交媒体中反华势力运营着规模庞大、组织良好的活跃的机器人水军，经常就我国民族、历史、舆情热点事件等高调发表不良言论。因此，建议国内有关部门、科研机构以及互联网信息服务提供者积极研究实践发展机器人水军，增强我国官方在主流社交媒体的发声力度，同时高度关注境内外主流社交媒体机器人水军动态，有效利用机器人水军进行正确的舆论导向。

来源：数据猿

收藏分享

声明：数据猿尊重媒体行业规范，相关内容都会注明来源与作者；转载我们原创内容时，也请务必注明“来源：数据猿”与作者名称，否则将会受到数据猿追责。