党中央、国务院高度重视创新驱动发展，党的二十大报告提出加快构建新发展格局，着力推动高质量发展，加快建设网络强国、数字中国。为助力政府、企业、产业数字化转型，推进智慧中国建设，由智慧中国年会组委会、国脉研究院联合主办，国脉互联数字发展（浙江自贸区）有限公司承办，瑞成科技、网景盛世、思贤科技、星鸟监测4家企业支持的“2022智慧中国年会”于12月22日在浙江舟山隆重召开。本届年会以“构建数据共同体 走进智能新时代”为主题，邀请了业内决策者、管理者、建设者、观察者、思考者开展深入探讨、交流与合作。本文系上海星鸟网络科技有限公司产品经理王奇卉在“2022智慧中国年会”上的演讲。内容通过速记整理，未经本人审核。
各位老师、各位领导，大家好，我是上海星鸟网络科技有限公司产品经理王奇卉。我今天演讲的主题是“AI技术应用于政府网站的安全和内容监管”。《中华人民共和国政府信息公开条例》、《中华人民共和国数据安全法》、《中华人民共和国保守国家秘密法》等有关规定和法案的出台，对数字化政府建设提出了新的更高要求。而政府网站作为数字化政府建设的重点之一，其安全和内容监管对推进数字化政府建设具有重大意义。目前，政府网站在日常工作中主要出现的问题有：1.发布信息中存在严重表述错误和敏感信息；2.网页中存在暗链、外链、错链等异常链接；3.网页被篡改；4.站点无法访问；5.栏目更新不及时等五大问题。面对这五类问题，传统的解决方法是采用人工方式对页面进行监管，但是这种方式存在明显不足，一是受监管人员业务素质、主客观判断等因素影响；二是效率低下。近年来，随着人工智能技术逐步成熟，实现了广泛应用和落地。政府网站安全和内容监管开始采用“AI辅助+人工主导”的模式进行风险防控。面对政府网站的安全和内容监管现状，星鸟网络结合人工智能技术和自身的业务场景，构建了一套“AI赋能+合规导向+系统闭环”的监管体系，如图所示。该体系以AI算法做技术支撑，以政策法规做理论指导，以系统闭环做内核驱动。在合规层面，主要依据国务院等国家机构出台的政策文件，确保平台有法可依、有规可循。在技术层面，主要由AI监管系统+巡检系统+云监管平台构成系统闭环，对网站进行监管，保障网站的安全。
星鸟网络自主开发的AI监管系统主要针对政府网站在日常工作中主要出现的5类问题进行监测，通过系统化集成的方式来保障政府网站的安全。AI监管系统主要分为严重表述错误和敏感信息监管模块、异常链接监管模块、页面篡改监管模块、站点可用性监管模块、栏目更新监管模块5个模块。严重表述错误和敏感信息监管模块又分为2个子模块：文本智能监测和图像智能监测。文本智能监测是基于对NLP的词法、句法、语义分析算法，构建海量样本库及违规词库；图片智能监测则是基于深度学习计算机视觉分类、检测和识别算法,通过构建特定场景的海量数据集，训练出多种复杂的识别模型，如 OCR 模型、色情识别模型、暴力恐怖识别模型、敏感人脸识别模型、二维码、Logo、旗帜检测等。文本和图像相互配合，对政府网站发布的内容进行精准排查。例如：严重表述错误，涉黄、涉赌、辱骂、违禁品、个人隐私等违法违规信息。异常链接监管模块利用深度学习结合错链、外链、暗链等异常链接相关的文本特征、域名特征、结构特征，并在此基础上引入优化后的CART算法、GBDT算法、RF算法，对网页进行自动识别和检测。能做到资源占有率低、耗时低、准确率高。页面篡改监管模块基于网页中上下文语义矛盾性，利用网络爬虫技术和基于Bert模型优化后的一套高精度监测网页篡改的模型，使AI监管系统面对大批量的政府网站群中的网页是否被篡改可以做出快速而准确的判断。站点可用性监管模块通过多线路远程实时监测目标站点的网站状况，包括在多种网络协议下的可用性以及通过DNS解析监测网站可用性等能反映网站性能状况。栏目更新监管模块采用星鸟网络自主开发的工具，监测政府网站的动态要闻类栏目和通知公告、政策文件类一级栏目，通过自定义设置预警时间点，将各栏目的监测情况在云监管平台呈现。经过AI监管系统的数据，会汇集在云监管平台呈现，经人工审核。以数据可视化技术直观的显示严重表述错误、敏感信息、异常链接、页面是否被篡改、站点可用性、栏目更新等情况。拥有实施快速、使用无门槛、在最短时间给用户提供全方位的信息保障服务，做到标签精细化、服务场景化、数据可视化、团队专业化。巡检系统是一个对于人工审核后的数据进行复核的一个系统，利用AI技术对人工审核后的数据进行自动审核和分析，在发现问题后会在云监管平台进行提示，供审核人员进行排查处理，便于用户及时发现审核错误信息，为政府网站的安全再加一层保障。星鸟网络科技是一家专门从事网站数据挖掘、诊断、站群考核及分析优化的互联网软件公司。公司主要产品为监控通和名企云，主要应用于各级政府部门和企业单位的网站运维监测、政务新媒体监测、微信运营、大数据决策等方面。其中监控通采用的“AI辅助+人工主导”的模式，不仅在多项领域开创了新的里程碑，还获得了浙江省、上海市、湖南省、福建省等多省市政府的认可与信任，并被多省政府采购，用于政府网站站群日常考核与年终考核。星鸟网络深知随着AI技术和运算能力持续发展与提升，AI必将不断赋能于政府网站安全和内容监管。星鸟网络也将从“人工为主，AI为辅”人机结合方式逐步发展为“AI为主，人工为辅”的机人智慧方式，不断迭代更新自己的产品，为客户提供更好的服务。
优网科技，优秀企业首选的互联网供应服务商
优网科技秉承"专业团队、品质服务" 的经营理念，诚信务实的服务了近万家客户，成为众多世界500强、集团和上市公司的长期合作伙伴！
优网科技成立于2001年，擅长网站建设、网站与各类业务系统深度整合，致力于提供完善的企业互联网解决方案。优网科技提供PC端网站建设（品牌展示型、官方门户型、营销商务型、电子商务型、信息门户型、DIY体验、720全景展厅及3D虚拟仿真）、移动端应用（手机站、APP开发）、微信定制开发（微信官网、微信商城、企业微信）、微信小程序定制开发等一系列互联网应用服务。
公安局备案号：
专属顾问
