□郑运钟
近日,公安部门在“净网—2025”专项工作中成功侦破一起非法“查档”并开具虚假证明材料的案件,一举抓获犯罪嫌疑人5名,现场查获一批公民个人信息及虚假户籍证明材料。此案的侦破,也斩断一条集利用AI技术伪造、变造国家机关公文、印章的黑色产业链,有力维护了人民群众个人信息安全。(据10月22日《人民日报》客户端)
这并非个案,而是AI技术被利用于违法犯罪的一个缩影:当央视知名主持人的形象被AI伪造用于虚假带货,当“非遗传承人”身份连同相关证书皆由AI生成,当AI技术用于伪造证件用以骗取网贷——这项给人们工作生活带来便利的新技术,也逐渐成为犯罪分子牟取暴利的工具,并催生出新型犯罪形态。
究其原因,不外乎技术滥用与利益驱动。一方面,随着AI技术的快速发展与普及,各类AI工具在网络上可轻易获取,并无需专业技术即可方便生成高度逼真的假文件、假视频、假声音。另一方面,在利益驱动之下,催生了一条条灰色产业链,如:一些企业或个人为规避合规审查、获取非法利益,对假证明、假资质文件等存在“刚需”,造就了“需求—供给—获利”的完整产业链条,一些查获的案件中,甚至出现提供“法律咨询服务”的中介,足见这一灰色产业链分工之细致。
更不容忽视的是,新型犯罪凸显了监管的滞后。随着AI技术的不断迭代升级,使得传统的人工审核、肉眼识别难以有效甄别,而针对AI假证、AI诈骗的监管技术与制度尚未完全成熟,给了违法分子可乘之机。
无疑,整治AI新型犯罪,已成当务之急。这绝非某个单一部门的职责,而是一项系统工程,需要法律制度等顶层设计的跟进,也需要监管、平台与公众形成合力。
首先要完善法律体系,拧紧“制度螺丝”。既要加快立法步伐,明确AI生成虚假文件、伪造内容等违法行为的法律责任,细化量刑标准,解决取证难题。同时,针对新型犯罪开展专项打击行动,依法从重惩处,遏制犯罪冲动。显然,AI技术的快速迭代让监管长期面临“滞后性”难题——当造假手段不断升级,如何让制度与执法始终跑在技术滥用前面,将是永恒的课题。
其次要规范技术使用,完善“技术伦理”。从技术上,“以AI反AI”是当前最有效的防御手段,应通过技术创新,研发诸如“深度伪造鉴别模型”等反制技术,识别AI造假内容;在源头上,还应加强对AI生成工具的源头监管,建立工具开发者的责任追溯机制,要求工具提供方设置“身份验证”“用途审核”等门槛,防止工具被用于违法犯罪。
最后要推动多方协同,织密“治理网络”。政府部门应加强跨区域、跨部门协作,建立公安、市场监管等部门的信息共享与联动机制;互联网企业须履行主体责任,加强平台内AI工具的管理与内容审核;公众则需提升风险防范意识,多一份警惕、少一份轻信,不仅能避免自身权益受损,更能减少虚假信息的传播空间,避免成为受害者或“帮凶”。
说到底,AI可以极大提升人类的能力,却无法提升人类的智慧,甚至还会导致个别人滥用技术、走向犯罪道路。新犯罪形态的出现警示我们,要防止技术滥用,就必须实现监管不缺位、平台不纵容、技术有防御、公众有警惕,多方合力推动技术向善发展,让AI更好地造福于人类。
① 未经本网授权不得转载、摘编或利用其它方式使用本网原创作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:泉州网”。违反上述声明者,本网将追究其相关法律责任。泉州网欢迎各兄弟网站开展平等合作。
② 凡本网注明“来源:XXX(非泉州网)”的作品,均转载自其他媒体,转载目的在于传递更多信息,并不代表泉州网赞同其观点和对其真实性负责,被转载网站、媒体、当事人若认为有侵权之处请来电告知,我们将及时处理。
③ 由于网络的特殊性无法及时确认稿件作者并与作者取得联系。为了保护著作权人的合法权益,及时准确地向权利人支付作品使用费,请本网站所用作品的著作权人直接与本网站联系,商洽稿费支付事宜。对于使用时未及核实的权利人,可以向本网站提交权利人身份证明材料。 如需合法使用本网站发布的拥有完全版权的稿件,也请直接与本网站接洽。联系电话:22500260,22500194。 联系邮箱:qzw@qzwb.com。