防范“换脸”诈骗需多管齐下
近日,包头警方发布一起利用AI(人工智能)实施电信诈骗的典型案例。骗子通过智能AI换脸和拟声技术,佯装好友视频通话,10分钟内骗走受害人430万元。案件披露后引发网友担忧:AI换脸还变声,这样的高科技诈骗我还能防得住吗?
其实,对于个人来说,目前尚不需要过度担忧。虽然诈骗手段时常更新,但从当前的电信网络诈骗案件特征看,转账汇款是必不可少的一环,因此“不听不信不汇款”可谓“以力破巧”的终极防骗大招。人工智能大发展的时代,文字、声音、图像、视频都可能是AI合成的,眼见耳闻都可能不真实。遇到转账汇款、资金往来的场景,一定要通过回拨对方手机号等多种额外通信方式反复核实确认。
但反诈防骗并不仅仅是公民个人的事。面对新技术带来的诈骗手段升级,我们还需要多管齐下,才能做到“魔高一尺道高一丈”。
要严格执法。AI换脸、变声虽然是在近期生成式人工智能取得大突破后才火爆起来的,但其技术路线早已有之,有法可依,并不存在监管空白。比如,AI换脸伪装亲朋,需要以亲朋的面部照片视频作为素材,这属于被法律保护的个人生物识别信息。我国民法典已将“生物识别信息”纳入个人信息范围进行保护。电信网络诈骗一般从个人信息泄露开始,为了预防和减少电信网络诈骗案发生,保护公民的合法权益,我们必须从源头上严厉打击贩卖公民个人信息的各种犯罪活动,做到釜底抽薪。同时,也要对提供AI换脸、变声等技术服务的APP软件严格监管,出现违法违规行为的要及时依法依规惩处。
要用好技术。新技术是双刃剑,不法分子以之为恶,执法部门也可仗之除恶。当AI技术被滥用后,我们也要使用AI技术来对抗AI技术,寻求主动安全。比如,可以用AI技术分析网络用户的行为特征、活动频率、会话长短,揪出可疑的社交机器人,对网络诈骗上游进行清理;可以用AI技术在线监测报警,对网络有害信息采取风险标注、拦截提示、搜索屏蔽等措施,从源头阻断网络黑灰产触达用户;提供在线检测工具,帮助用户识别AI换脸、变声;等等。为“全民反诈”注入科技力量,科研机构和科技企业大有可为。
要勤做科普。电信网络诈骗团队经常升级诈骗模板,有人调侃说,“当代社会最热爱学习新技术的就是诈骗团伙”。面对这种情况,反诈宣传也要与时俱进、不断更新。一方面要继续总结过往成功经验,让反诈宣传持续进社区、进校园、进地铁、进手机,全面覆盖不留漏洞,构筑反诈防骗的全民防线;另一方面要克服懈怠心理,不断学习防诈新技术,总结诈骗新套路,撰写反诈新文案,给反诈防骗的全民防线升级加固。
AI诈骗升级,AI反诈也要升级。科技发展虽然会带来新的风险和隐患,但也会为社会治理带来更多自信与底气。多管齐下,“AI换脸”诈骗不难防范。(余惠敏)
关注公众号,随时阅读陕西工人报
近日,包头警方发布一起利用AI(人工智能)实施电信诈骗的典型案例。骗子通过智能AI换脸和拟声技术,佯装好友视频通话,10分钟内骗走受害人430万元。案件披露后引发网友担忧:AI换脸还变声,这样的高科技诈骗我还能防得住吗?
其实,对于个人来说,目前尚不需要过度担忧。虽然诈骗手段时常更新,但从当前的电信网络诈骗案件特征看,转账汇款是必不可少的一环,因此“不听不信不汇款”可谓“以力破巧”的终极防骗大招。人工智能大发展的时代,文字、声音、图像、视频都可能是AI合成的,眼见耳闻都可能不真实。遇到转账汇款、资金往来的场景,一定要通过回拨对方手机号等多种额外通信方式反复核实确认。
但反诈防骗并不仅仅是公民个人的事。面对新技术带来的诈骗手段升级,我们还需要多管齐下,才能做到“魔高一尺道高一丈”。
要严格执法。AI换脸、变声虽然是在近期生成式人工智能取得大突破后才火爆起来的,但其技术路线早已有之,有法可依,并不存在监管空白。比如,AI换脸伪装亲朋,需要以亲朋的面部照片视频作为素材,这属于被法律保护的个人生物识别信息。我国民法典已将“生物识别信息”纳入个人信息范围进行保护。电信网络诈骗一般从个人信息泄露开始,为了预防和减少电信网络诈骗案发生,保护公民的合法权益,我们必须从源头上严厉打击贩卖公民个人信息的各种犯罪活动,做到釜底抽薪。同时,也要对提供AI换脸、变声等技术服务的APP软件严格监管,出现违法违规行为的要及时依法依规惩处。
要用好技术。新技术是双刃剑,不法分子以之为恶,执法部门也可仗之除恶。当AI技术被滥用后,我们也要使用AI技术来对抗AI技术,寻求主动安全。比如,可以用AI技术分析网络用户的行为特征、活动频率、会话长短,揪出可疑的社交机器人,对网络诈骗上游进行清理;可以用AI技术在线监测报警,对网络有害信息采取风险标注、拦截提示、搜索屏蔽等措施,从源头阻断网络黑灰产触达用户;提供在线检测工具,帮助用户识别AI换脸、变声;等等。为“全民反诈”注入科技力量,科研机构和科技企业大有可为。
要勤做科普。电信网络诈骗团队经常升级诈骗模板,有人调侃说,“当代社会最热爱学习新技术的就是诈骗团伙”。面对这种情况,反诈宣传也要与时俱进、不断更新。一方面要继续总结过往成功经验,让反诈宣传持续进社区、进校园、进地铁、进手机,全面覆盖不留漏洞,构筑反诈防骗的全民防线;另一方面要克服懈怠心理,不断学习防诈新技术,总结诈骗新套路,撰写反诈新文案,给反诈防骗的全民防线升级加固。
AI诈骗升级,AI反诈也要升级。科技发展虽然会带来新的风险和隐患,但也会为社会治理带来更多自信与底气。多管齐下,“AI换脸”诈骗不难防范。(余惠敏)
关注公众号,随时阅读陕西工人报