[登录] [注册]
网站首页 >> 网络知识 >> 网络安全 >> 文章内容

一名博士生决定去淘宝扫“垃圾”

[日期:2021-02-21]   来源:碧波荡漾网  作者:碧波荡漾网   [字体: ]

 毕业于香港中文大学的博士生,你怎么也不会想到他会去扫“废物”吧。

 

不过,此废物非彼废物。而是网络废物。

 

相信各位童鞋对此也并不生疏。

 

每个打工人上班摸鱼的时分肯定都见过一些奇古怪怪的文字——如“胃♡”、“叩--裙”、“9え”、“发嘌”。

 

一名博士生决议去淘宝扫“废物”

 

你以为这是追求个性,其实是黑灰产为了躲避体系排查,以便发送成千上万条“废物信息”。

 

而清除这些废物便是这位博士生的工作。

 

博士生在淘宝扫“废物”

故事的主人公名叫刘翔宇,是一名来自阿里的安全工程师,他的日常工作便是扫“废物”

 

一名博士生决议去淘宝扫“废物”

 

那么,这些废物是哪里来的呢?

 

类似于现实生活中的“海王”,他们广撒网,几乎日日有不同花样,让你甩都甩不掉。

 

网络废物也相同如此,他们每天都会骚扰渠道商家,每天企图向商家群发上百万条废物信息。

 

据刘翔宇介绍,黑灰产一般掌控上千个账号,并编写程序,使用机器海量给商家群发信息,有一些刷单、诈骗信息等违法内容,更多的是营销、店肆代运营等各种招揽生意的广告,像极了那些上门捣乱的人。

 

黑灰产团伙一般会在很短的时刻内把很多的废物消息海量群发给商家。他们嗡嗡不停,少则一天群发几万条信息,多则一天上百万条,最疯狂时,一分钟就能群发上万条信息。

 

旺旺上线“戳一戳”的新功能后,有的黑灰产企图编写程序,一起“戳一戳”上万人。被“乱戳”的主要是新商家,这样的骚扰可能会让初入淘宝大门的商家不胜其扰。

 

那么,如何才能整理掉这些网路废物呢?

 

这位博士生想到的办法是使用 AI 来对立。

 

AI 上线,一个顶俩

所谓 AI 对立便是依据算法进行分层辨认,在发现黑灰产群发的废物信息后,体系可在一秒内撤回信息,完成净化商家运营环境的作用。

 

当然,“废物整理人”面对的不是散兵游勇,而是黑灰产的团伙作战。

 

“他们应该是专业团伙,依照进犯时刻,能够看出他们每天也有固定的上下班时刻,不少人应该是学计算机相关专业出身的,乃至是像咱们相同做过安全防控的人,这些人对安全防控十分了解,会用智能化手段对立,比如他们会发测验信息,对咱们的拦截做打听再做调整。”

 

刘翔宇这样介绍道。

 

更让人头疼的是,这些黑灰产并没有规律可言,不知道他们什么时分忽然发起进犯,每周少则几次,多则十几次。

 

尤其是“双11”大促期间,黑灰产十分疯狂,发出的废物信息量比平时多几十倍。

 

乃至,黑灰产还会想办法经过“变异”企图打破安全防线。

 

所谓的“变异对立”,便是黑灰产会企图改变发送的废物消息内容,让体系无法快速辨认。黑灰产成心把一些要害,用音近、形近或语义附近的字词代替。在黑灰产黑话中,qq 群变成了“叩--裙”,私家微信写成“私入崴伈”,发票可能成为“发嘌”。

 

所以,这便是我们有时分在上网冲浪的时分总会看到一些古怪的字符的原因。

 

黑灰产在进化,AI 才能也需求晋级。

 

所以,针对黑灰产的“作案方法”,这名博士生和他的团队研究出一套新的处理办法。

 

即使用神经机器翻译和多模态词嵌入技能,增强废物文本内容风险辨认体系的性能。

 

具体有什么作用呢?

 

首要,来看下神经机器翻译技能。

 

这项技能主要处理的问题是基于自动生成的对立平行语料,使用神经机器翻译技能,构建对立纠错模型,可消除黑灰产发出的内容对立扰动。

 

也便是说,这项技能能够完成对黑灰产的拦截。

 

再来看下多模态词嵌入技能。

 

这项技能的主要功能是能够使用多模态词嵌入技能提取废物文本的语义、语音、字形特征,并经过多模态交融机制有用地增强体系针对基于义近、音近、形近等文本变异的鲁棒性,可进一步供给体系辨认准确率。

 

也便是说,这个技能的加入进一步增强了 AI 辨认错误的才能。

 

现在,这位博士生打造的算法已能够自行了解某个字和与它音形义近似的字的关联,辨认准确率高于 98%,可有用新增辨认变异违规文本内容 50% 以上。

 

此外,他还开发了“变异废物言语”翻译功能,体系能够将“变异信息”翻译回正常句子。

 

这波操作真的是让人直呼 666。

 

值得注意的是,每天这位博士需求处理的账号在上万个以上,处罚方法包括扣分、禁言、封号等。

 

当然,假如商家仍旧不胜其扰,还是得去寻觅警察蜀黎的协助,交给警察蜀黎处理。

 

最终,雷锋网还是要提醒我们一句:千万别由于觉得投诉和告发没有用,就抛弃了维护自己的权益。

 

在没有良心的黑灰产面前,假如你抛弃追责,那就真的没有人在乎你的权益了。

相关文章
相关评论