议题十二 AI技术在恶意软件检测中的应用与对抗 腾讯王佳斌

1. 大会视频回放链接:http://www.itdks.com/eventlist/detail/2823
2. AI在恶意软件检测中的应⽤用与对抗 腾讯安全
3. 1 AI+安全概述 ⽬目录 CONTENTS 2 攻击⽅方视⻆角 3 防御⽅方视⻆角
4. ⼈人⼯工智能的发展过程 AI、ML、DL
5. AI为安全提供策略略与规则
6. 1 AI+安全概述 ⽬目录 CONTENTS 2 攻击⽅方视⻆角 3 防御⽅方视⻆角
7. AI的攻击⽅方式1:选择攻击⽬目标 ⻥鱼叉式⽹网络钓⻥鱼:针对特定⽬目标进⾏行行定制的⽹网络钓⻥鱼攻击
8. ⼈人⼯工的⽅方式来选择攻击对象 ■ 采集信息:⽤用户名、转发/响应的推⽂文的频率/时间、对某主题的态度、位置信息、⾏行行为模式、已参加或者将要参加的 ⼤大型活动等,也包括⼯工作、职位头衔、知名度等 ■ 根据钓⻥鱼成功率⾼高的⽤用户,挑选同类的攻击对象
9. AI⽅方式的选择攻击对象 ➢ LSTM适合于处理理和预测时间序列列中间隔和延迟⾮非常⻓长的重要事件 ➢ 选择⽤用户经常发送或转推推⽂文的时间发送钓⻥鱼推⽂文
10. AI的⽅方式来选择攻击对象成功率较⾼高 ■ ⾃自动化⻥鱼叉式⽹网络钓⻥鱼框架的成功率⾼高于30% ■⼴广撒⽹网式钓⻥鱼只有5%到14%的成功率
11. AI的攻击⽅方式2:对于AI训练数据的污染导致模型异常 微软Tay聊天机器器⼈人就过于依赖与⼈人类的交流来训练,出现骂⼈人和种族歧视的⾔言论
12. 病毒应⽤用分发中掺杂多种正常游戏包 ■ 病毒通过⽹网站分发,每次下载都会有新的病毒包,⽽而且掺杂正常应⽤用
13. AI攻击⽅方式3:修改或⼲干扰预测过程的输⼊入数据 ➢ 在预测过程中操控输⼊入数据,达到逃逸AI模型的效果。技术分类如下:
14. 恶意PDF攻击样本的免杀构造 ➢ 恶意PDF分类器器 ➢ 在⼀一些APT攻击中,可以针对特定⽬目标投递含有恶意代码的PDF⽂文档,恶意PDF⽂文件往 往嵌套有JavaScript代码,通过解析漏漏洞洞或堆溢出实现攻击。 ➢ 机器器学习已经被⼴广泛部署⽤用于特定的安全任务,包括恶意PDF分类。 ➢ PDF⽂文件是⼀一种⾼高度结构化的⽂文件,这⼀一定程度上⽅方便便了了检测与使⽤用遗传算法进⾏行行变异
15. 基于遗传编程GAN的恶意代码⾃自动逃逸 ① 通过对恶意样本进⾏行行随机操作来初始化⼀一个种群(population)。 ② 每个变体由⽬目标分类器器(target classifier)和先知(oracle)评估。 ③ ⼀一个由⽬目标分类器器分类为良性、但实际上具有恶意的变体,是⼀一个成功的逃逸样本。 ④ 如果在种群中没有发现任何逃逸样本,就会根据⼀一项适合于寻找逃逸样本的适应性措施,为下⼀一代选择⽣生成变种的⼀一个⼦子集。 ⑤ 被选中的变种被遗传演算随机操纵,以产⽣生下⼀一代的种群。这个过程⼀一直持续下去,直到找到⼀一个逃逸样本,或者达到阈值。 ⑥ 实验证明,⽣生成的逃逸样本可以将恶意PDF分类器器的漏漏报率才接近0提⾼高到1。
16. 1 AI+安全概述 ⽬目录 CONTENTS 2 攻击⽅方视⻆角 3 防御⽅方视⻆角
17. ⼈人⼯工智能在安全已被⼴广泛使⽤用
18. 动静维度的特征,在AI反病毒中⼴广泛使⽤用 静态特征扫描 ⾏行行为实时监控 AI 引擎分析研判
19. 提⾼高AI模型鲁棒性的⽅方法 对抗性训练:模型的训练阶段就主动⽣生成对抗性样本,把它们作为训练过程的⼀一部分,提升泛华能⼒力力 防御性蒸馏:按照正常的⽅方式训练分类⽹网络,从第⼀一个模型学到的概率向量量训练另外⼀一个相同新模型 对抗神经⽹网络: GAN的对抗训练中,⽣生成器器和判别器器的零和博弈,使得两个部分都能有优化的效果
20. 系统化为AI引擎构建学习的数据,优化预测的效果 持续检测 传统检测⽅方法 经典安全策略略 提纯训练数据 分不不同病毒类型学习训练 在不不同场景做预测研判 多模型防控 多种模型训练预测 检测效果叠加效应 防误报告警 兜底检测结果 专家系统控制
21. THANKS 2018.11