一种基于动态行为映射模型的shellcode检测方法

提出了一种基于动态模拟执行的shellcode分析与检测方法。该方法针对当前自修改和分段执行类shellcode的特点,建立动态行为映射模型严格刻画了shellcode模拟动态行为过程特征,给出了关于自修改和分段执行类shellcode的行为轨迹序列,然后设计了基于有限状态自动机的快速检测算法并实现了原型系统。实验结果表明,该方法能够有效检测当前自修改与分段执行类shellcode,并且与现有主流shellcode检测工具相比,可以达到较好的检测效果。