博客

让漏洞检测模型看一眼代码怎么跑

只看代码文本,模型会把一个永远执行不到的除零当成漏洞。Concoction 只挑一部分路径做符号执行,把运行信息加进来,在 20 个开源项目里拿到了 37 个新的 CVE 编号。

看下面这段代码:

static int a[] = {0, 0};
int *p = &a[1];

int b(int c) { return a[1] % c; }

if (*p)
    b(0);

只看代码文本的模型会在 b() 里报一个除零:c 可能是 0。可 b() 只在 *p 不为 0 时才会被调用,而 *p 就是 a[1],永远是 0。这个函数根本执行不到。GCC 和 LLVM 也看不出这一点,因为要搞清一个指针指向哪里,本身就很难。

这种误报在静态方法里很常见。代码里有冗余的语句、复杂的数据结构、数不清的执行路径,只看文本,模型只能往保守里猜。

为什么不直接跑

让程序真跑起来,就知道 b() 从没被调用过。问题是把每条路径都跑一遍太贵,真实项目里的路径数量是爆炸式增长的。之前也有工作用运行轨迹做检测,比如 LIGER,但它只看执行到的语句,覆盖不全,又是随机采样轨迹,在大项目上成本很高。

Concoction 的做法

Concoction 是我们发表在 ICSE 2024 的工作。思路是两边都要:静态的程序图能看到所有可能的行为,再只挑一小部分路径做符号执行,用真实的运行信息去消除歧义。

  • 静态部分:增强过的抽象语法树,加上数据依赖和控制依赖图。
  • 挑路径:一个无监督的主动学习模型给路径排序,只把前 30% 交给 KLEE 做符号执行。路径不到 10 条的函数全跑。
  • 合并:静态和动态两部分各用一个 Transformer 编码,拼在一起,判断这个函数有没有漏洞。
  • 确认:判断有漏洞的函数,再交给 AFL++ 做模糊测试,生成能触发它的输入。

结果

31 / 35三个已知 CVE 的项目里找到的漏洞

100%这组实验的精确率

37新分配的 CVE 编号

在三个已知有 CVE 的项目上,Concoction 找到了 35 个漏洞里的 31 个,没有误报。同样给 12 小时,单用 AFL++ 找到 8 个,用 Concoction 引导模糊测试找到 31 个。我们一共比了 16 种方法,包括 11 个深度学习模型、KLEE、CodeQL 和 Infer。静态深度学习模型里召回最好的 ReGVD 找到 21 个。

我们又拿它去扫 20 个没参与训练的开源项目,包括 Linux 内核、ImageMagick 和 assimp。提交了 54 个问题,开发者确认了 53 个,修了 27 个,新分配了 37 个 CVE 编号,其中 14 个问题在 48 小时内就解决了。

ImageMagick 的一个内存泄漏(CVE-2021-3574)就是这么找到的:轨迹里,分配内存时用的大小是 samples_per_pixel,释放时按的却是 MaxPixelChannels,两边对不上。

局限

开销主要来自符号执行,部署时每个函数限 5 分钟。递归、指针别名、函数指针的动态分派还不支持;外部库没有源码时,轨迹会不完整,那 4 个漏掉的 CVE 就是这么漏的。它目前只支持 C,也只判断有没有漏洞,不判断是哪一类。

准备训练数据花了四位安全研究员 600 个工时。这个数字一直提醒我们,在这个领域,数据比模型贵。代码和数据在 GitHub。

论文 · ICSE 2024Combining Structured Static Code Information and Dynamic Symbolic Traces for Software Vulnerability Prediction

BLOG

更多文章

下一步

让 AI 懂代码怎么跑。

联系我们