快速导读
谷歌在SQLite开源数据库引擎中发现了一个零日漏洞，得益于其先进的语言模型辅助框架“大睡”。这一发现被称为AI代理首次公开识别的真实世界漏洞。漏洞涉及SQLite中的栈缓冲区下溢，可能导致崩溃或任意代码执行。该缺陷已在2024年10月初得到修复，并在库的开发分支中被识别，表明其在正式发布前已被标记。最初名为“午睡计划”的“大睡”于2024年6月推出，旨在提高自动化漏洞发现能力。该项目利用模仿人类行为的AI代理，通过LLM的代码理解能力识别安全漏洞。谷歌对这种方法的潜力表示信心，认为提前发现漏洞可以减少攻击者利用的机会，但同时承认这些结果仍处于实验阶段。
零日漏洞的发现
谷歌宣布已在SQLite开源数据库引擎中发现一个零日漏洞，这一发现得益于其先进的语言模型（LLM）辅助框架——“大睡”，该框架之前被称为“午睡计划”。这一发现被誉为通过人工智能（AI）代理应用所发现的“第一个真实世界漏洞”。“大睡”团队在与《黑客新闻》分享的一篇博客中表示，他们相信这一实例标志着AI代理首次公开发现常用软件中的未知可利用内存安全问题。
理解SQLite中的漏洞
所检测到的漏洞涉及SQLite中的栈缓冲区下溢，这种情况发生在软件试图引用内存缓冲区开始之前的内存位置时。此缺陷可能导致崩溃或允许任意代码执行。根据常见弱点枚举（CWE）对这一漏洞类别的描述，此类问题通常发生在指针或其索引被递减至缓冲区之前的位置、指针运算导致指向有效内存起始位置之前的地址，或使用负索引的情况下。在负责任的披露后，该漏洞已于2024年10月初得到修复。重要的是，该缺陷是在库的开发分支中被识别，这表明在其正式发布之前就已被标记。
午睡计划演变为大睡
午睡计划最初由谷歌于2024年6月推出，旨在增强自动化漏洞发现方法。此后，它转变为“大睡”，反映出谷歌Project Zero与谷歌DeepMind之间更广泛的合作。“大睡”的目标是利用模仿人类行为的AI代理，通过利用LLM的代码理解和推理能力，识别和展示安全漏洞。该过程涉及一套专门工具，使代理能够探索目标代码库，在沙盒环境中执行Python脚本以创建模糊测试输入，并在观察结果的同时调试程序。谷歌对这一方法的防御潜力表示信心，指出在软件发布之前识别漏洞可以消除攻击者利用这些漏洞的机会。然而，公司也承认这些结果仍然是实验性的，暗示特定目标的模糊测试器在发现漏洞方面可能同样有效。
