#ai-pentesting

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Gustavo Sánchez 0001, Adam Lundqvist

本文提出了一种面向全自主AI渗透测试工具的智能保证系统(IAS)。随着AI驱动的自动化攻击模拟工具日益复杂,其运行过程的完整性、合规性及伦理问题变得至关重要,尤其是在人类监督有限或缺失的场景下。该系统通过监控执行轨迹、强制合规约束、提供实时反馈以及促进自我改进,实现了对自主渗透测试行为的持续监督和问责。核心贡献在于设计了一种资源高效的保证架构,能够与EU AI Act等法规对齐,并支持审计跟踪和自我增强。实验部分(摘要未详述)验证了系统在保持低开销的同时有效检测违规行为。该研究适用于AI安全工具开发者、合规官员及研究自动化安全测试系统可靠性的学者。

💡 推荐理由: 为自主AI渗透测试提供可审计的合规保证,弥补人类监督缺失下的信任缺口,直接影响AI安全工具的可采用性和监管合规。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Pedro Conde, Henrique Branquinho, Valerio Mazzone, Bruno Mendes, André Baptista, Nuno Moniz

本文提出了一种面向真实世界场景的AI渗透测试代理评估协议。现有基准测试(如夺旗、远程代码执行、漏洞复现、轨迹相似度等)通常在简化或狭窄环境中评估代理,无法充分体现真实渗透测试中的复杂性、开放性探索和战略决策需求。作者设计的新协议将评估从任务完成转向漏洞发现验证,支持在具有多重攻击面和漏洞类型的复杂目标上进行评估。协议核心包括:基于结构化真实数据与LLM语义匹配的漏洞识别;采用二分图匹配解决歧义发现;持续维护真实数据;对随机代理进行重复和累积评估;引入效率指标;以及可持续实验的测试集缩减选择。该协议能更真实、更具操作性地比较AI渗透测试代理的实际性能。作者还发布了专家标注的真实数据和代码(https://github.com/jd0965199-oss/ethibench)以促进可复现研究。本文适合AI安全研究人员、渗透测试工具开发者、以及关注自动化安全评估的蓝队人员阅读。

💡 推荐理由: 现有AI渗透测试基准无法真实反映代理在现实环境中的能力,本文提出更贴近实战的评估协议,有助于筛选真正有效的安全自动化工具,推动AI辅助渗透测试技术落地。

🎯 建议动作: 研究跟进

排序因子: 来自 arXiv 其他板块 (+2) | 命中热门研究主题 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)