Optimal Adversarial Testing: Extracting Honest Test Results from Dishonest Test Takers
该论文研究在测试结果可能被不诚实测试者恶意扭曲的情况下，如何设计最优测试策略以恢复真实测试结果。现实中的考试、评估等场景常面临作弊或对抗性行为，随着AI技术发展，利用AI作弊的现象愈发普遍和严重，导致测试结果的可靠性受到威胁。作者将测试问题
#adversarial-testing
共收录 4 条相关情报。
← 返回所有主题Generative Testing of Automated Speech Recognition Systems
该论文提出了一种名为GATAS的自动语音识别（ASR）系统黑盒测试方法。研究背景是，尽管基于transformer的ASR模型在关键应用中取得了高准确率，但仍容易受到对抗性攻击，尤其是在黑盒场景下，攻击需要保持感知自然性。现有方法通常直接扰
Quality-Diversity Evolution for Discovering Diverse Vulnerabilities in LLM Safety
当前针对大型语言模型（LLM）的对抗性测试方法存在覆盖不足的问题：人工红队测试难以规模化、LLM作为攻击者的方法容易出现模式崩溃（产生重复或相似攻击）、基于梯度的攻击则生成不可读的乱码。本文提出一种质量多样性（Quality-Diversi
CCLab: Adversarial Testing of Learning- and Non-Learning-Based Congestion Controllers
拥塞控制器（CC）对网络性能至关重要，但其在恶劣条件下的鲁棒性尚未得到充分理解。近年来，基于学习的CC在受控环境中表现强劲，但它们在输入信号被破坏或环境条件系统性地变得具有挑战性时，与传统CC相比表现如何仍不清楚。本文提出CCLab，一个用