#conversational-ai

共收录 2 条相关安全情报。

← 返回所有主题
👥 作者: Dipayan Saha, Khan Thamid Hasan, Shams Tarek, Sujan Kumar Saha, Mark Tehranipoor, Farimah Farahmandi

硬件安全验证是一个多阶段流程,工程师需要处理复杂的设计分析、威胁考量与验证策略,但现有验证环境缺乏结构化的安全指导支持。虽然对话式AI可以提供按需帮助,但直接使用通用型聊天机器人(如ChatGPT、Gemini)存在风险,因为它们容易产生幻觉且依赖静态过时知识。为此,本文提出VeriChat——一个面向硬件安全验证的领域专用对话助手,旨在增强而非取代现有验证工作流。VeriChat采用检索增强的多智能体架构,包含三个专门智能体,它们协作降低幻觉,提升响应的透明性与可靠性。除问答功能外,VeriChat还集成了开源EDA工具(Icarus Verilog、Yosys、SymbiYosys),能直接对用户提供的RTL设计执行语法检查、综合分析、仿真与形式化验证。综合评估显示,VeriChat的忠实度得分为87.73%,显著优于主流商用模型。通过一个AES S-Box IP上的硬件木马检测案例,VeriChat在多次对话中自主完成木马识别、仿真与形式化证明,成功发现隐蔽的密钥泄露漏洞。

💡 推荐理由: 硬件安全验证领域缺乏专用AI助手,VeriChat首次将多智能体检索增强与EDA工具深度集成,有效缓解LLM幻觉问题,为安全工程师提供了可信赖的交互式验证辅助。

🎯 建议动作: 研究跟进

排序因子: 影响边界/网络设备 (+5) | 来自 arXiv 其他板块 (+2) | Community 数据源 (+1) | LLM 评分加成 (+0.5)
👥 作者: Mutahar Ali, Arjun Arunasalam, Habiba Farrukh

该论文旨在系统性地研究用户在使用对话式人工智能平台(如智能助手、聊天机器人)时对安全和隐私的担忧与态度。研究背景:随着对话式AI在家庭、办公等场景的普及,用户数据被大量收集和处理,引发了潜在的隐私泄露和安全风险。核心问题:用户对这些平台的具体担忧是什么?他们的态度如何影响使用行为?是否存在人口统计学差异?研究方法:作者通过大规模问卷调查(N≥500)收集数据,结合定性分析(如开放题编码)和定量统计(如回归分析、因子分析),从多个维度(如数据收集透明度、对话存储、第三方访问、恶意滥用)测量用户的感知风险、信任度和隐私顾虑。主要贡献:1) 揭示用户对对话式AI隐私威胁的认知不足与实际担忧之间的差距;2) 识别影响用户态度的关键因素(如技术熟悉度、过往负面经历);3) 提出设计建议以提升用户信任和安全体验。该研究为安全工程师和产品设计者提供了用户视角的实证依据,强调在AI平台中嵌入隐私保护机制(如本地处理、明确数据使用政策)的重要性。

💡 推荐理由: 对话式AI正成为数据收集的新入口,理解用户真实的安全与隐私顾虑有助于设计更可信的系统,减少合规风险。

🎯 建议动作: 研究跟进

排序因子: 来自网络安全顶级会议 (+8) | Community 数据源 (+1) | LLM 评分加成 (+0.5)