MemHarmBench 获得上海创智学院论文推荐,并获奇绩创坛「奇绩信号 Alpha Sight」推荐。
关于我
Hello! 我是王志华,是复旦大学视觉与学习实验室(FVL,由姜育刚教授(复旦大学副校长)领导)与可信具身智能研究院(TEAI)的准硕士生,师从马兴军教授。我目前在上海理工大学光电信息与计算机工程学院(USST)攻读计算机科学与技术学士学位(2023–2027)。我的开源项目累计获得约 2.5k GitHub Stars,并获 ACM 银奖。
目前,我在公安部第三研究所(TRIMPS)担任 LLM 研究实习生,由 Nan Li 指导,主要研究 Web Agent 与 LLM 安全评测基准。我还与迪肯大学博士生 Yutao Wu、在(Ant Group)实习的博士生 Yunhao Feng 合作,关注多智能体系统、Coding Agent 与可信 AI。
我的研究兴趣包括基座大模型、Coding Agent、智能体后训练与强化学习,以及可信人工智能。 🙂(:
最新动态
MemHarmBench: Evaluating Cross-Session Prompt Injection in Memory-Persistent AI Agents 的代码已在 GitHub 公开,论文已发布于 arXiv。
CST: Lightweight Risk Triage with Source-Grounded Evidence for Web Discussions 的代码已在 GitHub 公开,论文已发布于 arXiv。
公开了罗技鼠标待机后失灵的排查记录与恢复脚本,记录接收器掉电后的异常表现,以及后续测试推翻最初过滤驱动归因的过程,并在上游问题报告中更正说明。
国庆期间参与开源项目 AISafetyHot 和 prompt-spider-ui。 感谢合作者的支持与启发。
获得第九届全国大学生嵌入式芯片与系统设计竞赛全国总决赛全国一等奖。
完成 ScamWeb: A Multimodal Benchmark for Grounded Understanding of Cyber-enabled Fraud Webpages 的多模态数据整理、落地式标注、基准设计与免训练诈骗理解研究。
加入导师张景锋的 RISE-AI Lab,在复旦大学可信具身智能研究院(TEAI)担任访问学生,启动 MemHarmBench 智能体持久性记忆投毒评测基准研究。该工作从受害者视角设计评测案例,并分析智能体遭受攻击后最终由谁承担损失。
开始担任 NeurIPS 2026 审稿人,参与机器学习与人工智能研究的同行评审工作。
在复旦大学可信具身智能研究院(TEAI)的团队中,在导师马兴军指导下,参与面向企业的多智能体安全协作项目,负责需求分析、系统设计、实现与测试。
通过由 UNDP 管理的 UNV 平台完成国际组织实习,研究红树林对气候变化的响应,并产出蓝碳减缓方向的综述手稿。
加入复旦大学可信具身智能研究院(TEAI),在马兴军老师的指导下,参与 XSafeClaw 智能体安全项目,聚焦运行时接入、受控工具调用与安全审计流程。
启动 SafeCodeRL 研究,探索面向安全约束大语言模型代码生成的多智能体强化学习框架。
在复旦大学软件工程(CodeWisdom)实验室开展 VulnSeeker 研究,将 CodeQL 静态分析与基于 LLM 的安全判断相结合。
加入福州大学福建省网络计算与智能信息处理重点实验室,在导师刘翼章指导下启动 SFMambaNet 研究,探索用于对应关系剪枝的谱频增强状态空间模型。
我的 ACMer 身份正式退役。
加入上海理工大学 ACM 程序设计集训队,开启了我的 ACM 生涯。期待接下来的挑战!🚀
AISafetyHot
国庆期间参与的开源项目,聚合 AI 安全新闻、研究论文与事件,并提供面向 Agent 的 MCP 接口。
预印本与论文
AAAI 2027 · CCF A ScamWeb: A Multimodal Benchmark for Grounded Understanding of Cyber-enabled Fraud Webpages
共同第一作者 · AAAI 2027; Will be accepted(accept*4)
Preprint MemHarmBench: Evaluating Cross-Session Prompt Injection in Memory-Persistent AI Agents
第一作者 · arXiv 预印本
Preprint
SCI 三区 · CCF C SafeCodeRL: Security-Constrained Multi-Agent Reinforcement Learning for Trustworthy LLM-Generated IoT/CPS Software
第一作者 · Sensors, 26(11), 3502
SCI 一区 · CCF A
Preprint 教育经历
- 2027.09 – 2030.06(预计) 复旦大学 · 计算机科学硕士研究生(即将入学)
- 2023.09 – 2027.06 上海理工大学 · 工学学士,计算机科学与技术(在读)
工作经历
信息网络安全公安部重点实验室(公安部第三研究所,上海),AI 研究实习生
- 导师:吴松洋
- 项目 1:独立构建网页图文与 URL 联合分析及诈骗证据定位流程,完成独立一作论文 1 篇。
- 项目 2:设计轻量级短文本风险主题发现算法,融合字符与冻结语义特征,聚合群聊风险证据,支持 CPU 快速筛查。
国际组织(联合国志愿人员组织)- UNDP 数据研究实习生(线上)
美团,打零工
科研与实践经历
2026.08 – 2026.11 构建跨会话记忆投毒基准 MemHarmBench,以及支持 CPU 快速风险分诊的 CST。
科研实习生,MemHarmBench 与 CST
复旦大学可信具身智能研究院(TEAI) · FVL 实验室 · 上海创智学院
- 导师:马兴军、姜育刚(复旦大学副校长)。
- MemHarmBench:构建面向跨会话记忆投毒的“暴露–触发”安全基准,覆盖 288 个案例环境(24 个攻击模板 × 12 个业务场景)和 12 类目标;在恶意规则留存样本中,间接攻击成功率达 59.38%–76.39%。
- CST:设计轻量级短文本风险主题发现算法,融合字符与冻结语义特征,聚合群聊风险证据,支持 CPU 快速筛查和来源可追溯的人工复核。
2026.04 – 2026.08 共同构建多语言诈骗网页基准,提供专家标注的证据区域与解释。
科研实习生,ScamWeb 多模态诈骗网页基准
复旦大学可信具身智能研究院(TEAI)与公安部第三研究所
- 在复旦大学可信具身智能研究院(TEAI)与公安部第三研究所开展联合研究。
- 在导师马兴军指导下,与博士后李楠合作完成完整研究流程。
- 共同构建 ScamWeb 多模态、多语言基准,收录 25 类网络诈骗场景下超过 10,000 个筛选网页,其中 3,416 个诈骗网页由专家标注证据区域并撰写解释。
- 参与数据采集与清洗、诈骗分类体系与专家标注协议设计、ScamDet 多模态流程与提示词设计、评测指标、全量实验、论文写作、结果分析及项目实现。
- 研究手稿为 ScamWeb: A Multimodal Benchmark for Grounded Understanding of Cyber-enabled Fraud Webpages。
2026.03 – 2026.06 接入本地智能体会话,实现受控工具调用与运行时安全审计。
科研实习生,XSafeClaw 智能体运行时安全
- 在复旦大学可信具身智能研究院(TEAI)参与 XSafeClaw,该项目是面向本地与多运行时智能体系统的开源安全平台。
- 在复旦大学青年研究员、博士生导师导师马兴军指导下开展工作。
- 实现 nanobot 风格本地智能体会话的运行时接入,包括会话发现、受控工具调用与统一平台展示。
- 参与风险控制流程、验证工作与可解释智能体治理文档建设。
2026.01 – 2026.03 结合 CodeQL 静态分析、代码上下文与 LLM 安全判断开展漏洞分诊。
科研实习生,VulnSeeker
- 在复旦大学软件工程(CodeWisdom)实验室开展科研实习,研究生成代码与仓库代码的自动化安全分析。
- 在李昳讲师指导下,与博士生陈启才合作完成文献调研、流程设计与实验验证。
- 构建结合静态分析、代码上下文扩展与 LLM 安全判断的 CodeQL 辅助漏洞分析流程。
- 设计 CodeQL 与 LLM 协同提示流程,包括用于漏洞分诊和生成后安全检查的结构化状态码。
2026.01 – 2026.04 通过 UNV 开展红树林气候变化响应与蓝碳减缓研究综述。
国际组织实习:UNDP 管理的 UNV 在线科研实习生
巴布亚新几内亚 Morobe Development Foundation Inc.
- 通过由 UNDP 管理的联合国志愿人员组织(UNV)平台完成国际组织实习,支持红树林对气候变化情景响应与蓝碳减缓研究。
- 联合国志愿人员组织(UNV)项目由联合国开发计划署(UNDP)管理。
- 综合梳理海平面上升、海岸挤压、营养物负荷、碳封存与国家气候政策相关文献。
- 完成综述手稿 Research Support in Analysing Mangrove Responses to Climate Change: The Interplay of Anthropogenic Impacts and Blue Carbon Mitigation。
2026.02 – 2026.05 设计五智能体闭环与约束感知强化学习流程,支持安全代码生成。
第一作者研究,SafeCodeRL
独立科研合作
- 提出 SafeCodeRL,一种面向大语言模型代码生成动态安全约束的多智能体框架。
- 设计由五个智能体组成的闭环协作流程与 PPO 风格的约束感知策略。
- 论文报告结果显示,该方法在保持代码功能正确性的同时显著减少高风险漏洞代码生成。
2025.09 – 2026.03 研究谱频增强状态空间模型,用于鲁棒双视图对应关系剪枝。
科研实习生,SFMambaNet
- 2025.09 – 2026.03,在福州大学福建省网络计算与智能信息处理重点实验室担任科研实习生。
- 在导师刘翼章指导下,研究鲁棒双视图对应关系剪枝。
- 相关工作 Smooth Inliers, Erratic Outliers: Frequency-Aware Mamba for Two-View Correspondence Learning 正在 IEEE Transactions on Image Processing (TIP) 审稿,并已发布 arXiv 预印本。
2024.05 – 2025.07 系统训练算法与数据结构,获得全国及区域程序设计竞赛奖项。
ACMer,ACM 程序设计集训队
上海理工大学
- 系统训练算法、数据结构与竞赛问题求解能力。
- 期间获得 2025 年睿抗机器人开发者大赛国家级一等奖、2025 ACM 上海站大学生程序设计竞赛银奖以及 2025 年蓝桥杯 C/C++ 组全国二等奖。
奖项
- ACM 上海站大学生程序设计竞赛 银奖
- 年睿抗机器人开发者大赛国家级一等奖
- 年蓝桥杯 C/C++ 程序设计竞赛全国二等奖
- 第九届全国大学生嵌入式芯片与系统设计竞赛全国总决赛全国一等奖,
- 全国计算机能力挑战赛国家级二等奖(2 次)
- 国家励志奖学金(5 次)
- 奖学金一等奖(2 次)、二等奖(3 次)、三等奖(2 次)
- 年全国大学生英语竞赛全国三等奖
- 年全国大学生数学竞赛上海市一等奖
- 深度学习鲁棒水印移动应用软件著作权(第一作者)
- 基于 CodeQL 与 LLM 的代码安全分析系统软件著作权(第一作者)
学术服务
NeurIPS 2026 审稿人
参与机器学习与人工智能研究的严谨同行评审工作。
致谢
感谢各位老师、导师和合作者的指导与支持,也感谢一路同行的学长学姐和朋友。