AI SECURITY RESEARCH
华东理工大学AI安全实验室
2026年6月，合羽科技与华东理工大学共同成立华东理工大学AI安全实验室，聚焦 AI 与网络安全交叉方向，促进研究方法、实验验证与工程实践之间的交流。
共建背景与研究定位
2026年6月，合羽科技与华东理工大学共同成立华东理工大学AI安全实验室。实验室面向 AI 技术快速发展带来的安全问题，聚焦智能体与大模型应用安全、应用与软件供应链安全、自动化攻防验证等方向。 实验室关注从研究问题到实验验证、再到工程实践的衔接，以技术交流、方法研究和场景验证推动跨方向协作，探索兼顾安全边界、验证证据与实际使用需求的研究路径。
实验室研究方向
围绕 AI 安全与应用安全的交叉问题组织研究，重视方法的可解释性、实验的可复现性和结论的适用边界。
应用与软件供应链安全
围绕代码结构、业务上下文、组件依赖与 SBOM，研究风险识别、影响范围分析和修复验证，连接 SAST、SCA、DAST 与研发流程。
AI 与智能体安全
关注提示注入、上下文边界、工具调用权限、凭据使用，以及 Skill、MCP、Plugin 等 AI 能力资产的安全分析。
攻防验证与人机协同
在明确授权范围内研究任务规划、多角色协作、漏洞复核与证据组织，关注人工审批、过程可见和测试边界。
AI 工程与知识沉淀
围绕 AI 工作区、工具接入、任务协作与能力复用，研究把实践经验转化为可维护的规则、方法和团队知识。
重点关注的研究内容
结合安全研究与企业产品实践，持续梳理具有研究价值和验证意义的问题。
大模型应用与智能体风险
关注提示词与上下文的信任边界、工具调用权限、敏感信息流转及 AI 能力资产风险，探索安全分析与评估方法。
代码与软件供应链分析
围绕代码语义、依赖上下文、组件风险和验证证据，研究静态分析与动态验证之间的关联。
自动化攻防与验证方法
研究任务规划、多角色协作、人机协同与过程记录，关注授权范围内的风险确认和可复现证据。
研究交流与工程衔接
通过技术讨论、验证记录和方法整理，连接研究思路与产品工程中的实际问题，促进经验共享和持续反馈。
研究方法与交流方式
以明确的问题和边界组织工作，避免把探索性判断直接当作已经确认的研究成果。
问题分析
从 AI 应用、代码与依赖、安全验证等场景梳理问题，明确研究目标、适用条件与授权边界。
实验与复核
设计验证场景，记录实验条件、观察结果和复核过程，关注证据的可追溯性与结论的局限。
交流与沉淀
通过研究讨论、技术文档和案例复盘整理方法，探索与应用安全和 AI 工程实践的结合。
实验室地点与联系
地址：上海市徐汇区梅陇路130号。 研究交流与合作需求请通过 [email protected] 或网站“联系我们”入口沟通；到访安排请提前联系确认。