大模型安全闭门研讨会

2024年12月17日下午，由数据安全与隐私计算专委会召集的大模型安全闭门研讨会在三林软件园1号楼上海市信息安全行业协会举行。会议邀请了上海市信息安全测评认证中心, 上海交通大学，云安全联盟，上海人工智能研究院，主流大模型厂商腾讯混元、蚂蚁集团、Minimax，以及大模型应用单位平安科技、汇丰金科、合合信息、爱奇艺等共同参与研讨。

分享环节中，上海交通大学作了《大模型提示注入风险探讨》的主题演讲；上海市信息安全测评认证中心以《测评视角下的大模型安全攻防》展开解析；蚂蚁集团则介绍了《大模型安全实践》。

随后的研讨环节中，各参会单位代表围绕大模型安全监管、隐私信息防泄漏、合规审核、安全对齐、版权风险、提示词对抗攻击、组件漏洞和开源风险等热点、痛点、难点问题进行了深入探讨，并给出了一系列切中要害、实操落地的建议。

与会代表收获满满，并表示期待专委会未来进一步串联人工智能相关生态单位就安全问题展开探讨。