如何破解“大模型幻觉”和“数据投毒”？网络安全专家热议
9月19日，正值“国家网络安全宣传周”期间，岭南科技创新论坛——“智御未来—网络空间AI应用安全”平行论坛在广州举行。来自高校、科研院所、企业、安全机构的专家学者等共200余人参加论坛。
网络安全事关国家安全和社会稳定，事关人民群众切身利益。AI浪潮正重塑世界，赋能千行百业，但随之而来的安全风险也日益凸显。
为此，本次平行论坛设置了1场论坛和2场专题研讨会、14场学术报告，聚焦网络空间安全中“AI应用安全”，剖析大模型应用中的新型安全威胁，展示AI应用安全前沿科学技术和应用，为构建AI应用安全生态提供借鉴和参考。
“具身智能是AI技术落地的重要方向，它能提升效率、解决难题，但前提是安全。没有安全的应用，再先进的技术也无法真正服务于人。”国际先进技术与工程院院士、广州公共交通集团总工程师谢振东分享了“AI员工”等人工智能落地应用案例，介绍了具身智能的应用前景与安全设计要点。他认为，人机协同是未来的趋势，未来具身智能将聚焦“应用与安全并重”，可能出现“AI自修复系统”，让机器人能自主检测漏洞并修复。
“AI安全治理，需要通过持续优化技术、完善规则、提升共识，让AI发展更符合人类共同利益。”中国互联网协会副理事长、中国网络空间安全协会副理事长卢卫认为，目前AI大模型面临模型幻觉（指大模型生成与已知世界知识不符的内容，或者与用户输入和生成的信息不符的内容）、数据投毒（指在训练数据中植入恶意样本或者修改数据，让大模型产生错误结果的行为）、机密数据泄露等风险问题。他在报告中分享了一系列前沿的技术应对措施，为AI产业健康发展提出具体建议和方向。
岭南科技创新论坛是广东省列入保留举办清单的少数高层次学术活动品牌之一，已有20年历史，设立以来始终聚焦服务广东省重点产业发展，推动形成跨领域的深度对话合作机制。
本次平行论坛由广东省科协主办，广东省网络空间安全协会承办，广东关键信息基础设施保护中心、广州网络空间安全协会、广东科技新闻工作者协会协办，还将于9月20日举行“AI 应用安全攻防”“AI 应用安全保障”两场研讨会，展示企业级AI安全防护框架与实践案例，共建AI安全生态，推动安全测评标准、安全检测工具与人才体系发展。
南方+记者 钟哲