第二十一期CCF秀湖会议在CCF业务总部&学术交流中心成功举办，来自学界、业界的二十余位专家围绕“具身智能安全”这一主题开展探讨和交流。本次会议主要围绕“具身智能及其安全总体展望”、“具身智能算法及控制安全”、“信息物理系统融合下具身智能安全”、“具身智能多模态及对齐安全”、“具身智能网络通信及数据安全”等五个专题进行深度研讨。

-01-

特邀报告 | 开宗明义

▲金耀初教授作特邀报告▲

欧洲科学院院士、西湖大学金耀初教授作特邀报告“安全学习、优化与群智能安全”。金耀初教授首先概述当前人工智能的风险与管理，包括隐私、可靠性、公平性、可解释性、责任性方面；其次，报告谈及隐私保护的机器学习方法，如联邦学习方面的现状与挑战，进而突出研究安全性机器学习方法的重要性；最后，报告阐述了群体机器人安全的研究挑战与方向。

清华大学陶建华教授作特邀报告《大模型技术发展与安全思考》。报告从深度学习的三次研究范式引入大模型时代与AI新生态，体现出大模型在科学研究上日益重要的枢纽作用；其次，报告概述了大模型瓶颈问题，如可信性、可解释性等，介绍了应急管理、安全检修等方面的典型应用案例；最后，报告阐述了隐私窃取、模型泄露等方面安全问题，强调对相关技术的审核与规范构建。

▲蒋树强研究员作特邀报告▲

中科院计算所蒋树强研究员作特邀报告《浅谈具身智能安全的正面与侧面》。蒋树强老师从真实世界的特点出发，介绍作为具身智能“本体支撑”——机器人的发展现状与研究趋势。同时，类比人类智能的独特性，思考具身智能体的综合能力及其未来趋势。在具身智能安全方面，蒋树强老师认为应当考虑其在涉身性、主动性、交互性、情境性方面的特点，重新思考具身智能的安全边界，帮助人工智能更稳定地从互联网走向物理世界。

本次会议设置了“具身智能及其安全总体展望”、“具身智能算法及控制安全”、“信息物理系统融合下具身智能安全”、“具身智能多模态及对齐安全”、“具身智能网络通信及数据安全”五个专题，每个专题均安排了多个观点分享报告。参会专家通过报告分享了自己的前沿研究和领域思考，包括网络信息物理融合安全、具身多模态机器人安全、大模型安全与对齐、移动群智感知网络安全、工控与具身智能安全、跨域及感知安全、具身操作的可解释性、可信芯片、网络安全、多方计算等方面。参会专家提出众多具有启发性、思辨性的研究观点，丰富了对于具身智能安全的理解和思考。

左右滑动查看更多

02

专题二：具身智能算法控制及安全

左右滑动查看更多

03

专题三：信息物理系统融合下具身智能安全

左右滑动查看更多

04

专题四：具身智能多模态及对其安全

左右滑动查看更多

05

专题五：具身智能网络通信及数据安全

左右滑动查看更多

-03-

开放讨论 | 观点碰撞

▲现场-Panel、集中研讨▲

左右滑动查看更多

在各场专题报告后，参会嘉宾就具身智能安全的不同主题进行交流，深入探讨了具身智能应用的新质安全问题、模型和算法安全问题、安全性与可用性的平衡问题以及安全防护问题，此外专家们也针对具身智能的社会治理、法律法规等方面进行了讨论。