论坛前瞻：思考展望大模型评测、可信AI和多智能体的重要价值与未来路径 | 浦江AI学术年会
2024浦江AI学术年会将于12月13日上午拉开帷幕。为期两天的会议，国家级科研平台负责人、顶尖AI学者和产业领袖，超百位人工智能各领域青年学者，将在1场大会论坛和10场平行专题论坛中，共同深入探讨人工智能未来发展趋势、关键技术挑战，以及创新协作机制。
13日下午-至14日上午，将举行同步六场AI各领域平行论坛（点击详见13日、14日分论坛议程）。12月14日下午，将举行“大模型能力评测与洞察”“安全可信AI”“大模型多智能体技术与应用”三场平行专题论坛，诚邀您共同见证前沿AI学者的思想碰撞。
12月14日下午
专题论坛日程
论坛时间：14:00-17:00（四场同时举行）
论坛地点：上海市徐汇区云锦路688号西岸美高梅酒店（各论坛会议厅详见现场指引）
大模型能力评测与洞察专题论坛
探索通向AGI的道路，评测能做什么？
如何高效地进行复杂推理能力和智能体评测？
针对鲁棒性与安全性的评测有哪些重要问题不可忽视？
随着大型语言模型的快速发展和广泛应用，如何全面、客观、系统地评估模型性能已成为学术界和产业界共同关注的核心议题。本论坛旨在深入探讨大模型评测的最新方法、标准与挑战，围绕模型能力评测与机理分析、面向AGI的评测体系建设等重要方向开展研讨，共同探索大模型评测的理论突破和实践创新。
论坛主席：
黄萱菁 复旦大学教授
翟广涛 上海交通大学教授
执行主席：
张松阳 上海人工智能实验室青年科学家
主旨演讲：
（以出场顺序排序）
王本友 香港中文大学(深圳)助理教授
《面向应用场景的大模型评测》
傅朝友 南京大学研究员
《多模态大语言模型研究与展望》
黄超 香港大学助理教授
《当图数据遇上大语言模型》
王晋东 微软亚洲研究院高级研究员
《大模型的动态评测协议与框架》
沈晓宇 东方理工大学助理教授
《Understanding In-context Learning Capabilities of Large Language Models》
曹艺馨 复旦大学青年研究员
《可扩展的基准：大语言模型的自动化评估与进化》
论坛嘉宾：
（以姓氏首字母排序）
曹雪智 美团大模型评测负责人
黄萱菁 复旦大学教授
屠可伟 上海科技大学教授
翟广涛 上海交通大学教授
张岳 西湖大学终身教授
安全可信AI专题论坛
如何定义“安全”与“可信”？AI能力的提升是否可以解决AI安全问题？
在模型全球化和文化多样性的背景下，如何确保AI系统的行为符合人类价值？
如何从理论上建立起用户对AI系统的信任，尤其是在关键任务中，如何使用户相信AI决策的可靠性？
在智能体之间的信息共享与协作中，如何建立互信并应对潜在的安全威胁？
对于大模型的Reward Hacking、幻觉等问题，应如何系统性地理解与解决？
以大模型为代表的人工智能技术高速发展，同时带来了新的安全风险与挑战。本场论坛中，专家学者们将从不同视角出发，分享可信、可解释、安全对齐等方向的见解和最新研究，共同探讨全球视角下的安全可信AI。
论坛主席：
黄民烈 清华大学教授
乔宇 上海人工智能实验室主任助理、领军科学家
任奎 浙江大学教授
执行主席：
陆超超 上海人工智能实验室青年科学家
邵婧 上海人工智能实验室青年科学家
王迎春 上海人工智能实验室研究员
主旨演讲：
（以出场顺序排序）
冯骁骋 哈尔滨工业大学教授
《大语言模型中的幻觉挑战与缓解技术》
马兴军 复旦大学青年研究员
《大模型安全初探》
杨耀东 北京大学助理教授
《人工智能对齐技术进展与分析》
张倬胜 上海交通大学助理教授
《大模型智能体安全与对齐》
谢肖飞 新加坡管理大学助理教授
《迈向安全可信AI：测试视角下的挑战与机遇》
祝剑桥 普林斯顿大学博士后研究员
《Using Cognitive Science to Understand Large Language Models》
董胤蓬 清华大学博士后研究员
《Trustworthy AI: The Worst-Case Perspective》
圆桌嘉宾：
(以姓氏首字母排序)
冯骁骋 哈尔滨工业大学教授
郭振宇 蚂蚁集团大安全技术总监
黄民烈 清华大学教授
李修全 中国科技信息研究所人工智能中心副主任、研究员
任奎 浙江大学教授
大模型多智能体技术与应用专题论坛
大模型多智能体系统究竟该如何定义？
“群而生智”在AI领域是否也有体现，多智能体技术会否成为通向AGI的可行路线？
除了“Role-Play”和“Prompt”，大模型多智能体下一阶段的技术突破会在哪里？
大模型多智能体最先会在什么场景落地，目前存在哪些瓶颈？
作为人工智能研究的经典细分领域，多智能体技术研究迎来重大进展：一方面，大模型通过提升个体智能，推动了多智能体系统在协作与竞争中的表现，开辟了更广泛的应用场景；另一方面，多智能体技术也为大模型系统提供了一种“群体增智”的新路径，打破了传统通过单纯依赖算力增长来提升大模型能力的局限。本场论坛中，学者们将“冷静回头”，思考什么是多智能体是否真的“群而生智”，也“激情展望”，共同探讨未来的技术突破和应用落地。
论坛主席：
高阳 南京大学教授
汪军 伦敦大学学院教授
吴立刚 哈尔滨工业大学教授
吴文峻 北京航空航天大学教授
执行主席：
白磊 上海人工智能实验室青年科学家
主旨演讲：
（以出场顺序排序）
魏忠钰 复旦大学副教授
《大模型驱动的社会智能体》
郝建业 华为诺亚方舟决策与推理实验室主任
《大模型时代下的决策基础模型和agent技术》
赵登吉 上海科技大学副教授
《大模型训练中的数据价值评估》
李国豪 Eigent.AI CEO
《Finding the Scaling Law of Agents》
李斯源 哈尔滨工业大学副教授
《多智能体学习中的自动角色发现与模型演进》
圆桌嘉宾：
（以姓氏首字母排序）
高阳 南京大学教授
李国豪 Eigent.AI CEO
王思为 智能博弈与决策实验室助理教授
吴文峻 北京航空航天大学教授
张海峰 中国科学院自动化研究所副研究员