[LG]《AutoGFM: Automated Graph Foundation Model with Adaptive Architecture Customization》H Chen, X Wang, Z Zhang, H Li... [Tsinghua University] (2025)
AutoGFM:首个针对图基础模型(GFM)设计的自动化图神经网络架构搜索框架,实现跨领域任务的自适应架构定制。
• 识别架构不一致性问题——不同图数据集需不同最优GNN架构,传统手工固定架构难以兼顾多任务多领域表现。
• 创新设计解耦对比图编码器,分离图数据中的不变(架构相关)与变异(无关)模式,有效捕捉跨域共享与差异特征。
• 基于不变模式引导架构定制,利用权重共享超网络及多原型机制,实现针对每个数据集的个性化架构生成,避免优化冲突。
• 引入课程式架构定制机制,防止少数数据主导搜索过程,促进架构多样性和泛化能力提升。
• 在8个多领域真实数据集(涵盖节点分类、边预测、图分类)上,AutoGFM显著优于主流GNN、GNAS及现有GFM基线,支持少样本快速适应。
• 理论证明现有主流可微GNAS方法在架构不一致场景下存在优化冲突,AutoGFM通过不变关系建模有效规避该瓶颈。
心得:
1. 架构不一致性反直觉地指出“单一架构全局最优”在多域图任务中难以成立,必须针对性定制。
2. 解耦不变与变异模式不仅提升架构搜索效果,也为跨域图表示学习提供新思路。
3. 课程学习策略在架构搜索中有效避免早期数据偏见,保障多样化架构探索。
详细解读🔗openreview.net/forum?id=fCPB0qRJT2
图神经网络自动机器学习架构搜索基础模型自适应学习图机器学习