Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > cs > arXiv:2412.13754

帮助 | 高级搜索

计算机科学 > 机器学习

arXiv:2412.13754 (cs)
[提交于 2024年12月18日 ]

标题: 半监督学习中的最优精确恢复:谱方法与图卷积网络的研究

标题: Optimal Exact Recovery in Semi-Supervised Learning: A Study of Spectral Methods and Graph Convolutional Networks

Authors:Hai-Xiao Wang, Zhichao Wang
摘要: 我们深入研究了在Contextual Stochastic Block Model (CSBM)数据集上半监督节点分类的挑战。 在这里,来自两聚类Stochastic Block Model (SBM)的节点与特征向量耦合在一起,这些特征向量来源于一个高斯混合模型(GMM),该模型对应于它们各自的节点标签。 由于只能使用CSBM节点标签的一小部分用于训练,我们的主要目标是准确地对剩余的节点进行分类。 进入归纳学习领域,我们首次指出了CSBM中所有测试节点精确恢复的信息论阈值。 同时,我们设计了一种基于主成分分析(PCA)的最优谱估计器,该估计器结合了训练标签以及邻接矩阵和特征向量中的关键数据。 我们还评估了图岭回归和Graph Convolutional Networks (GCN)在这个合成数据集上的有效性。 我们的研究结果表明,当使用最优加权自循环时,图岭回归和GCN有能力以接近最优估计器的方式达到精确恢复的信息论阈值。 这突显了特征学习在增强GCN能力方面的潜在作用,特别是在半监督学习领域。
摘要: We delve into the challenge of semi-supervised node classification on the Contextual Stochastic Block Model (CSBM) dataset. Here, nodes from the two-cluster Stochastic Block Model (SBM) are coupled with feature vectors, which are derived from a Gaussian Mixture Model (GMM) that corresponds to their respective node labels. With only a subset of the CSBM node labels accessible for training, our primary objective becomes the accurate classification of the remaining nodes. Venturing into the transductive learning landscape, we, for the first time, pinpoint the information-theoretical threshold for the exact recovery of all test nodes in CSBM. Concurrently, we design an optimal spectral estimator inspired by Principal Component Analysis (PCA) with the training labels and essential data from both the adjacency matrix and feature vectors. We also evaluate the efficacy of graph ridge regression and Graph Convolutional Networks (GCN) on this synthetic dataset. Our findings underscore that graph ridge regression and GCN possess the ability to achieve the information threshold of exact recovery in a manner akin to the optimal estimator when using the optimal weighted self-loops. This highlights the potential role of feature learning in augmenting the proficiency of GCN, especially in the realm of semi-supervised learning.
评论: 已被ICML 2024录用。会议版本可通过https://openreview.net/forum?id=8m4V6Fx6ma访问。
主题: 机器学习 (cs.LG) ; 概率 (math.PR); 统计理论 (math.ST); 机器学习 (stat.ML)
引用方式: arXiv:2412.13754 [cs.LG]
  (或者 arXiv:2412.13754v1 [cs.LG] 对于此版本)
  https://doi.org/10.48550/arXiv.2412.13754
通过 DataCite 发表的 arXiv DOI

提交历史

来自: Hai-Xiao Wang [查看电子邮件]
[v1] 星期三, 2024 年 12 月 18 日 11:44:19 UTC (2,196 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
  • HTML(实验性)
  • TeX 源代码
  • 其他格式
许可图标 查看许可
当前浏览上下文:
math
< 上一篇   |   下一篇 >
新的 | 最近的 | 2024-12
切换浏览方式为:
cs
cs.LG
math.PR
math.ST
stat
stat.ML
stat.TH

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号