百科问答小站 logo
百科问答小站 font logo



如何看待KDD'21的文章,异质图神经网络的效果不如简单的GCN、GAT? 第1页

  

user avatar   ding-ming-55-55 网友的相关建议: 
      

被邀请了一看居然是自己的文章!那还不得上来说两句……

文章的内容其实还是非常充实的,分为了三部分:

  1. 分析了之前的各种异构网络实验中的问题,包括没有对GCN、GAT正确使用和调参以及一些信息泄露等问题。
  2. 提出了一套新的异构网络测评的pipeline,和一整套数据集Heterogeneous Graph Bank;同时为了防止测试集被overfit,我们学习了如squad或者glue那样的在线测评方式,大家私下可以用验证集,测试集的数据需要提交网站。HGB
  3. 我们也简单地调参得到一种GAT的变式,发现在各种数据集上普遍有效,这也表明了并非是这个任务真的到了瓶颈,而是之前的测评和对比的方式及数据集阻碍了领域的正确发展。

另外值得一提的是,这篇文章浓缩了各个合作者大量的工作,但是审稿的时候却有人故意刁难,说什么“作者虽然保证了中稿之后公布代码,但是我不相信,所以clear reject……”

我觉得他可能误解我们是出于什么目的在针对他们的文章甚至这个领域,其实我们很早就搞异构数据,合作者yuxiao dong也是异构网络的重要学者,只是想让这个领域更健康的发展而已。不过幸好其他审稿人力挺,ac捞了一手。

最近我事情比较多,确实没有顾得上这个工作,如果大家有什么问题,欢迎在github issue。




  

相关话题

  在推荐系统中,如何较好的采用深度学习方法获取用户长短期兴趣? 
  国内 top2 高校研一在读,为什么感觉深度学习越学越懵? 
  如何直观地解释 backpropagation 算法? 
  为什么 BERT 的 intermediate_size 这么大? 
  为什么小模型已经可以很好地拟合数据集了,换大模型效果却要比小模型好? 
  如何评价 MSRA 视觉组最新提出的 Deformable ConvNets V2? 
  自监督学习(Self-supervised Learning)有什么比较新的思路? 
  2021 年了,TensorFlow 和 PyTorch 两个深度学习框架地位又有什么变化吗? 
  现在tensorflow和mxnet很火,是否还有必要学习scikit-learn等框架? 
  为什么神经网络具有泛化能力? 

前一个讨论
如何看待 2021 年清华特奖候选人名单?
下一个讨论
为什么网飞在国内得不到好的推行?





© 2024-11-22 - tinynew.org. All Rights Reserved.
© 2024-11-22 - tinynew.org. 保留所有权利