SGCF:Simplifying Graph-based Collaborative Filtering for Recommendation
创始人
2025-06-01 20:08:50
0

一、前言

1、摘要

传统模型在使用大型图上的非线性激活进行训练时面临困难。此外,由于图卷积运算的过度平滑效应,大多数基于GCN的模型无法对深层进行建模。

在本文中,从两个方面改进了基于GCN的CF模型。

首先,去除非线性以提高推荐性能,这与简单图卷积网络中的理论一致。

其次,我们通过计算压缩图上的网络嵌入来获得图中每个节点的嵌入初始化,这缓解了稀疏交互数据的图卷积聚合操作中的过平滑问题。

 图1:标准GCN(左)和SGCF(右)的说明。标准GCN需要反复执行N层消息传递,以获得用于大规模图结构训练的最终嵌入. 同时,SGCF只有一层具有压缩图并消除了自连接、特征转换和非线性激活等其他操作,大大提高了训练效率,有助于实际部署。

2、介绍及相关工作

现有的基于GCN的CF模型比以往任何时候都更加复杂,旨在捕捉更高阶的协作信号。这种复杂的模型很难用大型图进行训练,并带来了效率和可扩展性的挑战,

LightGCN和SGC所做的简化并没有多大帮助。到目前为止,如何提高GCN模型的效率,同时保持其推荐的有效性仍然是一个悬而未决的问题。

以下贡献:

通过反复消除GCN层之间的非线性并将所得函数压缩为单个线性变换,从经验上降低了GCN的过度复杂性。

提出了SGCF,它在很大程度上简化了模型设计,只在GCN中包括最重要的组件,以获得更有效的建议。提供了一种有效的划分技术来减少输入图结构的规模,以避免无限层的显式消息传递,从而实现高效的推荐。

PS:核心点就是提出了一种图划分的技术,划分之后效果好了一些,主要是速度更快了

图划分技术:

网络嵌入初始化的一种简单方法是随机的,它为图中每个节点的初始嵌入分配R中的随机数。然而,这种方法忽略了输入图的结构,使其不适合网络嵌入。

受图分区基算法的启发,旨在使用G的分区来描述输入图G=的草图,然后将其处理为V中每个节点的初始嵌入。G的分区P将V划分为k个不相交的子集,表示为P=V1,V2。Vk,其中k是用户定义的数字。给定一个节点v∈v,设v′∈P是v所在的分区,用P(v)=v′表示。称同一分区中的邻居是内部节点,而其他邻居是外部节点。

此外,节点v∈v是G的边界节点,如果v至少有一个邻居n∈n(v),其分区与v的分区不同,即p(v)≠p(n)。设Vb是G的边界节点集。关于P的边界子图Gb是在Vb上构造的G的诱导子图。

二、SGCF模型

 图2:我们的模式的总体架构。图过程说明了嵌入具有不同跳的传播的过程。分区算法在具有不同跳数的多k (左下)。在每次迭代中,每个节点的嵌入k-层计算框架。最终的压缩图输入到我们的简化GCF模型中

在这一部分中,提出了具有图分割技术的简单图卷积协作滤波,这是一种用于推荐的基于GCN的通用CF模型。

SGCF的总体架构如图2所示。SGCF提出了当前基于GCN的模型,该模型具有两个特征:

(a)在特征传播步骤的每一层,使用简化的线性嵌入传播,而没有任何非线性激活和线性变换;

(b) 为了加速网络嵌入,提高算法的有效性和效率,提出了一种图大小调整技术,

将图递归地划分为几个小尺寸的子图,以捕获节点的内部和外部结构信息,然后在压缩图中计算具有低阶传播过程的网络嵌入。

1、压缩图模型

计算得分仍是内积

重头戏:

每个节点eu或ei具有多个邻居跳(k>=2)。然而,层数 从0增加到k,更深层的节点嵌入往往被过度平滑,它们更相似,具有更少的区别信息。为了缓解这个问题,利用图划分技术来减少输入网络的规模,并构造压缩图。

PS:论文说的很多,总结下来说就是,通过划分子图减少过渡平滑造成的影响

构造压缩图G_{c}=\left ( V_{c} ,\varepsilon _{c} \right ), 我们首先得到G的分区P,表示为P={V1,V2,…Vk } 其中k是用户定义的数字。图分区的目标是\left ( k,\sigma \right )-平衡,其中0< \sigma< 1,并且它满足约束:

 并且将边缘切割的尺寸最小化为:

\left ( k,\sigma \right )平衡图划分是一个NP难问题。为了解决这个问题,受到了用于图分区的GPA算法引导,该算法已在实践中采用,并会降低运行时间的复杂性

 在P上,通过为每个子图V′∈P创建一个凝聚节点va,并用权重为w(va,ua)的凝聚边(va,ua)连接两个凝聚节点va和ua,来构造G的凝聚图Gc。那么,Gc中的压缩节点的数量是k,即G的分区的数量。此外,Gc的压缩边的数量受边切割的大小的限制。

剩下的一个关键问题是如何决定k。一方面,如果k很小,那么一个浓缩节点将与输入图G中的许多节点相关。因此,从相应的抽象节点继承的每个节点在G中的初始嵌入将失去有效性。另一方面,如果k很大,那么压缩图Gc也会很大。因此,计算Gc上的网络嵌入将非常昂贵,这增加了初始化阶段的总体成本。为了达到良好的平衡,我们设置k=\left \lceil \sqrt{\left | V \right |} \right \rceil是一个足够大的数字,但比|V|小得多,在实践中效果很好。

此外,为了计算Gc的压缩图嵌入,一种天真的方法是让每个节点v的初始嵌入等于对应的压缩节点c(v)的嵌入。

然而,这种方法会遇到与同一浓缩节点相关的节点具有相同的初始嵌入的问题,从而使这种方法无效。

为了解决这个问题,使用了一种迭代方法,其中每个节点基于其邻居的嵌入来更新其自己的嵌入,直到达到收敛。这具体意味着在每次迭代中,

每个节点v∈v首先聚合v的邻居的嵌入,这得到平均嵌入eave(v)。然后,将v的嵌入更新为eavg和它自己的嵌入eiv的聚合jiu

PS:其实还是;老操作,聚聚邻居信息,和自己的信息结合一起。生成新的嵌入,(他是讲的很多,感觉没怎么变)

他们认为:不是直接利用原始用户项二分网络,而是使用压缩图进行偏好学习,浓缩图学习可以帮助缓解更深层次的过度平滑效应。

PS:一个整图,拆成小图,避免了过渡平滑,它的归纳感觉牵强,模仿IMP-GCN模型的分子图思想?

子图划分不是很清晰,等待公布代码吧,结合代码或许更清晰点

论文链接:http:// https://doi.org/10.1145/3539597.3570451

代码链接:https://github.com/heli510/SGCF  (里面没代码,23.03.22)

相关内容

热门资讯

牛市早报|端午假期预计全社会跨... 【市场数据】截至5月30日收盘,上证综指跌0.47%,报3347.49点;科创50指数跌0.94%,...
黄酒真的雄起了? 黄酒真的雄起... 斑马消费 杨伟2025年A股酒水板块“冰火两重天”,白酒承压,啤酒失速,黄酒却异军突起!Wind 5...
一台不到600元,魅族新机大火... 对于整个手机市场来说,华米OV等国产手机的市场大战已经日渐稳定,各家手机企业都处于平淡化的状态,就在...
港股稳定币概念暴涨!刘煜辉:人... 6月2日,在港股市场上,数字货币概念股集体拉升,连连数字盘中一度上涨80%,移卡一度涨近50%,欧科...
又现百万罚单 消金合作机构管理... 北京商报讯(记者 岳品瑜 董晗萱)消费金融机构的一张新罚单,又指向合作业务管理。6月2日,北京商报记...
国际金价重返高位 炒金是否卷土... 6月2日,国际金价重返3300美元/盎司高位,截至北京商报记者发稿,金价涨幅超过2%,盘中突破336...
股价翻倍基金霸屏 创新药否极泰... 证券时报记者 裴利瑞今年以来,中国创新药行业正经历了一场前所未有的价值重估,而且在近期呈现加速趋势。...
5000亿人民币新型融资政策工... 内容提要:中国计划推出5000亿元新型政策性金融工具,重点投向新基建与消费领域,以对冲出口压力。但企...
美国5月ISM制造业PMI连续... 6月2日周一,ISM公布的数据显示,美国5月ISM制造业活动连续三个月萎缩,在关税上调的背景下,进口...
国内油价或现年内第四涨 加满一...   中新经纬6月3日电 (万可义)国内成品油新一轮调价窗口将于6月3日24时开启。综合机构观点,国内...
道指三连阳!美股6月开门红,黄... *三大股指上扬,纳指涨近0.7%;*中长期美债收益率走高,基准10年期美债报4.61%;*受特朗普言...
结构性行情或延续,券商建议6月... 经历5月冲高回落后,A股6月行情即将拉开帷幕。展望后市表现,当前机构多数持相对谨慎态度,认为市场短期...
马斯克卸任DOGE后旗下公司迎... 马斯克重返其商业帝国、远离政治后,其旗下公司迅速开启一系列融资,包括xAI正在启动一项3亿美元的股份...
媒体称美国秘密提案允许低浓缩铀... 媒体报道,美国对伊核谈判政策出现180度转变,美国政府上周六向伊朗提出一份新的核协议提案,其中允许伊...
一笔漂亮的退出:93亿卖始祖鸟... (图片由豆包AI生成) 消费赛道又一明星公司被减持了。5月29日,据彭博社消息,始祖鸟母公司亚玛芬体...
速腾聚创一季度毛利同比增七成 ...   速腾聚创第二代灵巧手Papert 2.0。  5月30日,速腾聚创发布2025年第一季度财报。据...
“消费+科技”双轮驱动,港股市... 港股IPO市场正经历显著回暖,优质资产供给逐步改善,市场流动性增强,吸引了大量资金关注。Wind资讯...
从一面之恩到千亿帝国CEO,安... 近日,吉利汽车管理层大调整引发行业聚焦。在吉利一季度财报发布的当天,吉利控股集团宣布重大人事调整:极...
A股公司密集更名折射四大现象 ... 据不完全统计,2025年以来,超60家A股公司完成或启动名称变更工作,其中超30家公司涉及证券简称调...
券商6月“金股”出炉,两大行业... A股6月开市在即,券商6月月度“金股”近期陆续出炉。Wind数据显示,截至6月2日中国证券报记者发稿...