高階網(wǎng)絡(luò)中的社交影響力預(yù)測(cè)

Prediction of social influence in higher-order networks

https://www.sciencedirect.com/science/article/abs/pii/S002002552600006X

亮點(diǎn)

? 我們整合多類(lèi)型社交網(wǎng)絡(luò)以全面建模社會(huì)影響。

? 我們提出了一個(gè)用于社會(huì)影響預(yù)測(cè)的端到端框架。

? 我們開(kāi)發(fā)了 HHGCN 模型以捕捉高階和層次模式。

? 我們?cè)诤铣删W(wǎng)絡(luò)和真實(shí)世界網(wǎng)絡(luò)上驗(yàn)證了 HHGCN 的有效性。

摘要

社會(huì)影響在理解集體決策方面起著至關(guān)重要的作用，因?yàn)閭€(gè)體很容易觀察并受到其朋友行為的影響。準(zhǔn)確預(yù)測(cè)個(gè)體層面的社會(huì)影響對(duì)于包括政治傳播和營(yíng)銷(xiāo)在內(nèi)的各種應(yīng)用至關(guān)重要。圖神經(jīng)網(wǎng)絡(luò)（GNNs）已被廣泛用于建模社會(huì)影響。然而，現(xiàn)有工作往往忽視了高階交互和層次結(jié)構(gòu)。它也難以有效處理社交網(wǎng)絡(luò)的多類(lèi)型特性。在本研究中，我們提出了一個(gè)框架，以端到端的方式學(xué)習(xí)用戶的潛在特征表示，以預(yù)測(cè)社會(huì)影響。該框架的一個(gè)關(guān)鍵組成部分是一種新穎的幾何深度學(xué)習(xí)范式，即雙曲超圖卷積網(wǎng)絡(luò)（HHGCN），它結(jié)合了多空間建模和高階關(guān)系學(xué)習(xí)，以更精確地量化社會(huì)影響。具體而言，我們?cè)O(shè)計(jì)了一種學(xué)習(xí)拓?fù)涮卣鞑⒉蹲饺后w級(jí)環(huán)境特征的方法，然后將包含關(guān)注和轉(zhuǎn)發(fā)關(guān)系的多類(lèi)型社交網(wǎng)絡(luò)轉(zhuǎn)換為統(tǒng)一的超圖。利用雙曲空間和雙曲超圖操作，我們的模型提取潛在的預(yù)測(cè)信號(hào)。在八個(gè)社交網(wǎng)絡(luò)數(shù)據(jù)集上的實(shí)驗(yàn)表明，HHGCN 在 ACC、AUC 和 F1 指標(biāo)上優(yōu)于主流 GNNs，驗(yàn)證了雙曲幾何對(duì)于層次結(jié)構(gòu)的優(yōu)勢(shì)以及超圖對(duì)于高階交互的優(yōu)勢(shì)。

引言

社會(huì)影響，定義為塑造他人思想或行為的能力，在現(xiàn)實(shí)世界和虛擬社交網(wǎng)絡(luò)中普遍存在。從日常娛樂(lè)選擇到職業(yè)決策，個(gè)人行為不斷受到家人、朋友甚至公眾的影響。隨著互聯(lián)網(wǎng)的快速擴(kuò)張和移動(dòng)設(shè)備的日益普及，社會(huì)影響在各個(gè)領(lǐng)域產(chǎn)生了重大影響，例如總統(tǒng)選舉 [1]、廣告 [2] 和產(chǎn)品推廣 [3]。因此，理解和量化社會(huì)影響的機(jī)制對(duì)于揭示社會(huì)中的決策過(guò)程至關(guān)重要。例如，在社交媒體平臺(tái)上，用戶通常關(guān)注他們的朋友和其他感興趣的用戶。這些社交鏈接使用戶接觸到其關(guān)注者的推文和轉(zhuǎn)發(fā)，可能促使諸如轉(zhuǎn)發(fā)或點(diǎn)贊之類(lèi)的互動(dòng)。這需要開(kāi)發(fā)系統(tǒng)性的方法來(lái)表示其潛在機(jī)制和動(dòng)態(tài)變化，從而實(shí)現(xiàn)社會(huì)影響的精確建模和量化。

1 引言

作為社會(huì)影響的具體形式，個(gè)體通過(guò)群體環(huán)境的顯性影響和通過(guò)觀察同伴行為的隱性影響來(lái)改變其行為 [4]。在先前的研究中，社會(huì)影響一直使用手工設(shè)計(jì)特征進(jìn)行量化，并應(yīng)用于用戶行為預(yù)測(cè)。例如，Tang 等人 [5] 探索了用戶關(guān)注網(wǎng)絡(luò)的結(jié)構(gòu)以區(qū)分鄰居和社區(qū)，量化了從眾行為，并將其應(yīng)用于轉(zhuǎn)發(fā)行為預(yù)測(cè)。Jiang 等人 [6] 通過(guò)結(jié)合消息傳播和互動(dòng)活動(dòng)等指標(biāo)來(lái)量化社會(huì)影響，以反映社會(huì)環(huán)境對(duì)用戶的影響。然而，這些方法主要使用線性策略，限制了它們捕捉復(fù)雜用戶交互的能力。隨著神經(jīng)網(wǎng)絡(luò)的發(fā)展，深度學(xué)習(xí)已開(kāi)始應(yīng)用于社會(huì)影響分析 [7], [8], [9], [10]。其中，圖神經(jīng)網(wǎng)絡(luò)（GNNs）在處理結(jié)構(gòu)化網(wǎng)絡(luò)數(shù)據(jù)方面展示了強(qiáng)大的能力，促使研究人員對(duì)用戶局部影響進(jìn)行探索性研究。例如，Qiu 等人 [11] 采用 GNNs 對(duì)用戶社交環(huán)境進(jìn)行建模，并利用注意力機(jī)制量化組成員對(duì)目標(biāo)用戶的影響以進(jìn)行轉(zhuǎn)發(fā)行為預(yù)測(cè)。Wang 等人 [12] 使用圖注意力網(wǎng)絡(luò)（GATs）[13] 和網(wǎng)絡(luò)表示學(xué)習(xí)來(lái)捕捉社會(huì)群體結(jié)構(gòu)并改善行為預(yù)測(cè)。所有上述基于 GNN 的社會(huì)影響研究都取得了比傳統(tǒng)模型更好的性能。然而，現(xiàn)有研究仍然存在局限性。首先，現(xiàn)實(shí)世界的社交網(wǎng)絡(luò)通常是異質(zhì)的，涉及復(fù)雜的高階依賴(lài)關(guān)系，現(xiàn)有模型尚未完全捕捉到這種復(fù)雜性。其次，社會(huì)結(jié)構(gòu)的層次性往往超出歐幾里得空間的表達(dá)能力，導(dǎo)致嵌入過(guò)程中潛在的失真和信息丟失。最后，傳統(tǒng)圖模型僅限于成對(duì)關(guān)系，而實(shí)際的社會(huì)互動(dòng)經(jīng)常涉及群體行為，需要高階圖表示來(lái)捕捉這些復(fù)雜模式。

社交網(wǎng)絡(luò)通常遵循冪律度分布并表現(xiàn)出層次組織，其中有限的一組節(jié)點(diǎn)作為高度連接的樞紐，而大多數(shù)節(jié)點(diǎn)保持少量連接。這種樹(shù)狀模式很難在歐幾里得空間中無(wú)失真地嵌入，而具有負(fù)曲率的雙曲空間可以用低得多的失真保留這些結(jié)構(gòu)，使其非常適合建模復(fù)雜社交網(wǎng)絡(luò)。此外，超圖可以直觀地表示多類(lèi)型社交網(wǎng)絡(luò)中的高階交互，其中此類(lèi)交互指涉及兩個(gè)以上用戶同時(shí)參與的群體行為，增強(qiáng)了模型捕捉復(fù)雜社會(huì)影響的能力。例如，在轉(zhuǎn)發(fā)行為中，目標(biāo)用戶可能既受到多個(gè)關(guān)注者的個(gè)體影響，也受到來(lái)自從眾效應(yīng)的群體影響，普通圖無(wú)法表示這一點(diǎn)，但可以通過(guò)超邊自然建模。為超圖采用雙曲幾何提供了一個(gè)有前景的解決方案，增強(qiáng)了社會(huì)影響預(yù)測(cè)的性能。然而，這種方法仍然遇到幾個(gè)挑戰(zhàn)：(1) 多類(lèi)型社交網(wǎng)絡(luò)數(shù)據(jù)的高階表示：社交網(wǎng)絡(luò)數(shù)據(jù)涉及各種交互模式，傳統(tǒng)圖結(jié)構(gòu)無(wú)法捕捉高階用戶交互模式。(2) 缺乏針對(duì)雙曲空間優(yōu)化的圖卷積模型：現(xiàn)有 GNNs 主要針對(duì)歐幾里得空間設(shè)計(jì)，關(guān)于如何有效地將它們適應(yīng)雙曲空間的系統(tǒng)研究仍然缺乏。(3) 圖卷積的雙曲空間適應(yīng)：在雙曲空間中應(yīng)用圖卷積需要修改特征變換、鄰域聚合和非線性激活操作，以適應(yīng)雙曲幾何的特征。

在本研究中，我們開(kāi)發(fā)了一個(gè)預(yù)測(cè)社會(huì)影響的框架，并提出作為框架一部分的一種新穎圖神經(jīng)網(wǎng)絡(luò)，稱(chēng)為雙曲超圖卷積網(wǎng)絡(luò)（HHGCN），它集成了雙曲空間的建模能力以適應(yīng)各種社交網(wǎng)絡(luò)結(jié)構(gòu)并增強(qiáng)模型的表達(dá)能力。我們的目標(biāo)是量化用戶所屬群體環(huán)境對(duì)其行為的影響以進(jìn)行轉(zhuǎn)發(fā)行為預(yù)測(cè)。具體而言，我們?cè)跐撛诳臻g中表示網(wǎng)絡(luò)結(jié)構(gòu)和群體環(huán)境。為了預(yù)測(cè)用戶的社會(huì)行動(dòng)狀態(tài)，我們將多類(lèi)型社交網(wǎng)絡(luò)轉(zhuǎn)換為統(tǒng)一的超圖，并利用雙曲空間和雙曲超圖操作來(lái)學(xué)習(xí)潛在預(yù)測(cè)信號(hào)。實(shí)驗(yàn)結(jié)果表明，在無(wú)標(biāo)度圖上的社會(huì)影響預(yù)測(cè)任務(wù)中，HHGCN 在關(guān)鍵性能指標(biāo)（包括 ACC、AUC 和 F1）上優(yōu)于主流 GNNs。

本文的主要貢獻(xiàn)總結(jié)如下：

1. 我們引入了一種端到端建?？蚣埽軌蜃詣?dòng)發(fā)現(xiàn)社會(huì)影響中的潛在傳播模式。與帶有特征工程的傳統(tǒng)方法相比，該框架以數(shù)據(jù)驅(qū)動(dòng)的方式自適應(yīng)地學(xué)習(xí)社交網(wǎng)絡(luò)的隱式表示。
2. 我們提出了 HHGCN，一種新穎的雙曲超圖卷積網(wǎng)絡(luò)，它在雙曲空間中學(xué)習(xí)有效的超圖表示。通過(guò)構(gòu)建超圖來(lái)捕捉高階數(shù)據(jù)相關(guān)性并應(yīng)用雙曲超圖操作，HHGCN 有效地增強(qiáng)了表示質(zhì)量和建模能力。
3. 我們?cè)诎藗€(gè)社交網(wǎng)絡(luò)數(shù)據(jù)集上進(jìn)行了大規(guī)模實(shí)驗(yàn)，并與最先進(jìn)的 GNN 模型進(jìn)行了比較。實(shí)驗(yàn)結(jié)果表明，HHGCN 在處理多類(lèi)型社交網(wǎng)絡(luò)和層次數(shù)據(jù)方面表現(xiàn)出色，這證實(shí)了其有效性。

以下部分組織如下。第 2 節(jié)介紹了與社會(huì)影響、圖神經(jīng)網(wǎng)絡(luò)和雙曲空間相關(guān)的研究。第 3 節(jié)定義了預(yù)測(cè)社會(huì)影響的任務(wù)。第 4 節(jié)提供了我們提出的框架的詳細(xì)描述。第 5 節(jié)介紹了實(shí)驗(yàn)中使用的基線和評(píng)估指標(biāo)，并討論了實(shí)驗(yàn)結(jié)果。第 6 節(jié)提供結(jié)論性陳述。

章節(jié)片段 相關(guān)工作 在本節(jié)中，我們概述了關(guān)于社會(huì)影響分析、圖神經(jīng)網(wǎng)絡(luò)和雙曲空間的研究。

網(wǎng)絡(luò)定義 用戶關(guān)注他人以了解其社交活動(dòng)和實(shí)時(shí)行為的最新動(dòng)態(tài)。當(dāng)用戶遇到某些內(nèi)容時(shí)，其直接環(huán)境的影響可能促使他們與之互動(dòng)，例如轉(zhuǎn)發(fā)或點(diǎn)贊。為了量化群體環(huán)境對(duì)用戶行為的影響，我們首先介紹與網(wǎng)絡(luò)相關(guān)的必要定義。

提出的框架

如圖 1 所示，所提出的框架包含三個(gè)主要組成部分：(1) 數(shù)據(jù)和節(jié)點(diǎn)特征生成，(2) 雙曲超圖訓(xùn)練，以及 (3) 社會(huì)影響預(yù)測(cè)。每個(gè)元素將在以下部分詳細(xì)說(shuō)明。

實(shí)驗(yàn)

在本節(jié)中，我們描述實(shí)驗(yàn)配置，然后將所提出的框架與七種基線方法進(jìn)行比較，以定量評(píng)估所提出的神經(jīng)網(wǎng)絡(luò) HHGCN 的性能。此外，我們進(jìn)行了一項(xiàng)消融研究，以驗(yàn)證框架中每個(gè)獨(dú)立組件的有效性。

結(jié)論

在本文中，我們研究社會(huì)行動(dòng)預(yù)測(cè)，這是一個(gè)旨在評(píng)估施加于目標(biāo)用戶的群體影響并預(yù)測(cè)用戶轉(zhuǎn)發(fā)行為的重要問(wèn)題。我們介紹了一個(gè)基于新穎圖神經(jīng)網(wǎng)絡(luò)架構(gòu) HHGCN 的端到端框架，旨在捕捉社會(huì)影響的預(yù)測(cè)信號(hào)。我們首先專(zhuān)注于學(xué)習(xí)拓?fù)涮卣鞑⒉蹲饺后w環(huán)境的特征以建模社會(huì)影響結(jié)構(gòu)。

。。。。。。。。

原文鏈接：https://www.sciencedirect.com/science/article/abs/pii/S002002552600006X?via%3Dihub