【儀表網(wǎng) 研發(fā)快訊】近日，山東大學(xué)軟件學(xué)院余國(guó)先教授團(tuán)隊(duì)在可信人工智能領(lǐng)域取得系列進(jìn)展，多項(xiàng)研究成果在IEEE Transactions on Knowledge and Data Engineering(TKDE)、IEEE Transactions on Dependable and Secure Computing(TDSC)、ACM Transactions on Information Systems (TOIS)、KDD 2025、IJCAI 2025、《計(jì)算機(jī)學(xué)報(bào)》和《中國(guó)科學(xué)：信息科學(xué)》發(fā)表接收，山東大學(xué)均為第一作者和通訊作者單位。
 

　　1. MultiCFL
 

　　多維度因果公平框架。本成果“Multi-dimensional Causality Fairness Learning”被數(shù)據(jù)挖掘國(guó)際期刊IEEE TKDE接收。文章第一作者為山東大學(xué)博士研究生蘇聰，通訊作者為余國(guó)先教授。
 

　　該研究提出多維度歧視效應(yīng)分析方法，同時(shí)建模個(gè)體維度和宏觀維度的交叉歧視效應(yīng)；構(gòu)建因果鏈?zhǔn)阶兎滞评砟Ｐ停东@未觀測(cè)到的潛在混淆因子并消除數(shù)據(jù)中的多維度歧視性效應(yīng)，突破傳統(tǒng)個(gè)體維度分析的局限性，能夠?yàn)檎咧贫ㄕ吆推髽I(yè)推進(jìn)落實(shí)公平性、負(fù)責(zé)任的人工智能提供技術(shù)支撐，避免多維交叉歧視引發(fā)的倫理風(fēng)險(xiǎn)。
 

　　2. Sophon
 

　　Sophon: 基于雙重信任機(jī)制的拜占庭魯棒聯(lián)邦學(xué)習(xí)。本成果“Sophon: Byzantine-robust Federated Learning via Dual Trust Mechanism” 被人工智能安全領(lǐng)域期刊TDSC接收。文章第一作者為山東大學(xué)碩士研究生桂孝強(qiáng)，通訊作者為余國(guó)先教授。
 

　　該研究為服務(wù)器歸一化客戶端梯度，并結(jié)合一致性與多樣性雙重信任得分為梯度分配聚合權(quán)重，有效抵御了異質(zhì)數(shù)據(jù)場(chǎng)景下的拜占庭攻擊，確保聯(lián)邦訓(xùn)練的模型性能不被破壞，為聯(lián)邦學(xué)習(xí)提供了安全可靠的訓(xùn)練方案。
 

　　3. MultiVerse
 

　　聯(lián)邦推薦中的交互隱私漏洞及其無(wú)損防御。本成果“Interaction Privacy Vulnerability in Federated Recommendation and Lossless Countermeasure”被人工智能領(lǐng)域期刊TOIS接收。文章第一作者為山東大學(xué)碩士研究生桂孝強(qiáng)，通訊作者為余國(guó)先教授。
 

　　該研究首先揭示了聯(lián)邦推薦中的用戶交互隱私泄露風(fēng)險(xiǎn)，進(jìn)而提出了一種隱私保護(hù)方法MultiVerse，通過(guò)在本地訓(xùn)練時(shí)引入偽交互項(xiàng)，并結(jié)合精心設(shè)計(jì)的訓(xùn)練、優(yōu)化、精煉和去噪四步策略，在確保無(wú)損模型性能的同時(shí)顯著降低了交互隱私泄露風(fēng)險(xiǎn)。為聯(lián)邦推薦中的用戶交互隱私保護(hù)提供了安全可靠的解決方案。
 

　　4. FedPANO
 

　　基于參數(shù)解耦與節(jié)點(diǎn)增強(qiáng)的個(gè)性化聯(lián)邦學(xué)習(xí)方法。本成果“Personalized federated few-shot node classification”由信息科學(xué)領(lǐng)域期刊Science China Information Sciences接收，文章第一作者為山東大學(xué)博士研究生趙云峰，通訊作者為余國(guó)先教授。
 

　　該工作研究了一個(gè)實(shí)際且具有挑戰(zhàn)性的個(gè)性化聯(lián)邦學(xué)習(xí)問(wèn)題，客戶端具有異構(gòu)任務(wù)，但訓(xùn)練節(jié)點(diǎn)稀少。提出的基于參數(shù)解耦與節(jié)點(diǎn)增強(qiáng)的聯(lián)邦學(xué)習(xí)方法(FedPANO)首先將本地模型分離為圖神經(jīng)網(wǎng)絡(luò)(GNN)和分類器，用以處理客戶端之間的任務(wù)差異。GNN通過(guò)聯(lián)邦學(xué)習(xí)訓(xùn)練，以捕捉客戶端之間網(wǎng)絡(luò)節(jié)點(diǎn)的共享知識(shí)，而分類器則為每個(gè)客戶端量身定制并單獨(dú)訓(xùn)練。此外，F(xiàn)edPANO還引入了一個(gè)通用分類器，以鼓勵(lì)GNN對(duì)共享信息的學(xué)習(xí)。接著，F(xiàn)edPANO進(jìn)一步提出了節(jié)點(diǎn)生成器及其本地和協(xié)作訓(xùn)練策略，以應(yīng)對(duì)客戶端節(jié)點(diǎn)稀缺的問(wèn)題。
 

　　5. CausalSME
 

　　面向多環(huán)境數(shù)據(jù)分布偏移的因果發(fā)現(xiàn)。本成果“Causal Discovery from Shifted Multiple Environments”被國(guó)際數(shù)據(jù)挖掘會(huì)議KDD 2025接收。文章第一作者為山東大學(xué)博士研究生楊德智，通訊作者為軟件學(xué)院王峻。
 

　　該算法在環(huán)境信息未知的情況下，自動(dòng)識(shí)別樣本所屬的環(huán)境和每個(gè)環(huán)境下的未觀測(cè)因果效應(yīng)，從具有未觀測(cè)分布偏移的混合多環(huán)境數(shù)據(jù)中學(xué)習(xí)因果有向無(wú)環(huán)圖。算法還從理論上證明了存在未觀測(cè)分布偏移的混合多環(huán)境中因果結(jié)構(gòu)的可識(shí)別性，并在合成和真實(shí)數(shù)據(jù)集的因果關(guān)系發(fā)現(xiàn)任務(wù)中表現(xiàn)出優(yōu)秀的準(zhǔn)確性和魯棒性。該研究得到國(guó)家重點(diǎn)研發(fā)計(jì)劃青年科學(xué)家項(xiàng)目、國(guó)家自然科學(xué)基金重點(diǎn)項(xiàng)目與面上項(xiàng)目的資助和支持。
 

　　6. ASGM
 

　　解釋糾偏框架：一種基于標(biāo)準(zhǔn)解釋的歸因分?jǐn)?shù)生成方法。本成果“Explanation Rectification Framework: An Attribution Score Generation Method Based on Standard Explanations”被國(guó)內(nèi)頂級(jí)期刊計(jì)算機(jī)學(xué)報(bào)接收。文章第一作者為山東大學(xué)碩士研究生邢鐘毓，通訊作者為余國(guó)先教授。
 

　　該研究針對(duì)模型可解釋性中歸因分?jǐn)?shù)因隨機(jī)因素等導(dǎo)致不一致的關(guān)鍵挑戰(zhàn)，首先從理論上揭示了解釋不一致與模型不確定性的內(nèi)在聯(lián)系。據(jù)此提出了一個(gè)歸因分?jǐn)?shù)生成糾偏框架ASGM，該框架從少量抽樣模型中高效生成穩(wěn)定且能代表羅生門效應(yīng)集或規(guī)格不足集的歸因分?jǐn)?shù)解釋，顯著提升了歸因解釋的效率和穩(wěn)定性。該研究得到國(guó)家重點(diǎn)研發(fā)計(jì)劃項(xiàng)目、國(guó)家自然科學(xué)基金重點(diǎn)項(xiàng)目和面上項(xiàng)目的資助和支持。
 

　　7. CMClusts
 

　　對(duì)齊用戶興趣的對(duì)比多聚類：通過(guò)數(shù)據(jù)增強(qiáng)和對(duì)比學(xué)習(xí)捕捉用戶感興趣的聚類，實(shí)現(xiàn)用戶興趣導(dǎo)向的高質(zhì)量、可解釋、多樣化的聚類模式挖掘。本成果“Aligning Contrastive Multiple Clusterings with User Interests”被人工智能領(lǐng)域國(guó)際會(huì)議IJCAI接收。文章的共同第一作者為山東大學(xué)碩士研究生張珊、博士研究生任良瑞，通訊作者為余國(guó)先教授。
 

　　該研究能根據(jù)用戶提供的興趣引導(dǎo)生成多樣化、低冗余的聚類。基于用戶興趣生成多角度的數(shù)據(jù)增強(qiáng)，并利用聚類級(jí)對(duì)比學(xué)習(xí)捕捉用戶感興趣的聚類特征，以提高聚類質(zhì)量和可解釋性。另外，聚類級(jí)對(duì)比學(xué)習(xí)將不同的聚類類型作為負(fù)樣本，增大其距離實(shí)現(xiàn)多樣性聚類。該研究得到國(guó)家重點(diǎn)研發(fā)計(jì)劃青年科學(xué)家項(xiàng)目、國(guó)家自然科學(xué)基金重點(diǎn)項(xiàng)目與面上項(xiàng)目的資助和支持。
 

　　8. I2MVC
 

　　基于知識(shí)蒸餾的無(wú)插補(bǔ)不完整多視圖聚類。本成果“Imputation-free Incomplete Multi-view Clustering via Knowledge Distillation”被人工智能領(lǐng)域頂級(jí)國(guó)際會(huì)議IJCAI接收。論文第一作者為山東大學(xué)博士研究生吳本鈺，通訊作者為山東大學(xué)杜威和余國(guó)先。
 

　　該研究針對(duì)不完整多視圖數(shù)據(jù)聚類中傳統(tǒng)插補(bǔ)方法存在的誤差累積和效率問(wèn)題，團(tuán)隊(duì)提出無(wú)插補(bǔ)不完整多視圖聚類模型I2MVC，通過(guò)任務(wù)分解與知識(shí)蒸餾機(jī)制，利用完整視圖聚類信息指導(dǎo)不完全多視圖數(shù)據(jù)的有效聚類，實(shí)現(xiàn)在視圖缺失場(chǎng)景下的穩(wěn)定性和高效性。該研究得到國(guó)家重點(diǎn)研發(fā)計(jì)劃項(xiàng)目、國(guó)家自然科學(xué)基金重點(diǎn)項(xiàng)目和面上項(xiàng)目的資助和支持。
 

　　IEEE TKDE、IEEE TDSC為IEEE旗下人工智能領(lǐng)域頂級(jí)期刊，是中國(guó)計(jì)算機(jī)學(xué)會(huì)推薦的A類學(xué)術(shù)期刊；ACM TOIS為ACM旗下大數(shù)據(jù)領(lǐng)域頂級(jí)期刊，是中國(guó)計(jì)算機(jī)學(xué)會(huì)推薦的A類學(xué)術(shù)期刊；計(jì)算機(jī)學(xué)報(bào)為中國(guó)計(jì)算機(jī)學(xué)會(huì)主辦的國(guó)內(nèi)頂級(jí)期刊，是中國(guó)計(jì)算機(jī)學(xué)會(huì)推薦的A類中文學(xué)術(shù)期刊；《中國(guó)科學(xué)：信息科學(xué)(英文版)》是由中國(guó)科學(xué)院、國(guó)家自然科學(xué)基金委員會(huì)主辦的信息科學(xué)領(lǐng)域知名期刊，是中國(guó)計(jì)算機(jī)學(xué)會(huì)推薦的A類中文學(xué)術(shù)期刊；KDD是數(shù)據(jù)挖掘領(lǐng)域的頂級(jí)學(xué)術(shù)會(huì)議，由 ACM 的數(shù)據(jù)挖掘及知識(shí)發(fā)現(xiàn)專委會(huì)(SIGKDD)主辦，是中國(guó)計(jì)算機(jī)學(xué)會(huì)推薦的A類學(xué)術(shù)會(huì)議；IJCAI是人工智能領(lǐng)域最具影響力的國(guó)際會(huì)議之一，也是中國(guó)計(jì)算機(jī)學(xué)會(huì)推薦的A類學(xué)術(shù)會(huì)議。
 

　　余國(guó)先教授，山東大學(xué)杰出中青年學(xué)者、齊魯青年學(xué)者、小米青年學(xué)者，長(zhǎng)期從事人工智能理論方法及其在生物醫(yī)學(xué)信息分析中的應(yīng)用研究，聚焦多模態(tài)、公平性、安全性和可解釋性等可信人工智能核心方向，相關(guān)成果在IEEE TKDE/TDSC/TNNLS、ACM TOIS/TKDD、NAR、KDD、AAAI、IJCAI等主流期刊或會(huì)議發(fā)表，主持國(guó)家級(jí)青年人才計(jì)劃項(xiàng)目、國(guó)家重點(diǎn)研發(fā)青年科學(xué)家項(xiàng)目、國(guó)家自然科學(xué)基金、山東省杰青基金等項(xiàng)目。