Robust Node Classification via Noise-robust Views and Prototype Relabeling

 본 문서에서는 CIKM 2026 논문인 “Robust Node Classification via Noise-robust Views and Prototype Relabeling”을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다.

  • Title: Robust Node Classification via Noise-robust Views and Prototype Relabeling
  • Authors: Hoyoung Yoon, Junghun Kim, and U Kang
  • Conference: ACM International Conference on Information and Knowledge Management (CIKM) 2026

Node Classification under Structural Label Infection

소셜 네트워크에서는 사용자의 관심사를 분류하고, 거래 네트워크에서는 판매자의 위험도를 판단합니다. 이처럼 객체를 노드(node), 객체 사이의 관계를 간선(edge)으로 표현한 그래프에서 각 노드의 클래스를 예측하는 문제를 노드 분류(node classification)라고 합니다. 그래프 신경망(Graph Neural Network, GNN)은 노드 자체의 특징과 연결된 이웃의 정보를 함께 활용하여 이러한 문제를 해결합니다.

하지만 연결된 노드가 항상 같은 클래스에 속하는 것은 아닙니다. 예를 들어 사진에 관심이 많은 사용자가 여행에 관심이 많은 사용자들과 자주 교류할 수 있습니다. 이처럼 서로 다른 클래스의 노드가 연결되는 경향을 이종친화성(heterophily)이라고 합니다. 이러한 그래프에서는 가까운 이웃의 정보를 무조건 많이 반영하기보다, 어느 범위의 이웃이 분류에 도움이 되는지 구분하는 것이 중요합니다.

여기에 학습 라벨까지 잘못되어 있다면 어떻게 될까요? 실제 환경에서는 노드 자체에 대한 정보가 부족하여 주변 관계를 참고해 라벨을 붙이는 경우가 있습니다. 판매자의 행동을 충분히 확인하지 못한 채 거래 상대의 평판으로 판매자를 분류하거나, 어떤 계정과 주로 교류하는지를 보고 계정의 성격을 판단하는 상황이 그 예입니다.

이때 라벨은 노드의 실제 클래스보다 주변에서 가장 많은 클래스를 따라갈 수 있습니다. 본 논문은 이러한 현상을 구조적 라벨 감염(structural label infection)이라고 정의합니다. 무작위로 라벨이 틀리는 경우와 달리, 잘못된 라벨이 그래프의 연결 구조와 일치한다는 점이 특징입니다


그림 1. 구조적 라벨 감염이 만드는 가짜 동종친화성(fake homophily)

그림 1에서는 원래 Photo 클래스인 노드의 라벨이 주변의 다수 클래스인 Travel로 바뀝니다. 그 결과 직접 연결된 이웃이 관측된 라벨과 잘 맞아 보이게 됩니다.

여기서 hop은 간선을 몇 번 따라가서 도달하는지를 나타냅니다. 1-hop은 직접 연결된 이웃, 2-hop은 두 번의 연결을 거쳐 도달하는 범위입니다. 그림에서는 실제 클래스를 판단하는 데 2-hop 정보가 더 유용하지만, 라벨이 감염된 뒤에는 1-hop 정보가 더 유용한 것처럼 보입니다.

이러한 라벨로 GNN을 학습하면 잘못된 1-hop 정보를 더 많이 반영하도록 학습될 수 있습니다. 이웃 정보가 잘못된 라벨을 반복적으로 뒷받침하기 때문에, 감염된 노드에 대해서도 높은 확신도의 예측이 만들어집니다. 따라서 손실이 크거나 확신도가 낮은 노드만 걸러내는 방법으로는 오류를 찾기 어렵습니다.

결국 잘못된 라벨이 이웃 정보의 활용 방식을 왜곡하고, 왜곡된 이웃 정보가 다시 잘못된 라벨을 강화하는 악순환이 발생합니다.

따라서 본 논문은 다음과 같은 질문을 다룹니다.

“학습 라벨이 이웃의 다수 클래스를 따라 잘못 붙어 있을 때, 잘못된 이웃 정보에 휘둘리지 않고 노드를 정확하게 분류할 수 있을까?”

이를 위해 본 논문에서는 RECOVER (Robust Node Classification via Noise-robust Views and Prototype Relabeling) 를 제안합니다.

Proposed Method

RECOVER의 핵심 아이디어는 여러 기준으로 이웃 범위의 중요도를 판단하여 정보 전파를 안정화하고, 신뢰할 수 있는 클래스 대표점을 이용해 잘못된 라벨을 교정하는 것입니다.

그림 2. RECOVER의 전체 구조

그림 2와 같이 RECOVER는 hop별 중요도를 평가하는 보조 점수, 각 hop에 사용할 기준을 선택하는 라우팅, 그리고 프로토타입 기반 라벨 교정으로 구성됩니다.

RECOVER는 GPR-GNN을 기본 구조로 사용합니다. 먼저 노드 자체의 특징으로 클래스별 점수를 계산한 뒤, 이를 여러 hop으로 전파하고 hop별 가중치로 결합하여 최종 예측을 얻습니다. 이때 중요한 것은 가중치를 잘못된 학습 라벨에만 의존하여 정하지 않는 것입니다.

Two Auxiliary Hop-importance Scores

일반적인 학습에서는 분류 손실을 줄이는 방향으로 hop별 가중치를 조정합니다. 그러나 구조적 라벨 감염이 있으면 잘못된 라벨을 잘 설명하는 이웃 범위가 유리해집니다. RECOVER는 이를 보완하기 위해 특징 기반 점수와 신뢰도 기반 점수를 계산합니다.

특징 기반 점수(feature-based score)는 학습 라벨을 사용하지 않고 노드의 입력 특징을 비교합니다. 원래 노드 특징과 각 hop으로 전파한 특징의 코사인 유사도를 계산한 뒤, 전체 노드에 대해 평균하고 정규화하여 hop별 점수를 얻습니다.

이 점수는 학습 라벨과 독립적인 참고 기준을 제공합니다. 라벨만 같아 보이는 이웃과 실제 특징도 유사한 이웃을 구분하는 데 도움을 줄 수 있습니다.

신뢰도 기반 점수(confidence-based score)는 높은 확신도로 예측된 노드들 사이에서 같은 클래스의 지지가 얼마나 큰지 측정합니다. 이전 학습 단계의 예측을 이용하여, 각 hop에서 같은 클래스를 높은 확신도로 예측하는 노드들의 지지를 계산합니다.

예를 들어 어떤 노드가 Photo로 예측되고, 2-hop 범위에서도 Photo를 확신하는 노드들의 지지가 크다면 2-hop에 높은 점수를 줄 수 있습니다. 논문에서는 확신도가 0.7 이상인 노드를 사용합니다.

특징 기반 점수는 라벨에 의존하지 않는 기준을 제공하고, 신뢰도 기반 점수는 현재 분류 과제에서 얻은 정보를 반영합니다. RECOVER는 두 점수를 기존의 최적화 기반 가중치와 함께 활용합니다.

Hop-wise Score Routing

모든 hop에서 같은 평가 기준이 가장 유용한 것은 아닙니다. 예측이 불안정한 범위에서는 입력 특징이 더 좋은 참고점이 될 수 있고, 예측이 안정된 범위에서는 신뢰도 기반 점수가 유용할 수 있습니다. 학습 라벨이 충분히 신뢰할 만한 경우에는 분류 손실로 학습한 가중치도 도움이 됩니다.

RECOVER는 각 hop에서 특징 기반 점수, 신뢰도 기반 점수, 최적화 기반 가중치 중 어떤 기준을 사용할지 선택하는 라우팅(routing)을 학습합니다. 선택된 점수들을 hop 전체에 걸쳐 정규화하여 최종 전파 가중치를 계산합니다.

예를 들어 1-hop에서는 특징 기반 점수를, 2-hop에서는 신뢰도 기반 점수를 사용할 수 있습니다. 이를 통해 감염된 라벨을 잘 맞춘다는 이유만으로 특정 이웃 범위에 과도한 가중치가 주어지는 현상을 줄이고자 합니다.

Prototype-based Relabeling

정보 전파를 안정화하더라도 잘못된 학습 라벨은 여전히 남아 있습니다. RECOVER는 신뢰할 수 있는 노드로 클래스의 대표점을 만들고, 이를 기준으로 라벨을 반복적으로 교정합니다.

먼저 AUM(Area Under the Margin)을 이용하여 신뢰할 수 있는 노드를 선택합니다. AUM은 학습 기간 동안 현재 라벨의 점수가 가장 강한 다른 클래스의 점수보다 얼마나 높은지를 평균한 값입니다. 각 클래스에서 AUM이 높은 노드를 선택하여, 학습 과정에서 현재 라벨이 지속적으로 지지받는 노드를 찾습니다.

이후 선택한 노드들의 임베딩으로 클래스 프로토타입(prototype)을 구성합니다. 프로토타입은 해당 클래스를 대표하는 벡터입니다. 같은 클래스 안에서도 다양한 특징이 나타날 수 있으므로, K-means를 적용하여 클래스마다 여러 개의 하위 프로토타입을 만듭니다.

라벨 교정 단계에서는 각 노드와 클래스별 프로토타입의 유사도를 비교합니다. 코사인 유사도를 0부터 1 사이로 변환하고, 각 클래스의 프로토타입 중 가장 높은 유사도를 그 클래스의 점수로 사용합니다. 가장 높은 클래스 점수가 기준값인 0.9 이상이면 해당 클래스를 새로운 라벨로 채택합니다. 이 점수는 분류 확률이 아니라 변환된 유사도입니다.

같은 조건을 만족하는 미라벨 노드도 학습 대상에 추가합니다. 또한 서로 다른 클래스의 프로토타입이 비슷한 방향으로 몰리지 않도록 분리 손실을 적용합니다.

RECOVER는 이러한 학습과 라벨 교정을 반복합니다. 안정화된 표현을 이용해 라벨을 개선하고, 개선된 라벨을 다음 학습에 활용하여 구조적 라벨 감염의 영향을 줄입니다.

Experiments

본 논문에서는 Cora, Pubmed, Blogcatalog, Flickr, ACM-PSP의 다섯 가지 실제 데이터셋을 사용합니다. 무작위 라벨 노이즈는 다섯 데이터셋 모두에서 평가하고, 구조적 라벨 감염은 Blogcatalog, Flickr, ACM-PSP에서 평가합니다.

구조적 라벨 감염 실험에서는 학습 라벨을 이웃의 다수 클래스로 바꾸어 통제된 감염 환경을 구성합니다. 모델은 이렇게 오염된 학습 라벨을 사용하여 학습합니다. 감염률은 학습 노드 중 라벨이 잘못된 노드의 비율을 기준으로 설정하며, 10%, 30%, 50% 조건을 평가합니다. ACM-PSP는 가능한 라벨 변경이 30%에서 포화되어 30%까지만 평가합니다.

학습, 검증, 테스트 데이터의 비율은 60:20:20입니다. 서로 다른 난수 시드로 10회 실행한 테스트 정확도의 평균과 표준편차를 보고합니다.

비교 대상으로는 GPR-GNN, Co-teaching, Forward, APL, NRGNN, RTGNN, TSS, CRGNN, RNCGLN, PIGNN, R2LP를 사용합니다.

Classification Accuracy

표 1. 구조적 라벨 감염에서 RECOVER와 각 조건의 최고 비교 기법의 테스트 정확도 비교

표 1에서 RECOVER는 평가한 구조적 라벨 감염의 모든 조건에서 가장 높은 평균 정확도를 기록합니다.

특히 Flickr의 50% 감염 조건에서는 가장 좋은 비교 기법인 GPR-GNN의 정확도가 58.60%인 반면, RECOVER는 88.01%를 기록합니다. 이는 29.41%p의 정확도 개선입니다.

Blogcatalog의 50% 감염 조건에서도 RECOVER는 94.32%의 정확도를 기록하여, 최고 비교 기법의 79.00%보다 15.32%p 높은 성능을 보입니다. ACM-PSP의 30% 감염 조건에서는 최고 비교 기법의 81.39%보다 6.20%p 높은 87.59%를 기록합니다.

그림 3. 구조적 라벨 감염률에 따른 RECOVER와 각 조건의 최고 비교 기법의 정확도 변화

그림 3은 감염률이 높아질 때 정확도가 어떻게 변하는지 보여줍니다. 오차 막대는 표준편차이며, 비교 기법은 각 감염률에서 가장 높은 평균 정확도를 기록한 기법이므로 조건마다 달라질 수 있습니다.

Blogcatalog와 Flickr에서는 감염이 심해질수록 RECOVER와 비교 기법 사이의 차이가 커집니다. 이는 잘못된 이웃 정보의 영향과 학습 라벨의 오류를 함께 다루는 접근이 구조적 감염 환경에서 유용함을 보여줍니다.

다만 RECOVER가 모든 종류의 라벨 노이즈에서 항상 가장 좋은 것은 아닙니다. 예를 들어 Pubmed의 10% 무작위 노이즈에서는 GPR-GNN이 88.44%, RECOVER가 86.89%를 기록합니다. 본 논문의 주요 성과는 그래프 구조와 결합된 라벨 오류에 대한 강건성에 있습니다.

Ablation Study


표 2. 30% 및 50% 구조적 라벨 감염 조건에서의 구성 요소 제거 실험

수치는 테스트 정확도의 평균과 표준편차입니다.

특징 기반 점수와 신뢰도 기반 점수를 모두 제거하면 Blogcatalog의 정확도는 30% 감염 조건에서 94.73%에서 88.22%로, 50% 감염 조건에서 94.32%에서 87.35%로 낮아집니다. 이는 두 보조 점수가 분류 손실에만 의존하는 hop 선택을 보완한다는 것을 보여줍니다. 한 점수만 제거했을 때의 변화는 상대적으로 작으며, 일부 조건에서는 정확도가 소폭 높아지기도 합니다. 따라서 두 점수는 함께 사용될 때 hop 선택을 보완하는 역할을 한다고 볼 수 있습니다.

라벨 교정을 제거하면 Flickr의 정확도는 30% 감염 조건에서 90.50%에서 83.72%로, 50% 감염 조건에서 88.01%에서 75.88%로 낮아집니다. 이 설정에서는 프로토타입 기반 라벨 수정과 학습 대상 확장을 함께 제거합니다. 특히 감염률이 높을 때 성능 하락이 더 크게 나타나, 정보 전파를 안정화하는 것과 함께 남아 있는 학습 라벨의 오류를 수정하는 과정도 중요함을 확인할 수 있습니다.

Hop-wise Routing and Embedding Visualization

그림 4. 학습에 따른 GPR-GNN과 RECOVER의 hop별 전파 가중치 변화

그림 4는 RECOVER가 이웃 범위의 중요도를 어떻게 조정하는지 보여줍니다. 이 분석에서 GPR-GNN은 감염된 라벨과 일치하는 1-hop 정보에 점점 더 큰 가중치를 부여합니다. 반면 RECOVER는 학습이 진행되면서 유용한 2-hop 정보의 비중을 높입니다.

이는 RECOVER가 분류에 도움이 되는 범위로 정보 전파를 조정하는 모습을 보여줍니다. 모든 그래프에서 2-hop이 가장 좋다는 의미는 아니며, 감염된 라벨이 유리하게 만드는 이웃 범위를 그대로 따르지 않는다는 점이 중요합니다.

그림 5. Blogcatalog의 50% 구조적 라벨 감염 조건에서의 t-SNE 시각화

그림 5는 노드 임베딩을 2차원으로 투영한 결과입니다. 검은 테두리는 감염된 노드를, 큰 기호는 학습된 프로토타입을 나타냅니다.

GPR-GNN에서는 서로 다른 클래스의 표현이 겹치는 반면, RECOVER에서는 클래스별로 더 구분되는 군집을 관찰할 수 있습니다. 감염된 노드도 해당 클래스의 프로토타입 주변에 모이는 모습을 보입니다. 이러한 시각화는 프로토타입을 이용한 학습이 클래스별 표현을 정리하는 데 도움이 된다는 정성적 근거를 제공합니다.

Scalability

그림 6. Flickr에서 유지한 노드와 간선의 비율에 따른 RECOVER의 전체 학습 시간

그래프 크기에 따른 계산 비용을 확인하기 위해 Flickr에서 노드 또는 간선을 무작위로 줄여 학습 시간을 측정합니다.

유지한 노드 비율이 10%에서 100%로 증가할 때 학습 시간은 약 58초에서 117초로 증가하며, 측정 범위에서 거의 선형적인 경향을 보입니다. 간선 비율을 조절한 별도 실험에서는 약 120초에서 137초로 증가하여 상대적으로 완만한 변화를 보입니다.

이는 노드별 특징 계산, 프로토타입 비교, 라벨 교정이 반복되는 RECOVER의 계산 특성을 반영합니다.

Conclusion

본 글에서는 CIKM 2026 논문인 “Robust Node Classification via Noise-robust Views and Prototype Relabeling”을 소개하였습니다.

본 논문은 학습 라벨이 이웃의 다수 클래스를 따라 잘못 붙는 구조적 라벨 감염을 다룹니다. 이러한 오류는 잘못된 라벨을 이웃과 일관된 정보처럼 보이게 하여, 그래프 신경망이 오류를 높은 확신도로 학습하게 만들 수 있습니다.

RECOVER는 입력 특징과 예측 신뢰도를 이용해 hop별 중요도를 평가하고, 각 hop에서 사용할 기준을 선택하여 정보 전파를 안정화합니다. 이어 신뢰할 수 있는 노드로 클래스 프로토타입을 구성하고, 프로토타입과의 유사도를 바탕으로 라벨을 반복적으로 교정합니다. 실험에서는 구조적 라벨 감염 조건에서 최고 비교 기법 대비 최대 29.41%p의 정확도 개선을 확인합니다.

이러한 접근은 다양한 관계 기반 분류 문제에 활용될 수 있습니다. 예를 들어 소셜 네트워크에서는 주변 사용자의 관심사 때문에 잘못 분류된 계정의 관심사를 추정하는 데 활용할 수 있습니다. 거래 네트워크에서는 위험한 거래 상대와 연결되어 있다는 이유만으로 잘못 분류된 판매자의 위험도를 판단하는 데 도움이 될 수 있습니다. 또한 논문 인용 네트워크에서는 다른 분야의 논문을 많이 인용하여 잘못 분류된 논문의 연구 분야를 추정하는 데 적용을 고려할 수 있습니다.

이 연구는 그래프의 연결 구조가 예측에 유용한 정보인 동시에, 잘못된 라벨을 강화하는 원인이 될 수도 있다는 점을 보여줍니다. RECOVER는 이웃 정보의 활용 방식과 학습 라벨을 함께 개선하여 이러한 문제에 대응합니다. 이는 관계 정보를 참고해 라벨을 부여하는 환경에서 분류 모델의 신뢰성을 높이고, 수작업으로 모든 라벨을 다시 검토해야 하는 부담을 줄이는 방향을 제시한다는 의의가 있습니다.

본 논문에 대한 자세한 정보는 [링크]에서 확인할 수 있습니다.