Skip to main content

Data Mining Lab. Blog

Search This Blog

Pages

Showing posts from April, 2026

Posts

PiGLeT: Probabilistic Message Passing for Semi-supervised Link Sign Prediction

Posted by Data Mining Lab. 날짜: 4/01/2026

Data Mining Lab.

Go to DMLAB Website

본 블로그에서는 서울대학교
컴퓨터공학부 데이터마이닝

연구실에서 진행하고 있는

최신 연구를 소개합니다.

Archive

2026 4

2025 12
2024 12
2023 12
2022 12
2021 12
2020 12
2019 1
- December 2019 1

Show more Show less

Popular Posts

Unsupervised Multi-Source Domain Adaptation with No Observable Source Data

본 문서에서는 PLOS ONE 저널에 게재된 " Unsupervised Multi-Source Domain Adaptation with No Observable Source Data " 논문을 소개합니다. 논문의 상세한 정보는 다음과 같습니다. Title: Unsupervised Multi-Source Domain Adaptation with No Observable Source Data Authors: Hyunsik Jeon, Seongmin Lee, and U Kang Journal: PLOS ONE (2021) Unsupervised Multi-Source Domain Adaptation UMDA (Unsupervised Multi-source Domain Adaptation)는 라벨(label)이 있는 여러 소스 도메인(source domain)의 지식을 라벨이 없는 타겟 도메인(target domain)으로 적응(adaptation)하여 타겟 라벨을 정확히 예측하는 것을 목표로 합니다. 기존의 UMDA 기법들은 소스 도메인의 데이터를 모두 관측할 수 있다는 가정을 합니다. 그러나 실세계 예시에서 소스 도메인의 데이터를 관측하지 못하는 상황이 많이 있습니다. 예를 들어, 한 병원에서 질병을 예측하는 분류기를 학습할 때 다른 병원들의 충분한 데이터에서 학습한 정보를 적응하는 것을 목표로 할 수 있습니다. 하지만 환자들의 개인 정보는 개인 정보 보호의 이유로 직접 관측할 수 없기 때문에 기존 UMDA 기법들을 이용할 수 없습니다. 이처럼 기존의 UMDA 기법들은 개인 정보나 정보의 기밀성 등의 이유로 여러 실세계 상황에서 활용할 수 없습니다. 본 논문에서는 소스 데이터를 관측할 수 없는 상황에서 여러 소스 도메인의 정보를 타겟 도메인으로 적응하여 타겟 라벨을 정확히 예측하는 문제를 다룹니다. 기존의 UMDA 기법들은 모든 소스 데이터와 타겟 데이터를 관측할 수 있다는 점을 이용하여 잠재 공간(latent s...

SwaGNER: Leveraging Span-aware Grid Transformers for Accurate Nested Named Entity Recognition

본 문서에서는 2025년 CIKM 에서 발표된 "SwaGNER: Leveraging Span-aware Grid Transformers for Accurate Nested Named Entity Recognition" 논문을 소개합니다 . 논문에 대한 상세한 정보는 다음과 같습니다. Title : SwaGNER: Leveraging Span-aware Grid Transformers for Accurate Nested Named Entity Recognition Authors : SeungJoo Lee, Yong-chan Park, and U Kang Conference : ACM International Conference on Information and Knowledge Management (CIKM) 2025 Nested NER & Span-based Methods 중첩 개체명 인식(Nested NER). 자연어 처리(NLP)의 다양한 응용 분야에서 그 중요성이 대두되고 있는 과제입니다. 현실 세계의 텍스트 데이터에서 개체명은 하나의 개체가 다른 개체 내부에 포함되는 복잡한 중첩 구조(nested structure)를 보이는 경우가 많습니다. 예를 들어, 그림 1에서 보이듯이, "Professor Jane Smith"라는 문구에서 "Professor"는 직함(TITLE), "Smith"는 사람(PER)으로 각각 분류되면서도, 이 단어들이 모두 합쳐진 "Professor Jane Smith" 전체 역시 하나의 거대한 사람(PER) 개체로 묶이게 됩니다. 이처럼 텍스트 내에서 하나의 토큰이 여러 개체에 속하거나 서로 겹치는(overlapping) 개체 스팬들을 정확하게 식별하고 분류하는 작업이 바로 중첩 개체명 인식입니다. 스팬 기반 방법(Span-based Methods). 문장 내에서 가능한 모든 연속 토큰 구간(스팬)을 후보로 생성한 후, 각 스팬...

Entity-Aware Generative Retrieval for Personalized Contexts

본 문서에서는 CIKM 2025 학회에서 발표될 "Entity-Aware Generative Retrieval for Personalized Contexts" 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title: Entity-Aware Generative Retrieval for Personalized Contexts Authors: Jihyeong Jeon, Jiwon Lee, Cheol Ryu, and U Kang Conference: The 34th ACM International Conference on Information and Knowledge Management Personalized Information Retrieval 개인화 정보 검색(Personalized Information Retrieval, PIR)은 “어제 친구와 식사한 레스토랑 이름이 뭐였지?”처럼, 어떤 친구를 가리키는지 혹은 구체적으로 어느 시점을 의미하는지 모호한 표현이 포함된 질문에 대해, 관련 문서를 정확히 찾아내는 문제를 다룹니다. 하지만 기존 정보 검색(Information Retrieval) 기법에서 널리 사용된 BM25 같은 희소 검색(Sparse Retrieval)이나 Dense Retriever는 단어 일치나 임베딩 유사도에만 의존하기 때문에, 애칭·개인 장소·시간 표현 등 사용자 고유의 맥락을 처리하는 데 한계가 있습니다. 최근 생성 기반 검색(Generative Retrieval) 기법이 주목받고 있지만, 이 역시 엔티티 모호성(Entity Ambiguity)과 개인화 문제를 충분히 해결하지는 못했습니다. 본 논문에서는 이러한 “사용자의 질문에 모호성이 포함되어 있을 때도 어떻게 관련 문서를 정확히 찾을 수 있을까?”라는 물음에 답하기 위한 새로운 모델 구조를 제안합니다. Proposed Method 본 논문에서는 PEARL ( P ersonalized E nt...

Mitigating Distribution Shift in Stock Price Data via Return-Volatility Normalization for Accurate Prediction

본 문서에서는 CIKM 2025 학회에서 발표된 "Mitigating Distribution Shift in Stock Price Data via Return-Volatility Normalization for Accurate Prediction" 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title: Mitigating Distribution Shift in Stock Price Data via Return-Volatility Normalization for Accurate Prediction Authors: Hyunwoo Lee, Jihyeong Jeon, Jaemin Hong, and U Kang Conference: The 34th ACM International Conference on Information and Knowledge Management Stock Price Prediction (주가 예측) 주가 예측 이란 과거의 주식 가격 흐름, 거래량, 뉴스 등 다양한 데이터를 분석하여 미래의 주식 가격이 어떻게 변할지 미리 예상하는 기술 입니다. 쉽게 말해, '내일 주식이 오를까, 내릴까?'를 예측하여 투자의 성공 확률을 높이려는 시도라고 할 수 있습니다. 주가 예측은 금융 분야에서 가장 도전적인 과제 중 하나입니다. Distribution Shifts in Stock Price Data (주가 데이터의 분포 변화) 기존의 딥러닝 모델들이 주가 예측에 많이 활용되고 있지만, 여전히 해결하기 어려운 문제가 하나 있습니다. 바로 학습 데이터와 테스트 데이터의 성격이 다르다 는 점이고 이를 분포 변화(Distribution Shift)라고 합니다. 예시로 그림 1을 살펴보겠습니다. 여기서 (a)는 코카콜라의 주가 차트이고 학습할 데이터와 테스트할 데이터를 나타냅니다. (b)는 코카콜라 주가에서 학습 데이터셋과 테스트 데이터셋의 분포 차이를 시각적으로 나타냅니다. 두 분포가 모...

Accurate Graph-Based PU Learning without Class Prior

본 문서에서는 데이터 마이닝 분야의 ICDM 2021 학회에서 발표될 Accurate Graph-Based PU Learning without Class Prior 논문을 소개합니다. 논문의 상세한 정보는 다음과 같습니다. Title: Accurate Graph-Based PU Learning without Class Prior Authors: Jaemin Yoo*, Junghun Kim*, Hoyoung Yoon*, Geonsoo Kim, Changwon Jang, and U Kang (*equal contribution) Conference: IEEE International Conference on Data Mining (ICDM) 2021 Graph-Based PU Learning PU 학습(positive-unlabeled learning, PU learning)은 양성(positive) 데이터와 미분류(unlabeled) 데이터가 주어졌을 때 이진 분류기(binary classifier)를 학습하는 문제입니다. 일반적인 지도 학습(supervised learning)에서는 학습에 사용할 수 있도록 양성 및 음성(negative) 클래스 라벨이 모두 주어져 있다고 가정합니다. 반면, PU 학습에서는 미분류 데이터가 양성 및 음성 데이터를 모두 포함하고 있고, 음성 데이터에 대한 라벨은 주어져 있지 않다고 가정합니다. 그림 1은 일반적인 지도 학습 문제와 PU 학습 문제의 차이점을 보여줍니다. PU 학습에서는 양성 데이터와 음성 데이터 사이의 경계를 분명하게 알기 어렵기 때문에 정확한 분류기를 학습하는 것이 어렵습니다. 그림 1. PU 학습의 예시. PU 학습 문제는 실제 상황에서 흔히 나타납니다. 예를 들어 신용카드 거래 내역 중 사기 거래를 탐지하는 문제를 생각해볼 수 있습니다. 경찰에 의해 직접 검거된 사기의 경우에는 분명한 "사기" 라벨을 매길 수 있지만 나머지 모든 거래에 대해 "정상" 라벨을 붙이기는 ...

DART: Diversified and Accurate Long-Tail Recommendation

본 문서에서는 2025년 PAKDD 학회에서 발표된 " DART: Diversified and Accurate Long-Tail Recommendation " 논문을 소개합니다. 논문에 대한 상세 정보는 다음과 같습니다. Title : DART: Diversified and Accurate Long-Tail Recommendation Authors: Jeongin Yun, Jaeri Lee, and U Kang Conference: The 29th Pacific-Asia Conference on Knowledge Discovery and Data Mining (PAKDD 2025) Long-tail Recommendation 비인기 아이템(tail items)을 사용자에게 추천하는 것은 재고의 균형 잡힌 관리 뿐만 아니라 사용자에게 예상치 못한 유용한 아이템을 발견하게 해주기 때문에 중요합니다. 그러나 이는 현실 세계의 구매 데이터가 long-tail 분포 를 따르기 때문에 쉽지 않습니다. 구매 이력 데이터가 long-tail 분포를 따른다는 것은 아래 그림과 같이 소수의 인기 아이템(head items)이 대부분의 거래를 차지하고, 나머지 대다수의 아이템들은 매우 적은 수의 구매 이력을 가진다는 것을 의미합니다. 그림 1. 구매 이력 데이터의 long-tail 분포 이러한 분포를 고려하지 않는 모델은 인기 아이템을 위주로 추천하고 비인기 아이템을 간과하는 문제가 발생합니다. 아래 그림 2 (a)를 보면, 대표적인 추천 모델인 SASRec 은 비인기 아이템을 거의 추천하지 않고, 인기 아이템만 과도하게 추천하는 경향이 있음을 확인할 수 있습니다. 게다가, 그림 2 (b)에서 이 모델은 정답이 tail 아이템일 경우 매우 낮은 정확도를 보입니다. 그림 2. (a) 아이템 인기도에 따른 추천 빈도, (b) 전체, head, tail 아이템에 대한 추천 정확도 비인기 아이템을 추천하는 것의 ...

Fast and Memory-Efficient Tucker Decomposition for Answering Diverse Time Range Queries

본 문서에서는 데이터 마이닝 분야 학회 중 하나인 KDD 2021에서 발표될 " Fast and Memory-Efficient Tucker Decomposition for Answering Diverse Time Range Queries " 논문을 소개합니다. 논문의 상세한 정보는 다음과 같습니다. Title: Fast and Memory-Efficient Tucker Decomposition for Answering Diverse Time Range Queries Authors: Jun-Gi Jang and U Kang Conference: The 27th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining ( KDD ), 2021 Temporal Dense Tensor 실세계에 존재하는 많은 데이터가 시간 밀도 텐서 (temporal dense tensor)로 표현될 수 있습니다. 시간 밀도 텐서는 한 차원이 시간과 관련이 있으며, 대부분의 값들이 관측된 데이터입니다. 예를 들어, 여러 위치에 설치된 센서들에서 매 시간마다 측정값들을 얻을 수 있습니다. 해당 데이터는 3차원 시간 밀도 텐서로 표현할 수 있습니다. 이 외에도, 주식 데이터, 비디오 데이터, 교통량 데이터 등도 시간 밀도 텐서로 표현할 수 있습니다. 그림 1. 시간 밀도 텐서 예시. 센서 데이터, 주식 데이터, 비디오 데이터, 교통량 데이터 등 다양한 실세계 데이터가 시간 밀도 텐서로 표현할 수 있다. 이렇듯 실세계에 존재하는 많은 데이터가 시간 밀도 텐서로 표현될 수 있으며 여러 차원을 가지는 텐서 특성상 데이터의 크기는 매우 큽니다. 그러므로, 시간 밀도 텐서를 효율적이고 효과적으로 분석하는 방법을 개발하는 것은 매우 중요합니다. Tucker Decomposition 터커 분해 (Tucker decomposition) 는 주어진 텐서를 분석할 수 있는 가장 핵심적인 ...

Accurate Graph-based Multi-Positive Unlabeled Learning via Disentangled Multi-view Feature Propagation

본 문서에서는 KDD 2025 학회에 발표된 "Accurate Graph-based Multi-Positive Unlabeled Learning via Disentangled Multi-view Feature Propagation" 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title: Accurate Graph-based Multi-Positive Unlabeled Learning via Disentangled Multi-view Feature Propagation Authors: Junghun Kim, Hoyoung Yoon, Ka Hyun Park, and U Kang Conference: ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (KDD) 2025 Graph-based Multi-Positive Unlabeled Learning 그래프 기반 MPU 학습 (graph-based multi-positive unlabeled learning) 은 여러 양성 (positive) 클래스에 대해서만 소수의 라벨 (label) 이 제공되고 나머지 대부분의 노드는 미라벨 (unlabeled) 상태인 환경에서, 모든 미라벨 노드를 여러 양성 / 음성 으로 정확하게 분류하는 문제를 다룹니다. 이 문제는 실세계에서 자주 찾아볼 수 있습니다. 예를 들어 사이버 보안에서는 DDoS 나 악성코드 공격자가 정상 사용자처럼 위장하기 때문에 확실한 음성 라벨 (정상 사용자) 를 수집하기 어렵습니다. 감염병 판별에서도 COVID-19, 인플루엔자, 폐렴 등으로 진단된 환자만 양성으로 기록되고 미진단자는 미라벨로 남습니다 (미진단자는 정상이 아니라, 무증상자이거나 단순히 진단을 안받았을 수 있음). 이 문제는 크게 두 가지 이유로 해결이 까다롭습니다 (그림 1 참고). 첫째, 음성 라벨이 없으면 전파 기반 표현 학...

Accurate Sublayer Pruning for Large Language Models by Exploiting Latency and Tunability Information

본 문서에서는 IJCAI'25 학회에서 발표될 " Accurate Sublayer Pruning for Large Language Models by Exploiting Latency and Tunability Information " 논문을 소개합니다. 논문에 대한 상세 정보는 다음과 같습니다. Title: Accurate Sublayer Pruning for Large Language Models by Exploiting Latency and Tunability Information Authors: Seungcheol Park, Sojin Lee, Jongjin Kim, Jinsik Lee, Hyunjik Jo, and U Kang Conference: The 34th International Joint Conference on Artificial Intelligence (IJCAI 2025) Sublayer Pruning for Large Language Models 최신 거대 언어 모델(large language model)들은 챗봇, 번역, 코드 생성 등 실생활의 다양한 작업을 수행하는 데에 있어서 뛰어난 성능을 보이고 있습니다. 하지만, 거대 언어 모델을 구성하는 방대한 양의 파라미터 수는 모델의 실질적인 운용을 어렵게 만드는 요소입니다. 서브레이어 가지치기(sublayer pruning)는 거대 언어 모델에서 불필요한 서브레이어를 삭제함으로써 모델의 크기로 인한 문제점을 효과적으로 해결합니다. 거대 언어 모델은 multi-head attention (MHA) 서브레이어와 multi-layer perceptron (MLP) 서브레이어가 번갈아서 층을 구성하고 있으며, 서브레이어들의 연산은 병렬적으로 수행할 수 없기 때문에 서브레이어 가지치기는 단순하지만 효과적으로 거대 언어 모델의 추론 속도를 극대화할 수 있습니다. 그림 1. 기존 가지치기 기법과 본 논문의 제안 기법 (SPRINT) 비교 서브레이어 가지치기의 핵심 목표...

Unifying Uniform and Binary-coding Quantization for Accurate Compression of Large Language Models

본 문서에서는 ACL ’25 Main Track에 채택된 “Unifying Uniform and Binary-coding Quantization for Accurate Compression of Large Language Models” 논문을 소개합니다. 논문에 대한 상세 정보는 다음과 같습니다. Title: Unifying Uniform and Binary-coding Quantization for Accurate Compression of Large Language Models Authors: Seungcheol Park, Jeongin Bae, Beomseok Kwon, Minjun Kim, Byeongwook Kim, Se Jung Kwon, U Kang, and Dongsoo Lee Conference: The 63rd Annual Meeting of the Association for Computational Linguistics (ACL 2025) Large Language Model Quantization LLM(Large Language Model)은 뛰어난 성능을 보여주지만, 수십억 개의 파라미터로 인한 막대한 메모리 사용량과 연산 비용은 실제 서비스 배포에 큰 걸림돌이 됩니다. 이를 해결하기 위한 핵심 기술인 양자화(Quantization)는 크게 균일 양자화(Uniform Quantization, UQ)와 이진 코드 양자화(Binary-coding Quantization, BCQ)로 나뉩니다. UQ는 가중치를 균일한 간격으로 매핑하여 하드웨어 친화적이고 최적화가 쉽다는 장점이 있지만, 종 모양 분포를 가진 LLM 가중치를 표현하는 데에는 표현력이 부족합니다. 반면 BCQ는 binary basis의 선형 결합으로 가중치를 표현하여 비균일한 간격을 가질 수 있어 표현력이 매우 높지만, 이산적인 최적화 문제로 인해 학습이 어렵다는 단점이 있습니다. 기존 연구들은 이러한 UQ의 최적화 용이성과 BCQ의...