Skip to main content

Data Mining Lab. Blog

Search This Blog

Pages

Showing posts from 2026

Posts

A Masked Mixture Model for Compact and Accurate Matrix Factorization

Posted by Data Mining Lab. 날짜: 7/01/2026

LampQ: Towards Accurate Layer-wise Mixed Precision Quantization for Vision Transformers

Posted by Data Mining Lab. 날짜: 6/01/2026

Dual-level Reweighting for Positive-Unlabeled Graph Classification

Posted by Data Mining Lab. 날짜: 5/03/2026

PiGLeT: Probabilistic Message Passing for Semi-supervised Link Sign Prediction

Posted by Data Mining Lab. 날짜: 4/01/2026

SwaGNER: Leveraging Span-aware Grid Transformers for Accurate Nested Named Entity Recognition

Posted by Data Mining Lab. 날짜: 3/02/2026

Unifying Uniform and Binary-coding Quantization for Accurate Compression of Large Language Models

Posted by Data Mining Lab. 날짜: 2/01/2026

Context-aware Sequential Bundle Recommendation via User-specific Representations

Posted by Data Mining Lab. 날짜: 1/04/2026

Data Mining Lab.

Go to DMLAB Website

본 블로그에서는 서울대학교
컴퓨터공학부 데이터마이닝

연구실에서 진행하고 있는

최신 연구를 소개합니다.

Archive

2026 7

2025 12
2024 12
2023 12
2022 12
2021 12
2020 12
2019 1
- December 2019 1

Show more Show less

Popular Posts

A Masked Mixture Model for Compact and Accurate Matrix Factorization

본 문서에서는 KDD 2026 학회에 발표될 "A Masked Mixture Model for Compact and Accurate Matrix Factorization" 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title: A Masked Mixture Model for Compact and Accurate Matrix Factorization Authors: Yong-chan Park, Jeongyoung Lee, SeungJoo Lee, and U Kang Conference: ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (KDD) 2026

Dual-level Reweighting for Positive-Unlabeled Graph Classification

본 문서에서는 WWW 2026 학회에 발표될 "Dual-level Reweighting for Positive-Unlabeled Graph Classification" 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title: Dual-level Reweighting for Positive-Unlabeled Graph Classification Authors: Junghun Kim, Shihyung Park, and U Kang Conference: ACM The Web Conference (WWW) 2026 PU Learning & Graph Classification PU 학습 (Positive-Unlabeled Learning) 은 양성 (positive) 레이블이 붙은 데이터와 레이블이 없는 (unlabeled) 데이터만 존재하는 상황에서 분류기를 학습하는 문제입니다. 실제 환경에서는 음성 (negative) 레이블을 수집하기 어렵거나 비현실적인 경우가 많기 때문에, 이러한 PU 세팅은 매우 흔하게 발생합니다. 예를 들어, 약물 부작용 예측에서는 부작용이 관측된 약물만 양성으로 표기되고 나머지는 미확인 상태로 남아 있으며, 웹 도메인의 가짜 뉴스 탐지에서도 팩트체커가 허위로 보고한 기사만 양성으로 분류되고 나머지는 미검증 상태입니다. 그래프 분류 (graph classification) 는 분자 특성 예측, 의료 진단 등 다양한 실세계 응용에서 핵심적인 역할을 합니다. 각 그래프는 분자나 세포 같은 예시의 관계를 나타내며, 노드는 원자나 세포를, 엣지는 화학 결합이나 세포 간 상호작용을 표현합니다. 그러나 이러한 도메인에서 완전한 레이블을 얻기는 매우 어려우며, 특히 음성 레이블 수집이 어렵거나 불가능한 경우가 많습니다. 본 논문은 바로 이처럼 양성 레이블과 미표기 데이터만 주어진 PU 그래프 분류 (PU graph classification) 문제를 다룹니다. Goals & Limitati...

Time-Aware Tensor Decomposition for Missing Entry Prediction

본 문에서는 Arxiv에 기재된 Time-Aware Tensor Decomposition for Missing Entry Prediction 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title: Time-Aware Tensor Decomposition for Missing Entry Prediction Authors: Dawon Ahn, Jun-Gi Jang, U Kang Arixv: https://arxiv.org/pdf/2012.08855.pdf CANDECOMP/PARAFAC (CP) Decomposition 그림 1. 3차원 시간 텐서의 CP 분해 다차원 배열을 의미하는 텐서는 시간에 따라 변화하는 다중적인 관계를 표현할 수 있습니다. 예를 들어, 센서에서 수집된 대기 오염 데이터는 오염 물질의 측정 값을 포함하는 3차원 시간 텐서(장소, 오염 물질, 시간)로 표현됩니다. 텐서 분해(Tensor Decomposition)는 텐서 데이터를 효과적으로 분석하는 방법으로, 클러스터링 및 이상 탐지를 포함한 다양한 응용 프로그램에서 광범위하게 활용되고 있습니다. CANDECOMP / PARAFAC (CP) 분해는 가장 대표적인 텐서 분해 모델 중 하나로, 그림 1과 같이 텐서를 각 차원의 벡터들의 외적의 합으로 나타낼 수 있습니다. 위와 같은 시간 텐서에는 대표적인 특성 2가지를 관측할 수 있습니다. 첫번째는 텐서의 시간 차원은 인접한 값들끼리는 서로 연관성이 있는 특징이 있습니다. 예를 들어, t번째 시간에서 관측된 오염 데이터는 t-1, t+1번째 시간에서 관측된 오염 데이터와 비슷한 값을 갖을 것입니다. 두번째로는 데이터를 수집하는 센서 및 기계 오류 및 고장으로 인해 텐서는 많은 결측치로 포함하고, 이는 시간 조각(Time Slice) 별로 다른 희소성(혹은 밀도)을 갖게 합니다. 그러나 표준적인 CP 분해 방법을 포함한 기존 분해 방법들은 위 두 가지 특성 모두 고려하지 않았습니다. 본...

Accurate Graph-Based PU Learning without Class Prior

본 문서에서는 데이터 마이닝 분야의 ICDM 2021 학회에서 발표될 Accurate Graph-Based PU Learning without Class Prior 논문을 소개합니다. 논문의 상세한 정보는 다음과 같습니다. Title: Accurate Graph-Based PU Learning without Class Prior Authors: Jaemin Yoo*, Junghun Kim*, Hoyoung Yoon*, Geonsoo Kim, Changwon Jang, and U Kang (*equal contribution) Conference: IEEE International Conference on Data Mining (ICDM) 2021 Graph-Based PU Learning PU 학습(positive-unlabeled learning, PU learning)은 양성(positive) 데이터와 미분류(unlabeled) 데이터가 주어졌을 때 이진 분류기(binary classifier)를 학습하는 문제입니다. 일반적인 지도 학습(supervised learning)에서는 학습에 사용할 수 있도록 양성 및 음성(negative) 클래스 라벨이 모두 주어져 있다고 가정합니다. 반면, PU 학습에서는 미분류 데이터가 양성 및 음성 데이터를 모두 포함하고 있고, 음성 데이터에 대한 라벨은 주어져 있지 않다고 가정합니다. 그림 1은 일반적인 지도 학습 문제와 PU 학습 문제의 차이점을 보여줍니다. PU 학습에서는 양성 데이터와 음성 데이터 사이의 경계를 분명하게 알기 어렵기 때문에 정확한 분류기를 학습하는 것이 어렵습니다. 그림 1. PU 학습의 예시. PU 학습 문제는 실제 상황에서 흔히 나타납니다. 예를 들어 신용카드 거래 내역 중 사기 거래를 탐지하는 문제를 생각해볼 수 있습니다. 경찰에 의해 직접 검거된 사기의 경우에는 분명한 "사기" 라벨을 매길 수 있지만 나머지 모든 거래에 대해 "정상" 라벨을 붙이기는 ...

Accurate Graph Classification via Two-staged Contrastive Curriculum Learning

본 문서에서는 2023년 PLOS ONE 저널에 게재된 "Accurate Graph Classification via Two-staged Contrastive Curriculum Learning" 논문을 소개합니다. 논문에 대한 상세 정보는 다음과 같습니다. Title : Accurate Graph Classification via Two-staged Contrastive Curriculum Learning Authors: Sooyeon Shim, Junghun Kim, Ka Hyun Park, and U Kang Journal : PLOS ONE 2023 Graph Contrastive Learning 대조학습(Contrastive learning) 이란 객체들 간의 관계 정보를 포착해 임베딩을 학습하는 방법입니다. 예를 들어 어떤 객체에 대한 positive 와 negative 샘플을 선정한다면, 주어진 객체와 positive 샘플의 유사도는 증대되고, 객체와 negative 샘플의 유사도는 절감되는 것을 목표로 positive/negative 샘플을 정해야합니다. 이를 그래프에 적용하는 접근 방식을 그래프 대조 학습(Graph contrastive learning)이라고 하며, 기존의 그래프 대조 학습은 크게 노드 단위의 그래프 대조학습(Node-level graph contrastive learning) 그리고 그래프 단위의 그래프 대조학습(Graph-level graph contrastive learning)의 두 가지 갈래로 구분할 수 있습니다. 노드 단위의 그래프 대조학습 은 그래프가 주어졌을때, 주어진 그래프와 이를 변형한 그래프 간의 노드 임베딩을 비교하는 방식으로 전개되어 왔습니다. 두 그래프 상에서의 노드 페어(Pair)는 다음과 같이 정의합니다. 어떤 노드에 대해 다른 그래프 상에서 같은 위치에 있는 노드를 positive 페어로, positive 페어로 정의된 노드 이외의 다른 그래프 상의 모든 노드들은...

Curved-Voxel Clustering for Accurate Segmentation of 3D LiDAR Point Clouds with Real-Time Performance

본 문서에서는 IROS 2019에서 발표된 Curved-Voxel Clustering for Accurate Segmentation of 3D LiDAR Point Clouds with Real-Time Performance 논문을 소개합니다. 논문에 대한 상세 정보는 다음과 같습니다. Title: Curved-Voxel Clustering for Accurate Segmentation of 3D LiDAR Point Clouds with Real-Time Performance [ link ] Authors: Seungcheol Park, Shuyu Wang, Hunjung Lim, and U Kang Conference: IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS) 2019 Segmentation of 3D LiDAR Point Clouds 3차원 라이다 센서 (3D LiDAR sensor)란 빛을 이용하여 주변 물체까지의 거리를 측정하여 센서 주변에 있는 물체들에 대한 위치 정보를 전달해주는 장치입니다. 라이다 센서는 실내에서 사용되는 안내 로봇부터 자율주행 차량까지 다양한 분야에서 사용되고 있습니다. 이때, 라이다 센서는 주로 주변에 물체가 있는지 없는지를 인식 (detection)하거나, 물체가 있다면 어떤 물체인지를 식별 (classification)하는 일을 주로 하게 됩니다. 특히 실내외에서 사람을 인식하는 보행자 식별 (pedestrian classification) 과정은 안전을 위해서도 중요하기 때문에 활발하게 연구되고 있는 분야입니다. 그림 1. 라이다 센서를 이용한 보행자 식별 과정의 예시 그림 1은 현관에 설치된 라이다 센서를 통해 보행자를 인식하는 예시를 보여주고 있습니다. 라이다 센서가 인식한 점 정보 (Input Data)를 전달받은 후 다음과 같은 네 단계를 통...

BalanSiNG: Fast and Scalable Generation of Realistic Signed Networks

본 문서에서는 EDBT 2020에서 발표될 " BalanSiNG: Fast and Scalable Generation of Realistic Signed Networks " 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title : BalanSiNG: Fast and Scalable Generation of Realistic Signed Networks Authors : Jinhong Jung , Ha-Myung Park , and U Kang Conference : International Conference on Extending Database Technology (EDBT) 2020 Signed Network and Network Generation 부호화된 네트워크 (signed network)란 정점 간의 신뢰 관계를 + (양, 신뢰) 또는 - (음, 불신뢰)의 부호가 붙은 간선으로 표현하는 네트워크를 말하며, Epinions와 같은 온라인 소셜 서비스는 각 사용자에게 다른 사용자에 대한 신뢰를 표현할 수 있게 하여 자연스럽게 부호화된 네트워크를 형성합니다 ( 참고 ). 이와 같이 부호화된 네트워크는 정점 간의 신뢰 관계를 기반으로 링크 예측, 정점 랭킹, 정점 분류, 이상현상 탐지 등의 다양한 그래프 응용에 활용되고 있습니다. 그림 1. 부호화된 네트워크의 예시. 그러나 부호화된 네트워크는 광범위하게 활용되고 있음에 비해, 어떻게 해야 실제 부호화된 네트워크와 비슷한 성향을 가지며 새로운 형태의 다른 부호화된 네트워크를 생성할 수 있는지에 대한 연구는 많이 진행되지 않았습니다. 네트워크 생성 (network generation) 문제는 실세계 그래프 형성의 이해에 대한 중요한 문제로, 네트워크 생성 문제는 다음과 같은 방안으로 많이 활용되고 있습니다. 확장성 테스트 (scalability evaluation) : 확장성 테스트는 개발한 알고리즘이 얼마나 큰 데이...

Accurate Link Prediction for Edge-Incomplete Graphs via PU Learning

본 문서에서는 AAAI '25 학회에서 발표된 " Accurate Link Prediction for Edge-Incomplete Graphs via PU Learning " 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title : Accurate Link Prediction for Edge-Incomplete Graphs via PU Learning Authors: Junghun Kim, Ka Hyun Park, Hoyoung Yoon, and U Kang Conference: AAAI Conference on Artificial Intelligence (AAAI) 2025 Introduction 그래프 데이터는 소셜 네트워크, 추천 시스템, 논문 인용 네트워크 등 다양한 분야에서 활용됩니다. 하지만 현실 세계의 그래프는 불완전 (edge-incomplete) 한 경우가 많으며, 존재해야 할 링크가 관측되지 않은 경우가 많습니다. 그래프 링크 예측 (Link Prediction) 은 주어진 그래프에서 연결될 가능성이 높은 링크를 찾아내는 문제 입니다. 예를 들어, 소셜 네트워크에서 사용자에게 친구를 제안하거나, 추천 시스템에서 사용자에게 아이템을 추천하거나, 논문 인용 네트워크에서 인용할 논문을 제안하는 것 모두 실생활에서 쉽게 찾아볼 수 있는 그래프 링크 예측 문제들입니다. 이 문제를 다른 관점에서 바라보면, 그래프 링크 예측은 어떠한 노드 쌍 (node pair) 가 연결되었을지 (positive), 연결되지 않았을지 (negative) 를 분류하는 이진 분류 문제입니다. 그러나 기존 링크 예측 기법 (GCN, GAT, GAE 등) 은 주어진 그래프에서 연결되지 않은 노드 쌍을 무조건 연결되지 않았다고 (negative 샘플로) 간주 하는 문제가 있습니다. 하지만, 실제로 연결이...

LampQ: Towards Accurate Layer-wise Mixed Precision Quantization for Vision Transformers

본 문서에서는 AAAI 2026에 채택된 “LampQ: Towards Accurate Layer-wise Mixed Precision Quantization for Vision Transformers” 논문을 소개합니다. 논문에 대한 상세 정보는 다음과 같습니다. Title: LampQ: Towards Accurate Layer-wise Mixed Precision Quantization for Vision Transformers Authors: Minjun Kim, Jaeri Lee, Jongjin Kim, Jeongin Yun, Yongmo Kwon, and U Kang Conference: The 40th Annual AAAI Conference on Artificial Intelligence (AAAI 2026) Vision Transformer Quantization Vision Transformer(ViT)는 이미지 분류, 객체 탐지 등 다양한 컴퓨터 비전 태스크에서 뛰어난 성능을 보여주지만, 복잡한 구조와 높은 메모리 및 연산 비용으로 인해 자원이 제한된 환경에 배포하기 어렵습니다. 이를 해결하기 위한 핵심 기술 중 하나인 양자화(Quantization)는 모델의 가중치와 활성값을 저비트 형식으로 변환하여 메모리 사용량과 연산 비용을 줄입니다. 특히 Vision Transformer에서는 추가 학습 비용이 큰 Quantization-Aware Training(QAT)보다, 사전 학습된 모델을 소량의 calibration 데이터만으로 압축하는 Post-Training Quantization(PTQ)이 실용적인 방법으로 널리 활용됩니다. 기존 ViT PTQ 연구들은 LayerNorm 이후 activation의 channel-wise variation, Softmax 이후 activation의 power-law distribution, block output의 outlier 등 ViT 특유의 문제를 해결하며 성능을 높여왔습니다. 하지만 대부분의 방...

PET: Parameter-efficient Knowledge Distillation on Transformer

2023년 PLOS ONE 저널에 발표된 " PET: Parameter-efficient Knowledge Distillation on Transformer " 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title: PET: Parameter-efficient Knowledge Distillation on Transformer Authors: Hyojin Jeon, Seungcheol Park, Jin-Gee Kim, and U Kang Journal: PLOS ONE (2023) Transformer Compression 어떻게 하면 기학습된 Transformer 모델을 효과적으로 압축할 수 있을까요? Transformer는 시퀀스 투 시퀀스(Sequence to Sequence) 모델로써 번역, 챗봇, 요약 등 다양한 자연어 처리(Natural Langage Processing, NLP) 분야에서 높은 성능을 이루었을 뿐만 아니라, BERT와 GPT 등 혁신적인 성능을 보이는 언어 모델들의 모태가 되는 매우 중요한 모델입니다. 그림 1은 영어를 불어로 번역하는 Transformer의 구조를 나타내고 있습니다. 그림에서 알 수 있듯이 Transformer는 입력 문장을 받아들이고 해석하는 인코더(Encoder)와 인코딩된 정보를 바탕으로 출력을 생성해내는 디코더(Decoder)로 이루어져 있습니다. 그림 1. Transformer의 구조 예시 ( 출처 ) Transformer는 성능이 우수하지만, 그 크기가 매우 크고 연산량(FLOPs)이 매우 많다는 단점이 있습니다. 그래서, 이들의 높은 성능을 유지하면서 크기를 줄이고, 연산량을 줄이는 Transformer 압축(Compression) 연구가 활발하게 이루어지고 있습니다. 하지만, 기존의 연구들은 상대적으로 압축하기 쉬운 인코더(Encoder) 모듈만을 압축하는 경우가 많았고, 많은 연산량을 필요로 하는 디코더(Decoder) 모듈...