Skip to main content

Data Mining Lab. Blog

Search This Blog

Pages

Posts

Prune-then-Quantize or Quantize-then-Prune? Understanding the Impact of Compression Order in Joint Model Compression

Posted by Data Mining Lab. 날짜: 8/01/2026

A Masked Mixture Model for Compact and Accurate Matrix Factorization

Posted by Data Mining Lab. 날짜: 7/01/2026

LampQ: Towards Accurate Layer-wise Mixed Precision Quantization for Vision Transformers

Posted by Data Mining Lab. 날짜: 6/01/2026

Dual-level Reweighting for Positive-Unlabeled Graph Classification

Posted by Data Mining Lab. 날짜: 5/03/2026

PiGLeT: Probabilistic Message Passing for Semi-supervised Link Sign Prediction

Posted by Data Mining Lab. 날짜: 4/01/2026

SwaGNER: Leveraging Span-aware Grid Transformers for Accurate Nested Named Entity Recognition

Posted by Data Mining Lab. 날짜: 3/02/2026

Unifying Uniform and Binary-coding Quantization for Accurate Compression of Large Language Models

Posted by Data Mining Lab. 날짜: 2/01/2026

Context-aware Sequential Bundle Recommendation via User-specific Representations

Posted by Data Mining Lab. 날짜: 1/04/2026

Mitigating Distribution Shift in Stock Price Data via Return-Volatility Normalization for Accurate Prediction

Posted by Data Mining Lab. 날짜: 12/01/2025

Data Mining Lab.

Go to DMLAB Website

본 블로그에서는 서울대학교
컴퓨터공학부 데이터마이닝

연구실에서 진행하고 있는

최신 연구를 소개합니다.

Archive

2026 8

2025 12
2024 12
2023 12
2022 12
2021 12
2020 12
2019 1
- December 2019 1

Show more Show less

Popular Posts

A Masked Mixture Model for Compact and Accurate Matrix Factorization

본 문서에서는 KDD 2026 학회에 발표될 "A Masked Mixture Model for Compact and Accurate Matrix Factorization" 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title: A Masked Mixture Model for Compact and Accurate Matrix Factorization Authors: Yong-chan Park, Jeongyoung Lee, SeungJoo Lee, and U Kang Conference: ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (KDD) 2026

Time-Aware Tensor Decomposition for Missing Entry Prediction

본 문에서는 Arxiv에 기재된 Time-Aware Tensor Decomposition for Missing Entry Prediction 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title: Time-Aware Tensor Decomposition for Missing Entry Prediction Authors: Dawon Ahn, Jun-Gi Jang, U Kang Arixv: https://arxiv.org/pdf/2012.08855.pdf CANDECOMP/PARAFAC (CP) Decomposition 그림 1. 3차원 시간 텐서의 CP 분해 다차원 배열을 의미하는 텐서는 시간에 따라 변화하는 다중적인 관계를 표현할 수 있습니다. 예를 들어, 센서에서 수집된 대기 오염 데이터는 오염 물질의 측정 값을 포함하는 3차원 시간 텐서(장소, 오염 물질, 시간)로 표현됩니다. 텐서 분해(Tensor Decomposition)는 텐서 데이터를 효과적으로 분석하는 방법으로, 클러스터링 및 이상 탐지를 포함한 다양한 응용 프로그램에서 광범위하게 활용되고 있습니다. CANDECOMP / PARAFAC (CP) 분해는 가장 대표적인 텐서 분해 모델 중 하나로, 그림 1과 같이 텐서를 각 차원의 벡터들의 외적의 합으로 나타낼 수 있습니다. 위와 같은 시간 텐서에는 대표적인 특성 2가지를 관측할 수 있습니다. 첫번째는 텐서의 시간 차원은 인접한 값들끼리는 서로 연관성이 있는 특징이 있습니다. 예를 들어, t번째 시간에서 관측된 오염 데이터는 t-1, t+1번째 시간에서 관측된 오염 데이터와 비슷한 값을 갖을 것입니다. 두번째로는 데이터를 수집하는 센서 및 기계 오류 및 고장으로 인해 텐서는 많은 결측치로 포함하고, 이는 시간 조각(Time Slice) 별로 다른 희소성(혹은 밀도)을 갖게 합니다. 그러나 표준적인 CP 분해 방법을 포함한 기존 분해 방법들은 위 두 가지 특성 모두 고려하지 않았습니다. 본...

Curved-Voxel Clustering for Accurate Segmentation of 3D LiDAR Point Clouds with Real-Time Performance

본 문서에서는 IROS 2019에서 발표된 Curved-Voxel Clustering for Accurate Segmentation of 3D LiDAR Point Clouds with Real-Time Performance 논문을 소개합니다. 논문에 대한 상세 정보는 다음과 같습니다. Title: Curved-Voxel Clustering for Accurate Segmentation of 3D LiDAR Point Clouds with Real-Time Performance [ link ] Authors: Seungcheol Park, Shuyu Wang, Hunjung Lim, and U Kang Conference: IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS) 2019 Segmentation of 3D LiDAR Point Clouds 3차원 라이다 센서 (3D LiDAR sensor)란 빛을 이용하여 주변 물체까지의 거리를 측정하여 센서 주변에 있는 물체들에 대한 위치 정보를 전달해주는 장치입니다. 라이다 센서는 실내에서 사용되는 안내 로봇부터 자율주행 차량까지 다양한 분야에서 사용되고 있습니다. 이때, 라이다 센서는 주로 주변에 물체가 있는지 없는지를 인식 (detection)하거나, 물체가 있다면 어떤 물체인지를 식별 (classification)하는 일을 주로 하게 됩니다. 특히 실내외에서 사람을 인식하는 보행자 식별 (pedestrian classification) 과정은 안전을 위해서도 중요하기 때문에 활발하게 연구되고 있는 분야입니다. 그림 1. 라이다 센서를 이용한 보행자 식별 과정의 예시 그림 1은 현관에 설치된 라이다 센서를 통해 보행자를 인식하는 예시를 보여주고 있습니다. 라이다 센서가 인식한 점 정보 (Input Data)를 전달받은 후 다음과 같은 네 단계를 통...

Context-aware Sequential Bundle Recommendation via User-specific Representations

본 문서에서는 2025년 CIKM 에서 발표된 "Context-aware Sequential Bundle Recommendation via User-specific Representations" 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다: Title: Context-aware Sequential Bundle Recommendation via User-specific Representations Authors: Jaeri Lee and U Kang Conference: CIKM (2025) Sequential Bundle Recommendation 온라인 쇼핑, 음식 배달, 콘텐츠 소비 플랫폼에서는 단일 아이템이 아니라 여러 아이템이 함께 묶인 번들(bundle) 형태의 소비가 점점 일반화되고 있습니다. 동시에 사용자 선호는 고정되어 있지 않고, 시간에 따라 빠르게 변화 하며 최근 행동일수록 다음 선택에 더 큰 영향을 미칩니다. 따라서 실제 서비스 환경에서 효과적인 추천을 위해서는, 아이템 간의 관계를 파악하는 번들 추천의 관점과 사용자의 과거 행동 순서와 최근 맥락을 반영하는 순차 추천 관점 모두가 필수적입니다. 그림 1. 순차 번들 추천 문제 하지만 기존의 추천 연구에서는 번들 추천과 순차 추천을 독립적인 문제로 두고 있습니다. 기존 번들 추천 기법들은 주로 사용자의 선호를 정적으로 가정하거나, 번들을 하나의 고정된 객체로 취급하여 번들 내부의 아이템 구성과 시간적 맥락을 충분히 고려하지 못합니다. 반면, 순차 추천 기법들은 사용자의 행동 순서를 모델링하는 데 강점을 가지지만, 대부분 단일 아이템 단위 에 초점을 맞추고 있어 번들 내부 구조의 다양성을 반영하기 어렵습니다. 따라서 본 논문에서는 번들을 고정된 객체로 취급하는 대신, 사용자의 과거 상호작용과 최근 행동 맥락에 따라 번들의 의미가 달라질 수 있다는 점에 주목하여 , 번들 추...

Belief Propagation Network for Hard Inductive Semi-supervised Learning

본 문서에서는 IJCAI 2019에서 발표된 Belief Propagation Network for Hard Inductive Semi-supervised Learning 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title: Belief Propagation Network for Hard Inductive Semi-supervised Learning Authors: Jaemin Yoo, Hyunsik Jeon, U Kang Conference: The 28th International Joint Conference on Artificial Intelligence (IJCAI 2019) Graph-Based Semi-Supervised Learning 많은 기계학습 문제는 지도 학습(supervised learning) 상황을 대상으로 합니다. 즉, 라벨(label)이 주어진 훈련 데이터가 충분히 주어져 있다고 가정합니다. 반면, 반지도 학습(semi-supervised learning) 문제는 훈련 데이터의 양은 충분하되 일부 샘플에 대해서만 라벨이 주어져 있다고 가정합니다. 예를 들면 피처 벡터의 개수는 1,000개이지만 라벨의 개수는 10개밖에 안 되는 상황이 그렇습니다. 이럴 때 10개의 데이터 쌍만 사용해서 모델을 제대로 훈련하기는 어렵기 때문에, 라벨이 주어진 10개의 데이터와 라벨이 없는 990개의 데이터 사이의 관계를 찾아 전체 데이터를 훈련에 사용하는 것이 중요합니다. 반지도 학습 문제는 각 샘플을 정점(node)으로 하는 그래프(graph)가 주어져 있다면 훨씬 수월해집니다. 이 그래프를 통해 샘플 사이의 관계를 쉽게 파악할 수 있기 때문입니다. 예를 들어 페이스북의 친구 관계 그래프가 주어져 있다면 사람들 사이의 유사도를 비교적 쉽게 파악할 수 있고, 이를 이용해 각 사용자의 속성을 분류하는 반지도 학습 문제를 해결할 수 있습니다. 이렇게 그래프 데이터가 주어진 상황에서 반지도 학습을 푸...

Dual-level Reweighting for Positive-Unlabeled Graph Classification

본 문서에서는 WWW 2026 학회에 발표될 "Dual-level Reweighting for Positive-Unlabeled Graph Classification" 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title: Dual-level Reweighting for Positive-Unlabeled Graph Classification Authors: Junghun Kim, Shihyung Park, and U Kang Conference: ACM The Web Conference (WWW) 2026 PU Learning & Graph Classification PU 학습 (Positive-Unlabeled Learning) 은 양성 (positive) 레이블이 붙은 데이터와 레이블이 없는 (unlabeled) 데이터만 존재하는 상황에서 분류기를 학습하는 문제입니다. 실제 환경에서는 음성 (negative) 레이블을 수집하기 어렵거나 비현실적인 경우가 많기 때문에, 이러한 PU 세팅은 매우 흔하게 발생합니다. 예를 들어, 약물 부작용 예측에서는 부작용이 관측된 약물만 양성으로 표기되고 나머지는 미확인 상태로 남아 있으며, 웹 도메인의 가짜 뉴스 탐지에서도 팩트체커가 허위로 보고한 기사만 양성으로 분류되고 나머지는 미검증 상태입니다. 그래프 분류 (graph classification) 는 분자 특성 예측, 의료 진단 등 다양한 실세계 응용에서 핵심적인 역할을 합니다. 각 그래프는 분자나 세포 같은 예시의 관계를 나타내며, 노드는 원자나 세포를, 엣지는 화학 결합이나 세포 간 상호작용을 표현합니다. 그러나 이러한 도메인에서 완전한 레이블을 얻기는 매우 어려우며, 특히 음성 레이블 수집이 어렵거나 불가능한 경우가 많습니다. 본 논문은 바로 이처럼 양성 레이블과 미표기 데이터만 주어진 PU 그래프 분류 (PU graph classification) 문제를 다룹니다. Goals & Limitati...

Learning to Reweight Examples for Robust Deep Learning

본 문서에서는 2018년 ICML 학회에 발표된 "Learning to Reweight Examples for Robust Deep Learning" 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title: Learning to Reweight Examples for Robust Deep Learning Authors: Mengye Ren, Wenyuan Zeng, Bin Yang, and Raquel Urtasun Conference: International Conference on Machine Learning (ICML) 2018 Learning to Reweight Examples for Robust Deep Learning 딥러닝 기반의 모델들은 데이터를 고차원으로 투영하는 방식으로 복잡한 패턴의 입력에 대해서도 성공적으로 지도 학습이 가능함을 보여왔습니다. 하지만, 학습에 사용된 데이터를 기반으로 고차원으로 투영시키는 파라미터가 학습되기 때문에 생기는 문제가 존재합니다. 예를 들어, 학습 데이터에 노이즈가 포함되어 있어 평가 데이터와 차이가 존재한다면, 모델이 그 학습 데이터에 과적합되어 평가 데이터에 대한 성능이 떨어지는 현상이 존재할 수 있습니다. 이러한 학습 데이터 노이즈에서 가장 많이 거론되는 것으로는 클래스 불균형, 라벨 노이즈 두 가지가 존재합니다. 클래스 불균형은 데이터 내에서 클래스 별로 인스턴스 수가 균등히 배분 되어 있지 않고, 유명한 클래스의 인스턴스 수와 잘 보이지 않는 클래스의 인스턴스 수의 차이가 심한 경우입니다. 예를 들면 자동차의 이미지 데이터를 수집할 때, SUV 타입의 자동차는 많이 보이지만, 구급차의 경우 드물게 보이기 때문에 수집을 할 때 SUV 타입의 자동차보다 구급차의 이미지가 극단적으로 적을 수 있습니다. 라벨 노이즈는 데이터 내에서 잘못 라벨링 된 인스턴스들이 존재할 경우입니다. 데이터를 만들고 난 뒤 검...

LampQ: Towards Accurate Layer-wise Mixed Precision Quantization for Vision Transformers

본 문서에서는 AAAI 2026에 채택된 “LampQ: Towards Accurate Layer-wise Mixed Precision Quantization for Vision Transformers” 논문을 소개합니다. 논문에 대한 상세 정보는 다음과 같습니다. Title: LampQ: Towards Accurate Layer-wise Mixed Precision Quantization for Vision Transformers Authors: Minjun Kim, Jaeri Lee, Jongjin Kim, Jeongin Yun, Yongmo Kwon, and U Kang Conference: The 40th Annual AAAI Conference on Artificial Intelligence (AAAI 2026) Vision Transformer Quantization Vision Transformer(ViT)는 이미지 분류, 객체 탐지 등 다양한 컴퓨터 비전 태스크에서 뛰어난 성능을 보여주지만, 복잡한 구조와 높은 메모리 및 연산 비용으로 인해 자원이 제한된 환경에 배포하기 어렵습니다. 이를 해결하기 위한 핵심 기술 중 하나인 양자화(Quantization)는 모델의 가중치와 활성값을 저비트 형식으로 변환하여 메모리 사용량과 연산 비용을 줄입니다. 특히 Vision Transformer에서는 추가 학습 비용이 큰 Quantization-Aware Training(QAT)보다, 사전 학습된 모델을 소량의 calibration 데이터만으로 압축하는 Post-Training Quantization(PTQ)이 실용적인 방법으로 널리 활용됩니다. 기존 ViT PTQ 연구들은 LayerNorm 이후 activation의 channel-wise variation, Softmax 이후 activation의 power-law distribution, block output의 outlier 등 ViT 특유의 문제를 해결하며 성능을 높여왔습니다. 하지만 대부분의 방...

Cold-start Bundle Recommendation via Popularity-based Coalescence and Curriculum Heating

본 문서에서는 2024년 WWW 학회에 발표될 " Cold-start Bundle Recommendation via Popularity-based Coalescence and Curriculum Heating " 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title : Cold-start Bundle Recommendation via Popularity-based Coalescence and Curriculum Heating Authors: Hyunsik Jeon, Jong-eun Lee, Jeongin Yun, and U Kang Conference: The Web Conference (WWW) 2024 Cold-start Bundle Recommendation 추천 시스템(recommender system)은 사용자가 관심 가질 만한 아이템을 제안함으로써 사용자 만족도 제고와 비즈니스 목표 달성에 중요한 역할을 합니다. 최근 추천 시스템 분야에서 번들 추천(bundle recommendation)은 개별 아이템 대신 아이템의 묶음을 사용자에게 추천하는 그 특성 때문에 산업계와 학계에서 상당한 주목을 받고 있습니다. 특히 사용자에게 새로운 번들을 추천하는 콜드스타트(cold-start) 번들 추천은 새로운 번들이 끊임없이 만들어지는 실제 세계에서 중요한 문제로 간주됩니다. 그러나 기존의 번들 추천 기법들은 모든 번들이 과거 상호 작용 정보를 가지고 있는 웜스타트(warm-start) 상황에 맞게 설계되었습니다. 이러한 기법들은 번들 표현을 학습하기 위해 과거 상호 작용 정보에 의존하기 때문에, 과거 사용자-번들 상호 작용이 없는 콜드 번들의 표현에 한계가 있습니다. 한편, 아이템 추천을 위한 콜드스타트 기법들은 번들 추천에서 겪는 상호 작용의 고도로 편중된 분포 문제를 명시적으로 고려하지 못하여 콜드스타트 번들 추천 상황에 효과적이지 못한 한계가 있습니다. 본 논문에서는 기존 기법들이 해결하지 못한 콜드스...

Mitigating Distribution Shift in Stock Price Data via Return-Volatility Normalization for Accurate Prediction

본 문서에서는 CIKM 2025 학회에서 발표된 "Mitigating Distribution Shift in Stock Price Data via Return-Volatility Normalization for Accurate Prediction" 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title: Mitigating Distribution Shift in Stock Price Data via Return-Volatility Normalization for Accurate Prediction Authors: Hyunwoo Lee, Jihyeong Jeon, Jaemin Hong, and U Kang Conference: The 34th ACM International Conference on Information and Knowledge Management Stock Price Prediction (주가 예측) 주가 예측 이란 과거의 주식 가격 흐름, 거래량, 뉴스 등 다양한 데이터를 분석하여 미래의 주식 가격이 어떻게 변할지 미리 예상하는 기술 입니다. 쉽게 말해, '내일 주식이 오를까, 내릴까?'를 예측하여 투자의 성공 확률을 높이려는 시도라고 할 수 있습니다. 주가 예측은 금융 분야에서 가장 도전적인 과제 중 하나입니다. Distribution Shifts in Stock Price Data (주가 데이터의 분포 변화) 기존의 딥러닝 모델들이 주가 예측에 많이 활용되고 있지만, 여전히 해결하기 어려운 문제가 하나 있습니다. 바로 학습 데이터와 테스트 데이터의 성격이 다르다 는 점이고 이를 분포 변화(Distribution Shift)라고 합니다. 예시로 그림 1을 살펴보겠습니다. 여기서 (a)는 코카콜라의 주가 차트이고 학습할 데이터와 테스트할 데이터를 나타냅니다. (b)는 코카콜라 주가에서 학습 데이터셋과 테스트 데이터셋의 분포 차이를 시각적으로 나타냅니다. 두 분포가 모...