Skip to main content

Data Mining Lab. Blog

Search This Blog

Pages

Showing posts from 2022

Posts

DAO-CP: Data-Adaptive Online CP Decomposition for Tensor Stream

Posted by Data Mining Lab. 날짜: 6/08/2022

Signed random walk diffusion for effective representation learning in signed graphs

Posted by Data Mining Lab. 날짜: 5/02/2022

DPar2: Fast and Scalable PARAFAC2 Decomposition for Irregular Dense Tensors

Posted by Data Mining Lab. 날짜: 4/01/2022

Model-Agnostic Augmentation for Accurate Graph Classification

Posted by Data Mining Lab. 날짜: 3/06/2022

Multi-EPL: Accurate Multi-Source Domain Adaptation

Posted by Data Mining Lab. 날짜: 2/02/2022

Compressing Deep Graph Convolution Network with Multi-staged Knowledge Distillation

Posted by Data Mining Lab. 날짜: 1/02/2022

Data Mining Lab.

Go to DMLAB Website

본 블로그에서는 서울대학교
컴퓨터공학부 데이터마이닝

연구실에서 진행하고 있는

최신 연구를 소개합니다.

Archive

2022 6

2021 12
2020 12
2019 1
- December 2019 1

Show more Show less

Popular Posts

D-Tucker: Fast and Memory-Efficient Tucker Decomposition for Dense Tensors

본 문서에서는 ICDE 2020에서 발표된 " D-Tucker: Fast and Memory-Efficient Tucker Decomposition for Dense Tensors " 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Jun-Gi Jang et al., D-Tucker: Fast and Memory-Efficient Tucker Decomposition for Dense Tensors , ICDE 2020 Tucker Decomposition 동영상 (가로, 세로, 시간), 기상 데이터 (오염물질, 위치, 시간) 등과 같이 다양한 데이터들이 밀도 높은 텐서 (Dense tensor)로 표현됩니다. 터커 분해 (Tucker Decomposition) 은 텐서 데이터를 분석하는 가장 유명한 모델 중 하나이며 차원 축소, 클러스터링, 추천 시스템 등과 같이 다양한 응용들에서 활용하고 있습니다. 그림 1. 3차원 텐서에 대한 터커 분해 예시 터커 분해는 그림 1의 예시와 같이 주어진 텐서를 각 차원의 저계수 요인행렬 (low-rank factor matrix)과 관계간의 강도를 표현하는 코어 텐서 (core tensor)로 분해합니다. 터커 분해는 요인 행렬들과 코어 텐서로 복원한 재복원 텐서와 입력 텐서간의 차이를 줄이는 방향으로 요인 행렬들과 코어 텐서를 학습합니다. ALS (Alternating Least Square) 는 터커 분해의 요인 행렬들과 코어 텐서를 학습할 때 사용하는 접근법 중 하나입니다. 해당 방법은 임의의 요인 행렬 하나를 제외한 나머지 모두를 고정시키고, 고정되지 않은 하나의 요인 행렬을 업데이트하며, 요인 행렬들을 순서대로 업데이트합니다. 그림 1의 예에서는 행렬 B와 C를 고정시키고 A를 업데이트합니다. 그 다음, A와 C를 고정시키고 B를 업데이트하며, C도 마찬가지로 A와 B를 고정시켜 업데이트합니다. 요인 행렬들과 코어 텐서로 복원한 재복원 텐서와

Attention-Based Autoregression for Accurate and Efficient Multivariate Time Series Forecasting

본 문서에서는 데이터 마이닝 분야의 SDM 2021 학회에서 발표될 예정인 Attention-Based Autoregression for Accurate and Efficient Multivariate Time Series Forecasting 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title: Attention-Based Autoregression for Accurate and Efficient Multivariate Time Series Forecasting Authors: Jaemin Yoo and U Kang Conference: SIAM International Conference on Data Mining (SDM) 2021 Multivariate Time Series Forecasting 시계열 예측(time series forecasting)은 기계 학습 및 데이터 마이닝 분야에서 활발히 연구되고 있는 문제로서, 많은 수의 실세계 데이터가 시계열 형태로 모델링되기 때문에 주가 예측, 날씨 예측, 전력 수요 예측 등 다양한 실세계 문제와 밀접히 연관되어 있습니다. 그중에서도 다변수(multivariate) 시계열 예측은 서로 연관되어 있는 여러 개의 시계열 변수를 동시에 예측하는 상황을 의미합니다. 위에서 언급한 시계열 예측 문제의 예시는 모두 다변수 예측에 해당됩니다. 즉, 예측 대상이 되는 주식 종목간 관계, 지역간 관계, 그리고 도시 구획별 관계를 모델링함으로써 시계열 예측 정확도를 크게 향상시킬 수 있습니다. 하지만, 각 변수에서 관측되는 패턴과 여러 변수간 관계를 동시에 고려하다 보니 다변수 시계열 예측을 위한 기존 모델은 지나치게 많은 파라미터를 갖는 경향을 보였습니다. 학습 데이터의 양이 충분하지 않고 과거 시점의 데이터에 과적합(overfitting)되기 쉬운 시계열 데이터의 특성상 파라미터 수가 많아질 경우 성능 재현과 하이퍼파라미터 튜닝(hyperparameter tuning)이 무척 어려워집니다.

Learning to Walk across Time for Interpretable Temporal Knowledge Graph Completion

본 문서에서는 데이터 마이닝 분야 학회인 KDD 2021에서 발표 예정인 논문 " Learning to Walk across Time for Interpretable Temporal Knowledge Graph Completion "을 소개합니다. 논문의 상세한 정보는 아래와 같습니다. Title : Learning to Walk across Time for Interpretable Temporal Knowledge Graph Completion Authors : Jaehun Jung, Jinhong Jung and U Kang Conference : The 27th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining ( KDD ), 2021 Temporal Knowledge Graph Completion 통상적인 지식 그래프(knowledge graph)는 현실 세계의 다양한 개체들을 정점(node)로, 개체들 사이의 관계를 간선(edge)로 표현하는 그래프를 일컫습니다. 이들 지식 그래프는 요컨대 (Joe Biden, is_president_of, United States) 등과 같이 다양한 개체들에 대한 관계적 지식을 트리플(triple)로 표현할 수 있어 추천 시스템, 지식 기반 AI 등 여러 분야에서 활용됩니다. 다만, 기존의 지식 그래프는 개체들 사이의 관계를 실제 시간적인 유효성과 관계없이 영속적인 것으로 간주하기 때문에 현실의 지식을 온전히 표현하기 어렵다는 한계가 있습니다. 이러한 단점을 보완해 근래 새로 등장한 지식 저장 형태가 시간 지식 그래프(temporal knowledge graph)입니다. 시간 지식 그래프는 개체들 간의 관계에 더해 그 관계가

Fast and Memory-Efficient Tucker Decomposition for Answering Diverse Time Range Queries

본 문서에서는 데이터 마이닝 분야 학회 중 하나인 KDD 2021에서 발표될 " Fast and Memory-Efficient Tucker Decomposition for Answering Diverse Time Range Queries " 논문을 소개합니다. 논문의 상세한 정보는 다음과 같습니다. Title: Fast and Memory-Efficient Tucker Decomposition for Answering Diverse Time Range Queries Authors: Jun-Gi Jang and U Kang Conference: The 27th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining ( KDD ), 2021 Temporal Dense Tensor 실세계에 존재하는 많은 데이터가 시간 밀도 텐서 (temporal dense tensor)로 표현될 수 있습니다. 시간 밀도 텐서는 한 차원이 시간과 관련이 있으며, 대부분의 값들이 관측된 데이터입니다. 예를 들어, 여러 위치에 설치된 센서들에서 매 시간마다 측정값들을 얻을 수 있습니다. 해당 데이터는 3차원 시간 밀도 텐서로 표현할 수 있습니다. 이 외에도, 주식 데이터, 비디오 데이터, 교통량 데이터 등도 시간 밀도 텐서로 표현할 수 있습니다. 그림 1. 시간 밀도 텐서 예시. 센서 데이터, 주식 데이터, 비디오 데이터, 교통량 데이터 등 다양한 실세계 데이터가 시간 밀도 텐서로 표현할 수 있다. 이렇듯 실세계에 존재하는 많은 데이터가 시간 밀도 텐서로 표현될 수 있으며 여러 차원을 가지는 텐서 특성상 데이터의 크기는 매우 큽니다. 그러므로, 시간 밀도 텐서를 효율적이고 효과적으로 분석하는 방법을 개발하는 것은 매우 중요합니다. Tucker Decomposition 터커 분해 (Tucker decomposition) 는 주어진 텐서를 분석할 수 있는 가장 핵심적인 도구 중 하나입니

Time-Aware Tensor Decomposition for Missing Entry Prediction

본 문에서는 Arxiv에 기재된 Time-Aware Tensor Decomposition for Missing Entry Prediction 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title: Time-Aware Tensor Decomposition for Missing Entry Prediction Authors: Dawon Ahn, Jun-Gi Jang, U Kang Arixv: https://arxiv.org/pdf/2012.08855.pdf CANDECOMP/PARAFAC (CP) Decomposition 그림 1. 3차원 시간 텐서의 CP 분해 다차원 배열을 의미하는 텐서는 시간에 따라 변화하는 다중적인 관계를 표현할 수 있습니다. 예를 들어, 센서에서 수집된 대기 오염 데이터는 오염 물질의 측정 값을 포함하는 3차원 시간 텐서(장소, 오염 물질, 시간)로 표현됩니다. 텐서 분해(Tensor Decomposition)는 텐서 데이터를 효과적으로 분석하는 방법으로, 클러스터링 및 이상 탐지를 포함한 다양한 응용 프로그램에서 광범위하게 활용되고 있습니다. CANDECOMP / PARAFAC (CP) 분해는 가장 대표적인 텐서 분해 모델 중 하나로, 그림 1과 같이 텐서를 각 차원의 벡터들의 외적의 합으로 나타낼 수 있습니다. 위와 같은 시간 텐서에는 대표적인 특성 2가지를 관측할 수 있습니다. 첫번째는 텐서의 시간 차원은 인접한 값들끼리는 서로 연관성이 있는 특징이 있습니다. 예를 들어, t번째 시간에서 관측된 오염 데이터는 t-1, t+1번째 시간에서 관측된 오염 데이터와 비슷한 값을 갖을 것입니다. 두번째로는 데이터를 수집하는 센서 및 기계 오류 및 고장으로 인해 텐서는 많은 결측치로 포함하고, 이는 시간 조각(Time Slice) 별로 다른 희소성(혹은 밀도)을 갖게 합니다. 그러나 표준적인 CP 분해 방법을 포함한 기존 분해 방법들은 위 두 가지 특성 모두 고려하지 않았습니다. 본 논문의 목표는 결측치 예측을 위

AUBER: Automated BERT Regularization

본 문서에서는 AUBER: Automated BERT Regularization 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title: AUBER: Automated BERT Regularization Authors: Hyun Dong Lee, Seongmin Lee, U Kang Arxiv: https://arxiv.org/abs/2009.14409.pdf BERT 정규화 (BERT Regularization) BERT는 2018년 제안된 모델로 많은 자연어 처리 문제에서 좋은 성능을 내고 있습니다. BERT의 학습은 수많은 데이터로 사전학습(pretrain) 후, 풀고자 하는 특정 문제에 맞추어 미세조정(fine-tuning)함으로써 이루어집니다. BERT 모델은 트랜스포머(transformer)의 인코더(encoder)가 여러 층 쌓인 구조로 이루어져 있습니다. 그리고 각 인코더는 멀티 헤드 셀프 어텐션(multi-head self-attention) 구조를 갖습니다. 간단히 말해 어텐션 헤드(attention head)라는 블록 여러 개가 나란히 놓인 구조입니다. 가장 기본적인 모델인 BERT-base의경우, 12개의 어텐션 헤드로 구성된 인코더가 12층으로 쌓인 형태를 갖습니다. 즉, 어텐션 헤드가 12x12 형태로 배치되어 있습니다. 하지만 이러한 BERT는 파라미터가 굉장히 많은 큰 모델입니다. 이로 인해 과적합(overfitting)이 발생해 성능이 낮아지곤 합니다. 특히, 10,000개 이하의 훈련 데이터를 갖는 문제에 대해서는 과적합으로 인해 학습이 전혀 되지 않는 경우도 보고된 바 있습니다. 이는 BERT의 정규화의 필요성을 보여줍니다. 본 논문에서는 프루닝(pruning)을 통해 파라미터 수를 줄임으로써 문제를 해결하고자 합니다. 강화학습과 DQN (Reinforcement Learning and DQN) 강화학습은 현재 상태(state)에서 어떤 행동(action)을 취하는 것이 최적인가를 학습을 통해 파악하는 분

DAO-CP: Data-Adaptive Online CP Decomposition for Tensor Stream

본 문서에서는 PLOS ONE 저널에 게재된 " DAO-CP: Data-Adaptive Online CP Decomposition for Tensor Stream " 논문을 소개합니다. 논문의 상세한 정보는 다음과 같습니다. Title: DAO-CP: Data-Adaptive Online CP Decomposition for Tensor Stream Authors: Sangjun Son*, Yong-chan Park*, Minyong Cho, and U Kang (*equal contribution) Journal: PLOS ONE (2022) Introduction 텐서(tensor) 또는 다차원 배열(multi-dimensional array) 데이터는 신호 처리, 컴퓨터 비전, 그래프 분석, 통계학 등 광범위한 분야의 핵심적인 구성 요소입니다. 텐서 분해는 행렬 분해의 일반화된 형태로서 데이터의 잠재적 특성 발견 및 결측값 추정 등에서 중요한 역할을 수행합니다. 텐서 데이터는 크게 시간에 따라 크기와 값이 변하는 동적(dynamic) 유형과 그렇지 않은 정적(static) 유형으로 구분할 수 있습니다. 동적 텐서에 대한 분해 연구는 실세계를 모델링하기 위해 필수적이나 지금까지 제안된 기법들은 정확도가 지나치게 낮은 한계를 지니고 있었습니다. 구체적으로 기존의 기법들은 빠른 수행 속도를 위해 시간축 업데이트를 생략하거나 이전 시간 단계의 인수행렬(factor matrix)을 그대로 이용하는 방식을 채택하였는데, 이들은 데이터의 패턴이 시간에 따라 변할 때 정확도가 급격하게 떨어지는 단점을 가지고 있었습니다. 본 논문에서는 이러한 한계점을 극복하여 정확하고 효율적인 텐서 분해를 수행하는 Data-Adaptive Online CP decomposition (DAO-CP)을 제안합니다. Proposed Method (DAO-CP) 정확하고 효율적인 텐서 분해를 수행하기 위해서는 다음과 같은 한계점을 극복해야 합니다. [C1] 텐서 스트

Signed random walk diffusion for effective representation learning in signed graphs

본 문서에서는 PLOS ONE 저널에 게제된 " Signed random walk diffusion for effective representation learning in signed graphs " 논문을 소개합니다. 논문의 상세한 정보는 다음과 같습니다. Title: Signed random walk diffusion for effective representation learning in signed graphs Authors: Jinhong Jung, Jaemin Yoo, and U Kang Journal: PLOS ONE (2022) Learning Node Representations on Signed Social Graph 부호화된 사회 연결망이란 정점간의 신뢰 관계를 양 (+, 신뢰) 또는 음 (-, 불신뢰)의 부호가 붙은 간선으로 표현하는 네트워크를 말하며, 실제로 Epinions와 같은 온라인 소셜 서비스에서 각 사용자들이 서로에 대해 표현한 신뢰 관계등이 부호화된 사회 연결망에 해당됩니다. 이러한 부호화된 사회 연결망에서는 정점 간의 신뢰관계 정보를 바탕으로 하여 주어지지 않은 연결 관계를 예측하거나, 연결 관계에서의 신뢰 여부를 예측하거나, 이상현상 탐지를 하는 등 실생활과 연관된 많은 문제를 풀 수 있습니다. 이러한 많은 실생활 응용 문제들을 풀기 위해서는 주로 각 정점들의 표현 (representation)을 학습하는 방식이 많이 채택됩니다. 기존의 연구들은 네트워크 표현 (network embedding)을 학습하거나, Graph Convolutional Network (GCN)을 기반으로 정점들의 표현을 학습하는 것이 일반적이었습니다. 하지만 이러한 기법들은 각각 다음과 같은 한계점들을 가지고 있습니다. 네트워크 표현을 학습하는 기존 연구들의 경우 주어진 테스크에 대해 종단간 학습 (end-to-end learning)이 불가능합니다. 이러한 기법들은 주로 정점들의 신뢰 관계를 바탕으로 학습을 진행한

Supervised Belief Propagation: Scalable Supervised Inference on Attributed Networks

본 문서에서는 데이터 마이닝 분야의 ICDM 2017 학회에서 발표된 Supervised Belief Propagation: Scalable Supervised Inference on Attributed Networks 논문을 소개합니다. 논문의 상세한 정보는 다음과 같습니다. Title: Supervised Belief Propagation: Scalable Supervised Inference on Attributed Networks Authors: Jaemin Yoo, Saehan Jo, and U Kang Conference: IEEE International Conference on Data Mining (ICDM) 2017 Node Classification 정점 분류(node classification)는 그래프 내의 각 정점(node)을 분류하는 문제입니다. 예를 들어 넷플릭스 같은 스트리밍 서비스에서 그림 1과 같이 사용자들이 컨텐츠를 소비한 내역을 그래프로 모델링한 다음 영화나 드라마를 분류하는 작업 등을 생각해볼 수 있습니다. 최근에 그래프 신경망에 대한 연구가 활발히 이루어지면서 함께 주목을 받고 있는 문제이기도 한데, 데이터간 관계가 그래프 형태로 주어져 있는 경우 정점 분류를 통해 학습 데이터가 부족한 반지도 학습(semi-supervised learning) 상황을 해결할 수 있기 때문입니다. 그림 1. 스트리밍 서비스에서 사용자와 컨텐츠간 관계를 나타내는 그래프. 만약 그래프의 각 정점이 고유한 피처 벡터를 가지고 있다면 그래프는 피처간 관계를 나타내는 보조적인 정보로서 사용됩니다. 이런 경우에는 각 정점의 피처 벡터와 그래프 구조를 동시에 고려하여 그 관계를 학습하는 것이 중요합니다. 반면, 본 논문에서는 피처 벡터가 주어지지 않고 그래프 구조 및 간선 정보가 정점 분류를 위한 유일한 정보라고 가정합니다. 따라서, 정점 피처를 인위적으로 생성해야 하는 그래프 신경망 모델을 바로 적용하기 어렵고, 그래프 구조를 최대한 활용하여

DPar2: Fast and Scalable PARAFAC2 Decomposition for Irregular Dense Tensors

본 문서에서는 ICDE 2022에서 발표될 " DPar2: Fast and Scalable PARAFAC2 Decomposition for Irregular Dense Tensors " 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title: DPar2: Fast and Scalable PARAFAC2 Decomposition for Irregular Dense Tensors Authors: Jun-Gi Jang and U Kang Conference: 38th IEEE International Conference on Data Engineering (ICDE), 2022 PARAFAC2 Decomposition 센서 데이터 (시간, 위치, 센서타입), 주식 데이터 (시간, 피쳐, 종목) 등과 같이 다양한 데이터들이 밀도 높은 불규칙 텐서 (irregular dense tensor)로 표현됩니다. 불규칙 텐서는 행의 크기가 서로 다른 행렬들의 모음으로도 볼 수 있습니다. PARAFAC2 Decomposition 은 불규칙 텐서 데이터를 분석하는 가장 유명한 방법 중 하나이며 차원 축소, 고장 탐지, 표현형 발견(phenotype discovery) 등과 같이 다양한 응용들에서 활용되고 있습니다. 그림 1. PARAFAC2 Decomposition PARAFAC2 Decomposition 은 그림 1의 예시와 같이 주어진 불규칙 텐서를 요인행렬(factor matrix)들로 분해합니다. ALS (Alternating Least Square) 는 PARAFAC2 Decomposition의 요인행렬들을 구할 때 사용하는 접근법 중 하나입니다. 해당 방법은 요인 행렬 하나를 제외한 나머지 모두를 고정시키고, 고정되지 않은 하나의 요인 행렬을 업데이트하는 방식으로 요인 행렬들을 순서대로 업데이트합니다. 요인 행렬들은 재복원한 텐서와 입력 텐서 간의 차이가 충분히 작아질 때까지 업데이트가 됩니다. Limitations