Loading [MathJax]/extensions/TeX/AMSsymbols.js

Skip to main content

Data Mining Lab. Blog

Search This Blog

Pages

Showing posts from 2025

Posts

Accurate Link Prediction for Edge-Incomplete Graphs via PU Learning

Posted by Data Mining Lab. 날짜: 4/03/2025

Accurate Stock Movement Prediction via Multi-Scale and Multi-Domain Modeling

Posted by Data Mining Lab. 날짜: 3/02/2025

Towards True Multi-interest Recommendation: Enhanced Scheme for Balanced Interest Training

Posted by Data Mining Lab. 날짜: 2/01/2025

Sequentially Diversified and Accurate Recommendations in Chronological Order for a Series of Users

Posted by Data Mining Lab. 날짜: 1/01/2025

Data Mining Lab.

Go to DMLAB Website

본 블로그에서는 서울대학교
컴퓨터공학부 데이터마이닝

연구실에서 진행하고 있는

최신 연구를 소개합니다.

Archive

2025 4

2024 12
2023 12
2022 12
2021 12
2020 12
2019 1
- December 2019 1

Show more Show less

Popular Posts

Sequentially Diversified and Accurate Recommendations in Chronological Order for a Series of Users

본 문서에서는 2025년 WSDM 학회에서 발표될 "Sequentially Diversified and Accurate Recommendations in Chronological Order for a Series of Users" 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title: Sequentially Diversified and Accurate Recommendations in Chronological Order for a Series of Users Authors: Jongjin Kim and U Kang Conference: WSDM (2025) Sequentially Diversified Recommendation 상품의 종류가 늘어나고 정보가 범람함에 따라 오늘날 사용자들은 구매할 아이템을 찾기 위해 추천시스템에 크게 의존하곤 합니다 . 따라서 전자상거래 플랫폼 등에서 수익을 극대화하기 위한 기술이 점점 중요해지고 있습니다 . 다양화 추천은 플랫폼의 수익을 극대화하기 위한 대표적인 연구 주제입니다 . 다양화 추천에서는 사용자들에게 정확한 아이템을 추천하는 것을 넘어서 사용자 전체에 대해 다양한 아이템을 노출시키는 것을 목표로 합니다 . 이를 통해 플랫폼은 보유한 재고를 모두 소진하도록 사용자들을 유도할 수 있으며 또한 덜 유명한 아이템의 노출 횟수를 늘려 고른 수익을 얻을 수 있습니다 . 그러나 기존 다양화 추천 시스템(aggregately diversified recommendation)은 여러 사용자에 대한 추천이 동시에 일어난다고 가정하는 한계가 있었습니다 . 실제 전자상거래 플랫폼에서는 사용자가 한 번에 한 명씩 필요할 때마다 추천을 받아가므로 매 추천 시점에서 이후에 어떤 사용자가 추천을 받게 될지를 사전에 알지 못한 채 추천을 진행해야 합니다 . 본 논문은 이처럼 추천이 차례로 이루어지는 상황에서 다양화 추천을 수행하는 순차 다양화 추천(sequentially ...

Accurate Stock Movement Prediction via Multi-Scale and Multi-Domain Modeling

본 문서에서는 BigData 2024 학회에 발표된 "Accurate Stock Movement Prediction via Multi-Scale and Multi-Domain Modeling" 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title : Accurate Stock Movement Prediction via Multi-Scale and Multi-Domain Modeling Authors: JinGee Kim, Yong-chan Park, Jaemin Hong, and U Kang Conference: 2024 IEEE International Conference on Big Data Stock Movement Prediction 주가 예측은 금융 분야에서 핵심적인 역할을 하는 기술로, 투자자에게 잠재적인 이익 기회를 제공하고 시장 동향을 파악하는 데 큰 도움을 줍니다. 특히 최근에는 전통적인 단일 시계열 분석만으로는 주가가 지닌 복잡하고 비선형적인 변화를 충분히 포착하기 어려워졌습니다. 이에 따라 다양한 모델 구조가 제안되어 왔으며, 긴 시계열 의존성과 지역적 패턴을 모두 고려할 수 있는 새로운 접근들이 주목받고 있습니다. 기존의 여러 연구에서는 주가의 복잡한 의존성을 효과적으로 포착하기 위한 다양한 방법론을 제시하였습니다. 특히 주목할 만한 접근 중 하나는 어텐션 메커니즘을 활용한 방법으로, 장·단기 의존성을 동시에 모형화하고 섹터 간 상관관계 등을 파악하는 데에 유리하다는 점이 알려져 있습니다. 하지만 기존 어텐션 기반 기법들은 수개월 이상의 매우 장기적인 패턴을 파악하기에는 한계가 있으며, 시계열 데이터에 내재된 다중 스케일(multi-scale) 및 다중 도메인(multi-domain) 정보를 충분히 활용하지 못한다는 단점이 보고되고 있습니다. 이 밖에도 합성곱신경망(Convolutional Neural Network, C...

Accurate Link Prediction for Edge-Incomplete Graphs via PU Learning

본 문서에서는 AAAI '25 학회에서 발표된 " Accurate Link Prediction for Edge-Incomplete Graphs via PU Learning " 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title : Accurate Link Prediction for Edge-Incomplete Graphs via PU Learning Authors: Junghun Kim, Ka Hyun Park, Hoyoung Yoon, and U Kang Conference: AAAI Conference on Artificial Intelligence (AAAI) 2025 Introduction 그래프 데이터는 소셜 네트워크, 추천 시스템, 논문 인용 네트워크 등 다양한 분야에서 활용됩니다. 하지만 현실 세계의 그래프는 불완전 (edge-incomplete) 한 경우가 많으며, 존재해야 할 링크가 관측되지 않은 경우가 많습니다. 그래프 링크 예측 (Link Prediction) 은 주어진 그래프에서 연결될 가능성이 높은 링크를 찾아내는 문제 입니다. 예를 들어, 소셜 네트워크에서 사용자에게 친구를 제안하거나, 추천 시스템에서 사용자에게 아이템을 추천하거나, 논문 인용 네트워크에서 인용할 논문을 제안하는 것 모두 실생활에서 쉽게 찾아볼 수 있는 그래프 링크 예측 문제들입니다. 이 문제를 다른 관점에서 바라보면, 그래프 링크 예측은 어떠한 노드 쌍 (node pair) 가 연결되었을지 (positive), 연결되지 않았을지 (negative) 를 분류하는 이진 분류 문제입니다. 그러나 기존 링크 예측 기법 (GCN, GAT, GAE 등) 은 주어진 그래프에서 연결되지 않은 노드 쌍을 무조건 연결되지 않았다고 (negative 샘플로) 간주 하는 문제가 있습니다. 하지만, 실제로 연결이...

D-Tucker: Fast and Memory-Efficient Tucker Decomposition for Dense Tensors

본 문서에서는 ICDE 2020에서 발표된 " D-Tucker: Fast and Memory-Efficient Tucker Decomposition for Dense Tensors " 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Jun-Gi Jang et al., D-Tucker: Fast and Memory-Efficient Tucker Decomposition for Dense Tensors , ICDE 2020 Tucker Decomposition 동영상 (가로, 세로, 시간), 기상 데이터 (오염물질, 위치, 시간) 등과 같이 다양한 데이터들이 밀도 높은 텐서 (Dense tensor)로 표현됩니다. 터커 분해 (Tucker Decomposition) 은 텐서 데이터를 분석하는 가장 유명한 모델 중 하나이며 차원 축소, 클러스터링, 추천 시스템 등과 같이 다양한 응용들에서 활용하고 있습니다. 그림 1. 3차원 텐서에 대한 터커 분해 예시 터커 분해는 그림 1의 예시와 같이 주어진 텐서를 각 차원의 저계수 요인행렬 (low-rank factor matrix)과 관계간의 강도를 표현하는 코어 텐서 (core tensor)로 분해합니다. 터커 분해는 요인 행렬들과 코어 텐서로 복원한 재복원 텐서와 입력 텐서간의 차이를 줄이는 방향으로 요인 행렬들과 코어 텐서를 학습합니다. ALS (Alternating Least Square) 는 터커 분해의 요인 행렬들과 코어 텐서를 학습할 때 사용하는 접근법 중 하나입니다. 해당 방법은 임의의 요인 행렬 하나를 제외한 나머지 모두를 고정시키고, 고정되지 않은 하나의 요인 행렬을 업데이트하며, 요인 행렬들을 순서대로 업데이트합니다. 그림 1의 예에서는 행렬 B와 C를 고정시키고 A를 업데이트합니다. 그 다음, A와 C를 고정시키고 B를 업데이트하며, C도 마찬가지로 A와 B를 고정시켜 업데이트합니다. 요인 행렬들과 코어 텐서로 복원한 재복원 텐서와 ...

Curved-Voxel Clustering for Accurate Segmentation of 3D LiDAR Point Clouds with Real-Time Performance

본 문서에서는 IROS 2019에서 발표된 Curved-Voxel Clustering for Accurate Segmentation of 3D LiDAR Point Clouds with Real-Time Performance 논문을 소개합니다. 논문에 대한 상세 정보는 다음과 같습니다. Title: Curved-Voxel Clustering for Accurate Segmentation of 3D LiDAR Point Clouds with Real-Time Performance [ link ] Authors: Seungcheol Park, Shuyu Wang, Hunjung Lim, and U Kang Conference: IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS) 2019 Segmentation of 3D LiDAR Point Clouds 3차원 라이다 센서 (3D LiDAR sensor)란 빛을 이용하여 주변 물체까지의 거리를 측정하여 센서 주변에 있는 물체들에 대한 위치 정보를 전달해주는 장치입니다. 라이다 센서는 실내에서 사용되는 안내 로봇부터 자율주행 차량까지 다양한 분야에서 사용되고 있습니다. 이때, 라이다 센서는 주로 주변에 물체가 있는지 없는지를 인식 (detection)하거나, 물체가 있다면 어떤 물체인지를 식별 (classification)하는 일을 주로 하게 됩니다. 특히 실내외에서 사람을 인식하는 보행자 식별 (pedestrian classification) 과정은 안전을 위해서도 중요하기 때문에 활발하게 연구되고 있는 분야입니다. 그림 1. 라이다 센서를 이용한 보행자 식별 과정의 예시 그림 1은 현관에 설치된 라이다 센서를 통해 보행자를 인식하는 예시를 보여주고 있습니다. 라이다 센서가 인식한 점 정보 (Input Data)를 전달받은 후 다음과 같은 네 단계를 통...

Accurate Coupled Tensor Factorization with Knowledge Graph

본 문서에서는 BigData 2024에서 발표될 "Accurate Coupled Tensor Factorization with Knowledge Graph " 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title : Accurate Coupled Tensor Factorization with Knowledge Graph Authors : SeungJoo Lee, Yong-chan Park, and U Kang Conference : IEEE International Conference on Big Data (BigData) 2024 PARAFAC2 Decomposition & Knowledge Graph PARAF AC2 분해 ( PARAFAC2 Decomposition). PARAFAC2 분해는 실세계의 불규칙 텐서 데이터를 분석하는 데 널리 사용되는 도구로, 차원 축소, 이상 탐지 등 다양한 분야에서 활용되고 있습니다. 지식 그래프(Knowledge Graph). 지식 그래프는 관계형 데이터를 삼중항으로 표현하는 구조화된 데이터베이스로, 삼중항은 헤드(head) 엔티티, 테일(tail) 엔티티, 그리고 두 엔티티 간의 관계로 구성됩니다. 예를 들어, 삼중항 (" J.K. 롤링 ", "쓰다", " 해리포터 ")은 J.K. 롤링이 해리포터의 저자임을 명시적으로 나타냅니다. 또한, 지식 그래프는 3차원 텐서로 모델링될 수 있으며, 텐서의 각 요소는 삼중항의 진위 여부를 나타내어 참이면 1, 거짓 또는 불확실하면 0으로 표현됩니다. 엔티티 간의 복합적이고 의미론적인 관계를 효과적으로 모델링할 수 있다는 점에서, 지식 그래프는 정보 검색, 추천 시스템, 지식 추론 등 다양한 인공지능 응용 분야에서 중요한 역할을 하고 있습니다. 그림 1. PARAFAC2 Decomposition 그림 1의 예시처럼, PARAFAC2 분해는 주어진 불규칙 텐서를 요인 행렬로 ...

Towards True Multi-interest Recommendation: Enhanced Scheme for Balanced Interest Training

본 문서에서는 2024년 BigData 학회에서 발표된 "Towards True Multi-interest Recommendation: Enhanced Scheme for Balanced Interest Training" 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title: Towards True Multi-interest Recommendation: Enhanced Scheme for Balanced Interest Training Authors: Jaeri Lee, Jeongin Yun, and U Kang Conference: BigData (2024) Multi-interest Recommendation 추천 시스템은 사용자의 관심사를 기반으로 콘텐츠를 추천하는 기술로, 전자상거래, 동영상 스트리밍, 소셜 네트워크 등 다양한 분야에서 핵심적인 역할을 합니다. 최근에는 단일 관심사 추천(single-interest recommendation)의 한계를 보완하고자 다중 관심사 추천(multi-interest recommendation)이 도입되었습니다. 이러한 다중 관심사 추천 모델은 사용자의 복잡한 선호를 여러 벡터로 나타내어 더 정밀한 추천을 가능하게 합니다. 그러나 기존 다중 관심사 추천 연구는 주로 모델 아키텍처 설계에 초점을 맞추었으며, 학습 과정에서 나타나는 불균형 문제를 간과하는 경우가 많습니다. 특히, 하나의 주요 관심사에 학습이 집중되어 다른 관심사들은 충분히 반영되지 못하는 문제와 각각의 관심사를 독립적으로 학습한다는 문제가 존재합니다. 이는 다음과 같은 결과를 초래합니다: 추천의 편향 : 특정 관심사에 치우친 추천 결과. 그림 1. 관심사 학습과 각 관심사에서 도출된 추천의 비중. 그림 1은 기존 다중 관심사 추천 모델인 ComiRec에서 학습이 한 관심사에 치중되었을 때, 추천 결과 역시 한 관심사로 평향됨을 보여줍니다. 본 논문에서 제안한 기법인 Ba...

Learning to Walk across Time for Interpretable Temporal Knowledge Graph Completion

본 문서에서는 데이터 마이닝 분야 학회인 KDD 2021에서 발표 예정인 논문 " Learning to Walk across Time for Interpretable Temporal Knowledge Graph Completion "을 소개합니다. 논문의 상세한 정보는 아래와 같습니다. Title : Learning to Walk across Time for Interpretable Temporal Knowledge Graph Completion Authors : Jaehun Jung, Jinhong Jung and U Kang Conference : The 27th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining ( KDD ), 2021 Temporal Knowledge Graph Completion 통상적인 지식 그래프(knowledge graph)는 현실 세계의 다양한 개체들을 정점(node)로, 개체들 사이의 관계를 간선(edge)로 표현하는 그래프를 일컫습니다. 이들 지식 그래프는 요컨대 (Joe Biden, is_president_of, United States) 등과 같이 다양한 개체들에 대한 관계적 지식을 트리플(triple)로 표현할 수 있어 추천 시스템, 지식 기반 AI 등 여러 분야에서 활용됩니다. 다만, 기존의 지식 그래프는 개체들 사이의 관계를 실제 시간적인 유효성과 관계없이 영속적인 것으로 간주하기 때문에 현실의 지식을 온전히 표현하기 어렵다는 한계가 있습니다. 이러한 단점을 보완해 근래 새로 등장한 지식 저장 형태가 시간 지식 그래프(temporal knowledge graph)입니다. 시간 지식 그래프는 개체들 간의 관계에 더해 그 관계가 ...

Compressing Deep Graph Convolution Network with Multi-staged Knowledge Distillation

본 문서에서는 PLOS ONE 저널에 게재된 " Compressing Deep Graph Convolution Network with Multi-staged Knowledge Distillation " 논문을 소개합니다. 논문의 상세한 정보는 다음과 같습니다. Title: Compressing Deep Graph Convolution Network with Multi-staged Knowledge Distillation Authors: Junghun Kim, Jinhong Jung, and U Kang Journal: PLOS ONE (2021) Node Classification 정점 분류(node classification)는 그래프에서 각 정점(node)을 분류하는 문제입니다. 예를 들어 카카오톡, 라인과 같은 메신저 네트워크에서 사용자끼리 메시지를 주고 받은 내역을 아래 그림과 같은 그래프로 모델링하여, 악성 사용자를 분류하는 문제 또한 정점 분류 문제입니다. 최근에 깊은 그래프 신경망(deep graph neural network)이 이 문제에서 좋은 성능을 보이며 주목받고 있습니다. 이는 그래프 신경망에서 레이어(layer) 수가 많아질수록 더 먼 거리의 정점으로부터 정보를 받아올 수 있어, 모델이 더욱 많은 정보를 활용할 수 있기 때문입니다. 그러나 그래프 신경망이 깊어질수록 학습해야 할 파라미터 수가 증가하고 모델의 크기는 커지게되어, 모바일이나 임베디드 시스템과 같은 제한된 컴퓨팅 리소스를 가지는 환경에서는 사용이 어렵습니다. 그림 1. SNS 네트워크에서 사용자끼리 주고 받은 메세지를 통해 생성한 그래프 Knowledge Distillation 지식 증류(knowledge distillation) 기법은 큰 모델을 작은 모델로 압축하여 제한된 컴퓨팅 리소스를 가지는 환경에서도 활용할 수 있도록 합니다. 이 기법은 간단한 방법으로 큰 모델의 성능을 작은 모델에서 보존할 수 있기 때문에 모델 압축 영역에서...

Knowledge Extraction with No Observable Data

본 문서에서는 NeurIPS 2019에서 발표된 Knowledge Extraction with No Observable Data 논문을 소개합니다. 논문에 대한 상세한 정보는 다음과 같습니다. Title: Knowledge Extraction with No Observable Data Authors: Jaemin Yoo, Minyong Cho, Taebum Kim, and U Kang Conference on Neural Information Processing Systems (NeurIPS) 2019 Knowledge Extraction 지식 증류(knowledge distillation)는 한 모델의 학습된 지식을 다른 모델에 전달하는 방법입니다. 예를 들면 모델 A와 B가 주어져 있는데 A는 파라미터의 수도 많고 학습 능력이 뛰어난 반면 B는 그렇지 않다고 합시다. 그러면 주어진 데이터로부터 모델 B를 직접 훈련하는 것보다 모델 A를 훈련한 다음에 A가 학습한 지식을 모델 B에 이용하는 것이 더 좋은 성능을 이끌어낼 수 있습니다. 지식 증류 알고리즘의 구체적인 동작 방식을 요약하자면 다음과 같습니다 ( 참고 ). 훈련된 모델 A가 주어져 있다고 가정합니다. 데이터(피처)를 모델 A에 입력으로 주어 예측값을 저장합니다. 저장한 예측값을 정답으로 하여 모델 B를 학습합니다. 그러나 훈련된 모델 A는 주어져 있으나 데이터가 없는 상황이라면 지식 증류 방법을 활용해 A의 지식을 다른 모델로 전달할 수 없습니다. 모델 A에 입력할 데이터가 없기 때문에 예측값을 얻을 수도 없기 때문입니다. 입력 형식이 같은 임의의 데이터를 생성할 수는 있지만, 그런 데이터는 실제 데이터와 전혀 다른 분포를 갖게 될 가능성이 높아 모델 B의 성능을 오히려 저하시킬 수도 있습니다. 이러한 상황에서, 본 논문은 모델 A로부터 가짜 데이터를 생성하여 이를 지식 증류에 활용하는 새로운 딥 러닝 구조를 제안합니다. 이때 모델의 지식을 증류하기 위해서는 먼...