2020 NeurIPS - 최희정

NIPS
작성자
Heejeong Choi
작성일
2021-01-05 21:18
조회
75
 

2020년 12월 6일부터 12월 12일까지 온라인으로 개최된 2020 Neural Information Processing Systems (NeurIPS)에 다녀왔습니다. 지난 가을 국내에서 개최되었던 2019 ICCV 참석 이후 오랜만에 computer vision 분야의 top conference 발표를 청취하게 되어 설레는 마음으로 참여하였습니다. 올해 코로나로 인한 비대면 상황들에 의해 많은 어려움이 있었는데, 코로나로 인해 NeurIPS에 등록할 수 있어 약간의 위로가 되는 시간이었습니다. 더불어 전세계의 많은 연구원들의 양질의 연구들을 직접 보고 들을 수 있는 좋은 기회를 가질 수 있도록 배려해주신 교수님께 감사했습니다. 학회에 참석하여 느낀 점과 여러 발표 및 포스터 중 흥미로웠던 몇몇 연구들에 대한 후기를 남기고자 합니다.

 

[ NeurIPS 학회 참석 후기 ]

먼저 이번 2020 NeurIPS에는 한국 대학교에서 진행한 연구들이 매우 많았고, 특히 지난 학기 수업을 수강하였던 고려대학교 김현우 교수님이 지도하신 연구도 포함되어 있어 큰 기대를 갖고 참여하였습니다. 먼저 다양한 분야의 양질의 연구들을 접할 수 있다는 점이 굉장히 좋았고, 온라인으로 진행되어 해외 학회임에도 불구하고 공간의 제약없이 발표를 들을 수 있다는 점도 매우 좋았습니다. 하지만, 지난 가을 참석한 2019 ICCV에서는 oral 발표보다 포스터 세션을 통해 연구에 대한 더 자세한 정보 교류가 진행되어 포스터 세션에도 굉장히 많은 관심을 가지고 참여했던 기억이 있는데, 이번에 온라인으로 진행된 NeurIPS에서는 포스터 세션이 조금 위축되었던 것 같아 아쉬웠습니다.

2020 NeurIPS에서 진행된 발표들은 computer vision 학회답게 다양한 시각 자료를 통해 연구 결과물을 선보였습니다. 또한, 다른 학회들보다 확실히 수학적인 아이디어들이 접목된 연구들이 많아서 더 흥미롭게 청취할 수 있었고, 목표하는 바를 수학적으로 풀이하는 과정을 배울 수 있어 매우 유익했습니다. 특히 요즘 관심을 가지고 있는 time series anomaly detection 분야에서는 objective function의 제안이 중심이 되는 경우가 많은데, 이번 학회 참여를 통해 아이디어를 수식화하는 자세를 배우고 실천 해봐야겠다는 생각이 들었습니다.

 

[ NeurIPS 발표 및 포스터 청취 후기 ]
  •     Timeseries Anomaly Detection using Temporal Hierarchical One-Class Network
최근 time series anomaly detection 분야에 많은 관심을 가지고 있기 때문에 Poster Session 5에서 접한 본 연구는 기대되는 논문 중 하나였습니다. 본 연구에서는 real world 시계열 데이터는 복잡한 temporal dynamics를 기반으로 하기 때문에 이상치 탐지에 어려움이 있다는 점에 초점을 맞추어 이를 해결할 수 있는 시계열 이상치 탐지 모델 Temporal Hierarchical One-Class (THOC) Network를 제안하였습니다. 해당 모델은 dilated RNN을 기반으로 한 Multiscale Temporal Features와 Hierarchical Clustering Layers를 기반으로 한 Fusing the Multiscale Features 두 가지로 구성되어 있습니다. Multiscale Temporal Features는 dilated RNN을 활용하여 short-term 정보와 long-term 정보를 모두 학습하게 하였고, Fusing the Multiscale Features에서는 앞에서 추출된 다양한 multiscale temporal features를 통합하는 differentiable hierarchical clustering procedure를 제안하였습니다. 본 연구에서는 두 번째 부분인 Fusing the Multiscale Features가 큰 contribution을 가지고 있는데, 해당 부분에서는 assignment와 update 단계로 이루어진 clustering layer를 3층으로 쌓아 multiscale temporal features를 통합함으로써 다양한 scale의 정보를 반영한 최종 feature를 도출합니다. 마지막으로 제안한 모델을 end-to-end로 학습하기 위한 Multiscale Support Vector Data Description objective를 제안하였습니다. 해당 loss는 최종 feature와 cluster center의 거리를 최소화하여 가장 작은 hypersphere를 도출하도록 하는 THOC loss, cluster center의 다양성을 확보하기 위해 각 cluster의 중심을 orthogonal하게 만드는 orthogonal loss, multi-step-ahead prediction을 auxiliary task로 수행하는 temporal self-supervision을 통해 더 좋은 timeseries representation을 도출하도록 하는 temporal self-supervision loss로 구성되어 있습니다.

본 연구는 평소에 관심이 많은 time series anomaly detection 분야여서 포스터 세션임에도 불구하고 찾아 가서 본 연구였습니다. 먼저 본 연구가 time series anomaly detection 분야에서 처음으로 Deep SVDD를 기반으로 한 논문이라 새로웠고, 저도 이 분야의 연구를 시작하려는 입장에서 기존의 anomaly detection 방법을 공부하고 이를 잘 발전 시켜야겠다고 생각했습니다. 더불어 본 연구가 수식적인 부분뿐만 아니라 모델 구조 측면에서도 새로운 방향을 제시한 것을 보며 모든 부분에서 다양한 아이디어를 고안 해야겠다는 생각이 다시 한 번 들었습니다. 이번 기회를 통해 제 연구분야에 대한 고민을 더 많이 하고, 어떠한 흐름으로 연구를 진행하면 좋을지에 대한 작은 답을 얻을 수 있었던 것 같아 의미 있는 학회 참여였습니다.

 

다시 한 번 국제 학회 참여를 통해 지식을 교류할 수 있는 좋은 기회를 주신 지도교수님께 감사드리며, 이상으로 2020 Neural Information Processing Systems (NeurIPS) 후기를 마칩니다.

감사합니다.
전체 0

전체 181
번호 제목 작성자 작성일 추천 조회
181
2020 NeurIPS - 김혜연
Hyeyeon Kim | 2021.01.18 | 추천 0 | 조회 113
Hyeyeon Kim 2021.01.18 0 113
180
2020 NeurIPS - 김형석
Hyungseok Kim | 2021.01.15 | 추천 0 | 조회 74
Hyungseok Kim 2021.01.15 0 74
179
2020 NeurIPS - 김명섭
Myeongsup Kim | 2021.01.14 | 추천 0 | 조회 62
Myeongsup Kim 2021.01.14 0 62
178
2020 대한산업공학회 추계학술대회 - 김명섭
Myeongsup Kim | 2021.01.14 | 추천 0 | 조회 51
Myeongsup Kim 2021.01.14 0 51
177
2020 NeurIPS - 이정호
Jungho Lee | 2021.01.06 | 추천 0 | 조회 92
Jungho Lee 2021.01.06 0 92
176
2020 NeurIPS - 이유경
Yukyung Lee | 2021.01.05 | 추천 0 | 조회 90
Yukyung Lee 2021.01.05 0 90
175
2020 NeurIPS - 최희정
Heejeong Choi | 2021.01.05 | 추천 0 | 조회 75
Heejeong Choi 2021.01.05 0 75
174
2020 대한산업공학회 춘계학술대회 - 이유경
Yukyung Lee | 2021.01.05 | 추천 0 | 조회 56
Yukyung Lee 2021.01.05 0 56
173
2020 대한산업공학회 추계학술대회 - 최희정
Heejeong Choi | 2021.01.05 | 추천 0 | 조회 55
Heejeong Choi 2021.01.05 0 55
172
2020 NeurIPS - 김탁영
Takyoung Kim | 2021.01.04 | 추천 0 | 조회 88
Takyoung Kim 2021.01.04 0 88

Data Science & Business Analytics Lab.
School of Industrial Management Engineering
College of Engineering, Korea University

Contact Us

  • 강필성 교수 (pilsung_kang@korea.ac.kr)
    서울특별시 성북구 안암로 145 고려대학교 자연계캠퍼스 창의관 801A호 
  • 대학원 연구실 (총무 이유경: yukyung_lee@korea.ac.kr)
    서울특별시 성북구 안암로 145 고려대학교 자연계캠퍼스 신공학관 220호, 221호, 213호
© 2020 DSBA Lab.