2019 한국데이터마이닝학회 춘계학술대회 - 노영빈

데이터마이닝학회
작성자
관리자
작성일
2020-03-12 13:45
조회
126
지난 4월 11일, <사례를 통해 본 AI & BI>라는 주제로 열린 한국데이터마이닝학회 주최 2019 BI Conference에 참석하였습니다. 입학 전 NCSoft에서 열린 AI Day 행사에 참가한 적이 있었지만, 학회 주최의 학술 행사에 참가한 것은 이번이 처음이라 많은 기대를 갖고 있었습니다. 행사가 실제 비즈니스 상에 적용되는 AI기술에 대해 다루고 있었고, 다양한 기업들의 후원으로 이루어지다보니 아침부터 분주한 기업들의 홍보 부스가 눈에 띄었습니다. 저는 우리 연구실의 발표가 이루어졌으며, 제가 관심을 가지고 있는 분야를 다루고 있는 트랙4에서 주로 발표를 들었습니다.

 

[RCNN based Pose Estimation using Motion-Context Attention]

서울대학교 신승훈님의 발표였습니다. 개인적으로 컴퓨터비전 수업을 들으며 Multi-Object Tracking관련 프로젝트를 진행하고 있고, 우리 연구실 세미나에서도 pose estimation에 관한 논문을 흥미롭게 읽었기 때문에 관심이 갔던 발표였습니다. 실시간 영상처리에서는 빠른 frame 처리가 중요하며 mobile device에 탑재될 경우 그 모델의 용량 또한 중요해지기 때문에 이를 문제점으로 잡고 연구를 진행한 점이 더 관심을 끌었습니다. 발표의 핵심은 이전 frame의 pose estimation 결과를 기반으로 특정 bounding box 안에서만 RCNN 모델이 돌아가게 만드는 것이었습니다. 이는 저 또한 MOT 관련 프로젝트를 진행하며 생각해봤던 아이디어였는데, 주로 영상에서는 frame과 frame 사이의 pixel 변화가 크지 않기 때문에 이전 frame 정보를 활용한다면 현재 frame을 더욱 효율적으로 처리하는 것이 가능하기 때문입니다. 하지만 저는 이 frame간 차이를 딥러닝 모델에 적용할 생각만을 해봤을 뿐, 해당 발표처럼 단순히 이전 frame의 결과물 자체를 현재 frame의 처리 범위로 제한하는 것은 생각해보지 못했었습니다. 물론 발표에서 활용된 attention의 개념이 일반적으로 사용되는 attention의 개념과 달라 혼동이 있긴 했지만 전체적으로 좋은 결과물을 낼 수 있을 가능성이 보이는 연구였습니다. Deeppose 등의 related works를 소개하긴 했으나 더욱 다양한 사례나 연구결과를 소개하지 않은 점은 아쉬움으로 남습니다.

 

[절단된 분포를 이용한 인공신경망에서의 초기값 설정방법]

중앙대학교 김민종님의 발표였습니다. 요즘에는 모델을 학습시킬 때 weight 초기화 방법으로 Xavier나 He Initialization을 사용하는 것이 관례처럼 되어 있습니다. 저 또한 두 방법론을 많이 사용하는데, 이들 모두 2015년에 제안된 방법론으로 이후 weight 초기화에 대한 연구는 어떠한 방식으로 이루어졌는지, 이보다 더 나은 방법들은 없을지에 대한 의문이 들기도 하였습니다. 해당 발표는 이렇게 오랫동안 사용되어온 Initialization 방법론에 의문을 제기하였다는 점에서 신선한 발표 내용이었습니다. 연구의 문제의식은 작은 확률이지만 정규분포의 양 극단 값이 추출될 경우 saturation 현상이 일어날 수 있다는 것에서 출발합니다. He, Xavier 초기화에서는 주로 특정 범위의 정규분포에서 weight 값을 추출하는데, 만약 분포의 양 끝에서 값이 추출될 경우 지나치게 크거나 작은 값의 input이 activation function에 들어가게 되고, 이 경우 gradient의 전파가 잘 이루어지지 않을 것이기 때문입니다. 이를 방지하기 위해 양 극단을 절단한 truncated normal과 truncated cauchy 분포에서 weight 값을 추출하자는 것이 요지입니다. 비록 해당 방법론을 통한 성능 향상이 통계적으로 유의한 지에 대한 실험은 이루어지지 않았지만 합리적인 의문에서 출발한 좋은 발표였다는 생각이 들었습니다.

 

[합성곱 순환 신경망을 활용한 태풍의 최대풍속 산출]

고려대학교 이민형님의 발표였습니다. 이번 달부터 대우조선해양 프로젝트에 참여하고 있는데 기상예측 문제에 딥러닝이 활용되었다는 점에서 주의깊게 들을 수 있었던 발표입니다. 해당 발표에서 흥미로웠던 점은 풍속 예측문제를 regression이 아닌 classification 문제로 푼 뒤, 해당 class 들의 가중평균으로 regression을 수행했다는 것이었습니다. 현재 대우조선해양 프로젝트에서도 파향을 예측하는 프로젝트를 진행 중에 있는데, 파향은 각도라는 feature의 특성 상 0과 360이 같은 의미를 지니기 때문에 regression이 아닌 classification 문제로 접근하고 있습니다. 이 발표를 들은 후 단순히 classification을 수행한 뒤 argmax를 통해 가장 확률이 높은 class로 예측하게 하는 것이 아니라, top5 class의 가중평균이나 기대값으로 inference를 수행한다면 성능의 향상을 기대해볼 수 있겠다라는 생각이 들었습니다.

 

이번 학회는 제가 관심을 가지고 있는 pose estimation이나 CNN/RNN 등에 대한 발표가 많아 개인적으로 흥미롭게 들을 수 있었습니다. 학문적인 면 뿐 아니라 태도적인 면에서도 교훈삼을 수 있었던 것은 연구가 단순히 생각만으로는 이루어지지 않는다는 점이었습니다. 제가 단순히 떠올린 뒤 머릿속에서만 가지고 있는 아이디어는 코드로 구현되고 학회 또는 논문으로 발표되지 않는다면 큰 의미를 지니지 못할 것이라는 생각이 들었습니다. 현재는 첫 학기이므로 다양한 분야의 논문을 읽고 학과 수업을 들으며 지식을 쌓아가는 과정에 있지만, 추후 실제 제 연구를 진행할 때는 떠오른 아이디어를 노트에 적는 것을 넘어 코드로 구현하고 반복적으로 실험하는 과정을 거쳐야겠다고 다짐하게 되었습니다.
전체 0

전체 181
번호 제목 작성자 작성일 추천 조회
101
2019 한국데이터마이닝학회 춘계학술대회 - 김동화
관리자 | 2020.03.12 | 추천 0 | 조회 76
관리자 2020.03.12 0 76
100
2019 한국데이터마이닝학회 춘계학술대회 - 김준홍
관리자 | 2020.03.12 | 추천 0 | 조회 104
관리자 2020.03.12 0 104
99
2019 한국데이터마이닝학회 춘계학술대회 - 이정훈
관리자 | 2020.03.12 | 추천 0 | 조회 203
관리자 2020.03.12 0 203
98
2019 한국데이터마이닝학회 춘계학술대회 - 최종현
관리자 | 2020.03.12 | 추천 0 | 조회 92
관리자 2020.03.12 0 92
97
2019 한국데이터마이닝학회 춘계학술대회 - 노영빈
관리자 | 2020.03.12 | 추천 0 | 조회 126
관리자 2020.03.12 0 126
96
2019 한국데이터마이닝학회 춘계학술대회 - 양우식
관리자 | 2020.03.12 | 추천 0 | 조회 84
관리자 2020.03.12 0 84
95
2019 한국데이터마이닝학회 춘계학술대회 - 서승완
관리자 | 2020.03.12 | 추천 0 | 조회 46
관리자 2020.03.12 0 46
94
2019 한국데이터마이닝학회 춘계학술대회 - 조규원
관리자 | 2020.03.12 | 추천 0 | 조회 87
관리자 2020.03.12 0 87
93
2019 한국데이터마이닝학회 춘계학술대회 - 손규빈
관리자 | 2020.03.12 | 추천 0 | 조회 48
관리자 2020.03.12 0 48
92
2019 한국데이터마이닝학회 춘계학술대회 - 송서하
관리자 | 2020.03.12 | 추천 0 | 조회 59
관리자 2020.03.12 0 59

Data Science & Business Analytics Lab.
School of Industrial Management Engineering
College of Engineering, Korea University

Contact Us

  • 강필성 교수 (pilsung_kang@korea.ac.kr)
    서울특별시 성북구 안암로 145 고려대학교 자연계캠퍼스 창의관 801A호 
  • 대학원 연구실 (총무 이유경: yukyung_lee@korea.ac.kr)
    서울특별시 성북구 안암로 145 고려대학교 자연계캠퍼스 신공학관 220호, 221호, 213호
© 2020 DSBA Lab.