Hello Computer Vision

링크: https://arxiv.org/pdf/1908.04951.pdf OOD를 unsupervised 방식으로 향상시킨 방법이다. Introduction OOD 에 대한 문제점을 가볍게 언급하고 있다. 그리고 해당 문제점을 새로운 방법인 2 head classifier, unsupervised 방식으로 풀어냈다고 소개하고 있다. 그리고 실험 세팅에서는 unlabeled 데이터에 대해 해당 데이터가 in distribution인지 ood 인지 구분하지 못하지만 성능향상에 도움이 된다고 한다. Method 우선 OOD detection 을 풀어내는 방식의 시초가 되는 MSP논문의 경우 딥러닝 모델의 분류기가 ID의 경우 조금 더 높은 probability를 가지는 것을 이용했다. 이 논문의 저자도 이러한..

https://arxiv.org/pdf/1807.03888.pdf Introduction uncertainty 를 아는 것은 머신러닝을 실제 세계에 응용하기 위해서는 필수적이다. 기존 연구들에서는 posterior distribution으로부터 confidence를 뽑아내 활용했다. 이러한 것은 DNN이 feature space를 구성하는데 도움이 된다. 이 논문에서는 간단하고 효율적이며 pre-trained softmax classifier에도 적용할 수 있는 방법이라고 한다. 해당 방법은 generative(distance based) classifier를 활용하는 것이다. 저자는 Mahalanobis distance를 활용하여 confidence score를 정의한다. 기존 통념과는 다르게 해당 d..

논문의 풀 제목은 Enhancing the Reliability of Out-of-Distribution Image detection in Neural Networks이다. ODIN은 Out of Dstribution detector for Neural networks이다. https://arxiv.org/pdf/1706.02690.pdf Introduction 딥러닝 모델을 실제 세계에 응용해보면 전혀 관련없는 input에 대해 high confidence를 가지는 경향이 있다. 따라서 분류기는 이러한 상황을 잘 인지할 필요가 있다(OOD detection). 가장 간단한 방법은 훈련과정에서 in, out distribution sample들을 많이 노출시키는 것이지만 해당 방법은 매우 비싸다. 따라서..

https://arxiv.org/pdf/1802.04865.pdf Introduction 무언가를 결정할 때 어떤 것을 알고 모르는 것은 매우 중요하다. 그러나 최근 딥러닝 분류기는 성능이 좋기도 하지만 높은 값의 확률을 주면서 틀린 값을 주기도 한다. 또한 이러한 모델들은 OOD데이터에 대해서도 잘 구분하지 못한다. 이러한 문제점은 AI saftey 의 큰 문제점이라고도 할 수 있다. 따라서 해당 논문에서는 분류기로 하여금 confidence estimate를 각 input에서 뽑도록 훈련시킨다. Confidence Estimation 모델로 하여금 input에 대해 confidence 를 산출하는 것은 어려운 일이다. 따라서 저자는 모델에게 인센티브를 따로주었다고한다. 해당 방법에 대한 motivat..

https://arxiv.org/pdf/2007.08176.pdf 논문의 풀 제목은 CSI: Novelty detection via Contrastive Learning on Distribtuonally shifted instances이다. Introduction (해당 논문에서는 OOD detection과 novelty detection이란 용어를 같은 용어로 보고 사용하였다) 일반적으로 OOD detection문제에서 training sample들에 한해 접근한 후 OOD 데이터들을 분리하려고 했다.그러나 OOD space는 굉장히 크다.그러므로 specific OOD 데이터로 샘플링을 하는 것은 detector로 하여금 bias가 생길 수 있다고 한다주로 OOD task에서의 관심은 1. model..

논문: https://arxiv.org/pdf/1711.09325.pdf Introduction 딥러닝 모델이 좋아질수록 해당 모델들의 uncertainty를 측정하는 것도 어려워졌을 뿐더러 over confidence issue가 커졌다고 한다. 이 over confidence issue는 test sample이 OOD인지 아닌지 검출하는데 매우 중요하다. 기존 방법의 confidence score를 측정하는 방법은 (e.g. MSP) threshold를 사용하여 해당 값을 넘으면 1(normal) 넘지 못하면 0(anomaly)라고 분류하였다. 이러한 추론 방식이 매우 간단하지만 이러한 방식은 분류기의 성능에 매우 민감하다고 한다. 이상적으로는 분류기가 모든 ID 데이터와 OOD데이터를 훈련해서 분류..

논문: https://arxiv.org/pdf/1906.02694.pdf Introduction 해당 이미지의 decision boundary를 보면 알 수 있듯이 semi supervised방법을 썼을 때 조금 더 나은 boundary를 보여줌을 알 수 있다. 제목에서 알 수 있듯이 여기서는 one class classification을 수행하는 것이다. 즉 모델로 하여금 normal class에 대하여 학습시키는 것이다. 그리고 기존의 deep 한 구조를 가진 semi supervised 방법을 사용한 것도 잇었으나 domain specific 했다고 한다. Deep semi supervised Anomaly detection 여기서는 먼저 SVDD(Support Vector Data Descript..