Hello Computer Vision

논문의 full 제목은 "Unpaired Image to Image Translation using Cycle-Consistent Adversarial Networks)이다. 이번에 스터디에서 캐글에서 열고 있는 대회에 참여하기 위해 CycleGAN을 공부하기로 했고 논문을 읽게되었다. 수식이 다른 논문에 비해 많이 나오지 않아서 어렵지는 않았지만 여러 논문들을 참고한 것이 읽으면서 느껴졌다. 기존의 논문리딩처럼 처음부터 읽어보겠습니다. Introduction 모네는 본인의 눈에 보이는 것을 화풍에 담았습니다. 과연 모네가 지금 우리세계의 풍경을 본다면 어떻게 담아낼 수 있을까요? 이러한 궁금증으로 시작합니다. 본 논문에서의 목표는 하나의 이미지의 특징을 다른 이미지로 옮기는 것이라고 합니다. (capt..

최근에 과제랑 팀플이 너무 몰려서 정신이 없네요.. 그럼 오늘 강의 들은 것 간략하게 기록해보겠습니다. 저번에 이어서 산수연산 예제들을 많이 살펴보았습니다. 컴퓨터가 곱셈을 실행할 때는 단순히 하는 것이 아닌 알고리즘에 맞추어 곱셈을 합니다. 그렇다는 것은 어떤 알고리즘을 쓰냐에 따라 효율성과 속도가 달라질 거 같네요.(나눗셈도 마찬가지) 최근 CPU에는 10억개 이상의 회로가 있다.(스마트폰에는 더 많은 회로가 집적되어서 있다고 합니다. 그래서 고장이 잘나나..?) 그래서 덧셈뺄샘 정도는 빠르게 할 수 있다. 여기서 연산은 integer연산을 말한다. 내가 예전 자바를 공부할 때도 이해 안되는 부분이 왜 float, int 부분들을 정의해주는 것이었다. 근데 조금 전 곱셈, 나눗셈은 알고리즘에 의해서 ..

이번 데이터마이닝 수업에서 예측과 분류하는데 한가지 기법으로 Neural Network가 나오는데 이를 설명하시면서 손실함수 내용들이 나왔다. 분명 내가 자주 쓰는건데 낯설었다. 그래서 한번 정의하려고 한다. 1. MSE(Mean Squared Error) 가장 직관적인 손실함수 방법이다. $$ E = Loss = \frac{1}{2} (y - \hat{y})^2 $$ $y$는 정답값이고 $\hat{y}$ 는 예측값을 의미합니다. 번외로 $\bar{y}$ 는 평균값을 의미합니다. 예시 정답 : 10(y) 예측 : 5 오차 : (10-5)^2 = 25 MSE의 특징이라하면 큰 오차에 대해 더 많은 처벌을 줄 수 있다는 점입니다. MAE(Mean Absolute Error) 와는 다르게 미분이 가능해서 주로..

WGAN에 관해서 간략한 리뷰를 지난번에 했는데요, 이번에는 코드구현을 해보겠습니다. 훈련과정에서의 손실함수 부분을 주의깊게 봐주시면 될 거 같습니다. WGAN 설명 https://keepgoingrunner.tistory.com/32 WGAN(Wasserstein GAN, 2017) 에 대한 간단한 이해 이번에 읽으려고 했던 논문은 WGAN이었다. 그러나 너무나 많은 수식으로 인해 저 혼자서 이해하기에는 힘들다고 생각했고 많은 블로그들을 참조해 WGAN 에서 필요한 부분들에 대한 저만의 이해를 keepgoingrunner.tistory.com 1. 구분자 정의 class Critic(nn.Module): #구분자 정의 def __init__(self, channels_img, features_d): #..

이번에 kaggle 대회 참여를 위해 CycleGAN공부를 하던 도중 완성된 모델에 대해 한눈에 알아보려고 summary기능을 사용해보려고 했는데 (기존에는 keras를 사용해서 model.summary() 사용) 파이토치에서는 동일하게 적용되지 않더라고요 그래서 찾아본 결과 3가지 방법이 있었는데요. 1. 모델 입력하기 mod = Discriminator(3) mod Discriminator( (initial): Sequential( (0): Conv2d(3, 64, kernel_size=(4, 4), stride=(2, 2), padding=(1, 1), padding_mode=reflect) (1): LeakyReLU(negative_slope=0.2) ) (model): Sequential( (0..

지금까지 딥러닝 모델들을 공부하면서 CNN을 어떻게 쌓냐에 집중했지 BatchNorm 쓸 때는 습관적으로 쓰고는 했는데, 어떨 때는 BatchNorm1d를 쓰고 , BatchNorm2d를 쓰는 것을 발견했네요 (다른 사람의 코드를 쓰는 것도 생각을 많이 하고 써야겠다는 생각을 합니다..) 그래서 pytorch document 에서 찾아본 결과 BatchNorm1d : 2d or 3d input에 한하여 사용 BatchNorm2d : 4d input에 한하여 사용 이렇게 쓰인다고 합니다. 제가 공부하는 GAN모델에 한정하여 생각한다면 처음 노이즈(batchsize, 100)를 넣고 생성자부분에서 MLP를 진행할 때 정규화를 사용하고 싶다면 BatchNorm1d를 사용하고 판별자 네트워크를 짤 때는 이미지형..

이번학기 드는 수업 중에 텍스트 어낼리틱스라는 수업이 있다. 자연어처리에 대해 배우는 수업인데 교수님 스타일은 최근 것을 가르치기보다는 기존의 것이 어떻게 작동하는지, 어떻게 우리가 원하는 방식대로 전처리를 할 수 있는지에 대해서 강의를 진행하신다. 저번 학기 이 교수님의 통계 수업을 들은 적이 있는데 개념들을 이해하는데 꽤 도움이 되었다. 개념 위주, 이론 위주로 많이 진행되다보니 졸리기도하고 지루한 강의라고 느껴질 때도 많다. 그렇지만 교수님이 오늘 하신 말씀 중에 하나 와닿는 것이 있어 이렇게 적어두려고한다. 요즘은 너무나도 좋은 라이브러리들이 많다. 그래서 그냥 모델에 넣고 돌리기만 하면 결과물이 나오기도 하고 이것에 대해서 본인이 했다고 생각하기 쉽다. 이것이 Danger zone이다. 본인이 ..

이번 강의에서는 주로 CPU안에서의 연산에 대한 강의가 진행되었는데요, 아무래도 진행하신 교수님, 학생들이 전기전자공학부여서 그런지 회로를 이용하는 수업들이 눈에 띕니다. CPU안에 있는 주소들은 모두 다 가상 메모리이다. -> 우리가 쓰는 주소 모두 가상주소. Shared libraries : 자주 사용하는 것이라면 다이나믹 라이브러리 형태로 만들어 놓는다. 자주 사용되는 것들은 static linker 와 연결되지 않고 dynamic linker 와 연결된다. (아마 다이나믹 라이브러리는 다이나믹 링커와 연결되는, 같은 종류끼리 연결되는 것으로 보입니다) 컴퓨터의 모든 것이 다 logic gate이다. 컴퓨터는 계산기이다. 원래 명칭 : 전자계산기 ALU(Arithmetic Logic Unit) : ..