치즈의 AI 녹이기

data.DataLoader에서 사용하는 collate_fn은 일반적으로 사용자 정의 함수에 의한 batch 단위의 데이터를 처리를 할 때 이용한다. 따라서 사용자 정의 함수의 argument는 batch 단위의 데이터 하나만 받는데 나의 경우, 특정 조건에 따라 전처리를 다르게 하기 위해 추가 인자를 넣어줘야 하는 상황이었다. 해결 방법은 간단하게 collate_fn을 위한 새로운 클래스를 생성하여, 추가 인자를 넣어주면 되었다. # 예시코드 class MyCollator(object): def __init__(self, *params): self.params = params def __call__(self, batch): # do something with batch and self.params . ..

아래 명령어를 입력하면 모든 파일에 대한 사용자 권한을 확인할 수 있다. permission denied 오류가 발생하는 파일의 경우, 사용자 권한이 다른 파일들과 일치하지 않는다. ls -l 따라서 오류가 나는 파일의 사용자 권한을 다음과 같은 명령어로 바꿔주면 된다. sudo chown -R 참고 링크 : https://withcoding.com/103 리눅스 권한 관리 명령어 사용법 정리 (chmod, chown, chgrp 명령어) 리눅스(Linux)는 하나의 컴퓨터를 여러 사람이 사용할 수 있는 멀티유저 운영체제(OS)이기 때문에 권한 관리가 매우 중요합니다. 파일과 디렉토리의 권한을 변경하고 소유권을 변경하는 방법을 withcoding.com

loss를 구할 때 detach()된 텐서가 어떻게 작용하는지 궁금해서 구글링 해봤다. 질문자는 다음과 같은 상황을 가정한다. 1. input x에 대하여 3개의 모델(A/ B/ C), 3개의 loss(L1 / L2 / L3)를 구한다. modelA = nn.Linear(10, 10) modelB = nn.Linear(10, 10) modelC = nn.Linear(10, 10) x = torch.randn(1, 10) a = modelA(x) b = modelB(a.detach()) b.mean().backward() print(modelA.weight.grad) #1 print(modelB.weight.grad) #2 print(modelC.weight.grad) #3 c = modelC(a) c.m..

GAN의 구조 Discriminator 입장 : 들어오는 데이터(fake or real)에 대하여 fake/real을 구분하는 task 수행. Generator 입장 : 최대한 real에 가까운 데이터 생성. GAN Loss 이해하기 real을 real이라고 하는 경우 - 0 real을 fake라고 하는 경우 - log0으로 -무한대가 됨. fake를 real이라고 하는 경우 - log0으로 -무한대가 됨 fake를 fake라고 하는 경우 - 0 결국, Discriminator 입장에서는 최대값인 0으로 수렴하는 것이 목표이고, Generator 입장에서는 3, 4번 경우에 따라 Discriminator를 최대한 속여 최소값인 -무한대로 수렴하는 것이 목표가 된다. 수렴포인트 : generator가 re..

공통적인 특징: temperature 값이 0에 가까울수록 one-hot vector가 추출됨. 그러나 temperature 값이 0에 가까울수록 gradient값이 커지는 현상이 있어서, 초기 학습에서는 큰 값으로 학습했다가 점점 값을 줄이는 방향으로 진행함. Gumbel softmax 사용 용도 : a technique that enables us to sample discrete random variables, in a way that is differentiable (and therefore suited for end-to-end deep learning). 참고 링크 : https://datascience.stackexchange.com/questions/58376/gumbel-softmax-t..

1) 브랜치 1를 기준으로 브랜치2의 변화 비교 git diff 브랜치1이름 브랜치2이름 2) 브랜치 1를 기준으로 브랜치2의 특정 파일에 대한 변화 비교 git diff 브랜치1이름 브랜치2이름 파일경로 1) 현재 브랜치 1에 있고, 브랜치2와의 변화된 파일 목록 비교 git diff --name-status 브랜치2이름

watch nvidia-smi로 현재 사용중인 GPU 현황을 살펴보았더니 0번 GPU를 사용 안하고 있는데 여러 개의 Process 메모리를 차지하는 것을 확인하여 이를 제거하려고 한다. sudo kill -9 {PID} PID자리에 해당하는 숫자를 입력하면 된다. 삭제 후 모습은 다음과 같아졌다.

Git push할 때 위와 같은 오류가 난다면, git remote set-url origin https://{token}@github.com/{git_repository_url}