[코드 리뷰] mlx로 Vision Transformer 만들어보기
mlx로 Vision Transformer를 구현하며 알게 된 실무적인 경험을 나눈다.
mlx로 Vision Transformer를 구현하며 알게 된 실무적인 경험을 나눈다.
nn.Conv2d가 뭐고, 왜 convolution을 하지 않는지 알아본다.
Dataloader의 동작과 역할을 알아본다.
eval() vs no_grad() vs inference_mode()의 차이를 알아본다.
I-JEPA의 전반적인 학습 코드를 본다.
tensor slicing이란 무엇인지 깨닫고, 메모리를 고려하며 코딩하는 법
Contrastive Loss 코드 리뷰
Entropy, Cross Entropy, KL Divergence