Caffe 구성 요소들 알아보기: blobs, nets, layer, solver, prototxt ๑•‿•๑


안녕하세요, 기메링입니다. (키메링 아님)
원래 계획은 MNIST예제에 대한 내용을 다음 포스팅으로 하려고 준비중이었는데, 쓰다보니 내용이 너무 길어지고 답답해져서(?) 결국 하나를 따로 작성해 보려고 합니다.

Caffe나 그 요소들에 대한 설명 강의들은 다른 블로그에도 많긴 하지만, 제 나름대로 따로 정리해 보도록 하겠습니다 (･ิω･ิ)

아래와 같은 순서로 진행하겠습니다.


  • prototxt
  • Elements of Caffe : Blobs, Layers, Nets
  • Solver
  • Network




prototxt


Caffe 모델은 plaintext protocol schma (prototxt)로 정의되며, 학습된 모델은 binary protocol buffer (binaryproto) , 즉 .caffemodel 파일로 정렬됩니다.

이번에 알아볼 prototxt는 procol buffer 형식의 파일인데요, 이것은 연속적으로 구조화된 데이터를 표현하는 매커니즘이라고 생각하시면 됩니다. Caffe에서 사용할 protobuf들의 정의는 caffe_root/src/caffe/proto/caffe.proto 에서 확인할 수 있습니다.


Caffe가 prototxt를 채택함으로써 Caffe 모델링의 유연성과 확장성에 기여를 하게 되었습니다. 장점은 아래와 같아요.


  1. 효율적인 직렬화(serialize)
  2. 직렬화 될 때 작은 크기의 이진 문자열 
  3. 사람이 읽을 수 있는, 이진 버전과 호환되는 텍스트 형식
  4. 여러 언어의 효율적인 인터페이스 구성 (특히 C+

    +, Python)
이 링크 로 이동하시면 prototxt에 대한 자세한 설명을 영어로 읽어보실 수 있습니다. 






Elements of Caffe 

그림 1

그림 2

  •  Blobs

그림 1에서 보이는 것 처럼, Blob는 Layer 사이 데이터 이동의 기본 단위입니다.

데이터를 보유하는 통합 메모리 인터페이스 (이미지 배치, 모델 파라미터, 최적화를 위해 파생된 데이터 포함) 를 제공하며, CPU와 GPU 사이 동기화 기능을 제공합니다.

Caffe가 처리하고 전달한 실제 데이터에 대한 묶음으로 Caffe는 Blob을 사용해 데이터를 저장하고 전달합니다. 메모리 사용을 보다 효율적으로 하기 위해, 호스트와 디바이스에 필요시 느슨하게 할당됩니다.




  • Layers
그림 2에서와 같이, Layer는 Net을 구성합니다. 

Layer는 모델의 핵심이며 계산의 기본 단위입니다. filter를 convolve하고, pool하고, inner product를 만들고, 활성화 함수를 적용하고, 표준화하고, 데이터를 로드하고, 손실을 계산하는 역할을 수행합니다. 

그림 1에서와 같이, Layer는 bottom 연결을 통해 입력을 받고, top 연결을 통해 출력합니다. 

각 Layer는 setup, forward, backward의 세 가지 중요한 계산을 정의합니다. 
  1. Setup : 모델 초기화시 Layer와 connection 초기화 
  2. Forward : bottom으로부터 받은 입력을 계산해 top으로 출력
  3. Backward :  top 에서는 입력에 대한 gradient를 계산하고 bottom으로 전송, 변경된 gradient는 내부적으로 저장 (출력에 대해 손실을 계산하고 gradient를 조정해 다시 학습하는 방식)

  • Nets
그림 2에서와 같이, Net은 Layer들과 그 connection들로 정의됩니다. 

모든 layer output의 구성은 주어진 작업을 수행하는 함수에 의해 계산되고, backward 연산은 손실로부터 gradient를 계산해 학습합니다. 

일반적으로 디스크로부터 로드하는 역할의 data layer로 시작해 작업의 목표를 계산하는 역할의 loss layer로 끝납니다.  




Solver


Solver는 네트워크의 forward 추론과 back gradient의 매개 변수 업데이트를 통해 손실을 개선하여 모델 최적화를 조정합니다. 특히, 매개 변수 업데이트에 책임이 있습니다.

Solver는 아래와 같은 역할을 합니다.

  1.   최적화 장부를 설계해 교육용 training network과 평가용 test network 제작
  2. forward, backward를 호출하고 매개변수를 업데이트해 반복적으로 최적화
  3. (주기적으로) test network 평가
  4. 최적화를 위해 모델 및 솔버 상태의 snapshot 생성

또한, Solver는 초기화된 모델을 학습된 상태로 만들기 위해 gradient(weight) 를 조정하면서 아래와 같은 작업을 반복합니다.

  1. 결과값과 손실을 계산하기 위해 네트워크를 forward로 호출
  2. gradient 값을 계산하기 위해 네트워크를 backward로 호출
  3. solver 메소드에 따라 매개 변수 업데이트에 gradient 통합
  4. learning rate, 이력 및 메소드에 따라 solver 상태 업데이트




Network


net은 plaintext 모델링 언어 (prototxt)로 정의된 레이어들과 그 연결들의 집합입니다.

합성과 auto-differentiation에 의해 함수와 gradient를 공동으로 정의합니다.

Caffe는 forward와 backward pass의 정확성을 보장하기 위해 모든 레이어에 대해 장부로 정리(bookkeeping) 합니다.



우선 당장 급하게 알아야 할 단어들에 대해 알아보았습니다. 길다고 생각되시면 첫줄만 읽어도 딱히 이해에 무리가 있지는 않습니다. (ɔ ˘⌣˘)˘⌣˘ c)

자꾸 밀리는거 같아 마음이 아프지만, network와 solver의 공부를 하면 할수록 자꾸 더 할게 생겨서(???) 정리가 안되고 있어서요. 제 목표는 이번달 안에 포스팅하기 입니다 하하 (´；ω；｀)

중간에 다른 게시글이 생길지도 모르지만, 우선 다음 목표는 mnist 분석입니다ㅎㅅㅎ







댓글

댓글 쓰기

이 블로그의 인기 게시물

R plot으로 그래프 그리기: 점 여러 개 찍기 ๑•‿•๑

이미지
안녕하세요 오늘은 너무나 기쁜 마음으로(?) 포스팅을 하게 되었습니다흐하하 다름이 아니라, R에서 그래프를 그릴 때 점을 두개까진 찍히는데 그 이후에는 잘 안찍히더라구요ㅜㅜ 그래서 왜 그럴까! 고민을 했는데, 알고보니 별거 아니더라구요ㅎㄴㅎ 먼저 책에서의 거의 첫 번째 예제에 대해 보겠습니다.  > plot(5, 6) 위 코드는 그래프를 그리는 데 쓰이는 함수입니다. x, y를 각각 입력하는 느낌으로 결과 화면은 아래 그림 1과 같이 출력됩니다.  그림 1 > plot(c(5, 6), c(20, 30)) 그리고 이 코드는 두 개의 점을 찍어주는 코드입니다. c 함수를 이용해  점을 추가해 주었습니다. 제가 놓친 부분이 바로 여기인데요, 잘 보면 (5, 20)과 (6, 30)의 두 가지 점인데 착각해서 (5, 6)과 (20, 30)의 두 점으로 찍힌줄 알았어요（ ; ∀ ;）つ 그림 2  > plot(c(5, 6), c(20, 30), c(20, 4)) 결국 저는 위 코드와 같은 망코드(?)를 입력하는 대참사(?)가 생겨버렸습니다. 당연히 실행이 안되구요ㅋㅋㅋ 오류 메세지는 아래와 같습니다.  Error in plot.xy(xy, type, ...) : 유효한 플랏 타입이 아닙니다  > plot(c(5, 6, 4), c(20, 30, 30)) 그래서 잘 생각해 본 결과, 위와 같은 멀쩡하게 생긴 코드를 입력하게 되었습니다. 결과 값은 아래 그림 3을 봐주세요! 그림 3  제가 작성했던 문장의 오류는 x와 y좌표를 입력하는 것에 대해 착각을 하고 있었기 때문입니다. 일반적으로 수학에서 사용하던 것처럼 (x, y)의 순서쌍을 반복해서 입력해 버린 거죠.   하지만 R에서의 plot 함수에 대해 잘 생각해 보면 그렇지 않다는 ...
자세한 내용 보기

Windows에서 Caffe 예제 돌리기 : MNIST(1) (๑•‿•๑)

이미지
이번 포스팅에서는 mnist 예제를 실행해 보려고 합니다. (1)과 (2)로 나누어 포스팅 할 계획인데요, (1)에서는 그냥 실행만 해보고 (2)에서는 좀 더 내부적으로 들어가 볼 생각입니다. 쓰다가 길어지면 더 나눌수도 있구요 o(๑•‿‿•๑)o~♪룰루 이번 포스팅의 목표는 바로.. 빠★본인의 손글씨 숫자를 판별하기★밤 입니다.  Caffe에서 Learning을 하기 위해서는 아래와 같은 것들이 필요합니다.  Training Data: 학습할 데이터 Test Data: 테스트할 데이터 Network(=net): layer들을 정의 Solver: 학습 파라미터 설정 추가적으로 본인의 데이터를 가지고 테스트하기 위해서는 아래와 같은 파일들이 필요합니다.  알아보고자 하는 이미지 (본인의 이미지) label: '라벨'을 정의한 텍스트 파일 실행 파일: 명령어 실행을 위해서 필요함 사실 이 파일들만 필요한건 아니지만, 나머지는 차근차근 실행하다 보면 만들어지기 때문에 아무 문제 없습니다! (>_<)౨  각각의 내부적인 사항은 다음 포스팅에서 살펴보기로 하고, 일단은 실행을 해 볼까요!  저의 경우, 트레이닝 까지는 했는데 도대체 내 데이터로 검사를 어떻게 하는건지 몰라서 며칠을 헤맸습니다만 ;ㅅ; 여러분은 그런 일 없으셨으면 좋겠습니다. 생각보다 간단하고 쉬워요 ;ㅅ; 1. 데이터 준비하기 http://yann.lecun.com/exdb/mnist/ 위 링크로 들어가시면 UI가 개똥같은; 내가 만들어도 저것보단 예쁘겠다  mnist 예제를 위한 데이터베이스를 다운로드 하실 수 있습니다.  그냥 맨 처음 보이는 파일 4개를 모두 다운로드 하시면 돼요. 각각 training을 위한 이미지와 라벨, test를 위한 이미지와 라벨 파일들입니다. 사이트에 의하면 브라우저가 멋대로 압축...
자세한 내용 보기