sigmoid 를 왜 쓸까? 그냥 단순히 모델 코드를 본다고 해서 뭐가 달라지지 않는다. 코드를 볼 때 뭔가 파라미터를 변경하려면 왜 이런 것들을 사용했는지 컨셉은 알아야 뭔가를 바꾸어 볼 것 같다. backbone 은 신체를 범용적으로 강화시키는 헬스라고 생각해 보자. 그럼 neck 은 상대방을 탐색하는 과정이고, head 는 실제 권투 대회에 나가서 상대와 싸우는 기술이다. 이때 neck 의 마지막 레이어에 relu 가 아니라 sigmoid 를 쓰는 것은, 더이상 head 로 정보를 보낼 때 버릴 피처들이 없다고 생각하기 때문이다.