어떤 모듈이나 셀의 사양에 대해서 의미를 부여한다면, 직관적으로 이해하고 추상적으로 이해하는 데 많은 도움이 된다 (참고3). 하지만 이는 <케라스 창시자에게 배우는 딥러닝> (참고1) 의 저자가 LSTM 의 각 게이트들에 forget, memory 따위의 이름이 붙어 있는데 그 동작이 이름처럼 정확히 그러할 것이라고 보장할 수는 없으며, 사람은 그렇게 학습이 될만하도록 도랑만 잘 파 놓는 것이다는 점을 지적하며 이 내용을 언급한다. 저자의 주장대로 "각 연산들에 특정 목적을 부여하기가 불가능하고, 가설 공간의 제약 조건 정도로 해석하는 것이 좋다" (참고2) 는 사실을 인지해야 한다.
앞으로 나 스스로의 학습 효율을 위해 (참고4), 이렇게 특정 모듈을 의도적으로 설계할 때, 또는 이런 모듈을 해석할 때 "가설 공간의 제약" 이라고 표현하도록 하자.
참고