Search
🔵

ab0. title: 디퓨전 디노이징 모델의 작동 방식은 동생이 주사위를 던져 망가뜨린 레고 성을 원상복구시키면서 배운 추상적인 특징 조합법을 처음 보는 레고 뭉치에도 적용해 보는 것이다.

생성
♻️ prev note
🚀 next note
💡 아이디어조각
13 more properties
qq 는 일정한 불확실성으로 잘 만들어진 레고 성을 망가뜨리는 변태같은 동생이다. qq 가 진짜 변태같은 이유는 레고 성을 일정한 불확실성으로 망가뜨리기 때문이다. 예를 들어 보자. 레고 성을 구성하는 모든 레고 블록에 대해, 레고 블록을 뜯어내고 주사위를 굴려서 나오는 숫자만큼 떨어진 곳 아무데나 다른 곳에 붙인다. 뜯어내고 옮겨 붙이는 방향은 상관없다. 주사위는 숫자가 아무리 커봐야 6이기 때문에, 모든 레고 블록을 뜯어내더라도 원래 레고 성의 형태가 완벽히 망가지지는 않을 것이다. 물론 모든 레고 블록에 대해 여러 번 망가뜨리기를 반복한다면 언제부턴가는 성의 형태는 오간데없이 괴상하게 생긴 레고 블록을 볼 수 있겠다.
오늘도 주사위를 들고 성을 망가뜨릴 생각에 신난 qq.
pp 가 학원을 다녀오기만 하면 qq 가 주사위를 던지며 망가뜨려서 너저분해진 성을 보게 된다. pp 는 자기가 잘 만들어둔 레고 성이 학원을 다녀온 새 망가지는 것을 참을 수가 없다. pp 가 당한 것은 오늘만이 아니다. pp 가 만든 수많은 레고 성들은 모두 qq 의 주사위에 못생겨져 있던 적이 한두번이 아니다. 그러다보니 pp 는 수많은 성들을 다시 고쳐 내면서 점점 노하우가 쌓이기 시작한다. ‘얘는 주사위를 던지니까, 이 레고 블록이 저 멀리 떨어진 블록에서 왔을 리는 없어. 주사위를 던졌을 때 나오는 눈의 기댓값은 3이지. 그러니까 아마 원래 이쯤 있던 블록이 여기로 왔을 것이라고 생각해볼 수 있지 않을까?’
꽤나 잘 복원이 된 적도 있고, 이상하게 복원이 된 적도 있다. 이 짓거리를 반복하며 10년이 지났다. 그런데 의외로 pp 는 신기한 능력을 얻게 됐다. 레고 블록들이 덕지덕지 규칙 없이 붙어 엉켜 있는 레고 뭉치를 보더라도 ‘저 레고 뭉치가 원래 멋진 성이었는데 동생이 망가뜨린 것이었다면…?’ 을 상상하게 되는 습관이 생긴 것이다. 동생이 전체 레고 블록에 대해 n번 순회하며 주사위질을 했다고 생각하고, 이 레고 뭉치를 다시 멋진 성으로 만들어내기 위해 동생의 주사위질을 n번 역으로 추적하려고 노력한다. 당연히 여기에 정답은 없다. 다만 그동안 동생의 주사위로 나올 수 있는 경우들을 따져보며 동생의 불확실하지만 일정한 패턴의 방해로부터 원래 성을 다시 복원해내기 위해 노력했던 추억들과 습관이 떠오른다. 전체 레고 블록에 대해 n번 복원을 거친 뭉치는 꽤나 그럴싸한 성이 되어 있다.
pp 가 만들었던 수많은 성들
(중요) 이것이 가능한 이유는, pp 가 만들었던 수많은 성들에 알게모르게 공통적이고 추상화된 특징들이 숨어 있기 때문이다. 가령 그 구체적인 형태는 모두 달랐음에도 pp 가 만든 성의 꼭대기에는 항상 뾰족한 첨탑들이 붙어 있었다고 생각해 보자. 이러한 경우에는 ppqq 의 방해로 얼그러진 성을 복원하며 성의 상부를 만질 때 qq 의 주사위를 상상해봄과 함께 뾰족한 첨탑을 만들어낼 수 있는 형태적 규칙을 같이 고민했을 것이다. 그래서 자신이 처음 보는 레고 뭉치의 상부를 복원해 낼 때에도 뾰족한 첨탑들을 복원해내기 위해서 그동안 늘 보았던 형태적 특징들을 떠올려볼 수 있게 된다. 이는 머신러닝 매니폴드 가정(Manifold hypothesis)과도 일맥상통한다.
parse me : 언젠가 이 글에 쓰이면 좋을 것 같은 재료을 보관해 두는 영역입니다.
1.
None
from : 과거의 어떤 원자적 생각이 이 생각을 만들었는지 연결하고 설명합니다.
1.
처음에 GaussianDreamer 을 이해하기 위해 디퓨전에 대해 이해할 필요가 있었다.
supplementary : 어떤 새로운 생각이 이 문서에 작성된 생각을 뒷받침하는지 연결합니다.
opposite : 어떤 새로운 생각이 이 문서에 작성된 생각과 대조되는지 연결합니다.
1.
None
to : 이 문서에 작성된 생각이 어떤 생각으로 발전되거나 이어지는지를 작성하는 영역입니다.
1.
None
ref : 생각에 참고한 자료입니다.
1.
None