13:36, 모든 이미지와 그 feature 들은 고유의 키/값을 만들어내게 된다. 키/값/쿼리 모두가 multi-head self attention 으로 들어오게 된다. 이미지의 모든 조각이 key 를 브로드캐스팅하는데, 이 key 가 담고 있는 정보는 "자신의 조각에 대한 정보(what it is a part of)" 이다. 어떤 이미지 조각 : "야, 나는 도로 연석의 일부인데, 대충 이 정도 위치에서 이런 것들을 보고 있어." 같은 것들이 key 에 들어 있다는 말이다. Key 와 관련 있는 모든 query 가 반응하면서 "야 나는 output space 의 이 픽셀인데, 나는 이런 종류의 특징이 필요해" 라고 한다. 이렇게 key 와 query 가 상호작용하면서 값(value) 들을 적절히 추출해낼 수 있게 된다.