업프로젝션 = 잠재 차원에서 원래 차원으로 복원하는 과정 250618

요약
• 업프로젝션은 잠재 차원에서 원래 차원으로 복원하는 과정이며, 추가 계산(오버헤드)을 발생시킵니다.
• 하지만 차원 축소로 인한 통신량 절감 폭이 훨씬 커서, 전체적으로는 통신 비용을 크게 줄여줍니다.
• 예시(차원 8→4, 토큰 10개)에서는 레이어 하나에 대해 약 10%를 절감했고, 여러 레이어에서 행렬을 재사용하면 절감 비율이 훨씬 커집니다.