본 연구는 비고전 감쇠를 가지는 구조물, 모드가 매우 인접되어 있는 구조물의 모드를 분리하기 위하여 제안된 최적화 상태공간 모드분리법의 검증을 목적으로 하고 있다. 실구조물에 대한 모드분리의 가능성 및 적용성을 위하여 40층 규모의 건물에 동조질량감쇠기가 설치된 시스템을 대상으로 하였으며 그로부터 계측된 응답에 모드분리법을 적용하였다. 모드분리 결과를 보면, 해당 모드에서의 에너지 집중을 목적함수로 설정한 경우에는 이웃한 인접모드의 고유진동수 부근에서 파워스펙트럼 값을 인위적으로 작게하여왜곡하는 경향이 나타나는 것을 확인할 수 있었다. 이러한 왜곡현상을 방지하기 위해 도입된 구속조건과 이를 이용한 목적함수의 설정을 통해서 인접한 모드가 효과적으로 분리 가능함을 확인 할 수 있었다.