DCGM으로 뽑은 데이터 일부 ( 0.1초마다 뽑음 )

• 출력되는값은 시간간격에 따른 평균값이지 순간값이 아님 (https://docplayer.net/224491834-Data-center-gpu-manager.html)
  • 0.1초마다 데이터를 뽑아주었기 때문에 0.1초사이의 평균값을 의미함.

SM_ACTIVE 1002 - SMACT

• 이 피처가 의미하는바는 0.1초간격동안에(데이터를 0.1초간격으로 수집했기 떄문) 활성화된 SM 갯수의 평균비율을 말한다. SM이 활성 상태라는 것이 의미하는바는 SM에 할당된 상주 워프가 있음을 의미. 한마디로 전체 SM중에서 워프를 할당받은 SM의 수를 의미한다. 그런데 워프를 할당받았다고 해서 전부 일을 하고 있는중이라고 말할수는 없음. 예를들어 워프를 할당받았지만 대기중인 메모리 요청중이라 할당받은 워프가 정지된 상태일때도 SM은 활성이라고 간주됨. 따라서 SM 활성정도가 높다고해서 전부다 일을 하고 있는것은 아니다.
  • SM,워프 개념 다시 되짚어보기
• 1002(sm util) 피처의 경우 0.5 정도면 매우 비효율적, 최소 0.8이상은 되어야 효율적이다라고 말하고 있음

SM_OCCUPANCY 1003 - SMOCC

• 한마디로 일정기간동안(0.1초) 1 SM 안에서 몇개의 워프가 상주하며 일을 했는지 평균값을 나타냄. 예를들어 1SM안에서 10warp 가 maximum인데 7개 워프가 쭉 일을 했다면 0.7

• 1005(dram active)의 경우 점유율이 높을수록 효과적 BUT 1003(sm occupancy) 피처의 경우 점유율이 높다고 효과적인건 아님.

• 1003피처(sm occupancy)의 경우 3가지 요소에 따라 결정되는데, 1)블록당 스레드수가 몇개인지 2) 스레드당 레지스터를 몇개 사용하는지 3)블록당 공유메모리를 몇사용하는지 등등 요인에 따라 달라짐.

  

DRAM_ACTIVE 1005 - DRAMA

• 점유율이 높을수록 효과적 ( 값이 높을수록 효율적인 사용이라는 뜻임)

• ex1 ) 100%가 논리적으로 의미하는바는 시간간격동안 (0.1초동안) 매 사이클마다 전체 시간동안 DRAM 을 사용했다는 의미임.

  • ex2) 20% 즉 0.2 가 의미하는바는 사이클 1주기의 20%의 시간동안 DRAM 을 사용했다는의미
  • but 실제로 사용가능한 최대 값은 0.8 ( 80%정도라고 함)

  (정말 아래표처럼 모든 train 마다 DRAM_ACTIVE 값은 최대값이 0.8임을 알수 있다.)