그래프코어가 MLPerf 벤치마크 테스트에서 자사의 IPU-POD64가 슈퍼컴퓨터 수준의 AI 성능을 달성했다고 발표했다. 그래프코어의 IPU-POD64 시스템은 BERT 학습 시간에서 9분, ResNet-50 학습 시간에서 14.5분을 기록하면서 타사 시스템 대비 달러당 성능 지표에서 우위를 선점했다.
제조사 간 기술력 차이를 비교할 때 자주 사용되는 MLPerf는 공신력 있는 성능 비교용 벤치마크로 잘 알려져 있다. 특히, 프로세서와 시스템 아키텍처는 비교적 단순한 실리콘에서부터 값비싼 메모리를 탑재한 복잡한 적층칩에 이르기까지 다양해 직접 성능을 비교하는 것은 굉장히 복잡하다. 따라서 그래프코어는 실제 시스템을 사용하는 고객에게 가장 유의미한 달러 당 성능을 기준으로 결과를 분석했다.
이번 MLPerf 벤치마크 테스트는 현재 가장 많이 사용되는 애플리케이션에서도 그래프코어의 IPU가 뛰어난 성능을 구현할 수 있음을 증명했다. IPU-POD16의 경우, ResNet-50학습에서 경쟁사 대비 1.6배, BERT에서는 경쟁사 대비 1.3배 향상된 성능을 구현했다. 그래프코어는 소프트웨어 스택과 혁신적인 설계 기법, 높은 성능을 구현해내는 시스템을 선보이며 AI 컴퓨팅 분야에서 눈여겨 봐야 할 기업으로 올라섰다.
그래프코어는 이번 벤치마크에서 소프트웨어 기술력 역시 증명했다. 최근 업데이트된 그래프코어의 소프트웨어 스택 포플러 SDK(Poplar SDK)가 그 방증이다. 포플러 SDK는 2020년 12월부터 2021년 6월까지 6개월 동안 3번의 업데이트를 거치며 ResNet-50에서 2.1배, BERT-Large에서 1.6배, ResNet보다 훨씬 높은 정확도에 초점을 맞춘 컴퓨터 비전 모델인 EfficientNet에서는 1.5배 향상된 성능을 선보였다.
강민우 그래프코어 한국 지사장은 “이번 테스트에 적용된 개선 및 최적화 사항이 이미 소프트웨어 스택에 모두 업데이트되었고, 전 세계 그래프코어 사용자들은 BERT와 ResNet-50을 포함, 다양한 모델에서 그래프코어 MLPerf 제출의 이점을 누리고 있다”며, “그래프코어는 앞으로도 MLPerf의 학습 및 추론 라운드에 지속적으로 참여하며 성능 향상, 스케일 향상, 모델 추가라는 세 가지 목표를 달성하기 위해 노력할 계획”이라고 말했다.
