GPU 기반 최고속 K-평균: 플래시-K평균(Flash-KMeans) 공개
오픈소스 GPU 라이브러리인 플래시-K평균(Flash-KMeans)은 수학적 근사 없이 정확한 K-평균(K-means) 알고리즘을 수행하면서도 기존 라이브러리 대비 최대 200배 이상 높은 처리 속도를 자랑합니다. 이는 트라이톤(Triton) GPU 커널을 활용해 입출력(IO) 병목 현상과 연산 충돌을 최소화하여 데이터 센터 및 실무 환경의 클러스터링 연산 비용을 획기적으로 낮춰줍니다.
플래시-K평균(Flash-KMeans)은 트라이톤(Triton) GPU 커널 기반으로 구현된 입출력(IO)을 고려한 오픈소스 표준 로이드(Lloyd) K-평균(K-means) 알고리즘입니다. 이 알고리즘은 기존의 수학적 계산 방식을 변경하거나 근사치를 사용하지 않고 정확한 결과를 제공합니다. 'FlashAssign' 기술은 거리 행렬(distance-matrix)을 실제 메모리에 구현하는 과정을 생략하여 자원을 절약하고, 'Sort-Inverse Update' 기술은 원자적 연산(atomic operation) 중 발생하는 충돌을 제거합니다. 엔비디아(NVIDIA) H200 환경에서의 테스트 결과, 이 라이브러리는 엔드투엔드 기준 17.9배, cuML 대비 33배, 그리고 FAISS 대비 200배 이상의 압도적인 속도 향상을 기록했습니다. 'GPU 기반 FAISS 대비 200배 이상 빠른 입출력 최적화 정확형 K-평균, 플래시-K평균(Flash-KMeans) 소개'라는 제목의 이 글은 마크테크포스트(MarkTechPost)를 통해 처음 공개되었습니다.