TD
The Decoder • 48일 전
IMP 8
구글 디퓨전제마, 단어별 생성 대신 노이즈 기반 텍스트 생성
구글이 기존의 단어 단연 순차 생성 방식이 아닌, 이미지 AI에서 쓰이는 디퓨전 방식을 적용해 한 번에 256개의 토큰 블록을 생성하는 실험적 언어 모델 '디퓨전제마(DiffusionGemma)'를 공개했습니다. 이 모델은 GPU의 연산 능력을 극대화하여 단일 사용자 환경에서 기존 모델 대비 최대 4배 빠른 처리 속도를 보여줍니다. 비록 텍스트 품질은 기존 모델에 미치지 못하지만, 기존 텍스트 중간 삽입이나 코드 빈칸 채우기 등 비선형 작업에 탁월한 성능을 발휘하며 새로운 활용 가능성을 제시합니다.
구글 디퓨전제마 오픈소스 모델