그림 AI '30배' 빨라진다. DALL·E3, 스테이블 디퓨전에 적용 가능

 

인공지능과 기계학습의 새로운 도약: 분포 일치 증류(DMD)

최근 몇 년 동안 인공지능과 기계학습은 엄청난 발전을 이루었습니다. 한때 과학 소설처럼 여겨졌던 것들이 이제는 현실이 되었으며, 언어를 이해하고 이미지를 생성할 수 있는 지능형 시스템이 등장했습니다. 하지만 항상 높은 품질과 복잡한 모델을 요구하는 대가로 엄청난 계산력과 시간이 필요했습니다. MIT의 연구팀이 분포 일치 증류(DMD)라는 혁신적인 새 기술로 이 문제를 해결했을 수 있습니다.

기존 이미지 생성기의 문제점

Stable Diffusion과 DALL-E와 같은 기존 AI 이미지 생성기는 놀라운 능력으로 세상을 놀라게 했습니다. 그러나 뒤에서는 각 이미지를 생성하기 위해 복잡하고 반복적인 과정이 필요했습니다. 전통적인 확산 모델은 노이즈로 시작하여 점차 더 많은 구조를 추가하며, 각 단계에서 이미지를 더 세밀하게 다듬어 나갑니다. 이 과정은 단일 고해상도 이미지를 생성하는 데 수백 단계가 필요할 수 있습니다.

 

분포 일치 증류 소개(DMD)

MIT CSAIL의 연구자들이 분포 일치 증류(DMD)라는 완전히 새로운 접근법을 소개했습니다. 이 방법은 생성 과정을 단일 단계로 단순화하면서 이미지 품질을 유지하거나 심지어 향상시킵니다.

 

학생 모델 훈련

DMD의 핵심 통찰력은 더 복잡한 "교사" 확산 모델의 행동을 모방하도록 단순한 "학생" 모델을 훈련시키는 것입니다. 이는 교사의 지식이 학생에게 전달되는 "증류" 과정을 통해 이루어집니다.

 

분포 발산 최소화

학생을 훈련시키기 위해 DMD는 두 가지 주요 손실을 사용합니다. 첫째, 회귀 손실은 훈련 중 이미지 공간의 기본 조직을 보장합니다. 둘째, 분포 일치 손실은 생성된 이미지의 확률이 교사 모델에 의해 학습된 실제 세계 빈도와 일치하도록 보장합니다.

30배 빠른 생성

반복적인 세밀화 과정을 우회함으로써, 이미지는 이제 훈련된 학생 모델을 통해 단일 전달로 생성될 수 있습니다. 실험에서 DMD는 기준 확산 모델보다 30배 더 빠른 생성 속도를 달성했으며, 비교할 수 있는 이미지 품질을 유지했습니다.

 

DMD의 테스트

DMD의 효과를 평가하기 위해 연구자들은 표준 이미지 생성 벤치마크에서 상위 확산 모델과 광범위한 비교를 수행했습니다.

 

무한한 응용분야

분포 일치 증류는 생성 품질과 속도 사이의 절충이 더 이상 필요 없음을 증명하는 주요 돌파구를 나타냅니다. 이는 끝없는 응용 분야를 가집니다:

• 제품 디자인: 디자인 개념에 대해 빠르게 프로토타이핑하고 반복합니다.
• 애니메이션: 영화와 게임을 위한 사실적인 프레임을 초당 30프레임 이상으로 생성합니다.
• 의료 이미징: 개인 정보 문제 없이 진단 도구를 훈련시키기 위한 합성 환자 데이터셋을 생성합니다.
• 교육: 학생들에게 맞춤화된 수요에 따른 시각적 학습 콘텐츠를 생성합니다.

DMD는 인공지능 시스템이 계속해서 발전함에 따라 우리가 아직 상상조차 못한 완전히 새로운 응용 프로그램 분야를 위한 길을 열어주고 있습니다. 이는 더 빠르고 고품질의 AI 이미지 생성의 도래를 알리며, 앞으로 수년 동안 혁신을 주도할 것입니다.