Google ML Drift란? 온디바이스 GPU AI 추론 지원 범위

Google ML Drift란? 이름의 drift와 기능 구분

Google AI Edge 팀은 2026년 10월 8일 ML Drift를 Apache 2.0 라이선스로 공개했습니다. 온디바이스 GPU의 서로 다른 API와 하드웨어 차이를 다루는 추론 엔진입니다. 이 프로젝트 이름을 모델 정확도 변화나 데이터 분포 변화를 감시하는 “드리프트 탐지” 제품으로 이해하면 안 됩니다. 근거: Google ML Drift 공식 발표

역할을 간단히 나누면 모델은 계산할 내용, 런타임은 실행 흐름, GPU 백엔드는 기기에서 계산을 수행하는 경로입니다. ML Drift를 설치했다고 앱에 AI 기능이 자동으로 생기는 것은 아닙니다. 사용할 모델과 입력·출력 처리, 기기에서의 실행 경로를 함께 구성해야 합니다.

LiteRT와 독립 ML Drift 라이브러리 중 무엇을 쓰나요?

공식 저장소는 백엔드와 독립적인 계산 그래프 GpuModel, 셰이더 언어를 추상화한 UCL, 실행 중 코드 생성과 메모리 재사용을 설명합니다. 일반 앱 도입과 직접 GPU 엔진 개발은 다른 작업량이므로 자신의 통합 목적부터 정하세요. 근거: ML Drift 구조·독립 API

온디바이스 GPU AI 추론 지원 범위

아래는 공개 저장소의 백엔드 설명과 LiteRT GPU 문서의 플랫폼 표를 함께 정리한 것입니다. 모바일·웹 지원과 데스크톱 미리보기는 제공 성숙도가 같다는 뜻이 아닙니다.

Android·Linux·macOS·Windows 행은 LiteRT GPU 공식 백엔드 표, Apple 기기·웹·OpenGL ES 범위는 ML Drift 저장소 설명에 근거합니다. 특정 기종의 인증 목록이나 모든 조합의 시험 결과는 아닙니다.

WebGPU를 사용한다는 이유로 DirectX나 Vulkan API를 직접 호출하는 동일한 개발 흐름이라고 판단하지 마세요. 추상화된 백엔드 아래의 플랫폼 구현과 앱이 쓰는 API를 구분해야 오류 원인을 찾기 쉽습니다.

현재 제공·미리보기·예정을 나눠 확인하세요

공식 발표는 Windows·Linux의 데스크톱 확장을 미리보기로 설명합니다. Android에서는 독립 LiteRT 패키지로 ML Drift 가속을 제공하며, LiteRT in Google Play services 지원은 제공 예정으로 안내했습니다. Play services를 쓰는 앱이라면 독립 패키지 지원과 같은 시점이라고 가정하지 마세요. 근거: 데스크톱·배포 채널 상태

같은 발표는 기존 TFLite GPU delegate에 새 기능 업데이트를 더하지 않고 LiteRT ML Drift accelerator로 이전하도록 권합니다. 이 안내만으로 기존 앱이 즉시 실행 불가능해진다거나, 업데이트만 하면 모든 모델이 빨라진다고 해석해서는 안 됩니다.

Android LiteRT GPU 적용의 시작점

확인일의 LiteRT GPU 문서는 Kotlin 앱에 코어와 GPU 패키지를 함께 추가하는 예시를 제공합니다. 아래는 의존성 조각이며 완성된 앱 코드가 아닙니다. 기존 프로젝트의 버전과 통합 가이드를 대조하세요.

dependencies {
    implementation 'com.google.ai.edge.litert:litert:2.3.0'
    implementation 'com.google.ai.edge.litert:litert-gpu:2.3.0'
}

CompiledModel 생성 때 GPU 가속을 지정하고 입력·출력 버퍼를 준비한 뒤 실행합니다. 코어 패키지를 추가한 사실과 GPU 경로로 모델이 실제 실행된 사실을 따로 검증하세요. 문서는 GPU 메모리에서의 zero-copy와 비동기 실행도 설명합니다. 근거: GPU 의존성·CompiledModel·버퍼

첫 시험에서는 공식 예제를 기준으로 모델과 입력 형태를 맞추고, 출력이 기대값과 일치하는지 먼저 확인하는 것이 좋습니다. 앱 전체의 카메라·화면·후처리까지 한번에 교체하면 추론 오류와 입출력 연결 오류를 구분하기 어렵습니다. 이는 편집부의 통합 순서 제안입니다.

웹 지원과 Chrome 내장 AI는 같은 사용법인가요?

LiteRT.js는 웹에서 모델을 실행하기 위한 별도 문서 경로입니다. 웹 앱을 개발한다면 브라우저 실행 환경에 맞는 런타임과 모델 형식을 해당 가이드에서 확인하세요. 근거: LiteRT 웹 실행 가이드

Google은 Chrome 내장 AI의 Gemini Nano 실행 기반에 ML Drift를 통합했다고 설명합니다. 그러나 Chrome API의 사용 가능 여부와 개발자가 임의 모델을 ML Drift에 직접 올리는 작업은 구분해야 합니다. 근거: Chrome 통합 설명

배포할 웹 앱에서는 지원 브라우저·모델 다운로드·메모리·GPU 실패 시 처리 방식을 따로 정하세요. 어떤 API를 쓰는지 적지 않고 “ML Drift 지원 브라우저”만 기록하면 실제 도입 여부를 판단하기 어렵습니다.

지원 백엔드가 있어도 모델이 안 돌아갈 수 있는 이유

이 표는 편집부 진단 기준입니다. 설치 성공이나 한 모델의 벤치마크만으로 다른 모델의 전체 GPU 실행을 확정하지 마세요. GPU로 맡긴 부분과 다른 경로에서 처리하는 부분을 실행 로그·프로파일로 확인해야 합니다.

성능 비교: 추론 시간만 보지 마세요

공식 저장소는 FP16·INT8·INT4와 prefill·decode 단계별 최적화, KV cache 관리를 소개합니다. 이 설명은 모든 모델에 같은 양자화 설정을 강제로 적용하라는 지침이 아닙니다. 근거: ML Drift 최적화 구조

다음은 실제 도입을 위한 비교 제안입니다. ML Drift 기기별 추론 점검표 CSV 다운로드에서 버전·모델·백엔드·결과를 기록할 수 있습니다.

앱 반응 속도에는 데이터 이동과 초기화도 영향을 줍니다. 추론 함수 한 구간이 빨라졌어도 사용자가 보는 화면이 늦어질 수 있으므로 전체 작업 시간을 함께 기록하세요. 이 글은 자체 측정값이나 기종별 추천 순위를 제공하지 않습니다.

온디바이스라면 오프라인·개인정보 보호가 자동인가요?

모델 계산을 기기 안에서 수행하는 것과 앱이 네트워크를 전혀 사용하지 않는 것은 별개입니다. 모델 다운로드·서비스 API·진단 로그를 포함해 실제 데이터 이동을 확인해야 합니다. 민감한 입력을 다룬다면 서버 전송과 로그 보관 경로도 조사하세요. 이는 앱 설계 점검 권고이며 ML Drift 자체의 네트워크 정책을 실행 검증한 결과는 아닙니다.

내 모델의 GPU 도입을 판단하는 최소 비교 계획

먼저 대표 모델 한 개와 고정 입력으로 아래 순서를 확인하세요. 플랫폼 표의 지원 여부를 실제 앱 도입 결과로 바꾸기 위한 편집부 검증 계획입니다.

가속 경로가 열려도 출력이 틀리면 도입 완료로 판단할 수 없습니다. 허용할 출력 차이와 지연 기준을 앱 담당자가 먼저 정하고, CPU와 GPU 경로를 비교할 때 정밀도·양자화가 달라졌는지도 기록하세요. 자동 fallback을 가정하지 말고 앱의 실패 처리도 확인합니다.

자주 묻는 질문

ML Drift는 AI 모델이나 챗봇인가요?

GPU 추론 엔진입니다. 기능에 맞는 모델과 앱의 입력·출력 처리는 별도로 준비해야 합니다.

NPU도 같은 방식으로 지원하나요?

이 글의 ML Drift 지원 범위는 GPU입니다. LiteRT의 NPU 가속을 동일한 백엔드 목록으로 설명하지 않습니다.

기존 TFLite 모델을 모두 다시 학습해야 하나요?

런타임 이전과 재학습은 다른 작업입니다. 먼저 기존 모델의 변환·연산자·실행 호환성과 출력 결과를 확인하세요.

모든 폰에서 빨라진다고 봐도 되나요?

기기·모델·입출력·정밀도·장시간 실행 조건별로 비교해야 합니다. 공통 백엔드가 있다는 사실만으로 성능 개선을 보장할 수 없습니다.

운영 품질 오류를 별도로 진단할 때는 Google AQuA 운영 에이전트 진단 가이드를 참고하세요. ML Drift의 계산 가속과 AQuA의 업무 오류 분석은 목적이 다릅니다.