Google AI Edge Portal 소개: 대규모로 엣지 AI를 벤치마킹합니다. 비공개 미리보기 기간에 액세스 권한을 요청하려면 가입하세요.

웹용 오디오 분류 가이드

MediaPipe 오디오 분류기 태스크를 사용하면 오디오 데이터에 분류를 실행할 수 있습니다. 이 태스크를 사용하여 학습된 카테고리 집합에서 사운드 이벤트를 식별할 수 있습니다. 이 안내에서는 노드 및 웹 앱에 오디오 분류기를 사용하는 방법을 보여줍니다.

데모 를 확인하여 이 태스크가 실제로 작동하는 것을 볼 수 있습니다. 이 태스크의 기능, 모델, 구성 옵션 에 관한 자세한 내용은 개요를 참고하세요.

코드 예

오디오 분류기의 예시 코드는 참조를 위해 자바스크립트로 이 태스크를 완전히 구현한 것을 제공합니다. 이 코드는 이 태스크를 테스트하고 자체 오디오 분류 앱을 빌드하는 데 도움이 됩니다. 웹브라우저만 사용하여 오디오 분류기 예시 를 보고, 실행하고, 수정할 수 있습니다.

설정

이 섹션에서는 오디오 분류기를 사용하기 위해 개발 환경과 코드 프로젝트를 설정하는 주요 단계를 설명합니다. 플랫폼 버전 요구사항을 비롯하여 MediaPipe 태스크를 사용하기 위한 개발 환경 설정에 관한 일반적인 내용은 웹 설정 가이드를 참고하세요.

자바스크립트 패키지

오디오 분류기 코드는 MediaPipe @mediapipe/tasks-audio NPM 패키지를 통해 사용할 수 있습니다. 플랫폼 설정 가이드에 제공된 링크에서 이러한 라이브러리를 찾고 다운로드할 수 있습니다.

다음 명령어를 사용하여 로컬 스테이징을 위한 다음 코드로 필요한 패키지를 설치할 수 있습니다.

npm install @mediapipe/tasks-audio

콘텐츠 전송 네트워크 (CDN) 서비스를 통해 태스크 코드를 가져오려면 HTML 파일의 태그에 다음 코드를 추가하세요.

<!-- Replace "my-cdn-service.com" with your CDN -->
<head>
  <script src="https://my-cdn-service.com/npm/@mediapipe/tasks-audio/audio_bundle.js"
    crossorigin="anonymous"></script>
</head>

모델

MediaPipe 오디오 분류기 태스크에는 이 태스크와 호환되는 학습된 모델이 필요합니다. 오디오 분류기에 사용할 수 있는 학습된 모델에 관한 자세한 내용은 태스크 개요의 모델 섹션을 참고하세요.

모델을 선택하고 다운로드한 후 프로젝트 디렉터리에 저장합니다(예:)

<dev-project-root>/app/shared/models/

태스크 만들기

오디오 분류기 createFrom...() 함수 중 하나를 사용하여 추론을 실행할 태스크를 준비합니다. 학습된 모델 파일의 상대 또는 절대 경로와 함께 createFromModelPath() 함수를 사용합니다. 모델이 이미 메모리에 로드된 경우 createFromModelBuffer() 메서드를 사용할 수 있습니다.

아래 코드 예시는 createFromOptions() 함수를 사용하여 태스크를 설정하는 방법을 보여줍니다. createFromOptions 함수를 사용하면 구성 옵션으로 오디오 분류기를 맞춤설정할 수 있습니다. 구성 옵션에 관한 자세한 내용은 구성 옵션을 참고하세요.

다음 코드는 맞춤 옵션으로 태스크를 빌드하고 구성하는 방법을 보여줍니다.

const audio = await FilesetResolver.forAudioTasks(
    "https://my-cdn-service.com/npm/@mediapipe/tasks-audio/wasm"
  );

const audioClassifier = await AudioClassifier.createFromOptions(audio, {
    baseOptions: {
      modelAssetPath:
        "https://tfhub.dev/google/lite-model/yamnet/classification/tflite/1?lite-format=tflite"
    }
  });

example code에서 전체 예시를 확인할 수 있습니다.

구성 옵션

이 태스크에는 웹 및 자바스크립트 애플리케이션을 위한 다음과 같은 구성 옵션이 있습니다.

옵션 이름	설명	값 범위	기본값
`displayNamesLocale`	사용 가능한 경우 태스크 모델의 메타데이터에 제공된 표시 이름에 사용할 라벨의 언어를 설정합니다. 기본값은 영어의 경우 `en`입니다. TensorFlow Lite 메타데이터 작성기 API 를 사용하여 맞춤 모델의 메타데이터에 현지화된 라벨을 추가할 수 있습니다.	로케일 코드	en
`maxResults`	반환할 점수가 가장 높은 분류 결과의 선택적 최대 개수를 설정합니다. 0보다 작으면 사용 가능한 모든 결과가 반환됩니다.	모든 양수	`-1`
`scoreThreshold`	모델 메타데이터에 제공된 예측 점수 기준점 (있는 경우)을 재정의하는 기준점을 설정합니다. 이 값 미만의 결과는 거부됩니다.	[0.0, 1.0]	설정되지 않음
`categoryAllowlist`	허용되는 카테고리 이름의 선택적 목록을 설정합니다. 비어 있지 않은 경우 카테고리 이름이 이 집합에 없는 분류 결과는 필터링됩니다. 중복되거나 알 수 없는 카테고리 이름은 무시됩니다. 이 옵션은 `categoryDenylist`와 상호 배타적이며 둘 다 사용하면 오류가 발생합니다.	모든 문자열	설정되지 않음
`categoryDenylist`	허용되지 않는 카테고리 이름의 선택적 목록을 설정합니다. 비어 있지 않은 경우 카테고리 이름이 이 집합에 있는 분류 결과는 필터링됩니다. 중복되거나 알 수 없는 카테고리 이름은 무시됩니다. 이 옵션은 `categoryAllowlist`와 상호 배타적이며 둘 다 사용하면 오류가 발생합니다.	모든 문자열	설정되지 않음

데이터 준비

오디오 분류기는 오디오 클립 및 오디오 스트림과 함께 작동하며 호스트 브라우저에서 지원하는 모든 형식의 오디오 파일과 함께 작동할 수 있습니다. 이 태스크는 리샘플링, 버퍼링, 프레이밍을 비롯한 데이터 입력 사전 처리를 처리합니다.

태스크 실행

오디오 분류기는 classify() 메서드를 사용하여 오디오 클립 파일 또는 오디오 스트림의 추론을 실행합니다. 오디오 분류기 API는 입력 오디오에서 인식된 오디오 이벤트의 가능한 카테고리를 반환합니다.

오디오 분류기 classify() 메서드 호출은 동기식으로 실행되며 사용자 인터페이스 스레드를 차단합니다. 기기의 마이크에서 오디오를 분류하는 경우 각 분류는 기본 스레드를 차단합니다. 웹 작업자를 구현하여 다른 스레드에서 classify()를 실행하면 이를 방지할 수 있습니다.

다음 코드는 태스크 모델로 처리를 실행하는 방법을 보여줍니다.

오디오 클립

// Create audio buffer
const sample = await response.arrayBuffer();
const audioBuffer = await audioCtx.decodeAudioData(sample);

// Use AudioClassifier to run classification
const results = audioClassifier.classify(
  audioBuffer.getChannelData(0),
  audioBuffer.sampleRate
);

오디오 스트림

stream = await navigator.mediaDevices.getUserMedia(constraints);
audioCtx = new AudioContext({ sampleRate: 16000 });

const source = audioCtx.createMediaStreamSource(stream);
const scriptNode = audioCtx.createScriptProcessor(16384, 1, 1);

scriptNode.onaudioprocess = function (audioProcessingEvent) {
  const inputBuffer = audioProcessingEvent.inputBuffer;
  let inputData = inputBuffer.getChannelData(0);

  // Classify the audio
  const result = audioClassifier.classify(inputData);
  const categories = result[0].classifications[0].categories;
};

오디오 분류기 태스크 실행을 더 완벽하게 구현하려면 예시를 참고하세요.

결과 처리 및 표시

추론 실행을 완료하면 오디오 분류기 태스크는 입력 오디오 내 객체의 가능한 카테고리 목록이 포함된 AudioClassifierResult 객체를 반환합니다.

AudioClassifierResult:
  Timestamp in microseconds: 100
  ClassificationResult #0:
    Timestamp in microseconds: 100  
    Classifications #0 (single classification head):
      head index: 0
      category #0:
        category name: "Speech"
        score: 0.6
        index: 0
      category #1:
        category name: "Music"
        score: 0.2
        index: 1

오디오 분류기 예시 코드는 태스크에서 반환된 분류 결과를 표시하는 방법을 보여줍니다. 자세한 내용은 예시 를 참고하세요.