웹용 오디오 분류 가이드

MediaPipe Audio Classifier 작업을 사용하면 오디오 데이터를 분류할 수 있습니다. 이 작업을 사용하여 학습된 카테고리 집합에서 소리 이벤트를 식별할 수 있습니다. 이 안내에서는 노드 및 웹 앱용 오디오 분류기를 사용하는 방법을 보여줍니다.

데모에서 이 작업의 작동 방식을 확인할 수 있습니다. 이 태스크의 기능, 모델, 구성 옵션에 대한 자세한 내용은 개요를 참조하세요.

코드 예시

Audio Classifier의 예시 코드는 이 작업을 JavaScript로 전체적으로 구현하여 참조용으로 제공합니다. 이 코드를 사용하면 이 작업을 테스트하고 자체 오디오 분류 앱을 빌드할 수 있습니다. 웹브라우저만 사용하여 Audio Classifier 예시 코드를 보고 실행하고 수정할 수 있습니다.

설정

이 섹션에서는 특히 Audio Classifier 사용을 위해 개발 환경과 코드 프로젝트를 설정하는 주요 단계를 설명합니다. 플랫폼 버전 요구사항을 포함하여 MediaPipe 작업을 사용하기 위한 개발 환경 설정에 관한 일반적인 정보는 웹 설정 가이드를 참고하세요.

JavaScript 패키지

Audio Classifier 코드는 MediaPipe @mediapipe/tasks-audio NPM 패키지를 통해 사용할 수 있습니다. 플랫폼 설정 가이드에 제공된 링크에서 이러한 라이브러리를 찾아 다운로드할 수 있습니다.

다음 명령어를 사용하여 로컬 스테이징을 위해 다음 코드로 필수 패키지를 설치할 수 있습니다.

npm install @mediapipe/tasks-audio

콘텐츠 전송 네트워크 (CDN) 서비스를 통해 작업 코드를 가져오려면 HTML 파일의 태그에 다음 코드를 추가합니다.

<!-- Replace "my-cdn-service.com" with your CDN -->
<head>
  <script src="https://my-cdn-service.com/npm/@mediapipe/tasks-audio/audio_bundle.js"
    crossorigin="anonymous"></script>
</head>

모델

MediaPipe Audio Classifier 작업에는 이 작업과 호환되는 학습된 모델이 필요합니다. 오디오 분류기에 사용할 수 있는 학습된 모델에 대한 자세한 내용은 작업 개요 모델 섹션을 참조하세요.

모델을 선택하고 다운로드한 후 프로젝트 디렉터리에 저장합니다. 예를 들면 다음과 같습니다.

<dev-project-root>/app/shared/models/

할 일 만들기

Audio Classifier createFrom...() 함수 중 하나를 사용하여 추론 실행을 위한 작업을 준비합니다. 학습된 모델 파일의 상대 또는 절대 경로와 함께 createFromModelPath() 함수를 사용합니다. 모델이 이미 메모리에 로드되어 있다면 createFromModelBuffer() 메서드를 사용할 수 있습니다.

아래 코드 예에서는 createFromOptions() 함수를 사용하여 태스크를 설정하는 방법을 보여줍니다. createFromOptions 함수를 사용하면 구성 옵션을 통해 오디오 분류기를 맞춤설정할 수 있습니다. 구성 옵션에 대한 자세한 내용은 구성 옵션을 참조하세요.

다음 코드는 커스텀 옵션으로 작업을 빌드하고 구성하는 방법을 보여줍니다.

const audio = await FilesetResolver.forAudioTasks(
    "https://my-cdn-service.com/npm/@mediapipe/tasks-audio/wasm"
  );

const audioClassifier = await AudioClassifier.createFromOptions(audio, {
    baseOptions: {
      modelAssetPath:
        "https://tfhub.dev/google/lite-model/yamnet/classification/tflite/1?lite-format=tflite"
    }
  });

Audio Classifier 코드 구현 예에서는 사용자가 처리 모드 중에서 선택할 수 있습니다. 이 접근 방식은 작업 생성 코드를 더 복잡하게 만들고 사용 사례에 적합하지 않을 수 있습니다. example code의 runAudioClassification() 및 runStreamingAudioClassification() 함수에서 다양한 모드를 확인할 수 있습니다.

구성 옵션

이 태스크에는 웹 및 자바스크립트 애플리케이션을 위한 다음과 같은 구성 옵션이 있습니다.

옵션 이름	설명	값 범위	기본값
`displayNamesLocale`	가능한 경우 태스크 모델의 메타데이터에 제공되는 표시 이름에 사용할 라벨 언어를 설정합니다. 기본값은 영어의 경우 `en`입니다. TensorFlow Lite Metadata Writer API를 사용하여 커스텀 모델의 메타데이터에 현지화된 라벨을 추가할 수 있습니다.	언어 코드	한국어
`maxResults`	반환할 최고 점수를 받은 분류 결과의 최대 개수를 선택합니다(선택사항). 0보다 작은 경우 사용 가능한 모든 결과가 반환됩니다.	모든 양수	`-1`
`scoreThreshold`	모델 메타데이터에서 제공된 값 (있는 경우)을 재정의하는 예측 점수 임곗값을 설정합니다. 이 값보다 낮은 결과는 거부됩니다.	[0.0, 1.0]	설정되지 않음
`categoryAllowlist`	허용된 카테고리 이름의 선택적 목록을 설정합니다. 비어 있지 않으면 카테고리 이름이 이 세트에 없는 분류 결과는 필터링됩니다. 중복되거나 알 수 없는 카테고리 이름은 무시됩니다. 이 옵션은 `categoryDenylist`와 상호 배타적이며 둘 다 사용하면 오류가 발생합니다.	모든 문자열	설정되지 않음
`categoryDenylist`	허용되지 않는 카테고리 이름의 선택적 목록을 설정합니다. 비어 있지 않으면 카테고리 이름이 이 세트에 있는 분류 결과가 필터링됩니다. 중복되거나 알 수 없는 카테고리 이름은 무시됩니다. 이 옵션은 `categoryAllowlist`와 함께 사용할 수 없으며 두 옵션을 모두 사용하면 오류가 발생합니다.	모든 문자열	설정되지 않음

데이터 준비

Audio Classifier는 오디오 클립 및 오디오 스트림에서 작동하며 호스트 브라우저에서 지원하는 모든 형식의 오디오 파일에서 작동합니다. 이 작업은 리샘플링, 버퍼링, 프레이밍을 포함한 데이터 입력 전처리를 처리합니다.

작업 실행

Audio Classifier는 classify() 메서드를 사용하여 오디오 클립 파일 또는 오디오 스트림에 관한 추론을 실행합니다. Audio Classifier API는 입력 오디오에서 인식된 오디오 이벤트에 가능한 카테고리를 반환합니다.

Audio Classifier classify() 메서드 호출은 동기식으로 실행되며 사용자 인터페이스 스레드를 차단합니다. 기기의 마이크에서 오디오를 분류하는 경우 분류마다 기본 스레드가 차단됩니다. 다른 스레드에서 classify()를 실행하는 웹 워커를 구현하여 이를 방지할 수 있습니다.

다음 코드는 작업 모델을 사용하여 처리를 실행하는 방법을 보여줍니다.

오디오 클립

// Create audio buffer
const sample = await response.arrayBuffer();
const audioBuffer = await audioCtx.decodeAudioData(sample);

// Use AudioClassifier to run classification
const results = audioClassifier.classify(
  audioBuffer.getChannelData(0),
  audioBuffer.sampleRate
);

오디오 스트림

stream = await navigator.mediaDevices.getUserMedia(constraints);
audioCtx = new AudioContext({ sampleRate: 16000 });

const source = audioCtx.createMediaStreamSource(stream);
const scriptNode = audioCtx.createScriptProcessor(16384, 1, 1);

scriptNode.onaudioprocess = function (audioProcessingEvent) {
  const inputBuffer = audioProcessingEvent.inputBuffer;
  let inputData = inputBuffer.getChannelData(0);

  // Classify the audio
  const result = audioClassifier.classify(inputData);
  const categories = result[0].classifications[0].categories;
};

Audio Classifier 작업 실행을 좀 더 완벽하게 구현하려면 코드 예를 참고하세요.

결과 처리 및 표시

추론 실행을 완료하면 Audio Classifier 작업이 입력 오디오 내 객체의 가능한 카테고리 목록이 포함된 AudioClassifierResult 객체를 반환합니다.

AudioClassifierResult:
  Timestamp in microseconds: 100
  ClassificationResult #0:
    Timestamp in microseconds: 100  
    Classifications #0 (single classification head):
      head index: 0
      category #0:
        category name: "Speech"
        score: 0.6
        index: 0
      category #1:
        category name: "Music"
        score: 0.2
        index: 1

Audio Classifier 예시 코드는 작업에서 반환된 분류 결과를 표시하는 방법을 보여줍니다. 자세한 내용은 코드 예를 참고하세요.