La clasificación de audio es un caso de uso común del aprendizaje automático para clasificar los tipos de sonido. Por ejemplo, puede identificar las especies de aves por sus cantos.
La API de la Biblioteca de tareas AudioClassifier se puede usar para implementar clasificadores de audio personalizados o preentrenados en tu app para dispositivos móviles.
Funciones clave de la API de AudioClassifier
Procesamiento de audio de entrada, p.ej., convertir la codificación PCM de 16 bits a la codificación PCM de punto flotante y la manipulación del búfer de anillo de audio.
Es la configuración regional del mapa de etiquetas.
Admite el modelo de clasificación de varios encabezados.
Admite la clasificación con una o varias etiquetas.
Es el umbral de puntuación para filtrar los resultados.
Son los resultados de clasificación de los primeros k.
Listas de entidades permitidas y denegadas de etiquetas
Modelos de clasificadores de audio compatibles
Se garantiza que los siguientes modelos son compatibles con la API de AudioClassifier.
Modelos creados por TensorFlow Lite Model Maker para la clasificación de audio.
Los modelos de clasificación de eventos de audio previamente entrenados en TensorFlow Hub
Modelos personalizados que cumplen con los requisitos de compatibilidad del modelo.
Ejecuta la inferencia en Java
Consulta la app de referencia de clasificación de audio para ver un ejemplo del uso de AudioClassifier en una app para Android.
Paso 1: Importa la dependencia de Gradle y otros parámetros de configuración
Copia el archivo del modelo .tflite en el directorio de recursos del módulo de Android en el que se ejecutará el modelo. Especifica que el archivo no se debe comprimir y agrega la biblioteca de TensorFlow Lite al archivo build.gradle del módulo:
android {
// Other settings
// Specify that the tflite file should not be compressed when building the APK package.
aaptOptions {
noCompress "tflite"
}
}
dependencies {
// Other dependencies
// Import the Audio Task Library dependency
implementation 'org.tensorflow:tensorflow-lite-task-audio:0.4.4'
// Import the GPU delegate plugin Library for GPU inference
implementation 'org.tensorflow:tensorflow-lite-gpu-delegate-plugin:0.4.4'
}
Paso 2: Cómo usar el modelo
// Initialization
AudioClassifierOptions options =
AudioClassifierOptions.builder()
.setBaseOptions(BaseOptions.builder().useGpu().build())
.setMaxResults(1)
.build();
AudioClassifier classifier =
AudioClassifier.createFromFileAndOptions(context, modelFile, options);
// Start recording
AudioRecord record = classifier.createAudioRecord();
record.startRecording();
// Load latest audio samples
TensorAudio audioTensor = classifier.createInputTensorAudio();
audioTensor.load(record);
// Run inference
List<Classifications> results = audioClassifier.classify(audioTensor);
Consulta el código fuente y el Javadoc para obtener más opciones para configurar AudioClassifier.
Ejecuta la inferencia en iOS
Paso 1: Instala las dependencias
La biblioteca de tareas admite la instalación con CocoaPods. Asegúrate de que CocoaPods esté instalado en tu sistema. Consulta la guía de instalación de CocoaPods para obtener instrucciones.
Consulta la guía de CocoaPods para obtener detalles sobre cómo agregar pods a un proyecto de Xcode.
Agrega el pod de TensorFlowLiteTaskAudio en el Podfile.
target 'MyAppWithTaskAPI' do
use_frameworks!
pod 'TensorFlowLiteTaskAudio'
end
Asegúrate de que el modelo .tflite que usarás para la inferencia esté presente en el paquete de tu app.
Paso 2: Cómo usar el modelo
Swift
// Imports
import TensorFlowLiteTaskAudio
import AVFoundation
// Initialization
guard let modelPath = Bundle.main.path(forResource: "sound_classification",
ofType: "tflite") else { return }
let options = AudioClassifierOptions(modelPath: modelPath)
// Configure any additional options:
// options.classificationOptions.maxResults = 3
let classifier = try AudioClassifier.classifier(options: options)
// Create Audio Tensor to hold the input audio samples which are to be classified.
// Created Audio Tensor has audio format matching the requirements of the audio classifier.
// For more details, please see:
// https://github.com/tensorflow/tflite-support/blob/master/tensorflow_lite_support/ios/task/audio/core/audio_tensor/sources/TFLAudioTensor.h
let audioTensor = classifier.createInputAudioTensor()
// Create Audio Record to record the incoming audio samples from the on-device microphone.
// Created Audio Record has audio format matching the requirements of the audio classifier.
// For more details, please see:
https://github.com/tensorflow/tflite-support/blob/master/tensorflow_lite_support/ios/task/audio/core/audio_record/sources/TFLAudioRecord.h
let audioRecord = try classifier.createAudioRecord()
// Request record permissions from AVAudioSession before invoking audioRecord.startRecording().
AVAudioSession.sharedInstance().requestRecordPermission { granted in
if granted {
DispatchQueue.main.async {
// Start recording the incoming audio samples from the on-device microphone.
try audioRecord.startRecording()
// Load the samples currently held by the audio record buffer into the audio tensor.
try audioTensor.load(audioRecord: audioRecord)
// Run inference
let classificationResult = try classifier.classify(audioTensor: audioTensor)
}
}
}
Objective-C
// Imports
#import <TensorFlowLiteTaskAudio/TensorFlowLiteTaskAudio.h>
#import <AVFoundation/AVFoundation.h>
// Initialization
NSString *modelPath = [[NSBundle mainBundle] pathForResource:@"sound_classification" ofType:@"tflite"];
TFLAudioClassifierOptions *options =
[[TFLAudioClassifierOptions alloc] initWithModelPath:modelPath];
// Configure any additional options:
// options.classificationOptions.maxResults = 3;
TFLAudioClassifier *classifier = [TFLAudioClassifier audioClassifierWithOptions:options
error:nil];
// Create Audio Tensor to hold the input audio samples which are to be classified.
// Created Audio Tensor has audio format matching the requirements of the audio classifier.
// For more details, please see:
// https://github.com/tensorflow/tflite-support/blob/master/tensorflow_lite_support/ios/task/audio/core/audio_tensor/sources/TFLAudioTensor.h
TFLAudioTensor *audioTensor = [classifier createInputAudioTensor];
// Create Audio Record to record the incoming audio samples from the on-device microphone.
// Created Audio Record has audio format matching the requirements of the audio classifier.
// For more details, please see:
https://github.com/tensorflow/tflite-support/blob/master/tensorflow_lite_support/ios/task/audio/core/audio_record/sources/TFLAudioRecord.h
TFLAudioRecord *audioRecord = [classifier createAudioRecordWithError:nil];
// Request record permissions from AVAudioSession before invoking -[TFLAudioRecord startRecordingWithError:].
[[AVAudioSession sharedInstance] requestRecordPermission:^(BOOL granted) {
if (granted) {
dispatch_async(dispatch_get_main_queue(), ^{
// Start recording the incoming audio samples from the on-device microphone.
[audioRecord startRecordingWithError:nil];
// Load the samples currently held by the audio record buffer into the audio tensor.
[audioTensor loadAudioRecord:audioRecord withError:nil];
// Run inference
TFLClassificationResult *classificationResult =
[classifier classifyWithAudioTensor:audioTensor error:nil];
});
}
}];
Consulta el código fuente para obtener más opciones para configurar TFLAudioClassifier.
Ejecuta la inferencia en Python
Paso 1: Instala el paquete pip
pip install tflite-support
- Linux: Ejecuta
sudo apt-get update && apt-get install libportaudio2 - Mac y Windows: PortAudio se instala automáticamente cuando se instala el paquete
tflite-supportde pip.
Paso 2: Cómo usar el modelo
# Imports
from tflite_support.task import audio
from tflite_support.task import core
from tflite_support.task import processor
# Initialization
base_options = core.BaseOptions(file_name=model_path)
classification_options = processor.ClassificationOptions(max_results=2)
options = audio.AudioClassifierOptions(base_options=base_options, classification_options=classification_options)
classifier = audio.AudioClassifier.create_from_options(options)
# Alternatively, you can create an audio classifier in the following manner:
# classifier = audio.AudioClassifier.create_from_file(model_path)
# Run inference
audio_file = audio.TensorAudio.create_from_wav_file(audio_path, classifier.required_input_buffer_size)
audio_result = classifier.classify(audio_file)
Consulta el código fuente para obtener más opciones para configurar AudioClassifier.
Ejecuta la inferencia en C++
// Initialization
AudioClassifierOptions options;
options.mutable_base_options()->mutable_model_file()->set_file_name(model_path);
std::unique_ptr<AudioClassifier> audio_classifier = AudioClassifier::CreateFromOptions(options).value();
// Create input audio buffer from your `audio_data` and `audio_format`.
// See more information here: tensorflow_lite_support/cc/task/audio/core/audio_buffer.h
int input_size = audio_classifier->GetRequiredInputBufferSize();
const std::unique_ptr<AudioBuffer> audio_buffer =
AudioBuffer::Create(audio_data, input_size, audio_format).value();
// Run inference
const ClassificationResult result = audio_classifier->Classify(*audio_buffer).value();
Consulta el código fuente para obtener más opciones para configurar AudioClassifier.
Requisitos de compatibilidad del modelo
La API de AudioClassifier espera un modelo de TFLite con metadatos del modelo de TFLite obligatorios. Consulta ejemplos de cómo crear metadatos para clasificadores de audio con la API de TensorFlow Lite Metadata Writer.
Los modelos de clasificación de audio compatibles deben cumplir con los siguientes requisitos:
Tensor de audio de entrada (kTfLiteFloat32)
- Clip de audio de tamaño
[batch x samples]. - No se admite la inferencia por lotes (
batchdebe ser 1). - En el caso de los modelos multicanal, los canales deben estar intercalados.
- Clip de audio de tamaño
Tensor de puntuación de salida (kTfLiteFloat32)
- El array
[1 x N]conNrepresenta el número de clase. - Mapas de etiquetas opcionales (pero recomendados) como AssociatedFile-s con el tipo TENSOR_AXIS_LABELS, que contienen una etiqueta por línea. El primer AssociatedFile de este tipo (si existe) se usa para completar el campo
label(denominadoclass_nameen C++) de los resultados. El campodisplay_namese completa a partir del AssociatedFile (si existe) cuya configuración regional coincide con el campodisplay_names_localedelAudioClassifierOptionsque se usó en el momento de la creación ("en" de forma predeterminada, es decir, inglés). Si no hay ninguno disponible, solo se completará el campoindexde los resultados.
- El array