TensorFlow Lite ile model çıkarımı yapmak için sürücü sınıfı.
Not: "Deneysel" çalışmalardan hiçbirine erişmeniz gerekmiyorsa Aşağıdaki API özelliklerini kullanın; Yorumlayıcı'yı doğrudan kullanmak yerine ConsulterApi ve ConsulterFactory.
Interpreter
, önceden eğitilmiş bir TensorFlow Lite modelini içerir. Bu modelde
gibi işlemler model çıkarımı için yürütülür.
Örneğin, bir model yalnızca bir giriş alır ve yalnızca bir çıkış döndürürse:
try (Interpreter interpreter = new Interpreter(file_of_a_tensorflowlite_model)) {
interpreter.run(input, output);
}
Bir model birden fazla giriş veya çıkış alıyorsa:
Object[] inputs = {input0, input1, ...};
Map<Integer, Object> map_of_indices_to_outputs = new HashMap<>();
FloatBuffer ith_output = FloatBuffer.allocateDirect(3 * 2 * 4); // Float tensor, shape 3x2x4.
ith_output.order(ByteOrder.nativeOrder());
map_of_indices_to_outputs.put(i, ith_output);
try (Interpreter interpreter = new Interpreter(file_of_a_tensorflowlite_model)) {
interpreter.runForMultipleInputsOutputs(inputs, map_of_indices_to_outputs);
}
Bir model dize tensörleri alır veya üretirse:
String[] input = {"foo", "bar"}; // Input tensor shape is [2].
String[][] output = new String[3][2]; // Output tensor shape is [3, 2].
try (Interpreter interpreter = new Interpreter(file_of_a_tensorflowlite_model)) {
interpreter.runForMultipleInputsOutputs(input, output);
}
Şekil [] ile şekil[1] arasında ayrım olduğuna dikkat edin. Skaler dize tensörü için çıktılar:
String[] input = {"foo"}; // Input tensor shape is [1].
ByteBuffer outputBuffer = ByteBuffer.allocate(OUTPUT_BYTES_SIZE); // Output tensor shape is [].
try (Interpreter interpreter = new Interpreter(file_of_a_tensorflowlite_model)) {
interpreter.runForMultipleInputsOutputs(input, outputBuffer);
}
byte[] outputBytes = new byte[outputBuffer.remaining()];
outputBuffer.get(outputBytes);
// Below, the `charset` can be StandardCharsets.UTF_8.
String output = new String(outputBytes, charset);
TensorFlow modeli TensorFlowLite'a dönüştürülürken giriş ve çıkış sıraları belirlenir. girişlerin varsayılan şekillerini de içerir.
Girişler (çok boyutlu) diziler olarak sağlandığında karşılık gelen giriş tensörleri
dolaylı olarak yeniden boyutlandırabilirsiniz. Girişler Buffer
olarak sağlandığında
dolaylı yeniden boyutlandırma yapılmaz; arayan, Buffer
bayt boyutundan emin olmalıdır.
tensörü önce resizeInput(int, int[])
aracılığıyla yeniden boyutlandırırlar. Tensor şekil ve tür bilgileri, getInputTensor(int)
ve getOutputTensor(int)
aracılığıyla kullanılabilen Tensor
sınıfı aracılığıyla elde edilebilir.
UYARI:Interpreter
örnekleri iş parçacığı için güvenli değildir. Interpreter
close()
çağrılmasıyla açık bir şekilde serbest bırakılması gereken kaynaklara sahip
TFLite kitaplığı, NDK API 19'a göre geliştirilmiştir. 19'un altındaki Android API seviyelerinde çalışabilir. ancak garanti edilmez.
İç İçe Yerleştirilmiş Sınıflar
sınıf | Interpreter.Options | Çalışma zamanı çevirmen davranışını kontrol etmek için bir seçenek sınıfı. |
Kamu Yüklenicileri
Yorumlayıcı(Dosya modelFile, Interpreter.Options seçenekleri)
Bir
Interpreter başlatır ve çevirmen davranışını özelleştirme seçeneklerini belirtir. |
|
Çevirmen(ByteBuffer byteBuffer)
Interpreter işlemini, bir model dosyasının ByteBuffer değeriyle başlatır. |
|
Herkese Açık Yöntemler
geçersiz |
allocateTensors()
Gerekirse tüm tensörler için ayırmaları açık bir şekilde günceller.
|
geçersiz |
close()
InterpreterApi örneğiyle ilişkili kaynakları serbest bırakın. |
int | |
Tensor |
getInputTensor(int inputIndex)
Sağlanan giriş diziniyle ilişkilendirilmiş Tensor'u alır.
|
int |
getInputTensorCount()
Giriş tensörü sayısını alır.
|
Tensor |
getInputTensorFromSignature(Dize girdisiAdı, Dize İleti İmzası)
Sağlanan giriş adı ve imza yöntemi adıyla ilişkilendirilmiş Tensor'u alır.
|
Uzun |
getLastNativeInferenceDurationNanoseconds()
Yerel çıkarım zamanlamasını döndürür.
|
int | |
Tensor |
getOutputTensor(int exitIndex)
Sağlanan çıkış diziniyle ilişkilendirilmiş Tensor'u alır.
|
int |
getOutputTensorCount()
Çıkış Tensör sayısını alır.
|
Tensor |
getOutputTensorFromSignature(Dize çıkışAdı, Dize üstbilgisi)
Belirli bir imza yönteminde, sağlanan çıkış adıyla ilişkilendirilmiş Tensor'u alır.
|
String[] |
getSignatureInputs(String sürümlerinin imzası)
signatureKey yöntemi için SignatureDefs girişlerinin listesini alır. |
String[] |
getSignatureKeys()
Modelde kullanılabilen SignatureDef dışa aktarılan yöntem adlarının listesini alır.
|
String[] |
getSignatureOutputs(StringSignatureKey)
signatureKey yöntemi için SignatureDefs çıkışlarının listesini alır. |
geçersiz |
resetVariableTensors()
Gelişmiş: Tüm değişken tensörleri varsayılan değere sıfırlar.
|
geçersiz |
resizeInput(int idx, int[] dims, boolean strict)
Yerel modelin idx-th girişini belirtilen karartma değerlerine yeniden boyutlandırır.
|
geçersiz |
resizeInput(int idx, int[] loş)
Yerel modelin idx-th girişini belirtilen karartma değerlerine yeniden boyutlandırır.
|
geçersiz | |
geçersiz |
runForMultipleInputsOutputs(Nesne[] girişleri, Harita <Tamsayı, Nesne> çıkışlar)
Model birden fazla giriş alıyorsa veya birden fazla çıkış döndürürse model çıkarımını çalıştırır.
|
geçersiz |
runSignature(Harita<Dize, Nesne> girişleri, Harita<Dize, Nesne> çıkışları)
runSignature(Map, Map, String) ile aynıdır ancak kaydolma anahtarı iletmeyi gerektirmez.
varsayabilirsiniz. |
geçersiz | |
geçersiz |
setCancelled(boole iptal edildi)
Gelişmiş:
run(Object, Object) için yapılan bir çağrının ortasında çıkarımı kesintiye uğratır. |
Devralınan Yöntemler
Kamu Yüklenicileri
herkese açık 'nı inceleyin. Çevirmen (Dosya modelFile)
Bir Interpreter
başlatır.
Parametreler
modelFile | Önceden eğitilmiş TF Lite modelinin dosyası. |
---|
Fırlatma
IllegalArgumentException | modelFile geçerli bir TensorFlow Lite kodlamazsa
modeli.
|
---|
herkese açık 'nı inceleyin. Çevirmen (Dosya modelFile, Interpreter.Options seçenekleri)
Bir Interpreter
başlatır ve çevirmen davranışını özelleştirme seçeneklerini belirtir.
Parametreler
modelFile | önceden eğitilmiş TF Lite modelinin dosyası |
---|---|
seçenekler | çevirmen davranışını özelleştirmek için bir dizi seçenek |
Fırlatma
IllegalArgumentException | modelFile geçerli bir TensorFlow Lite kodlamazsa
modeli.
|
---|
herkese açık 'nı inceleyin. Çevirmen (ByteBuffer byteBuffer)
Interpreter
işlemini, bir model dosyasının ByteBuffer
değeriyle başlatır.
ByteBuffer, Interpreter
oluşturulduktan sonra değiştirilmemelidir. İlgili içeriği oluşturmak için kullanılan
ByteBuffer
, bir model dosyasıyla bellek eşleyen bir MappedByteBuffer
veya
bir modelin bayt içeriğini içeren yerel Order() doğrudan ByteBuffer
.
Parametreler
byteBuffer |
---|
Fırlatma
IllegalArgumentException | byteBuffer bir MappedByteBuffer veya bir değilse
yerelSiparişin doğrudan ByteBuffer .
|
---|
herkese açık 'nı inceleyin. Çevirmen (ByteBuffer byteBuffer, Interpreter.Options seçenekleri)
Bir model dosyasının ByteBuffer
ve bir grupInterpreter
özel Interpreter.Options
.
ByteBuffer
, Interpreter
oluşturulduktan sonra değiştirilmemelidir. ByteBuffer
, bellek eşlenen bir MappedByteBuffer
olabilir
bir model dosyası veya bayt içeriğini içeren yerelSipariş() çağrısının doğrudan ByteBuffer
öğesi
olabilir.
Parametreler
byteBuffer | |
---|---|
seçenekler |
Fırlatma
IllegalArgumentException | byteBuffer bir MappedByteBuffer veya bir değilse
yerelSiparişin doğrudan ByteBuffer .
|
---|
Herkese Açık Yöntemler
herkese açık geçersiz 'nı inceleyin. allocateTensors ()
Gerekirse tüm tensörler için ayırmaları açık bir şekilde günceller.
Bu işlem, girişi kullanarak bağımlı tensörler için şekilleri ve bellek ayırmalarını yayar tensör şekillerini değiştirin.
Not: Bu arama *tamamen isteğe bağlıdır*. Tensor tahsisi, şu süre boyunca otomatik olarak gerçekleşir: herhangi bir giriş tensörü yeniden boyutlandırıldığında yürütülür. Bu çağrı, projenizin en önemli herhangi bir çıkış tensörü için farklı şekiller (ör.
interpreter.resizeInput(0, new int[]{1, 4, 4, 3}));
interpreter.allocateTensors();
FloatBuffer input = FloatBuffer.allocate(interpreter.getInputTensor(0).numElements());
// Populate inputs...
FloatBuffer output = FloatBuffer.allocate(interpreter.getOutputTensor(0).numElements());
interpreter.run(input, output)
// Process outputs...
Not: Bazı grafiklerin çıkışları dinamik olarak şekillendirilmiştir. Bu durumda, çıkış şekli çıkarım yürütülene kadar tam olarak yayılır.
herkese açık geçersiz 'nı inceleyin. kapat ()
InterpreterApi
örneğiyle ilişkili kaynakları serbest bırakın.
herkese açık tamsayı 'nı inceleyin. getInputIndex (Dize opName)
Girişin işlem adı verilen bir girişin dizinini alır.
Parametreler
opName |
---|
herkese açık Tensor getInputTensor (int inputIndex)
Sağlanan giriş diziniyle ilişkilendirilmiş Tensor'u alır.
Parametreler
inputIndex |
---|
herkese açık tamsayı 'nı inceleyin. getInputTensorCount ()
Giriş tensörü sayısını alır.
herkese açık Tensor getInputTensorFromSignature (DizeinputName, StringSignatureKey)
Sağlanan giriş adı ve imza yöntemi adıyla ilişkilendirilmiş Tensor'u alır.
UYARI: Bu deneysel bir API'dir ve değişebilir.
Parametreler
inputName | İmzadaki adı girin. |
---|---|
signatureKey | SignatureDef'i tanımlayan imza anahtarı, modelde olduğunu unutmayın. |
Fırlatma
IllegalArgumentException | inputName veya signatureKey null ya da boşsa
veya verilen ad geçersiz.
|
---|
herkese açık Uzun getLastNativeInferenceDurationNanoseconds ()
Yerel çıkarım zamanlamasını döndürür.
herkese açık tamsayı 'nı inceleyin. getOutputIndex (Dize opName)
Çıkışın işlem adı olarak belirtilen çıkışın dizinini alır.
Parametreler
opName |
---|
herkese açık Tensor getOutputTensor (int exitIndex)
Sağlanan çıkış diziniyle ilişkilendirilmiş Tensor'u alır.
Not: Çıkış tensörü ayrıntıları (ör. şekil), çıkarım sonrasına kadar tam olarak doldurulamaz
yürütüldüğünden emin olun. Çıkarım yapmadan *önce* güncellenmiş ayrıntılara ihtiyacınız varsa (ör.
çıkış tensörü şekillerini geçersiz kılacak olan giriş tensörü için allocateTensors()
kullanın
ayırma ve şekil yayılımını açıkça tetiklemesi. Çıktı şekillerine sahip grafiklerde,
*değerlerine* bağlı olan satır öğeleri için, çıktının şekli
çıkarım yapabilirsiniz.
Parametreler
outputIndex |
---|
herkese açık tamsayı 'nı inceleyin. getOutputTensorCount ()
Çıkış Tensör sayısını alır.
herkese açık Tensor getOutputTensorFromSignature (Dize exitName, StringSignatureKey)
Belirli bir imza yönteminde, sağlanan çıkış adıyla ilişkilendirilmiş Tensor'u alır.
Not: Çıkış tensörü ayrıntıları (ör. şekil), çıkarım sonrasına kadar tam olarak doldurulamaz
yürütüldüğünden emin olun. Çıkarım yapmadan *önce* güncellenmiş ayrıntılara ihtiyacınız varsa (ör.
çıkış tensörü şekillerini geçersiz kılacak olan giriş tensörü için allocateTensors()
kullanın
ayırma ve şekil yayılımını açıkça tetiklemesi. Çıktı şekillerine sahip grafiklerde,
*değerlerine* bağlı olan satır öğeleri için, çıktının şekli
çıkarım yapabilirsiniz.
UYARI: Bu deneysel bir API'dir ve değişebilir.
Parametreler
outputName | İmzadaki çıkış adı. |
---|---|
signatureKey | SignatureDef'i tanımlayan imza anahtarı, modelde olduğunu unutmayın. |
Fırlatma
IllegalArgumentException | outputName veya signatureKey null ya da
veya verilen ad geçersiz.
|
---|
herkese açık String[] getSignatureInputs (DizeSignatureKey)
signatureKey
yöntemi için SignatureDefs girişlerinin listesini alır.
UYARI: Bu deneysel bir API'dir ve değişebilir.
Parametreler
signatureKey |
---|
herkese açık String[] getSignatureKeys ()
Modelde kullanılabilen SignatureDef dışa aktarılan yöntem adlarının listesini alır.
UYARI: Bu deneysel bir API'dir ve değişebilir.
herkese açık String[] getSignatureOutputs (DizeSignatureKey)
signatureKey
yöntemi için SignatureDefs çıkışlarının listesini alır.
UYARI: Bu deneysel bir API'dir ve değişebilir.
Parametreler
signatureKey |
---|
herkese açık geçersiz 'nı inceleyin. resetVariableTensors ()
Gelişmiş: Tüm değişken tensörleri varsayılan değere sıfırlar.
Bir değişken tensörüyle ilişkili tampon yoksa sıfıra sıfırlanır.
UYARI: Bu deneysel bir API'dir ve değişebilir.
herkese açık geçersiz 'nı inceleyin. resizeInput (int idx, int[] dims, boole katı)
Yerel modelin idx-th girişini belirtilen karartma değerlerine yeniden boyutlandırır.
"strict" (doğru) değerine ayarlandığında yalnızca bilinmeyen boyutlar yeniden boyutlandırılabilir. Bilinmeyen boyutlar "Tensor.shapeSignature()" tarafından döndürülen dizide "-1" olarak belirtilir.
Parametreler
idx | |
---|---|
kararır | |
yüksek düzey |
herkese açık geçersiz 'nı inceleyin. resizeInput (int idx, int[] soluk)
Yerel modelin idx-th girişini belirtilen karartma değerlerine yeniden boyutlandırır.
Parametreler
idx | |
---|---|
kararır |
herkese açık geçersiz 'nı inceleyin. koş (Nesne girişi, Nesne çıkışı)
Model yalnızca bir giriş alıp yalnızca bir çıkış sağlıyorsa model çıkarımı çalıştırır.
Uyarı: API, Buffer
(tercihen doğrudan ancak zorunlu değil) ise daha verimlidir
giriş/çıkış veri türü olarak kullanılır. Feed'i alıp getirmek için Buffer
kullanmayı düşünün
temel verilere sahip olacaktır. Aşağıdaki somut Buffer
türleri şunlardır:
desteklenir:
ByteBuffer
: Temel Tensor türleriyle uyumludur.FloatBuffer
- kayan Tensörler ile uyumludur.IntBuffer
- int32 Tensor ile uyumlu.LongBuffer
- int64 Tensor ile uyumlu.
Buffer
veya skaler giriş olarak desteklendiğini unutmayın.Parametreler
giriş | bir dizi veya çok boyutlu dizi ya da temel türlerin Buffer kadarı
(int, float, long ve byte gibi). Buffer , büyük boyutlu öğeleri aktarmak için tercih edilen yoldur
ilkel türler için giriş verileri, dize türlerinde ise (çok boyutlu)
dizi giriş yolunu izleyin. Bir Buffer kullanıldığında, içeriği şu tarihe kadar değişmeden kalmalıdır:
model çıkarımı yapılır ve çağrıyı yapan, Buffer öğesinin
uygun okuma konumuna getirin. null değerine yalnızca çağrıyı yapan bir
arabellek işleyici birlikte çalışabilirliğine izin veren Delegate ve böyle bir arabellek,
Tensor girişi. |
---|---|
çıkış | çıkış verilerinin çok boyutlu bir dizisi veya temel türlerin Buffer kadarı
(int, float, long ve byte gibi). Buffer kullanıldığında, arayan kullanıcı şunlardan emin olmalıdır:
olarak ayarlandığından emin olun. Null değere izin verilir ve bu değer,
belirli durumlarda (ör. arayan, arabellek tutma yerine izin veren bir Delegate kullanıyorsa)
birlikte çalışabilirlik ve böyle bir arabellek, Tensor çıktısına bağlanmıştır (ayrıca bkz. Interpreter.Options#setAllowBufferHandleOutput(boolean)),
veya grafik dinamik olarak şekillendirilmiş çıkışlara sahipse ve çıkarım çağrıldıktan sonra çağrıyı yapan kişinin çıktıyı Tensor şeklini sorgulaması, verileri doğrudan çıkıştan getirmesi gerekir
tensor (Tensor.asReadOnlyBuffer() üzerinden). |
herkese açık geçersiz 'nı inceleyin. runForMultipleInputsOutputs (Nesne[] girişleri, Harita <Tamsayı, Nesne> çıkışlar)
Model birden fazla giriş alıyorsa veya birden fazla çıkış döndürürse model çıkarımını çalıştırır.
Uyarı: API, Buffer
öğeleri (tercihen doğrudan ancak zorunlu değil) ise daha verimlidir
giriş/çıkış veri türü olarak kullanılır. Feed'i alıp getirmek için Buffer
kullanmayı düşünün
temel verilere sahip olacaktır. Aşağıdaki somut Buffer
türleri şunlardır:
desteklenir:
ByteBuffer
: Temel Tensor türleriyle uyumludur.FloatBuffer
- kayan Tensörler ile uyumludur.IntBuffer
- int32 Tensor ile uyumlu.LongBuffer
- int64 Tensor ile uyumlu.
Buffer
veya skaler giriş olarak desteklendiğini unutmayın.
Not: inputs
ve outputs
öğelerinin ayrı öğeleri için null
değerleri
yalnızca çağrıyı yapan, arabellek tutma yeri birlikte çalışabilirlik özelliğine izin veren bir Delegate
kullanıyorsa ve
bu tür bir tampon, karşılık gelen giriş veya çıkışa Tensor
bağlanmıştır.
Parametreler
girişler | giriş verileri dizisidir. Girişler,
modeli. Her giriş bir dizi veya çok boyutlu dizi ya da Buffer
int, float, long ve byte gibi temel türler. Tercih edilen yöntem Buffer
dize türünde (çok boyutlu) diziyi kullanmayı gerektirirken, dize türünde
giriş yolunu izleyin. Buffer kullanıldığında, içeriği modele kadar değişmeden kalmalıdır.
Çıkarım yapılır ve arayan, Buffer öğesinin uygun durumda olduğundan emin olmalıdır.
okuma konumu. |
---|---|
çıkışlar | çok boyutlu çıkış verileri dizilerine veya int, float, long ve byte gibi temel türlere ait Buffer 'ler ile harita çıktı dizinlerini eşleyen bir harita. Sadece
girişlerden oluşmalıdır. Buffer kullanıldığında, arayan kullanıcı şunlardan emin olmalıdır:
olarak ayarlandığından emin olun. Harita,
arabellek tutma yerleri çıkış tensörü verileri veya çıkışların dinamik olarak
şekilli olmalı ve çağrı yapanın, çıkarım yapıldıktan sonra Tensor çıktısı şeklini sorgulaması gerekir.
çağrılır ve veriler doğrudan çıkış tensöründen (Tensor.asReadOnlyBuffer() aracılığıyla) getirilir. |
herkese açık geçersiz 'nı inceleyin. runSignature (Harita<Dize, Nesne> girişler, Harita<Dize, Nesne> çıkışları)
runSignature(Map, Map, String)
ile aynıdır ancak kaydolma anahtarı iletmeyi gerektirmez.
varsayabilirsiniz. Modelde birden fazla SignatureDef varsa
istisna olabilir.
UYARI: Bu deneysel bir API'dir ve değişebilir.
Parametreler
girişler | |
---|---|
çıkışlar |
herkese açık geçersiz 'nı inceleyin. runSignature (Harita<Dize, Nesne> girişler, Harita<Dize, Nesne> çıkışları, StringSignatureKey)
signatureKey
aracılığıyla sağlanan SignatureDef'e göre model çıkarımı çalıştırır.
İzin verilen giriş ve çıkışla ilgili daha fazla bilgi için run(Object, Object)
sayfasına bakın
veri türlerini
analiz edeceksiniz.
UYARI: Bu deneysel bir API'dir ve değişebilir.
Parametreler
girişler | SignatureDef'teki giriş adından bir giriş nesnesine harita. |
---|---|
çıkışlar | SignatureDef'teki çıkış adından çıkış verilerine yönlendiren bir harita. Bu,
arayan, çıkarımdan hemen sonra Tensor verilerini sorgulamak istiyor (ör.
çıkış şekli dinamik veya çıkış arabellek tutma yerleri kullanılıyor). |
signatureKey | SignatureDef'i tanımlayan imza anahtarı. |
Fırlatma
IllegalArgumentException | inputs null veya boşsa, outputs veya
signatureKey null bir değer veya çıkarım çalıştırılırken bir hata oluşursa.
|
---|
herkese açık geçersiz 'nı inceleyin. setCancelled (boole iptal edildi)
Gelişmiş: run(Object, Object)
için yapılan bir çağrının ortasında çıkarımı kesintiye uğratır.
Bu işlev çağrıldığında, bir iptal işareti doğru değerine ayarlanır. Çevirmen,
Serbest çağrılar arasındaki işareti kontrol edin. true
ise çevirmen durur.
birkaç adım var. Çevirmen, açıkça "iptali iptal edilene" kadar iptal edilmiş durumda kalır -
setCancelled(false)
UYARI: Bu deneysel bir API'dir ve değişebilir.
Parametreler
iptal edildi | Çıkarımı en iyi şekilde iptal etmek için true ; false -
devam eder. |
---|
Fırlatma
IllegalStateException | Çevirmen iptal edilebilir Bu ayar varsayılan olarak devre dışıdır. |
---|