Raindrop, Gemini 2.5 Flash'i kullanarak yapay zeka aracısının performansını büyük ölçekte izliyor

Yapay zeka aracıları, geleneksel yazılımlara kıyasla benzersiz izleme zorlukları sunar. Yapay zeka sistemlerindeki hatalar genellikle "sessiz"dir. Yani standart istisnalar veya hatalar üretmeyebilirler. Bu da mühendislik ekiplerinin sorunları tespit etmesini zorlaştırır. Günlükleri incelemek veya üretim öncesi değerlendirmelere güvenmek gibi geleneksel hata ayıklama yöntemleri, gerçek dünyadaki performans sorunlarını yakalayamayabilir.

Raindrop, üretimdeki yapay zeka temsilcileri için özel olarak tasarlanmış bir izleme platformu sunar. Mühendislik ekiplerinin, büyük kullanıcı etkileşimi akışlarını işleyerek araç çağrısı hataları ve kullanıcıların yaşadığı hayal kırıklığı gibi karmaşık sorunları belirlemesine yardımcı olur. Raindrop, izleme hattını verimli bir şekilde desteklemek için kategorizasyon, özetleme ve arama sonuçlarını yeniden sıralama işlemlerinde Gemini 2.5 Flash'i kullanır.

Raindrop'un platformu, günlük olarak on milyonlarca etkinliği işler. Raindrop'un karşılaştığı temel zorluklardan biri, mühendislik ekiplerinin bu büyük veri kümelerinde sorunları neredeyse anında sorgulayıp sınıflandırmasını sağlamaktır. Bir kullanıcı izlenecek yeni bir sorun tanımladığında Raindrop'un sistemi, kullanıcının amacını hızlı bir şekilde yorumlamalı ve eşleşmeleri bulmak için etkinlik akışlarını analiz etmelidir.

Bu yüksek işleme hızı, son derece düşük gecikme süresi ve yüksek maliyet verimliliği sunan modeller gerektirir. Raindrop, kullanıcı deneyimini olumsuz etkileyecek yüksek maliyetler veya yavaş yanıt süreleri olmadan temel "anlamsal izleme" işlem hattını ve Deep Search gibi yeni özellikleri (üretim yapay zeka verilerini araştırmak için kullanılan bir araç) destekleyecek bir çözüme ihtiyaç duyuyordu.

Raindrop'un kurucu ortağı ve CTO'su Ben Hylak, "Bu ilk etkinlikleri makul bir maliyetle hızlı bir şekilde işleyebilecek bir modele ihtiyacımız vardı" diyor. "Gemini 2.5 Flash'in düşük gecikme süresi ve zekası, diğer modellerle çok yavaş ve çok pahalı olacağı için kullanılamayacak olan Deep Search ürünümüzü mümkün kılıyor."

Raindrop, kategorilendirme ve sorgu yeniden yazma işlemlerini yönetmek için Gemini 2.5 Flash'i entegre etti. Vercel AI SDK kullanılarak uygulama kolaylaştırıldı ve Raindrop'un modelleri hızlı bir şekilde entegre etmesine olanak tanındı.

Raindrop, çeşitli temel işlevler için Gemini 2.5 Flash'tan yararlanır:

• Sorgu genişletme ve yeniden yazma: Deep Search işlem hattında, sonuçları optimize etmek için kullanıcı sorgularını yeniden yazmak üzere Gemini 2.5 Flash'ten yararlanılır. Bu sayede, milyonlarca etkinlikte arama alaka düzeyi iyileştirilir.
• Yapılandırılmış çıkışlar: Raindrop, model etkileşimlerinden daha doğru sonuçlar elde etmek için araç çağrısından ve yapılandırılmış çıkışlardan yararlanır. Bu güvenilirlik, hata ayıklama ve kullanıcılara doğru muhakeme izleri sağlama açısından kritik öneme sahiptir.

Raindrop, Gemini 2.5 Flash'i kullanmaya başlamadan önce diğer küçük modelleri değerlendirmiş ancak maliyet-performans oranının uygun olmadığını tespit etmişti. "Diğer modeller ya çok pahalıydı, çok yavaştı, yeterince akıllı değildi ya da güvenilir yapılandırılmış çıktılar üretmiyordu." Hylak noted. "Zeka-maliyet oranı yalnızca Gemini 2.5 Flash ile mantıklıydı."

Raindrop, Gemini 2.5 Flash modeline geçerek önemli performans ve verimlilik kazanımları elde etti.

Önemli sonuçlar:

• Arama süreleri saatlerden genellikle bir dakikanın altına indirildi.
• Maliyetler %90'dan fazla azaltıldı
• Hem değerlendirmelerde hem de üretim izlemede daha fazla güvenilirlik

Raindrop, Deep Search işlem hattında yapılandırılmış çıkışlar ve araç çağrıları için Gemini API'nin desteğinden yararlanır. Bu sayede doğru sonuçlar elde edebilir ve hata ayıklama için muhakeme izlerini görüntüleyebilirler. Bu, güvenilir bir sistemi sürdürmek için kritik öneme sahiptir. İlk entegrasyon, Vercel AI SDK kullanılarak dakikalar içinde tamamlandı.

Raindrop, eksiksiz izleme ve araç çağrısı sorunlarının otomatik olarak algılanması gibi özelliklerle temsilciye özgü izleme platformunu geliştirmeye devam ediyor. Yapay zeka modelleri daha hızlı ve güvenilir hale geldikçe temsilcilerin giderek daha karmaşık görevleri yerine getirebileceğine inanıyorlar.

Hylak, "Geliştiriciler, daha önce aşırı maliyetli olduğunu düşündükleri kullanım alanlarını etkinleştirmek için Gemini 2.5 Flash'in güvenilir yapılandırılmış çıkışlarından ve fiyatlandırma modelinden yararlanmalıdır" diye tavsiyede bulundu. "Gemini 2.5 Flash, kullanıcılarınıza fiyatlandırma modelinizle gerçekten çalışan akıllı deneyimler sunmanıza olanak tanıyarak ürün geliştirme sürecinizin yönünü değiştirebilir."

Kendi uygulamalarınızı oluşturmaya başlamak için API belgelerimizde Gemini modellerinin özelliklerini inceleyin.