Yapay zekayı (AI) uygulamaya yönelik her sorumlu yaklaşım, güvenlik politikaları, şeffaflık yapıları ve güvenlik önlemleri içermelidir. Ancak yapay zekayı sorumlu bir şekilde kullanmak, yapılacaklar listelerini takip etmekten daha fazlasını ifade eder.
Üretken yapay zeka ürünleri nispeten yenidir ve uygulamaların davranışları değişiklik gösterebilir. çok daha fazla önem teşkil eder. Bu nedenle, mümkünse modelin davranış örneklerini incelemek ve bunları araştırmak için kullanılan modelleri sürprizler.
İstemler, GenAI ile etkileşime geçmek için her yerde bulunan bir arayüzdür ve bu istemleri tasarlamak hem bilim hem de sanattır. Ancak, LLM'lere yönelik istemleri deneysel olarak iyileştirmenize yardımcı olabilecek araçlar, Öğrenme Yorumlanabilirlik Aracı (LIT). LIT, bir açık kaynaktır Gantt şeması isimli, yapay zeka modellerini görsel olarak anlayıp hata ayıklamaya yönelik bir araç. istem mühendisliği çalışmaları için hata ayıklayıcı. Colab veya Codelab'i kullanarak sağlanan eğitim ile birlikte ilerleyin.
LIT ile Gemma modellerini analiz etme
 Codelab'i başlatın
|
 Google Colab'ı başlatın
|
Şekil 1. LIT'in kullanıcı arayüzü: Üst kısımdaki Veri Noktası Düzenleyici, kullanıcıların istemlerini düzenlemesine olanak tanır. Alt kısımdaki LM Öne Çıkan Öğeler modülü, kullanıcıların öne çıkan öğe sonuçlarını kontrol etmesine olanak tanır.
LIT'i yerel makinenizde, Colab'da veya Google Cloud'da kullanabilirsiniz.
Model araştırma ve keşif çalışmalarında teknik olmayan ekipleri dahil etme
Yorumlanabilirlik, politika ve hukuk gibi alanlarda uzmanlık gerektiren bir ekip çalışmasıdır. LIT'in görsel aracı ve belirginliği inceleme ve örnekleri keşfetme konusundaki etkileşimli özelliği, farklı paydaşların bulguları paylaşmasına ve aktarmasına yardımcı olabilir. Bu yaklaşım, model keşfi, araştırma ve hata ayıklamada daha fazla bakış açısı çeşitliliği sağlayabilir. Ekip arkadaşlarınızı bu teknik yöntemlerle tanıştırarak modellerin işleyiş şekli hakkındaki bilgilerini artırabilirsiniz. İçinde erken model testlerinde daha fazla çeşitlilik içeren uzmanlık da ve iyileştirilebilecek istenmeyen sonuçları ortaya çıkarır.