Setiap pendekatan yang bertanggung jawab untuk menerapkan kecerdasan buatan (AI) harus mencakup kebijakan keamanan, artefak transparansi, dan perlindungan, tetapi bertanggung jawab dengan AI berarti lebih dari sekadar mengikuti checklist.
Produk GenAI relatif baru dan perilaku aplikasi dapat bervariasi lebih banyak dari bentuk perangkat lunak sebelumnya. Oleh karena itu, Anda harus menyelidiki model yang digunakan untuk memeriksa contoh perilaku model, dan menyelidiki kejutan.
Perintah adalah antarmuka yang ada di mana-mana untuk berinteraksi dengan GenAI, dan membuat perintah tersebut adalah seni sekaligus ilmu pengetahuan. Namun, ada alat yang dapat membantu Anda secara empiris meningkatkan kemampuan LLM, seperti Alat Penafsiran Pembelajaran (LIT). LIT adalah alat open source untuk memahami dan men-debug model AI secara visual, yang dapat digunakan sebagai debugger untuk pekerjaan rekayasa prompt. Ikuti tutorial yang diberikan menggunakan Colab atau Codelab.
Menganalisis Model Gemma dengan LIT
 Mulai Codelab
|
 Mulai Google Colab
|
Gambar 1. Antarmuka pengguna LIT: Editor Titik Data di bagian atas memungkinkan pengguna mengedit perintah mereka. Di bagian bawah, modul salience LM memungkinkan mereka untuk memeriksa hasil saliency.
Anda dapat menggunakan LIT di komputer lokal, di Colab, atau di Google Cloud.
Menyertakan tim non-teknis dalam eksplorasi dan pemeriksaan model
Interpretabilitas dimaksudkan sebagai upaya tim, yang mencakup keahlian di seluruh kebijakan, hukum, dan lainnya. Media visual dan kemampuan interaktif LIT untuk memeriksa salience dan mengeksplorasi contoh-contoh dapat membantu pemangku kepentingan yang berbeda berbagi dan mengkomunikasikan temuan. Pendekatan ini dapat memungkinkan keragaman perspektif yang lebih eksplorasi, pemeriksaan, dan proses debug model. Memperkenalkan rekan tim Anda ke metode teknis ini dapat meningkatkan pemahaman mereka tentang cara kerja model. Di beberapa Selain itu, keahlian yang lebih beragam dalam pengujian model awal juga dapat membantu mengungkap hasil yang tidak diinginkan yang dapat ditingkatkan.