人工知能（AI）を適用する責任あるアプローチには、安全性に関するポリシー、透明性に関するアーティファクト、安全保護対策が含まれますが、AI を責任を持って使用することは、チェックリストに従う以上のことです。
生成 AI プロダクトは比較的新しく、アプリケーションの動作はさまざまである可能性がある はるかに優れています。このため、 モデルの動作の例を調べ、 驚き。
プロンプトは、生成 AI を操作するためのユビキタスなインターフェースです。これらのプロンプトをエンジニアリングすることは、科学的であると同時に芸術的です。ただし、Learning Interpretability Tool（LIT）など、LLM のプロンプトを経験的に改善できるツールもあります。LIT は、AI モデルを視覚的に理解してデバッグするためのオープンソース ツールです。迅速なエンジニアリング作業のためのデバッガとして使用できます。前のステップで 提供されているチュートリアルをご覧ください。
LIT で Gemma モデルを分析する
 Codelab を開始する
|
 Google Colab を起動する
|
図 1. LIT のユーザー インターフェース: 上部にある [Datapoint Editor] で プロンプトを編集することもできます。下部にある LM Salience モジュールでは、saliency の結果を確認できます。
LIT は、ローカルマシンで使用できます。 Colab または Google Cloud。
モデルのプローブと探索に技術チーム以外のチームを含める
解釈可能性は、チームの取り組みとして、 多岐にわたります。LIT の視覚的な媒体とインタラクティブな機能 顕著な傾向とデータ探索の例は、さまざまな関係者が 分析できます。このアプローチにより、モデルの探索、プローブ、デバッグでさまざまな視点が可能になります。チームメイトにこれらの技術的な方法を公開することで、モデルの仕組みを理解しやすくなります。また、初期モデルのテストでより多様な専門知識を活用することで、改善が必要な望ましくない結果を特定することもできます。