인공지능 (AI) 적용에 대한 책임감 있는 접근 방식에는 다음이 포함되어야 합니다. 안전 정책 투명성 아티팩트 및 보호 조치이지만 AI에 대한 책임감은 살펴봤습니다
생성형 AI 제품은 비교적 새롭고 애플리케이션의 동작은 이전 형태의 소프트웨어보다 더 다양할 수 있습니다. 따라서 모델 동작의 예를 검토하고 놀라움을 금치 못합니다.
프롬프트는 생성형 AI와 상호작용하는 보편적인 인터페이스이며 이러한 프롬프트를 설계하는 것은 과학이자 예술입니다. 하지만 학습 해석 가능성 도구(LIT)와 같이 LLM의 프롬프트를 경험적으로 개선하는 데 도움이 되는 도구가 있습니다. LIT는 오픈소스 AI 모델을 시각적으로 이해하고 디버깅할 수 있는 도구인 프롬프트 엔지니어링 작업을 위한 디버거 다음 제공된 튜토리얼에서 Colab 또는 Codelab을 사용합니다.
LIT로 Gemma 모델 분석하기
 Codelab 시작하기
|
 Google Colab 시작
|
그림 1. LIT의 사용자 인터페이스: 상단의 데이터 포인트 편집기를 사용하면 사용자가 프롬프트를 수정할 수 있습니다. 하단의 LM Salience 모듈은 현저도 결과를 확인합니다
LIT는 로컬 머신, Colab 또는 Google Cloud에서 사용할 수 있습니다.
모델 프로빙 및 탐색 분석에 비기술팀 포함
해석 가능성은 정책, 법률 등 다양한 전문성을 아우르는 팀의 노력을 통해 이루어져야 합니다. LIT의 시각적 매체와 상호작용 기능을 통해 사례를 살펴보고 다양한 이해관계자가 공유하고 발견한 내용을 전달할 수 있습니다 이러한 접근 방식은 모델 탐색, 프로브, 디버깅이 포함됩니다. 이러한 기술적 방법을 동료에게 소개하면 모델의 작동 방식에 대한 이해를 높일 수 있습니다. 또한 초기 모델 테스트에 관한 더 다양한 전문 지식을 활용하면 개선할 수 있는 바람직하지 않은 결과를 파악하는 데도 도움이 됩니다.