Utworzenie promptu dla modelu sztucznej inteligencji (AI), takiego jak Gemini lub To proste zadanie. Często musisz napisać prompt ręcznie, a potem przetestować go w różnych przypadkach użycia, aby upewnić się, że spełnia Twoje potrzeby. Na podstawie wyników możesz wprowadzić w prompcie odpowiednie zmiany: zmienić niektóre słowa w jednym miejscu, dodać nowe zdanie w innym. Ten proces nie ma szczególnych zasad i może nie prowadzić do najlepszych wyników.
Google opracowało metodę, która wykorzystuje duże modele językowe do automatycznego aktualizowania szablonu promptu na podstawie informacji zwrotnych dotyczących danych wyjściowych modelu w prostym języku. Twoja opinia wraz z promptem i wynikiem modelu jest wysyłana do LLM, który aktualizuje prompt, aby lepiej dopasować go do Twoich oczekiwań.
Ta metoda jest dostępna na 2 sposoby:
- Biblioteka Pythona
model-alignmentopen source umożliwia elastyczne stosowanie tego podejścia w oprogramowaniu i przepływach pracy. - Wersja tego podejścia jest zintegrowana z Vertex AI Studio, dzięki czemu możesz korzystać z tego procesu za pomocą kilku kliknięć.
Biblioteka open source
Model Alignment to biblioteka Pythona typu open source, która została wydana jako pakiet w PyPI. Umożliwia ona dopasowanie promptów do opinii użytkowników za pomocą interfejsu API. Biblioteka opiera się na naszych badaniach dotyczących aktualizowania promptów na podstawie opinii użytkowników i automatycznego tworzenia klasyfikatora na podstawie danych z oznaczeniem.
Wyselekcjonowanie szablonów promptów dla Gemma za pomocą biblioteki wyrównania modelu
 Uruchom Google Colab
|
Ta biblioteka obsługuje 2 metody automatycznego aktualizowania szablonów promptów:
- Zmiany na podstawie zasad. Ten proces wykorzystuje model LLM do wyodrębnienia wytycznych na podstawie pośrednich krytycznych opinii na temat danych wyjściowych modelu lub bezpośrednich zmian w tych danych. Dostępne opcje iteracyjne utworzenie co najmniej 1 wytycznych przed wysłaniem ich do LLM, który zaktualizuje szablon prompta tak, aby był zgodny z tymi wytycznymi. Możesz też samodzielnie wybrać wytyczne i umieścić je obok tych wygenerowanych przez LLM.
- Bezpośrednia krytyka wyników modelu. Ten proces wymaga Twojej opinii o wszystkich danych wyjściowych modelu, a następnie dostarcza je wraz z promptem i modelem dane wyjściowe bezpośrednio do LLM w celu wygenerowania zaktualizowanego szablonu promptu.
Oba te procesy mogą być przydatne w Twojej aplikacji. Najważniejszym kompromisem jest obecność wytycznych, które mogą być przydatnym, konkretnym artefaktem procesu, który może pomóc w określaniu na przykład podejścia do przejrzystości.
Rysunek 1. Ten schemat blokowy pokazuje, gdzie i jak dwa wyrównanie modelu przepływy pracy w bibliotece różnią się, co pozwala na oparte na wytycznych lub bezpośrednie aktualizacje szablonów promptów. Pamiętaj, że ten proces jest iteracyjny, a opisane ścieżki nie wykluczają się wzajemnie – możesz je w dowolnym momencie przełączać.
Zapoznaj się z notatnikiem Colab, który korzysta z Gemini, aby: wyrównują prompty w Gemma 2 w obu przepływach pracy.
Wyrównywanie w Vertex AI Studio
Do Vertex AI Studio Google dodano funkcję „ulepszania promptu”, która opiera się na ścieżce bezpośredniej z biblioteki open source Model Alignment. Ma ona uzupełniać narzędzia do tworzenia, uruchamiania, oceny i porównywania promptów.
Po uruchomieniu promptu możesz przesłać opinię na temat sposobów, w jaki model powinien się zachowywać, a Vertex AI Studio użyje Gemini do stworzenia wersji poprawionej. Możesz zaakceptować zaproponowane zmiany i ponownie uruchomić zaktualizowany prompt, klikając przycisk, lub zaktualizować opinię i poprosić Gemini o wygenerowanie kolejnego kandydata.
Rysunek 2. „Sprecyzuj prompt” funkcji Vertex AI Studio używanej do zaktualizować prompt na podstawie opinii użytkowników.
Linki
Dowiedz się więcej o dopasowywaniu modeli:
- Uruchom ten notatnik Colab, który używa Gemini do dopasowywania różnych promptów do naszego modelu Gemma 2 z otwartymi wagami, korzystając z obu metod dopasowywania.
- Wypróbuj polecenie „Sprecyzuj prompt” funkcja wyrównywania modelu w Vertex AI Studio