NexusGenAI

Działanie

Moja aplikacja NexusGenAI to platforma, która ułatwia zarządzanie wszystkimi dostępnymi promptami LLM. Ja i wielu programistów używamy LLM do różnych zadań. Możemy mieć przypadki użycia zewnętrznego, które są skierowane do klientów, przypadki użycia wewnętrznego, które wymagają dostępu do dokumentów, oraz przypadki użycia osobistego na potrzeby rozrywki. Moja aplikacja ułatwia zarządzanie wszystkimi tymi modelami.

Co ważniejsze, dzięki konkursowi Google Gemini rozszerzyłem moją platformę i przekształciłem ją w ramy oceny i optymalizacji dużych modeli językowych. Użyłem interfejsu Gemini API, aby ułatwić automatyczne tworzenie promptów za pomocą algorytmu opartego na genetycznej optymalizacji z użyciem dużych modeli językowych.

To ogromna pomoc dla wszystkich, którzy tworzą aplikacje wykorzystujące duże modele językowe. Dzięki temu możesz poświęcić mniej czasu na ręczne tworzenie promptów, a więcej na opracowanie przypadków użycia dla użytkowników. Mój framework działa dobrze nawet przy stosunkowo niewielkich próbach (~40).

Interfejs Gemini API jest używany jako jeden z modeli promptu i podczas całego procesu optymalizacji.