NexusGenAI
Una plataforma para administrar, evaluar y optimizar las instrucciones de LLM
Qué hace
Mi app, NexusGenAI, es una plataforma que facilita la administración de todas las diferentes instrucciones de LLM que se puedan tener. Por ejemplo, yo y muchos desarrolladores usamos LLM para diferentes tareas. Es posible que tengamos casos de uso externos para los clientes, casos de uso internos que requieren acceso a documentos y casos de uso personales por diversión. Mi app facilita la administración de todos ellos.
Más importante aún, gracias a la competencia de Google Gemini, mejoré mi plataforma y la transformé en un marco de trabajo de evaluación y optimización para modelos de lenguaje extensos. Usé la API de Gemini para facilitar la ingeniería de instrucciones automatizada con un algoritmo inspirado en la optimización genética con modelos de lenguaje grandes.
Esto es MUY útil para cualquier persona que desarrolle aplicaciones de LLM. Se puede dedicar menos tiempo a la ingeniería de instrucciones manuales y más tiempo a desarrollar casos de uso para el usuario final. Mi marco de trabajo funciona bien incluso con tamaños de muestra relativamente pequeños (~40).
La API de Gemini se usa como uno de los modelos de la instrucción y se usa durante todo el proceso de optimización.
Con la tecnología de
- Web/Chrome
Equipo
De
StarksTech
De
Estados Unidos