NexusGenAI

O que faz?

Meu app, o NexusGenAI, é uma plataforma que facilita o gerenciamento de todos os diferentes comandos de LLM que alguém pode ter. Por exemplo, eu e muitos desenvolvedores usamos LLMs para tarefas diferentes. Podemos ter casos de uso externos voltados ao cliente, casos de uso internos que exigem acesso a documentos e casos de uso pessoais para diversão. Meu app simplifica o gerenciamento de todos eles.

Além disso, devido à competição do Google Gemini, aprimorei minha plataforma e a transformei em um framework de avaliação e otimização para modelos de linguagem grandes. Usei a API Gemini para facilitar a engenharia automatizada de comandos usando um algoritmo inspirado na otimização genética com modelos de linguagem grandes.

Isso é ENORME para quem desenvolve aplicativos de LLM. É possível gastar menos tempo realizando a engenharia manual de comandos e mais tempo desenvolvendo casos de uso para o usuário final. Meu framework funciona bem mesmo com tamanhos de amostra relativamente pequenos (~40).

A API Gemini é usada como um dos modelos para o comando e é usada durante todo o processo de otimização.