A documentação é um método fundamental para alcançar a transparência para desenvolvedores, governos, agentes de políticas e usuários finais do seu produto. Isso envolve o lançamento de relatórios técnicos detalhados ou cartões de modelo, dados e sistema que tornam adequadamente informações públicas essenciais com base na segurança e em outras avaliações do modelo. Os artefatos de transparência são mais do que veículos de comunicação. Eles também oferecem orientações para pesquisadores de IA, implantadores e desenvolvedores downstream sobre o uso responsável do modelo. As informações também são úteis para usuários finais do produto que querem entender detalhes sobre o modelo.
Algumas diretrizes de transparência a serem consideradas:
- Deixe claro para os usuários quando eles estiverem interagindo com uma tecnologia experimental de IA generativa e destaque a possibilidade de um comportamento inesperado do modelo.
- Oferecer documentação completa sobre como o serviço ou produto de IA generativa funciona usando uma linguagem compreensível. Considere publicar artefatos de transparência estruturados, como cards de modelo. Esses cards fornecem o uso pretendido do seu modelo e resumem as avaliações que foram realizadas durante o desenvolvimento do modelo.
- Mostre às pessoas como elas podem enviar feedback e como estão no controle, por exemplo:
- Disponibilizar mecanismos para ajudar os usuários a validar perguntas baseadas em fatos
- Ícones "Gostei" e "Não gostei" para feedback do usuário
- Links para relatar problemas e oferecer suporte para resposta rápida ao feedback do usuário
- Controle do usuário para armazenar ou excluir a atividade do usuário
Recursos para desenvolvedores
Não há um modelo único para artefatos de transparência em todo o setor, mas os cards de modelo atuais podem servir como ponto de partida para criar seu próprio:
- Card de modelo da Gemma
- modelo de card do modelo do cartão de modelo original
- Cards de modelo das APIs do Google Cloud
Referências
- Cards de modelo para relatórios de modelo
- Cards de modelo
- Cards de dados: documentação de conjunto de dados significativa e transparente para IA responsável
- Manual de cards de dados
- Bard com uma placa do sistema Gemini Pro especificamente ajustada
- Recursos do Fórum de modelos do Frontier sobre red team (em inglês)