Эта страница переведена с помощью Cloud Translation API.

Инструментарий ответственного генеративного искусственного интеллекта

Инструменты и рекомендации для ответственного проектирования, создания и оценки открытых моделей ИИ.

Ответственный дизайн приложения

Определите правила поведения модели, создайте безопасное и подотчетное приложение и поддерживайте прозрачное общение с пользователями.

Безопасное выравнивание

Откройте для себя методы оперативной отладки и рекомендации по точной настройке и RLHF для согласования моделей ИИ с политиками безопасности.

Оценка модели

Найдите рекомендации и данные для проведения надежной оценки модели на предмет безопасности, справедливости и достоверности с помощью LLM Comparator.

Гарантии

Развертывайте классификаторы безопасности, используя готовые решения, или создавайте свои собственные с помощью пошаговых руководств.

Создайте ответственный подход

Заблаговременно выявите потенциальные риски вашего приложения и определите подход на уровне системы для создания безопасных и ответственных приложений для пользователей.

Начать

Определение политик системного уровня

Определите, какой тип контента должно и не должно создавать ваше приложение.

Дизайн для безопасности

Определите свой общий подход к внедрению методов снижения рисков, принимая во внимание технические и деловые компромиссы.

Узнать больше

Будьте прозрачными

Сообщите о своем подходе с помощью таких артефактов, как карточки-модели.

См. шаблоны

Безопасные системы искусственного интеллекта

Рассмотрите риски безопасности, связанные с ИИ, и методы их устранения, описанные в Secure AI Framework (SAIF).

Выровняйте свою модель

Приведите свою модель в соответствие с конкретной политикой безопасности, используя методы подсказок и настройки.

Начать

Изучите подсказки модели

Создавайте безопасные и полезные подсказки посредством итеративного улучшения с помощью инструмента интерпретации обучения (LIT).

Настройте модели для обеспечения безопасности

Управляйте поведением модели, настраивая ее в соответствии с вашими политиками безопасности и контента.

Оцените свою модель

Оцените риски модели с точки зрения безопасности, справедливости и фактической точности, используя наши рекомендации и инструменты.

Начать

LLM Компаратор

Проводите параллельные оценки с помощью LLM Comparator, чтобы качественно оценить различия в ответах между моделями, разные подсказки для одной и той же модели или даже разные настройки модели.

Рекомендации по оценке модели

Узнайте о лучших практиках создания красной команды и оцените свою модель по академическим критериям, чтобы оценить вред, связанный с безопасностью, справедливостью и фактологией.

Защитите с помощью гарантий

Фильтруйте входные и выходные данные вашего приложения и защищайте пользователей от нежелательных результатов.

Начать

ЩитДжемма

Серия классификаторов безопасности контента, построенных на Gemma 2, доступных в трех размерах: 2B, 9B, 27B.

Классификаторы безопасности контента ShieldGemma

Гибкие классификаторы

Создавайте классификаторы безопасности для ваших конкретных политик, используя эффективную настройку параметров (PET) с относительно небольшим количеством обучающих данных.

Создайте классификаторы безопасности

Служба модерации текста

Определите список атрибутов безопасности, включая различные потенциально опасные категории и темы, которые могут считаться конфиденциальными, с помощью этого API Google Cloud Natural Language, доступного бесплатно при достижении определенного лимита использования.

Перспективный API

Выявляйте «ядовитые» комментарии с помощью этого бесплатного API Google Jigsaw, чтобы снизить токсичность в Интернете и обеспечить здоровый диалог.

Перспективный API