Перейти к содержанию

Azure OpenAI

Используйте модели OpenAI, размещённые в Azure, с префиксом azure:. Это позволяет работать с теми же моделями OpenAI, но через корпоративную инфраструктуру Azure, что может быть необходимо для соблюдения требований безопасности и комплаенса.

Настройка

Для подключения к Azure OpenAI необходимо задать три переменные окружения:

export AZURE_OPENAI_API_KEY="..."
export AZURE_OPENAI_ENDPOINT="https://your-resource.openai.azure.com"
export AZURE_OPENAI_DEPLOYMENT="your-deployment-name"
  • AZURE_OPENAI_API_KEY -- ваш ключ доступа к ресурсу Azure OpenAI
  • AZURE_OPENAI_ENDPOINT -- URL эндпоинта вашего ресурса Azure OpenAI
  • AZURE_OPENAI_DEPLOYMENT -- имя деплоймента модели в Azure

Использование

from eval_lib import AnswerRelevancyMetric

metric = AnswerRelevancyMetric(model="azure:gpt-4o", threshold=0.7)

Примечания

  • Имя модели после azure: должно соответствовать конфигурации вашего деплоймента в Azure
  • Эндпоинты Azure должны быть доступны из вашей среды выполнения
  • Все стандартные метрики работают с Azure OpenAI без каких-либо модификаций
  • Azure OpenAI особенно полезен для организаций, которым необходимо хранить данные в определённых регионах или соблюдать корпоративные политики безопасности