Azure OpenAI¶
Используйте модели OpenAI, размещённые в Azure, с префиксом azure:. Это позволяет работать с теми же моделями OpenAI, но через корпоративную инфраструктуру Azure, что может быть необходимо для соблюдения требований безопасности и комплаенса.
Настройка¶
Для подключения к Azure OpenAI необходимо задать три переменные окружения:
export AZURE_OPENAI_API_KEY="..."
export AZURE_OPENAI_ENDPOINT="https://your-resource.openai.azure.com"
export AZURE_OPENAI_DEPLOYMENT="your-deployment-name"
AZURE_OPENAI_API_KEY-- ваш ключ доступа к ресурсу Azure OpenAIAZURE_OPENAI_ENDPOINT-- URL эндпоинта вашего ресурса Azure OpenAIAZURE_OPENAI_DEPLOYMENT-- имя деплоймента модели в Azure
Использование¶
from eval_lib import AnswerRelevancyMetric
metric = AnswerRelevancyMetric(model="azure:gpt-4o", threshold=0.7)
Примечания¶
- Имя модели после
azure:должно соответствовать конфигурации вашего деплоймента в Azure - Эндпоинты Azure должны быть доступны из вашей среды выполнения
- Все стандартные метрики работают с Azure OpenAI без каких-либо модификаций
- Azure OpenAI особенно полезен для организаций, которым необходимо хранить данные в определённых регионах или соблюдать корпоративные политики безопасности