Перейти к содержанию

OpenAI

OpenAI является провайдером по умолчанию. Модели доступны без префикса или с префиксом openai:.

Настройка

Установите переменную окружения с вашим API-ключом:

export OPENAI_API_KEY="sk-..."

Доступные модели

Модель Назначение
gpt-4o Лучшее качество, рекомендуется для оценок
gpt-4o-mini Быстрая и дешёвая альтернатива
gpt-4 Предыдущее поколение
gpt-3.5-turbo Быстрая и дешёвая, более низкое качество
o1 Модель с рассуждением (reasoning)
o3-mini Малая модель с рассуждением

Модели эмбеддингов

Модель Размерность
text-embedding-3-small 1536
text-embedding-3-large 3072

Использование

from eval_lib import AnswerRelevancyMetric

# Both are equivalent
metric = AnswerRelevancyMetric(model="gpt-4o", threshold=0.7)
metric = AnswerRelevancyMetric(model="openai:gpt-4o", threshold=0.7)

Оба варианта эквивалентны, поскольку OpenAI используется как провайдер по умолчанию.

Прямые вызовы API

from eval_lib import chat_complete, get_embeddings

# Chat
response, cost = await chat_complete(
    llm="gpt-4o",
    messages=[{"role": "user", "content": "Hello!"}],
    temperature=0.0
)

# Embeddings
embeddings, cost = await get_embeddings(
    model="openai:text-embedding-3-small",
    texts=["Hello world"]
)