LangChain — это мощная библиотека для разработки приложений на основе языковых моделей. В этой статье мы рассмотрим, как подключить OpenRouter к LangChain на Python, чтобы использовать множество нейросетей через единый API.

Шаг 1: Установка необходимых библиотек

Для начала убедитесь, что у вас установлен Python. Затем установите библиотеку LangChain и requests, если они еще не установлены. Выполните следующую команду:

pip install langchain requests

Шаг 2: Получение API-ключа

Перед тем как продолжить, вам нужно получить API-ключ для OpenRouter. Перейдите в ваш аккаунт на OpenRouter, зайдите в раздел Keys и скопируйте ваш ключ. Он будет в формате sk-or-v1-....

Шаг 3: Настройка базового URL

OpenRouter использует базовый URL для API запросов. В нашем случае это https://openrouter.ai/api/v1. Мы будем использовать этот адрес при настройке клиента LangChain.

Шаг 4: Настройка LangChain для использования OpenRouter

Теперь мы готовы настроить LangChain для использования OpenRouter. Вот пример кода для выполнения этой задачи:

from langchain import OpenAI
from langchain.llms import OpenAI as LangChainOpenAI

api_key = "<ваш_API_ключ>"
base_url = "https://openrouter.ai/api/v1"

llm = LangChainOpenAI(
    api_key=api_key,
    base_url=base_url,
    model="openai/gpt-4o-mini"
)

response = llm("Какой сегодня день?")
print(response)

Замените <ваш_API_ключ> на ваш реальный API-ключ. В этом примере мы используем модель openai/gpt-4o-mini, но вы можете выбрать любую другую модель, доступную через OpenRouter.

Шаг 5: Выполнение запросов

Теперь вы можете выполнять запросы к вашей модели. Пример выше демонстрирует, как получить ответ на вопрос о текущем дне. Вы можете адаптировать код под свои нужды, меняя текст запроса.

Не забудьте, что в случае, если у вас закончится баланс на OpenRouter, вы получите ошибку 402 insufficient credits. Следите за своим балансом и пополняйте его при необходимости через сервисы, поддерживающие оплату за рубли.

Шаг 6: Дополнительные возможности

LangChain предлагает множество функций для работы с языковыми моделями, включая управление контекстом, создание цепочек и интеграцию с другими источниками данных. Исследуйте документацию LangChain для более глубокого понимания возможностей библиотеки.

Если вам нужно больше информации о работе с OpenRouter, посетите официальный сайт OpenRouter.

Итог: Подключение OpenRouter к LangChain — это простой и эффективный способ расширить функционал ваших приложений, использующих языковые модели. Используйте приведенные выше шаги для интеграции и экспериментируйте с различными моделями.

Закончились кредиты? Пополните баланс OpenRouter за рубли — картой РФ или через СБП, зачисление автоматическое за пару минут. Пополнить OpenRouter →