Laravel OpenRouter: нові можливості для розробників

Пакет OpenRouter для Laravel спрощує інтеграцію OpenRouter у ваші Laravel-застосунки. OpenRouter — це єдиний інтерфейс для моделей великого мовлення (LLMs), що дозволяє взаємодіяти з різними штучними інтелектами через єдине API.

// Ваш запит або вміст
$content = 'Розкажи мені історію про бунтівний ІІ, який закохався у свого творця.';
 
// Модель OpenRouter, яку ви хочете використати (https://openrouter.ai/docs#models)
$model = 'mistralai/mistral-7b-instruct:free';
 
$messageData = []; // Інформація про повідомлення
 
$chatData = new ChatData(
    messages: [
        new MessageData(
            content: $content,
            role: RoleType::USER,
        ),
    ],
    model: $model,
    max_tokens: 100, // Підкоригуйте це значення за потреби
);
 
$chatResponse = LaravelOpenRouter::chatRequest($chatData);

У наведеному прикладі використано фасад LaravelOpenRouter, але пакет також підтримує потокові запити чату. Використовуючи Потокові відповіді Laravel, ви можете створювати фронтенди для будь-якого LLM, який надає OpenRouter.

$promise = LaravelOpenRouter::chatStreamRequest($chatData);
$stream = $promise->wait(); // $stream має тип GuzzleHttp\Psr7\Stream
 
while (! $stream->eof()) {
    $rawResponse = $stream->read(1024);
 
    /*
     * За бажанням ви можете використати filterStreamingResponse для обробки сирого потокового відгуку та відобразити його в масив об'єктів responseData, аналогічному формату відповіді chatRequest.
     */
    $response = LaravelOpenRouter::filterStreamingResponse($rawResponse);
}

Дізнайтеся більше про цей пакет, отримайте повні інструкції з установки та перегляньте початковий код на GitHub. Щоб ознайомитися з OpenRouter, перегляньте Швидкий старт OpenRouter.

Щоб встановити цей пакет, виконайте наступні команди:

composer require moe-mizrak/laravel-openrouter
php artisan vendor:publish --tag=laravel-openrouter