20 lines
1.1 KiB
PowerShell
20 lines
1.1 KiB
PowerShell
# WESP + llama-server: дочерний процесс из run.py (WESP_LLM_AUTOSTART=1).
|
|
# Запуск из корня репозитория:
|
|
# powershell -ExecutionPolicy Bypass -File .\start_chat.ps1
|
|
#
|
|
# Нужны: data/assistant/models/*.gguf и tools/llama-server.exe + DLLs
|
|
# (install\assistant\download_model.ps1, sync_llama_tools.ps1 или download_llama_server.ps1)
|
|
|
|
$ErrorActionPreference = "Stop"
|
|
$repoRoot = $PSScriptRoot
|
|
if (-not $repoRoot) { $repoRoot = (Get-Location).Path }
|
|
|
|
# API LLM и автозапуск llama-server по умолчанию включены в config (см. config.py, local_llm_autostart.py).
|
|
$env:WESP_LLM_BASE_URL = if ($env:WESP_LLM_BASE_URL) { $env:WESP_LLM_BASE_URL } else { "http://127.0.0.1:8080" }
|
|
$env:WESP_LLM_MODEL = if ($env:WESP_LLM_MODEL) { $env:WESP_LLM_MODEL } else { "qwen2.5-1.5b-instruct-q5_k_m.gguf" }
|
|
|
|
Set-Location $repoRoot
|
|
Write-Host "Starting WESP + llama-server (autostart). http://127.0.0.1:5000 — админка, LLM чат." -ForegroundColor Green
|
|
Write-Host "Нужны: data/assistant/models/*.gguf и tools/llama-server.exe (или LLAMA_SERVER)." -ForegroundColor DarkGray
|
|
python run.py
|