# WESP + llama-server: дочерний процесс из run.py (WESP_LLM_AUTOSTART=1). # Запуск из корня репозитория: # powershell -ExecutionPolicy Bypass -File .\start_chat.ps1 # # Нужны: data/assistant/models/*.gguf и tools/llama-server.exe + DLLs # (install\assistant\download_model.ps1, sync_llama_tools.ps1 или download_llama_server.ps1) $ErrorActionPreference = "Stop" $repoRoot = $PSScriptRoot if (-not $repoRoot) { $repoRoot = (Get-Location).Path } # API LLM и автозапуск llama-server по умолчанию включены в config (см. config.py, local_llm_autostart.py). $env:WESP_LLM_BASE_URL = if ($env:WESP_LLM_BASE_URL) { $env:WESP_LLM_BASE_URL } else { "http://127.0.0.1:8080" } $env:WESP_LLM_MODEL = if ($env:WESP_LLM_MODEL) { $env:WESP_LLM_MODEL } else { "qwen2.5-1.5b-instruct-q5_k_m.gguf" } Set-Location $repoRoot Write-Host "Starting WESP + llama-server (autostart). http://127.0.0.1:5000 — админка, LLM чат." -ForegroundColor Green Write-Host "Нужны: data/assistant/models/*.gguf и tools/llama-server.exe (или LLAMA_SERVER)." -ForegroundColor DarkGray python run.py