@@ -0,0 +1,19 @@
|
||||
# WESP + llama-server: дочерний процесс из run.py (WESP_LLM_AUTOSTART=1).
|
||||
# Запуск из корня репозитория:
|
||||
# powershell -ExecutionPolicy Bypass -File .\start_chat.ps1
|
||||
#
|
||||
# Нужны: data/assistant/models/*.gguf и tools/llama-server.exe + DLLs
|
||||
# (install\assistant\download_model.ps1, sync_llama_tools.ps1 или download_llama_server.ps1)
|
||||
|
||||
$ErrorActionPreference = "Stop"
|
||||
$repoRoot = $PSScriptRoot
|
||||
if (-not $repoRoot) { $repoRoot = (Get-Location).Path }
|
||||
|
||||
# API LLM и автозапуск llama-server по умолчанию включены в config (см. config.py, local_llm_autostart.py).
|
||||
$env:WESP_LLM_BASE_URL = if ($env:WESP_LLM_BASE_URL) { $env:WESP_LLM_BASE_URL } else { "http://127.0.0.1:8080" }
|
||||
$env:WESP_LLM_MODEL = if ($env:WESP_LLM_MODEL) { $env:WESP_LLM_MODEL } else { "qwen2.5-1.5b-instruct-q5_k_m.gguf" }
|
||||
|
||||
Set-Location $repoRoot
|
||||
Write-Host "Starting WESP + llama-server (autostart). http://127.0.0.1:5000 — админка, LLM чат." -ForegroundColor Green
|
||||
Write-Host "Нужны: data/assistant/models/*.gguf и tools/llama-server.exe (или LLAMA_SERVER)." -ForegroundColor DarkGray
|
||||
python run.py
|
||||
Reference in New Issue
Block a user