truenas:application:strata_qwen_goose []

Эта страница только для чтения. Вы можете посмотреть её исходный текст, но не можете его изменить. Сообщите администратору, если считаете, что это неправильно.
====== Локальная LLM: Qwen3.8-Flash-Next на движке Strata + Goose Desktop (Windows) ======

===== Введение =====

Инструкция описывает, как развернуть на домашнем ПК с Windows локальную модель **Qwen3.8-Flash-Next** на движке **Strata** (OpenAI-совместимый API) и подключить её к AI-агенту **Goose Desktop**, а затем настроить русский язык и MCP-расширения для кодинга (Developer, Playwright).

Всё описанное ниже было выполнено и проверено на реальной машине. Ошибки, на которые пришлось наткнуться, вынесены в раздел «Проблемы и решения».

Развёртывание на отдельном сервере с доступом по сети описано на странице [[:truenas:application:strata_qwen_server|Strata + Qwen на сервере и подключение клиентов по IP]].

===== Конфигурация, на которой проверялось =====

^ Компонент ^ Значение ^
| ОС | Windows 11 Pro (26200), PowerShell 5.1 |
| GPU | NVIDIA GeForce RTX 4080, 16 GB VRAM, драйвер 610.88 |
| CPU | Intel Core i9-9900KF (AVX2) |
| RAM | 64 GB |
| PCIe | 3.0 x16 |
| Strata Terminal / движок | 0.1.59 (''windows-x86_64-cuda-cuda13'') |
| Модель | Qwen3.8-Flash-Next **IQ3_S**, 84 GB, контекст 128K |
| Goose Desktop | 1.51.0 |
| Node.js | 24.x (для Playwright MCP) |

===== Требования =====

  * Видеокарта NVIDIA RTX 20/30/40/50 (или AMD) и актуальный драйвер.
  * Оперативная память: для IQ3_S — 64 GB (модель занимает ~50 GB RAM + почти всю VRAM). Для ПК поменьше см. «Шаг 2: Выбор типа квантования».
  * Свободное место на диске: ~85 GB под модель + ~1 GB под движок и drafter.
  * Установленный Goose Desktop.
  * Node.js (''node'', ''npx'' в PATH) — только для Playwright MCP.
  * Свободный TCP-порт. **Порт 8080 (по умолчанию у Strata) часто занят** (у нас его держал Docker-контейнер Jira в WSL), поэтому в инструкции используется **8081**.

===== Шаг 1: Установка Strata =====

Официальная команда установки:

<code powershell>
irm https://github.com/Niko1221/Strata/releases/latest/download/install.ps1 | iex
</code>

Рекомендуется сначала скачать скрипт и прочитать его, а потом запустить локальную копию:

<code powershell>
Invoke-WebRequest -UseBasicParsing https://github.com/Niko1221/Strata/releases/latest/download/install.ps1 -OutFile install.ps1
notepad install.ps1
.\install.ps1
</code>

Что делает установщик:
  - скачивает архив Strata Terminal (~70 MB) и сверяет его SHA-256;
  - распаковывает в ''%LOCALAPPDATA%\Strata\terminal\<версия>'' (права администратора не нужны);
  - проверяет подпись релиза;
  - добавляет ''%LOCALAPPDATA%\Strata\terminal\current\bin'' в пользовательский PATH.

Ожидаемый вывод:

<code>
Strata Terminal installer
  This computer: Windows AMD64 (windows-x86_64), graphics: NVIDIA GeForce RTX 4080
  Terminal 0.1.59 (70 MB)
  Checksum ok.
  Signature ok.
Installed. Run: strata launch
</code>

**После установки откройте новое окно терминала**, иначе команда ''strata'' не будет найдена. Если не находится — используйте полный путь:

<code powershell>
& "$env:LOCALAPPDATA\Strata\terminal\current\bin\strata.cmd" --version
</code>

===== Шаг 2: Выбор типа квантования =====

Strata сама скачивает модель нужного размера из своего каталога. Размер задаётся ключом ''--model'', семейство — ''--family''. Чем меньше бит на вес, тем меньше нужно памяти и тем быстрее модель, но ниже качество ответов.

==== Что умеет Strata: семейства и кванты ====

  * ''--family qwen'' (по умолчанию) — официальные кванты Qwen3.8-Flash-Next: ''q2_0'', ''iq2_xs'', ''iq3_xxs'', ''iq3_s'', ''iq1_m''.
  * ''--family unsloth'' — кванты Unsloth той же модели: от ''ud-iq1_m'' до ''q8_0''.
  * ''--family swift'' — дообученная Swift 1.5 (на базе Qwen3.8-Flash-Next), те же размеры.
  * ''--family coder'' — вариант для кода.
  * ''--family gyro'' (''Gyro-S'', ''Gyro-M'') и ''--family nvfp4'' (''NVFP4'', ''NVFP4-NVIDIA'', ''NVFP4-QAD'') — альтернативные сжатые версии.
  * ''--family qwen36'' — Qwen3.6-35B-A3B: модель поменьше, умеет картинки и несколько запросов одновременно.
  * ''--family deepseek41'' — DeepSeek-V4.1-Flash: 1.75 / 2.00 / 2.25 bpw = 239 / 257 / 274 GB, ''UD-Q8_K_XL'' = 508 GB.

Чем меньше бит на вес — тем меньше памяти и быстрее генерация, но ниже качество. Чем больше квант — тем больше байт нужно прочитать из RAM на каждый токен, поэтому на одном и том же ПК крупный квант генерирует **медленнее**.

==== Какие модели можно развернуть на моём ПК сейчас ====

Конфигурация: RTX 4080 **16 GB VRAM** + **64 GB RAM** DDR4-3600 (2×32 GB) = **80 GB** RAM+VRAM, i9-9900KF, PCIe 3.0, плата ASUS TUF Z390-PLUS GAMING (WI-FI).

Оценку даёт сама Strata командой, которая только проверяет ПК и ничего не устанавливает:

<code powershell>
strata install -- --check --family unsloth
</code>

Столбец «Нужно RAM+VRAM» — оценка Strata; «Скачать» — по ''strata launch --plan''. **fits** — Strata считает, что помещается; **медленнее** — Strata предупреждает «may run slower» (часть модели будет читаться с диска).

^ Модель ^ Скачать ^ Нужно RAM+VRAM ^ Сейчас (64 GB RAM, 80 GB всего) ^ После +64 GB RAM (144 GB) ^ Команда запуска ^ Комментарий ^
| qwen / ''iq1_m'' | — | ~30 GB | fits | fits | ''strata launch --family qwen --model iq1_m --vision off --port 8081 --no-tui --yes --save-preset "iq1_m 8081"'' | самый маленький, качество заметно ниже |
| gyro / ''Gyro-S'' | — | ~28 GB | fits | fits | ''strata launch --family gyro --model Gyro-S --vision off --port 8081 --no-tui --yes --save-preset "Gyro-S 8081"'' |  |
| gyro / ''Gyro-M'' | — | ~35 GB | fits | fits | ''strata launch --family gyro --model Gyro-M --vision off --port 8081 --no-tui --yes --save-preset "Gyro-M 8081"'' |  |
| qwen / ''q2_0'' | 66 GB | ~38 GB | fits | fits | ''strata launch --family qwen --model q2_0 --vision off --port 8081 --no-tui --yes --save-preset "q2_0 8081"'' | самый быстрый из официальных |
| unsloth / ''ud-iq1_m'' | 68 GB | ~39 GB | fits | fits | ''strata launch --family unsloth --model ud-iq1_m --vision off --port 8081 --no-tui --yes --save-preset "ud-iq1_m 8081"'' |  |
| unsloth / ''ud-q2_0'' | — | ~42 GB | fits | fits | ''strata launch --family unsloth --model ud-q2_0 --vision off --port 8081 --no-tui --yes --save-preset "ud-q2_0 8081"'' |  |
| unsloth / ''ud-iq2_xs'' | — | ~47 GB | fits | fits | ''strata launch --family unsloth --model ud-iq2_xs --vision off --port 8081 --no-tui --yes --save-preset "ud-iq2_xs 8081"'' |  |
| unsloth / ''ud-q2_k_xl'' | 80 GB | ~51 GB | fits | fits | ''strata launch --family unsloth --model ud-q2_k_xl --vision off --port 8081 --no-tui --yes --save-preset "ud-q2_k_xl 8081"'' |  |
| unsloth / ''ud-iq3_xxs'' | 84 GB | ~55 GB | fits | fits | ''strata launch --family unsloth --model ud-iq3_xxs --vision off --port 8081 --no-tui --yes --save-preset "ud-iq3_xxs 8081"'' |  |
| unsloth / ''ud-q3_k_xl'' | 90 GB | ~61 GB | fits | fits | ''strata launch --family unsloth --model ud-q3_k_xl --vision off --port 8081 --no-tui --yes --save-preset "ud-q3_k_xl 8081"'' |  |
| unsloth / ''ud-iq4_xs'' | 94 GB | ~65 GB | fits | fits | ''strata launch --family unsloth --model ud-iq4_xs --vision off --port 8081 --no-tui --yes --save-preset "ud-iq4_xs 8081"'' | 4 бита; хороший выбор по качеству на текущем ПК |
| qwen / ''iq2_xs'' | 68 GB | ~68 GB | fits | fits | ''strata launch --family qwen --model iq2_xs --vision off --port 8081 --no-tui --yes --save-preset "iq2_xs 8081"'' |  |
| qwen / ''iq3_xxs'' | 76 GB | ~76 GB | fits | fits | ''strata launch --family qwen --model iq3_xxs --vision off --port 8081 --no-tui --yes --save-preset "iq3_xxs 8081"'' |  |
| nvfp4 / ''NVFP4'' | — | ~77 GB | fits (впритык) | fits | ''strata launch --family nvfp4 --model NVFP4 --vision off --port 8081 --no-tui --yes --save-preset "NVFP4 8081"'' |  |
| unsloth / ''ud-q4_k_xl'' | 111 GB | ~82 GB | медленнее | fits | ''strata launch --family unsloth --model ud-q4_k_xl --vision off --port 8081 --no-tui --yes --save-preset "ud-q4_k_xl 8081"'' |  |
| qwen / ''iq3_s'' | 84 GB | ~84 GB | медленнее | fits | ''strata launch --family qwen --model iq3_s --vision off --port 8081 --no-tui --yes --save-preset "iq3_s 8081"'' | **установлен сейчас**: на практике ~21.5 ток/с |
| unsloth / ''ud-q5_k_xl'' | 158 GB | ~104 GB | нет | fits | ''strata launch --family unsloth --model ud-q5_k_xl --vision off --port 8081 --no-tui --yes --save-preset "ud-q5_k_xl 8081"'' | 5 бит, почти без потерь |
| unsloth / ''ud-q6_k_xl'' | 169 GB | ~115 GB | нет | fits | ''strata launch --family unsloth --model ud-q6_k_xl --vision off --port 8081 --no-tui --yes --save-preset "ud-q6_k_xl 8081"'' |  |
| unsloth / ''q8_0'' | 188 GB | ~134 GB | нет | fits (впритык) | ''strata launch --family unsloth --model q8_0 --vision off --port 8081 --no-tui --yes --save-preset "q8_0 8081"'' | практически полное качество, но генерация заметно медленнее ''iq3_s'' |
| deepseek41 / ''IST-DAS-1.75bpw'' | 239 GB | больше 144 GB | нет | **нет** | ''strata launch --family deepseek41 --model IST-DAS-1.75bpw --vision off --port 8081 --no-tui --yes --save-preset "IST-DAS-1.75bpw 8081"'' | модель больше, чем RAM+VRAM; нужно 256+ GB RAM |
| deepseek41 / ''IST-DAS-2.25bpw'' | 274 GB | больше 144 GB | нет | **нет** | ''strata launch --family deepseek41 --model IST-DAS-2.25bpw --vision off --port 8081 --no-tui --yes --save-preset "IST-DAS-2.25bpw 8081"'' | то же |

«—» в столбце «Скачать» — размер не замерялся; его покажет ''strata launch --family ... --model ... --plan''.

**Итог для текущего ПК:** всё, что помечено **fits**, плюс уже работающий ''iq3_s''. Если нужна скорость — ''q2_0'' или ''ud-q2_k_xl''; если качество — ''iq3_s'' (текущий) или ''ud-iq4_xs''.

**Если добавить 64 GB RAM (станет 128 GB + 16 GB VRAM = 144 GB):**
  * **unsloth / ''q8_0'' — да**, по оценке Strata (~134 GB) помещается, но впритык и генерирует заметно медленнее ''iq3_s'': на каждый токен из RAM читается больше данных. Разумный выбор после апгрейда по балансу качество/скорость — ''ud-q4_k_xl'' или ''ud-q5_k_xl''.
  * **deepseek41 / IST-DAS-1.75…2.25bpw — нет.** Модель весит 239–274 GB, это больше, чем RAM+VRAM; большая часть читалась бы с диска — слишком медленно для работы. Нужно 256+ GB RAM (новая платформа, см. ниже).

**Как пользоваться командами из таблицы:**
  - Сначала посмотреть план без изменений — добавить к команде ''--plan''.
  - Остановить текущую модель (''strata launch --stop --preset "Goose IQ3_S official 8081"'' или «Остановить» в [[:truenas:application:strata_tray|Strata Tray]]) — либо добавить к команде ''--restart''.
  - Выполнить команду: первая установка скачивает модель, затем сохраняется пресет ''"<модель> 8081"'', дальше запуск — ''strata launch --preset "<модель> 8081" --no-tui''.
  - В Goose поменять имя модели у провайдера на то, что вернёт ''/v1/models''; в Strata Tray — ''Preset'' в ''settings.json''.

Сменить модель — новый пресет, старый остаётся:

<code powershell>
strata launch --family unsloth --model ud-iq4_xs --context 128k --vision off --access local --port 8081 --no-tui --plan
strata launch --family unsloth --model ud-iq4_xs --context 128k --vision off --access local --port 8081 --no-tui --yes --save-preset "Goose UD-IQ4_XS 8081"
</code>

Если меняете пресет, поменяйте и имя модели в провайдере Goose (точное имя — из ''/v1/models'') и пресет в ''settings.json'' трей-программы (см. [[:truenas:application:strata_tray|Strata Tray]]).

==== Что можно будет развернуть после апгрейда ПК ====

Граница «fits» у Strata — примерно (RAM + VRAM) минус 3 GB. Ниже — **оценка по той же формуле**, на реальном железе не проверялась.

^ Апгрейд ^ RAM+VRAM ^ Что добавится (fits) ^ Замечания ^
| **RAM 64 → 128 GB** (докупить ещё 2×32 GB, тот же комплект Kingston FURY ''KF3600C18D4/32GX'') | 144 GB | ''iq3_s'' без предупреждения, ''ud-q4_k_xl'', ''ud-q5_k_xl'', ''ud-q6_k_xl'', ''q8_0'' — вся линейка Qwen3.8-Flash-Next | Самый дешёвый и полезный апгрейд. На плате 4 слота, свободно 2. Windows/SMBIOS сейчас показывает максимум 64 GB, но i9-9900KF поддерживает 128 GB, а модули по 32 GB плата уже принимает — **(проверить)** поддержку 128 GB в списке BIOS/QVL на сайте ASUS и обновить BIOS. С 4 модулями XMP 3600 может работать нестабильно — тогда 3200 MHz. |
| **GPU 16 → 24 GB** (RTX 4090 / 3090) | 88 GB | ''ud-q4_k_xl'', ''iq3_s'' без предупреждения | Больше слоёв в VRAM — быстрее чтение промпта и генерация. Плата даёт только PCIe 3.0 — часть прироста теряется. |
| **GPU 16 → 32 GB** (RTX 5090) | 96 GB | то же + запас под длинный контекст | Те же ограничения PCIe 3.0. |
| **RAM 128 GB + GPU 24–32 GB** | 152–160 GB | вся линейка до ''q8_0'' с запасом | |
| **Новая платформа** (AM5 / LGA1851, DDR5, 4×64 = 256 GB, PCIe 4.0/5.0) | 256+ GB | DeepSeek-V4.1-Flash 1.75–2.25 bpw; Qwen ''q8_0'' быстро | DDR5 даёт примерно вдвое большую пропускную способность памяти, чем DDR4 — генерация MoE-моделей заметно быстрее. |

**Что реально ускорит работу:** генерация упирается в пропускную способность RAM (DDR4 двухканал) и PCIe 3.0. Апгрейд RAM до 128 GB открывает более качественные кванты, но **не делает модель быстрее**; ускоряют — больше VRAM и/или новая платформа с DDR5.

==== Как посмотреть план без изменений ====

Перед запуском полезно выполнить ''--plan'' — он покажет, что будет скачано, и ничего не изменит:

<code powershell>
strata launch --model iq3_s --context 128k --vision off --access local --port 8081 --no-tui --plan
</code>

<code>
Plan for 'IQ3_S 128K':
  model     Qwen3.8-Flash-Next IQ3_S, 84 GB
  context   128K    pictures off    parallel fit to your card
  download  About 84.8 GB to download: the model (83.6 GB) and the DFlash2 drafter (1.2 GB).
  drafting  DFlash2 (its drafter is downloaded first)
  tuning    skip    access This computer only, port 8081
Nothing was changed.
</code>

Примеры для других квантов:

<code powershell>
strata launch --model q2_0    --context 128k --vision off --access local --port 8081 --no-tui --plan
strata launch --model iq3_xxs --context 128k --vision off --access local --port 8081 --no-tui --plan
strata launch --family unsloth --model ud-q4_k_xl --context 128k --vision off --access local --port 8081 --no-tui --plan
</code>

**Важно про свои GGUF-файлы.** Strata умеет брать уже скачанные файлы (''--model-path ПАПКА''), но **не любые**. Сторонняя сборка ''RVN-Qwen3.8-Flash-Next-IQ3_S'' не запустилась (см. раздел «Проблемы и решения»). Надёжнее давать Strata скачать модель самой.

===== Шаг 3: Первый запуск модели =====

<code powershell>
strata launch --model iq3_s --context 128k --vision off --tune skip --access local --port 8081 --no-tui --yes --save-preset "Goose IQ3_S official 8081"
</code>

Ключи:
  * ''--model iq3_s'' — размер модели (см. таблицы выше).
  * ''--context 128k'' — длина контекста (32k / 64k / 128k / 256k).
  * ''--vision off'' — без распознавания картинок (Goose они не нужны, экономит память и 0.9 GB скачивания).
  * ''--access local'' — доступ только с этого компьютера (без API-ключа).
  * ''--port 8081'' — порт API.
  * ''--no-tui'' — без интерактивных экранов: запустить, вывести адрес и вернуть управление.
  * ''--yes'' — не задавать вопросов (согласие на скачивание).
  * ''--save-preset'' — сохранить все настройки под именем, чтобы потом запускать одной командой.

Первый запуск: скачивается движок под вашу видеокарту (~631 MB), модель (~84 GB), drafter DFlash2 (1.2 GB), затем один раз модель подготавливается для движка. Это долго (зависит от скорости интернета). В конце:

<code>
    The model is loaded and answering.
    Ready: http://127.0.0.1:8081
Strata is serving.
  This computer  http://127.0.0.1:8081/v1
  Anthropic apps http://127.0.0.1:8081   (Claude Code: ANTHROPIC_BASE_URL, no /v1 at the end)
[!] DFlash2 answers one request at a time, so Strata set this model to one request at a time.
  Stop:  strata launch --stop --preset "Goose IQ3_S official 8081"
</code>

===== Шаг 4: Ежедневный запуск и остановка =====

**Удобнее — через значок в трее:** программа [[:truenas:application:strata_tray|Strata Tray]] показывает статус Strata и запускает/останавливает её по правому клику, стартует вместе с Windows. Ниже — то же самое командами.

Запуск (загрузка модели ~1 минута):

<code powershell>
strata launch --preset "Goose IQ3_S official 8081" --no-tui
</code>

Без ''--no-tui'' откроется экран мониторинга.

Проверка, что сервер отвечает:

<code powershell>
curl.exe http://127.0.0.1:8081/v1/models
</code>

Должна вернуться модель ''"id": "qwen3.8-flash-next-iq3_s"'' со статусом ''"loaded"''.

Остановка (освобождает ~15.7 GB VRAM и ~50 GB RAM):

<code powershell>
strata launch --stop --preset "Goose IQ3_S official 8081"
</code>

Полезные команды:

<code powershell>
strata launch --status                          # что сейчас запущено
strata launch --list-presets                    # сохранённые пресеты
strata monitor --url http://127.0.0.1:8081      # монитор: скорость, VRAM, очередь запросов
strata logs    --url http://127.0.0.1:8081      # журнал запросов
strata doctor                                   # проверка компонентов (только чтение)
strata update                                   # обновить движок (переключается после пробного старта)
</code>

Лог движка: ''%LOCALAPPDATA%\Strata\launch\<имя-пресета>.engine.log''.

===== Шаг 5: Проверка API вручную =====

<code powershell>
'{"model":"qwen3.8-flash-next-iq3_s","messages":[{"role":"user","content":"Привет, ответь одним словом"}],"max_tokens":200}' | Out-File -Encoding utf8 req.json
curl.exe -s -H "Content-Type: application/json" --data-binary "@req.json" http://127.0.0.1:8081/v1/chat/completions
</code>

Ответ содержит ''content'' (сам ответ), ''reasoning_content'' (рассуждения модели) и ''timings'' со скоростью. Streaming (''"stream": true'') поддерживается.

===== Шаг 6: Подключение Strata к Goose Desktop =====

==== Вариант А: через интерфейс ====

Settings → Models → **Add Custom Provider**:

^ Поле ^ Значение ^
| Provider Type | **OpenAI Compatible** |
| Display Name | ''Strata Qwen'' |
| API URL | ''http://127.0.0.1:8081/v1/chat/completions'' |
| API Key | пусто (при ''--access local'' ключ не нужен) |
| Available Models | ''qwen3.8-flash-next-iq3_s'' (точное имя из ''/v1/models'') |
| Streaming | включить |

Сохранить и выбрать этого провайдера в чате.

==== Вариант Б: файлом (то же самое, что делает интерфейс) ====

Закройте Goose Desktop и создайте файл ''%APPDATA%\Block\goose\config\custom_providers\custom_strata_qwen.json'':

<code json>
{
  "name": "custom_strata_qwen",
  "engine": "openai",
  "display_name": "Strata Qwen",
  "description": "Local Strata engine: Qwen3.8-Flash-Next IQ3_S on 127.0.0.1:8081",
  "api_key_env": "CUSTOM_STRATA_QWEN_API_KEY",
  "base_url": "http://127.0.0.1:8081/v1/chat/completions",
  "models": [
    { "name": "qwen3.8-flash-next-iq3_s", "context_limit": 131072 }
  ],
  "headers": null,
  "timeout_seconds": 600,
  "supports_streaming": true,
  "requires_auth": false
}
</code>

Чтобы сделать его провайдером по умолчанию, в ''%APPDATA%\Block\goose\config\config.yaml'' (сначала сделайте резервную копию) замените строку ''active_provider: ...'' на:

<code yaml>
active_provider: custom_strata_qwen
GOOSE_PROVIDER: custom_strata_qwen
GOOSE_MODEL: qwen3.8-flash-next-iq3_s
</code>

==== Проверка ====

Из терминала (CLI ''goose.exe'' лежит внутри Desktop-приложения):

<code powershell>
& "<папка Goose>\resources\bin\goose.exe" run --no-session -t "Привет, ответь одним словом"
</code>

<code>
    __( O)>  ● new session · custom_strata_qwen qwen3.8-flash-next-iq3_s
Привет
</code>

Убедиться, что запрос ушёл именно в локальную модель, а не в облако: ''strata logs --url http://127.0.0.1:8081'' — в журнале появятся записи ''queued → admitted → first_token → finished'' в момент запроса из Goose.

**Порядок запуска:** сначала Strata, потом Goose. Если Strata не запущена, Goose пишет ''Could not connect to 127.0.0.1:8081''.

===== Шаг 7: Русский язык =====

Модель хорошо отвечает по-русски и технически корректно — переводчик-прокси не нужен. Чтобы Goose всегда отвечал по-русски, положите в корень проекта файл ''.goosehints'':

<code>
Всегда отвечай на русском языке. Код, команды, имена файлов, идентификаторы и технические термины оставляй без перевода.
Комментарии в коде пиши на русском, если пользователь не попросил иначе.
Рабочая ОС — Windows 11, оболочка PowerShell 5.1: используй её синтаксис для shell-команд (без &&, пути через \).
</code>

''.goosehints'' действует только для сессий, открытых в этой папке. Для всех проектов сразу — положите такой же файл в ''%APPDATA%\Block\goose\config\.goosehints''.

===== Шаг 8: MCP-расширения для кодинга =====

==== Developer (встроенное) ====

Работа с файлами и shell. Включено по умолчанию; проверить в ''config.yaml'':

<code yaml>
  developer:
    enabled: true
    type: platform
</code>

==== Playwright (браузер для проверки UI) ====

Добавьте в секцию ''extensions:'' файла ''config.yaml'':

<code yaml>
  playwright:
    enabled: true
    type: stdio
    name: playwright
    description: Browser automation for UI checks (Playwright MCP, Microsoft Edge)
    display_name: Playwright
    cmd: C:\Program Files\nodejs\npx.cmd
    args:
    - -y
    - '@playwright/mcp@0.0.85'
    - --browser
    - msedge
    envs: {}
    env_keys: []
    timeout: 300
    bundled: null
</code>

  * **В ''cmd'' обязательно полный путь к системному ''npx.cmd''**, а не просто ''npx'' — см. раздел «Проблемы и решения».
  * ''--browser msedge'' — использует уже установленный Microsoft Edge, Chromium скачивать не нужно.
  * Проверить пакет вручную: ''npx -y @playwright/mcp@0.0.85 --help''.

После правки ''config.yaml'' полностью перезапустите Goose Desktop (включая значок в трее).

Проверка: задача //Через расширение playwright открой https://example.com и скажи заголовок страницы// → Goose вызывает ''browser_navigate'' и отвечает «Example Domain».

==== GitHub (по желанию) ====

Нужен ваш вход в GitHub:
  * удалённый MCP-сервер ''https://api.githubcopilot.com/mcp/'' (Extensions → Add, вход через браузер), или
  * Personal Access Token.

===== Шаг 9: Финальная проверка =====

В Goose (рабочая папка — ваш проект) дайте задачу:

<code>
Создай файл hello.py, который выводит текущее время, и запусти его
</code>

Ожидаемо: Goose отвечает по-русски, вызывает ''write'' (создаёт ''hello.py'') и ''shell'' (''python hello.py''), выводит время. В ''strata logs'' видны запросы.

===== Хранение моделей и перенос на другой диск =====

==== Где лежат файлы ====

Данные Strata находятся в **папке данных**. По умолчанию это ''%LOCALAPPDATA%\Strata\Strata-data''. Путь к ней записан в ''%APPDATA%\Strata\settings.json'' (ключ ''data_dir'').

^ Папка ^ Что в ней ^ Пример (IQ3_S) ^
| ''Strata-data\models\<КВАНТ>\'' | Файлы модели (GGUF-шарды) и метки ''.done'' о завершённой загрузке | ''models\IQ3_S\'', 2 файла, 78 GB |
| ''Strata-data\packs\<квант>\'' | Модель, подготовленная под движок | ''packs\iq3_s\'', 1.5 GB |
| ''Strata-data\dflash2\'' | Драфтер DFlash2 (ускоряет генерацию) | 0.8 GB |
| ''Strata-data\mtp\'' | Слой MTP (только у моделей с ''--drafting mtp'') | — |
| ''%LOCALAPPDATA%\Strata\components'', ''install'', ''terminal'' | Движок и сама программа (не модели) | ~1.3 GB |
| ''%LOCALAPPDATA%\Strata\launch'' | Пресеты и логи запусков | мегабайты |

Новые модели скачиваются в ту же папку данных. Каждый квант получает свою папку в ''models'' и ''packs''. Например, после ''--model ud-iq4_xs'' добавится около 94 GB.

Посмотреть, что установлено:

<code powershell>
strata models list --installed
</code>

<code>
iq3_s  present  qwen3.8-flash-next-iq3_s
</code>

==== На какой диск класть ====

Strata подгружает экспертов модели с диска, если они не помещаются в RAM+VRAM. Поэтому скорость диска напрямую влияет на скорость ответов: чем больше модель превышает 80 GB, тем сильнее.

^ Диск на этом ПК ^ Тип ^ Для моделей ^
| C: | NVMe SSD, 954 GB | **Лучший вариант**, модели лежат здесь сейчас |
| D: | SATA SSD, 3.7 TB | Можно, если на C: не хватает места. Медленнее NVMe (~550 MB/s против ~3 GB/s), заметно на моделях больше 80 GB |
| E:, F:, G: | HDD | **Не использовать** для запуска, только для архива (скорость падает в разы) |

**Примечание:** копия RVN IQ3_S в ''F:\projects\inst\qwen-iq3s'' (83 GB) лежит на HDD, и Strata её не использует. Её стоит оставить только для переноса на сервер (см. [[:truenas:application:llamacpp_moe_ssd|llama.cpp: MoE с NVMe + RAM на TrueNAS]]), а потом удалить.

==== Перенос моделей в другую папку ====

У Strata есть встроенный перенос, поэтому вручную копировать и делать junction не нужно. Файлы переносятся по одному: каждый копируется, сверяется по SHA-256 и только после этого удаляется со старого места. Если прервать перенос, ничего не потеряется. Перенос на тот же диск выполняется мгновенным переименованием, на другой диск — копированием.

**Важно:** перед переносом остановите сервер: в трее «Остановить» или ''strata launch --stop --preset "..."''.

**Способ 1 (рекомендуется): ''strata launch --data-dir ... --move-data''.** Модели переносятся, новая папка запоминается в ''settings.json'' (туда же пойдут следующие загрузки), сервер запускается.

<code powershell>
strata launch --stop --preset "Goose IQ3_S official 8081"

# сначала план: сколько GB и хватит ли места (ничего не меняет)
strata models move D:\StrataModels --plan

# перенос + запуск
strata launch --preset "Goose IQ3_S official 8081" --data-dir D:\StrataModels --move-data --no-tui --yes
</code>

Вывод плана на этом ПК:

<code>
1 model(s), 85.2 GB; 2109.3 GB free in D:\StrataModels.
</code>

Без ''--move-data'' старые модели останутся на месте и будут работать, а в новую папку пойдут только новые загрузки. ''--yes'' сам по себе модели **не** переносит.

**Способ 2: ''strata models move''.** Переносит файлы (''models'', ''packs'', ''mtp'') и исправляет пути в конфигурациях запуска, но сервер не запускает.

<code powershell>
strata models move D:\StrataModels --plan     # план
strata models move D:\StrataModels            # перенос (прогресс: "12.3 of 85.2 GB  <файл>")
</code>

**(проверить)** По исходному коду Strata 0.1.59 эта команда не меняет ''data_dir'' в ''settings.json''. Поэтому новые загрузки могут продолжать идти в старую папку. Чтобы закрепить новую папку, один раз запустите модель с ''--data-dir D:\StrataModels'' или используйте способ 1.

Если перенос прервался (выключили ПК, закончилось место):

<code powershell>
strata models move --status    # был ли незаконченный перенос
strata models move --resume    # докончить
strata models move --leave     # отказаться: модели остаются в старой папке, частичные копии удаляются
</code>

После переноса проверьте:

<code powershell>
Get-Content $env:APPDATA\Strata\settings.json      # data_dir = новая папка
strata models list --installed                     # модель present
curl.exe http://127.0.0.1:8081/v1/models           # сервер отвечает
</code>

**Примечание:** папка ''dflash2'' в перенос не входит и остаётся в старом месте (0.8 GB) **(проверить)**. Это не мешает работе.

==== Удаление ненужной модели ====

Отдельной команды для удаления модели в Strata 0.1.59 нет. Удалять нужно вручную при остановленном сервере:

<code powershell>
strata launch --stop --preset "Goose IQ3_S official 8081"
$d = (Get-Content $env:APPDATA\Strata\settings.json | ConvertFrom-Json).data_dir
Get-ChildItem "$d\models", "$d\packs"                      # посмотреть, что есть
Remove-Item -Recurse "$d\models\UD-IQ4_XS", "$d\packs\ud-iq4_xs"   # пример: имена папок берите из списка выше
strata launch --delete-preset "ud-iq4_xs 8081"             # если для неё сохранён пресет
</code>

Модель, которая используется в рабочем пресете (сейчас ''IQ3_S''), не удаляйте.

===== Производительность (RTX 4080 16 GB + 64 GB RAM, IQ3_S) =====

^ Показатель ^ Значение ^
| Генерация | ~21.5 токенов/с (DFlash2 принимает ~75% предсказанных токенов) |
| Чтение промпта | ~30 токенов/с на коротких, ~350–400 токенов/с на длинных (12 тыс. токенов ≈ 30–35 с) |
| Первый запрос Goose (системный промпт + инструменты ≈ 12 тыс. токенов) | ~30 с, дальше быстрее за счёт кэша |
| «Привет, ответь одним словом» через Goose | ~18 с |
| Создать и запустить hello.py | ~75 с |
| Простая задача через Playwright | ~90 с |
| Занято VRAM | 15.7 / 16 GB |
| Параллельность | 1 запрос (из-за DFlash2); второй запрос Goose (генерация названия сессии) ждёт в очереди |

===== Проблемы и решения =====

==== Порт 8080 занят ====

Симптом: ''curl http://127.0.0.1:8080/v1/models'' → ''Empty reply from server'' (curl exit 52).

Проверка, кто держит порт:

<code powershell>
Get-NetTCPConnection -LocalPort 8080 -State Listen | Select-Object OwningProcess
Get-CimInstance Win32_Process -Filter "ProcessId=<PID>" | Select-Object Name,ExecutablePath
</code>

Если это ''wslrelay.exe'' — порт пробрасывается из WSL (у нас — Docker-контейнер Jira). Решение: запускать Strata на другом порту (''--port 8081'').

==== Сторонний GGUF не запускается (engine requires BF16) ====

Симптом при ''--model-path'' со сборкой ''RVN-Qwen3.8-Flash-Next-IQ3_S'':

<code>
output_hc_down.weight is IQ3_S, but the engine requires BF16; use --compat-bf16
blk.0.ssm_alpha.weight is IQ3_S, but the engine requires BF16; use --compat-bf16
... and 356 more
  [X]  command failed (exit 1): python.exe
</code>

Причина: в этой сборке в 3 бита сжаты и служебные тензоры (''hc_*'', ''ssm_alpha/beta''), а движку Strata они нужны в BF16. Кроме того, Strata по размеру ошибочно определяла эти файлы как ''UD-IQ4_XS'' (хотя в заголовке GGUF ''general.file_type = 26'' = IQ3_S) — помогло явное ''--model iq3_s''.

Решение: скачать официальную сборку Strata (''strata launch --model iq3_s'' без ''--model-path''). Альтернатива — перепаковка с ''--compat-bf16'', но качество уже испорченных тензоров не вернётся.

==== Playwright не загружается в Goose ====

Симптом в логе Goose (''%APPDATA%\Block\goose\data\logs\cli\...''):

<code>
Failed to load extension playwright: process quit before initialization:
[Goose] Node.js not found. Downloading portable Node.js v22.14.0...
... Error: EPIPE: broken pipe, write
</code>

Причина: если в ''cmd'' указано просто ''npx'', Goose подменяет его своей обёрткой (''<папка Goose>\resources\bin\npx.cmd''), которая не видит системный Node.js и пытается скачать портативный; скачивание не успевает до таймаута.

Решение: ''cmd: C:\Program Files\nodejs\npx.cmd'' (полный путь).

==== Goose пишет файлы не в ту папку ====

Goose работает в рабочей папке сессии (выбирается внизу окна чата или ''Ctrl+O''). Если в тексте задачи указан другой путь («разверни в F:\...»), Goose будет использовать его до конца сессии. Для нового проекта — новый чат (''Ctrl+T'') в нужной папке, без других путей в задаче.

===== Шпаргалка =====

<code powershell>
# запуск / остановка
strata launch --preset "Goose IQ3_S official 8081" --no-tui
strata launch --stop --preset "Goose IQ3_S official 8081"

# проверка
curl.exe http://127.0.0.1:8081/v1/models
strata monitor --url http://127.0.0.1:8081
strata logs --url http://127.0.0.1:8081

# модели: список и перенос на другой диск (сервер остановлен)
strata models list --installed
strata models move D:\StrataModels --plan
strata launch --preset "Goose IQ3_S official 8081" --data-dir D:\StrataModels --move-data --no-tui --yes
</code>

^ Что ^ Где ^
| Strata | ''%LOCALAPPDATA%\Strata'' |
| Модели (папка данных) | ''%LOCALAPPDATA%\Strata\Strata-data\models'' (путь — ''data_dir'' в ''%APPDATA%\Strata\settings.json'') |
| Провайдер Goose | ''%APPDATA%\Block\goose\config\custom_providers\custom_strata_qwen.json'' |
| Конфиг Goose (расширения, провайдер по умолчанию) | ''%APPDATA%\Block\goose\config\config.yaml'' |
| Логи Goose | ''%APPDATA%\Block\goose\data\logs'' |
| Модель в Goose | ''custom_strata_qwen'' / ''qwen3.8-flash-next-iq3_s'' |
Инструменты пользователя

Инструменты сайта

Инструменты страницы
