Обчислення (Local / Cloud)
Local / Cloud, за адресою /compute, вирішує, де виконується кожна можливість: транскрипція,
мовлення, текст, документи, зображення, відео.
Три значення для кожної можливості
Section titled “Три значення для кожної можливості”- Auto вирішує за тим, що має ця машина.
- Local — завжди тут, навіть без відеокарти.
- Cloud — завжди провайдер, навіть на машині, яка могла б упоратися сама, — ноутбук на батареї є цілком реальною причиною.
Читайте речення, а не бейдж
Section titled “Читайте речення, а не бейдж”Кожен рядок пояснює, до чого він звівся і чому — «на цій машині немає GPU, тому йде до провайдера». Рядок, що казав би лише CLOUD, нікого нічого не навчив би. Незручні випадки охоплено: обрано local там, де воно не може працювати, обрано cloud без ключа, і коли не доступний жоден шлях («neither path works yet» — вставте ключ у Settings → Secrets).
Чому для кожної можливості окремо
Section titled “Чому для кожної можливості окремо”Erebros було написано на робочій станції з графічною картою, тож половина його рушіїв тихо припускає, що вона є. У контейнері це припущення і є всією проблемою — Whisper не відмовляється без GPU, він молотить на CPU приблизно в реальному часі, і застосунок виглядає зламаним, хоча жодної помилки немає. Але відсутня карта — це причина перенести транскрипцію, а не причина припинити запускати текстові моделі локально.
Грубий інструмент
Section titled “Грубий інструмент”EREBROS_FORCE_CLOUD=1 повністю перекриває зондування й відправляє кожну можливість
провайдеру — саме це налаштування потрібне контейнеру без GPU. Покладіть його в юніт сервісу, а не
лише у свою оболонку. Дивіться Розгортання на Proxmox.