Model card / stable

Aster-8B

Компактная универсальная модель для приватных ассистентов, summarization, extraction и structured output.

8.1Bparameters
32Kcontext window
4.8 GBBF16 weights
2.1 GBQ4 profile
Card notes

Предсказуемый локальный профиль

Aster-8B хорошо работает на CPU с 8 GB RAM и остаётся быстрым после прогрева на современных CPU/GPU. Карточка описывает два runtime-профиля: balanced и low-memory.

  • Structured output через JSON schema
  • Стабильный system prompt budget
  • Проверенный контекст до 32K токенов
Recommended runtime

Balanced profile

SettingValue
Context16K default / 32K max
Temperature0.2 — 0.7
Memory8 GB minimum
ArtifactsBF16, Q8, Q4
Runtime guide