Ustawienia — Model
Dostawcy LLM
Lokalni (Local Provider = ON)
| Dostawca | Endpoint domyślny | Wymagania |
|---|---|---|
| LM Studio | http://localhost:1234 | LM Studio zainstalowane i uruchomione |
| Ollama | http://localhost:11434 | Ollama zainstalowane i uruchomione |
Lokalni dostawcy nie wymagają internetu ani klucza API. Działają w całości na Twoim sprzęcie.
Chmurowi (Local Provider = OFF)
| Dostawca | Wymaga |
|---|---|
| Claude (Anthropic) | Klucz API z console.anthropic.com |
| ChatGPT (OpenAI) | Klucz API z platform.openai.com |
| Gemini (Google) | Klucz API z aistudio.google.com |
| Azure OpenAI | Konfiguracja zasobu Azure + klucz |
| GitHub Copilot | Aktywna subskrypcja Copilot |
| Custom (Cloud) | Dowolny endpoint kompatybilny z OpenAI API |
LOAD / EJECT (tylko lokalni)
LOAD — ładuje wybrany model do pamięci RAM/VRAM serwera lokalnego. Wymagane przed rozmową.
EJECT — zwalnia model z pamięci. Użyteczne przy przełączaniu między modelami lub zwalnianiu zasobów GPU.
Settings — Model
LLM Providers
Local (Local Provider = ON)
| Provider | Default Endpoint | Requirements |
|---|---|---|
| LM Studio | http://localhost:1234 | LM Studio installed and running |
| Ollama | http://localhost:11434 | Ollama installed and running |
Local providers require no internet or API key. They run entirely on your hardware.
Cloud (Local Provider = OFF)
| Provider | Requires |
|---|---|
| Claude (Anthropic) | API key from console.anthropic.com |
| ChatGPT (OpenAI) | API key from platform.openai.com |
| Gemini (Google) | API key from aistudio.google.com |
| Azure OpenAI | Azure resource configuration + key |
| GitHub Copilot | Active Copilot subscription |
| Custom (Cloud) | Any OpenAI-compatible endpoint |
LOAD / EJECT (local providers only)
LOAD — loads the selected model into server RAM/VRAM. Required before chatting.
EJECT — releases model from memory. Useful when switching models or freeing GPU resources.