Open WebUI installeren

Open WebUI installeren: lokale AI bereikbaar op elk apparaat in je netwerk

In het vorige artikel installeerde ik Ollama op mijn Mac Studio met drie lokale AI-modellen. Dat werkte prima voor op de Mac zelf, maar ik wilde ook vanaf mijn Chromebook en Pixel kunnen chatten met mijn eigen lokale AI. De oplossing: Open WebUI installeren, een webinterface die draait op je NAS en die de brug slaat tussen Ollama op de Mac en elk apparaat in je thuisnetwerk.

Open WebUI installeren op je NAS is de manier om je lokale AI-modellen bereikbaar te maken op elk apparaat in huis. Er gaat niets naar een externe server of naar de cloud. Je installeert het als Docker-container op je Synology NAS, wijst het in de voorkeuren naar Ollama op je Mac, en vanaf dat moment is je lokale AI bereikbaar via de browser op elk apparaat in je netwerk.

Open WebUI installeren via Dockhand

Ik gebruik Dockhand als Docker-beheeromgeving op mijn DS224+. Je kunt het natuurlijk ook via Portainer installeren. Voordat je de container aanmaakt, maak je eerst via Synology File Station een map aan:

/volume1/docker/open-webui

Open WebUI slaat hier zijn data op: gebruikersinstellingen, chatgeschiedenis en voorkeuren. Die map moet bestaan voordat de container start, anders klaagt Docker.

In Dockhand ga je naar ‘Stacks’ en klik je op ‘Create’. Geef de stack een naam en plak de volgende compose-configuratie:

yaml
services:
  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    container_name: open-webui
    networks:
      - shared_proxy_net
    ports:
      - 3002:8080
    environment:
      - OLLAMA_BASE_URL=http://192.168.68.130:11434
    volumes:
      - /volume1/docker/open-webui:/app/backend/data
    restart: unless-stopped

networks:
  shared_proxy_net:
    external: true

Er zijn een paar dingen waarop je moet letten. Ik gebruik hier poort 3002 omdat poort 3000 al in gebruik was door een andere container. Kijk welke poorten bij jou nog vrij zijn. Het IP-adres is dat van mijn Mac Studio; vervang dit door het adres van jouw Mac. En shared_proxy_net is het netwerk waar al mijn containers in draaien. Pas dit aan als jij een ander netwerk gebruikt.

Ollama bereikbaar maken voor het netwerk

Standaard luistert Ollama alleen naar verbindingen van de Mac zelf. Dat is een bewuste beveiligingskeuze: een programma dat alleen lokaal bereikbaar is, kan niet worden aangesproken door andere apparaten in je netwerk. Voor ons doel is dat juist een probleem: de NAS moet Ollama kunnen bereiken.

Met de opdracht OLLAMA_HOST=0.0.0.0 in de terminal vertel je Ollama dat het op alle netwerkinterfaces moet luisteren, niet alleen op de Mac zelf. Het toevoegen aan ~/.zshrc zorgt ervoor dat deze instelling bewaard blijft. Zonder die stap moet je de variabele bij elke herstart van Ollama opnieuw meegeven.Het commando source ~/.zshrc laadt het bestand daarna opnieuw in, zodat de instelling meteen actief is zonder dat je een nieuw terminalvenster hoeft te openen. Dit voerde ik in:

bash
echo 'export OLLAMA_HOST=0.0.0.0' >> ~/.zshrc
source ~/.zshrc

Start daarna Ollama opnieuw. Vanaf dat moment luistert het op alle netwerkinterfaces.

De verbinding instellen in Open WebUI

In mijn Chromebook ging ik in de browser naar 192.168.68.105:3002 en kreeg daar de interface van Open WebUI te zien. Je moet daar een account aanmaken. Na de eerste login op Open WebUI in de browser ga je naar de Instellingen. De verbindingsinstellingen zijn te vinden via het beheerderspaneel op /admin/settings/connections. Dus in mijn geval http://192.168.68.105:3002/admin/settings/connections. Die plek is niet voor de hand liggend, maar je hoeft het maar één keer op te zoeken. Vul hier het juiste adres in:

http://192.168.68.130:11434

Klik op het ververs-icoontje naast het adres. Verschijnen je modellen? Dan werkt alles.

Let op het IP-adres. Ik typte aanvankelijk 192.169.68.130 in plaats van 192.168.68.130. Eén cijfer fout, en Open WebUI kan Ollama niet bereiken. Dat soort tikfouten vallen niet meteen op.

Wat er mis kan gaan

Niet alles werkte bij mij meteen. Ik liep tegen twee problemen aan.

Als eerste was er de poortconflict-fout: ‘Bind for 0.0.0.0:3000 failed: port is already allocated’. Een andere container gebruikte poort 3000 al. Oplossing: een andere poort kiezen in de compose, in mijn geval koos ik voor 3002.

Het bleek daarnaast dat Reins, de chatapp op de Mac, na het instellen van OLLAMA_HOST zijn verbinding kwijt was. Reins verbond standaard met localhost, maar Ollama luisterde nu op het netwerk-IP. In de instellingen van Reins moest ik het serveradres aanpassen naar http://192.168.68.130:11434. Daarmee was het opgelost.

Met Open WebUI lokaal AI draaien op mijn smartphone.

Het resultaat

Open WebUI is nu bereikbaar via http://192.168.68.105:3002, op mijn Chromebook, mijn Pixel, en elk ander apparaat in het thuisnetwerk. Alle vier de modellen zijn beschikbaar: Qwen3:30b, Mistral Small 3.2, Gemma4:26b en TinyLlama. Per gesprek kies je welk model je wil gebruiken. Geen cloud, geen abonnement, geen data naar buiten. Dat was het doel vanaf het begin, en het werkt.


Wil je meer lezen over lokale AI en Big Tech-alternatieven? Lees ook het eerste deel: ‘Lokaal een LLM draaien op je Mac‘.


Geef een reactie

Deze site gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie gegevens worden verwerkt.