postl.ai
DE EN

Das Piestingtal

ein regionales
KI-Labor

postl.ai ist ein unabhängiges KI-Labor im oberen Piestingtal. Im Mittelpunkt stehen offene KI-Modelle, die sich vollständig lokal betreiben lassen: Das Labor führt sie auf eigener Infrastruktur aus, misst ihre Leistungsfähigkeit und erprobt sie im täglichen Einsatz: 100% Linux, quelloffen, ohne Cloud.

Linuxoffene ModelleRTX 5090 + RTX 3090256 GB Workstation-RAMlokale Inferenz
scrollen und hinab ↓

Das Labor

Ein Labor für offene künstliche Intelligenz.

Das Labor betreibt offene Modelle lokal und untersucht ihren Nutzen für Code, Text, Medien und Automatisierung.

Ryzen 9 9950X · RTX 5090 + RTX 3090 · 256 GB Workstation-RAM · Xeon-Inferenzserver · ZFS-Speicher

Auf eigener, lokaler Hardware

Die lokalen Inferenzsysteme stehen im Eigenbesitz hier im Piestingtal. Modellgewichte und die für diese Läufe benötigte Rechenleistung bleiben vor Ort.

Linux & offene Modelle

Linux, offene Inferenz-Engines und zugängliche Modellgewichte machen den Aufbau nachvollziehbar. Modelllizenzen unterscheiden sich; offene Gewichte bedeuten nicht automatisch uneingeschränkte Nutzung.

Daten bleiben im Haus

Die lokalen Modell-Endpunkte verarbeiten Inferenz auf eigener Hardware. Die Inferenz läuft ohne externe API.

Im Produktivbetrieb erprobt

Bewertet wird im Produktivbetrieb statt an synthetischen Demos: Web-Infrastruktur, autonome Agenten, Bild- und Videoproduktion, Automatisierung, unter anderem für den supersauna.club, dessen gesamte Infrastruktur auf diesen Systemen entsteht und betrieben wird.

Arbeitsfelder

Von der Inferenz bis zum Training.

Sechs Arbeitsfelder mit Praxisbeispielen und illustrativen Animationen.

Sprachmodelle & Inferenz

Offene Sprachmodelle von 8B bis zur Billionen-Klasse. Dazu die Quantisierungswahl, Kontext-Setups und der Abgleich von Geschwindigkeit und Qualität je nach Aufgabe.

Qwen3.8 · abliteratedGLM-5.3 · experimentallocal inference

Huihui Qwen3.8 Flash Next

abliterated · UD-Q4_K_XL

Ein Saunaprotokoll, das sich selbst schreibt: Temperatur und Luftfeuchte aufzeichnen, einen Aufguss an der Sensorkurve erkennen und die Session speichern. Das illustrative Coding-Beispiel zeigt, wie aus einer praktischen Vereinsaufgabe ein kleines lokales Werkzeug werden kann.

DIE AUFGABE

Plane einen Artikel für supersauna.club zum Saisonauftakt: Ausbildung, Saunazelt und regionale Partner.

SSCHerbst 2026 · Artikelplan
01
Einstieg: zurück aus der SommerpauseDie neue Saison einordnen und einen Überblick geben.
02
Ausbildung: drei neue SaunameisterErklären, was die Ausbildung dem Verein bringt.
03
Projekte: Saunazelt und regionale PartnerErfahrungen vom Saunafest und Unterstützung aus der Region verbinden.
04
Abschluss: Ausblick auf den HerbstKommende Vorhaben bündeln und weiterführende Infos verlinken.
Zum vorhandenen Artikel ↗GLM-5.3 · illustratives Planungsbeispiel

GLM-5.3 Flash Heretic

abliterated · IQ4/F16 · experimental

Vom Thema zur Artikelstruktur: Einstieg, Schwerpunkte und Abschluss für den vorhandenen Beitrag zum Saisonauftakt auf supersauna.club. Das illustrative Planungsbeispiel orientiert sich am veröffentlichten Text; GLM-5.3 ist als experimentelles Modell vorbereitet.

Generative Medien

Die ComfyUI-Pipeline erzeugt Bild, Video mit nativem Ton und Musik, vom Prompt bis zum fertigen Clip, vollständig auf eigenen GPUs.

FLUX.2SDXLWan 2.2LTX-2DiffRhythmComfyUI
Wan 2.2 – beforeQuellfoto
Wan 2.2
i2v · ComfyUI · RTX 5090

Wan 2.2

image-to-video · MoE diffusion 27B A14B · Apache-2.0

Offenes Video-Diffusionsmodell mit Mixture-of-Experts-Architektur. Im Bild-zu-Video-Modus animiert es ein einzelnes Standbild zu einem zeitlich kohärenten Clip und leitet Bewegung, Mimik und Kameraführung Bild für Bild ab.

t2v · native audio · ComfyUI · RTX 5090

LTX-2

text-to-video · diffusion transformer · open weights

Latenter Diffusions-Transformer für Synthese nahezu in Echtzeit, mit nativ erzeugter Tonspur. Er tauscht das minutenlange Rendern größerer Modelle gegen Clips in Sekunden, bei stabiler Bewegung.

FLUX.2 – beforeOriginal
FLUX.2 – afterFLUX.2
i2i · ComfyUI · RTX 5090

FLUX.2

image-to-image · rectified-flow transformer · open weights

Rectified-Flow-Transformer für fotorealistische Synthese. Im Bild-zu-Bild-Modus rendert es eine Vorlage unter neuem Licht, Stil und Atmosphäre neu und hält dabei Komposition und Identität fest.

FLUX.1 [schnell]

text-to-image · rectified flow, distilled · Apache-2.0

Auf wenige Sampling-Schritte destilliertes Text-zu-Bild-Modell unter Apache-2.0-Lizenz, also wirklich frei nutzbar und veränderbar. Besonders stark bei sauberer Typografie, Emblemen und Logos.

t2song · end-to-end · RTX 5090

DiffRhythm

text-to-song · latent diffusion · Apache-2.0

Latentes Diffusionsmodell, das einen ganzen Song, Gesang und Begleitung, end-to-end in Sekunden erzeugt. Eine offene, selbst gehostete Alternative zu Suno. Auf Play für die erste Strophe des Vereinslieds.

Vision & Erkennung

Objekterkennung und Tracking in Echtzeit-Video, Re-Identifikation, Kennzeichen- und Texterkennung und Segmentierung als Bausteine für eigene Anwendungen.

YOLOv11ByteTrackOSNetSAM 2PaddleOCRInsightFace
YOLOv11m + ByteTrack · eigener Lauf · RTX 5090

YOLOv11 + ByteTrack

detection · tracking · re-identification

Ein Single-Stage-Detektor: Ein einziger Vorwärtslauf findet und klassifiziert jedes Objekt im Bild. ByteTrack verknüpft die Erkennungen anschließend über die Frames hinweg, sodass jedes Objekt seine eigene ID behält, durch Verdeckungen hindurch, über die ganze Szene. Das ist der Unterschied zwischen Boxen zählen und Dinge zählen.

YOLOv11m-seg · eigener Lauf · RTX 5090

Instanz-Segmentierung

YOLOv11m-seg · pixel-exact masks

Eine Box sagt ungefähr wo. Eine Maske sagt genau welche Pixel. Dasselbe Material, Pixel für Pixel segmentiert: die Grundlage dafür, Objekte zu vermessen, zu zählen und freizustellen, statt sie nur zu lokalisieren.

Datenanalyse

Von der Rohaufnahme und unbeschrifteten Messreihe zu etwas Verwertbarem: Transkription, Clustering, semantische Suche über eigene Archive. Bei sensiblen Daten ist lokaler Betrieb keine Vorliebe, sondern Voraussetzung.

Whisper large-v3pyannotescikit-learnnomic-embedJupyterRAG

Aufnahme → Struktur

speech-to-text · diarization · extraction

Aus einer aufgezeichneten Vereinssitzung wird Text, aus dem Text werden Felder: Termine, Beschlüsse, offene Punkte, in einer Form, mit der andere Systeme weiterarbeiten. Die Aufnahme verlässt die Maschine nie.

Clustering

wine dataset · k-means · scikit-learn

178 Weine, je 13 chemische Messwerte, keinerlei Beschriftung. Auf zwei Dimensionen reduziert und k-means überlassen, sortieren sich die Proben in drei Gruppen, und diese Gruppen sind genau die drei Rebsorten, aus denen sie stammen. Gesagt hat das dem Algorithmus niemand; die Struktur steckte in den Daten. Echte Werte, hier gerechnet.

Semantische Suche

embeddings · vector search · RAG

Das Archiv als Vektorraum: Jedes Dokument wird zum Punkt, eine Frage landet mittendrin und zieht die Passagen heran, die sie tatsächlich beantworten, mit Quellen statt Vermutungen.

Training & Datenaufbereitung

Eigene Trainingsläufe, von LoRA-Anpassungen für Sprachmodelle bis zu Klassifikatoren und Detektoren auf eigenen Daten. Dazu gehört die Vorarbeit: bereinigen, standardisieren, Ausreißer erkennen, den Satz aufteilen. Ein Modell ist nie besser als die Daten, die es gesehen hat.

scikit-learnPyTorchLoRA / QLoRAUltralyticsGGUF-Quantisierung

Trainingslauf

MLP · 80 epochs · wine dataset

Dieselben 178 Weine, jetzt mit Beschriftung: Ein kleines neuronales Netz lernt, die drei Rebsorten anhand der 13 Messwerte zu unterscheiden. Zwei Kurven entscheiden, ob ein Lauf etwas taugt: Der Loss muss fallen, die Trefferquote auf Daten, die das Modell nie gesehen hat, muss steigen. Beide Kurven unten stammen aus dem tatsächlichen Lauf, hier gerechnet.

Datenaufbereitung

clean · standardise · outliers · split

Bevor eine einzige Epoche läuft, müssen die Daten vergleichbar werden: Messwerte in völlig verschiedenen Größenordnungen (Alkohol in Prozent, Prolin in Milligramm) werden standardisiert, damit kein Merkmal die anderen erschlägt. Ausreißer werden markiert, und ein Viertel des Satzes wird weggesperrt, damit das Modell an Daten geprüft werden kann, die es nie gesehen hat.

Agenten & Automatisierung

Autonome Agenten mit Werkzeug-Anbindung übernehmen laufende Aufgaben (recherchieren, überwachen, aufsetzen, berichten) rund um die Uhr auf eigener Hardware.

fritzTool-CallingOpenWebUISearXNGTelegram

fritz

autonomous agent · Super Sauna Club · 24/7

Fritz sitzt in einem Telegram-Chat. Das ist die ganze Bedienoberfläche. Ein Satz genügt: Er schlägt den Sponsoring-Vertrag nach, füllt die Rechnungsvorlage des Vereins und schickt das fertige PDF direkt in den Chat zurück. Das Modell dahinter läuft auf einer eigenen Maschine im Tal; kein Cloud-Dienst sieht die Anfrage, den Vertrag oder die Rechnung.

Die Flotte

Vier Maschinen, ein Standort.

Vier Systeme für Inferenz, Infrastruktur, Modellentwicklung und Agenten-Workflows. Bestand im September 2026 geprüft; bei orakel gilt der zuletzt dokumentierte Bestand vom Juli.

🧠

orakel

LLM inference · archive
144C · 1 TB DDR4

Acht Xeon-Sockel und ein Terabyte RAM für große Sprachmodelle. Hardware und Modellbestand zuletzt im Juli 2026 geprüft; Betrieb nach Bedarf.

🐧 Fedora Server 43 · 2026-07
Hardware
  • Lenovo x3950 X6 · 8× Xeon E7-8880 v3
  • 144 cores / 144 threads · 1 TB DDR4
Runs
  • GLM-5.2 Q8_0 · HumanEval 13/15 · 2026-07-27
  • Kimi-K2.5 Q3_K_M · 456 GiB · inventory 2026-07
  • ik_llama.cpp b4214 · recorded setup
🗄️

tower

core services & storage
ZFS · NVMe

Der Infrastruktur-Knoten für Websites, Speicher und selbst gehostete Dienste, darunter Nextcloud, Matrix und die Weboberflächen des Labors.

🐧 Unraid 7.3.1
Hardware
  • Threadripper 1950X · 16C/32T · 64 GB
  • RTX 2080 Ti
  • 12× 2 TB ZFS raidz2 · NVMe mirror · 20 TB backup
Runs
  • NGINX Proxy Manager · WordPress · Nextcloud
  • Matrix · OpenWebUI + SearXNG · Qdrant
  • Vaultwarden · AdGuard DNS · VPN · monitoring
⚡

lab

local models & generative media
5090 + 3090

Eine Ryzen-9-Workstation mit 256 GB RAM, RTX 5090 und RTX 3090. Die Qwen-Messungen vom September nutzen die RTX 5090 mit CPU/RAM-Auslagerung; die 3090 bleibt für den geplanten Wiedereinbau im Bestand.

🐧 Fedora 44
Hardware
  • Ryzen 9 9950X · 16C/32T · 256 GB DDR5
  • RTX 5090 (32 GB) + RTX 3090 (24 GB)
Runs
  • Huihui Qwen3.8 Flash Next Abliterated · UD-Q4_K_XL
  • Qwen3.8-27B Q4_K_M · Qwen3.8 Flash Next
  • llama.cpp · ComfyUI · local model dashboard
🛰️

fritz

Super Sauna Club · AI agent
SSC

Der Agenten-Rechner des Super Sauna Club für Automatisierung, Recherche und autorisierte Sicherheitstests, mit Telegram-Anbindung.

🐧 Kali Rolling 2026.3
Hardware
  • Intel i7-9700F · 8C/8T · 16 GB
  • RTX 2060 Super
Runs
  • Super Sauna Club · automation
  • Research · authorised security testing

Warum lokal

Offen und lokal, aus gutem Grund.

Künstliche Intelligenz wird zur Basisinfrastruktur, so grundlegend wie Strom, Wasser oder Internet. Und Infrastruktur sollte man besitzen können: verstehen, wie sie funktioniert, entscheiden, wie sie sich verhält, und sicher sein, dass sie morgen noch da ist. Zwei Prinzipien tragen deshalb dieses Labor:

offen

Offene Modelle gehören niemandem exklusiv. Ihre Gewichte lassen sich einsehen, ihr Verhalten lässt sich untersuchen und verändern, und einmal beschafft, bleiben sie für immer verfügbar, unabhängig davon, was aus ihrem Hersteller wird.

lokal

Was im eigenen Haus läuft, läuft auch dann noch, wenn draußen ein Dienst verschwindet, ein Preis steigt oder eine Richtlinie sich ändert. Die Daten verlassen das Haus nicht, die Rechenleistung ist planbar, und jedes Ergebnis bleibt reproduzierbar.

Offene Modelle, lokale Inferenz und dokumentierte Messungen — auf eigener Hardware, im Tal.

lokale Modelle
hier im Tal

Ein Labor, kein Hosting-Anbieter. Selbst gehostete Recheninfrastruktur im oberen Piestingtal.

Für Fragen und Austausch · t.postl@pm.me