Das Piestingtal
postl.ai ist ein unabhängiges KI-Labor im oberen Piestingtal. Im Mittelpunkt stehen offene KI-Modelle, die sich vollständig lokal betreiben lassen: Das Labor führt sie auf eigener Infrastruktur aus, misst ihre Leistungsfähigkeit und erprobt sie im täglichen Einsatz: 100% Linux, quelloffen, ohne Cloud.
Das Labor
Das Labor betreibt offene Modelle lokal und untersucht ihren Nutzen für Code, Text, Medien und Automatisierung.
Ryzen 9 9950X · RTX 5090 + RTX 3090 · 256 GB Workstation-RAM · Xeon-Inferenzserver · ZFS-Speicher
Die lokalen Inferenzsysteme stehen im Eigenbesitz hier im Piestingtal. Modellgewichte und die für diese Läufe benötigte Rechenleistung bleiben vor Ort.
Linux, offene Inferenz-Engines und zugängliche Modellgewichte machen den Aufbau nachvollziehbar. Modelllizenzen unterscheiden sich; offene Gewichte bedeuten nicht automatisch uneingeschränkte Nutzung.
Die lokalen Modell-Endpunkte verarbeiten Inferenz auf eigener Hardware. Die Inferenz läuft ohne externe API.
Bewertet wird im Produktivbetrieb statt an synthetischen Demos: Web-Infrastruktur, autonome Agenten, Bild- und Videoproduktion, Automatisierung, unter anderem für den supersauna.club, dessen gesamte Infrastruktur auf diesen Systemen entsteht und betrieben wird.
Arbeitsfelder
Sechs Arbeitsfelder mit Praxisbeispielen und illustrativen Animationen.
Offene Sprachmodelle von 8B bis zur Billionen-Klasse. Dazu die Quantisierungswahl, Kontext-Setups und der Abgleich von Geschwindigkeit und Qualität je nach Aufgabe.
Ein Saunaprotokoll, das sich selbst schreibt: Temperatur und Luftfeuchte aufzeichnen, einen Aufguss an der Sensorkurve erkennen und die Session speichern. Das illustrative Coding-Beispiel zeigt, wie aus einer praktischen Vereinsaufgabe ein kleines lokales Werkzeug werden kann.
Plane einen Artikel für supersauna.club zum Saisonauftakt: Ausbildung, Saunazelt und regionale Partner.
Vom Thema zur Artikelstruktur: Einstieg, Schwerpunkte und Abschluss für den vorhandenen Beitrag zum Saisonauftakt auf supersauna.club. Das illustrative Planungsbeispiel orientiert sich am veröffentlichten Text; GLM-5.3 ist als experimentelles Modell vorbereitet.
Die ComfyUI-Pipeline erzeugt Bild, Video mit nativem Ton und Musik, vom Prompt bis zum fertigen Clip, vollständig auf eigenen GPUs.
QuellfotoOffenes Video-Diffusionsmodell mit Mixture-of-Experts-Architektur. Im Bild-zu-Video-Modus animiert es ein einzelnes Standbild zu einem zeitlich kohärenten Clip und leitet Bewegung, Mimik und Kameraführung Bild für Bild ab.
Latenter Diffusions-Transformer für Synthese nahezu in Echtzeit, mit nativ erzeugter Tonspur. Er tauscht das minutenlange Rendern größerer Modelle gegen Clips in Sekunden, bei stabiler Bewegung.
Original
FLUX.2Rectified-Flow-Transformer für fotorealistische Synthese. Im Bild-zu-Bild-Modus rendert es eine Vorlage unter neuem Licht, Stil und Atmosphäre neu und hält dabei Komposition und Identität fest.
Auf wenige Sampling-Schritte destilliertes Text-zu-Bild-Modell unter Apache-2.0-Lizenz, also wirklich frei nutzbar und veränderbar. Besonders stark bei sauberer Typografie, Emblemen und Logos.
Latentes Diffusionsmodell, das einen ganzen Song, Gesang und Begleitung, end-to-end in Sekunden erzeugt. Eine offene, selbst gehostete Alternative zu Suno. Auf Play für die erste Strophe des Vereinslieds.
Objekterkennung und Tracking in Echtzeit-Video, Re-Identifikation, Kennzeichen- und Texterkennung und Segmentierung als Bausteine für eigene Anwendungen.
Ein Single-Stage-Detektor: Ein einziger Vorwärtslauf findet und klassifiziert jedes Objekt im Bild. ByteTrack verknüpft die Erkennungen anschließend über die Frames hinweg, sodass jedes Objekt seine eigene ID behält, durch Verdeckungen hindurch, über die ganze Szene. Das ist der Unterschied zwischen Boxen zählen und Dinge zählen.
Eine Box sagt ungefähr wo. Eine Maske sagt genau welche Pixel. Dasselbe Material, Pixel für Pixel segmentiert: die Grundlage dafür, Objekte zu vermessen, zu zählen und freizustellen, statt sie nur zu lokalisieren.
Von der Rohaufnahme und unbeschrifteten Messreihe zu etwas Verwertbarem: Transkription, Clustering, semantische Suche über eigene Archive. Bei sensiblen Daten ist lokaler Betrieb keine Vorliebe, sondern Voraussetzung.
Aus einer aufgezeichneten Vereinssitzung wird Text, aus dem Text werden Felder: Termine, Beschlüsse, offene Punkte, in einer Form, mit der andere Systeme weiterarbeiten. Die Aufnahme verlässt die Maschine nie.
178 Weine, je 13 chemische Messwerte, keinerlei Beschriftung. Auf zwei Dimensionen reduziert und k-means überlassen, sortieren sich die Proben in drei Gruppen, und diese Gruppen sind genau die drei Rebsorten, aus denen sie stammen. Gesagt hat das dem Algorithmus niemand; die Struktur steckte in den Daten. Echte Werte, hier gerechnet.
Das Archiv als Vektorraum: Jedes Dokument wird zum Punkt, eine Frage landet mittendrin und zieht die Passagen heran, die sie tatsächlich beantworten, mit Quellen statt Vermutungen.
Eigene Trainingsläufe, von LoRA-Anpassungen für Sprachmodelle bis zu Klassifikatoren und Detektoren auf eigenen Daten. Dazu gehört die Vorarbeit: bereinigen, standardisieren, Ausreißer erkennen, den Satz aufteilen. Ein Modell ist nie besser als die Daten, die es gesehen hat.
Dieselben 178 Weine, jetzt mit Beschriftung: Ein kleines neuronales Netz lernt, die drei Rebsorten anhand der 13 Messwerte zu unterscheiden. Zwei Kurven entscheiden, ob ein Lauf etwas taugt: Der Loss muss fallen, die Trefferquote auf Daten, die das Modell nie gesehen hat, muss steigen. Beide Kurven unten stammen aus dem tatsächlichen Lauf, hier gerechnet.
Bevor eine einzige Epoche läuft, müssen die Daten vergleichbar werden: Messwerte in völlig verschiedenen Größenordnungen (Alkohol in Prozent, Prolin in Milligramm) werden standardisiert, damit kein Merkmal die anderen erschlägt. Ausreißer werden markiert, und ein Viertel des Satzes wird weggesperrt, damit das Modell an Daten geprüft werden kann, die es nie gesehen hat.
Autonome Agenten mit Werkzeug-Anbindung übernehmen laufende Aufgaben (recherchieren, überwachen, aufsetzen, berichten) rund um die Uhr auf eigener Hardware.
Fritz sitzt in einem Telegram-Chat. Das ist die ganze Bedienoberfläche. Ein Satz genügt: Er schlägt den Sponsoring-Vertrag nach, füllt die Rechnungsvorlage des Vereins und schickt das fertige PDF direkt in den Chat zurück. Das Modell dahinter läuft auf einer eigenen Maschine im Tal; kein Cloud-Dienst sieht die Anfrage, den Vertrag oder die Rechnung.
Die Flotte
Vier Systeme mit klar getrennten Aufgaben: Inferenz, Dienste und Speicher, Modellentwicklung, autonomer Agent. Jede Maschine läuft unter Linux, jeder Datenträger ist LUKS-verschlüsselt, und eine 10-kVA-USV trägt den gesamten Standort durch Stromausfälle.
Ein Acht-Sockel-Enterprise-Server mit acht Xeon-E7-v3-Prozessoren über 144 Kerne, der das offene Flaggschiff GLM-5.2 in voller Q8-Präzision direkt aus einem Terabyte DDR4 bereitstellt.
Der Kern-Knoten: 53 Container für rund 30 Domains und eine vollständige VM-Farm auf doppelt-paritätem, verschlüsseltem ZFS.
Eine Ryzen-9-Workstation mit 256 GB DDR5-6600-RAM und RTX 5090 + RTX 3090, auf der Sprach-, Bild- und Videomodelle entwickelt und gebenchmarkt werden.
Fritz, der KI-Agent des Super Sauna Club, der vollständig selbstständig arbeiten kann. Er übernimmt zusätzlich OSINT-Recherche und autorisierte Penetrationstests, weshalb er auf Kali läuft. Per Telegram erreichbar.
Warum lokal
Künstliche Intelligenz wird zur Basisinfrastruktur, so grundlegend wie Strom, Wasser oder Internet. Und Infrastruktur sollte man besitzen können: verstehen, wie sie funktioniert, entscheiden, wie sie sich verhält, und sicher sein, dass sie morgen noch da ist. Zwei Prinzipien tragen deshalb dieses Labor:
Offene Modelle gehören niemandem exklusiv. Ihre Gewichte lassen sich einsehen, ihr Verhalten lässt sich untersuchen und verändern, und einmal beschafft, bleiben sie für immer verfügbar, unabhängig davon, was aus ihrem Hersteller wird.
Was im eigenen Haus läuft, läuft auch dann noch, wenn draußen ein Dienst verschwindet, ein Preis steigt oder eine Richtlinie sich ändert. Die Daten verlassen das Haus nicht, die Rechenleistung ist planbar, und jedes Ergebnis bleibt reproduzierbar.
Offene Modelle, lokale Inferenz und dokumentierte Messungen — auf eigener Hardware, im Tal.
Ein Labor, kein Hosting-Anbieter. Selbst gehostete Recheninfrastruktur im oberen Piestingtal.
Für Fragen und Austausch · t.postl@pm.me