OpenWebUI
Chat-Oberfläche für lokal betriebene KI-Sprachmodelle. Chats können mit eigenen Wissensdatenbanken (RAGs) kombiniert werden. Deine Daten und Chats bleiben datenschutzfreundlich auf universitären Servern.
Wir betreiben eine lokale Infrastruktur für Anwendungen im Bereich Künstliche Intelligenz und unterstützen den Einsatz von KI-Sprachmodellen sowie verwandten Systemen. Dafür stellen wir unter anderem eine leistungsstarke GPUStack-Instanz für das permanente Hosting verschiedener Large Language Models (LLMs) sowie eine intuitive OpenWebUI-Instanz als benutzerfreundliche Chat-Oberfläche bereit. Die zentrale Nextcloud-Instanz haben wir um einen Audio-Transkriptionsdienst erweitert.
Aktuell befindet sich unsere Infrastruktur in einer Evaluierungs- und Aufbauphase und wir freuen uns über ihr Feedback für Verbesserungen. Es ist geplant diese Instanz in einen regulären URZ- bzw. HS-ITZ-Dienst zu überführen. Ihre Daten bleiben in jedem Fall lokal auf universitären Servern.