LLM:2go – Ihre eigene, unternehmensinterne KI-Lösung

LLM:2go – wir begleiten Sie in eine unabhängige KI-Zukunft

Künstliche Intelligenz (KI) und generative Modelle gewinnen zunehmend an Bedeutung, da sie komplexe Aufgaben effizient lösen. Viele Unternehmen und Organisationen wollen allerdings aus Sicherheits- und Datenschutzgründen keine Public-Cloud-Lösungen nutzen.

Die Lösung: LLM:2go – eine umfassend durchdachte Hard- und Softwarearchitektur mit der Sie Ihr unternehmensinternes KI-Sprachmodell (Large Language Model) betreiben können. Mit dieser Open Source-Lösung verwalten Sie sämtliche Daten und Prozesse in Ihrer eigenen IT-Infrastrukur und behalten so die vollständige Kontrolle über Ihr Know-how, Ihre sensiblen Daten und Ihre Kosten. Darüber hinaus sind und bleiben Sie unabhängig von Cloudanbietern. Alle Ihre LLM:2go-basierten Applikationen werden somit kontrollierbar.

Mit der Integration von LLM:2go in Ihren Arbeitsprozessen können Ihre Mitarbeiter*innen ihre Stärken bestmöglich mit den Fähigkeiten der KI verbinden, sodass sich beide Seiten ergänzen, unterstützen und einen Mehrwert schaffen.

In der Basisvariante bietet LLM:2go Schnittstellen in Form eines textbasierten Dialogsystems, das entweder via Webportal oder maschinell (API) aufgerufen werden kann; es funktioniert also wie gängige Cloudlösungen. Mit LLM:2go können Sie die aktuellsten, State of the Art-Modelle betreiben.

Unser Basisangebot

Schritt 1:

Schritt 2:

Sie erhalten einen Zugang zum LLM, welches wir am SCCH verwenden. Dieses LLM können Sie unverbindlich testen.

"Wir nutzen am SCCH LLM:2go zur Unterstützung beim Programmieren und im administrativen Bereich." Christian Salomon

Sie möchten auch in Zukunft ein eigenes LLM nutzen? Dann gibt es folgende Optionen:

1) Sie verfügen über entsprechende Server-Hardware: Wir unterstützen Sie bei der Installation von LLM:2go.

2) Wir installieren LLM:2go auf der passenden Server-Hardware von DELL. Durch unsere Kooperation mit Dell|EMC können Sie LLM:2go auf diesem Server 100 Tage risikolos testen und danach über Betrieb oder Rückgabe entscheiden.

3) Sie wollen den Server nicht On-Premis betreiben: Dann können Sie LLM:2go im DSGVO-konformen Rechenzentrum unseres Partners ML11 hosten.

Die LLM:2go Basisvariante bietet

  • Textanalyse: Texte analysieren, verstehen und zusammenzufassen, um Ihnen wertvolle Einblicke zu liefern
  • eine verbesserte Kommunikation: Texte in natürlicher Sprache erzeugen, übersetzen und verbessern
  • die Nutzung eines Chatbot: (Fach)Fragen zu unterschiedlichen Themen beantworten lassen
  • Unterstützung beim Programmieren: Source Code direkt in gängigen IDEs erzeugen, dokumentieren und testen
  • u.v.m.

Weiterführende Angebote, um das volle Potenzial von LLM:2go nutzen zu können

Gemeinsam mit Ihnen identifizieren und analysieren wir jene Geschäftsprozesse, die am meisten von LLM:2go profitieren. In weiterer Folge können wir in einem (Forschungs-)Projekt individuelle Lösungen für Sie erarbeiten.

  • Schulungen und Training: Im Rahmen der SCCH-Academy schulen wir Ihre Mitarbeiter*innen im Umgang mit Sprachmodellen. So wird LLM:2go zu einem verlässlichen Teammitglied.

  • Retrieval Augmented Generation (RAG) System implementieren: Wir kombinieren LLM:2go mit Ihrem Datenmanagement, um Informationen aus Ihren internen Wissensquellen (Daten, Dokumente) zu extrahieren und in KI-generierte Antworten zu integrieren. Das Ergebnis sind effizientere Prozesse, da Mitarbeiter*innen weniger Zeit brauchen, um Information zu finden.

  • Finetuning durch Prompt-Optimierung: Diese Art des Finetunings ermöglicht LLM:2go an neue Aufgaben oder spezifische Domänen anzupassen. Das Modell kann z. B. die juristische Fachsprache durch domainspezifisches Prompten erlernen und für die automatisierte Handhabung von Verträgen oder Rechtsdokumenten vorbereitet und auch für eine strukturierte Suche verwendet werden.

  • Anbindung der unternehmensinternen Softwaresysteme: Durch die integrierte Programmierschnittstelle (API) können wir LLM:2go an unternehmensintene Softwareapplikationen aller Art anbinden. In Kombination mit einem Mail-Client oder einem Ticketing-System können so etwa Serviceanfragen (teil-)automatisiert zusammengefasst, übersetzt und beantwortet werden.

Bei allen weiterführenden Schritten beraten wir Sie gerne und umfassend!

Hier gehts zum Folder LLM:2go.

Salomon Christian

Area Manager Services and Solutions
Software and Product Development
Telefon: +43 50 343 859

Kopetzky Theodorich

Area Manager Services and Solutions
Data and AI Transformation
Telefon: +43 50 343 870