In der Diskussion um generative KI wird unter Experten häufig die Frage nach dem "richtigen" Large Language Model (LLM) gestellt. Soll es ChatGPT oder soll/kann es auch ein anderes Modell sein? Die Komplexität dieser Frage wird durch die unterschiedlichen Kriterien und Dimensionen schnell deutlich: Open Source vs. proprietär, öffentliches LLM vs. eigenes LLM, on-premise vs. SaaS. Auch sind die Aspekte Stabilität, Schulungs- und Nutzungskosten, Anbieter-Login, Kontrollierbarkeit und Datenschutz weitere wichtige Entscheidungsparameter.
Natürlich gibt es nicht die eine Antwort. Natürlich kann man sich eigene Sprachmodelle entwickeln. Dies bedeutet aber: man benötigt sehr viele Trainingsdaten und viel Rechenkapazität, das geht schnell in die Millionenbeträge an Aufwand. Man kann auch bestehende Open-Source-Modelle wie Llama, BERT, Falcon und mpt über verschiedene Optimierungsphasen (Prompting, Embeddings, Feintuning) an spezifische Unternehmensanforderungen und Domänen anpassen, um einen hohen Qualitäts- und Reifegrad zu erreichen. Aber auch dies erfordert ein entsprechendes Wissen über die Sprachmodelle selbst und die notwendigen Technologien und Engineering-Schritte.
Wer all dies nicht hat oder auch nicht möchte, ist mit der Nutzung von ChatGPT sehr gut bedient. Es deckt eine sehr große Breite des allgemeinen Weltwissens ab und ist zu vergleichsweise geringen Kosten nutzbar. Vorhandene Nachteile von ChatGPT, wie zum Beispiel das „Halluzinieren“ oder der Datenschutz sind durch die Kombination mit der NLU-Engine von Kauz („hybrider Ansatz“) eliminier- bzw. eingrenzbar. Auch ist dieser hybride Ansatz von Kauz „Modell-unabhängig“. D.h. sollte sich in der Zukunft herausstellen, dass andere Sprachmodelle die eigenen Anforderungen besser abdecken, kann der hybride Chatbot von Kauz einfach auf ein anderes Sprachmodell transferiert werden.
Wer ChatGPT grundsätzlich nicht möchte, kann über Prompting, zusätzliches vektorisiertes Wissen und Transfer-Lernen kleinere Open-Source-Modelle mit Fokus auf spezifische Aufgaben und Domänen entwickeln. Auch hierfür kann Kauz die entsprechende Unterstützung bieten. Kauz bietet diese „LLM-AI-Services“ gerne, ganz unabhängig von seinen eigenen Chatbot-Technologien an. Sprechen Sie mich gerne hierauf an.
Comments