More-With-Less entwickelt ein Open-Source-Framework zur effizienten und kostengünstigen Anpassung von großen Sprachmodellen für KMU-spezifische Anwendungen.
Der Kunde
Herausforderung
Projektlaufzeit: 01.04.2023 – 31.03.2026
In den vergangenen Jahren wurden eine Reihe bahnbrechender Ergebnisse mithilfe von großen KI-Sprachmodellen erzielt – Modelle wie GPT von OpenAI oder PaLM von Google bilden hierbei nur die Spitze des Eisbergs.
Europäische Technologieentwickler und Nutzer dieser Technologien, vor allem aber kleine und mittelständische Unternehmen (KMUs), geraten bei dieser Entwicklung jedoch zunehmend ins Hintertreffen. Die für den Einsatz großer KI-Sprachmodelle notwendige Infrastruktur, Rechenleistung und Expertise sind in vielen Fällen nicht ausreichend vorhanden oder unwirtschaftlich im Betrieb.
Das Forschungsprojekt zielt auf die Entwicklung eines Frameworks zur effizienten Anpassung großer Sprachmodelle für KMU-spezifische Anwendungen ab. Die entwickelten Methoden sollen vorwiegend niederschwellig einsetzbar sein, ohne dass spezielle KI-Expertise oder große Trainingsdatensätze benötigt werden.
Lösung
Ergebnisse & Auswirkungen
Merantix Momentum trägt mit fachlicher Expertise zur natürlichen Sprachverarbeitung und zu großen Sprachmodellen wesentlich zum Erfolg von More-with-less bei. Eine besondere Bedeutung wird der Entwicklung von Lernmethoden beigemessen, die mit geringen Mengen an Trainingsdaten und Rechenkosten auskommen.
In diesem Zuge werden zahlreiche Feintuning- und Meta-Learning-Techniken untersucht, wie z. B. Adapter oder Few-Shot-Learning Verfahren. Die technische Basis wird eine Open-Source-Bibliothek bilden, mit deren Hilfe sich existierende Sprachmodelle schnell und unkompliziert auf Anwendungsfälle anpassen lassen.
Die Entwicklung eines exemplarischen Frameworks zum effizienten Deployment einer kompletten KI-Lösung ist eng damit verbunden. Der Ansatz wird schließlich an einem ausgewählten Anwendungsfall demonstriert: dem Matching von Dokumenten für Unternehmen im Legal-Tech-Bereich.
.png)
.png)
