Grundlagen

Modellwahl

Nicht jede Aufgabe braucht das absolut intelligenteste Modell der Welt.

Wenn dir jemand etwas erklären soll, brauchst du dafür immer die kompetenteste Person der Welt? Wenn dir jemand ein Hotel suchen soll, muss diese Person einen Doktortitel in Geschichte, Physik und Literatur haben?

Nein. Und so ist es auch mit LLMs.

Gute Modelle für die richtige Aufgabe

elmtree verwendet Modelle, die sehr leistungsfähig sind und unseren Such-Agenten zuverlässig einsetzen können. Das Ziel ist nicht, für jede einfache Anfrage das größte Modell zu verwenden, sondern die passende Modellklasse für die Aufgabe zu wählen.

Für viele Fragen ist entscheidend, dass das Modell aktuelle Informationen sauber auswertet, Quellen richtig einordnet und die Antwort verständlich präsentiert. Dafür kombinieren wir starke Modelle mit einem Such-Agenten, der aktuelle Informationen recherchieren und in die Antwort einarbeiten kann.

Feinabstimmung für elmtree

Wir haben die eingesetzten Modelle mit PEFT feinabgestimmt, damit sie besser auf das reagieren, was elmtree für dich tun soll: aktuelle Informationen auswerten, Datenschutzgrenzen respektieren, sauber mit Pseudonymisierung umgehen und Antworten so strukturieren, dass sie in der Praxis helfen.