Das Heidelberger Start-up Aleph Alpha hat ein neues großes Sprachmodell veröffentlicht. „Kolibri“ soll auf geschäftskritische Anwendungen in der öffentlichen Verwaltung und Industrie zugeschnitten und vor allem für die deutsche Sprache entwickelt worden sein. 23 Prozent der sogenannten Pre-Training-Daten waren deutschsprachige Texte. Auch der sogenannte Tokenizer sei auf Deutsch optimiert. Gemeint ist eine Software, die Texte in kleinere, verarbeitbare Einheiten zerlegt, sogenannte Token. Diese Token sind auch die Abrechnungseinheit für den Gebrauch von KI-Modellen. Ein auf Deutsch optimierter Tokenizer soll deutschsprachige Inhalte effizienter und damit günstiger verarbeiten können.
Mit 78 Milliarden Parametern ist das Modell vergleichsweise klein. Modellparameter sind die im Training gelernten Zahlenwerte der KI. Sie steuern, wie ein Modell Eingaben in Ausgaben umwandelt. „Wir wollen nicht mit den großen Allzweckmodellen mithalten, sondern in unserer Nische das beste Modell für unsere deutschsprachigen Kunden im öffentlichen Sektor, im Legal-Bereich und der Industrie bieten“, sagte Ilhan Scheer, der Ko-Chef von Aleph Alpha, im Gespräch mit der F.A.Z. im September.
Übernahme durch Cohere
Das neue Modell dürfte eine der letzten Veröffentlichungen sein, die Aleph Alpha als eigenständiges Unternehmen tätigt. Das Unternehmen wird vom deutlich größeren kanadischen Wettbewerber Cohere übernommen. Das Unternehmen wird auf der ganzen Welt als Cohere firmieren. Der Standort von Aleph Alpha in Heidelberg bleibt erhalten und wird zum „Tech Hub“. Berlin soll neben Toronto zur zweiten Unternehmenszentrale für das neue kanadisch-deutsche Unternehmen werden. Die Transaktion steht noch unter dem Vorbehalt behördlicher Genehmigungen, die Cohere bis Ende des Jahres erwartet.
Das 2019 gegründete Aleph Alpha galt nach dem Erscheinen des KI-Chatbots ChatGPT im Jahr 2022 als große deutsche Hoffnung auf eigene KI-Sprachmodelle. Doch die hochgesteckten Erwartungen konnte das Start-up nicht erfüllen, mit dem rasanten Fortschritt konnte Aleph Alpha technisch nicht mithalten. Das Start-up fokussierte sich daraufhin stärker auf die Entwicklung einer Orchestrierungsplattform für KI und auf branchenspezifische KI-Anwendungen als auf KI-Grundlagenmodelle auf dem neuesten Stand der Technik.
Anfang des Jahres verließ Gründer Jonas Andrulis das Unternehmen – wohl auch, weil er mit der neuen Ausrichtung des Unternehmens unter seinem Nachfolger in der Geschäftsführung, Ilhan Scheer, nicht vollständig einverstanden war. Scheer entließ unter anderem 50 Mitarbeiter wegen eines stärkeren Fokus auf das Kerngeschäft.
Der ehemalige Accenture-Manager hatte die baldige Veröffentlichung eines neuen KI-Modells im F.A.Z.-Gespräch im September verkündet. Durch die mediale Aufmerksamkeit habe Aleph Alpha lange sehr viele Kundenanfragen mit ganz unterschiedlichen Anliegen angenommen, ohne die Kapazitäten für so ein aufwendiges Projektgeschäft zu haben. Hinzu kam eine Vielzahl an Vertriebspartnerschaften mit Beratungen, die man nicht richtig habe bedienen können. Das habe teils zu Unzufriedenheit bei Partnern und Kunden geführt. Scheer stoppte viele Partnerschaften. „Wir machen keine KI-Dienstleistungen mehr, die nichts mit unseren Kernprodukten zu tun haben“, sagte er. Das Unternehmen solle sich wieder stärker auf das Wesentliche konzentrieren: die Entwicklung großer Sprachmodelle und eine Plattform, um diese in Unternehmen und Behörden einzusetzen.
