Millionen für “Europa-KI”

Diese Initiative wird von einem breit aufgestellten Konsortium getragen, das sich aus innovativen Start-ups, renommierten Universitäten und führenden Supercomputing-Zentren zusammensetzt.

Peter Sarlin, der als Co-Leiter des Projekts fungiert, hat eine klare Vision: Die Entwicklung völlig neuer Sprachmodelle der nächsten Generation, die allen europäischen Bürgern, Unternehmen und Verwaltungen zur Verfügung stehen sollen. Für Sarlin und sein finnisches Unternehmen “Silo AI” stellt dies eine logische Weiterführung ihrer bisherigen Arbeit an offenen, mehrsprachigen KI-Modellen dar.

Ein zentrales Anliegen dieser groß angelegten Initiative ist es, eine digitale Kluft innerhalb Europas zu verhindern. Die revolutionären Veränderungen, die Sprachmodelle in der Arbeitswelt bewirken, sind unübersehbar - sie ermöglichen weitreichende Prozessautomatisierungen. Allerdings hat diese technologische Revolution bisher nicht alle EU-Länder gleichermaßen erreicht. Das Problem liegt in der sprachlichen Ausrichtung bestehender Systeme: Während aktuelle Chatbots wie “ChatGPT” zwar mehrere Sprachen beherrschen, zeigt sich eine deutliche Qualitätsdiskrepanz zwischen Englisch und weniger verbreiteten Sprachen. Große KI-Unternehmen wie “OpenAI”, “Anthropic” oder “Google” sehen bislang keine wirtschaftliche Rechtfertigung dafür, in Sprachen wie Estnisch zu investieren, das von nur etwa 1,2 Millionen Menschen gesprochen wird.

Das neue “OpenEuroLLM”-Projekt, von Sarlin als “Moonshot” bezeichnet, setzt sich ein außergewöhnlich ehrgeiziges Ziel: Die Entwicklung von Sprachmodellen, die von Beginn an 35 verschiedene Sprachen beherrschen sollen. Diese umfassen nicht nur die Sprachen der EU-Mitgliedsstaaten, sondern auch die der Beitrittskandidaten sowie verschiedene Regionalsprachen. Das Besondere dabei: Die Qualität soll in allen Sprachen gleichermaßen hoch sein, egal ob es sich um Estnisch, Slowenisch, Litauisch oder die großen europäischen Sprachen handelt.

Die technische Herausforderung ist beträchtlich, wie Jan Hajic, Computerlinguist an der Prager Karls-Universität und Projektkoordinator, betont. Das Hauptproblem liegt in der Verfügbarkeit von Trainingsdaten für kleinere Sprachen - ein Hindernis, das bisher noch niemand erfolgreich überwunden hat.

Deutsche Expertise ist durch mehrere Institutionen vertreten:

Neben dem “Fraunhofer-Institut” sind das “Ellis-Institut” und die Universität Tübingen beteiligt. Auch innovative Start-ups wie “Aleph Alpha” aus Heidelberg und der Bremer KI-Spezialist “Ellamind” bringen ihr Know-how ein. Ein wichtiger Aspekt des Projekts ist seine Offenheit: Sowohl der Programmcode als auch die Forschungsergebnisse werden als Open Source zur Verfügung gestellt, wodurch eine breite Nutzung und Weiterentwicklung ermöglicht wird.

Die finanzielle Dimension ist beachtlich: 

Die EU-Kommission stellt über drei Jahre bis zu 54 Millionen Euro bereit. Davon sind mehr als 34 Millionen Euro für Personalkosten vorgesehen, wobei etwa 20 Millionen aus dem EU-Programm “Digitales Europa” stammen. Zusätzliche Kosten entstehen für die Sammlung und Aufbereitung der Trainingsdaten. Besonders interessant ist der Aspekt der Rechenleistung: Für das Training der Modelle wird Computing-Power im Wert eines dreistelligen Millionenbetrags benötigt. Diese soll von “EuroHPC-Supercomputern”, unter anderem in Barcelona und Jülich, bereitgestellt werden.

Zum Vergleich: Das Training von “GPT-4” kostete etwa 78 Millionen Dollar, während Anthropics “Claude Sonnet 3.5” mehrere zehn Millionen Dollar verschlang. Hoffnung macht das chinesische Start-up “Deepseek”, das angibt, ein leistungsstarkes KI-Modell für nur 5,6 Millionen Dollar trainiert zu haben.

Die EU und ihre Mitgliedsstaaten investieren erheblich in ihre Hochleistungsrechner-Infrastruktur: Zwischen 2021 und 2027 sind etwa sieben Milliarden Euro vorgesehen. Allerdings sind diese Systeme bisher nicht speziell für das Training großer KI-Modelle konzipiert. Dennoch zeigt sich Projektkoordinator Hajic zuversichtlich, dass die vorhandenen Kapazitäten ausreichen werden, um mit den führenden kommerziellen Sprachmodellen konkurrieren zu können.