Leibniz Universität Hannover - Beschaffung von GPU- und CPU-Rechenleistung zum Training eines LLM

Die Gottfried Wilhelm Leibniz Universität Hannover schreibt für das Projekt "EU-SAI" die Beschaffung von GPU- und CPU-Rechenleistung für das Training eines großen Sprachmodells (Large Language Model, LLM) mit mindestens 100 Milliarden Parametern und mindestens 12 Billionen Token aus. Im Rahmen eines staatlich geförderten Projekts, das bis zum 30. Juni 2026 …

CPV: 72250000 Services de maintenance des systèmes et services d'assistance
Délai:
7 octobre 2025 12:00
Type de délai:
Soumission d'offres
Lieu d'exécution:
Leibniz Universität Hannover - Beschaffung von GPU- und CPU-Rechenleistung zum Training eines LLM
Service d'adjudication:
Gottfried Wilhelm Leibniz Universität Hannover
Numéro d'adjudication:
LUH_LLM2025

1. Beschaffer

1.1 Beschaffer

Offizielle Bezeichnung : Gottfried Wilhelm Leibniz Universität Hannover
Rechtsform des Erwerbers : Öffentliches Unternehmen
Tätigkeit des öffentlichen Auftraggebers : Bildung

2. Verfahren

2.1 Verfahren

Titel : Leibniz Universität Hannover - Beschaffung von GPU- und CPU-Rechenleistung zum Training eines LLM
Beschreibung : Die Gottfried Wilhelm Leibniz Universität Hannover schreibt für das Projekt "EU-SAI" die Beschaffung von GPU- und CPU-Rechenleistung für das Training eines großen Sprachmodells (Large Language Model, LLM) mit mindestens 100 Milliarden Parametern und mindestens 12 Billionen Token aus.
Kennung des Verfahrens : e42b63a3-e1d0-480e-bd97-4f2bd4183f74
Interne Kennung : LUH_LLM2025
Verfahrensart : Offenes Verfahren
Das Verfahren wird beschleunigt : nein

2.1.1 Zweck

Art des Auftrags : Dienstleistungen
Haupteinstufung ( cpv ): 72250000 Systemdienstleistungen und Unterstützungsdienste

2.1.2 Erfüllungsort

Land, Gliederung (NUTS) : Region Hannover ( DE929 )
Land : Deutschland

2.1.4 Allgemeine Informationen

Zusätzliche Informationen : 1. Alle Nachweise können in Form von Eigenerklärungen erfolgen, soweit sich aus der Ausschreibung nicht etwas anderes ergibt. Alle vom Auftraggeber bereitgestellten Formblätter sind zwingend zu verwenden. 2. Alle weiteren Informationen zu diesem Vergabeverfahren wie Änderungen der Leistungsbeschreibung, Beantwortung von Bieterfragen oder sonstige verfahrensrelevante Informationen werden über das Vergabeportal bereitgestellt. Für Fragen und sonstige Kommunikation in diesem Verfahren ist ausschließlich die Kommunikationsfunktion des Vergabeportals Deutsche eVergabe zu verwenden. 3. Das Angebot ist in deutscher oder in englischer Sprache abzufassen und bis spätestens zum Ende der Frist vorzulegen. Angebote müssen in elektronischer Form eingereicht werden. Die Abgabe ist ausschließlich über das Vergabeportal Deutsche eVergabe möglich. 4. Eine Einreichung per E-Mail, Telefax oder in schriftlicher Form ist nicht zulässig. 5. Der Auftraggeber erstattet keine Kosten, die für die Teilnahme am Vergabeverfahren entstehen.
Rechtsgrundlage :
Richtlinie 2014/24/EU
vgv -

2.1.6 Ausschlussgründe

Quellen der Ausschlussgründe : Bekanntmachung
Korruption :
Betrug :
Geldwäsche oder Terrorismusfinanzierung :
Kinderarbeit und andere Formen des Menschenhandels :
Beteiligung an einer kriminellen Vereinigung :
Terroristische Straftaten oder Straftaten im Zusammenhang mit terroristischen Aktivitäten :
Verstoß gegen umweltrechtliche Verpflichtungen :
Verstoß gegen arbeitsrechtliche Verpflichtungen :
Verstoß gegen sozialrechtliche Verpflichtungen :
Vereinbarungen mit anderen Wirtschaftsteilnehmern zur Verzerrung des Wettbewerbs :
Schwerwiegendes berufliches Fehlverhalten :
Falsche Angaben, verweigerte Informationen, die nicht in der Lage sind, die erforderlichen Unterlagen vorzulegen, und haben vertrauliche Informationen über dieses Verfahren erhalten. :
Interessenkonflikt aufgrund seiner Teilnahme an dem Vergabeverfahren :
Direkte oder indirekte Beteiligung an der Vorbereitung des Vergabeverfahrens :
Vorzeitige Beendigung, Schadensersatz oder andere vergleichbare Sanktionen :
Verstoß gegen die in den rein innerstaatlichen Ausschlussgründen verankerten Verpflichtungen :
Verstoß gegen die Verpflichtung zur Entrichtung von Sozialversicherungsbeiträgen :
Verstoß gegen die Verpflichtung zur Entrichtung von Steuern :
Einstellung der gewerblichen Tätigkeit :
Zahlungsunfähigkeit :
Verwaltung der Vermögenswerte durch einen Insolvenzverwalter :
Der Zahlungsunfähigkeit vergleichbare Lage gemäß nationaler Rechtsvorschriften :

5. Los

5.1 Technische ID des Loses : LOT-0001

Titel : Leibniz Universität Hannover - Beschaffung von GPU- und CPU-Rechenleistung zum Training eines LLM
Beschreibung : Im Rahmen eines staatlich geförderten Projekts, das bis zum 30. Juni 2026 läuft, veröffentlicht die Gottfried Wilhelm Leibniz Universität Hannover (LUH, Auftraggeber) diese europaweite Ausschreibung zur Beschaffung von GPU- und CPU-Rechenleistung für das Training eines Large Language Models (LLM) mit mindestens 100 Milliarden Parametern und mindestens 12 Billionen Token, einschließlich weiterer Aufgaben wie in den Vergabeunterlagen aufgeführt. Die verbindliche Mindestanforderung an die GPU-Rechenleistung beträgt 3,133 × 10²⁵ FLOPs. Dies entspricht ungefähr 8,8 Millionen GPU-Stunden auf einer NVIDIA H100 (H100 80 GB SXM5). Zusätzlich zur GPU-Kapazität verlangt der Auftraggeber 7,5 Millionen CPU-Kernstunden für ergänzende Vorverarbeitung, Orchestrierung und unterstützende Arbeitslasten. FLOPs werden definiert als das Produkt aus (Anzahl der gelieferten GPU-Stunden) x (vom Hersteller angegebener nicht-spärlicher BF16-Tensor-Core-Durchsatz pro GPU). Alle in dieser Ausschreibung definierten Anforderungen ergeben sich direkt aus dem Ziel des Auftraggebers, ein Modell mit mindestens 100 Milliarden Parametern auf mindestens 12 Billionen Tokes innerhalb von 8-10 Monaten zu trainieren. Für das Training des Modells und die zu erfüllenden Aufgabe sind ausschließlich NVIDIA-GPUs zugelassen (H100, H200 oder spätere Generationen wie B100, B200 oder GB200). Diese Einschränkung ist eine technische Notwendigkeit und stellt keine Präferenz für einen bestimmten Anbieter dar. Der Trainings-Framework und der Software-Stack der Vergabestelle sind ausschließlich auf NVIDIA-Hardware validiert und unterstützt. Insbesondere ist die bestehende Modell-Trainingspipeline (einschließlich CUDA, NCCL, PyTorch/Megatron-LM und zugehöriger Optimierungen) eng mit den NVIDIA-Toolchains verzahnt. Für alternative GPU-Anbieter existiert innerhalb des Zeitrahmens dieser Beschaffung keine gleichwertig validierte Umgebung. Die Portierung, das Testen und die Validierung auf Nicht-NVIDIA-Hardware würden umfangreiche Entwicklungsaufwände erfordern, die mit dem verfügbaren Zeitplan unvereinbar sind. Daher ist die Beschränkung dieser Beschaffung auf NVIDIA-GPUs unerlässlich, um Durchführbarkeit, Stabilität und termingerechte Lieferung sicherzustellen. Der Leistungszeitraum beträgt 8-10 Monate ab November 2025. Alle Dienstleistungen müssen innerhalb der EU/EEA oder in Ländern mit einem Angemessenheitsbeschluss der EU-Kommission erbracht werden. Nähere Informationen entnehmen Sie bitte der Leistungsbeschreibung
Interne Kennung : 0001

5.1.1 Zweck

Art des Auftrags : Dienstleistungen
Haupteinstufung ( cpv ): 72250000 Systemdienstleistungen und Unterstützungsdienste

5.1.2 Erfüllungsort

Land, Gliederung (NUTS) : Region Hannover ( DE929 )
Land : Deutschland
Zusätzliche Informationen :

5.1.3 Geschätzte Dauer

Laufzeit : 8 Monat

5.1.4 Verlängerung

Maximale Verlängerungen : 1
Weitere Informationen zur Verlängerung : Aus technischen Gründen der Vergabeplattform wird die Laufzeit hier angegeben: Die Laufzeit des Rahmenvertrags soll am 1. November 2025 beginnen oder so bald wie möglich nach Vertragsschluss und wird für eine Dauer von 8 bis 10 Monaten abgeschlossen. Eine darüber hinausgehende Verlängerung ist nicht möglich!

5.1.6 Allgemeine Informationen

Die Namen und beruflichen Qualifikationen des zur Auftragsausführung eingesetzten Personals sind anzugeben : Nicht erforderlich
Auftragsvergabeprojekt nicht aus EU-Mitteln finanziert
Die Beschaffung fällt unter das Übereinkommen über das öffentliche Beschaffungswesen : ja
Diese Auftragsvergabe ist auch für kleine und mittlere Unternehmen (KMU) geeignet : nein

5.1.7 Strategische Auftragsvergabe

Ziel der strategischen Auftragsvergabe : Keine strategische Beschaffung

5.1.9 Eignungskriterien

Quellen der Auswahlkriterien : Bekanntmachung
Kriterium : Eintragung in das Handelsregister
Beschreibung : Als Bieter werden nur Unternehmen zugelassen, die ihre persönliche Lage gem. § 44 VgV wie folgt nachweisen können: a) Kurze Eigendarstellung des Bieters (Angaben zu Firma, Sitz, Gegenstand, Geschäftsleitung des Unternehmens, Unternehmensstruktur wie zum Beispiel Muttergesellschaften, Konzernzugehörigkeit, mit der Darstellung der Gesellschafts- und Kapitalverhältnisse des Bieters sowie gegebenenfalls zur zuständigen Niederlassung). b) Aktueller Auszug aus dem Berufs- oder Handelsregister nach Maßgabe der Rechtsvorschrift des Landes, in dem der Bieter ansässig ist. Vorlage einer Kopie ist ausreichend. c) Eigenerklärung über das Nichtvorliegen von Ausschlussgründen gemäß § 123 und § 124 GWB [vgl. Formblatt „Eigenerklärung zum Nichtvorliegen von Ausschlussgründen“]. d) Eigenerklärung, dass das Unternehmen die gesetzlichen Pflichten zur Zahlung der vom Finanzamt erhobenen Steuern, sowie der Zahlung der Beiträge zur gesetzlichen Sozialversicherung ordnungsgemäß erfüllt hat [vgl. Formblatt „Eigenerklärung zum Nichtvorliegen von Ausschlussgründen“]. e) Eigenerklärung, dass über das Vermögen des Unternehmens kein Insolvenzverfahren oder vergleichbares gesetzlich geregeltes Verfahren eröffnet, beantragt oder dieser Antrag nicht mangels Masse abgelehnt worden ist [vgl. Formblatt „Eigenerklärung zum Nichtvorliegen von Ausschlussgründen“]. f) Eigenerklärung über die Einhaltung der EU-Russland-Sanktionen [vgl. Formblatt „Eigenerklärungen zur Einhaltung der EU-Russland-Sanktionen“].
Kriterium : Allgemeiner Jahresumsatz
Beschreibung : Der Bewerber legt den Gesamtumsatz für die Jahre 2022, 2023 und 2024 dar, § 45 Abs. 4 Nr. 4 VgV. Der Umsatz ist in Euro netto per anno anzugeben [vgl. Formblatt „ Eigenerklärungen zur Eignung“].
Kriterium : Spezifischer Jahresumsatz
Beschreibung : Der Bewerber legt den durchschnittlichen Umsatz für die Jahre 2022, 2023 und 2024 mit vergleichbaren Leistungen in dem Tätigkeitsbereich des Auftrags dar (Bereitstellung von GPU- und CPU-Rechenleistung), § 45 Abs. 4 Nr. 4 VgV. Der Umsatz ist in Euro netto per anno anzugeben. [vgl. Formblatt „ Eigenerklärungen zur Eignung“] --- Mindestanforderung: Jährlicher Mindestumsatz mit vergleichbaren Leistungen / in vergleichbaren Projekten (Bereitstellung von GPU- und CPU-Rechenleistung) in den letzten drei Geschäftsjahren > 3 Mio. EUR (K.O.-Kriterium).
Kriterium : Berufliche Risikohaftpflichtversicherung
Beschreibung : Erklärung über das Bestehen oder die Bereitschaft zum Abschluss einer branchenüblichen Berufs- bzw. Betriebshaftpflichtversicherung mit einer Deckungssumme von mindestens EUR 1.000.000,- pro Kalenderjahr für Vermögensschäden sowie einer Deckungssumme von mindestens EUR 3.000.000,- pro Kalenderjahr für Sach- und Personenschäden. Eine Kopie der Versicherungspolice ist zusammen mit dem Teilnahmeantrag einzureichen. Alternativ ist mit dem Teilnahmeantrag eine rechtsverbindliche Erklärung abzugeben, zum Ausführungsbeginn eine solche Versicherung abzuschließen [vgl. Formblatt „ Eigenerklärungen zur Eignung“].
Kriterium : Referenzen zu bestimmten Dienstleistungen
Beschreibung : Eigenerklärung zu Referenzen des Bieters über mit dem Auftragsgegenstand vergleichbare Leistungen aus den letzten drei Jahren vor Veröffentlichung dieser Bekanntmachung (Angaben zu Klient, Laufzeit, Volumen, Projektleitung, Leistungsinhalt) unter Berücksichtigung der folgenden Anforderungen: Der Bieter soll Erfahrung mit vergleichbaren Projekten haben. Vergleichbare Leistungen sind Leistungen für einen öffentlichen Auftraggeber, die die Bereitstellung von GPU- und CPU-Rechenleistung für diesen Auftraggeber umfassen. Besonders vergleichbar, aber nicht zwingend erforderlich, wäre in diesem Zusammenhang, wenn die Leistung das Training von LLMs außerhalb von MLPerf-Benchmarkings betreffen würde. Es können bis zu 3 Referenzen zu früheren Auftraggebern angegeben werden (vgl. E6 der Leistungsbeschreibung). Außerdem können bis zu 3 Referenzen über das LLM Training angegeben werden (vgl. E7 der Leistungsbeschreibung).

5.1.10 Zuschlagskriterien

Begründung, warum die Gewichtung der Zuschlagskriterien nicht angegeben wurde : Der Preis ist nicht das einzige Zuschlagskriterium; alle Kriterien sind in den Vergabeunterlagen aufgeführt

5.1.11 Auftragsunterlagen

Sprachen, in denen die Auftragsunterlagen offiziell verfügbar sind : Deutsch

5.1.12 Bedingungen für die Auftragsvergabe

Bedingungen für die Einreichung :
Elektronische Einreichung : Erforderlich
Sprachen, in denen Angebote oder Teilnahmeanträge eingereicht werden können : Deutsch
Elektronischer Katalog : Nicht zulässig
Varianten : Nicht zulässig
Die Bieter können mehrere Angebote einreichen : Nicht zulässig
Frist für den Eingang der Angebote : 07/10/2025 12:00 +02:00
Frist, bis zu der das Angebot gültig sein muss : 54 Tag
Informationen, die nach Ablauf der Einreichungsfrist ergänzt werden können :
Nach Ermessen des Käufers können einige fehlenden Bieterunterlagen nach Fristablauf nachgereicht werden.
Zusätzliche Informationen : Bitte beachten: Um einen eventuellen Ausschluss des Angebotes zu vermeiden, legen Sie bitte die geforderten Nachweise und Erklärungen dem Angebot unbedingt vollständig bei.
Informationen über die öffentliche Angebotsöffnung :
Eröffnungsdatum : 07/10/2025 12:00 +02:00
Auftragsbedingungen :
Die Auftragsausführung muss im Rahmen von Programmen für geschützte Beschäftigungsverhältnisse erfolgen : Nein
Elektronische Rechnungsstellung : Erforderlich
Aufträge werden elektronisch erteilt : nein
Zahlungen werden elektronisch geleistet : nein

5.1.15 Techniken

Rahmenvereinbarung :
Keine Rahmenvereinbarung
Informationen über das dynamische Beschaffungssystem :
Kein dynamisches Beschaffungssystem

5.1.16 Weitere Informationen, Schlichtung und Nachprüfung

Überprüfungsstelle : Vergabekammer Niedersachsen beim Nds. Ministerium für Wirtschaft, Arbeit, Verkehr und Digitalisierung
Informationen über die Überprüfungsfristen : (1) Etwaige Vergabeverstöße muss der Bewerber/Bieter gemäß § 160 Abs. 3 Nr. 1 GWB innerhalb von 10 Tagen nach Kenntnisnahme rügen. (2) Verstöße gegen Vergabevorschriften, die aufgrund der Bekanntmachung erkennbar sind, sind nach § 160 Abs. 3 Nr. 2 GWB spätestens bis zum Ablauf der in der Bekanntmachung benannten Frist zur Abgabe der Bewerbung oder der Angebote gegenüber dem Auftraggeber zu rügen. (3) Verstöße gegen Vergabevorschriften, die erst in den Vergabeunterlagen erkennbar sind, sind nach § 160 Abs. 3 Nr. 3 GWB spätestens bis zum Ablauf der Frist zur Bewerbungs- oder Angebotsabgabe gegenüber dem Auftraggeber zu rügen. (4) Ein Vergabenachprüfungsantrag ist nach § 160 Abs. 3 Nr. 4 GWB innerhalb von 15 Kalendertagen nach der Mitteilung des Auftraggebers, einer Rüge nicht abhelfen zu wollen, bei der Vergabekammer einzureichen.
Organisation, die zusätzliche Informationen über das Vergabeverfahren bereitstellt : Gottfried Wilhelm Leibniz Universität Hannover
Organisation, die Teilnahmeanträge entgegennimmt : Gottfried Wilhelm Leibniz Universität Hannover

8. Organisationen

8.1 ORG-0001

Offizielle Bezeichnung : Gottfried Wilhelm Leibniz Universität Hannover
Registrierungsnummer : 10377
Postanschrift : Appelstraße 9a
Stadt : Hannover
Postleitzahl : 30167
Land, Gliederung (NUTS) : Region Hannover ( DE929 )
Land : Deutschland
Telefon : +49 51154580
Profil des Erwerbers : https://www.deutsche-evergabe.de
Rollen dieser Organisation :
Beschaffer
Organisation, die zusätzliche Informationen über das Vergabeverfahren bereitstellt
Organisation, die Teilnahmeanträge entgegennimmt

8.1 ORG-0002

Offizielle Bezeichnung : Vergabekammer Niedersachsen beim Nds. Ministerium für Wirtschaft, Arbeit, Verkehr und Digitalisierung
Registrierungsnummer : bb0880ea-edf5-4a7c-8627-a1da9391b870
Postanschrift : Auf der Hude 2
Stadt : Lüneburg
Postleitzahl : 21339
Land, Gliederung (NUTS) : Region Hannover ( DE929 )
Land : Deutschland
Telefon : +49 4131151334
Rollen dieser Organisation :
Überprüfungsstelle

8.1 ORG-0003

Offizielle Bezeichnung : Datenservice Öffentlicher Einkauf (in Verantwortung des Beschaffungsamts des BMI)
Registrierungsnummer : 0204:994-DOEVD-83
Stadt : Bonn
Postleitzahl : 53119
Land, Gliederung (NUTS) : Bonn, Kreisfreie Stadt ( DEA22 )
Land : Deutschland
Telefon : +49228996100
Rollen dieser Organisation :
TED eSender

Informationen zur Bekanntmachung

Kennung/Fassung der Bekanntmachung : e42b63a3-e1d0-480e-bd97-4f2bd4183f74 - 01
Formulartyp : Wettbewerb
Art der Bekanntmachung : Auftrags- oder Konzessionsbekanntmachung – Standardregelung
Datum der Übermittlung der Bekanntmachung : 05/09/2025 12:16 +02:00
Sprachen, in denen diese Bekanntmachung offiziell verfügbar ist : Deutsch
Veröffentlichungsnummer der Bekanntmachung : 00582542-2025
ABl. S – Nummer der Ausgabe : 171/2025
Datum der Veröffentlichung : 08/09/2025