Schnelle KI, europäische Regeln: Wie Infercom Schlussfolgerungen nach Hause bringt

[Dieser Artikel ist Teil einer Inhaltsreihe, die in Zusammenarbeit mit FEDIL entwickelt wurde und zeigt, wie künstliche Intelligenz zur digitalen Transformation der luxemburgischen Wirtschaft beiträgt.]

Infercom ist ein EU-Anbieter für souveräne KI-Inferenz, der im August  2025 in Luxemburg gegründet wurde. Es betreibt Openweight-Modelle  (ein künstliches Intelligenzmodell, dessen numerische Parameter, sogenannte "Weights", die während des Trainings gelernt werden, öffentlich zum Download bereitgestellt werden) auf eigenen, speziell entwickelten KI-Chips in einem Rechenzentrum in München für Unternehmen, die Produkte und Prozesse auf KI entwickeln.

Die Idee hinter der Entstehung von Infercom war mit einer Frustration verbunden, die viele europäische Organisationen teilen. "Europäische Unternehmen wollten KI ernsthaft nutzen, aber fast jede leistungsstarke Option bedeutete, ihre Daten an einen US-Hyperscaler zu senden", erklärt Altug Eker, Geschäftsführer von Infercom.

Gute Ideen, die ins Stocken gerieten

Für Banken, Versicherer oder öffentliche Institutionen kann der Standort und die rechtliche Kontrolle von Daten bestimmen, ob ein KI-Projekt machbar ist. Mit der Datenschutzverordnung (DSGVO), dem Urteil von Schrems II (einer Entscheidung des Europäischen Gerichtshofs, die den "Privacy Shield" für ungültig erklärte, der den Transfer personenbezogener Daten von der EU in die Vereinigten Staaten ermöglicht hatte), dem Digital Operational Resilience Act (DORA) und nun dem EU AI Act unterliegen Unternehmen einer zunehmenden Anzahl von Einschränkungen und Einschränkungen, die nicht verhindern, dass zentrale Fragen gestellt werden: "Wer kann auf meine Daten zugreifen? Nach welchem Gesetz muss ich arbeiten?"

Datenverwaltung ist nicht das einzige Hindernis. Geschwindigkeit ist ein weiteres großes Hindernis für viele Initiativen. Einige Teams hatten vielversprechende Ideen, hatten aber Schwierigkeiten, sie in praktische Dienstleistungen umzusetzen. Langsame Reaktionen untergruben das Nutzererlebnis, die Kosten wurden mit wachsender Nachfrage schwerer zu bewältigen, und Infrastruktur außerhalb Europas warf weitere Bedenken auf.

Herr Eker hörte von Kunde um Kunden dieselbe Bitte: "Wir wollen KI, aber wir wollen sie hier, unter unseren Regeln, und zwar schnell." Deshalb wurde Infercom gegründet, um darauf zu antworten.

Schlussfolgerung, erklärt und dann beschleunigt

Infercom ist eine europäische souveräne KI-Inferenzplattform. Die Inferenz ist die Phase, in der ein trainiertes Modell eingesetzt wird. Training lehrt ein Modell; Inferenz ist das, was passiert, wenn jemand ihm eine Frage stellt, es zur Überprüfung von Dokumenten nutzt oder sich darauf verlässt, eine Aufgabe zu erfüllen.

"Jede Chatbot-Antwort, jeder zusammengefasste Vertrag, jeder KI-Agent, der eine Aufgabe ausführt, ist Schlussfolgerung", erklärt Herr Eker. "Es ist das Teil, das Unternehmen jeden einzelnen Tag verwenden, und hier zählen Geschwindigkeit, Kosten und Datenkontrolle wirklich."

Für einen CFO hört KI auf, eine unvorhersehbare Cloud-Rechnung zu sein, und wird zu einem Kostenfaktor, den er planen und verwalten kann. Altug Eker, CEO von Infercom

Die Infercom-Plattform betreibt Open-Weight-Modelle, darunter MiniMax, Gemma und GLM, auf SambaNova Reconfigurable Dataflow Unit (RDU)-Hardware, die in München gehostet wird. Die Chips sind für KI-Workloads konzipiert, und die Plattform führt die Modelle mit voller Präzision aus, anstatt Quantisierung anzuwenden, um den Rechenbedarf zu senken.

Organisationen können sich über eine Application Programming Interface (API) verbinden. Wer eine dedizierte Umgebung benötigt, kann stattdessen spezielle Racks verwenden. In beiden Fällen bleiben die Kundendaten in der Europäischen Union, werden von einem luxemburgischen Unternehmen verarbeitet und unterliegen europäischem Recht.

Eine Rechnung, die Finanzteams planen können

Die Preisgestaltung von Infercom basiert auf Tokens, den Texteinheiten, die ein Modell verarbeitet oder produziert. Anstatt Grafikprozessorkapazitäten (GPUs) zu mieten, die möglicherweise ungenutzt bleibt, zahlen Kunden für die tatsächliche Tätigkeit.

Die Plattform bietet außerdem Werkzeuge zur Überwachung der Nutzung und zur Festlegung von Ausgabenlimits. Für Aufgaben, die keine sofortige Reaktion erfordern, wie Batch-Verarbeitung oder Dokumentenanalyse über Nacht, bietet Off-Peak-Preisgestaltung eine weitere Möglichkeit, die Ausgaben zu managen. "Für einen CFO ist KI keine unvorhersehbare Cloud-Rechnung mehr, sondern zu einer Kosten, die er planen und verwalten kann", merkt Herr Eker an.

Was sind die Vorteile?

Die Plattform ist darauf ausgelegt, Responsivität, europäische Datensteuerung und ein vorhersehbareres Kostenmodell zu vereinen.

• Schnellere Antworten bei Live-Interaktionen – Infercom behauptet, bis zu 10-mal schnellere Inferenz zu erreichen als typische GPU-basierte Setups, wobei der erste Token in weniger als 10 Millisekunden generiert wird. "In der Praxis beginnt das Modell fast zu antworten, bevor Sie mit der Frage fertig sind", weist Herr Eker darauf hin. Diese Reaktionsschnelligkeit ist besonders relevant für sprachbasierte Anwendungen. Eine lange Pause kann ein Gespräch stören, während eine schnelle Antwort einem KI-Assistenten hilft, mit der sprechenden Person Schritt zu halten. "Ein auf Infercom basierender Sprachassistent pausiert, zögert nicht und spricht nicht über Sie hinweg. Das Gespräch fließt nahtlos, genau wie ein Gespräch mit einem echten Menschen, ohne peinliche Stille oder Unterbrechungen."
  Für Kundenservice, Verkaufsgespräche und andere Echtzeit-KI-Agenten sieht Herr Eker den Unterschied als "zwischen einem Werkzeug, das die Menschen tolerieren, und einer Erfahrung, die den Menschen tatsächlich gefällt".

"Wir wollen zur Schlussfolgerung die europäische Alternative zu US-Hyperscalern sein, nicht eine Kopie." Altug Eker, CEO von Infercom

• Europäische Datenverarbeitung und -zertifizierung – Daten, die von Infercom verarbeitet werden, werden in Europa gehostet und verarbeitet. Das Unternehmen ist ISO 27001 und CSA STAR für KI-zertifiziert. Für Organisationen, die in regulierten Bereichen tätig sind, können diese Maßnahmen helfen, Fragen zur Datenverarbeitung und -sicherheit zu klären. Herr Eker sagt, sie "machen die Compliance-Diskussion für regulierte Branchen deutlich kürzer".
• Kosten, die mit steigender Nutzung bewältigt werden können – Pay-as-you-use-Preise, Ausgabenkontrollen und Off-Peak-Optionen sollen Organisationen mehr Sichtbarkeit geben, wenn ihre Arbeitslasten wachsen. Die Plattform ist außerdem so konzipiert, dass Kunden die Wahl zwischen Modellen und Infrastruktur haben, anstatt sie an einen Anbieter zu binden. "Wir wollen die europäische Alternative zu US-Hyperscalern für Schlussfolgerungen sein, nicht eine Kopie."

Was sind die nächsten Schritte?

Die nächste Entwicklungsphase von Infercom konzentriert sich darauf, die Infrastruktur flexibler und besser für verschiedene KI-Aufgaben geeignet zu machen. "Wir stehen gerade erst am Anfang", sagt Herr Eker. Das Unternehmen plant, über die Abhängigkeit von einer Art von Chip oder Bereitstellungslösung hinauszugehen. SambaNova-RDUs bleiben Teil der Plattform, zusammen mit GPUs und aufkommenden europäischen KI-Beschleunigern.

Infercom beabsichtigt außerdem, seine Cloud-Infrastruktur mit den On-Premises-Systemen der Kunden zu verknüpfen, falls Daten in der eigenen Unternehmensumgebung bleiben müssen. Dadurch wird die Plattform weniger abhängig von einem einzelnen Hardwareanbieter und Kunden die Möglichkeit, Cloud- und On-Premises-Ressourcen je nach Bedarf zu kombinieren.

Infercom plant außerdem, die Inferenz in separate Stufen zu unterteilen und jede Stufe der für sie am besten geeigneten Hardware zuzuweisen. Die Verarbeitung eines langen Prompts und das Erstellen einer Antwort sind unterschiedliche Arbeitslasten, aber Anbieter bearbeiten sie üblicherweise auf derselben Maschine. Die Trennung der Stufen könnte es der Plattform ermöglichen, die Rechenressourcen effizienter zu nutzen. Infercom erwartet, dass dieser Ansatz schnellere Antworten unterstützt und die Kosten für die Verarbeitung jedes Tokens senkt.

Ein System, das verschiedenen Chips unterschiedliche Aufgaben zuweist, könnte es auch erleichtern, neue europäische Prozessoren einzuführen. Anstatt zu verlangen, dass jeder Chip jeden Teil der Inferenz verarbeitet, könnte die Architektur ihn für die Aufgaben nutzen, die sie am effektivsten erfüllt. Das Unternehmen plant, in europäische KI-Beschleuniger-Chipsätze zu investieren und mit ihnen zu arbeiten. "Echte digitale Souveränität benötigt europäische Hardware, nicht nur europäische Rechenzentren", betont Herr Eker.

Eine Multi-Location- und Multi-Node-Infrastruktur befindet sich ebenfalls in Entwicklung. Der Betrieb an mehreren europäischen Standorten könnte die Widerstandsfähigkeit verbessern und die Reaktionszeiten für Kunden in verschiedenen Ländern verkürzen. Sie könnte auch Optionen bieten, Daten innerhalb bestimmter Landesgrenzen zu speichern, wo dies erforderlich ist. Altug Eker fasst das Ziel zusammen: "schnelle, vertrauenswürdige, europäische KI-Infrastruktur, auf der jedes Unternehmen hier mit Zuversicht aufbauen kann."