Bedeutung von Hardware und Software für KI: Das braucht Künstliche Intelligenz

CPU, GPU und NPU: Welche Rolle spielen sie bei KI?
 

CPU: der vielseitige Systemprozessor

Die Central Processing Unit, kurz CPU, bleibt auch in modernen KI-Systemen ein wichtiger Bestandteil. Sie übernimmt allgemeine Rechen-, Steuerungs- und Datenverarbeitungsaufgaben - etwa die Vorbereitung von Daten, Systemprozesse, Ein- und Ausgabe sowie die Koordination weiterer Komponenten.

Auch KI-Inferenz kann, abhängig von Modellgröße und Anwendung, auf CPUs ausgeführt werden. Bei besonders rechenintensiven oder stark parallelisierbaren Aufgaben kommen jedoch häufig zusätzliche Beschleuniger zum Einsatz.

Die CPU ist damit auch bei KI keineswegs nebensächlich, sondern bleibt eine wichtige Grundlage des Gesamtsystems.
 

GPU: hohe Parallelleistung für anspruchsvolle KI-Workloads

Grafikprozessoren, sogenannte GPUs, können sehr viele Berechnungen parallel ausführen. Diese Eigenschaft macht sie für zahlreiche rechenintensive KI-Anwendungen besonders relevant. Vor allem Large Language Models, Machine Learning, Computer Vision sowie Training, Fine-Tuning und anspruchsvolle Inferenz profitieren häufig von leistungsfähigen GPU-Systemen.

Neben der eigentlichen Rechenleistung spielt dabei auch der verfügbare Grafikspeicher eine wichtige Rolle. Gerade größere KI-Modelle benötigen ausreichend Speicher, damit ihre Parameter und die während der Verarbeitung entstehenden Daten effizient verarbeitet werden können.

Deshalb gehören GPUs zu den zentralen Komponenten vieler professioneller KI-Server.
 

NPU: spezialisierte KI-Beschleunigung auf dem Endgerät

Neben CPUs und GPUs gewinnen Neural Processing Units, kurz NPUs, zunehmend an Bedeutung. NPUs sind speziell auf Berechnungen für neuronale Netze und Machine Learning ausgelegt. Ihre Stärke liegt vor allem darin, bestimmte KI-Aufgaben lokal und energieeffizient auszuführen.

Deshalb kommen NPUs vor allem in modernen PCs und anderen Endgeräten zum Einsatz. Dort können sie beispielsweise lokale KI-Funktionen beschleunigen, ohne dass jede Berechnung über eine leistungsfähige GPU oder einen externen Server erfolgen muss.

Eine NPU ersetzt eine leistungsfähige GPU jedoch nicht grundsätzlich. Für lokale KI-Funktionen auf Notebook oder Desktop-PC kann sie eine sinnvolle Ergänzung sein. Umfangreiche Sprachmodelle, Training, Fine-Tuning oder andere rechenintensive Workloads benötigen dagegen häufig leistungsfähigere GPU-Systeme.
 

CPU, GPU und NPU ersetzen sich daher nicht gegenseitig. Sie übernehmen unterschiedliche Aufgaben und können innerhalb eines KI-Systems zusammenarbeiten.

Vom Anwendungsfall zur passenden KI-Infrastruktur

Bei der Einführung von KI ist es verlockend, zuerst auf Modelle, Prozessoren oder technische Leistungsdaten zu schauen. In der Praxis sollte jedoch der konkrete Nutzen den Ausgangspunkt bilden. Am Anfang steht deshalb die Frage:

Welches Problem soll die KI konkret lösen?

Darauf aufbauend lassen sich die technischen Anforderungen deutlich gezielter bestimmen:

Welche Aufgaben sollen unterstützt oder automatisiert werden? Welche Daten werden benötigt? Wie viele Mitarbeitende sollen die Anwendung nutzen? Soll die Verarbeitung lokal, in der Cloud oder hybrid erfolgen? Reichen KI-Funktionen auf einem modernen Arbeitsplatzgerät aus oder wird zusätzliche Server-Rechenleistung benötigt?

Erst aus diesen Anforderungen ergibt sich, welche Hardware, Software und Architektur tatsächlich sinnvoll sind.

So entsteht keine Technik um ihrer selbst willen, sondern eine Lösung, die von Beginn an auf den vorgesehenen Einsatz ausgerichtet ist.

Von ersten KI-Tests zur produktiven Lösung

Viele Unternehmen haben bereits erste Erfahrungen mit generativer KI gesammelt. Der nächste Schritt besteht darin, aus einzelnen Tests dauerhaft nutzbare Anwendungen zu entwickeln.

Dafür müssen mehrere Ebenen ineinandergreifen:

Hardware liefert die Rechenleistung, Software verbindet Modelle mit Daten und Anwendungen, Sicherheits- und Berechtigungskonzepte regeln den Zugriff und Mitarbeitende bringen Fachwissen sowie den nötigen Kontext ein.

Auch die Skalierbarkeit sollte früh mitgedacht werden. Ein Pilotprojekt für wenige Nutzer stellt andere Anforderungen als eine Anwendung, die später unternehmensweit ausgerollt wird.

Eine sinnvoll geplante Architektur muss deshalb nicht von Beginn an maximal dimensioniert sein. Sie sollte jedoch so aufgebaut sein, dass zusätzliche Nutzer, Datenquellen oder Rechenleistung später ergänzt werden können.