Laufen LabVIEW-Programme auf Multicore-Computern schneller?

Bei der Bewertung der Leistung von LabVIEW-Programmen müssen vor allem Speicherauslastung und Ausführungszeit in Betracht gezogen werden. Die Ausführungszeit ist der Zeitraum, der benötigt wird, um eine Gruppe von Befehlen zu verarbeiten. Sie wird meist in Sekunden gemessen. Die Speicherauslastung ist die Speichermenge, die benötigt wird, um eine Gruppe von Befehlen zu verarbeiten. Sie wird meist in Bytes angegeben. Beide Angaben sind gute Indikatoren für die Leistung des jeweiligen Programms, wobei die Ausführungszeit den Schlüsselfaktor bildet. Ein weiteres Leistungskriterium bei Multicore-Systemen ist die Reaktionszeit, also die Zeit, die ein Programm oder System braucht, um auf Eingaben zu reagieren. Multicore-Systeme zeigen aufgrund von Multitasking mit mehreren Cores eine bessere Reaktionsfähigkeit. Dies ist zwar eine Leistungsverbesserung, jedoch nicht unbedingt ein Beweis dafür, dass sich die Ausführungszeit verkürzt.

LabVIEW skaliert Programme automatisch, um mehrere Prozessoren auf High-End-Rechnersystemen nutzen zu können. Dazu wird die Anzahl der verfügbaren Cores festgestellt und der Anwender bei der Entwicklung einer größeren Zahl von Threads unterstützt. LabVIEW erstellt beispielsweise acht Threads für die Programmausführung, wenn es auf einem Computer mit acht Prozessorkernen ausgeführt wird.

Mehrere Prozessoren, gleichbleibende Taktrate

Wird ein Single-Core-Rechensystem durch ein Multicore-System ersetzt, das Verarbeitungseinheiten mit denselben Taktraten wie beim Single-Core-System betreibt, verkürzt sich die Ausführungszeit von LabVIEW-Programmen. Im Idealfall erhöht sich die Geschwindigkeit der Programmausführung um einen Faktor, welcher der Anzahl von Cores eines Multicore-Systems entspricht (z. B. vervierfacht sich die Geschwindigkeit auf einem Quad-Core-System). Jedoch verhindert Overhead bei der Kommunikation zwischen Threads und Cores diese ideale Verbesserung der Geschwindigkeit. Ist das betreffende LabVIEW-Programm komplett sequenziell und läuft auf einem einzelnen Prozessor, benötigt es auf einem Prozessor, den es sich mit anderer Software teilt, weniger Zeit, wodurch auch die Ausführungszeit verkürzt wird. Ist das betreffende Programm komplett parallel und besteht aus Tasks derselben Größe ohne Datenabhängigkeit, lässt sich die bestmögliche Verbesserung der Ausführungszeit erzielen.

Mehrere Prozessoren, niedrigere Taktrate

Wird ein Single-Core Rechensystem durch ein Multicore-System ersetzt, das Prozessoren niedrigerer Taktraten verwendet, können Änderungen in der Ausführungszeit von LabVIEW-Programmen nicht eindeutig bestimmt werden. Ist ein LabVIEW-Programm vollständig sequenziell und besitzt exklusiven Zugriff auf einen einzigen Prozessorkern auf dem Multicore-System, wird der Einfluss auf die Ausführungszeit am ehesten durch die relativen Taktraten des Systems und das Task-Scheduling bestimmt. Die Ausführungszeit eines vollständig parallelen LabVIEW-Programms, das aus Tasks gleicher Größe ohne Datenabhängigkeit besteht und Zugriff auf alle verfügbaren Prozessorkerne des Multicore-Systems hat, ist auch von den relativen Taktraten und dem Task-Scheduling abhängig.

Speichermodelle

Die Speicherorganisation in Multicore-Rechnersystemen beeinflusst den Kommunikations-Overhead und die Ausführungsgeschwindigkeit von LabVIEW-Programmen. Gängige Speicherarchitekturen sind etwa gemeinsam genutzter Speicher, verteilter Speicher und hybrider, gemeinsam genutzter verteilter Speicher. Systeme mit gemeinsam genutztem Speicher verwenden einen großen globalen Speicherort, auf den alle Prozessoren zugreifen können, um eine schnelle Kommunikation zu ermöglichen. Jedoch tritt ein Kommunikationsengpass zwischen Prozessor und Speicher auf, wenn noch mehr Prozessoren mit demselben Speicher verbunden werden. Verteilte Speichersysteme nutzen für jeden Prozessor einen lokalen Speicherplatz und die Kommunikation zwischen den Prozessoren läuft über ein Kommunikationsnetzwerk ab. Die Kommunikation zwischen den Prozessoren ist hier langsamer als bei Systemen mit gemeinsam genutztem Speicher. Daneben werden in manchen Systemen hybride Speicherarchitekturen verwendet und so die Vorteile beider Modelle genutzt. Speichermodelle haben großen Einfluss auf den Kommunikations-Overhead und deshalb auch auf die Ausführungsgeschwindigkeit in jeder Programmiersprache (LabVIEW, C, Visual Basic etc.).

Kommunikation zwischen Prozessoren

Die physische Distanz zwischen den Prozessoren und die Qualität der Verbindungen haben aufgrund des Kommunikations-Overheads Einfluss auf die Ausführungzeit von LabVIEW-Programmen. Mehrere Prozessoren auf separaten Chips zeigen höhere Latenz bei der Kommunikation zwischen Prozessoren, als Prozessoren auf einem einzigen Chip. Daraus ergibt sich ein größerer Kommunikations-Overhead, der die Ausführungszeit von LabVIEW verlangsamt. In Abbildung 1 ist die Latenz beim System mit zwei Prozessoren (zwei Sockets) auf der linken Seite höher als auf dem einzelnen Chip mit Dual-Core-Prozessor, der rechts abgebildet ist.

[+] Bild vergrößern

Abbildung 1: Vergleich eines Dual-Prozessor- mit einem Dual-Core-Prozessor-System 

Organisation von Programmcode

Die Ausführungszeit von LabVIEW-Programmen auf einem Multicore-Computer hängt in gleichem Maße vom Programm wie auch vom Computer ab, auf dem es läuft. Das Programm muss so geschrieben sein, dass es von den Vorteilen der Multicore-Systeme profitiert. Der Grad der Programmparallelität ist von großer Bedeutung, ebenso die Aufteilung (Berechnungen im Verhältnis zur Kommunikation) und die Lastverteilung. Ein großer Teil bestehenden G-Codes wurde zwar für die sequenzielle Ausführung geschrieben, jedoch ist diese Art Code aufgrund der Datenflussprogrammierung bis zu einem gewissen Grad parallel. Wie bereits erwähnt, zeigen Tests gängiger Strukturen von LabVIEW-Programmen durchschnittlich eine 25- bis 35-prozentige Verkürzung der Ausführungszeit, wenn sie von einem Single- auf ein Multicore-System migriert werden. Die Eigenschaften des jeweiligen Programms können allerdings zu erheblichen Abweichungen von dieser Schätzung führen. Die Optimierung eines LabVIEW-Programms für eine Multicore-Umgebung kann die Ausführungszeit wesentlich verkürzen, wenn mit einem Multicore-Rechner gearbeitet wird.

Hardwarespezifische Abstimmung

G-Code so zu organisieren, dass die Ausführungszeit verkürzt wird, ist kompliziert, wenn man die Hardware nicht kennt, auf der das Programm ausgeführt wird. Damit die optimale Ausführungszeit erreicht wird, ist es unbedingt notwendig, das System zu verstehen, auf dem ein Multicore-Programm läuft. Multicore-Programmiertechniken erfordern für Systeme mit einer unbekannten Anzahl von Cores eine allgemeinere Methode. Diese gewährleistet ein gewisse Verkürzung der Ausführungszeit auf den meisten Multicore-Maschinen, verhindert aber möglicherweise die maximale Geschwindigkeit auf einem spezifischen Gerät. Die hardwarespezifische Abstimmung von LabVIEW-Programmen kann recht zeitaufwändig sein, ist aber nicht immer notwendig. Um ein System mit acht Cores voll auszunutzen, können parallele Programmiertechniken eingesetzt werden, wie etwa Datenparallelität und Pipelining. Darüber hinaus profitieren Anwender von der Anzahl von Cores in einem System, dem Core-Layout (zwei Dual-Cores oder ein Quad-Core), deren Verbindung, der Speicherarchitektur sowie von bekannten Fehlern, und erreichen so die kürzeste auf Multicore-Systemen mögliche Programmausführung.

Weitere Informationen über parallele Programmiertechniken stehen hier zur Verfügung:

• Strategien für die parallele Multicore-Programmierung: Datenparallelität
• Strategien für die parallele Multicore-Programmierung: Task-Parallelität
• Strategien für die parallele Multicore-Programmierung: Pipelining

Software und Parallelität

Probleme bei der Umsetzung von Parallelität können in verschiedenen Softwareebenen auftreten. In traditionellen Programmiersprachen wie C stellt dies eine besondere Herausforderung dar. Im Gegensatz dazu profitiert die LabVIEW-Programmierung von einer Multicore-fähigen Entwicklungsumgebung. Um diese Leistungsgewinne zu realisieren, hat die Software vier Schichten, die im Hinblick auf ihre Multicore-Fähigkeit evaluiert werden müssen: Entwicklungswerkzeug, Bibliotheken, Gerätetreiber und Betriebssystem. Sind diese Schichten nicht bereit für Multicore, sind Leistungszuwächse eher unwahrscheinlich, die Leistung könnte sogar noch absinken. Tabelle 1 zeigt, wie LabVIEW für alle Schichten Multicore-fähige Software bereitstellt.

Multicore-Systeme mit Bibliotheken und Treibern, die noch nicht Multicore-fähig sind bzw. Betriebssysteme, die Tasks nicht auf mehrere Prozessoren verteilen können, führen parallele LabVIEW-Programme nicht schneller aus.

Mehrere Faktoren müssen in Betracht gezogen werden, um die erwartete Ausführungszeit von LabVIEW-Programmen auf Multicore-Systemen zu bestimmen. Hardware- und Softwareprobleme außerhalb von LabVIEW können eine verbesserte Ausführungszeit behindern, wenn Multicore-Systeme verwendet, aber nicht sorgfältig konfiguriert wurden. Darüber hinaus ist die Struktur eines LabVIEW-Programms oft ein zentraler Faktor für die Leistung. LabVIEW unterstützt Anwender beim Upgrade auf ein Multicore-System, denn es ist bereits Multicore-fähig und bietet einfache und intuitive Multicore-Programmierfunktionen und -beispiele.

Serie zu den „Grundlagen der Multicore-Programmierung“

• Multithreading-Eigenschaften von LabVIEW-Funktionen und -Treibern
  
• Optimierung automatisierter Prüfanwendungen mit LabVIEW für Multicore-Prozessoren
• Mehr über NI LabVIEW

Linux® ist in den USA und anderen Ländern ein eingetragenes Warenzeichen von Linus Torvalds.