Eine umfassende Lösung für die Datenverwaltung in großem Maßstab

Überblick

Als Reaktion auf die Herausforderungen, vor denen Ingenieure und Wissenschaftler beim Verwalten großer Mengen an Test- und Simulationsdaten stehen, hat NI eine dreiteilige Lösung für die Testdatenverwaltung entwickelt. Eine Schlüsselkomponente dieser Lösung, die NI-DataFinder-Technologie, unterstützt Sie bei der Indizierung von Testdateien für einfaches Abrufen und Mining. In diesem Artikel wird die Erweiterung dieser Technologie für große Gruppen und Abteilungen mit dem SystemLink TDM DataFinder Module erläutert, das mit SystemLink Server verwendet werden kann.

Inhalt

Die Problempunkte der Datenverwaltung

Testingenieure sehen sich heute bei der Entwicklung von Datenerfassungssystemen mit immer größeren Zeit- und Budgetbeschränkungen konfrontiert. Die Nachfrage der Verbraucher nach qualitativ hochwertigeren Produkten zu niedrigeren Preisen erzwingt zunehmend strengere Anforderungen an das Systemdesign. Um rückläufige Margen zu kompensieren, müssen Datenerfassungssysteme so konzipiert (oder entwickelt) werden, dass sie zu Lösungen werden – das heißt, Sie müssen sie nicht nur für die anfängliche Datenerfassung, sondern auch für die Datenverwaltung verwenden können, wenn Sie die Daten erfasst haben. Ohne die Implementierung einer effektiven Datenverwaltungslösung könnten Sie wertvolle Zeit (und damit Geld) verlieren, indem Sie versuchen, Informationen aus Ihren erfassten Daten zu extrahieren, so dass Sie fundierte technische Entscheidungen treffen können. Möglicherweise müssen Sie Dateien, die wahrscheinlich in verschiedenen Formaten und an unterschiedlichen Orten auf der Festplatte gespeichert sind – und möglicherweise auf verschiedenen Computern – manuell durchsuchen, um Ihre Datensätze zu finden und zu analysieren. Schon wenige Stunden pro Woche, die aufgrund einer ineffizienten Datenverwaltungslösung verschwendet werden, können zu erhöhten Budgets und Verzögerungen führen, die sich über den gesamten Produktentwicklungszyklus hinweg ausbreiten und die Markteinführungszeit drastisch verlängern können.

Traditionelle Datenverwaltungsansätze wie manuelle Datei- und Ordnerbenennungskonventionen oder Standarddatenbank-Implementierungen bieten einzigartige Vorteile, bieten aber keine umfassende Datenverwaltungslösung für sich. Obwohl die manuelle Organisation und Benennung Ihrer Dateien und Ordner in einer Art und Weise, die zur Anwendung passt, den unmittelbaren Vorteil hat, dass sie kostenlos und einfach anpassbar ist, kann die Organisation bei wechselnden und wachsenden Tests umständlich werden, was bei der Suche nach Datensätzen die meisten Kopfschmerzen verursacht und beim versehentlichen Umbenennen oder Verschieben einer Datei schnell zu Problemen führt. Standard-Datenbanken wie Access oder Oracle lassen sich leicht abfragen und bieten ein schnelles Abrufen von Daten, sind jedoch äußerst kostspielig aufzusetzen und zu implementieren und erfordern erhebliche Wartung und Ressourcen, wenn Sie kontinuierlich Anpassungs- und Erweiterungsmöglichkeiten benötigen.

Unternehmen wenden viel Zeit und Geld für den Entwurf und die Implementierung ihrer Datenerfassungssysteme auf, vernachlässigen jedoch die Planung nachhaltiger Datenverwaltungslösungen. Wenn Sie viel in die Erfassung Ihrer Daten investieren, sollten Sie auch die erforderliche Zeit und das erforderliche Geld in die Verwaltung dieser Daten investieren.

Die Lösung von NI für die technische Datenverwaltung

NI hat drei Schlüsselfaktoren für die Datenverwaltung ermittelt:

  • Flexible und organisierte Dateispeicherung
  • Ein umfassender Datenindex für erweiterte Suchfunktionen
  • Interaktive Datenabfrage- und Nachverarbeitungsumgebung

Folglich besteht die TDM-Lösung (Technical Data Managemen) von NI aus drei Komponenten:

  • Das TDM-Datenmodell zum Speichern beschreibender Informationen mit Ihren Testdateien
  • NI DataFinder zur Indizierung von Testdaten zur Suche unabhängig vom Dateiformat
  • DIAdem-Software für Suche, Mining, Analyse und Reporting

Das TDM-Datenmodell für die Dateispeicherung ordnet Daten logisch hierarchisch an und speichert Metainformationen mit nativen und benutzerdefinierten Eigenschaften für Datensatz, Kanalgruppe und Kanalebene. Das TDM-Dateiformat ist vollständig erweiterbar und anpassbar und ermöglicht so detaillierte und gut dokumentierte Testdaten.

Abbildung 1: Das TDM-Datenmodell zum Speichern gut dokumentierter Testdaten

Nachdem Sie Ihre Testdaten mit Eigenschaften dokumentiert haben, bietet NI DataFinder – die am häufigsten übersehene Komponente in Datenverwaltungslösungen – ein sofort einsatzbereites Dienstprogramm für das Mining von Testdaten. Der NI DataFinder durchsucht automatisch bestimmte Bereiche Ihrer Festplatte und erstellt einen Index mit den wertvollen Informationen aus den Metadaten Ihrer Datendateien. Nach der Indizierung sind Testdaten vollständig durchsuchbar, und zwar mit Hilfe von einfachen, internetähnlichen Suchfunktionen sowie erweiterten Abfragen mit DIAdem. Sie müssen die gewünschten Datensätze nicht mehr manuell suchen. Der NI DataFinder verfolgt Angaben zu Testdatendateien unabhängig von ihrer Anordnung auf der Festplatte.

Nachdem der NI DataFinder die entsprechenden Datensätze gefunden hat, können Sie mit DIAdem die benötigten Informationen aus Ihren Testdaten extrahieren und die DIAdem Dienstprogramme nutzen, um mit diesen Daten zu interagieren, sie zu analysieren und professionelle Berichte daraus zu erstellen. Je schneller Sie Testdaten effektiv analysieren und protokollieren können, desto schneller kann Ihr Team fundierte technische Entscheidungen treffen.

DIAdem DataFinder und SystemLink TDM DataFinder Module

Der DIAdem DataFinder ist ein lokaler NI-DataFinder-Index und wird automatisch mit DIAdem installiert. Nach der Installation muss dem DIAdem DataFinder mitgeteilt werden, wo sich Ihre Testdaten auf der Festplatte befinden. Der Anwender kann den DIAdem DataFinder so konfigurieren, dass die gesamte Festplatte indiziert wird. Bestimmte Orte auf der Festplatte können aber auch speziell für die Testdaten festgelegt (oder ausgeschlossen) werden. Dadurch wird ein Overhead von Systemressourcen verhindert, das sich aus der überflüssigen Indizierung von Dateien oder Ordnern ergibt, und zugleich eine einfache Skalierbarkeit ermöglicht, falls neue Suchbereiche spezifiziert werden müssen.

Nachdem Sie Suchbereiche konfiguriert haben, erstellt und verwaltet DIAdem DataFinder automatisch ein Verzeichnis aller Dateien, die den Kriterien für Dateityp und Speicherort entsprechen, die Sie in der DIAdem DataFinder-Konfiguration festgelegt haben. Die dann gespeicherten Eigenschaften sind nach der Indizierung sofort aus der DIAdem-Umgebung heraus durchsuchbar. Sobald eine gültige Datendatei hinzugefügt, gelöscht oder bearbeitet wird, erkennt DIAdem DataFinder dies automatisch und aktualisiert die Eigenschaften und die Hierarchie der Daten im Index. Der DIAdem DataFinder verwaltet seine eigenen Tabellen dynamisch und aktualisiert sie basierend auf Aktivität in der Datei und dem Inhalt jeder Datei. Dadurch können, anders als bei vielen teuren Datenbanklösungen, Informationen geändert oder ergänzt werden, wenn sich Anforderungen ändern, ohne dass die gesamte Datenverwaltung überdacht oder überarbeitet werden müsste.

Mit Hilfe der Erweiterten Suche können Sie schnell Trends und Korrelationen in Ihren Testdaten finden.

Abbildung 2: Mit Hilfe der Erweiterten Suche können Sie schnell Trends und Korrelationen in Ihren Testdaten finden.

Der DIAdem DataFinder kann von sich aus TDM- und TDM-Streaming-Dateien mit angegebenen Suchbereichen indizieren. Ältere Daten oder Daten von Drittanbietern können aber in einem anderen Dateiformat vorliegen. Die Datenverwaltungslösung von NI ist modular und berücksichtigt diese Realität. Um mehrere verschiedene Dateiformate zu integrieren, kann der Anwender DataPlugins erstellen und installieren, die beliebige Dateiformate in die TDM-Struktur „übersetzen“, damit eine einfache Integration in DIAdem möglich ist.

 Im Index werden alle beschreibenden Informationen gespeichert, die in einer Datei enthalten sind. Sie können also nach diesen Werten suchen.

Abbildung 3. Im Index werden alle beschreibenden Informationen gespeichert, die in einer Datei enthalten sind. Sie können also nach diesen Werten suchen.

DIAdem DataFinder ist das Kernstück der Produktlösung von NI für die Datenverwaltung und wurde in erster Linie für Einzelanwender konzipiert. Daher ist die Funktionalität den Anforderungen größerer Gruppen gelegentlich nicht gewachsen, wenn auf Daten zugegriffen werden soll, die auf mehreren Rechnern verteilt sind. Aus diesem Grund bietet NI zwei Datenverwaltungsoptionen an: den DIAdem DataFinder und das SystemLink TDM DataFinder Module. Mit DIAdem DataFinder können Anwender zwar einfach Testdaten suchen, die im lokalen Index gespeichert sind; allerdings ändern sich die Anforderungen, wenn eine Datenverwaltungslösung von einer größeren Anwendergruppe oder Abteilung genutzt wird. Um diese Anforderungen zu erfüllen, hat NI das SystemLink TDM DataFinder Modul entwickelt, welches speziell für große Gruppen und Abteilungen entworfen wurde.

Vorteile des SystemLink TDM DataFinder Module

Das SystemLink TDM DataFinder Module erweitert das Konzept und die Technologie von DIAdem DataFinder und enthält mehrere Funktionen, die es zum idealen Datenverwaltungswerkzeug für große Gruppen machen, in denen mehrere Bearbeiter auf große Datenmengen zugreifen müssen, die möglicherweise an mehreren Orten gespeichert sind.

Weniger Netzwerkkommunikation

Wenn Testingenieure Daten über mehrere Teststationen hinweg ohne SystemLink durchsuchen wollten, müsste jeder Client-Rechner eine eigene Netzwerkverbindung mit dieser Teststation herstellen. Der DIAdem DataFinder jedes Client-Rechners müsste die Dateien aller Teststationen, mit denen er kommuniziert, indizieren und das Netzwerk konsequent durchsuchen, um aktuelle Informationen über die Datendateien auf allen Teststationen zu erhalten. Dies erhöht die Belastung der Netzwerkressourcen erheblich, da die eigentliche Indizierung über das Netzwerk erfolgt. Im Laufe der Zeit könnte diese Erhöhung der genutzten Bandbreite nicht mehr möglich sein – insbesondere in Szenarien, in denen Netzwerkbandbreite gespart werden muss.

Wenn Sie nur den lokalen DIAdem DataFinder verwenden, muss sich der Index jedes Client-Rechners einzeln mit jeder Teststation verbinden.

Abbildung 4: Wenn Sie nur den lokalen DIAdem DataFinder verwenden, muss sich der Index jedes Client-Rechners einzeln mit jeder Teststation verbinden.

Das SystemLink TDM DataFinder Module behebt dieses Problem und führt möglicherweise zu einer schnelleren Indizierung, da es auf einem gemeinsamen Server installiert und ausgeführt werden kann. Dieser Server-Computer enthält den gemeinsamen SystemLink DataFinder-Index, der die angegebenen Suchbereiche aller konfigurierten Teststationen durchsucht. Der Server-Computer fungiert dann als gemeinsamer Speicherort, an dem sich auch der gemeinsame Index befindet. Client-Computer müssen nicht mehr mit jeder Teststation einzeln verbunden werden, da sie mit dem zwischengeschalteten Server-Computer kommunizieren können. Wenn Sie Datendateien speichern und das SystemLink TDM DataFinder Module auf einem zwischengeschalteten Server aktivieren, werden Netzwerkressourcen geschont, da die einzigen Informationen, die über das Netzwerk übertragen werden, die tatsächlichen Client-Abfragen des Index sind. 

SystemLink TDM DataFinder Module

Abbildung 5: SystemLink fasst die Metadaten von mehreren Teststationen zusammen, sodass Sie mit dem SystemLink TDM DataFinder Module problemlos von mehreren Clients gleichzeitig darauf zugreifen und diese auswerten können.

Mehrere gleichzeitige Verbindungen

Bei der Datenverwaltung in großem Maßstab müssen mehrere Ingenieure möglicherweise gleichzeitig Informationen zu vorhandenen Datendateien abrufen. Da das SystemLink TDM DataFinder Module auf einem Computer mit hoher Bandbreite installiert werden soll, der mit einem Windows-Server-Betriebssystem arbeitet, kann es bis zu 25 parallele Client-Verbindungen zum zentralen Index unterstützen. Dies ist eine dramatische Erhöhung gegenüber DIAdem DataFinder und ein wichtiges Merkmal in Szenarien, in denen mehrere Personen gleichzeitig auf zentralisierte Daten zugreifen müssen. Auf diese Weise können Ingenieure gleichzeitig auf Datendateien zugreifen und Daten schneller abrufen – ohne sich darüber Sorgen machen zu müssen, dass andere Ingenieure Ressourcen einsetzen und reservieren.

Minimale Client-Einrichtung

Um die Konsistenz zu gewährleisten und sicherzustellen, dass die Erweiterbarkeit keine fundierten technischen Kenntnisse für die Konfiguration von Client-Computern erfordert, können Sie mit dem SystemLink TDM DataFinder Module Client-Konfigurationen vom Server exportieren. Mit wenigen Mausklicks können Sie alle Einstellungen, die zum Konfigurieren von Client-Computern für die nahtlose Schnittstelle mit dem vom SystemLink TDM DataFinder Module erstellten Index erforderlich sind, in einer *.urf-Datei generieren. Sobald diese *.urf-Datei an die Client-Computer verteilt wurde, können Sie diese Konfiguration ganz einfach durch Doppelklicken auf die Datei an ihrem Speicherort auf der Festplatte installieren. Die Konfiguration des Client-Computers wird automatisch übernommen und Sie können auf den SystemLink DataFinder-Index zugreifen. Und da das SystemLink TDM DataFinder Module Ihnen die Möglichkeit bietet, DataPlugins zusammen mit der Client-Konfiguration zu exportieren, können Sie sicher sein, dass die Abfrageergebnisse eines Client-Rechners mit denen eines anderen Client-Rechners identisch sind, ohne dass Sie jedes registrierte DataPlugin auf dem Server einzeln exportieren (und später den Import verwalten) müssen.

Mit dem SystemLink TDM DataFinder Module können Sie Konfigurationen, einschließlich DataPlugins, exportieren, um die Konfiguration auf dem Client-Computer zu vereinfachen.

Abbildung 6. Mit dem SystemLink TDM DataFinder Module können Sie Konfigurationen, einschließlich DataPlugins, exportieren, um die Konfiguration auf dem Client-Computer zu vereinfachen.

Konsistenz

In Situationen, in denen mehrere Client-Computer versuchen, auf Daten zuzugreifen, die auf mehreren Teststationen im Netzwerk gespeichert sind, sorgt das SystemLink TDM DataFinder Module für Konsistenz in Suchbereichen, Suchergebnissen und DataPlugins. Ohne das SystemLink TDM DataFinder Module müssen Sie jeden Client-DIAdem-DataFinder individuell konfigurieren, um Suchbereiche, die aus mehreren Verzeichnissen auf jeder Teststation im Netzwerk bestehen, zu indizieren. Da Testsysteme immer komplexer werden und Sie mehrere Client-Computer oder Teststationen entfernen oder hinzufügen, müssen Sie jeden Client-Computer neu konfigurieren, um die zu jedem Zeitpunkt im gesamten System vorhandenen Suchbereiche zu berücksichtigen. Wenn Sie keine regelmäßige Wartung durchführen, können die auf Client-Computern konfigurierten Suchbereiche ungenau oder unvollständig werden. Da sich das SystemLink TDM DataFinder Module auf einem zwischengeschalteten Server-Computer befindet und jeder Client-Computer für die direkte Kommunikation konfiguriert ist, müssen Sie die Wartung nur auf dem gemeinsamen SystemLink-Server statt auf jedem Client durchführen.

Die Implementierung des SystemLink TDM DataFinder Module ergibt eine gemeinsame DataFinder-Konfiguration (und damit einen gemeinsamen Metadatenindex und Suchbereiche), so dass Konsistenz zwischen den Suchergebnissen gewährleistet ist. Anderenfalls können Unstimmigkeiten zwischen Suchbereichen und auf Client-Computern definierten DataPlugins zu Unstimmigkeiten in den Suchergebnissen zwischen den verschiedenen Computern führen. Wenn verschiedene Testingenieure widersprüchliche oder unvollständige Suchergebnisse verwenden, kann dies zu Problemen bei der Kommunikation führen, die zu kostspieligen Verzögerungen bei der Produktentwicklung führen können.

Benutzerkontenverwaltung und -sicherheit

Es ist üblich, dass Dutzende oder sogar Hunderte von Testingenieuren mit Testsystemen und den von ihnen erzeugten Datendateien arbeiten. Allerdings sollten nicht alle an einem Projekt beteiligten Ingenieure immer Zugriff auf alle von den Teststationen erzeugten Datendateien haben. Aus Gründen des Datenschutzes, der Sicherheit oder des geistigen Eigentums kann es vorkommen, dass der Zugriff bestimmter Benutzer auf sensible Dateien und Ordner eingeschränkt werden muss.

Durch die Nutzung der bereits konfigurierten Windows-Berechtigungseinstellungen erfordert das SystemLink TDM DataFinder Module keine zusätzlichen Arbeiten zur Einschränkung des Zugriffs auf vertrauliche Dateien.

Abbildung 7: Durch die Nutzung der bereits konfigurierten Windows-Berechtigungseinstellungen erfordert das SystemLink TDM DataFinder Module keine zusätzlichen Arbeiten zur Einschränkung des Zugriffs auf vertrauliche Dateien.

Das SystemLink TDM DataFinder Module ist direkt mit Benutzerverwaltungsrichtlinien verbunden, die bereits als Teil des Windows-Betriebssystems vorhanden sind. Wenn Sie die Sicherheit über ein einfaches Konfigurationsfeld aktivieren, beginnt SystemLink, den Zugriff auf Dateien und Ordner basierend auf den aktuellen Berechtigungseinstellungen zu beschränken. Ohne dass eine zusätzliche Überprüfung erforderlich ist (Benutzer werden nur einmal vom Betriebssystem authentifiziert, wenn sie sich auf dem Client-Rechner anmelden), wird der Lese-, Schreib- und sogar Abfragezugriff auf die Datendateien und Ordner, die durch den Index offengelegt werden, durch die Benutzerverwaltung des Betriebssystems nachgebildet. Mit SystemLink ist das Sichern sensibler Daten gemäß bereits geltenden Richtlinien so einfach wie das Aktivieren eines Kontrollkästchens zum Aktivieren der Sicherheit.

Archivierungen

Im Zuge der ständigen Weiterentwicklung und Verbesserung der Technologie führen Faktoren wie Mehrkernprozessoren, mehr Speicher und schnellere Abtastraten zusammen mit der Tatsache, dass Testsysteme immer komplexer werden, dazu, dass immer mehr Daten anfallen. Obwohl die Festplattenspeicherung relativ kostengünstig ist, sind in Situationen, in denen große Datenmengen gespeichert (und daher gesichert) sind, Archivierungssysteme erforderlich, die die Daten auf kostengünstige Datenträger mit hoher Kapazität wie Magnetbänder übertragen.

Basierend auf konfigurierten Regeln übertragen Hintergrund-Systemprozesse automatisch Dateien in das Archiv. Beim Übertragen einer Datei wird diese auf dem Datenträger durch eine leere Platzhalter-Datei mit dem gleichen Namen und den gleichen Attributen ersetzt, die angeben, ob die ursprüngliche Datei im Archiv gespeichert ist. Wenn Sie später auf Dateien zugreifen, werden diese automatisch aus dem Archiv an ihren ursprünglichen Speicherort auf dem Datenträger wiederhergestellt.

In enger Zusammenarbeit mit dem Unternehmen SER hat NI das SystemLink TDM DataFinder Module für eine reibungslose Integration in das SER-Archivierungssystem entwickelt. Da SystemLink archivierte Dateien erkennen und das Archivierungs-Flag zusammen mit beschreibenden TDM- und TDM-Streaming-Dateidaten im Index speichern kann, können Sie archivierte Daten zusammen mit Daten auf der Festplatte suchen und auswerten.

Fazit

Das SystemLink TDM DataFinder Module erweitert die Fähigkeiten von DIAdem DataFinder, um eine robustere Lösung für die Datenverwaltung in großem Maßstab anzubieten. Wenn mehrere Client-Rechner und mehrere Teststationen beteiligt sind, wie es in den zunehmend komplexen Testsystemen von heute üblich ist, sorgt SystemLink für eine geringere Belastung der Netzwerkressourcen, konsistente Suchergebnisse zwischen den Client-Rechnern, eine einfache Installation und Client-Konfiguration sowie eine automatische Integration mit Archivierungssystemen und Windows-Benutzerberechtigungseinstellungen. Das SystemLink TDM DataFinder Module ist eine Ergänzung zu DIAdem DataFinder und unterstützt Sie bei der weiteren Optimierung umfangreicher Simulations- und Testdatenverwaltungslösungen mit der TDM-Lösung von NI.