Normalisation automatique des données entrantes
- Mise à jour2025-12-02
- Temps de lecture : 2 minute(s)
Créez une routine pour convertir automatiquement les fichiers de données entrantes en tableau de données.
- Dans l'application Web SystemLink, accédez à .
- Cliquez sur Python 3 (ipykernel).
-
Utilisez l’exemple en lien comme modèle pour créer des pipelines ETL.
L'exemple inclut les étapes qui permettent d'effectuer les actions suivantes.
- Extraire le contenu du fichier.
- Transformer les données en un format de tableau de données.
- Charger les données dans le stockage avec l'API DataFrame Service.
Remarque Lorsque vous créez un tableau de données, vous devez procéder comme suit.- Définir le type de colonne.
- Définir le type de données pour chaque colonne.
- Définir le nombre total de colonnes. Le nombre total de colonnes ne peut pas dépasser 2500.
Type de la colonne Description NORMAL Cette colonne ne présente pas de propriété spéciale. Ce comportement est le comportement par défaut. INDEX Cette colonne fournit une valeur unique par ligne. Chaque tableau doit inclure une colonne INDEX avec l'un des types de données suivants. - INT32
- INT64
- TIMESTAMP
NULLABLE Les lignes peuvent comprendre des valeurs null. Il est possible d'exclure les colonnes NULLABLE lors de l'ajout de lignes. Les lignes ajoutées utiliseront les valeurs null pour ces colonnes. Remarque Une fois que vous avez fini d'ajouter des données à un tableau, libérez les ressources associées à celui-ci. Utilisez la route POST /nidataframe/v1/tables/{id}/data, {id} étant l'ID du tableau Définissez endOfData à true dans le corps JSON de la requête. -
Créez une routine pour exécuter votre notebook et spécifiez Fichier téléchargé pour l'événement. Reportez-vous à Automatisation des actions avec des routines pour apprendre comment créer une routine.
Lorsque des fichiers sont créés, votre notebook s'exécutera afin de convertir les données des fichiers en un tableau de données.
| Via un tableau de bord | Dans le tableau de bord, cliquez en haut du volet du tableau de données et sélectionnez Inspect. Cliquez sur Download CSV. Remarque Les tableaux de données téléchargés via un tableau de bord sont décimés en fonction des paramètres de requête du tableau de bord. |
| Via un résultat de test | Sélectionnez un tableau de données dans l'onglet Tableaux de données et cliquez sur Télécharger le fichier CSV. Remarque Les tableaux de données téléchargés via un résultat de test ne sont pas décimés. |
Contenu associé
- Normalisation des données pour un accès et un stockage efficaces
Les tableaux de données sont optimisés pour la lecture et présentent un format de stockage des données par colonnes, ce qui permet de stocker des millions de lignes de données.
- Automatisation des actions avec des routines
Créez des routines pour automatiser une action lorsqu'un événement se produit.
- Exemple ETL