Comment copier un fichier CSV vers une table PostgreSQL avec des en-têtes dans un fichier CSV?

Je souhaite copier un fichier CSV dans une table Postgres. Il y a environ 100 colonnes dans ce tableau, donc je ne veux pas les réécrire si je n'ai pas à le faire.

J'utilise la \copy table from 'table.csv' delimiter ',' csv;commande mais sans table créée je reçois ERROR: relation "table" does not exist. Si j'ajoute une table vide, je n'obtiens aucune erreur, mais rien ne se passe. J'ai essayé cette commande deux ou trois fois et il n'y avait pas de sortie ou de messages, mais le tableau n'était pas mis à jour lorsque je l'ai vérifié via PGAdmin.

Existe-t-il un moyen d'importer un tableau avec des en-têtes inclus comme j'essaie de le faire?

Cela a fonctionné. La première ligne contenait des noms de colonnes.

COPY wheat FROM 'wheat_crop_data.csv' DELIMITER ';' CSV HEADER

Avec la bibliothèque Python pandas, vous pouvez facilement créer des noms de colonnes et déduire des types de données à partir d'un fichier csv.

from sqlalchemy import create_engine
import pandas as pd

engine = create_engine('postgresql://user:pass@localhost/db_name')
df = pd.read_csv('/path/to/csv_file')
df.to_sql('pandas_db', engine)

Le if_existsparamètre peut être défini pour remplacer ou ajouter à une table existante, par exemple df.to_sql('pandas_db', engine, if_exists='replace'). Cela fonctionne également pour les types de fichiers d'entrée supplémentaires, des documents ici et ici .

Alternative par terminal sans autorisation

La documentation pg à NOTES dit

Le chemin sera interprété par rapport au répertoire de travail du processus serveur (normalement le répertoire de données du cluster), et non au répertoire de travail du client.

Donc, généralement, en utilisant psqlou n'importe quel client, même dans un serveur local, vous avez des problèmes ... Et, si vous exprimez la commande COPY pour d'autres utilisateurs, par exemple. sur un README Github, le lecteur aura des problèmes ...

La seule façon d'exprimer le chemin relatif avec les autorisations du client consiste à utiliser STDIN ,

Lorsque STDIN ou STDOUT est spécifié, les données sont transmises via la connexion entre le client et le serveur.

comme rappelé ici :

psql -h remotehost -d remote_mydb -U myuser -c \
   "copy mytable (column1, column2) from STDIN with delimiter as ','" \
   < ./relative_path/file.csv

J'utilise cette fonction depuis un moment sans problème. Il vous suffit de fournir le nombre de colonnes qu'il y a dans le fichier csv, et il prendra les noms d'en-tête de la première ligne et créera le tableau pour vous:

create or replace function data.load_csv_file
    (
        target_table  text, -- name of the table that will be created
        csv_file_path text,
        col_count     integer
    )

    returns void

as $$

declare
    iter      integer; -- dummy integer to iterate columns with
    col       text; -- to keep column names in each iteration
    col_first text; -- first column name, e.g., top left corner on a csv file or spreadsheet

begin
    set schema 'data';

    create table temp_table ();

    -- add just enough number of columns
    for iter in 1..col_count
    loop
        execute format ('alter table temp_table add column col_%s text;', iter);
    end loop;

    -- copy the data from csv file
    execute format ('copy temp_table from %L with delimiter '','' quote ''"'' csv ', csv_file_path);

    iter := 1;
    col_first := (select col_1
                  from temp_table
                  limit 1);

    -- update the column names based on the first row which has the column names
    for col in execute format ('select unnest(string_to_array(trim(temp_table::text, ''()''), '','')) from temp_table where col_1 = %L', col_first)
    loop
        execute format ('alter table temp_table rename column col_%s to %s', iter, col);
        iter := iter + 1;
    end loop;

    -- delete the columns row // using quote_ident or %I does not work here!?
    execute format ('delete from temp_table where %s = %L', col_first, col_first);

    -- change the temp table name to the name given as parameter, if not blank
    if length (target_table) > 0 then
        execute format ('alter table temp_table rename to %I', target_table);
    end if;
end;

$$ language plpgsql;

Vous pouvez utiliser d6tstack qui crée la table pour vous et est plus rapide que pd.to_sql () car il utilise des commandes d'importation DB natives. Il prend en charge Postgres ainsi que MYSQL et MS SQL.

import pandas as pd
df = pd.read_csv('table.csv')
uri_psql = 'postgresql+psycopg2://usr:pwd@localhost/db'
d6tstack.utils.pd_to_psql(df, uri_psql, 'table')

Il est également utile pour importer plusieurs CSV, résoudre les changements de schéma de données et / ou prétraiter avec des pandas (par exemple pour les dates) avant d'écrire dans db, voir plus bas dans les exemples de notebook

d6tstack.combine_csv.CombinerCSV(glob.glob('*.csv'), 
    apply_after_read=apply_fun).to_psql_combine(uri_psql, 'table')