[PYTHON] [Memo] Chargez le csv de s3 dans les pandas avec boto3

import pandas as pd
from io import StringIO
import boto3
ACCESS_KEY = 'your access key'
SECRET_KEY = 'your secret key'
client = boto3.client('s3', aws_access_key_id=ACCESS_KEY, aws_secret_access_key=SECRET_KEY)
paginator = client.get_paginator('list_objects')
pageresponse = paginator.paginate(Bucket="your bucket")
for pageobject in pageresponse:
    for file in pageobject["Contents"]:
        obj = client.get_object(Bucket="your bucket", Key=file["Key"])
        content = obj['Body'].read().decode('utf-8')
        reader = pd.read_csv(StringIO(content))
        print(reader)

Recommended Posts

[Memo] Chargez le csv de s3 dans les pandas avec boto3
Chargez csv avec des colonnes en double dans pandas
[Python] Résumé des opérations sur les fichiers S3 avec boto3
Téléchargeur S3 avec boto
Comment générer un CSV d'en-tête multiligne avec des pandas
[Python] Un mémo pour écrire du CSV verticalement avec Pandas
Lire csv avec des pandas python
Charger json imbriqué avec des pandas
Opération S3 avec python boto3
[Python] Mémo d'opération de pandas DataFrame
Mettre en forme le fichier CSV de "Fête nationale" du Cabinet Office avec des pandas
[Mémo] Petite histoire de pandas, stupide
Utilisez boto3 pour accéder à S3
Générer une URL signée S3 avec boto
Comment gérer l'erreur SSL lors de la connexion à S3 avec Python boto
Lors de la sortie d'une liste de S3 avec Boto3, utilisez Bucket (). Objects.filter au lieu de list_objects_v2.
[Big Query] Chargez une partie des données BQ dans les pandas à grande vitesse
Essayez le chiffrement côté serveur de S3 à l'aide de boto3
[AWS] Associez Lambda et S3 à boto3
Chiffrement côté serveur S3 SSE avec Python boto3
Lisez CSV et analysez avec Pandas et Seaborn
Exemple de traitement efficace des données avec PANDAS
Mémo Pandas
Fonctionnement automatique de Chrome avec Python + Sélénium + pandas
Lire les données csv Python avec Pandas ⇒ Graphique avec Matplotlib
Obtenir une liste d'utilisateurs IAM avec Boto3
Sortie CSV des données d'impulsion avec Raspberry Pi (sortie CSV)
Regroupez les valeurs VIP de Smash Bra avec les pandas
Transformez les données de vacances en une trame de données avec les pandas
Exemple de lecture et d'écriture de CSV avec Python
Combinez plusieurs fichiers csv en un seul fichier csv avec python (en supposant qu'une seule ligne d'en-tête)
Lors de la lecture d'un fichier csv avec read_csv de pandas, la première colonne devient index