Skip to content

Design of a data warehouse using Pentaho, ETL tools and Saiku

License

Notifications You must be signed in to change notification settings

dariocurr/bdm_project

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

Big Data Management

English

In this project, we tackled the design and analysis of a data warehouse from from an E/R schema and 4 source databases. All choices and changes made are based on an analysis related to data volume and workload estimates.

The phases addressed were those related to:

  • Data source analysis and reconciliation.
  • Requirements analysis
  • Conceptual modeling
  • Conceptual design
  • Logical design
  • Physical design

Created the initial 4 sources, populated via scripts and open data, using the Kettle module of the Pentaho suite, ETL tools for data cleaning and correction were implemented. Next, given the queries of interest, the datamarts were designed (and implemented via views) and queried via the Saiku plugin of Pentaho.

Italian

Progettazione di un Data Warehouse

In questo progetto abbiamo affrontato la progettazione e l’analisi di un data warehouse a partire da uno schema E/R e da 4 database sorgenti. Tutte le scelte e le modifiche effettuate sono basate su un’analisi relativa alle stime del volume dei dati e del carico di lavoro.

Le fasi affrontate sono state quelle relative a:

  • Analisi e riconciliazione delle fonti dati
  • Analisi dei requisiti
  • Modellazione concettuale
  • Progettazione concettuale
  • Progettazione logica
  • Progettazione fisica

Create le 4 sorgenti iniziali, popolate tramite script e open data, utilizzando il modulo Kettle della suite Pentaho sono stati implementati gli strumenti ETL per la pulizia e la correzione dei dati. Successivamente, fornite le query di interesse, sono stati progettati i datamart (e implementati tramite viste) che sono stati interrogati tramite il plugin Saiku di Pentaho.

Team

Cognome Nome Matricola
Buffa Salvatore 0697879
Curreri Dario 0705923
Domingo Emanuele 0696006
Gristina Salvatore A. 0702838

About

Design of a data warehouse using Pentaho, ETL tools and Saiku

Resources

License

Code of conduct

Security policy

Stars

Watchers

Forks

Languages