Difference: TestAMQ (1 vs. 14)

Revision 142010-11-16 - EnricoFattibene

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Test sul trasporto dati di DGAS tramite Active MQ

Line: 203 to 203
  Abbiamo effettuato il test L misurando il numero di job processati dal sistema in un giorno intero in diverse configurazioni. Il set di job utilizzato e' stato lo stesso per le diverse configurazioni. Di seguito i risultati.
Changed:
<
<
- HLR AMQ, SSL attivo
>
>
- HLR AMQ, SSL attivo, broker di Torino (dgas-broker.to.infn.it)
  Numero di record in jobTransSummary e in trans_in: 33371

Numero di record in trans_queue: 129918

Changed:
<
<
- HLR AMQ, SSL disattivo
>
>
- HLR AMQ, SSL disattivo, broker di Torino (dgas-broker.to.infn.it)
  Numero di record in jobTransSummary e in trans_in: 33955

Numero di record in trans_queue: 131391

Changed:
<
<
- HLR standard
>
>
- HLR standard, broker di Torino (dgas-broker.to.infn.it)
  Numero di record in jobTransSummary e in trans_in: 62590

Numero di record in trans_queue: 265748

Changed:
<
<
- HLR AMQ, SSL attivo, broker CERN (gridmsg001.cern.ch)
>
>
- HLR AMQ, SSL attivo, broker del CERN (gridmsg001.cern.ch)
  Numero di record in jobTransSummary e in trans_in: 34609

Numero di record in trans_queue: 134244

Added:
>
>

Considerazioni finali

Durante l'installazione sono stati riscontrati dei problemi di dipendenze, derivanti soprattutto dal fatto che non sono ancora disponibili i pacchetti RPM. Riteniamo che questi problemi si risolveranno con la disponibilita' di tali pacchetti.

In generale abbiamo notato che la dimensione dei log cresce molto velocemente, tanto da raggiungere una dimensione di ~10 GB in poche ore. In particolare i file di log che abbiamo notato crescere rapidamente sono:

- sul CE: pushdAscii.log

- sull'HLR: dgas-hlr-amq-manager.log ; hlr_qmgrd.log ; hlrd.log

Riteniamo utile poter settare il livello di verbosita' di questi log e la possibilita' di attivare/disattivare la registrazione di questi log. Nel corso di questi test abbiamo dovuto ruotare i log in questione per evitare un riempimento rapido del disco. Affinche' la rotazione avesse effetto abbiamo dovuto riavviare i servizi ad ogni giro di rotate; senza riavviare i servizi infatti, il servizio continuava a puntare al vecchio file descriptor e il nuovo file creato rimane vuoto (almeno questo e' quello che crediamo sia successo).

Inoltre abbiamo notato la mancanza della informazione relativa al broker contattato sia nei log del producer che del consumer: per evitare che l'hostname del broker sia ripetuto per ogni invio/richiesta di UR, potrebbe essere un'idea quella di annotare nel log la configurazione allo start del servizio (sia nel CE che nell'HLR).

 
META FILEATTACHMENT attachment="DGAS-AMQ-testplan.rtf" attr="" comment="" date="1285236902" name="DGAS-AMQ-testplan.rtf" path="DGAS-AMQ-testplan.rtf" size="67700" stream="DGAS-AMQ-testplan.rtf" tmpFilename="/usr/tmp/CGItemp15419" user="EnricoFattibene" version="1"

Revision 132010-11-16 - EnricoFattibene

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Test sul trasporto dati di DGAS tramite Active MQ

Line: 221 to 221
  Numero di record in trans_queue: 265748
Added:
>
>
- HLR AMQ, SSL attivo, broker CERN (gridmsg001.cern.ch)

Numero di record in jobTransSummary e in trans_in: 34609

Numero di record in trans_queue: 134244

 
META FILEATTACHMENT attachment="DGAS-AMQ-testplan.rtf" attr="" comment="" date="1285236902" name="DGAS-AMQ-testplan.rtf" path="DGAS-AMQ-testplan.rtf" size="67700" stream="DGAS-AMQ-testplan.rtf" tmpFilename="/usr/tmp/CGItemp15419" user="EnricoFattibene" version="1"

Revision 122010-11-09 - EnricoFattibene

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Test sul trasporto dati di DGAS tramite Active MQ

Line: 151 to 151
  Con i servizi spenti abbiamo configurato in modo da disattivare SSL. Dopo abbiamo fatto ripartire i servizi per continuare a processare i job di Cristofori. Abbiamo sottomesso un'altra serie di job (utente Fattibene). Il giorno successivo abbiamo controllato sui DB e risultano gli stessi dati aggregati. Inoltre il numero di job presenti nei DB corrisponde esattamente al numero di job sottomessi.
Changed:
<
<

Test H: Test di affidabilita' e robustezza del servizio (SSL disattivo)

>
>

Test H-I: Test di affidabilita' e robustezza del servizio (SSL disattivo e attivo)

  - Servizi HLR accesi
Line: 199 to 199
 Il 19/10, dopo aver killato a mano l'urcollector, abbiamo installato con successo l'rpm, ripulito i log del collector e del manager AMQ e riavviato i servizi. I job hanno ripreso ad arrivare regolarmente al DB.
Added:
>
>

Test L: Misure di throughput (SSL disattivo e attivo, e HLR standard)

Abbiamo effettuato il test L misurando il numero di job processati dal sistema in un giorno intero in diverse configurazioni. Il set di job utilizzato e' stato lo stesso per le diverse configurazioni. Di seguito i risultati.

- HLR AMQ, SSL attivo

Numero di record in jobTransSummary e in trans_in: 33371

Numero di record in trans_queue: 129918

- HLR AMQ, SSL disattivo

Numero di record in jobTransSummary e in trans_in: 33955

Numero di record in trans_queue: 131391

- HLR standard

Numero di record in jobTransSummary e in trans_in: 62590

Numero di record in trans_queue: 265748

 
META FILEATTACHMENT attachment="DGAS-AMQ-testplan.rtf" attr="" comment="" date="1285236902" name="DGAS-AMQ-testplan.rtf" path="DGAS-AMQ-testplan.rtf" size="67700" stream="DGAS-AMQ-testplan.rtf" tmpFilename="/usr/tmp/CGItemp15419" user="EnricoFattibene" version="1"

Revision 112010-10-19 - EnricoFattibene

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Test sul trasporto dati di DGAS tramite Active MQ

Line: 193 to 193
  $
Added:
>
>
L'11/10 abbiamo notato che il binario /opt/glite/libexec/glite_dgas_recordComposer era vuoto, senza riuscire a capirne il motivo. Abbiamo provato a reinstallare il pacchetto glite-dgas-hlr-activemq-producer-0.0.0-0.centos5.x86_64.rpm ma non siamo riusciti. Il problema era nel fatto che l'urcollector rimaneva acceso.

Il 19/10, dopo aver killato a mano l'urcollector, abbiamo installato con successo l'rpm, ripulito i log del collector e del manager AMQ e riavviato i servizi. I job hanno ripreso ad arrivare regolarmente al DB.

 
META FILEATTACHMENT attachment="DGAS-AMQ-testplan.rtf" attr="" comment="" date="1285236902" name="DGAS-AMQ-testplan.rtf" path="DGAS-AMQ-testplan.rtf" size="67700" stream="DGAS-AMQ-testplan.rtf" tmpFilename="/usr/tmp/CGItemp15419" user="EnricoFattibene" version="1"

Revision 102010-10-06 - AndreaCristofori

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Test sul trasporto dati di DGAS tramite Active MQ

Line: 174 to 174
 Venerdi' 1/10 mattina verso le 7.00 il disco dell'HLR AMQ si e' riempito e il sistema si e' bloccato. Fino a quel momento erano stati inseriti nel database circa 16000 job (in 13 ore e mezza). Il log dgas-hlr-amq-manager.log era 6,2 GB e hlr_qmgrd.log era 7,7 GB. Dopo averli cancellati abbiamo riavviato i servizi e dopo circa 5 ore (alle 16) rileviamo che sono stati inseriti nel database del HLR AMQ circa 12000 job. Alle 16 abbiamo riconfigurato il sistema abilitando SSL e abbiamo disabilitato l'invio verso l'HLR standard, in modo da lasciare il solo HLR AMQ.

Added:
>
>
Alle 11 di mercoledi' 6 ottobre la directory /tmp/dgasamq/ era totalmente piena di record e l'HLR li processava. Non era possibile nemmeno fare il listing dei file in questa directory. L'unica soluzione estrema e' stata quella di cancellare tutti i record

rm -rfv -/tmp/dgasamq/

Sul CE la directory /opt/glite/var/dgasURBox/ e ERR risultavano essere vuote ma il solo listing dei file in dgasURBox richiedeva diversi minuti

drwxr-x--- 3 root root 33480704 Oct 6 11:40 dgasURBox

rimossa e ricreata. Anche la rimozione ha richiesto diversi minuti. Dopo aver ricostruito le directory, rimosso il file dgasCollectorBuffer.lsf e riavviato l'urcollector "nuovi" record sono comparsi nella dgasURBox e spediti con successo al broker:

AMQSTATUS=0

I record sembrano arrivare all'HLR ma sono senza contenuto:

cat -A DGASAMQ20101006145741_3973

$

 
META FILEATTACHMENT attachment="DGAS-AMQ-testplan.rtf" attr="" comment="" date="1285236902" name="DGAS-AMQ-testplan.rtf" path="DGAS-AMQ-testplan.rtf" size="67700" stream="DGAS-AMQ-testplan.rtf" tmpFilename="/usr/tmp/CGItemp15419" user="EnricoFattibene" version="1"

Revision 92010-10-01 - EnricoFattibene

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Test sul trasporto dati di DGAS tramite Active MQ

Line: 166 to 166
 - Servizi sull'HLR AMQ spenti

Lunedi 27/9 pomeriggio abbiamo spento tutti i servizi sugli HLR (hlrd e i servizi AMQ) e lanciato altre 2 serie di job.

Changed:
<
<
Mercoledi' 29/9 mattina abbiamo copiato poco piu' di 3 mesi di log da un CE del T1 (ce04-lcg.cr.cnaf.infn.it) e li abbiamo messi sul CE del testbed. Ci aspettiamo che questi log contangano circa 1,5 milioni di job. Dopo abbiamo opportunamente configurato il CE come se fosse un CE LSF.
>
>
Mercoledi' 29/9 mattina abbiamo copiato poco piu' di 3 mesi di log da un CE del T1 (ce04-lcg.cr.cnaf.infn.it) e li abbiamo messi sul CE del testbed. Ci aspettiamo che questi log contangano circa 1,5 milioni di job. Dopo abbiamo opportunamente configurato il CE come se fosse un CE LSF. Il sistema si e' inceppato perche' i log non erano stati copiati sul CE in modo corretto, pertanto giovedi' 30/9 mattina abbiamo riprocessato i job.

Giovedi 30/9 pomeriggio alle 17.30 abbiamo avviato i servizi sui 2 HLR. Venerdi' 1/10 mattina verso le 7.00 il disco dell'HLR AMQ si e' riempito e il sistema si e' bloccato. Fino a quel momento erano stati inseriti nel database circa 16000 job (in 13 ore e mezza). Il log dgas-hlr-amq-manager.log era 6,2 GB e hlr_qmgrd.log era 7,7 GB. Dopo averli cancellati abbiamo riavviato i servizi e dopo circa 5 ore (alle 16) rileviamo che sono stati inseriti nel database del HLR AMQ circa 12000 job. Alle 16 abbiamo riconfigurato il sistema abilitando SSL e abbiamo disabilitato l'invio verso l'HLR standard, in modo da lasciare il solo HLR AMQ.

 
META FILEATTACHMENT attachment="DGAS-AMQ-testplan.rtf" attr="" comment="" date="1285236902" name="DGAS-AMQ-testplan.rtf" path="DGAS-AMQ-testplan.rtf" size="67700" stream="DGAS-AMQ-testplan.rtf" tmpFilename="/usr/tmp/CGItemp15419" user="EnricoFattibene" version="1"

Revision 82010-09-29 - EnricoFattibene

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Test sul trasporto dati di DGAS tramite Active MQ

Line: 165 to 165
  - Servizi sull'HLR AMQ spenti
Changed:
<
<
Lunedi pomeriggio abbiamo spento tutti i servizi sugli HLR (hlrd e i servizi AMQ) e lanciato altre 2 serie di job.

>
>
Lunedi 27/9 pomeriggio abbiamo spento tutti i servizi sugli HLR (hlrd e i servizi AMQ) e lanciato altre 2 serie di job. Mercoledi' 29/9 mattina abbiamo copiato poco piu' di 3 mesi di log da un CE del T1 (ce04-lcg.cr.cnaf.infn.it) e li abbiamo messi sul CE del testbed. Ci aspettiamo che questi log contangano circa 1,5 milioni di job. Dopo abbiamo opportunamente configurato il CE come se fosse un CE LSF.
 
META FILEATTACHMENT attachment="DGAS-AMQ-testplan.rtf" attr="" comment="" date="1285236902" name="DGAS-AMQ-testplan.rtf" path="DGAS-AMQ-testplan.rtf" size="67700" stream="DGAS-AMQ-testplan.rtf" tmpFilename="/usr/tmp/CGItemp15419" user="EnricoFattibene" version="1"

Revision 72010-09-28 - EnricoFattibene

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Test sul trasporto dati di DGAS tramite Active MQ

Line: 168 to 168
 Lunedi pomeriggio abbiamo spento tutti i servizi sugli HLR (hlrd e i servizi AMQ) e lanciato altre 2 serie di job.
Deleted:
<
<

-- EnricoFattibene begin_of_the_skype_highlighting     end_of_the_skype_highlighting begin_of_the_skype_highlighting     end_of_the_skype_highlighting begin_of_the_skype_highlighting     end_of_the_skype_highlighting begin_of_the_skype_highlighting     end_of_the_skype_highlighting - 2010-09-23

 
META FILEATTACHMENT attachment="DGAS-AMQ-testplan.rtf" attr="" comment="" date="1285236902" name="DGAS-AMQ-testplan.rtf" path="DGAS-AMQ-testplan.rtf" size="67700" stream="DGAS-AMQ-testplan.rtf" tmpFilename="/usr/tmp/CGItemp15419" user="EnricoFattibene" version="1"

Revision 62010-09-27 - EnricoFattibene

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Test sul trasporto dati di DGAS tramite Active MQ

Line: 14 to 14
 
site-bdii vgrid0 vm domus03
TOP-BDII gridit-bdii-01.cnaf.infn.it - -
WMS gridit-cert-wms.cnaf.infn.it - -
Changed:
<
<
Active-MQ brokser tcp://dgas-broker.to.infn.it:61616 - -
>
>
Active-MQ browser tcp://dgas-broker.to.infn.it:61616 - -
 

Installazione CE e HLR

Line: 141 to 141
  Seguendo la guida i test sono stati effettuati con successo.
Changed:
<
<

Test F: Test di integrita' dei dati (stessi dati su HLR e HLR-AMQ) (SSL attivo)

>
>

Test G: Test di integrita' dei dati (stessi dati su HLR e HLR-AMQ) (SSL attivo)

  Abbiamo lanciato 2 serie di job con 2 certificati diversi (Cristofori e Fattibene). Alla fine (dopo circa 2 giorni di servizi attivi) sui 2 DB risulta un totale di 7834 job ed esattamente gli stessi risultati aggregati, in termini di numero di job, CPU time e Wall time per entrambi i gridUser. Inoltre il numero di job presenti nei DB corrisponde esattamente al numero di job sottomessi. Per un paio di job a campione abbiamo controllato con successo nei log del CE che le informazioni prese su Wall time e CPU time fossero esatte.

Successivamente abbiamo lanciato una terza serie di job con SSL attivo (utente Cristofori) con 1410 job processati nei DB, stessi dati sui 2 DB. Dopo abbiamo spento i servizi sui 2 HLR e sul CE.

Changed:
<
<

Test G: Test di integrita' dei dati (stessi dati su HLR e HLR-AMQ) (SSL disattivo)

>
>

Test F: Test di integrita' dei dati (stessi dati su HLR e HLR-AMQ) (SSL disattivo)

  Con i servizi spenti abbiamo configurato in modo da disattivare SSL. Dopo abbiamo fatto ripartire i servizi per continuare a processare i job di Cristofori. Abbiamo sottomesso un'altra serie di job (utente Fattibene). Il giorno successivo abbiamo controllato sui DB e risultano gli stessi dati aggregati. Inoltre il numero di job presenti nei DB corrisponde esattamente al numero di job sottomessi.
Added:
>
>

Test H: Test di affidabilita' e robustezza del servizio (SSL disattivo)

- Servizi HLR accesi

Questo test si ritiene effettuato con successo contestualmente ai test precedenti.

- Servizio glite-dgas-hlrd spento

Abbiamo spento il servizio hlrd sui 2 HLR e lanciato due serie di job (utenti Cristofori e Fattibene), venerdi' 23/9. Abbiamo tenuto il sistema in questo stato per tutto il fine settimana. Lunedi' mattina abbiamo riavviato hlrd sui 2 HLR e i dati sono arrivati uguali su entrambi e non si sono persi job.

Nota: con tutti i servizi accesi abbiamo riavviato le macchine e abbiamo notato che i servizi AMQ sull'HLR (Consumer e RecordManager) non sono tornati su.

- Servizi sull'HLR AMQ spenti

Lunedi pomeriggio abbiamo spento tutti i servizi sugli HLR (hlrd e i servizi AMQ) e lanciato altre 2 serie di job.

 

Revision 52010-09-27 - PaoloVeronesi

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Test sul trasporto dati di DGAS tramite Active MQ

Changed:
<
<
L'installazione del tesbed, la configurazione e i test sono stati effettuati seguendo il piano di test
>
>
L'installazione del testbed, la configurazione e i test sono stati effettuati seguendo il piano di test
 proposto da Andrea Guarise.
Added:
>
>
Il testebed e' cosi' composto:
Servizio Hostname VM dom0
HLR classico dgas-test-vm01 vm domus03
HLR con ~ActiveMQ dgas-test-vm02 vm domus03
CE Cream dgas-test-vm03 vm domus03
wn dgas-test-vm04 vm domus03
wn dgas-test-vm05 vm domus03
site-bdii vgrid0 vm domus03
TOP-BDII gridit-bdii-01.cnaf.infn.it - -
WMS gridit-cert-wms.cnaf.infn.it - -
Active-MQ brokser tcp://dgas-broker.to.infn.it:61616 - -
 

Installazione CE e HLR

Line: 143 to 154
 
Changed:
<
<
-- EnricoFattibene - 2010-09-23
>
>
-- EnricoFattibene begin_of_the_skype_highlighting     end_of_the_skype_highlighting begin_of_the_skype_highlighting     end_of_the_skype_highlighting begin_of_the_skype_highlighting     end_of_the_skype_highlighting begin_of_the_skype_highlighting     end_of_the_skype_highlighting - 2010-09-23
 

META FILEATTACHMENT attachment="DGAS-AMQ-testplan.rtf" attr="" comment="" date="1285236902" name="DGAS-AMQ-testplan.rtf" path="DGAS-AMQ-testplan.rtf" size="67700" stream="DGAS-AMQ-testplan.rtf" tmpFilename="/usr/tmp/CGItemp15419" user="EnricoFattibene" version="1"

Revision 42010-09-24 - EnricoFattibene

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Test sul trasporto dati di DGAS tramite Active MQ

Line: 11 to 11
 
  • rpm -Uvh glite-dgas-common-3.4.1-0.centos5.x86_64.rpm
  • rpm -Uvh glite-dgas-hlr-clients-3.4.1-0.centos5.x86_64.rpm
Changed:
<
<
Abbiamo installato 2 HLR (uno sara' standard e l'altro con Active MQ) seguendo la guida al paragrafo 3.1.2.1 New installation. I pacchetti installati sono:
>
>
Abbiamo installato 2 HLR (uno sara' standard e l'altro con Active MQ) seguendo la guida al paragrafo 3.1.2.1 New installation. I pacchetti installati sull' HLR standard sono:
 
  • glite-dgas-pa-clients-3.4.0-3.centos5
  • glite-dgas-hlr-clients-3.4.0-12.centos5
  • glite-dgas-hlr-service-3.4.0-23.centos5
  • glite-dgas-common-3.4.0-4.centos5
Added:
>
>
I pacchetti installati sull' HLR AMQ sono:
  • glite-dgas-pa-clients-3.4.1-0.centos5
  • glite-dgas-hlr-clients-3.4.1-0.centos5
  • glite-dgas-hlr-service-3.4.1-0.centos5
  • glite-dgas-common-3.4.1-0.centos5
  Su CE e HLR AMQ, prima di installare i pacchetti delle dipendenze aggiuntive, vista la mancanza di compilatore C, abbiamo installato gcc versione 4.1.2-48.el5.
  • yum install gcc.x86_64
Line: 47 to 52
 
    • Poi configurato e installato activemq-cpp-library
      • tar zxvf activemq-cpp-library-3.1.0-src.tar.gz
      • cd activemq-cpp-library-3.1.0
Changed:
<
<
      • ./configure --prefix=/opt/activemq/lib/
>
>
      • Sul CE: ./configure --prefix=/opt/activemq/lib/
      • Sull' HLR AMQ: ./configure --prefix=/usr/local/lib/
 
      • make
      • make install
Added:
>
>
      • ldconfig
  Nota: usando una versione piu' recente di activemq-cpp-library (abbiamo testato la versione 3.2.0) si ottiene il seguente errore quando si lancia il configure:
  • ./configure --prefix=/opt/activemq/lib/
Line: 62 to 69
  Sull' HLR AMQ abbiamo dovuto installare con --nodeps i seguenti pacchetti:
Changed:
<
<
  • glite-dgas-hlr-activemq-consumer-0.0.0-0.centos5
  • glite-dgas-hlr-activemq-producer-0.0.0-0.centos5
>
>
  • rpm -ivh --nodeps glite-dgas-hlr-activemq-consumer-0.0.0-0.centos5
  • rpm -ivh --nodeps glite-dgas-hlr-activemq-producer-0.0.0-0.centos5
 

Configurazione CE

Changed:
<
<
Nel file /opt/glite/etc/dgas_sensors.conf abbiamo aggiunti i seguenti parametri:
>
>
Per la configurazione con SSL disattivo, nel file /opt/glite/etc/dgas_sensors.conf abbiamo aggiunti i seguenti parametri:
 
  • printAsciiLog = "yes"
  • asciiLogFilePath = "/opt/glite/var/log/pushdAscii.log"
  • amqBrokerUri = "URI del broker AMQ"
Line: 78 to 85
  La restante parte della configurazione e' stata eseguita come di solito, per far puntare il CE all'HLR (standard).
Changed:
<
<

Configurazione HLR AMQ

Abbiamo creato il file /opt/glite/etc/dgas-activemq-consumer.conf con i seguenti parametri:

  • lockFileName = "/opt/glite/var/dgas-hlr-amq-consumer.lock"
  • logFileName = "/opt/glite/var/dgas-hlr-amq-consumer.log"
  • amqBrokerUri = "URI del broker AMQ"
  • recordsDir = "/tmp/dgasamq/"
  • dgasAMQTopic = "DGAS.TEST"
  • hlr_user = "root"
  • dgas_var_dir = "/opt/glite/var/"

  • managerLockFileName = "/opt/glite/var/dgas-hlr-amq-manager.lock"
  • messageParsingCommand = "cat MESSAGEFILE"
  • AMQRecordsDir = "/tmp/dgasamq/"

  • managerLogFileName = "/opt/glite/var/dgas-hlr-amq-manager.log"
  • #Qui seguono gl i stessi valori con cui e' configurato il corrispondente dgas_hlr.conf
  • hlr_sql_server = "localhost"
  • hlr_sql_user = "root"
  • hlr_sql_password = "database password"
  • hlr_sql_dbname = "hlr database"
  • hlr_tmp_sql_dbname = "hlr_tmp database"
>
>
Per attivare SSL abbiamo copiato la chiave pubblica hostcert.pem dell’ HLR AMQ sotto /etc/grid/security col nome dgas-test-vm02-cert.pem. Poi abbiamo configurato, seguendo la guida, in /opt/glite/etc/dgas_sensors.conf:
  • amqProducer = "openssl smime -binary -encrypt dgas-test-vm02-cert.pem | /opt/glite/libexec/glite_dgas_hlrProducer"
 
Changed:
<
<

Test

>
>

Configurazione HLR AMQ

 
Changed:
<
<
Operazioni svolte per attivare SSL.
>
>
Per la configurazione con SSL disattivo, abbiamo creato il file /opt/glite/etc/dgas-activemq-consumer.conf con i seguenti parametri:
  • lockFileName = "/opt/glite/var/dgas-hlr-amq-consumer.lock"
  • logFileName = "/opt/glite/var/dgas-hlr-amq-consumer.log"
  • amqBrokerUri = "URI del broker AMQ"
  • recordsDir = "/tmp/dgasamq/"
  • dgasAMQTopic = "DGAS.TEST"
  • hlr_user = "root"
  • dgas_var_dir = "/opt/glite/var/"
 
Changed:
<
<
  • Sul CE
    • Abbiamo copiato la chiave pubblica hostcert.pem dell’ HLR AMQ sotto /etc/grid/security col nome dgas-test-vm02-cert.pem. Poi abbiamo configurato, seguendo la guida, in /opt/glite/etc/dgas_sensors.conf:
      • amqProducer = "openssl smime -binary -encrypt dgas-test-vm02-cert.pem | /opt/glite/libexec/glite_dgas_hlrProducer"
>
>
  • managerLockFileName = "/opt/glite/var/dgas-hlr-amq-manager.lock"
  • messageParsingCommand = "cat MESSAGEFILE"
  • AMQRecordsDir = "/tmp/dgasamq/"

  • managerLogFileName = "/opt/glite/var/dgas-hlr-amq-manager.log"
  • #Qui seguono gl i stessi valori con cui e' configurato il corrispondente dgas_hlr.conf
  • hlr_sql_server = "localhost"
  • hlr_sql_user = "root"
  • hlr_sql_password = "database password"
  • hlr_sql_dbname = "hlr database"
  • hlr_tmp_sql_dbname = "hlr_tmp database"
 
Changed:
<
<
  • Sull'HLR
    • In /opt/glite/etc/dgas-activemq-consumer.conf:
>
>
Per attivare SSL, in /opt/glite/etc/dgas-activemq-consumer.conf abbiamo modificato il parametro:
 
      • messageParsingCommand = "cat MESSAGEFILE | openssl smime -decrypt -inkey /etc/grid-security/hostkey.pem -keyform PEM -recip /etc/grid-security/hostcert.pem"
Changed:
<
<
E abbiamo fatto ripartire tutti i servizi dgas.
>
>

Test

Per passare da SSL attivo a disattivo e viceversa, dopo aver eseguito le modifiche alle configurazioni, abbiamo fatto ripartire tutti i servizi dgas.

 

Test A-B: Test di comunicazione CE - HLR (senza e con SSL)

Line: 129 to 132
 

Test F: Test di integrita' dei dati (stessi dati su HLR e HLR-AMQ) (SSL attivo)

Changed:
<
<
Abbiamo lanciato 2 serie di job con 2 certificati diversi (Cristofori e Fattibene). Alla fine (dopo circa 2 giorni di servizi attivi) sui 2 DB risulta un totale di 7834 job ed esattamente gli stessi risultati aggregati, in termini di numero di job, CPU time e Wall time per entrambi i gridUser.
>
>
Abbiamo lanciato 2 serie di job con 2 certificati diversi (Cristofori e Fattibene). Alla fine (dopo circa 2 giorni di servizi attivi) sui 2 DB risulta un totale di 7834 job ed esattamente gli stessi risultati aggregati, in termini di numero di job, CPU time e Wall time per entrambi i gridUser. Inoltre il numero di job presenti nei DB corrisponde esattamente al numero di job sottomessi. Per un paio di job a campione abbiamo controllato con successo nei log del CE che le informazioni prese su Wall time e CPU time fossero esatte.
 
Changed:
<
<
Successivamente abbiamo lanciato una terza serie di job con SSL attivo (utente Cristofori) con 1410 job processati nei DB, stessi dati sui 2 DB. Dopo abbiamo spneto i servizi sui 2 HLR e sul CE.
>
>
Successivamente abbiamo lanciato una terza serie di job con SSL attivo (utente Cristofori) con 1410 job processati nei DB, stessi dati sui 2 DB. Dopo abbiamo spento i servizi sui 2 HLR e sul CE.
 

Test G: Test di integrita' dei dati (stessi dati su HLR e HLR-AMQ) (SSL disattivo)

Changed:
<
<
Con i servizi disattivi abbiamo configurato in modo da disattivare SSL. Dopo abbiamo fatto ripartire i servizi per continuare a processare i job di Cristofori.
>
>
Con i servizi spenti abbiamo configurato in modo da disattivare SSL. Dopo abbiamo fatto ripartire i servizi per continuare a processare i job di Cristofori. Abbiamo sottomesso un'altra serie di job (utente Fattibene). Il giorno successivo abbiamo controllato sui DB e risultano gli stessi dati aggregati. Inoltre il numero di job presenti nei DB corrisponde esattamente al numero di job sottomessi.
 

Revision 32010-09-23 - EnricoFattibene

Line: 1 to 1
 
META TOPICPARENT name="WebHome"
Changed:
<
<

Attivita' di test sul trasporto dati di DGAS tramite Active MQ

>
>

Test sul trasporto dati di DGAS tramite Active MQ

  L'installazione del tesbed, la configurazione e i test sono stati effettuati seguendo il piano di test proposto da Andrea Guarise.
Changed:
<
<
For ex. https://cert-wms-01:8443/wmsmon/details/details.php?wms=wms001.cnaf.infn.it

(Static screenshot are available in the screenshots section)

You can go back to the main page clicking on the wmsmon log or on the correspondent part of the navigation bar (ex.):

Installazione e confugurazione CE

I pacchetti delle dipendenze aggiuntive installati sono i seguenti:

  • APR: apr-1.4.2.tar.gz

Vista la mancanza di compilatore C per apr, abbiamo installato gcc versione 4.1.2-48.el5

In particolare:

gcc.x86_64 0:4.1.2-48.el5

Dependency Installed:

cpp.x86_64 0:4.1.2-48.el5

glibc-devel.x86_64 0:2.5-49

glibc-headers.x86_64 0:2.5-49

kernel-headers.x86_64 0:2.6.18-194.11.3.el5

libgomp.x86_64 0:4.4.0-6.el5

apr installato sotto /usr/lib/apr

>
>

Installazione CE e HLR

 
Added:
>
>
Dopo aver installato il CE gLite 3.2 SL5 x86_64 (profilo ig_CREAM_torque), seguendo la guida, abbiamo installato i pacchetti di DGAS indicati nel piano i test:
  • rpm -Uvh glite-dgas-common-3.4.1-0.centos5.x86_64.rpm
  • rpm -Uvh glite-dgas-hlr-clients-3.4.1-0.centos5.x86_64.rpm

Abbiamo installato 2 HLR (uno sara' standard e l'altro con Active MQ) seguendo la guida al paragrafo 3.1.2.1 New installation. I pacchetti installati sono:

  • glite-dgas-pa-clients-3.4.0-3.centos5
  • glite-dgas-hlr-clients-3.4.0-12.centos5
  • glite-dgas-hlr-service-3.4.0-23.centos5
  • glite-dgas-common-3.4.0-4.centos5

Su CE e HLR AMQ, prima di installare i pacchetti delle dipendenze aggiuntive, vista la mancanza di compilatore C, abbiamo installato gcc versione 4.1.2-48.el5.

  • yum install gcc.x86_64
  • Il pacchetto ha installato anche le seguenti dipendenze:
    • cpp.x86_64 0:4.1.2-48.el5
    • glibc-devel.x86_64 0:2.5-49
    • glibc-headers.x86_64 0:2.5-49
    • kernel-headers.x86_64 0:2.6.18-194.11.3.el5
    • libgomp.x86_64 0:4.4.0-6.el5

I pacchetti delle dipendenze aggiuntive che abbiamo installato sono i seguenti:

  • APR: apr-1.3.12.tar.gz
    • tar zxvf apr-1.3.12.tar.gz
    • cd apr-1.3.12
    • ./configure
    • make
    • make install
 
  • APR-util: apr-util-1.3.9.tar.gz
Added:
>
>
    • tar zxvf apr-util-1.3.9.tar.gz
    • cd apr-util-1.3.9
    • ./configure
    • make
    • make install
 
Added:
>
>
  • ACTIVEMQ: activemq-cpp-library-3.1.0-src.tar.gz
    • Abbiamo dovuto installare i seguenti pacchetti:
      • yum install autoconf automake libtool cppunit-devel cppunit gcc-c++ e2fsprogs-devel expat-devel
    • Poi configurato e installato activemq-cpp-library
      • tar zxvf activemq-cpp-library-3.1.0-src.tar.gz
      • cd activemq-cpp-library-3.1.0
      • ./configure --prefix=/opt/activemq/lib/
      • make
      • make install
 
Changed:
<
<
  • ACTIVEMQ: activemq-cpp-library-3.2.2-src.tar.gz

Lanciando ./configure --prefix=/opt/activemq/lib/ si ottiene questo errore:

checking for pthread_create in -lpthread... no

>
>
Nota: usando una versione piu' recente di activemq-cpp-library (abbiamo testato la versione 3.2.0) si ottiene il seguente errore quando si lancia il configure:
  • ./configure --prefix=/opt/activemq/lib/
    • checking for pthread_create in -lpthread... no
    • configure: error: libpthread not found!
 
Changed:
<
<
configure: error: libpthread not found!
>
>
Sul CE abbiamo provato ad installare org.glite.dgas.hlr-activemq-producer, ma falliva nel cercare le dipendenze dalle librerie di activemq, apr e aprutil, in quento non installati da rpm ma da tgz. Allora abbiamo installato con --nodeps:
 
Changed:
<
<
A questo punto abbiamo installato un versione piu’ vecchia di apr (apr-1.3.12). Poi abbiamo installato I seguenti pacchetti:
>
>
  • rpm -ivh --nodeps glite-dgas-hlr-activemq-producer-0.0.0-0.centos5.x86_64.rpm
 
Changed:
<
<
autoconf
>
>
Sull' HLR AMQ abbiamo dovuto installare con --nodeps i seguenti pacchetti:
 
Changed:
<
<
automake
>
>
  • glite-dgas-hlr-activemq-consumer-0.0.0-0.centos5
  • glite-dgas-hlr-activemq-producer-0.0.0-0.centos5
 
Changed:
<
<
libtool
>
>

Configurazione CE

 
Changed:
<
<
cppunit-devel
>
>
Nel file /opt/glite/etc/dgas_sensors.conf abbiamo aggiunti i seguenti parametri:
  • printAsciiLog = "yes"
  • asciiLogFilePath = "/opt/glite/var/log/pushdAscii.log"
  • amqBrokerUri = "URI del broker AMQ"
  • transportLayer = "legacy;amq"
  • recordComposer = "/opt/glite/libexec/glite_dgas_recordComposer"
  • amqProducer = "/opt/glite/libexec/glite_dgas_hlrProducer"
  • dgasAMQTopic = "DGAS.TEST"
 
Changed:
<
<
cppunit
>
>
La restante parte della configurazione e' stata eseguita come di solito, per far puntare il CE all'HLR (standard).
 
Changed:
<
<
gcc-c++
>
>

Configurazione HLR AMQ

 
Changed:
<
<
e2fsprogs-devel
>
>
Abbiamo creato il file /opt/glite/etc/dgas-activemq-consumer.conf con i seguenti parametri:
  • lockFileName = "/opt/glite/var/dgas-hlr-amq-consumer.lock"
  • logFileName = "/opt/glite/var/dgas-hlr-amq-consumer.log"
  • amqBrokerUri = "URI del broker AMQ"
  • recordsDir = "/tmp/dgasamq/"
  • dgasAMQTopic = "DGAS.TEST"
  • hlr_user = "root"
  • dgas_var_dir = "/opt/glite/var/"
 
Changed:
<
<
expat-devel
>
>
  • managerLockFileName = "/opt/glite/var/dgas-hlr-amq-manager.lock"
  • messageParsingCommand = "cat MESSAGEFILE"
  • AMQRecordsDir = "/tmp/dgasamq/"
 
Changed:
<
<
E poi configurato e installato activemq-cpp-library
>
>
  • managerLogFileName = "/opt/glite/var/dgas-hlr-amq-manager.log"
  • #Qui seguono gl i stessi valori con cui e' configurato il corrispondente dgas_hlr.conf
  • hlr_sql_server = "localhost"
  • hlr_sql_user = "root"
  • hlr_sql_password = "database password"
  • hlr_sql_dbname = "hlr database"
  • hlr_tmp_sql_dbname = "hlr_tmp database"
 
Changed:
<
<
A questo punto provo ad installare org.glite.dgas.hlr-activemq-producer
>
>

Test

 
Changed:
<
<
rpm -ivh glite-dgas-hlr-activemq-producer-0.0.0-0.centos5.x86_64.rpm
>
>
Operazioni svolte per attivare SSL.
 
Changed:
<
<
error: Failed dependencies: libactivemq-cpp.so.11()(64bit) is needed by glite-dgas-hlr-activemq-producer-0.0.0-0.centos5.x86_64 libapr-1.so.0()(64bit) is needed by glite-dgas-hlr-activemq-producer-0.0.0-0.centos5.x86_64 libaprutil-1.so.0()(64bit) is needed by glite-dgas-hlr-activemq-producer-0.0.0-0.centos5.x86_64
>
>
  • Sul CE
    • Abbiamo copiato la chiave pubblica hostcert.pem dell’ HLR AMQ sotto /etc/grid/security col nome dgas-test-vm02-cert.pem. Poi abbiamo configurato, seguendo la guida, in /opt/glite/etc/dgas_sensors.conf:
      • amqProducer = "openssl smime -binary -encrypt dgas-test-vm02-cert.pem | /opt/glite/libexec/glite_dgas_hlrProducer"
 
Changed:
<
<
Ma cio’ e’ normale in quanto le librerie sono state installate da tgz.
>
>
  • Sull'HLR
    • In /opt/glite/etc/dgas-activemq-consumer.conf:
      • messageParsingCommand = "cat MESSAGEFILE | openssl smime -decrypt -inkey /etc/grid-security/hostkey.pem -keyform PEM -recip /etc/grid-security/hostcert.pem"
 
Changed:
<
<
Allora ho riprovato con –nodeps ed e’ stato installato il dgas.hlr-activemq-producer
>
>
E abbiamo fatto ripartire tutti i servizi dgas.
 
Added:
>
>

Test A-B: Test di comunicazione CE - HLR (senza e con SSL)

 
Added:
>
>
Seguendo la guida i test sono stati effettuati con successo.
 
Changed:
<
<
Before describing the available info in detail, notice that various kinds of data are collected:
>
>

Test C: Test di comunicazione cambiando valore di dgasAMQTopic (senza e con SSL)

 
Changed:
<
<
- WMSLB service and HW status variables (such as daemons status, condor jobs status statistics, File descriptors opened by main processes..) for which the value at the time of measurement is shown. These data are collected by the mean of a client application in python running on the WMS and LB instance.
>
>
Seguendo la guida i test sono stati effettuati con successo.
 
Changed:
<
<
- Mean job flow rates between wms components (WMproxy, Workload Manager, Job Controller, Condor) across a given time interval reported as well. Time interval is past 15 min by default. These data are collected by the mean of a client application in python running a mysql query on specific LB instance.
>
>

Test D-E: Test di un ciclo completo di accounting (senza e con SSL)

 
Changed:
<
<
- Resource usage statistics for that wms (available only from 2.0 version)
>
>
Seguendo la guida i test sono stati effettuati con successo.
 
Changed:
<
<
Components Details BOX
>
>

Test F: Test di integrita' dei dati (stessi dati su HLR e HLR-AMQ) (SSL attivo)

 
Changed:
<
<
CHARTS BOX
>
>
Abbiamo lanciato 2 serie di job con 2 certificati diversi (Cristofori e Fattibene). Alla fine (dopo circa 2 giorni di servizi attivi) sui 2 DB risulta un totale di 7834 job ed esattamente gli stessi risultati aggregati, in termini di numero di job, CPU time e Wall time per entrambi i gridUser.
 
Changed:
<
<
GENERAL INFO BOXES
>
>
Successivamente abbiamo lanciato una terza serie di job con SSL attivo (utente Cristofori) con 1410 job processati nei DB, stessi dati sui 2 DB. Dopo abbiamo spneto i servizi sui 2 HLR e sul CE.
 
Changed:
<
<
RESOURCE USAGE
>
>

Test G: Test di integrita' dei dati (stessi dati su HLR e HLR-AMQ) (SSL disattivo)

 
Changed:
<
<
It is possible to create CUSTOM CHART selecting this option from the top page menu under "WMS MENU".
>
>
Con i servizi disattivi abbiamo configurato in modo da disattivare SSL. Dopo abbiamo fatto ripartire i servizi per continuare a processare i job di Cristofori.
 
Deleted:
<
<
It is possible to access a LOAD BALANCING section plot selecting this option from the top page menu under "WMS MENU".
 
Deleted:
<
<
You can access the VOs View section from the main menu ont he top of the page under "VO VIEW"
 

-- EnricoFattibene - 2010-09-23

Revision 22010-09-23 - EnricoFattibene

Line: 1 to 1
 
META TOPICPARENT name="WebHome"
Added:
>
>

Attivita' di test sul trasporto dati di DGAS tramite Active MQ

 
Changed:
<
<
Cippa lippa
>
>
L'installazione del tesbed, la configurazione e i test sono stati effettuati seguendo il piano di test proposto da Andrea Guarise.

For ex. https://cert-wms-01:8443/wmsmon/details/details.php?wms=wms001.cnaf.infn.it

(Static screenshot are available in the screenshots section)

You can go back to the main page clicking on the wmsmon log or on the correspondent part of the navigation bar (ex.):

Installazione e confugurazione CE

I pacchetti delle dipendenze aggiuntive installati sono i seguenti:

  • APR: apr-1.4.2.tar.gz

Vista la mancanza di compilatore C per apr, abbiamo installato gcc versione 4.1.2-48.el5

In particolare:

gcc.x86_64 0:4.1.2-48.el5

Dependency Installed:

cpp.x86_64 0:4.1.2-48.el5

glibc-devel.x86_64 0:2.5-49

glibc-headers.x86_64 0:2.5-49

kernel-headers.x86_64 0:2.6.18-194.11.3.el5

libgomp.x86_64 0:4.4.0-6.el5

apr installato sotto /usr/lib/apr

  • APR-util: apr-util-1.3.9.tar.gz

  • ACTIVEMQ: activemq-cpp-library-3.2.2-src.tar.gz

Lanciando ./configure --prefix=/opt/activemq/lib/ si ottiene questo errore:

checking for pthread_create in -lpthread... no

configure: error: libpthread not found!

A questo punto abbiamo installato un versione piu’ vecchia di apr (apr-1.3.12). Poi abbiamo installato I seguenti pacchetti:

autoconf

automake

libtool

cppunit-devel

cppunit

gcc-c++

e2fsprogs-devel

expat-devel

E poi configurato e installato activemq-cpp-library

A questo punto provo ad installare org.glite.dgas.hlr-activemq-producer

rpm -ivh glite-dgas-hlr-activemq-producer-0.0.0-0.centos5.x86_64.rpm

error: Failed dependencies: libactivemq-cpp.so.11()(64bit) is needed by glite-dgas-hlr-activemq-producer-0.0.0-0.centos5.x86_64 libapr-1.so.0()(64bit) is needed by glite-dgas-hlr-activemq-producer-0.0.0-0.centos5.x86_64 libaprutil-1.so.0()(64bit) is needed by glite-dgas-hlr-activemq-producer-0.0.0-0.centos5.x86_64

Ma cio’ e’ normale in quanto le librerie sono state installate da tgz.

Allora ho riprovato con –nodeps ed e’ stato installato il dgas.hlr-activemq-producer

Before describing the available info in detail, notice that various kinds of data are collected:

- WMSLB service and HW status variables (such as daemons status, condor jobs status statistics, File descriptors opened by main processes..) for which the value at the time of measurement is shown. These data are collected by the mean of a client application in python running on the WMS and LB instance.

- Mean job flow rates between wms components (WMproxy, Workload Manager, Job Controller, Condor) across a given time interval reported as well. Time interval is past 15 min by default. These data are collected by the mean of a client application in python running a mysql query on specific LB instance.

- Resource usage statistics for that wms (available only from 2.0 version)

Components Details BOX

CHARTS BOX

GENERAL INFO BOXES

RESOURCE USAGE

It is possible to create CUSTOM CHART selecting this option from the top page menu under "WMS MENU".

It is possible to access a LOAD BALANCING section plot selecting this option from the top page menu under "WMS MENU".

You can access the VOs View section from the main menu ont he top of the page under "VO VIEW"

 

-- EnricoFattibene - 2010-09-23 \ No newline at end of file

Added:
>
>

META FILEATTACHMENT attachment="DGAS-AMQ-testplan.rtf" attr="" comment="" date="1285236902" name="DGAS-AMQ-testplan.rtf" path="DGAS-AMQ-testplan.rtf" size="67700" stream="DGAS-AMQ-testplan.rtf" tmpFilename="/usr/tmp/CGItemp15419" user="EnricoFattibene" version="1"

Revision 12010-09-23 - EnricoFattibene

Line: 1 to 1
Added:
>
>
META TOPICPARENT name="WebHome"

Cippa lippa

-- EnricoFattibene - 2010-09-23

 
This site is powered by the TWiki collaboration platformCopyright © 2008-2019 by the contributing authors. All material on this collaboration platform is the property of the contributing authors.
Ideas, requests, problems regarding TWiki? Send feedback