- Small fix for CAF that messed-up user tasks after filters
[u/mrichter/AliRoot.git] / ANALYSIS / AliAnalysisManager.cxx
1 /**************************************************************************
2  * Copyright(c) 1998-1999, ALICE Experiment at CERN, All rights reserved. *
3  *                                                                        *
4  * Author: The ALICE Off-line Project.                                    *
5  * Contributors are mentioned in the code where appropriate.              *
6  *                                                                        *
7  * Permission to use, copy, modify and distribute this software and its   *
8  * documentation strictly for non-commercial purposes is hereby granted   *
9  * without fee, provided that the above copyright notice appears in all   *
10  * copies and that both the copyright notice and this permission notice   *
11  * appear in the supporting documentation. The authors make no claims     *
12  * about the suitability of this software for any purpose. It is          *
13  * provided "as is" without express or implied warranty.                  *
14  **************************************************************************/
15
16 /* $Id$ */
17 // Author: Andrei Gheata, 31/05/2006
18
19 //==============================================================================
20 //   AliAnalysysManager - Manager analysis class. Allows creation of several
21 // analysis tasks and data containers storing their input/output. Allows
22 // connecting/chaining tasks via shared data containers. Serializes the current
23 // event for all tasks depending only on initial input data.
24 //==============================================================================
25 //
26 //==============================================================================
27
28 #include <Riostream.h>
29
30 #include <TClass.h>
31 #include <TFile.h>
32 #include <TMethodCall.h>
33 #include <TChain.h>
34 #include <TSystem.h>
35 #include <TROOT.h>
36 #include <TCanvas.h>
37
38 #include "AliAnalysisSelector.h"
39 #include "AliAnalysisTask.h"
40 #include "AliAnalysisDataContainer.h"
41 #include "AliAnalysisDataSlot.h"
42 #include "AliVEventHandler.h"
43 #include "AliVEventPool.h"
44 #include "AliSysInfo.h"
45 #include "AliAnalysisManager.h"
46
47 ClassImp(AliAnalysisManager)
48
49 AliAnalysisManager *AliAnalysisManager::fgAnalysisManager = NULL;
50
51 //______________________________________________________________________________
52 AliAnalysisManager::AliAnalysisManager(const char *name, const char *title)
53                    :TNamed(name,title),
54                     fTree(NULL),
55                     fInputEventHandler(NULL),
56                     fOutputEventHandler(NULL),
57                     fMCtruthEventHandler(NULL),
58                     fEventPool(NULL),
59                     fCurrentEntry(-1),
60                     fNSysInfo(0),
61                     fMode(kLocalAnalysis),
62                     fInitOK(kFALSE),
63                     fDebug(0),
64                     fSpecialOutputLocation(""), 
65                     fTasks(NULL),
66                     fTopTasks(NULL),
67                     fZombies(NULL),
68                     fContainers(NULL),
69                     fInputs(NULL),
70                     fOutputs(NULL),
71                     fSelector(NULL)
72 {
73 // Default constructor.
74    fgAnalysisManager = this;
75    fTasks      = new TObjArray();
76    fTopTasks   = new TObjArray();
77    fZombies    = new TObjArray();
78    fContainers = new TObjArray();
79    fInputs     = new TObjArray();
80    fOutputs    = new TObjArray();
81    SetEventLoop(kTRUE);
82 }
83
84 //______________________________________________________________________________
85 AliAnalysisManager::AliAnalysisManager(const AliAnalysisManager& other)
86                    :TNamed(other),
87                     fTree(NULL),
88                     fInputEventHandler(NULL),
89                     fOutputEventHandler(NULL),
90                     fMCtruthEventHandler(NULL),
91                     fEventPool(NULL),
92                     fCurrentEntry(-1),
93                     fNSysInfo(0),
94                     fMode(other.fMode),
95                     fInitOK(other.fInitOK),
96                     fDebug(other.fDebug),
97                     fSpecialOutputLocation(""), 
98                     fTasks(NULL),
99                     fTopTasks(NULL),
100                     fZombies(NULL),
101                     fContainers(NULL),
102                     fInputs(NULL),
103                     fOutputs(NULL),
104                     fSelector(NULL)
105 {
106 // Copy constructor.
107    fTasks      = new TObjArray(*other.fTasks);
108    fTopTasks   = new TObjArray(*other.fTopTasks);
109    fZombies    = new TObjArray(*other.fZombies);
110    fContainers = new TObjArray(*other.fContainers);
111    fInputs     = new TObjArray(*other.fInputs);
112    fOutputs    = new TObjArray(*other.fOutputs);
113    fgAnalysisManager = this;
114 }
115    
116 //______________________________________________________________________________
117 AliAnalysisManager& AliAnalysisManager::operator=(const AliAnalysisManager& other)
118 {
119 // Assignment
120    if (&other != this) {
121       TNamed::operator=(other);
122       fInputEventHandler   = other.fInputEventHandler;
123       fOutputEventHandler  = other.fOutputEventHandler;
124       fMCtruthEventHandler = other.fMCtruthEventHandler;
125       fEventPool           = other.fEventPool;
126       fTree       = NULL;
127       fCurrentEntry = -1;
128       fNSysInfo   = other.fNSysInfo;
129       fMode       = other.fMode;
130       fInitOK     = other.fInitOK;
131       fDebug      = other.fDebug;
132       fTasks      = new TObjArray(*other.fTasks);
133       fTopTasks   = new TObjArray(*other.fTopTasks);
134       fZombies    = new TObjArray(*other.fZombies);
135       fContainers = new TObjArray(*other.fContainers);
136       fInputs     = new TObjArray(*other.fInputs);
137       fOutputs    = new TObjArray(*other.fOutputs);
138       fSelector   = NULL;
139       fgAnalysisManager = this;
140    }
141    return *this;
142 }
143
144 //______________________________________________________________________________
145 AliAnalysisManager::~AliAnalysisManager()
146 {
147 // Destructor.
148    if (fTasks) {fTasks->Delete(); delete fTasks;}
149    if (fTopTasks) delete fTopTasks;
150    if (fZombies) delete fZombies;
151    if (fContainers) {fContainers->Delete(); delete fContainers;}
152    if (fInputs) delete fInputs;
153    if (fOutputs) delete fOutputs;
154    if (fgAnalysisManager==this) fgAnalysisManager = NULL;
155 }
156
157 //______________________________________________________________________________
158 Int_t AliAnalysisManager::GetEntry(Long64_t entry, Int_t getall)
159 {
160 // Read one entry of the tree or a whole branch.
161    if (fDebug > 0) printf("== AliAnalysisManager::GetEntry(%lld)\n", entry);
162    fCurrentEntry = entry;
163    return fTree ? fTree->GetTree()->GetEntry(entry, getall) : 0;
164 }
165    
166 //______________________________________________________________________________
167 void AliAnalysisManager::Init(TTree *tree)
168 {
169   // The Init() function is called when the selector needs to initialize
170   // a new tree or chain. Typically here the branch addresses of the tree
171   // will be set. It is normaly not necessary to make changes to the
172   // generated code, but the routine can be extended by the user if needed.
173   // Init() will be called many times when running with PROOF.
174    if (!tree) return;
175    if (fDebug > 0) {
176       printf("->AliAnalysisManager::Init(%s)\n", tree->GetName());
177    }
178
179    // Call InitTree of EventHandler
180    if (fOutputEventHandler) {
181       if (fMode == kProofAnalysis) {
182          fOutputEventHandler->Init(0x0, "proof");
183       } else {
184          fOutputEventHandler->Init(0x0, "local");
185       }
186    }
187
188    if (fInputEventHandler) {
189       if (fMode == kProofAnalysis) {
190          fInputEventHandler->Init(tree, "proof");
191       } else {
192          fInputEventHandler->Init(tree, "local");
193       }
194    } else {
195       // If no input event handler we need to get the tree once
196       // for the chain
197       if(!tree->GetTree()) tree->LoadTree(0);
198    }
199    
200
201    if (fMCtruthEventHandler) {
202       if (fMode == kProofAnalysis) {
203          fMCtruthEventHandler->Init(0x0, "proof");
204       } else {
205          fMCtruthEventHandler->Init(0x0, "local");
206       }
207    }
208
209    if (!fInitOK) InitAnalysis();
210    if (!fInitOK) return;
211    fTree = tree;
212    AliAnalysisDataContainer *top = (AliAnalysisDataContainer*)fInputs->At(0);
213    if (!top) {
214       Error("Init","No top input container !");
215       return;
216    }
217    top->SetData(tree);
218    if (fDebug > 0) {
219       printf("<-AliAnalysisManager::Init(%s)\n", tree->GetName());
220    }
221 }
222
223 //______________________________________________________________________________
224 void AliAnalysisManager::SlaveBegin(TTree *tree)
225 {
226   // The SlaveBegin() function is called after the Begin() function.
227   // When running with PROOF SlaveBegin() is called on each slave server.
228   // The tree argument is deprecated (on PROOF 0 is passed).
229    if (fDebug > 0) printf("->AliAnalysisManager::SlaveBegin()\n");
230    static Bool_t isCalled = kFALSE;
231    TDirectory *curdir = gDirectory;
232    // Call SlaveBegin only once in case of mixing
233    if (isCalled && fMode==kMixingAnalysis) return;
234    // Call Init of EventHandler
235    if (fOutputEventHandler) {
236       if (fMode == kProofAnalysis) {
237          TIter nextout(fOutputs);
238          AliAnalysisDataContainer *c_aod;
239          while ((c_aod=(AliAnalysisDataContainer*)nextout())) if (!strcmp(c_aod->GetFileName(),"default")) break;
240          if (c_aod && c_aod->IsSpecialOutput()) {
241             // Merging via files
242             if (fDebug > 1) printf("   Initializing special output file %s...\n", fOutputEventHandler->GetOutputFileName());
243             OpenProofFile(fOutputEventHandler->GetOutputFileName(), "RECREATE");
244             c_aod->SetFile(gFile);
245             fOutputEventHandler->Init("proofspecial");
246          } else {
247             // Merging in memory
248             fOutputEventHandler->Init("proof");
249          }   
250       } else {
251          fOutputEventHandler->Init("local");
252       }
253    }
254
255    if (fInputEventHandler) {
256       fInputEventHandler->SetInputTree(tree);
257       if (fMode == kProofAnalysis) {
258          fInputEventHandler->Init("proof");
259       } else {
260          fInputEventHandler->Init("local");
261       }
262    }
263
264    if (fMCtruthEventHandler) {
265       if (fMode == kProofAnalysis) {
266          fMCtruthEventHandler->Init("proof");
267       } else {
268          fMCtruthEventHandler->Init("local");
269       }
270    }
271    if (curdir) curdir->cd();
272    
273    TIter next(fTasks);
274    AliAnalysisTask *task;
275    // Call CreateOutputObjects for all tasks
276    while ((task=(AliAnalysisTask*)next())) {
277       curdir = gDirectory;
278       task->CreateOutputObjects();
279       if (curdir) curdir->cd();
280    }
281    isCalled = kTRUE;
282
283    if (fDebug > 0) printf("<-AliAnalysisManager::SlaveBegin()\n");
284 }
285
286 //______________________________________________________________________________
287 Bool_t AliAnalysisManager::Notify()
288 {
289    // The Notify() function is called when a new file is opened. This
290    // can be either for a new TTree in a TChain or when when a new TTree
291    // is started when using PROOF. It is normaly not necessary to make changes
292    // to the generated code, but the routine can be extended by the
293    // user if needed. The return value is currently not used.
294    if (!fTree) {
295       Error("Notify","No current tree.");
296       return kFALSE;
297    }   
298    TFile *curfile = fTree->GetCurrentFile();
299    if (!curfile) {
300       Error("Notify","No current file");
301       return kFALSE;
302    }   
303    
304    if (fDebug > 0) printf("->AliAnalysisManager::Notify() file: %s\n", curfile->GetName());
305    TIter next(fTasks);
306    AliAnalysisTask *task;
307    // Call Notify for all tasks
308    while ((task=(AliAnalysisTask*)next())) 
309       task->Notify();
310         
311    // Call Notify of the event handlers
312    if (fInputEventHandler) {
313        fInputEventHandler->Notify(curfile->GetName());
314    }
315
316    if (fOutputEventHandler) {
317        fOutputEventHandler->Notify(curfile->GetName());
318    }
319
320    if (fMCtruthEventHandler) {
321        fMCtruthEventHandler->Notify(curfile->GetName());
322    }
323    if (fDebug > 0) printf("<-AliAnalysisManager::Notify()\n");
324    return kTRUE;
325 }    
326
327 //______________________________________________________________________________
328 Bool_t AliAnalysisManager::Process(Long64_t entry)
329 {
330   // The Process() function is called for each entry in the tree (or possibly
331   // keyed object in the case of PROOF) to be processed. The entry argument
332   // specifies which entry in the currently loaded tree is to be processed.
333   // It can be passed to either TTree::GetEntry() or TBranch::GetEntry()
334   // to read either all or the required parts of the data. When processing
335   // keyed objects with PROOF, the object is already loaded and is available
336   // via the fObject pointer.
337   //
338   // This function should contain the "body" of the analysis. It can contain
339   // simple or elaborate selection criteria, run algorithms on the data
340   // of the event and typically fill histograms.
341
342   // WARNING when a selector is used with a TChain, you must use
343   //  the pointer to the current TTree to call GetEntry(entry).
344   //  The entry is always the local entry number in the current tree.
345   //  Assuming that fChain is the pointer to the TChain being processed,
346   //  use fChain->GetTree()->GetEntry(entry).
347    if (fDebug > 0) printf("->AliAnalysisManager::Process(%lld)\n", entry);
348
349    if (fInputEventHandler)   fInputEventHandler  ->BeginEvent(entry);
350    if (fOutputEventHandler)  fOutputEventHandler ->BeginEvent(entry);
351    if (fMCtruthEventHandler) fMCtruthEventHandler->BeginEvent(entry);
352    
353    GetEntry(entry);
354    ExecAnalysis();
355    if (fDebug > 0) printf("<-AliAnalysisManager::Process()\n");
356    return kTRUE;
357 }
358
359 //______________________________________________________________________________
360 void AliAnalysisManager::PackOutput(TList *target)
361 {
362   // Pack all output data containers in the output list. Called at SlaveTerminate
363   // stage in PROOF case for each slave.
364    if (fDebug > 0) printf("->AliAnalysisManager::PackOutput()\n");
365    if (!target) {
366       Error("PackOutput", "No target. Aborting.");
367       return;
368    }
369    if (fInputEventHandler)   fInputEventHandler  ->Terminate();
370    if (fOutputEventHandler)  fOutputEventHandler ->Terminate();
371    if (fMCtruthEventHandler) fMCtruthEventHandler->Terminate();
372
373    // Call FinishTaskOutput() for each event loop task (not called for 
374    // post-event loop tasks - use Terminate() fo those)
375    TIter nexttask(fTasks);
376    AliAnalysisTask *task;
377    while ((task=(AliAnalysisTask*)nexttask())) {
378       if (!task->IsPostEventLoop()) {
379          if (fDebug > 0) printf("->FinishTaskOutput: task %s\n", task->GetName());
380          task->FinishTaskOutput();
381          if (fDebug > 0) printf("<-FinishTaskOutput: task %s\n", task->GetName());
382       }
383    }      
384    
385    if (fMode == kProofAnalysis) {
386       TIter next(fOutputs);
387       AliAnalysisDataContainer *output;
388       Bool_t isManagedByHandler = kFALSE;
389       while ((output=(AliAnalysisDataContainer*)next())) {
390          // Do not consider outputs of post event loop tasks
391          isManagedByHandler = kFALSE;
392          if (output->GetProducer()->IsPostEventLoop()) continue;
393          const char *filename = output->GetFileName();
394          if (!(strcmp(filename, "default")) && fOutputEventHandler) {
395             isManagedByHandler = kTRUE;
396             filename = fOutputEventHandler->GetOutputFileName();
397          }
398          // Check if data was posted to this container. If not, issue an error.
399          if (!output->GetData() && !isManagedByHandler) {
400             Error("PackOutput", "No data for output container %s. Forgot to PostData ?\n", output->GetName());
401             continue;
402          }   
403          if (!output->IsSpecialOutput()) {
404             // Normal outputs
405             if (strlen(filename) && !isManagedByHandler) {
406                // File resident outputs
407                TFile *file = output->GetFile();
408                // Backup current folder
409                TDirectory *opwd = gDirectory;
410                // Create file if not existing and register to container.
411                if (file) file->cd();
412                else      file = new TFile(filename, "RECREATE"); 
413                if (file->IsZombie()) {
414                   Fatal("PackOutput", "Could not recreate file %s\n", filename);
415                   return;
416                }   
417                output->SetFile(file);
418                // Clear file list to release object ownership to user.
419                file->Clear();
420                // Save data to file, then close.
421                if (output->GetData()->InheritsFrom(TCollection::Class())) {
422                   // If data is a collection, we set the name of the collection 
423                   // as the one of the container and we save as a single key.
424                   TCollection *coll = (TCollection*)output->GetData();
425                   coll->SetName(output->GetName());
426                   coll->Write(output->GetName(), TObject::kSingleKey);
427                } else {
428                   output->GetData()->Write();
429                }      
430                if (fDebug > 1) printf("PackOutput %s: memory merge, file resident output\n", output->GetName());
431                if (fDebug > 2) {
432                   printf("   file %s listing content:\n", filename);
433                   file->ls();
434                }   
435                file->Close();
436                // Restore current directory
437                if (opwd) opwd->cd();
438             } else {
439                // Memory-resident outputs   
440                if (fDebug > 1) printf("PackOutput %s: memory merge memory resident output\n", filename);
441             }   
442             AliAnalysisDataWrapper *wrap = 0;
443             if (isManagedByHandler) {
444                wrap = new AliAnalysisDataWrapper(fOutputEventHandler->GetTree());
445                wrap->SetName(output->GetName());
446             }   
447             else                    wrap =output->ExportData();
448             // Output wrappers must delete data after merging (AG 13/11/07)
449             wrap->SetDeleteData(kTRUE);
450             target->Add(wrap);
451          } else {
452          // Special outputs
453             TDirectory *opwd = gDirectory;
454             TFile *file = output->GetFile();
455             if (fDebug > 1 && file) printf("PackOutput %s: file merge, special output\n", output->GetName());
456             if (isManagedByHandler) {
457                // Terminate IO for files managed by the output handler
458                if (file) file->Write();
459                if (file && fDebug > 2) {
460                   printf("   handled file %s listing content:\n", file->GetName());
461                   file->ls();
462                }   
463                fOutputEventHandler->TerminateIO();
464                continue;
465             }   
466             
467             if (!file) {
468                AliAnalysisTask *producer = output->GetProducer();
469                Error("PackOutput", 
470                      "File %s for special container %s was NOT opened in %s::CreateOutputObjects !!!",
471                      output->GetFileName(), output->GetName(), producer->ClassName());
472                continue;
473             }   
474             file->cd();
475             // Release object ownership to users after writing data to file
476             if (output->GetData()->InheritsFrom(TCollection::Class())) {
477                // If data is a collection, we set the name of the collection 
478                // as the one of the container and we save as a single key.
479                TCollection *coll = (TCollection*)output->GetData();
480                coll->SetName(output->GetName());
481                coll->Write(output->GetName(), TObject::kSingleKey);
482             } else {
483                output->GetData()->Write();
484             }      
485             file->Clear();
486             if (fDebug > 2) {
487                printf("   file %s listing content:\n", output->GetFileName());
488                file->ls();
489             }   
490             file->Close();
491             // Restore current directory
492             if (opwd) opwd->cd();
493             // Check if a special output location was provided or the output files have to be merged
494             if (strlen(fSpecialOutputLocation.Data())) {
495                TString remote = fSpecialOutputLocation;
496                remote += "/";
497                Int_t gid = gROOT->ProcessLine("gProofServ->GetGroupId();");
498                remote += Form("%s_%d_", gSystem->HostName(), gid);
499                remote += output->GetFileName();
500                TFile::Cp(output->GetFileName(), remote.Data());
501             } else {
502             // No special location specified-> use TProofOutputFile as merging utility
503             // The file at this output slot must be opened in CreateOutputObjects
504                if (fDebug > 1) printf("   File %s to be merged...\n", output->GetFileName());
505             }
506          }      
507       }
508    } 
509    if (fDebug > 0) printf("<-AliAnalysisManager::PackOutput: output list contains %d containers\n", target->GetSize());
510 }
511
512 //______________________________________________________________________________
513 void AliAnalysisManager::ImportWrappers(TList *source)
514 {
515 // Import data in output containers from wrappers coming in source.
516    if (fDebug > 0) printf("->AliAnalysisManager::ImportWrappers()\n");
517    TIter next(fOutputs);
518    AliAnalysisDataContainer *cont;
519    AliAnalysisDataWrapper   *wrap;
520    Int_t icont = 0;
521    while ((cont=(AliAnalysisDataContainer*)next())) {
522       wrap = 0;
523       if (cont->GetProducer()->IsPostEventLoop()) continue;
524       const char *filename = cont->GetFileName();
525       Bool_t isManagedByHandler = kFALSE;
526       if (!(strcmp(filename, "default")) && fOutputEventHandler) {
527          isManagedByHandler = kTRUE;
528          filename = fOutputEventHandler->GetOutputFileName();
529       }
530       if (cont->IsSpecialOutput()) {
531          if (strlen(fSpecialOutputLocation.Data()) && !isManagedByHandler) continue;
532          // Copy merged file from PROOF scratch space
533          char full_path[512];
534          TObject *pof =  source->FindObject(filename);
535          if (!pof || !pof->InheritsFrom("TProofOutputFile")) {
536             Error("ImportWrappers", "TProofOutputFile object not found in output list for container %s", cont->GetName());
537             continue;
538          }
539          gROOT->ProcessLine(Form("sprintf((char*)0x%lx, \"%%s\", ((TProofOutputFile*)0x%lx)->GetOutputFileName();)", full_path, pof));
540          if (fDebug > 1) 
541             printf("   Copying file %s from PROOF scratch space\n", full_path);
542          Bool_t gotit = TFile::Cp(full_path, filename); 
543          if (!gotit) {
544             Error("ImportWrappers", "Could not get file %s from proof scratch space", cont->GetFileName());
545          }
546          // Normally we should connect data from the copied file to the
547          // corresponding output container, but it is not obvious how to do this
548          // automatically if several objects in file...
549          TFile *f = new TFile(filename, "READ");
550          TObject *obj = 0;
551          if (!isManagedByHandler) obj = f->Get(cont->GetName());
552          if (!obj && !isManagedByHandler) {
553             Error("ImportWrappers", "Could not find object %s in file %s", cont->GetName(), filename);
554             continue;
555          }
556          wrap = new AliAnalysisDataWrapper(obj);
557          wrap->SetDeleteData(kFALSE);
558       }   
559       if (!wrap) wrap = (AliAnalysisDataWrapper*)source->FindObject(cont->GetName());
560       if (!wrap) {
561          Error("ImportWrappers","Container %s not found in analysis output !", cont->GetName());
562          continue;
563       }
564       icont++;
565       if (fDebug > 1) {
566          printf("   Importing data for container %s", cont->GetName());
567          if (strlen(filename)) printf("    -> file %s\n", cont->GetFileName());
568          else printf("\n");
569       }   
570       cont->ImportData(wrap);
571    }         
572    if (fDebug > 0) printf("<-AliAnalysisManager::ImportWrappers(): %d containers imported\n", icont);
573 }
574
575 //______________________________________________________________________________
576 void AliAnalysisManager::UnpackOutput(TList *source)
577 {
578   // Called by AliAnalysisSelector::Terminate only on the client.
579    if (fDebug > 0) printf("->AliAnalysisManager::UnpackOutput()\n");
580    if (!source) {
581       Error("UnpackOutput", "No target. Aborting.");
582       return;
583    }
584    if (fDebug > 1) printf("   Source list contains %d containers\n", source->GetSize());
585
586    if (fMode == kProofAnalysis) ImportWrappers(source);
587
588    TIter next(fOutputs);
589    AliAnalysisDataContainer *output;
590    while ((output=(AliAnalysisDataContainer*)next())) {
591       if (!output->GetData()) continue;
592       // Check if there are client tasks that run post event loop
593       if (output->HasConsumers()) {
594          // Disable event loop semaphore
595          output->SetPostEventLoop(kTRUE);
596          TObjArray *list = output->GetConsumers();
597          Int_t ncons = list->GetEntriesFast();
598          for (Int_t i=0; i<ncons; i++) {
599             AliAnalysisTask *task = (AliAnalysisTask*)list->At(i);
600             task->CheckNotify(kTRUE);
601             // If task is active, execute it
602             if (task->IsPostEventLoop() && task->IsActive()) {
603                if (fDebug > 0) printf("== Executing post event loop task %s\n", task->GetName());
604                task->ExecuteTask();
605             }   
606          }
607       }   
608    }
609    if (fDebug > 0) printf("<-AliAnalysisManager::UnpackOutput()\n");
610 }
611
612 //______________________________________________________________________________
613 void AliAnalysisManager::Terminate()
614 {
615   // The Terminate() function is the last function to be called during
616   // a query. It always runs on the client, it can be used to present
617   // the results graphically.
618    if (fDebug > 0) printf("->AliAnalysisManager::Terminate()\n");
619    AliAnalysisTask *task;
620    TIter next(fTasks);
621    // Call Terminate() for tasks
622    while ((task=(AliAnalysisTask*)next())) task->Terminate();
623    //
624    TIter next1(fOutputs);
625    AliAnalysisDataContainer *output;
626    while ((output=(AliAnalysisDataContainer*)next1())) {
627       // Close all files at output
628       // Special outputs have the files already closed and written.
629       if (output->IsSpecialOutput()) continue;
630       const char *filename = output->GetFileName();
631       if (!(strcmp(filename, "default"))) {
632          if (fOutputEventHandler) filename = fOutputEventHandler->GetOutputFileName();
633          TFile *aodfile = (TFile*)gROOT->GetListOfFiles()->FindObject(filename);
634          if (aodfile) {
635             if (fDebug > 1) printf("Writing output handler file: %s\n", filename);
636             aodfile->Write();
637             continue;
638          }   
639       }      
640       if (!strlen(filename)) continue;
641       if (!output->GetData()) continue;
642       TFile *file = output->GetFile();
643       TDirectory *opwd = gDirectory;
644       if (file) {
645          file->cd();
646       } else {
647          file = new TFile(filename, "RECREATE");
648          if (file->IsZombie()) continue;
649          output->SetFile(file);
650       }   
651       if (fDebug > 1) printf("   writing output data %s to file %s\n", output->GetData()->GetName(), file->GetName());
652       if (output->GetData()->InheritsFrom(TCollection::Class())) {
653       // If data is a collection, we set the name of the collection 
654       // as the one of the container and we save as a single key.
655          TCollection *coll = (TCollection*)output->GetData();
656          coll->SetName(output->GetName());
657          coll->Write(output->GetName(), TObject::kSingleKey);
658       } else {
659          output->GetData()->Write();
660       }      
661       file->Close();
662       if (opwd) opwd->cd();
663    }   
664
665    if (fInputEventHandler)   fInputEventHandler  ->TerminateIO();
666    if (fOutputEventHandler)  fOutputEventHandler ->TerminateIO();
667    if (fMCtruthEventHandler) fMCtruthEventHandler->TerminateIO();
668
669    Bool_t getsysInfo = ((fNSysInfo>0) && (fMode==kLocalAnalysis))?kTRUE:kFALSE;
670    if (getsysInfo) {
671       TDirectory *cdir = gDirectory;
672       TFile f("syswatch.root", "RECREATE");
673       if (!f.IsZombie()) {
674          TTree *tree = AliSysInfo::MakeTree("syswatch.log");
675          tree->SetMarkerStyle(kCircle);
676          tree->SetMarkerColor(kBlue);
677          tree->SetMarkerSize(0.5);
678          if (!gROOT->IsBatch()) {
679             tree->SetAlias("event", "id0");
680             tree->SetAlias("memUSED", "pI.fMemVirtual");
681             tree->SetAlias("userCPU", "pI.fCpuUser");
682             TCanvas *c = new TCanvas("SysInfo","SysInfo",10,10,800,600);
683             c->Divide(2,1,0.01,0.01);
684             c->cd(1);
685             tree->Draw("memUSED:event","","", 1234567890, 0);
686             c->cd(2);
687             tree->Draw("userCPU:event","","", 1234567890, 0);
688          }   
689          tree->Write();
690          f.Close();
691          delete tree;
692       }
693       if (cdir) cdir->cd();
694    }      
695    if (fDebug > 0) printf("<-AliAnalysisManager::Terminate()\n");
696 }
697
698 //______________________________________________________________________________
699 void AliAnalysisManager::AddTask(AliAnalysisTask *task)
700 {
701 // Adds a user task to the global list of tasks.
702    if (fTasks->FindObject(task)) {
703       Warning("AddTask", "Task %s: the same object already added to the analysis manager. Not adding.", task->GetName());
704       return;
705    }   
706    task->SetActive(kFALSE);
707    fTasks->Add(task);
708 }  
709
710 //______________________________________________________________________________
711 AliAnalysisTask *AliAnalysisManager::GetTask(const char *name) const
712 {
713 // Retreive task by name.
714    if (!fTasks) return NULL;
715    return (AliAnalysisTask*)fTasks->FindObject(name);
716 }
717
718 //______________________________________________________________________________
719 AliAnalysisDataContainer *AliAnalysisManager::CreateContainer(const char *name, 
720                                 TClass *datatype, EAliAnalysisContType type, const char *filename)
721 {
722 // Create a data container of a certain type. Types can be:
723 //   kExchangeContainer  = 0, used to exchange date between tasks
724 //   kInputContainer   = 1, used to store input data
725 //   kOutputContainer  = 2, used for posting results
726    if (fContainers->FindObject(name)) {
727       Error("CreateContainer","A container named %s already defined !\n",name);
728       return NULL;
729    }   
730    AliAnalysisDataContainer *cont = new AliAnalysisDataContainer(name, datatype);
731    fContainers->Add(cont);
732    switch (type) {
733       case kInputContainer:
734          fInputs->Add(cont);
735          break;
736       case kOutputContainer:
737          fOutputs->Add(cont);
738          if (filename && strlen(filename)) {
739             cont->SetFileName(filename);
740             cont->SetDataOwned(kFALSE);  // data owned by the file
741          }   
742          break;
743       case kExchangeContainer:
744          break;   
745    }
746    return cont;
747 }
748          
749 //______________________________________________________________________________
750 Bool_t AliAnalysisManager::ConnectInput(AliAnalysisTask *task, Int_t islot,
751                                         AliAnalysisDataContainer *cont)
752 {
753 // Connect input of an existing task to a data container.
754    if (!fTasks->FindObject(task)) {
755       AddTask(task);
756       Info("ConnectInput", "Task %s was not registered. Now owned by analysis manager", task->GetName());
757    } 
758    Bool_t connected = task->ConnectInput(islot, cont);
759    return connected;
760 }   
761
762 //______________________________________________________________________________
763 Bool_t AliAnalysisManager::ConnectOutput(AliAnalysisTask *task, Int_t islot,
764                                         AliAnalysisDataContainer *cont)
765 {
766 // Connect output of an existing task to a data container.
767    if (!fTasks->FindObject(task)) {
768       AddTask(task);
769       Warning("ConnectOutput", "Task %s not registered. Now owned by analysis manager", task->GetName());
770    } 
771    Bool_t connected = task->ConnectOutput(islot, cont);
772    return connected;
773 }   
774                                
775 //______________________________________________________________________________
776 void AliAnalysisManager::CleanContainers()
777 {
778 // Clean data from all containers that have already finished all client tasks.
779    TIter next(fContainers);
780    AliAnalysisDataContainer *cont;
781    while ((cont=(AliAnalysisDataContainer *)next())) {
782       if (cont->IsOwnedData() && 
783           cont->IsDataReady() && 
784           cont->ClientsExecuted()) cont->DeleteData();
785    }
786 }
787
788 //______________________________________________________________________________
789 Bool_t AliAnalysisManager::InitAnalysis()
790 {
791 // Initialization of analysis chain of tasks. Should be called after all tasks
792 // and data containers are properly connected
793    // Check for input/output containers
794    fInitOK = kFALSE;
795    // Check for top tasks (depending only on input data containers)
796    if (!fTasks->First()) {
797       Error("InitAnalysis", "Analysis has no tasks !");
798       return kFALSE;
799    }   
800    TIter next(fTasks);
801    AliAnalysisTask *task;
802    AliAnalysisDataContainer *cont;
803    Int_t ntop = 0;
804    Int_t nzombies = 0;
805    Bool_t iszombie = kFALSE;
806    Bool_t istop = kTRUE;
807    Int_t i;
808    while ((task=(AliAnalysisTask*)next())) {
809       istop = kTRUE;
810       iszombie = kFALSE;
811       Int_t ninputs = task->GetNinputs();
812       for (i=0; i<ninputs; i++) {
813          cont = task->GetInputSlot(i)->GetContainer();
814          if (!cont) {
815             if (!iszombie) {
816                task->SetZombie();
817                fZombies->Add(task);
818                nzombies++;
819                iszombie = kTRUE;
820             }   
821             Error("InitAnalysis", "Input slot %d of task %s has no container connected ! Declared zombie...", 
822                   i, task->GetName()); 
823          }
824          if (iszombie) continue;
825          // Check if cont is an input container
826          if (istop && !fInputs->FindObject(cont)) istop=kFALSE;
827          // Connect to parent task
828       }
829       if (istop) {
830          ntop++;
831          fTopTasks->Add(task);
832       }
833    }
834    if (!ntop) {
835       Error("InitAnalysis", "No top task defined. At least one task should be connected only to input containers");
836       return kFALSE;
837    }                        
838    // Check now if there are orphan tasks
839    for (i=0; i<ntop; i++) {
840       task = (AliAnalysisTask*)fTopTasks->At(i);
841       task->SetUsed();
842    }
843    Int_t norphans = 0;
844    next.Reset();
845    while ((task=(AliAnalysisTask*)next())) {
846       if (!task->IsUsed()) {
847          norphans++;
848          Warning("InitAnalysis", "Task %s is orphan", task->GetName());
849       }   
850    }          
851    // Check the task hierarchy (no parent task should depend on data provided
852    // by a daughter task)
853    for (i=0; i<ntop; i++) {
854       task = (AliAnalysisTask*)fTopTasks->At(i);
855       if (task->CheckCircularDeps()) {
856          Error("InitAnalysis", "Found illegal circular dependencies between following tasks:");
857          PrintStatus("dep");
858          return kFALSE;
859       }   
860    }
861    // Check that all containers feeding post-event loop tasks are in the outputs list
862    TIter nextcont(fContainers); // loop over all containers
863    while ((cont=(AliAnalysisDataContainer*)nextcont())) {
864       if (!cont->IsPostEventLoop() && !fOutputs->FindObject(cont)) {
865          if (cont->HasConsumers()) {
866          // Check if one of the consumers is post event loop
867             TIter nextconsumer(cont->GetConsumers());
868             while ((task=(AliAnalysisTask*)nextconsumer())) {
869                if (task->IsPostEventLoop()) {
870                   fOutputs->Add(cont);
871                   break;
872                }
873             }
874          }
875       }
876    }   
877    // Check if all special output containers have a file name provided
878    TIter nextout(fOutputs);
879    while ((cont=(AliAnalysisDataContainer*)nextout())) {
880       if (cont->IsSpecialOutput() && !strlen(cont->GetFileName())) {
881          Error("InitAnalysis", "Wrong container %s : a file name MUST be provided for special outputs", cont->GetName());
882          return kFALSE;
883       }
884    }      
885    fInitOK = kTRUE;
886    return kTRUE;
887 }   
888
889 //______________________________________________________________________________
890 void AliAnalysisManager::PrintStatus(Option_t *option) const
891 {
892 // Print task hierarchy.
893    if (!fInitOK) {
894       Info("PrintStatus", "Analysis manager %s not initialized : call InitAnalysis() first", GetName());
895       return;
896    }   
897    Bool_t getsysInfo = ((fNSysInfo>0) && (fMode==kLocalAnalysis))?kTRUE:kFALSE;
898    if (getsysInfo)
899       Info("PrintStatus", "System information will be collected each %lld events", fNSysInfo);
900    TIter next(fTopTasks);
901    AliAnalysisTask *task;
902    while ((task=(AliAnalysisTask*)next()))
903       task->PrintTask(option);
904 }
905
906 //______________________________________________________________________________
907 void AliAnalysisManager::ResetAnalysis()
908 {
909 // Reset all execution flags and clean containers.
910    CleanContainers();
911 }
912
913 //______________________________________________________________________________
914 void AliAnalysisManager::StartAnalysis(const char *type, TTree *tree, Long64_t nentries, Long64_t firstentry)
915 {
916 // Start analysis for this manager. Analysis task can be: LOCAL, PROOF, GRID or
917 // MIX. Process nentries starting from firstentry
918    if (!fInitOK) {
919       Error("StartAnalysis","Analysis manager was not initialized !");
920       return;
921    }
922    if (fDebug > 0) printf("StartAnalysis %s\n",GetName());
923    TString anaType = type;
924    anaType.ToLower();
925    fMode = kLocalAnalysis;
926    if (anaType.Contains("proof"))     fMode = kProofAnalysis;
927    else if (anaType.Contains("grid")) fMode = kGridAnalysis;
928    else if (anaType.Contains("mix"))  fMode = kMixingAnalysis;
929
930    if (fMode == kGridAnalysis) {
931       Warning("StartAnalysis", "GRID analysis mode not implemented. Running local.");
932       fMode = kLocalAnalysis;
933    }
934    char line[256];
935    SetEventLoop(kFALSE);
936    // Enable event loop mode if a tree was provided
937    if (tree || fMode==kMixingAnalysis) SetEventLoop(kTRUE);
938
939    TChain *chain = 0;
940    TString ttype = "TTree";
941    if (tree && tree->IsA() == TChain::Class()) {
942       chain = (TChain*)tree;
943       if (!chain || !chain->GetListOfFiles()->First()) {
944          Error("StartAnalysis", "Cannot process null or empty chain...");
945          return;
946       }   
947       ttype = "TChain";
948    }   
949
950    // Initialize locally all tasks (happens for all modes)
951    TIter next(fTasks);
952    AliAnalysisTask *task;
953    while ((task=(AliAnalysisTask*)next())) {
954       task->LocalInit();
955    }
956    
957    switch (fMode) {
958       case kLocalAnalysis:
959          if (!tree) {
960             TIter nextT(fTasks);
961             // Call CreateOutputObjects for all tasks
962             while ((task=(AliAnalysisTask*)nextT())) {
963                TDirectory *curdir = gDirectory;
964                task->CreateOutputObjects();
965                if (curdir) curdir->cd();
966             }   
967             ExecAnalysis();
968             Terminate();
969             return;
970          } 
971          // Run tree-based analysis via AliAnalysisSelector  
972          cout << "===== RUNNING LOCAL ANALYSIS " << GetName() << " ON TREE " << tree->GetName() << endl;
973          fSelector = new AliAnalysisSelector(this);
974          tree->Process(fSelector, "", nentries, firstentry);
975          break;
976       case kProofAnalysis:
977          if (!gROOT->GetListOfProofs() || !gROOT->GetListOfProofs()->GetEntries()) {
978             printf("StartAnalysis: no PROOF!!!\n");
979             return;
980          }   
981          sprintf(line, "gProof->AddInput((TObject*)0x%lx);", (ULong_t)this);
982          gROOT->ProcessLine(line);
983          if (chain) {
984             chain->SetProof();
985             cout << "===== RUNNING PROOF ANALYSIS " << GetName() << " ON CHAIN " << chain->GetName() << endl;
986             chain->Process("AliAnalysisSelector", "", nentries, firstentry);
987          } else {
988             printf("StartAnalysis: no chain\n");
989             return;
990          }      
991          break;
992       case kGridAnalysis:
993          Warning("StartAnalysis", "GRID analysis mode not implemented. Running local.");
994          break;
995       case kMixingAnalysis:   
996          // Run event mixing analysis
997          if (!fEventPool) {
998             Error("StartAnalysis", "Cannot run event mixing without event pool");
999             return;
1000          }
1001          cout << "===== RUNNING EVENT MIXING ANALYSIS " << GetName() << endl;
1002          fSelector = new AliAnalysisSelector(this);
1003          while ((chain=fEventPool->GetNextChain())) {
1004             next.Reset();
1005             // Call NotifyBinChange for all tasks
1006             while ((task=(AliAnalysisTask*)next()))
1007                if (!task->IsPostEventLoop()) task->NotifyBinChange();
1008             chain->Process(fSelector);
1009          }
1010          PackOutput(fSelector->GetOutputList());
1011          Terminate();
1012    }   
1013 }   
1014
1015 //______________________________________________________________________________
1016 void AliAnalysisManager::StartAnalysis(const char *type, const char *dataset, Long64_t nentries, Long64_t firstentry)
1017 {
1018 // Start analysis for this manager on a given dataset. Analysis task can be: 
1019 // LOCAL, PROOF or GRID. Process nentries starting from firstentry.
1020    if (!fInitOK) {
1021       Error("StartAnalysis","Analysis manager was not initialized !");
1022       return;
1023    }
1024    if (fDebug > 0) printf("StartAnalysis %s\n",GetName());
1025    TString anaType = type;
1026    anaType.ToLower();
1027    if (!anaType.Contains("proof")) {
1028       Error("Cannot process datasets in %s mode. Try PROOF.", type);
1029       return;
1030    }   
1031    fMode = kProofAnalysis;
1032    char line[256];
1033    SetEventLoop(kTRUE);
1034    // Set the dataset flag
1035    TObject::SetBit(kUseDataSet);
1036    fTree = 0;
1037
1038    // Initialize locally all tasks
1039    TIter next(fTasks);
1040    AliAnalysisTask *task;
1041    while ((task=(AliAnalysisTask*)next())) {
1042       task->LocalInit();
1043    }
1044    
1045    if (!gROOT->GetListOfProofs() || !gROOT->GetListOfProofs()->GetEntries()) {
1046       printf("StartAnalysis: no PROOF!!!\n");
1047       return;
1048    }   
1049    sprintf(line, "gProof->AddInput((TObject*)0x%lx);", (ULong_t)this);
1050    gROOT->ProcessLine(line);
1051    sprintf(line, "gProof->GetDataSet(\"%s\");", dataset);
1052    if (!gROOT->ProcessLine(line)) {
1053       Error("StartAnalysis", "Dataset %s not found", dataset);
1054       return;
1055    }   
1056    sprintf(line, "gProof->Process(\"%s\", \"AliAnalysisSelector\", \"\", %lld, %lld);",
1057            dataset, nentries, firstentry);
1058    cout << "===== RUNNING PROOF ANALYSIS " << GetName() << " ON DATASET " << dataset << endl;
1059    gROOT->ProcessLine(line);
1060 }   
1061
1062 //______________________________________________________________________________
1063 TFile *AliAnalysisManager::OpenProofFile(const char *filename, const char *option)
1064 {
1065 // Opens a special output file used in PROOF.
1066    char line[256];
1067    if (fMode!=kProofAnalysis || !fSelector) {
1068       Error("OpenProofFile","Cannot open PROOF file %s",filename);
1069       return NULL;
1070    }   
1071    sprintf(line, "TProofOutputFile *pf = new TProofOutputFile(\"%s\");", filename);
1072    if (fDebug > 1) printf("=== %s\n", line);
1073    gROOT->ProcessLine(line);
1074    sprintf(line, "pf->OpenFile(\"%s\");", option);
1075    gROOT->ProcessLine(line);
1076    if (fDebug > 1) {
1077       gROOT->ProcessLine("pf->Print()");
1078       printf(" == proof file name: %s\n", gFile->GetName());
1079    }   
1080    sprintf(line, "((TList*)0x%lx)->Add(pf);",(ULong_t)fSelector->GetOutputList());
1081    if (fDebug > 1) printf("=== %s\n", line);
1082    gROOT->ProcessLine(line);
1083    return gFile;
1084 }   
1085
1086 //______________________________________________________________________________
1087 void AliAnalysisManager::ExecAnalysis(Option_t *option)
1088 {
1089 // Execute analysis.
1090    static Long64_t ncalls = 0;
1091    Bool_t getsysInfo = ((fNSysInfo>0) && (fMode==kLocalAnalysis))?kTRUE:kFALSE;
1092    if (getsysInfo && ncalls==0) AliSysInfo::AddStamp("Start", (Int_t)ncalls);
1093    ncalls++;
1094    if (!fInitOK) {
1095      Error("ExecAnalysis", "Analysis manager was not initialized !");
1096       return;
1097    }   
1098    AliAnalysisTask *task;
1099    // Check if the top tree is active.
1100    if (fTree) {
1101       TIter next(fTasks);
1102    // De-activate all tasks
1103       while ((task=(AliAnalysisTask*)next())) task->SetActive(kFALSE);
1104       AliAnalysisDataContainer *cont = (AliAnalysisDataContainer*)fInputs->At(0);
1105       if (!cont) {
1106               Error("ExecAnalysis","Cannot execute analysis in TSelector mode without at least one top container");
1107          return;
1108       }   
1109       cont->SetData(fTree); // This will notify all consumers
1110       Long64_t entry = fTree->GetTree()->GetReadEntry();
1111       
1112 //
1113 //    Call BeginEvent() for optional input/output and MC services 
1114       if (fInputEventHandler)   fInputEventHandler  ->BeginEvent(entry);
1115       if (fOutputEventHandler)  fOutputEventHandler ->BeginEvent(entry);
1116       if (fMCtruthEventHandler) fMCtruthEventHandler->BeginEvent(entry);
1117 //
1118 //    Execute the tasks
1119 //      TIter next1(cont->GetConsumers());
1120       TIter next1(fTopTasks);
1121       while ((task=(AliAnalysisTask*)next1())) {
1122          if (fDebug >1) {
1123             cout << "    Executing task " << task->GetName() << endl;
1124          }   
1125          
1126          task->ExecuteTask(option);
1127       }
1128 //
1129 //    Call FinishEvent() for optional output and MC services 
1130       if (fInputEventHandler)   fInputEventHandler  ->FinishEvent();
1131       if (fOutputEventHandler)  fOutputEventHandler ->FinishEvent();
1132       if (fMCtruthEventHandler) fMCtruthEventHandler->FinishEvent();
1133       // Gather system information if requested
1134       if (getsysInfo && ((ncalls%fNSysInfo)==0)) 
1135          AliSysInfo::AddStamp(Form("Event#%lld",ncalls),(Int_t)ncalls);
1136       return;
1137    }   
1138    // The event loop is not controlled by TSelector   
1139 //
1140 //  Call BeginEvent() for optional input/output and MC services 
1141    if (fInputEventHandler)   fInputEventHandler  ->BeginEvent(-1);
1142    if (fOutputEventHandler)  fOutputEventHandler ->BeginEvent(-1);
1143    if (fMCtruthEventHandler) fMCtruthEventHandler->BeginEvent(-1);
1144    TIter next2(fTopTasks);
1145    while ((task=(AliAnalysisTask*)next2())) {
1146       task->SetActive(kTRUE);
1147       if (fDebug > 1) {
1148          cout << "    Executing task " << task->GetName() << endl;
1149       }   
1150       task->ExecuteTask(option);
1151    }   
1152 //
1153 // Call FinishEvent() for optional output and MC services 
1154    if (fInputEventHandler)   fInputEventHandler  ->FinishEvent();
1155    if (fOutputEventHandler)  fOutputEventHandler ->FinishEvent();
1156    if (fMCtruthEventHandler) fMCtruthEventHandler->FinishEvent();
1157 }
1158
1159 //______________________________________________________________________________
1160 void AliAnalysisManager::FinishAnalysis()
1161 {
1162 // Finish analysis.
1163 }