]> git.uio.no Git - u/mrichter/AliRoot.git/blobdiff - ANALYSIS/AliAnalysisManager.cxx
- Fix error message when opening merged aod file on client in PROOF mode
[u/mrichter/AliRoot.git] / ANALYSIS / AliAnalysisManager.cxx
index 581d8eafa1b568e992801ec18aed8baf6379e0e1..d01ccc930910953efbd23e334ba23bf349a219a0 100644 (file)
 
 //==============================================================================
 //   AliAnalysysManager - Manager analysis class. Allows creation of several
-// analysis tasks and data containers storing their input/output. Allows 
+// analysis tasks and data containers storing their input/output. Allows
 // connecting/chaining tasks via shared data containers. Serializes the current
 // event for all tasks depending only on initial input data.
 //==============================================================================
 //
 //==============================================================================
 
-#include "TClass.h"
-#include "TFile.h"
-#include "TTree.h"
-#include "AliLog.h"
+#include <Riostream.h>
 
-#include "AliAnalysisManager.h"
+#include <TClass.h>
+#include <TFile.h>
+#include <TMethodCall.h>
+#include <TChain.h>
+#include <TSystem.h>
+#include <TROOT.h>
+#include <TCanvas.h>
+
+#include "AliAnalysisSelector.h"
 #include "AliAnalysisTask.h"
 #include "AliAnalysisDataContainer.h"
 #include "AliAnalysisDataSlot.h"
+#include "AliVEventHandler.h"
+#include "AliVEventPool.h"
+#include "AliSysInfo.h"
+#include "AliAnalysisManager.h"
 
 ClassImp(AliAnalysisManager)
 
+AliAnalysisManager *AliAnalysisManager::fgAnalysisManager = NULL;
+
 //______________________________________________________________________________
-AliAnalysisManager::AliAnalysisManager() : TSelector(),
+AliAnalysisManager::AliAnalysisManager(const char *name, const char *title)
+                   :TNamed(name,title),
                     fTree(NULL),
+                    fInputEventHandler(NULL),
+                    fOutputEventHandler(NULL),
+                    fMCtruthEventHandler(NULL),
+                   fEventPool(NULL),
+                    fCurrentEntry(-1),
+                    fNSysInfo(0),
+                    fMode(kLocalAnalysis),
                     fInitOK(kFALSE),
+                    fDebug(0),
+                    fSpecialOutputLocation(""), 
+                    fTasks(NULL),
+                    fTopTasks(NULL),
+                    fZombies(NULL),
                     fContainers(NULL),
                     fInputs(NULL),
                     fOutputs(NULL),
-                    fTasks(NULL),
-                    fTopTasks(NULL),
-                    fZombies(NULL)
+                    fSelector(NULL)
 {
 // Default constructor.
-   if (TClass::IsCallingNew() != TClass::kDummyNew) {
-      fContainers = new TObjArray();
-      fInputs     = new TObjArray();
-      fOutputs    = new TObjArray();  
-      fTasks      = new TObjArray();
-      fTopTasks   = new TObjArray();
-      fZombies    = new TObjArray();
-//      fStatus     = new AliAnalysisInfo(this);
-   }
+   fgAnalysisManager = this;
+   fTasks      = new TObjArray();
+   fTopTasks   = new TObjArray();
+   fZombies    = new TObjArray();
+   fContainers = new TObjArray();
+   fInputs     = new TObjArray();
+   fOutputs    = new TObjArray();
+   SetEventLoop(kTRUE);
 }
 
-#ifdef NEVER
 //______________________________________________________________________________
 AliAnalysisManager::AliAnalysisManager(const AliAnalysisManager& other)
-                   :TSelector(other),
+                   :TNamed(other),
                     fTree(NULL),
-                    fInitOK(kFALSE),
+                    fInputEventHandler(NULL),
+                    fOutputEventHandler(NULL),
+                    fMCtruthEventHandler(NULL),
+                   fEventPool(NULL),
+                    fCurrentEntry(-1),
+                    fNSysInfo(0),
+                    fMode(other.fMode),
+                    fInitOK(other.fInitOK),
+                    fDebug(other.fDebug),
+                    fSpecialOutputLocation(""), 
+                    fTasks(NULL),
+                    fTopTasks(NULL),
+                    fZombies(NULL),
                     fContainers(NULL),
                     fInputs(NULL),
                     fOutputs(NULL),
-                    fTasks(NULL),
-                    fTopTasks(NULL),
-                    fZombies(NULL)
+                    fSelector(NULL)
 {
 // Copy constructor.
-   fInitOK     = other.fInitOK;
-   fContainers = new TObjArray(*other.fContainers);
-   fInputs     = new TObjArray(*other.fInputs);
-   fOutputs    = new TObjArray(*other.fOutputs);
    fTasks      = new TObjArray(*other.fTasks);
    fTopTasks   = new TObjArray(*other.fTopTasks);
    fZombies    = new TObjArray(*other.fZombies);
-//   fStatus     = new AliAnalysisInfo(this);
+   fContainers = new TObjArray(*other.fContainers);
+   fInputs     = new TObjArray(*other.fInputs);
+   fOutputs    = new TObjArray(*other.fOutputs);
+   fgAnalysisManager = this;
 }
    
 //______________________________________________________________________________
@@ -89,36 +118,48 @@ AliAnalysisManager& AliAnalysisManager::operator=(const AliAnalysisManager& othe
 {
 // Assignment
    if (&other != this) {
-      TSelector::operator=(other);
-      fTree       = other.fTree;
+      TNamed::operator=(other);
+      fInputEventHandler   = other.fInputEventHandler;
+      fOutputEventHandler  = other.fOutputEventHandler;
+      fMCtruthEventHandler = other.fMCtruthEventHandler;
+      fEventPool           = other.fEventPool;
+      fTree       = NULL;
+      fCurrentEntry = -1;
+      fNSysInfo   = other.fNSysInfo;
+      fMode       = other.fMode;
       fInitOK     = other.fInitOK;
-      fContainers = new TObjArray(*other.fContainers);
-      fInputs     = new TObjArray(*other.fInputs);
-      fOutputs    = new TObjArray(*other.fOutputs);
+      fDebug      = other.fDebug;
       fTasks      = new TObjArray(*other.fTasks);
       fTopTasks   = new TObjArray(*other.fTopTasks);
       fZombies    = new TObjArray(*other.fZombies);
-//      fStatus     = new AliAnalysisInfo(this);
+      fContainers = new TObjArray(*other.fContainers);
+      fInputs     = new TObjArray(*other.fInputs);
+      fOutputs    = new TObjArray(*other.fOutputs);
+      fSelector   = NULL;
+      fgAnalysisManager = this;
    }
    return *this;
 }
-#endif
 
 //______________________________________________________________________________
 AliAnalysisManager::~AliAnalysisManager()
 {
 // Destructor.
-   if (fContainers) {fContainers->Delete(); delete fContainers;}
-   if (fInputs) delete fInputs;
-   if (fOutputs) delete fOutputs;
    if (fTasks) {fTasks->Delete(); delete fTasks;}
    if (fTopTasks) delete fTopTasks;
    if (fZombies) delete fZombies;
+   if (fContainers) {fContainers->Delete(); delete fContainers;}
+   if (fInputs) delete fInputs;
+   if (fOutputs) delete fOutputs;
+   if (fgAnalysisManager==this) fgAnalysisManager = NULL;
 }
+
 //______________________________________________________________________________
 Int_t AliAnalysisManager::GetEntry(Long64_t entry, Int_t getall)
 {
 // Read one entry of the tree or a whole branch.
+   if (fDebug > 0) printf("== AliAnalysisManager::GetEntry(%lld)\n", entry);
+   fCurrentEntry = entry;
    return fTree ? fTree->GetTree()->GetEntry(entry, getall) : 0;
 }
    
@@ -130,25 +171,53 @@ void AliAnalysisManager::Init(TTree *tree)
   // will be set. It is normaly not necessary to make changes to the
   // generated code, but the routine can be extended by the user if needed.
   // Init() will be called many times when running with PROOF.
-   printf("AliAnalysisManager::Init(%s)\n", tree->GetName());
-   if (!fInitOK) {
-      AliError("You have to call InitAnalysis first");
-      return;
-   }   
    if (!tree) return;
+   if (fDebug > 0) {
+      printf("->AliAnalysisManager::Init(%s)\n", tree->GetName());
+   }
+
+   // Call InitTree of EventHandler
+   if (fOutputEventHandler) {
+      if (fMode == kProofAnalysis) {
+         fOutputEventHandler->Init(0x0, "proof");
+      } else {
+         fOutputEventHandler->Init(0x0, "local");
+      }
+   }
+
+   if (fInputEventHandler) {
+      if (fMode == kProofAnalysis) {
+         fInputEventHandler->Init(tree, "proof");
+      } else {
+         fInputEventHandler->Init(tree, "local");
+      }
+   } else {
+      // If no input event handler we need to get the tree once
+      // for the chain
+      if(!tree->GetTree()) tree->LoadTree(0);
+   }
+   
+
+   if (fMCtruthEventHandler) {
+      if (fMode == kProofAnalysis) {
+         fMCtruthEventHandler->Init(0x0, "proof");
+      } else {
+         fMCtruthEventHandler->Init(0x0, "local");
+      }
+   }
+
+   if (!fInitOK) InitAnalysis();
+   if (!fInitOK) return;
    fTree = tree;
    AliAnalysisDataContainer *top = (AliAnalysisDataContainer*)fInputs->At(0);
+   if (!top) {
+      Error("Init","No top input container !");
+      return;
+   }
    top->SetData(tree);
-}
-
-//______________________________________________________________________________
-void AliAnalysisManager::Begin(TTree *tree)
-{
-  // The Begin() function is called at the start of the query.
-  // When running with PROOF Begin() is only called on the client.
-  // The tree argument is deprecated (on PROOF 0 is passed).
-   printf("AliAnalysisManager::Begin(%s)\n", tree->GetName());
-   Init(tree);
+   if (fDebug > 0) {
+      printf("<-AliAnalysisManager::Init(%s)\n", tree->GetName());
+   }
 }
 
 //______________________________________________________________________________
@@ -157,8 +226,61 @@ void AliAnalysisManager::SlaveBegin(TTree *tree)
   // The SlaveBegin() function is called after the Begin() function.
   // When running with PROOF SlaveBegin() is called on each slave server.
   // The tree argument is deprecated (on PROOF 0 is passed).
-   printf("AliAnalysisManager::SlaveBegin(%s)\n", tree->GetName());
-   Init(tree);
+   if (fDebug > 0) printf("->AliAnalysisManager::SlaveBegin()\n");
+   static Bool_t isCalled = kFALSE;
+   TDirectory *curdir = gDirectory;
+   // Call SlaveBegin only once in case of mixing
+   if (isCalled && fMode==kMixingAnalysis) return;
+   // Call Init of EventHandler
+   if (fOutputEventHandler) {
+      if (fMode == kProofAnalysis) {
+         TIter nextout(fOutputs);
+         AliAnalysisDataContainer *c_aod;
+         while ((c_aod=(AliAnalysisDataContainer*)nextout())) if (!strcmp(c_aod->GetFileName(),"default")) break;
+         if (c_aod && c_aod->IsSpecialOutput()) {
+            // Merging via files
+            if (fDebug > 1) printf("   Initializing special output file %s...\n", fOutputEventHandler->GetOutputFileName());
+            OpenProofFile(fOutputEventHandler->GetOutputFileName(), "RECREATE");
+            c_aod->SetFile(gFile);
+            fOutputEventHandler->Init("proofspecial");
+         } else {
+            // Merging in memory
+            fOutputEventHandler->Init("proof");
+         }   
+      } else {
+         fOutputEventHandler->Init("local");
+      }
+   }
+
+   if (fInputEventHandler) {
+      fInputEventHandler->SetInputTree(tree);
+      if (fMode == kProofAnalysis) {
+         fInputEventHandler->Init("proof");
+      } else {
+         fInputEventHandler->Init("local");
+      }
+   }
+
+   if (fMCtruthEventHandler) {
+      if (fMode == kProofAnalysis) {
+         fMCtruthEventHandler->Init("proof");
+      } else {
+         fMCtruthEventHandler->Init("local");
+      }
+   }
+   if (curdir) curdir->cd();
+   
+   TIter next(fTasks);
+   AliAnalysisTask *task;
+   // Call CreateOutputObjects for all tasks
+   while ((task=(AliAnalysisTask*)next())) {
+      curdir = gDirectory;
+      task->CreateOutputObjects();
+      if (curdir) curdir->cd();
+   }
+   isCalled = kTRUE;
+
+   if (fDebug > 0) printf("<-AliAnalysisManager::SlaveBegin()\n");
 }
 
 //______________________________________________________________________________
@@ -169,10 +291,36 @@ Bool_t AliAnalysisManager::Notify()
    // is started when using PROOF. It is normaly not necessary to make changes
    // to the generated code, but the routine can be extended by the
    // user if needed. The return value is currently not used.
-   if (fTree) {
-      TFile *curfile = fTree->GetCurrentFile();
-      if (curfile) printf("AliAnalysisManager::Notify() file: %s\n", curfile->GetName());
+   if (!fTree) {
+      Error("Notify","No current tree.");
+      return kFALSE;
+   }   
+   TFile *curfile = fTree->GetCurrentFile();
+   if (!curfile) {
+      Error("Notify","No current file");
+      return kFALSE;
+   }   
+   
+   if (fDebug > 0) printf("->AliAnalysisManager::Notify() file: %s\n", curfile->GetName());
+   TIter next(fTasks);
+   AliAnalysisTask *task;
+   // Call Notify for all tasks
+   while ((task=(AliAnalysisTask*)next())) 
+      task->Notify();
+       
+   // Call Notify of the event handlers
+   if (fInputEventHandler) {
+       fInputEventHandler->Notify(curfile->GetName());
+   }
+
+   if (fOutputEventHandler) {
+       fOutputEventHandler->Notify(curfile->GetName());
+   }
+
+   if (fMCtruthEventHandler) {
+       fMCtruthEventHandler->Notify(curfile->GetName());
    }
+   if (fDebug > 0) printf("<-AliAnalysisManager::Notify()\n");
    return kTRUE;
 }    
 
@@ -196,32 +344,268 @@ Bool_t AliAnalysisManager::Process(Long64_t entry)
   //  The entry is always the local entry number in the current tree.
   //  Assuming that fChain is the pointer to the TChain being processed,
   //  use fChain->GetTree()->GetEntry(entry).
-  
-//   printf("AliAnalysisManager::Process(%lld)\n", entry);
+   if (fDebug > 0) printf("->AliAnalysisManager::Process(%lld)\n", entry);
+
+   if (fInputEventHandler)   fInputEventHandler  ->BeginEvent(entry);
+   if (fOutputEventHandler)  fOutputEventHandler ->BeginEvent(entry);
+   if (fMCtruthEventHandler) fMCtruthEventHandler->BeginEvent(entry);
+   
    GetEntry(entry);
    ExecAnalysis();
+   if (fDebug > 0) printf("<-AliAnalysisManager::Process()\n");
    return kTRUE;
 }
 
 //______________________________________________________________________________
-void AliAnalysisManager::SlaveTerminate()
+void AliAnalysisManager::PackOutput(TList *target)
+{
+  // Pack all output data containers in the output list. Called at SlaveTerminate
+  // stage in PROOF case for each slave.
+   if (fDebug > 0) printf("->AliAnalysisManager::PackOutput()\n");
+   if (!target) {
+      Error("PackOutput", "No target. Aborting.");
+      return;
+   }
+   if (fInputEventHandler)   fInputEventHandler  ->Terminate();
+   if (fOutputEventHandler)  fOutputEventHandler ->Terminate();
+   if (fMCtruthEventHandler) fMCtruthEventHandler->Terminate();
+
+   // Call FinishTaskOutput() for each event loop task (not called for 
+   // post-event loop tasks - use Terminate() fo those)
+   TIter nexttask(fTasks);
+   AliAnalysisTask *task;
+   while ((task=(AliAnalysisTask*)nexttask())) {
+      if (!task->IsPostEventLoop()) {
+         if (fDebug > 0) printf("->FinishTaskOutput: task %s\n", task->GetName());
+         task->FinishTaskOutput();
+         if (fDebug > 0) printf("<-FinishTaskOutput: task %s\n", task->GetName());
+      }
+   }      
+   
+   if (fMode == kProofAnalysis) {
+      TIter next(fOutputs);
+      AliAnalysisDataContainer *output;
+      Bool_t isManagedByHandler = kFALSE;
+      while ((output=(AliAnalysisDataContainer*)next())) {
+         // Do not consider outputs of post event loop tasks
+         if (output->GetProducer()->IsPostEventLoop()) continue;
+         const char *filename = output->GetFileName();
+         if (!(strcmp(filename, "default")) && fOutputEventHandler) {
+            isManagedByHandler = kTRUE;
+            filename = fOutputEventHandler->GetOutputFileName();
+         }
+         // Check if data was posted to this container. If not, issue an error.
+         if (!output->GetData() && !isManagedByHandler) {
+            Error("PackOutput", "No data for output container %s. Forgot to PostData ?\n", output->GetName());
+            continue;
+         }   
+         if (!output->IsSpecialOutput()) {
+            // Normal outputs
+            if (strlen(filename) && !isManagedByHandler) {
+               // File resident outputs
+               TFile *file = output->GetFile();
+               // Backup current folder
+               TDirectory *opwd = gDirectory;
+               // Create file if not existing and register to container.
+               if (file) file->cd();
+               else      file = new TFile(filename, "RECREATE"); 
+               if (file->IsZombie()) {
+                  Fatal("PackOutput", "Could not recreate file %s\n", filename);
+                  return;
+               }   
+               output->SetFile(file);
+               // Clear file list to release object ownership to user.
+               file->Clear();
+               // Save data to file, then close.
+               if (output->GetData()->InheritsFrom(TCollection::Class())) {
+                  // If data is a collection, we set the name of the collection 
+                  // as the one of the container and we save as a single key.
+                  TCollection *coll = (TCollection*)output->GetData();
+                  coll->SetName(output->GetName());
+                  coll->Write(output->GetName(), TObject::kSingleKey);
+               } else {
+                  output->GetData()->Write();
+               }      
+               if (fDebug > 1) printf("PackOutput %s: memory merge, file resident output\n", output->GetName());
+               if (fDebug > 2) {
+                  printf("   file %s listing content:\n", filename);
+                  file->ls();
+               }   
+               file->Close();
+               // Restore current directory
+               if (opwd) opwd->cd();
+            } else {
+               // Memory-resident outputs   
+               if (fDebug > 1) printf("PackOutput %s: memory merge memory resident output\n", filename);
+            }   
+            AliAnalysisDataWrapper *wrap = 0;
+            if (isManagedByHandler) {
+               wrap = new AliAnalysisDataWrapper(fOutputEventHandler->GetTree());
+               wrap->SetName(output->GetName());
+            }   
+            else                    wrap =output->ExportData();
+            // Output wrappers must delete data after merging (AG 13/11/07)
+            wrap->SetDeleteData(kTRUE);
+            target->Add(wrap);
+         } else {
+         // Special outputs
+            TDirectory *opwd = gDirectory;
+            TFile *file = output->GetFile();
+            if (fDebug > 1 && file) printf("PackOutput %s: file merge, special output\n", output->GetName());
+            if (isManagedByHandler) {
+               // Terminate IO for files managed by the output handler
+               if (file) file->Write();
+               if (file && fDebug > 2) {
+                  printf("   handled file %s listing content:\n", file->GetName());
+                  file->ls();
+               }   
+               fOutputEventHandler->TerminateIO();
+               continue;
+            }   
+            
+            if (!file) {
+               AliAnalysisTask *producer = output->GetProducer();
+               Error("PackOutput", 
+                     "File %s for special container %s was NOT opened in %s::CreateOutputObjects !!!",
+                     output->GetFileName(), output->GetName(), producer->ClassName());
+               continue;
+            }   
+            file->cd();
+            // Release object ownership to users after writing data to file
+            if (output->GetData()->InheritsFrom(TCollection::Class())) {
+               // If data is a collection, we set the name of the collection 
+               // as the one of the container and we save as a single key.
+               TCollection *coll = (TCollection*)output->GetData();
+               coll->SetName(output->GetName());
+               coll->Write(output->GetName(), TObject::kSingleKey);
+            } else {
+               output->GetData()->Write();
+            }      
+            file->Clear();
+            if (fDebug > 2) {
+               printf("   file %s listing content:\n", output->GetFileName());
+               file->ls();
+            }   
+            file->Close();
+            // Restore current directory
+            if (opwd) opwd->cd();
+            // Check if a special output location was provided or the output files have to be merged
+            if (strlen(fSpecialOutputLocation.Data())) {
+               TString remote = fSpecialOutputLocation;
+               remote += "/";
+               Int_t gid = gROOT->ProcessLine("gProofServ->GetGroupId();");
+               remote += Form("%s_%d_", gSystem->HostName(), gid);
+               remote += output->GetFileName();
+               TFile::Cp(output->GetFileName(), remote.Data());
+            } else {
+            // No special location specified-> use TProofOutputFile as merging utility
+            // The file at this output slot must be opened in CreateOutputObjects
+               if (fDebug > 1) printf("   File %s to be merged...\n", output->GetFileName());
+            }
+         }      
+      }
+   } 
+   if (fDebug > 0) printf("<-AliAnalysisManager::PackOutput: output list contains %d containers\n", target->GetSize());
+}
+
+//______________________________________________________________________________
+void AliAnalysisManager::ImportWrappers(TList *source)
 {
-  // The SlaveTerminate() function is called after all entries or objects
-  // have been processed. When running with PROOF SlaveTerminate() is called
-  // on each slave server.
-
-   printf("AliAnalysisManager::SlaveTerminate()\n");
-   if (!fOutput)
-   {
-     AliError("ERROR: Output list not initialized.");
-     return;
+// Import data in output containers from wrappers coming in source.
+   if (fDebug > 0) printf("->AliAnalysisManager::ImportWrappers()\n");
+   TIter next(fOutputs);
+   AliAnalysisDataContainer *cont;
+   AliAnalysisDataWrapper   *wrap;
+   Int_t icont = 0;
+   while ((cont=(AliAnalysisDataContainer*)next())) {
+      wrap = 0;
+      if (cont->GetProducer()->IsPostEventLoop()) continue;
+      const char *filename = cont->GetFileName();
+      Bool_t isManagedByHandler = kFALSE;
+      if (!(strcmp(filename, "default")) && fOutputEventHandler) {
+         isManagedByHandler = kTRUE;
+         filename = fOutputEventHandler->GetOutputFileName();
+      }
+      if (cont->IsSpecialOutput()) {
+         if (strlen(fSpecialOutputLocation.Data()) && !isManagedByHandler) continue;
+         // Copy merged file from PROOF scratch space
+         char full_path[512];
+         TObject *pof =  source->FindObject(filename);
+         if (!pof || !pof->InheritsFrom("TProofOutputFile")) {
+            Error("ImportWrappers", "TProofOutputFile object not found in output list for container %s", cont->GetName());
+            continue;
+         }
+         gROOT->ProcessLine(Form("sprintf((char*)0x%lx, \"%%s\", ((TProofOutputFile*)0x%lx)->GetOutputFileName();)", full_path, pof));
+         if (fDebug > 1) 
+            printf("   Copying file %s from PROOF scratch space\n", full_path);
+         Bool_t gotit = TFile::Cp(full_path, filename); 
+         if (!gotit) {
+            Error("ImportWrappers", "Could not get file %s from proof scratch space", cont->GetFileName());
+         }
+         // Normally we should connect data from the copied file to the
+         // corresponding output container, but it is not obvious how to do this
+         // automatically if several objects in file...
+         TFile *f = new TFile(filename, "READ");
+         TObject *obj = 0;
+         if (!isManagedByHandler) obj = f->Get(cont->GetName());
+         if (!obj && !isManagedByHandler) {
+            Error("ImportWrappers", "Could not find object %s in file %s", cont->GetName(), filename);
+            continue;
+         }
+         wrap = new AliAnalysisDataWrapper(obj);
+         wrap->SetDeleteData(kFALSE);
+      }   
+      if (!wrap) wrap = (AliAnalysisDataWrapper*)source->FindObject(cont->GetName());
+      if (!wrap) {
+         Error("ImportWrappers","Container %s not found in analysis output !", cont->GetName());
+         continue;
+      }
+      icont++;
+      if (fDebug > 1) {
+         printf("   Importing data for container %s", cont->GetName());
+         if (strlen(filename)) printf("    -> file %s\n", cont->GetFileName());
+         else printf("\n");
+      }   
+      cont->ImportData(wrap);
+   }         
+   if (fDebug > 0) printf("<-AliAnalysisManager::ImportWrappers(): %d containers imported\n", icont);
+}
+
+//______________________________________________________________________________
+void AliAnalysisManager::UnpackOutput(TList *source)
+{
+  // Called by AliAnalysisSelector::Terminate only on the client.
+   if (fDebug > 0) printf("->AliAnalysisManager::UnpackOutput()\n");
+   if (!source) {
+      Error("UnpackOutput", "No target. Aborting.");
+      return;
    }
+   if (fDebug > 1) printf("   Source list contains %d containers\n", source->GetSize());
+
+   if (fMode == kProofAnalysis) ImportWrappers(source);
+
    TIter next(fOutputs);
    AliAnalysisDataContainer *output;
-   while ((output=(AliAnalysisDataContainer *)next())) {
-      output->SetDataOwned(kFALSE);
-      fOutput->Add(output->GetData());
-   }   
+   while ((output=(AliAnalysisDataContainer*)next())) {
+      if (!output->GetData()) continue;
+      // Check if there are client tasks that run post event loop
+      if (output->HasConsumers()) {
+         // Disable event loop semaphore
+         output->SetPostEventLoop(kTRUE);
+         TObjArray *list = output->GetConsumers();
+         Int_t ncons = list->GetEntriesFast();
+         for (Int_t i=0; i<ncons; i++) {
+            AliAnalysisTask *task = (AliAnalysisTask*)list->At(i);
+            task->CheckNotify(kTRUE);
+            // If task is active, execute it
+            if (task->IsPostEventLoop() && task->IsActive()) {
+               if (fDebug > 0) printf("== Executing post event loop task %s\n", task->GetName());
+               task->ExecuteTask();
+            }   
+         }
+      }   
+   }
+   if (fDebug > 0) printf("<-AliAnalysisManager::UnpackOutput()\n");
 }
 
 //______________________________________________________________________________
@@ -229,21 +613,95 @@ void AliAnalysisManager::Terminate()
 {
   // The Terminate() function is the last function to be called during
   // a query. It always runs on the client, it can be used to present
-  // the results graphically or save the results to file.
-   printf("AliAnalysisManager::Terminate()\n");
-   AliAnalysisDataContainer *output;
+  // the results graphically.
+   if (fDebug > 0) printf("->AliAnalysisManager::Terminate()\n");
    AliAnalysisTask *task;
-   TIter next(fOutputs);
-   while ((output=(AliAnalysisDataContainer *)next())) output->WriteData();
-   TIter next1(fTasks);
+   TIter next(fTasks);
    // Call Terminate() for tasks
-   while ((task=(AliAnalysisTask*)next1())) task->Terminate();
+   while ((task=(AliAnalysisTask*)next())) task->Terminate();
+   //
+   TIter next1(fOutputs);
+   AliAnalysisDataContainer *output;
+   while ((output=(AliAnalysisDataContainer*)next1())) {
+      // Close all files at output
+      // Special outputs have the files already closed and written.
+      if (output->IsSpecialOutput()) continue;
+      const char *filename = output->GetFileName();
+      if (!(strcmp(filename, "default"))) {
+         if (fOutputEventHandler) filename = fOutputEventHandler->GetOutputFileName();
+         TFile *aodfile = (TFile*)gROOT->GetListOfFiles()->FindObject(filename);
+         if (aodfile) {
+            if (fDebug > 1) printf("Writing output handler file: %s\n", filename);
+            aodfile->Write();
+            continue;
+         }   
+      }      
+      if (!strlen(filename)) continue;
+      if (!output->GetData()) continue;
+      TFile *file = output->GetFile();
+      TDirectory *opwd = gDirectory;
+      if (file) {
+         file->cd();
+      } else {
+         file = new TFile(filename, "RECREATE");
+         if (file->IsZombie()) continue;
+         output->SetFile(file);
+      }   
+      if (fDebug > 1) printf("   writing output data %s to file %s\n", output->GetData()->GetName(), file->GetName());
+      if (output->GetData()->InheritsFrom(TCollection::Class())) {
+      // If data is a collection, we set the name of the collection 
+      // as the one of the container and we save as a single key.
+         TCollection *coll = (TCollection*)output->GetData();
+         coll->SetName(output->GetName());
+         coll->Write(output->GetName(), TObject::kSingleKey);
+      } else {
+         output->GetData()->Write();
+      }      
+      file->Close();
+      if (opwd) opwd->cd();
+   }   
+
+   if (fInputEventHandler)   fInputEventHandler  ->TerminateIO();
+   if (fOutputEventHandler)  fOutputEventHandler ->TerminateIO();
+   if (fMCtruthEventHandler) fMCtruthEventHandler->TerminateIO();
+
+   Bool_t getsysInfo = ((fNSysInfo>0) && (fMode==kLocalAnalysis))?kTRUE:kFALSE;
+   if (getsysInfo) {
+      TDirectory *cdir = gDirectory;
+      TFile f("syswatch.root", "RECREATE");
+      if (!f.IsZombie()) {
+         TTree *tree = AliSysInfo::MakeTree("syswatch.log");
+         tree->SetMarkerStyle(kCircle);
+         tree->SetMarkerColor(kBlue);
+         tree->SetMarkerSize(0.5);
+         if (!gROOT->IsBatch()) {
+            tree->SetAlias("event", "id0");
+            tree->SetAlias("memUSED", "pI.fMemVirtual");
+            tree->SetAlias("userCPU", "pI.fCpuUser");
+            TCanvas *c = new TCanvas("SysInfo","SysInfo",10,10,800,600);
+            c->Divide(2,1,0.01,0.01);
+            c->cd(1);
+            tree->Draw("memUSED:event","","", 1234567890, 0);
+            c->cd(2);
+            tree->Draw("userCPU:event","","", 1234567890, 0);
+         }   
+         tree->Write();
+         f.Close();
+         delete tree;
+      }
+      if (cdir) cdir->cd();
+   }      
+   if (fDebug > 0) printf("<-AliAnalysisManager::Terminate()\n");
 }
 
 //______________________________________________________________________________
 void AliAnalysisManager::AddTask(AliAnalysisTask *task)
 {
 // Adds a user task to the global list of tasks.
+   if (fTasks->FindObject(task)) {
+      Warning("AddTask", "Task %s: the same object already added to the analysis manager. Not adding.", task->GetName());
+      return;
+   }   
    task->SetActive(kFALSE);
    fTasks->Add(task);
 }  
@@ -258,12 +716,16 @@ AliAnalysisTask *AliAnalysisManager::GetTask(const char *name) const
 
 //______________________________________________________________________________
 AliAnalysisDataContainer *AliAnalysisManager::CreateContainer(const char *name, 
-                                TClass *datatype, EAliAnalysisContType type)
+                                TClass *datatype, EAliAnalysisContType type, const char *filename)
 {
 // Create a data container of a certain type. Types can be:
-//   kNormalContainer  = 0, used to exchange date between tasks
+//   kExchangeContainer  = 0, used to exchange date between tasks
 //   kInputContainer   = 1, used to store input data
 //   kOutputContainer  = 2, used for posting results
+   if (fContainers->FindObject(name)) {
+      Error("CreateContainer","A container named %s already defined !\n",name);
+      return NULL;
+   }   
    AliAnalysisDataContainer *cont = new AliAnalysisDataContainer(name, datatype);
    fContainers->Add(cont);
    switch (type) {
@@ -272,8 +734,12 @@ AliAnalysisDataContainer *AliAnalysisManager::CreateContainer(const char *name,
          break;
       case kOutputContainer:
          fOutputs->Add(cont);
+         if (filename && strlen(filename)) {
+            cont->SetFileName(filename);
+            cont->SetDataOwned(kFALSE);  // data owned by the file
+         }   
          break;
-      case kNormalContainer:
+      case kExchangeContainer:
          break;   
    }
    return cont;
@@ -286,7 +752,7 @@ Bool_t AliAnalysisManager::ConnectInput(AliAnalysisTask *task, Int_t islot,
 // Connect input of an existing task to a data container.
    if (!fTasks->FindObject(task)) {
       AddTask(task);
-      AliInfo(Form("Task %s not registered. Now owned by analysis manager", task->GetName()));
+      Info("ConnectInput", "Task %s was not registered. Now owned by analysis manager", task->GetName());
    } 
    Bool_t connected = task->ConnectInput(islot, cont);
    return connected;
@@ -299,7 +765,7 @@ Bool_t AliAnalysisManager::ConnectOutput(AliAnalysisTask *task, Int_t islot,
 // Connect output of an existing task to a data container.
    if (!fTasks->FindObject(task)) {
       AddTask(task);
-      AliInfo(Form("Task %s not registered. Now owned by analysis manager", task->GetName()));
+      Warning("ConnectOutput", "Task %s not registered. Now owned by analysis manager", task->GetName());
    } 
    Bool_t connected = task->ConnectOutput(islot, cont);
    return connected;
@@ -325,17 +791,9 @@ Bool_t AliAnalysisManager::InitAnalysis()
 // and data containers are properly connected
    // Check for input/output containers
    fInitOK = kFALSE;
-//   if (!fInputs->GetEntriesFast()) {
-//      AliError("No input container defined. At least one container should store input data");
-//      return kFALSE;
-//   }   
-//   if (!fOutputs->GetEntriesFast()) {
-//      AliError("No output container defined. At least one container should store output data");
-//      return kFALSE;
-//   }   
    // Check for top tasks (depending only on input data containers)
    if (!fTasks->First()) {
-      AliError("Analysis have no tasks !");
+      Error("InitAnalysis", "Analysis has no tasks !");
       return kFALSE;
    }   
    TIter next(fTasks);
@@ -350,13 +808,6 @@ Bool_t AliAnalysisManager::InitAnalysis()
       istop = kTRUE;
       iszombie = kFALSE;
       Int_t ninputs = task->GetNinputs();
-//      if (!ninputs) {
-//         task->SetZombie();
-//         fZombies->Add(task);
-//         nzombies++;
-//         AliWarning(Form("Task %s has no input slots defined ! Declared zombie...",task->GetName()));
-//         continue;
-//      }
       for (i=0; i<ninputs; i++) {
          cont = task->GetInputSlot(i)->GetContainer();
          if (!cont) {
@@ -366,8 +817,8 @@ Bool_t AliAnalysisManager::InitAnalysis()
                nzombies++;
                iszombie = kTRUE;
             }   
-            AliWarning(Form("Input slot %i of task %s has no container connected ! Declared zombie...",
-                       i,task->GetName()));
+            Error("InitAnalysis", "Input slot %d of task %s has no container connected ! Declared zombie...", 
+                  i, task->GetName()); 
          }
          if (iszombie) continue;
          // Check if cont is an input container
@@ -380,7 +831,7 @@ Bool_t AliAnalysisManager::InitAnalysis()
       }
    }
    if (!ntop) {
-      AliError("No top task defined. At least one task should be connected only to input containers");
+      Error("InitAnalysis", "No top task defined. At least one task should be connected only to input containers");
       return kFALSE;
    }                        
    // Check now if there are orphan tasks
@@ -393,7 +844,7 @@ Bool_t AliAnalysisManager::InitAnalysis()
    while ((task=(AliAnalysisTask*)next())) {
       if (!task->IsUsed()) {
          norphans++;
-         AliWarning(Form("Task %s is orphan",task->GetName()));
+         Warning("InitAnalysis", "Task %s is orphan", task->GetName());
       }   
    }          
    // Check the task hierarchy (no parent task should depend on data provided
@@ -401,11 +852,35 @@ Bool_t AliAnalysisManager::InitAnalysis()
    for (i=0; i<ntop; i++) {
       task = (AliAnalysisTask*)fTopTasks->At(i);
       if (task->CheckCircularDeps()) {
-         AliError("Found illegal circular dependencies between following tasks:");
+         Error("InitAnalysis", "Found illegal circular dependencies between following tasks:");
          PrintStatus("dep");
          return kFALSE;
       }   
    }
+   // Check that all containers feeding post-event loop tasks are in the outputs list
+   TIter nextcont(fContainers); // loop over all containers
+   while ((cont=(AliAnalysisDataContainer*)nextcont())) {
+      if (!cont->IsPostEventLoop() && !fOutputs->FindObject(cont)) {
+         if (cont->HasConsumers()) {
+         // Check if one of the consumers is post event loop
+            TIter nextconsumer(cont->GetConsumers());
+            while ((task=(AliAnalysisTask*)nextconsumer())) {
+               if (task->IsPostEventLoop()) {
+                  fOutputs->Add(cont);
+                  break;
+               }
+            }
+         }
+      }
+   }   
+   // Check if all special output containers have a file name provided
+   TIter nextout(fOutputs);
+   while ((cont=(AliAnalysisDataContainer*)nextout())) {
+      if (cont->IsSpecialOutput() && !strlen(cont->GetFileName())) {
+         Error("InitAnalysis", "Wrong container %s : a file name MUST be provided for special outputs", cont->GetName());
+         return kFALSE;
+      }
+   }      
    fInitOK = kTRUE;
    return kTRUE;
 }   
@@ -414,6 +889,13 @@ Bool_t AliAnalysisManager::InitAnalysis()
 void AliAnalysisManager::PrintStatus(Option_t *option) const
 {
 // Print task hierarchy.
+   if (!fInitOK) {
+      Info("PrintStatus", "Analysis manager %s not initialized : call InitAnalysis() first", GetName());
+      return;
+   }   
+   Bool_t getsysInfo = ((fNSysInfo>0) && (fMode==kLocalAnalysis))?kTRUE:kFALSE;
+   if (getsysInfo)
+      Info("PrintStatus", "System information will be collected each %lld events", fNSysInfo);
    TIter next(fTopTasks);
    AliAnalysisTask *task;
    while ((task=(AliAnalysisTask*)next()))
@@ -427,12 +909,189 @@ void AliAnalysisManager::ResetAnalysis()
    CleanContainers();
 }
 
+//______________________________________________________________________________
+void AliAnalysisManager::StartAnalysis(const char *type, TTree *tree, Long64_t nentries, Long64_t firstentry)
+{
+// Start analysis for this manager. Analysis task can be: LOCAL, PROOF, GRID or
+// MIX. Process nentries starting from firstentry
+   if (!fInitOK) {
+      Error("StartAnalysis","Analysis manager was not initialized !");
+      return;
+   }
+   if (fDebug > 0) printf("StartAnalysis %s\n",GetName());
+   TString anaType = type;
+   anaType.ToLower();
+   fMode = kLocalAnalysis;
+   if (anaType.Contains("proof"))     fMode = kProofAnalysis;
+   else if (anaType.Contains("grid")) fMode = kGridAnalysis;
+   else if (anaType.Contains("mix"))  fMode = kMixingAnalysis;
+
+   if (fMode == kGridAnalysis) {
+      Warning("StartAnalysis", "GRID analysis mode not implemented. Running local.");
+      fMode = kLocalAnalysis;
+   }
+   char line[256];
+   SetEventLoop(kFALSE);
+   // Enable event loop mode if a tree was provided
+   if (tree || fMode==kMixingAnalysis) SetEventLoop(kTRUE);
+
+   TChain *chain = 0;
+   TString ttype = "TTree";
+   if (tree && tree->IsA() == TChain::Class()) {
+      chain = (TChain*)tree;
+      if (!chain || !chain->GetListOfFiles()->First()) {
+         Error("StartAnalysis", "Cannot process null or empty chain...");
+         return;
+      }   
+      ttype = "TChain";
+   }   
+
+   // Initialize locally all tasks (happens for all modes)
+   TIter next(fTasks);
+   AliAnalysisTask *task;
+   while ((task=(AliAnalysisTask*)next())) {
+      task->LocalInit();
+   }
+   
+   switch (fMode) {
+      case kLocalAnalysis:
+         if (!tree) {
+            TIter nextT(fTasks);
+            // Call CreateOutputObjects for all tasks
+            while ((task=(AliAnalysisTask*)nextT())) {
+               TDirectory *curdir = gDirectory;
+               task->CreateOutputObjects();
+               if (curdir) curdir->cd();
+            }   
+            ExecAnalysis();
+            Terminate();
+            return;
+         } 
+         // Run tree-based analysis via AliAnalysisSelector  
+         cout << "===== RUNNING LOCAL ANALYSIS " << GetName() << " ON TREE " << tree->GetName() << endl;
+         fSelector = new AliAnalysisSelector(this);
+         tree->Process(fSelector, "", nentries, firstentry);
+         break;
+      case kProofAnalysis:
+         if (!gROOT->GetListOfProofs() || !gROOT->GetListOfProofs()->GetEntries()) {
+            printf("StartAnalysis: no PROOF!!!\n");
+            return;
+         }   
+         sprintf(line, "gProof->AddInput((TObject*)0x%lx);", (ULong_t)this);
+         gROOT->ProcessLine(line);
+         if (chain) {
+            chain->SetProof();
+            cout << "===== RUNNING PROOF ANALYSIS " << GetName() << " ON CHAIN " << chain->GetName() << endl;
+            chain->Process("AliAnalysisSelector", "", nentries, firstentry);
+         } else {
+            printf("StartAnalysis: no chain\n");
+            return;
+         }      
+         break;
+      case kGridAnalysis:
+         Warning("StartAnalysis", "GRID analysis mode not implemented. Running local.");
+         break;
+      case kMixingAnalysis:   
+         // Run event mixing analysis
+         if (!fEventPool) {
+            Error("StartAnalysis", "Cannot run event mixing without event pool");
+            return;
+         }
+         cout << "===== RUNNING EVENT MIXING ANALYSIS " << GetName() << endl;
+         fSelector = new AliAnalysisSelector(this);
+         while ((chain=fEventPool->GetNextChain())) {
+            next.Reset();
+            // Call NotifyBinChange for all tasks
+            while ((task=(AliAnalysisTask*)next()))
+               if (!task->IsPostEventLoop()) task->NotifyBinChange();
+            chain->Process(fSelector);
+         }
+         PackOutput(fSelector->GetOutputList());
+         Terminate();
+   }   
+}   
+
+//______________________________________________________________________________
+void AliAnalysisManager::StartAnalysis(const char *type, const char *dataset, Long64_t nentries, Long64_t firstentry)
+{
+// Start analysis for this manager on a given dataset. Analysis task can be: 
+// LOCAL, PROOF or GRID. Process nentries starting from firstentry.
+   if (!fInitOK) {
+      Error("StartAnalysis","Analysis manager was not initialized !");
+      return;
+   }
+   if (fDebug > 0) printf("StartAnalysis %s\n",GetName());
+   TString anaType = type;
+   anaType.ToLower();
+   if (!anaType.Contains("proof")) {
+      Error("Cannot process datasets in %s mode. Try PROOF.", type);
+      return;
+   }   
+   fMode = kProofAnalysis;
+   char line[256];
+   SetEventLoop(kTRUE);
+   // Set the dataset flag
+   TObject::SetBit(kUseDataSet);
+   fTree = 0;
+
+   // Initialize locally all tasks
+   TIter next(fTasks);
+   AliAnalysisTask *task;
+   while ((task=(AliAnalysisTask*)next())) {
+      task->LocalInit();
+   }
+   
+   if (!gROOT->GetListOfProofs() || !gROOT->GetListOfProofs()->GetEntries()) {
+      printf("StartAnalysis: no PROOF!!!\n");
+      return;
+   }   
+   sprintf(line, "gProof->AddInput((TObject*)0x%lx);", (ULong_t)this);
+   gROOT->ProcessLine(line);
+   sprintf(line, "gProof->GetDataSet(\"%s\");", dataset);
+   if (!gROOT->ProcessLine(line)) {
+      Error("StartAnalysis", "Dataset %s not found", dataset);
+      return;
+   }   
+   sprintf(line, "gProof->Process(\"%s\", \"AliAnalysisSelector\", \"\", %lld, %lld);",
+           dataset, nentries, firstentry);
+   cout << "===== RUNNING PROOF ANALYSIS " << GetName() << " ON DATASET " << dataset << endl;
+   gROOT->ProcessLine(line);
+}   
+
+//______________________________________________________________________________
+TFile *AliAnalysisManager::OpenProofFile(const char *filename, const char *option)
+{
+// Opens a special output file used in PROOF.
+   char line[256];
+   if (fMode!=kProofAnalysis || !fSelector) {
+      Error("OpenProofFile","Cannot open PROOF file %s",filename);
+      return NULL;
+   }   
+   sprintf(line, "TProofOutputFile *pf = new TProofOutputFile(\"%s\");", filename);
+   if (fDebug > 1) printf("=== %s\n", line);
+   gROOT->ProcessLine(line);
+   sprintf(line, "pf->OpenFile(\"%s\");", option);
+   gROOT->ProcessLine(line);
+   if (fDebug > 1) {
+      gROOT->ProcessLine("pf->Print()");
+      printf(" == proof file name: %s\n", gFile->GetName());
+   }   
+   sprintf(line, "((TList*)0x%lx)->Add(pf);",(ULong_t)fSelector->GetOutputList());
+   if (fDebug > 1) printf("=== %s\n", line);
+   gROOT->ProcessLine(line);
+   return gFile;
+}   
+
 //______________________________________________________________________________
 void AliAnalysisManager::ExecAnalysis(Option_t *option)
 {
 // Execute analysis.
+   static Long64_t ncalls = 0;
+   Bool_t getsysInfo = ((fNSysInfo>0) && (fMode==kLocalAnalysis))?kTRUE:kFALSE;
+   if (getsysInfo && ncalls==0) AliSysInfo::AddStamp("Start", (Int_t)ncalls);
+   ncalls++;
    if (!fInitOK) {
-      AliError("Analysis manager was not initialized !");
+     Error("ExecAnalysis", "Analysis manager was not initialized !");
       return;
    }   
    AliAnalysisTask *task;
@@ -443,24 +1102,57 @@ void AliAnalysisManager::ExecAnalysis(Option_t *option)
       while ((task=(AliAnalysisTask*)next())) task->SetActive(kFALSE);
       AliAnalysisDataContainer *cont = (AliAnalysisDataContainer*)fInputs->At(0);
       if (!cont) {
-         AliError("Cannot execute analysis in TSelector mode without at least one top container");
+             Error("ExecAnalysis","Cannot execute analysis in TSelector mode without at least one top container");
          return;
       }   
       cont->SetData(fTree); // This will notify all consumers
-      TIter next1(cont->GetConsumers());
+      Long64_t entry = fTree->GetTree()->GetReadEntry();
+      
+//
+//    Call BeginEvent() for optional input/output and MC services 
+      if (fInputEventHandler)   fInputEventHandler  ->BeginEvent(entry);
+      if (fOutputEventHandler)  fOutputEventHandler ->BeginEvent(entry);
+      if (fMCtruthEventHandler) fMCtruthEventHandler->BeginEvent(entry);
+//
+//    Execute the tasks
+//      TIter next1(cont->GetConsumers());
+      TIter next1(fTopTasks);
       while ((task=(AliAnalysisTask*)next1())) {
-//         task->SetActive(kTRUE);
+         if (fDebug >1) {
+            cout << "    Executing task " << task->GetName() << endl;
+         }   
+        
          task->ExecuteTask(option);
       }
+//
+//    Call FinishEvent() for optional output and MC services 
+      if (fInputEventHandler)   fInputEventHandler  ->FinishEvent();
+      if (fOutputEventHandler)  fOutputEventHandler ->FinishEvent();
+      if (fMCtruthEventHandler) fMCtruthEventHandler->FinishEvent();
+      // Gather system information if requested
+      if (getsysInfo && ((ncalls%fNSysInfo)==0)) 
+         AliSysInfo::AddStamp(Form("Event#%lld",ncalls),(Int_t)ncalls);
       return;
    }   
    // The event loop is not controlled by TSelector   
+//
+//  Call BeginEvent() for optional input/output and MC services 
+   if (fInputEventHandler)   fInputEventHandler  ->BeginEvent(-1);
+   if (fOutputEventHandler)  fOutputEventHandler ->BeginEvent(-1);
+   if (fMCtruthEventHandler) fMCtruthEventHandler->BeginEvent(-1);
    TIter next2(fTopTasks);
    while ((task=(AliAnalysisTask*)next2())) {
       task->SetActive(kTRUE);
-      printf("executing %s\n", task->GetName());
+      if (fDebug > 1) {
+         cout << "    Executing task " << task->GetName() << endl;
+      }   
       task->ExecuteTask(option);
    }   
+//
+// Call FinishEvent() for optional output and MC services 
+   if (fInputEventHandler)   fInputEventHandler  ->FinishEvent();
+   if (fOutputEventHandler)  fOutputEventHandler ->FinishEvent();
+   if (fMCtruthEventHandler) fMCtruthEventHandler->FinishEvent();
 }
 
 //______________________________________________________________________________