]> git.uio.no Git - u/mrichter/AliRoot.git/blobdiff - ANALYSIS/AliAnalysisManager.cxx
- Common input and output data containers are now created automatically when attachin...
[u/mrichter/AliRoot.git] / ANALYSIS / AliAnalysisManager.cxx
index a9e38ce9136a2f3418fc70fef03d43a1a3056296..5f5c70fa76ab559c404f5aa463a6fb3e71f0bfef 100644 (file)
 
 #include <TClass.h>
 #include <TFile.h>
+#include <TKey.h>
 #include <TMethodCall.h>
 #include <TChain.h>
 #include <TSystem.h>
 #include <TROOT.h>
 #include <TCanvas.h>
 
+#include "AliAnalysisSelector.h"
+#include "AliAnalysisGrid.h"
 #include "AliAnalysisTask.h"
 #include "AliAnalysisDataContainer.h"
 #include "AliAnalysisDataSlot.h"
 #include "AliVEventHandler.h"
+#include "AliVEventPool.h"
 #include "AliSysInfo.h"
 #include "AliAnalysisManager.h"
 
@@ -53,6 +57,7 @@ AliAnalysisManager::AliAnalysisManager(const char *name, const char *title)
                     fInputEventHandler(NULL),
                     fOutputEventHandler(NULL),
                     fMCtruthEventHandler(NULL),
+                    fEventPool(NULL),
                     fCurrentEntry(-1),
                     fNSysInfo(0),
                     fMode(kLocalAnalysis),
@@ -64,7 +69,11 @@ AliAnalysisManager::AliAnalysisManager(const char *name, const char *title)
                     fZombies(NULL),
                     fContainers(NULL),
                     fInputs(NULL),
-                    fOutputs(NULL)
+                    fOutputs(NULL),
+                    fCommonInput(NULL),
+                    fCommonOutput(NULL),
+                    fSelector(NULL),
+                    fGridHandler(NULL)
 {
 // Default constructor.
    fgAnalysisManager = this;
@@ -84,6 +93,7 @@ AliAnalysisManager::AliAnalysisManager(const AliAnalysisManager& other)
                     fInputEventHandler(NULL),
                     fOutputEventHandler(NULL),
                     fMCtruthEventHandler(NULL),
+                   fEventPool(NULL),
                     fCurrentEntry(-1),
                     fNSysInfo(0),
                     fMode(other.fMode),
@@ -95,7 +105,11 @@ AliAnalysisManager::AliAnalysisManager(const AliAnalysisManager& other)
                     fZombies(NULL),
                     fContainers(NULL),
                     fInputs(NULL),
-                    fOutputs(NULL)
+                    fOutputs(NULL),
+                    fCommonInput(NULL),
+                    fCommonOutput(NULL),
+                    fSelector(NULL),
+                    fGridHandler(NULL)
 {
 // Copy constructor.
    fTasks      = new TObjArray(*other.fTasks);
@@ -116,6 +130,7 @@ AliAnalysisManager& AliAnalysisManager::operator=(const AliAnalysisManager& othe
       fInputEventHandler   = other.fInputEventHandler;
       fOutputEventHandler  = other.fOutputEventHandler;
       fMCtruthEventHandler = other.fMCtruthEventHandler;
+      fEventPool           = other.fEventPool;
       fTree       = NULL;
       fCurrentEntry = -1;
       fNSysInfo   = other.fNSysInfo;
@@ -128,6 +143,10 @@ AliAnalysisManager& AliAnalysisManager::operator=(const AliAnalysisManager& othe
       fContainers = new TObjArray(*other.fContainers);
       fInputs     = new TObjArray(*other.fInputs);
       fOutputs    = new TObjArray(*other.fOutputs);
+      fCommonInput = NULL;
+      fCommonOutput = NULL;
+      fSelector   = NULL;
+      fGridHandler = NULL;
       fgAnalysisManager = this;
    }
    return *this;
@@ -143,6 +162,7 @@ AliAnalysisManager::~AliAnalysisManager()
    if (fContainers) {fContainers->Delete(); delete fContainers;}
    if (fInputs) delete fInputs;
    if (fOutputs) delete fOutputs;
+   if (fGridHandler) delete fGridHandler;
    if (fgAnalysisManager==this) fgAnalysisManager = NULL;
 }
 
@@ -150,68 +170,84 @@ AliAnalysisManager::~AliAnalysisManager()
 Int_t AliAnalysisManager::GetEntry(Long64_t entry, Int_t getall)
 {
 // Read one entry of the tree or a whole branch.
-   if (fDebug > 1) {
-      cout << "== AliAnalysisManager::GetEntry()" << endl;
-   }   
+   if (fDebug > 0) printf("== AliAnalysisManager::GetEntry(%lld)\n", entry);
    fCurrentEntry = entry;
    return fTree ? fTree->GetTree()->GetEntry(entry, getall) : 0;
 }
    
 //______________________________________________________________________________
-void AliAnalysisManager::Init(TTree *tree)
+Bool_t AliAnalysisManager::Init(TTree *tree)
 {
   // The Init() function is called when the selector needs to initialize
   // a new tree or chain. Typically here the branch addresses of the tree
   // will be set. It is normaly not necessary to make changes to the
   // generated code, but the routine can be extended by the user if needed.
   // Init() will be called many times when running with PROOF.
-   if (!tree) return;
-   if (fDebug > 1) {
-      printf("->AliAnalysisManager::InitTree(%s)\n", tree->GetName());
+   Bool_t init = kFALSE;
+   if (!tree) return kFALSE; // Should not happen - protected in selector caller
+   if (fDebug > 0) {
+      printf("->AliAnalysisManager::Init(%s)\n", tree->GetName());
    }
-
    // Call InitTree of EventHandler
    if (fOutputEventHandler) {
       if (fMode == kProofAnalysis) {
-         fOutputEventHandler->Init(0x0, "proof");
+         init = fOutputEventHandler->Init(0x0, "proof");
       } else {
-         fOutputEventHandler->Init(0x0, "local");
+         init = fOutputEventHandler->Init(0x0, "local");
       }
+      if (!init) {
+         Error("Init", "Output event handler failed to initialize");
+         return kFALSE;
+      }         
    }
-
+   
    if (fInputEventHandler) {
       if (fMode == kProofAnalysis) {
-         fInputEventHandler->Init(tree, "proof");
+         init = fInputEventHandler->Init(tree, "proof");
       } else {
-         fInputEventHandler->Init(tree, "local");
+         init = fInputEventHandler->Init(tree, "local");
       }
+      if (!init) {
+         Error("Init", "Input event handler failed to initialize tree"); 
+         return kFALSE;
+      }         
    } else {
       // If no input event handler we need to get the tree once
       // for the chain
-      if(!tree->GetTree()) tree->LoadTree(0);
+      if(!tree->GetTree()) {
+         Long64_t readEntry = tree->LoadTree(0);
+         if (readEntry == -2) {
+            Error("Init", "Input tree has no entry. Aborting");
+            return kFALSE;
+         }
+      }   
    }
-   
 
    if (fMCtruthEventHandler) {
       if (fMode == kProofAnalysis) {
-         fMCtruthEventHandler->Init(0x0, "proof");
+         init = fMCtruthEventHandler->Init(0x0, "proof");
       } else {
-         fMCtruthEventHandler->Init(0x0, "local");
+         init = fMCtruthEventHandler->Init(0x0, "local");
       }
+      if (!init) {
+         Error("Init", "MC event handler failed to initialize"); 
+         return kFALSE;
+      }         
    }
 
    if (!fInitOK) InitAnalysis();
-   if (!fInitOK) return;
+   if (!fInitOK) return kFALSE;
    fTree = tree;
    AliAnalysisDataContainer *top = (AliAnalysisDataContainer*)fInputs->At(0);
    if (!top) {
-      cout<<"Error: No top input container !" <<endl;
-      return;
+      Error("Init","No top input container !");
+      return kFALSE;
    }
    top->SetData(tree);
-   if (fDebug > 1) {
+   if (fDebug > 0) {
       printf("<-AliAnalysisManager::Init(%s)\n", tree->GetName());
    }
+   return kTRUE;
 }
 
 //______________________________________________________________________________
@@ -220,48 +256,79 @@ void AliAnalysisManager::SlaveBegin(TTree *tree)
   // The SlaveBegin() function is called after the Begin() function.
   // When running with PROOF SlaveBegin() is called on each slave server.
   // The tree argument is deprecated (on PROOF 0 is passed).
-   if (fDebug > 1) {
-      cout << "->AliAnalysisManager::SlaveBegin()" << endl;
-   }
-
+   if (fDebug > 0) printf("->AliAnalysisManager::SlaveBegin()\n");
+   static Bool_t isCalled = kFALSE;
+   Bool_t init = kFALSE;
+   Bool_t initOK = kTRUE;
+   TString msg;
+   TDirectory *curdir = gDirectory;
+   // Call SlaveBegin only once in case of mixing
+   if (isCalled && fMode==kMixingAnalysis) return;
    // Call Init of EventHandler
    if (fOutputEventHandler) {
       if (fMode == kProofAnalysis) {
-         fOutputEventHandler->Init("proof");
+         TIter nextout(fOutputs);
+         AliAnalysisDataContainer *c_aod;
+         while ((c_aod=(AliAnalysisDataContainer*)nextout())) if (!strcmp(c_aod->GetFileName(),"default")) break;
+         if (c_aod && c_aod->IsSpecialOutput()) {
+            // Merging via files
+            if (fDebug > 1) printf("   Initializing special output file %s...\n", fOutputEventHandler->GetOutputFileName());
+            OpenProofFile(fOutputEventHandler->GetOutputFileName(), "RECREATE");
+            c_aod->SetFile(gFile);
+            init = fOutputEventHandler->Init("proofspecial");
+            if (!init) msg = "Failed to initialize output handler on worker using special proof output";
+         } else {
+            // Merging in memory
+            init = fOutputEventHandler->Init("proof");
+            if (!init) msg = "Failed to initialize output handler on worker";
+         }   
       } else {
-         fOutputEventHandler->Init("local");
+         init = fOutputEventHandler->Init("local");
+         if (!init) msg = "Failed to initialize output handler on worker";
       }
+      initOK &= init;
+      if (!fSelector) Error("SlaveBegin", "Selector not set");
+      else if (!init) {fSelector->Abort(msg); fSelector->SetStatus(-1);}
    }
 
    if (fInputEventHandler) {
       fInputEventHandler->SetInputTree(tree);
       if (fMode == kProofAnalysis) {
-         fInputEventHandler->Init("proof");
+         init = fInputEventHandler->Init("proof");
+         if (!init) msg = "Failed to initialize input handler on worker";
       } else {
-         fInputEventHandler->Init("local");
+         init = fInputEventHandler->Init("local");
+         if (!init) msg = "Failed to initialize input handler";
       }
+      initOK &= init;
+      if (!fSelector) Error("SlaveBegin", "Selector not set");      
+      else if (!init) {fSelector->Abort(msg); fSelector->SetStatus(-1);}
    }
 
    if (fMCtruthEventHandler) {
       if (fMode == kProofAnalysis) {
-         fMCtruthEventHandler->Init("proof");
+         init = fMCtruthEventHandler->Init("proof");
+         if (!init) msg = "Failed to initialize MC handler on worker";
       } else {
-         fMCtruthEventHandler->Init("local");
+         init = fMCtruthEventHandler->Init("local");
+         if (!init) msg = "Failed to initialize MC handler";
       }
+      initOK &= init;
+      if (!fSelector) Error("SlaveBegin", "Selector not set");      
+      else if (!init) {fSelector->Abort(msg); fSelector->SetStatus(-1);}
    }
-
+   if (curdir) curdir->cd();
+   isCalled = kTRUE;
+   if (!initOK) return;   
    TIter next(fTasks);
    AliAnalysisTask *task;
    // Call CreateOutputObjects for all tasks
    while ((task=(AliAnalysisTask*)next())) {
-      TDirectory *curdir = gDirectory;
+      curdir = gDirectory;
       task->CreateOutputObjects();
       if (curdir) curdir->cd();
    }
-
-   if (fDebug > 1) {
-      cout << "<-AliAnalysisManager::SlaveBegin()" << endl;
-   }
+   if (fDebug > 0) printf("<-AliAnalysisManager::SlaveBegin()\n");
 }
 
 //______________________________________________________________________________
@@ -272,30 +339,35 @@ Bool_t AliAnalysisManager::Notify()
    // is started when using PROOF. It is normaly not necessary to make changes
    // to the generated code, but the routine can be extended by the
    // user if needed. The return value is currently not used.
-    if (fTree) {
-       TFile *curfile = fTree->GetCurrentFile();
-       if (curfile && fDebug>1) printf("AliAnalysisManager::Notify() file: %s\n", curfile->GetName());
-       TIter next(fTasks);
-       AliAnalysisTask *task;
-       // Call Notify for all tasks
-       while ((task=(AliAnalysisTask*)next())) 
-           task->Notify();
-       
-       // Call Notify of the event handlers
-       if (fInputEventHandler) {
-           fInputEventHandler->Notify(curfile->GetName());
-       }
+   if (!fTree) return kFALSE;
 
-       if (fOutputEventHandler) {
-           fOutputEventHandler->Notify(curfile->GetName());
-       }
+   TFile *curfile = fTree->GetCurrentFile();
+   if (!curfile) {
+      Error("Notify","No current file");
+      return kFALSE;
+   }   
+   
+   if (fDebug > 0) printf("->AliAnalysisManager::Notify() file: %s\n", curfile->GetName());
+   TIter next(fTasks);
+   AliAnalysisTask *task;
+   // Call Notify for all tasks
+   while ((task=(AliAnalysisTask*)next())) 
+      task->Notify();
+       
+   // Call Notify of the event handlers
+   if (fInputEventHandler) {
+       fInputEventHandler->Notify(curfile->GetName());
+   }
 
-       if (fMCtruthEventHandler) {
-           fMCtruthEventHandler->Notify(curfile->GetName());
-       }
+   if (fOutputEventHandler) {
+       fOutputEventHandler->Notify(curfile->GetName());
+   }
 
-    }
-    return kTRUE;
+   if (fMCtruthEventHandler) {
+       fMCtruthEventHandler->Notify(curfile->GetName());
+   }
+   if (fDebug > 0) printf("<-AliAnalysisManager::Notify()\n");
+   return kTRUE;
 }    
 
 //______________________________________________________________________________
@@ -318,18 +390,15 @@ Bool_t AliAnalysisManager::Process(Long64_t entry)
   //  The entry is always the local entry number in the current tree.
   //  Assuming that fChain is the pointer to the TChain being processed,
   //  use fChain->GetTree()->GetEntry(entry).
-   if (fDebug > 1) {
-      cout << "->AliAnalysisManager::Process(" << entry << ")" << endl;
-   }
+   if (fDebug > 0) printf("->AliAnalysisManager::Process(%lld)\n", entry);
+
    if (fInputEventHandler)   fInputEventHandler  ->BeginEvent(entry);
    if (fOutputEventHandler)  fOutputEventHandler ->BeginEvent(entry);
    if (fMCtruthEventHandler) fMCtruthEventHandler->BeginEvent(entry);
    
    GetEntry(entry);
    ExecAnalysis();
-   if (fDebug > 1) {
-      cout << "<-AliAnalysisManager::Process()" << endl;
-   }
+   if (fDebug > 0) printf("<-AliAnalysisManager::Process()\n");
    return kTRUE;
 }
 
@@ -338,9 +407,7 @@ void AliAnalysisManager::PackOutput(TList *target)
 {
   // Pack all output data containers in the output list. Called at SlaveTerminate
   // stage in PROOF case for each slave.
-   if (fDebug > 1) {
-      cout << "->AliAnalysisManager::PackOutput()" << endl;
-   }   
+   if (fDebug > 0) printf("->AliAnalysisManager::PackOutput()\n");
    if (!target) {
       Error("PackOutput", "No target. Aborting.");
       return;
@@ -348,120 +415,264 @@ void AliAnalysisManager::PackOutput(TList *target)
    if (fInputEventHandler)   fInputEventHandler  ->Terminate();
    if (fOutputEventHandler)  fOutputEventHandler ->Terminate();
    if (fMCtruthEventHandler) fMCtruthEventHandler->Terminate();
+
+   // Call FinishTaskOutput() for each event loop task (not called for 
+   // post-event loop tasks - use Terminate() fo those)
+   TIter nexttask(fTasks);
+   AliAnalysisTask *task;
+   while ((task=(AliAnalysisTask*)nexttask())) {
+      if (!task->IsPostEventLoop()) {
+         if (fDebug > 0) printf("->FinishTaskOutput: task %s\n", task->GetName());
+         task->FinishTaskOutput();
+         if (fDebug > 0) printf("<-FinishTaskOutput: task %s\n", task->GetName());
+      }
+   }      
    
    if (fMode == kProofAnalysis) {
       TIter next(fOutputs);
       AliAnalysisDataContainer *output;
+      Bool_t isManagedByHandler = kFALSE;
       while ((output=(AliAnalysisDataContainer*)next())) {
-         if (output->GetData() && !output->IsSpecialOutput()) {
-            if (output->GetProducer()->IsPostEventLoop()) continue;
-
-            const char *filename = output->GetFileName();
-            if (!(strcmp(filename, "default"))) {
-               if (fOutputEventHandler) filename = fOutputEventHandler->GetOutputFileName();
-            }      
-            if (strlen(filename)) {
-               TFile *file = (TFile*)gROOT->GetListOfFiles()->FindObject(filename);
+         // Do not consider outputs of post event loop tasks
+         isManagedByHandler = kFALSE;
+         if (output->GetProducer()->IsPostEventLoop()) continue;
+         const char *filename = output->GetFileName();
+         if (!(strcmp(filename, "default")) && fOutputEventHandler) {
+            isManagedByHandler = kTRUE;
+            filename = fOutputEventHandler->GetOutputFileName();
+         }
+         // Check if data was posted to this container. If not, issue an error.
+         if (!output->GetData() && !isManagedByHandler) {
+            Error("PackOutput", "No data for output container %s. Forgot to PostData ?\n", output->GetName());
+            continue;
+         }   
+         if (!output->IsSpecialOutput()) {
+            // Normal outputs
+            if (strlen(filename) && !isManagedByHandler) {
+               // File resident outputs
+               TFile *file = output->GetFile();
+               // Backup current folder
                TDirectory *opwd = gDirectory;
+               // Create file if not existing and register to container.
                if (file) file->cd();
-               else      file = new TFile(filename, "RECREATE");
-               if (file->IsZombie()) continue;
+               else      file = new TFile(filename, "RECREATE"); 
+               if (file->IsZombie()) {
+                  Fatal("PackOutput", "Could not recreate file %s\n", filename);
+                  return;
+               }   
+               output->SetFile(file);
                // Clear file list to release object ownership to user.
-               // Save data to file, then close.
                file->Clear();
-               output->GetData()->Write();
+               // Save data to file, then close.
+               if (output->GetData()->InheritsFrom(TCollection::Class())) {
+                  // If data is a collection, we set the name of the collection 
+                  // as the one of the container and we save as a single key.
+                  TCollection *coll = (TCollection*)output->GetData();
+                  coll->SetName(output->GetName());
+                  coll->Write(output->GetName(), TObject::kSingleKey);
+               } else {
+                  if (output->GetData()->InheritsFrom(TTree::Class())) {
+                     TTree *tree = (TTree*)output->GetData();
+                     tree->SetDirectory(file);
+                     tree->AutoSave();
+                  } else {
+                     output->GetData()->Write();
+                  }   
+               }      
+               if (fDebug > 1) printf("PackOutput %s: memory merge, file resident output\n", output->GetName());
+               if (fDebug > 2) {
+                  printf("   file %s listing content:\n", filename);
+                  file->ls();
+               }   
                file->Close();
-               // Set null directory to histograms and trees.
-               TMethodCall callEnv;
-               if (output->GetData()->IsA())
-                  callEnv.InitWithPrototype(output->GetData()->IsA(), "SetDirectory", "TDirectory*");
-               if (callEnv.IsValid()) {
-                  callEnv.SetParam(Long_t(0));
-                  callEnv.Execute(output->GetData());
-               }
                // Restore current directory
                if (opwd) opwd->cd();
+            } else {
+               // Memory-resident outputs   
+               if (fDebug > 1) printf("PackOutput %s: memory merge memory resident output\n", filename);
+            }   
+            AliAnalysisDataWrapper *wrap = 0;
+            if (isManagedByHandler) {
+               wrap = new AliAnalysisDataWrapper(fOutputEventHandler->GetTree());
+               wrap->SetName(output->GetName());
             }   
-            AliAnalysisDataWrapper *wrap = output->ExportData();
-            // Output wrappers must delete data after merging (AG 13/11/07)
-            wrap->SetDeleteData(kTRUE);
-            if (fDebug > 1) printf("   Packing container %s...\n", output->GetName());
+            else                    wrap =output->ExportData();
+            // Output wrappers must NOT delete data after merging - the user owns them
+            wrap->SetDeleteData(kFALSE);
             target->Add(wrap);
-         }   
-         // Special outputs files are closed and copied on the remote location
-         if (output->IsSpecialOutput() && strlen(output->GetFileName())) {
+         } else {
+         // Special outputs
             TDirectory *opwd = gDirectory;
-            TFile *file = (TFile*)gROOT->GetListOfFiles()->FindObject(output->GetFileName());
-            if (!file) continue;
+            TFile *file = output->GetFile();
+            if (fDebug > 1 && file) printf("PackOutput %s: file merge, special output\n", output->GetName());
+            if (isManagedByHandler) {
+               // Terminate IO for files managed by the output handler
+               if (file) file->Write();
+               if (file && fDebug > 2) {
+                  printf("   handled file %s listing content:\n", file->GetName());
+                  file->ls();
+               }   
+               fOutputEventHandler->TerminateIO();
+               continue;
+            }   
+            
+            if (!file) {
+               AliAnalysisTask *producer = output->GetProducer();
+               Error("PackOutput", 
+                     "File %s for special container %s was NOT opened in %s::CreateOutputObjects !!!",
+                     output->GetFileName(), output->GetName(), producer->ClassName());
+               continue;
+            }   
             file->cd();
-            if (output->GetData()) output->GetData()->Write();
+            // Release object ownership to users after writing data to file
+            if (output->GetData()->InheritsFrom(TCollection::Class())) {
+               // If data is a collection, we set the name of the collection 
+               // as the one of the container and we save as a single key.
+               TCollection *coll = (TCollection*)output->GetData();
+               coll->SetName(output->GetName());
+               coll->Write(output->GetName(), TObject::kSingleKey);
+            } else {
+               if (output->GetData()->InheritsFrom(TTree::Class())) {
+                  TTree *tree = (TTree*)output->GetData();
+                  tree->SetDirectory(file);
+                  tree->AutoSave();
+               } else {
+                  output->GetData()->Write();
+               }   
+            }      
+            file->Clear();
+            if (fDebug > 2) {
+               printf("   file %s listing content:\n", output->GetFileName());
+               file->ls();
+            }
+            TString outFilename = file->GetName();
             file->Close();
+            // Restore current directory
             if (opwd) opwd->cd();
+            // Check if a special output location was provided or the output files have to be merged
             if (strlen(fSpecialOutputLocation.Data())) {
                TString remote = fSpecialOutputLocation;
                remote += "/";
                Int_t gid = gROOT->ProcessLine("gProofServ->GetGroupId();");
                remote += Form("%s_%d_", gSystem->HostName(), gid);
                remote += output->GetFileName();
-               TFile::Cp(output->GetFileName(), remote.Data());
+               TFile::Cp ( outFilename.Data(), remote.Data() );
             } else {
-            // No special location specified-> use TProofFile as merging utility
-               char line[256];
-               sprintf(line, "((TList*)0x%lx)->Add(new TProofFile(\"%s\"));",
-                       (ULong_t)target, output->GetFileName());
-               gROOT->ProcessLine(line);
+            // No special location specified-> use TProofOutputFile as merging utility
+            // The file at this output slot must be opened in CreateOutputObjects
+               if (fDebug > 1) printf("   File %s to be merged...\n", output->GetFileName());
             }
          }      
       }
    } 
-   if (fDebug > 1) {
-      printf("<-AliAnalysisManager::PackOutput: output list contains %d containers\n", target->GetSize());
-   }
+   if (fDebug > 0) printf("<-AliAnalysisManager::PackOutput: output list contains %d containers\n", target->GetSize());
 }
 
 //______________________________________________________________________________
 void AliAnalysisManager::ImportWrappers(TList *source)
 {
 // Import data in output containers from wrappers coming in source.
-   if (fDebug > 1) {
-      cout << "->AliAnalysisManager::ImportWrappers()" << endl;
-   }   
+   if (fDebug > 0) printf("->AliAnalysisManager::ImportWrappers()\n");
    TIter next(fOutputs);
    AliAnalysisDataContainer *cont;
    AliAnalysisDataWrapper   *wrap;
    Int_t icont = 0;
+   Bool_t inGrid = (fMode == kGridAnalysis)?kTRUE:kFALSE;
    while ((cont=(AliAnalysisDataContainer*)next())) {
-      if (cont->GetProducer()->IsPostEventLoop() ||
-          cont->IsSpecialOutput()) continue;
-      wrap = (AliAnalysisDataWrapper*)source->FindObject(cont->GetName());
-      if (!wrap && fDebug>1) {
-         printf("(WW) ImportWrappers: container %s not found in analysis output !\n", cont->GetName());
+      wrap = 0;
+      if (cont->GetProducer()->IsPostEventLoop() && !inGrid) continue;
+      const char *filename = cont->GetFileName();
+      Bool_t isManagedByHandler = kFALSE;
+      if (!(strcmp(filename, "default")) && fOutputEventHandler) {
+         isManagedByHandler = kTRUE;
+         filename = fOutputEventHandler->GetOutputFileName();
+      }
+      if (cont->IsSpecialOutput() || inGrid) {
+         if (strlen(fSpecialOutputLocation.Data()) && !isManagedByHandler) continue;
+         // Copy merged file from PROOF scratch space. 
+         // In case of grid the files are already in the current directory.
+         if (!inGrid) {
+            char full_path[512];
+            char ch_url[512];
+            TObject *pof =  source->FindObject(filename);
+            if (!pof || !pof->InheritsFrom("TProofOutputFile")) {
+               Error("ImportWrappers", "TProofOutputFile object not found in output list for container %s", cont->GetName());
+               continue;
+            }
+            gROOT->ProcessLine(Form("sprintf((char*)0x%lx, \"%%s\", ((TProofOutputFile*)0x%lx)->GetOutputFileName();)", full_path, pof));
+            gROOT->ProcessLine(Form("sprintf((char*)0x%lx, \"%%s\", gProof->GetUrl();)", ch_url));
+            TString clientUrl(ch_url);
+            TString full_path_str(full_path);
+            if (clientUrl.Contains("localhost")){
+               TObjArray* array = full_path_str.Tokenize ( "//" );
+               TObjString *strobj = ( TObjString *)array->At(1);
+               TObjArray* arrayPort = strobj->GetString().Tokenize ( ":" );
+               TObjString *strobjPort = ( TObjString *) arrayPort->At(1);
+               full_path_str.ReplaceAll(strobj->GetString().Data(),"localhost:PORT");
+               full_path_str.ReplaceAll(":PORT",Form(":%s",strobjPort->GetString().Data()));
+               if (fDebug > 1) Info("ImportWrappers","Using tunnel from %s to %s",full_path_str.Data(),filename);
+            }
+            if (fDebug > 1) 
+               printf("   Copying file %s from PROOF scratch space\n", full_path_str.Data());
+            Bool_t gotit = TFile::Cp(full_path_str.Data(), filename); 
+            if (!gotit) {
+               Error("ImportWrappers", "Could not get file %s from proof scratch space", cont->GetFileName());
+               continue;
+            }
+         }   
+         // Normally we should connect data from the copied file to the
+         // corresponding output container, but it is not obvious how to do this
+         // automatically if several objects in file...
+         TFile *f = TFile::Open(filename, "READ");
+         if (!f) {
+            Error("ImportWrappers", "Cannot open file %s in read-only mode", filename);
+            continue;
+         }   
+         TObject *obj = 0;
+         // Try to fetch first a list object having the container name.
+         obj = f->Get(cont->GetName());
+         if (!obj) {
+         // Fetch first object from file having the container type.
+            TIter nextkey(f->GetListOfKeys());
+            TKey *key;
+            while ((key=(TKey*)nextkey())) {
+               obj = f->Get(key->GetName());
+               if (obj && obj->IsA()->InheritsFrom(cont->GetType())) break;
+            }                     
+         }
+         if (!obj) {
+            Error("ImportWrappers", "Could not find object for container %s in file %s", cont->GetName(), filename);
+            continue;
+         }  
+         wrap = new AliAnalysisDataWrapper(obj);
+         wrap->SetDeleteData(kFALSE);
+      }   
+      if (!wrap) wrap = (AliAnalysisDataWrapper*)source->FindObject(cont->GetName());
+      if (!wrap) {
+         Error("ImportWrappers","Container %s not found in analysis output !", cont->GetName());
          continue;
       }
       icont++;
-      if (fDebug > 1) printf("   Importing data for container %s\n", wrap->GetName());
-      if (cont->GetFileName()) printf("    -> %s\n", cont->GetFileName());
+      if (fDebug > 1) {
+         printf("   Importing data for container %s", cont->GetName());
+         if (strlen(filename)) printf("    -> file %s\n", filename);
+         else printf("\n");
+      }   
       cont->ImportData(wrap);
    }         
-   if (fDebug > 1) {
-      cout << "<-AliAnalysisManager::ImportWrappers(): "<< icont << " containers imported" << endl;
-   }   
+   if (fDebug > 0) printf("<-AliAnalysisManager::ImportWrappers(): %d containers imported\n", icont);
 }
 
 //______________________________________________________________________________
 void AliAnalysisManager::UnpackOutput(TList *source)
 {
   // Called by AliAnalysisSelector::Terminate only on the client.
-   if (fDebug > 1) {
-      cout << "->AliAnalysisManager::UnpackOutput()" << endl;
-   }   
+   if (fDebug > 0) printf("->AliAnalysisManager::UnpackOutput()\n");
    if (!source) {
       Error("UnpackOutput", "No target. Aborting.");
       return;
    }
-   if (fDebug > 1) {
-      printf("   Source list contains %d containers\n", source->GetSize());
-   }   
+   if (fDebug > 1) printf("   Source list contains %d containers\n", source->GetSize());
 
    if (fMode == kProofAnalysis) ImportWrappers(source);
 
@@ -480,39 +691,13 @@ void AliAnalysisManager::UnpackOutput(TList *source)
             task->CheckNotify(kTRUE);
             // If task is active, execute it
             if (task->IsPostEventLoop() && task->IsActive()) {
-               if (fDebug > 1) {
-                  cout << "== Executing post event loop task " << task->GetName() << endl;
-               }                  
+               if (fDebug > 0) printf("== Executing post event loop task %s\n", task->GetName());
                task->ExecuteTask();
             }   
          }
       }   
-      // Check if the output need to be written to a file.
-      const char *filename = output->GetFileName();
-      if (!(strcmp(filename, "default"))) {
-         if (fOutputEventHandler) filename = fOutputEventHandler->GetOutputFileName();
-      }
-      
-      if (!filename || !strlen(filename)) continue;
-      TFile *file = (TFile*)gROOT->GetListOfFiles()->FindObject(filename);
-      TDirectory *opwd = gDirectory;
-      if (file) file->cd();
-      else      file = new TFile(filename, "RECREATE");
-      if (file->IsZombie()) continue;
-      // Reparent data to this file
-      TMethodCall callEnv;
-      if (output->GetData()->IsA())
-         callEnv.InitWithPrototype(output->GetData()->IsA(), "SetDirectory", "TDirectory*");
-      if (callEnv.IsValid()) {
-         callEnv.SetParam((Long_t) file);
-         callEnv.Execute(output->GetData());
-      }
-      output->GetData()->Write();
-      if (opwd) opwd->cd();
    }
-   if (fDebug > 1) {
-      cout << "<-AliAnalysisManager::UnpackOutput()" << endl;
-   }   
+   if (fDebug > 0) printf("<-AliAnalysisManager::UnpackOutput()\n");
 }
 
 //______________________________________________________________________________
@@ -521,34 +706,66 @@ void AliAnalysisManager::Terminate()
   // The Terminate() function is the last function to be called during
   // a query. It always runs on the client, it can be used to present
   // the results graphically.
-   if (fDebug > 1) {
-      cout << "->AliAnalysisManager::Terminate()" << endl;
-   }   
+   if (fDebug > 0) printf("->AliAnalysisManager::Terminate()\n");
    AliAnalysisTask *task;
    TIter next(fTasks);
    // Call Terminate() for tasks
    while ((task=(AliAnalysisTask*)next())) task->Terminate();
-   if (fDebug > 1) {
-      cout << "<-AliAnalysisManager::Terminate()" << endl;
-   }   
    //
-   if (fInputEventHandler)   fInputEventHandler  ->TerminateIO();
-   if (fOutputEventHandler)  fOutputEventHandler ->TerminateIO();
-   if (fMCtruthEventHandler) fMCtruthEventHandler->TerminateIO();
    TIter next1(fOutputs);
    AliAnalysisDataContainer *output;
    while ((output=(AliAnalysisDataContainer*)next1())) {
-      // Close all files at output
+      // Special outputs or grid files have the files already closed and written.
+      if (fMode == kGridAnalysis) continue;
+      if (output->IsSpecialOutput()&&(fMode == kProofAnalysis)) continue;
       const char *filename = output->GetFileName();
       if (!(strcmp(filename, "default"))) {
          if (fOutputEventHandler) filename = fOutputEventHandler->GetOutputFileName();
-      }
-      
-      if (!filename || !strlen(filename)) continue;
-      TFile *file = (TFile*)gROOT->GetListOfFiles()->FindObject(filename);
-      if (!file || file->IsZombie()) continue;
-      file->Close();
+         TFile *aodfile = (TFile*)gROOT->GetListOfFiles()->FindObject(filename);
+         if (aodfile) {
+            if (fDebug > 1) printf("Writing output handler file: %s\n", filename);
+            aodfile->Write();
+            continue;
+         }   
+      }      
+      if (!strlen(filename)) continue;
+      if (!output->GetData()) continue;
+      TFile *file = output->GetFile();
+      TDirectory *opwd = gDirectory;
+      file = (TFile*)gROOT->GetListOfFiles()->FindObject(filename);
+      if (!file) file = new TFile(filename, "RECREATE");
+      if (file->IsZombie()) continue;
+      output->SetFile(file);
+      file->cd();
+      if (fDebug > 1) printf("   writing output data %s to file %s\n", output->GetData()->GetName(), file->GetName());
+      if (output->GetData()->InheritsFrom(TCollection::Class())) {
+      // If data is a collection, we set the name of the collection 
+      // as the one of the container and we save as a single key.
+         TCollection *coll = (TCollection*)output->GetData();
+         coll->SetName(output->GetName());
+         coll->Write(output->GetName(), TObject::kSingleKey);
+      } else {
+         if (output->GetData()->InheritsFrom(TTree::Class())) {
+            TTree *tree = (TTree*)output->GetData();
+            tree->SetDirectory(file);
+            tree->AutoSave();
+         } else {
+            output->GetData()->Write();
+         }   
+      }      
+      if (opwd) opwd->cd();
    }   
+   next1.Reset();
+   while ((output=(AliAnalysisDataContainer*)next1())) {
+      // Close all files at output
+      TDirectory *opwd = gDirectory;
+      if (output->GetFile()) output->GetFile()->Close();
+      if (opwd) opwd->cd();
+   }   
+
+   if (fInputEventHandler)   fInputEventHandler  ->TerminateIO();
+   if (fOutputEventHandler)  fOutputEventHandler ->TerminateIO();
+   if (fMCtruthEventHandler) fMCtruthEventHandler->TerminateIO();
 
    Bool_t getsysInfo = ((fNSysInfo>0) && (fMode==kLocalAnalysis))?kTRUE:kFALSE;
    if (getsysInfo) {
@@ -562,13 +779,8 @@ void AliAnalysisManager::Terminate()
          if (!gROOT->IsBatch()) {
             tree->SetAlias("event", "id0");
             tree->SetAlias("memUSED", "mi.fMemUsed");
-            tree->SetAlias("userCPU", "pI.fCpuUser");
-            TCanvas *c = new TCanvas("SysInfo","SysInfo",10,10,800,600);
-            c->Divide(2,1,0.01,0.01);
-            c->cd(1);
+            new TCanvas("SysInfo","SysInfo",10,10,800,600);
             tree->Draw("memUSED:event","","", 1234567890, 0);
-            c->cd(2);
-            tree->Draw("userCPU:event","","", 1234567890, 0);
          }   
          tree->Write();
          f.Close();
@@ -576,12 +788,17 @@ void AliAnalysisManager::Terminate()
       }
       if (cdir) cdir->cd();
    }      
+   if (fDebug > 0) printf("<-AliAnalysisManager::Terminate()\n");
 }
 
 //______________________________________________________________________________
 void AliAnalysisManager::AddTask(AliAnalysisTask *task)
 {
 // Adds a user task to the global list of tasks.
+   if (fTasks->FindObject(task)) {
+      Warning("AddTask", "Task %s: the same object already added to the analysis manager. Not adding.", task->GetName());
+      return;
+   }   
    task->SetActive(kFALSE);
    fTasks->Add(task);
 }  
@@ -630,9 +847,13 @@ Bool_t AliAnalysisManager::ConnectInput(AliAnalysisTask *task, Int_t islot,
                                         AliAnalysisDataContainer *cont)
 {
 // Connect input of an existing task to a data container.
+   if (!task) {
+      Error("ConnectInput", "Task pointer is NULL");
+      return kFALSE;
+   }   
    if (!fTasks->FindObject(task)) {
       AddTask(task);
-      Warning("ConnectInput", "Task %s not registered. Now owned by analysis manager", task->GetName());
+      Info("ConnectInput", "Task %s was not registered. Now owned by analysis manager", task->GetName());
    } 
    Bool_t connected = task->ConnectInput(islot, cont);
    return connected;
@@ -643,6 +864,10 @@ Bool_t AliAnalysisManager::ConnectOutput(AliAnalysisTask *task, Int_t islot,
                                         AliAnalysisDataContainer *cont)
 {
 // Connect output of an existing task to a data container.
+   if (!task) {
+      Error("ConnectOutput", "Task pointer is NULL");
+      return kFALSE;
+   }   
    if (!fTasks->FindObject(task)) {
       AddTask(task);
       Warning("ConnectOutput", "Task %s not registered. Now owned by analysis manager", task->GetName());
@@ -753,6 +978,14 @@ Bool_t AliAnalysisManager::InitAnalysis()
          }
       }
    }   
+   // Check if all special output containers have a file name provided
+   TIter nextout(fOutputs);
+   while ((cont=(AliAnalysisDataContainer*)nextout())) {
+      if (cont->IsSpecialOutput() && !strlen(cont->GetFileName())) {
+         Error("InitAnalysis", "Wrong container %s : a file name MUST be provided for special outputs", cont->GetName());
+         return kFALSE;
+      }
+   }      
    fInitOK = kTRUE;
    return kTRUE;
 }   
@@ -784,40 +1017,59 @@ void AliAnalysisManager::ResetAnalysis()
 //______________________________________________________________________________
 void AliAnalysisManager::StartAnalysis(const char *type, TTree *tree, Long64_t nentries, Long64_t firstentry)
 {
-// Start analysis for this manager. Analysis task can be: LOCAL, PROOF or GRID.
-// Process nentries starting from firstentry
+// Start analysis for this manager. Analysis task can be: LOCAL, PROOF, GRID or
+// MIX. Process nentries starting from firstentry
    if (!fInitOK) {
       Error("StartAnalysis","Analysis manager was not initialized !");
       return;
    }
-   if (fDebug>1) {
-      cout << "StartAnalysis: " << GetName() << endl;   
-   }   
+   if (fDebug > 0) printf("StartAnalysis %s\n",GetName());
    TString anaType = type;
    anaType.ToLower();
    fMode = kLocalAnalysis;
-   if (tree) {
-      if (anaType.Contains("proof"))     fMode = kProofAnalysis;
-      else if (anaType.Contains("grid")) fMode = kGridAnalysis;
-   }
+   Bool_t runlocalinit = kTRUE;
+   if (anaType.Contains("file")) runlocalinit = kFALSE;
+   if (anaType.Contains("proof"))     fMode = kProofAnalysis;
+   else if (anaType.Contains("grid")) fMode = kGridAnalysis;
+   else if (anaType.Contains("mix"))  fMode = kMixingAnalysis;
+
    if (fMode == kGridAnalysis) {
-      Warning("StartAnalysis", "GRID analysis mode not implemented. Running local.");
-      fMode = kLocalAnalysis;
+      if (!fGridHandler) {
+         Error("StartAnalysis", "Cannot start grid analysis without a grid handler.");
+         Info("===", "Add an AliAnalysisAlien object as plugin for this manager and configure it.");
+         return;
+      }
+      // Write analysis manager in the analysis file
+      cout << "===== RUNNING GRID ANALYSIS: " << GetName() << endl;
+      // run local task configuration
+      TIter nextTask(fTasks);
+      AliAnalysisTask *task;
+      while ((task=(AliAnalysisTask*)nextTask())) {
+         task->LocalInit();
+      }
+      fGridHandler->StartAnalysis(nentries, firstentry);
+
+      // Terminate grid analysis
+      if (fSelector && fSelector->GetStatus() == -1) return;
+      if (fGridHandler->GetRunMode() == AliAnalysisGrid::kOffline) return;
+      cout << "===== MERGING OUTPUTS REGISTERED BY YOUR ANALYSIS JOB: " << GetName() << endl;
+      if (!fGridHandler->MergeOutputs()) {
+         // Return if outputs could not be merged or if it alien handler
+         // was configured for offline mode or local testing.
+         return;
+      }
+      ImportWrappers(NULL);
+      Terminate();
+      return;
    }
    char line[256];
    SetEventLoop(kFALSE);
-   // Disable all branches if requested and set event loop mode
-   if (tree) {
-      if (TestBit(kDisableBranches)) {
-         printf("Disabling all branches...\n");
-//         tree->SetBranchStatus("*",0); // not yet working
-      }   
-      SetEventLoop(kTRUE);
-   }   
+   // Enable event loop mode if a tree was provided
+   if (tree || fMode==kMixingAnalysis) SetEventLoop(kTRUE);
 
    TChain *chain = 0;
    TString ttype = "TTree";
-   if (tree->IsA() == TChain::Class()) {
+   if (tree && tree->IsA() == TChain::Class()) {
       chain = (TChain*)tree;
       if (!chain || !chain->GetListOfFiles()->First()) {
          Error("StartAnalysis", "Cannot process null or empty chain...");
@@ -826,20 +1078,21 @@ void AliAnalysisManager::StartAnalysis(const char *type, TTree *tree, Long64_t n
       ttype = "TChain";
    }   
 
-   // Initialize locally all tasks
+   // Initialize locally all tasks (happens for all modes)
    TIter next(fTasks);
    AliAnalysisTask *task;
-   while ((task=(AliAnalysisTask*)next())) {
-      task->LocalInit();
-   }
+   if (runlocalinit) {
+      while ((task=(AliAnalysisTask*)next())) {
+         task->LocalInit();
+      }
+   }   
    
    switch (fMode) {
       case kLocalAnalysis:
          if (!tree) {
-            TIter next(fTasks);
-            AliAnalysisTask *task;
+            TIter nextT(fTasks);
             // Call CreateOutputObjects for all tasks
-            while ((task=(AliAnalysisTask*)next())) {
+            while ((task=(AliAnalysisTask*)nextT())) {
                TDirectory *curdir = gDirectory;
                task->CreateOutputObjects();
                if (curdir) curdir->cd();
@@ -850,10 +1103,8 @@ void AliAnalysisManager::StartAnalysis(const char *type, TTree *tree, Long64_t n
          } 
          // Run tree-based analysis via AliAnalysisSelector  
          cout << "===== RUNNING LOCAL ANALYSIS " << GetName() << " ON TREE " << tree->GetName() << endl;
-         sprintf(line, "AliAnalysisSelector *selector = new AliAnalysisSelector((AliAnalysisManager*)0x%lx);",(ULong_t)this);
-         gROOT->ProcessLine(line);
-         sprintf(line, "((%s*)0x%lx)->Process(selector, \"\",%lld, %lld);",ttype.Data(),(ULong_t)tree, nentries, firstentry);
-         gROOT->ProcessLine(line);
+         fSelector = new AliAnalysisSelector(this);
+         tree->Process(fSelector, "", nentries, firstentry);
          break;
       case kProofAnalysis:
          if (!gROOT->GetListOfProofs() || !gROOT->GetListOfProofs()->GetEntries()) {
@@ -873,6 +1124,24 @@ void AliAnalysisManager::StartAnalysis(const char *type, TTree *tree, Long64_t n
          break;
       case kGridAnalysis:
          Warning("StartAnalysis", "GRID analysis mode not implemented. Running local.");
+         break;
+      case kMixingAnalysis:   
+         // Run event mixing analysis
+         if (!fEventPool) {
+            Error("StartAnalysis", "Cannot run event mixing without event pool");
+            return;
+         }
+         cout << "===== RUNNING EVENT MIXING ANALYSIS " << GetName() << endl;
+         fSelector = new AliAnalysisSelector(this);
+         while ((chain=fEventPool->GetNextChain())) {
+            next.Reset();
+            // Call NotifyBinChange for all tasks
+            while ((task=(AliAnalysisTask*)next()))
+               if (!task->IsPostEventLoop()) task->NotifyBinChange();
+            chain->Process(fSelector);
+         }
+         PackOutput(fSelector->GetOutputList());
+         Terminate();
    }   
 }   
 
@@ -885,13 +1154,11 @@ void AliAnalysisManager::StartAnalysis(const char *type, const char *dataset, Lo
       Error("StartAnalysis","Analysis manager was not initialized !");
       return;
    }
-   if (fDebug>1) {
-      cout << "StartAnalysis: " << GetName() << endl;   
-   }   
+   if (fDebug > 0) printf("StartAnalysis %s\n",GetName());
    TString anaType = type;
    anaType.ToLower();
    if (!anaType.Contains("proof")) {
-      Error("Cannot process datasets in %s mode. Try PROOF.", type);
+      Error("StartAnalysis", "Cannot process datasets in %s mode. Try PROOF.", type);
       return;
    }   
    fMode = kProofAnalysis;
@@ -925,6 +1192,30 @@ void AliAnalysisManager::StartAnalysis(const char *type, const char *dataset, Lo
    gROOT->ProcessLine(line);
 }   
 
+//______________________________________________________________________________
+TFile *AliAnalysisManager::OpenProofFile(const char *filename, const char *option)
+{
+// Opens a special output file used in PROOF.
+   char line[256];
+   if (fMode!=kProofAnalysis || !fSelector) {
+      Error("OpenProofFile","Cannot open PROOF file %s",filename);
+      return NULL;
+   }   
+   sprintf(line, "TProofOutputFile *pf = new TProofOutputFile(\"%s\");", filename);
+   if (fDebug > 1) printf("=== %s\n", line);
+   gROOT->ProcessLine(line);
+   sprintf(line, "pf->OpenFile(\"%s\");", option);
+   gROOT->ProcessLine(line);
+   if (fDebug > 1) {
+      gROOT->ProcessLine("pf->Print()");
+      printf(" == proof file name: %s\n", gFile->GetName());
+   }   
+   sprintf(line, "((TList*)0x%lx)->Add(pf);",(ULong_t)fSelector->GetOutputList());
+   if (fDebug > 1) printf("=== %s\n", line);
+   gROOT->ProcessLine(line);
+   return gFile;
+}   
+
 //______________________________________________________________________________
 void AliAnalysisManager::ExecAnalysis(Option_t *option)
 {
@@ -1003,3 +1294,19 @@ void AliAnalysisManager::FinishAnalysis()
 {
 // Finish analysis.
 }
+
+//______________________________________________________________________________
+void AliAnalysisManager::SetInputEventHandler(AliVEventHandler*  handler)
+{
+// Set the input event handler and create a container for it.
+   fInputEventHandler   = handler;
+   fCommonInput = CreateContainer("cinput", TChain::Class(), AliAnalysisManager::kInputContainer);
+}
+
+//______________________________________________________________________________
+void AliAnalysisManager::SetOutputEventHandler(AliVEventHandler*  handler)
+{
+// Set the input event handler and create a container for it.
+   fOutputEventHandler   = handler;
+   fCommonOutput = CreateContainer("coutput", TTree::Class(), AliAnalysisManager::kOutputContainer, "default");
+}