]> git.uio.no Git - u/mrichter/AliRoot.git/blobdiff - ANALYSIS/AliAnalysisManager.cxx
Added possibility to save canvases created by Terminate as pictures.
[u/mrichter/AliRoot.git] / ANALYSIS / AliAnalysisManager.cxx
index 9be896cff3668e8e9db19878c52a0a40e41584b6..d34a434a130c74b5cc991f06c066ff6398c83f52 100644 (file)
@@ -27,6 +27,7 @@
 
 #include <Riostream.h>
 
+#include <TError.h>
 #include <TClass.h>
 #include <TFile.h>
 #include <TKey.h>
@@ -35,6 +36,7 @@
 #include <TSystem.h>
 #include <TROOT.h>
 #include <TCanvas.h>
+#include <TStopwatch.h>
 
 #include "AliAnalysisSelector.h"
 #include "AliAnalysisGrid.h"
@@ -49,6 +51,7 @@
 ClassImp(AliAnalysisManager)
 
 AliAnalysisManager *AliAnalysisManager::fgAnalysisManager = NULL;
+TString AliAnalysisManager::fgCommonFileName = "";
 
 //______________________________________________________________________________
 AliAnalysisManager::AliAnalysisManager(const char *name, const char *title)
@@ -70,11 +73,15 @@ AliAnalysisManager::AliAnalysisManager(const char *name, const char *title)
                     fContainers(NULL),
                     fInputs(NULL),
                     fOutputs(NULL),
+                    fCommonInput(NULL),
+                    fCommonOutput(NULL),
                     fSelector(NULL),
-                    fGridHandler(NULL)
+                    fGridHandler(NULL),
+                    fExtraFiles("")
 {
 // Default constructor.
    fgAnalysisManager = this;
+   fgCommonFileName  = "AnalysisResults.root";
    fTasks      = new TObjArray();
    fTopTasks   = new TObjArray();
    fZombies    = new TObjArray();
@@ -91,7 +98,7 @@ AliAnalysisManager::AliAnalysisManager(const AliAnalysisManager& other)
                     fInputEventHandler(NULL),
                     fOutputEventHandler(NULL),
                     fMCtruthEventHandler(NULL),
-                   fEventPool(NULL),
+                    fEventPool(NULL),
                     fCurrentEntry(-1),
                     fNSysInfo(0),
                     fMode(other.fMode),
@@ -104,8 +111,11 @@ AliAnalysisManager::AliAnalysisManager(const AliAnalysisManager& other)
                     fContainers(NULL),
                     fInputs(NULL),
                     fOutputs(NULL),
+                    fCommonInput(NULL),
+                    fCommonOutput(NULL),
                     fSelector(NULL),
-                    fGridHandler(NULL)
+                    fGridHandler(NULL),
+                    fExtraFiles()
 {
 // Copy constructor.
    fTasks      = new TObjArray(*other.fTasks);
@@ -114,6 +124,7 @@ AliAnalysisManager::AliAnalysisManager(const AliAnalysisManager& other)
    fContainers = new TObjArray(*other.fContainers);
    fInputs     = new TObjArray(*other.fInputs);
    fOutputs    = new TObjArray(*other.fOutputs);
+   fgCommonFileName  = "AnalysisResults.root";
    fgAnalysisManager = this;
 }
    
@@ -139,8 +150,12 @@ AliAnalysisManager& AliAnalysisManager::operator=(const AliAnalysisManager& othe
       fContainers = new TObjArray(*other.fContainers);
       fInputs     = new TObjArray(*other.fInputs);
       fOutputs    = new TObjArray(*other.fOutputs);
+      fCommonInput = NULL;
+      fCommonOutput = NULL;
       fSelector   = NULL;
       fGridHandler = NULL;
+      fExtraFiles = other.fExtraFiles;
+      fgCommonFileName = "AnalysisResults.root";
       fgAnalysisManager = this;
    }
    return *this;
@@ -232,7 +247,8 @@ Bool_t AliAnalysisManager::Init(TTree *tree)
    if (!fInitOK) InitAnalysis();
    if (!fInitOK) return kFALSE;
    fTree = tree;
-   AliAnalysisDataContainer *top = (AliAnalysisDataContainer*)fInputs->At(0);
+   AliAnalysisDataContainer *top = fCommonInput;
+   if (!top) top = (AliAnalysisDataContainer*)fInputs->At(0);
    if (!top) {
       Error("Init","No top input container !");
       return kFALSE;
@@ -261,24 +277,13 @@ void AliAnalysisManager::SlaveBegin(TTree *tree)
    // Call Init of EventHandler
    if (fOutputEventHandler) {
       if (fMode == kProofAnalysis) {
-         TIter nextout(fOutputs);
-         AliAnalysisDataContainer *c_aod;
-         while ((c_aod=(AliAnalysisDataContainer*)nextout())) if (!strcmp(c_aod->GetFileName(),"default")) break;
-         if (c_aod && c_aod->IsSpecialOutput()) {
-            // Merging via files
-            if (fDebug > 1) printf("   Initializing special output file %s...\n", fOutputEventHandler->GetOutputFileName());
-            OpenProofFile(fOutputEventHandler->GetOutputFileName(), "RECREATE");
-            c_aod->SetFile(gFile);
-            init = fOutputEventHandler->Init("proofspecial");
-            if (!init) msg = "Failed to initialize output handler on worker using special proof output";
-         } else {
-            // Merging in memory
-            init = fOutputEventHandler->Init("proof");
-            if (!init) msg = "Failed to initialize output handler on worker";
-         }   
+         // Merging AOD's in PROOF via TProofOutputFile
+         if (fDebug > 1) printf("   Initializing AOD output file %s...\n", fOutputEventHandler->GetOutputFileName());
+         init = fOutputEventHandler->Init("proof");
+         if (!init) msg = "Failed to initialize output handler on worker";
       } else {
          init = fOutputEventHandler->Init("local");
-         if (!init) msg = "Failed to initialize output handler on worker";
+         if (!init) msg = "Failed to initialize output handler";
       }
       initOK &= init;
       if (!fSelector) Error("SlaveBegin", "Selector not set");
@@ -433,28 +438,21 @@ void AliAnalysisManager::PackOutput(TList *target)
          const char *filename = output->GetFileName();
          if (!(strcmp(filename, "default")) && fOutputEventHandler) {
             isManagedByHandler = kTRUE;
+            printf("#### Handler output. Extra: %s\n", fExtraFiles.Data());
             filename = fOutputEventHandler->GetOutputFileName();
          }
          // Check if data was posted to this container. If not, issue an error.
          if (!output->GetData() && !isManagedByHandler) {
-            Error("PackOutput", "No data for output container %s. Forgot to PostData ?\n", output->GetName());
+            Error("PackOutput", "No data for output container %s. Forgot to PostData ?", output->GetName());
             continue;
          }   
          if (!output->IsSpecialOutput()) {
             // Normal outputs
             if (strlen(filename) && !isManagedByHandler) {
-               // File resident outputs
-               TFile *file = output->GetFile();
                // Backup current folder
                TDirectory *opwd = gDirectory;
-               // Create file if not existing and register to container.
-               if (file) file->cd();
-               else      file = new TFile(filename, "RECREATE"); 
-               if (file->IsZombie()) {
-                  Fatal("PackOutput", "Could not recreate file %s\n", filename);
-                  return;
-               }   
-               output->SetFile(file);
+               // File resident outputs
+               TFile *file = AliAnalysisManager::OpenFile(output, "RECREATE", kTRUE);
                // Clear file list to release object ownership to user.
                file->Clear();
                // Save data to file, then close.
@@ -467,7 +465,7 @@ void AliAnalysisManager::PackOutput(TList *target)
                } else {
                   if (output->GetData()->InheritsFrom(TTree::Class())) {
                      TTree *tree = (TTree*)output->GetData();
-                     tree->SetDirectory(file);
+                     // tree->SetDirectory(file);
                      tree->AutoSave();
                   } else {
                      output->GetData()->Write();
@@ -479,6 +477,7 @@ void AliAnalysisManager::PackOutput(TList *target)
                   file->ls();
                }   
                file->Close();
+               output->SetFile(NULL);
                // Restore current directory
                if (opwd) opwd->cd();
             } else {
@@ -495,10 +494,18 @@ void AliAnalysisManager::PackOutput(TList *target)
             wrap->SetDeleteData(kFALSE);
             target->Add(wrap);
          } else {
-         // Special outputs
+         // Special outputs. The file must be opened and connected to the container.
             TDirectory *opwd = gDirectory;
             TFile *file = output->GetFile();
-            if (fDebug > 1 && file) printf("PackOutput %s: file merge, special output\n", output->GetName());
+            if (!file) {
+               AliAnalysisTask *producer = output->GetProducer();
+               Fatal("PackOutput", 
+                     "File %s for special container %s was NOT opened in %s::CreateOutputObjects !!!",
+                     output->GetFileName(), output->GetName(), producer->ClassName());
+               continue;
+            }   
+            TString outFilename = file->GetName();
+            if (fDebug > 1) printf("PackOutput %s: special output\n", output->GetName());
             if (isManagedByHandler) {
                // Terminate IO for files managed by the output handler
                if (file) file->Write();
@@ -507,40 +514,32 @@ void AliAnalysisManager::PackOutput(TList *target)
                   file->ls();
                }   
                fOutputEventHandler->TerminateIO();
-               continue;
-            }   
-            
-            if (!file) {
-               AliAnalysisTask *producer = output->GetProducer();
-               Error("PackOutput", 
-                     "File %s for special container %s was NOT opened in %s::CreateOutputObjects !!!",
-                     output->GetFileName(), output->GetName(), producer->ClassName());
-               continue;
-            }   
-            file->cd();
-            // Release object ownership to users after writing data to file
-            if (output->GetData()->InheritsFrom(TCollection::Class())) {
-               // If data is a collection, we set the name of the collection 
-               // as the one of the container and we save as a single key.
-               TCollection *coll = (TCollection*)output->GetData();
-               coll->SetName(output->GetName());
-               coll->Write(output->GetName(), TObject::kSingleKey);
-            } else {
-               if (output->GetData()->InheritsFrom(TTree::Class())) {
-                  TTree *tree = (TTree*)output->GetData();
-                  tree->SetDirectory(file);
-                  tree->AutoSave();
+            } else {               
+               file->cd();
+               // Release object ownership to users after writing data to file
+               if (output->GetData()->InheritsFrom(TCollection::Class())) {
+                  // If data is a collection, we set the name of the collection 
+                  // as the one of the container and we save as a single key.
+                  TCollection *coll = (TCollection*)output->GetData();
+                  coll->SetName(output->GetName());
+                  coll->Write(output->GetName(), TObject::kSingleKey);
                } else {
-                  output->GetData()->Write();
-               }   
-            }      
-            file->Clear();
-            if (fDebug > 2) {
-               printf("   file %s listing content:\n", output->GetFileName());
-               file->ls();
+                  if (output->GetData()->InheritsFrom(TTree::Class())) {
+                     TTree *tree = (TTree*)output->GetData();
+                     tree->SetDirectory(file);
+                     tree->AutoSave();
+                  } else {
+                     output->GetData()->Write();
+                  }   
+               }      
+               file->Clear();
+               if (fDebug > 2) {
+                  printf("   file %s listing content:\n", output->GetFileName());
+                  file->ls();
+               }
+               file->Close();
+               output->SetFile(NULL);
             }
-            TString outFilename = file->GetName();
-            file->Close();
             // Restore current directory
             if (opwd) opwd->cd();
             // Check if a special output location was provided or the output files have to be merged
@@ -548,13 +547,45 @@ void AliAnalysisManager::PackOutput(TList *target)
                TString remote = fSpecialOutputLocation;
                remote += "/";
                Int_t gid = gROOT->ProcessLine("gProofServ->GetGroupId();");
-               remote += Form("%s_%d_", gSystem->HostName(), gid);
-               remote += output->GetFileName();
+               if (remote.BeginsWith("alien://")) {
+                  gROOT->ProcessLine("TGrid::Connect(\"alien://pcapiserv01.cern.ch:10000\", gProofServ->GetUser());");
+                  remote += outFilename;
+                  remote.ReplaceAll(".root", Form("_%d.root", gid));
+               } else {   
+                  remote += Form("%s_%d_", gSystem->HostName(), gid);
+                  remote += outFilename;
+               }   
+               if (fDebug > 1) 
+                  Info("PackOutput", "Output file for container %s to be copied \n   at: %s. No merging.",
+                       output->GetName(), remote.Data());
                TFile::Cp ( outFilename.Data(), remote.Data() );
+               // Copy extra outputs
+               if (fExtraFiles.Length() && isManagedByHandler) {
+                  TObjArray *arr = fExtraFiles.Tokenize(" ");
+                  TObjString *os;
+                  TIter nextfilename(arr);
+                  while ((os=(TObjString*)nextfilename())) {
+                     outFilename = os->GetString();
+                     remote = fSpecialOutputLocation;
+                     remote += "/";
+                     if (remote.BeginsWith("alien://")) {
+                        remote += outFilename;
+                        remote.ReplaceAll(".root", Form("_%d.root", gid));
+                     } else {   
+                        remote += Form("%s_%d_", gSystem->HostName(), gid);
+                        remote += outFilename;
+                     }   
+                     if (fDebug > 1) 
+                        Info("PackOutput", "Extra AOD file %s to be copied \n   at: %s. No merging.",
+                             outFilename.Data(), remote.Data());
+                     TFile::Cp ( outFilename.Data(), remote.Data() );
+                  }   
+                  delete arr;
+               }   
             } else {
             // No special location specified-> use TProofOutputFile as merging utility
             // The file at this output slot must be opened in CreateOutputObjects
-               if (fDebug > 1) printf("   File %s to be merged...\n", output->GetFileName());
+               if (fDebug > 1) printf("   File for container %s to be merged via file merger...\n", output->GetName());
             }
          }      
       }
@@ -572,6 +603,7 @@ void AliAnalysisManager::ImportWrappers(TList *source)
    AliAnalysisDataWrapper   *wrap;
    Int_t icont = 0;
    Bool_t inGrid = (fMode == kGridAnalysis)?kTRUE:kFALSE;
+   TDirectory *cdir = gDirectory;
    while ((cont=(AliAnalysisDataContainer*)next())) {
       wrap = 0;
       if (cont->GetProducer()->IsPostEventLoop() && !inGrid) continue;
@@ -582,60 +614,38 @@ void AliAnalysisManager::ImportWrappers(TList *source)
          filename = fOutputEventHandler->GetOutputFileName();
       }
       if (cont->IsSpecialOutput() || inGrid) {
-         if (strlen(fSpecialOutputLocation.Data()) && !isManagedByHandler) continue;
+         if (strlen(fSpecialOutputLocation.Data())) continue;
          // Copy merged file from PROOF scratch space. 
          // In case of grid the files are already in the current directory.
          if (!inGrid) {
-            char full_path[512];
-            char ch_url[512];
-            TObject *pof =  source->FindObject(filename);
-            if (!pof || !pof->InheritsFrom("TProofOutputFile")) {
-               Error("ImportWrappers", "TProofOutputFile object not found in output list for container %s", cont->GetName());
-               continue;
-            }
-            gROOT->ProcessLine(Form("sprintf((char*)0x%lx, \"%%s\", ((TProofOutputFile*)0x%lx)->GetOutputFileName();)", full_path, pof));
-            gROOT->ProcessLine(Form("sprintf((char*)0x%lx, \"%%s\", gProof->GetUrl();)", ch_url));
-            TString clientUrl(ch_url);
-            TString full_path_str(full_path);
-            if (clientUrl.Contains("localhost")){
-               TObjArray* array = full_path_str.Tokenize ( "//" );
-               TObjString *strobj = ( TObjString *)array->At(1);
-               TObjArray* arrayPort = strobj->GetString().Tokenize ( ":" );
-               TObjString *strobjPort = ( TObjString *) arrayPort->At(1);
-               full_path_str.ReplaceAll(strobj->GetString().Data(),"localhost:PORT");
-               full_path_str.ReplaceAll(":PORT",Form(":%s",strobjPort->GetString().Data()));
-               if (fDebug > 1) Info("ImportWrappers","Using tunnel from %s to %s",full_path_str.Data(),filename);
-            }
-            if (fDebug > 1) 
-               printf("   Copying file %s from PROOF scratch space\n", full_path_str.Data());
-            Bool_t gotit = TFile::Cp(full_path_str.Data(), filename); 
-            if (!gotit) {
-               Error("ImportWrappers", "Could not get file %s from proof scratch space", cont->GetFileName());
-               continue;
+            if (isManagedByHandler && fExtraFiles.Length()) {
+               // Copy extra registered dAOD files.
+               TObjArray *arr = fExtraFiles.Tokenize(" ");
+               TObjString *os;
+               TIter nextfilename(arr);
+               while ((os=(TObjString*)nextfilename())) GetFileFromWrapper(os->GetString(), source);
+               delete arr;
             }
+            if (!GetFileFromWrapper(filename, source)) continue;
          }   
          // Normally we should connect data from the copied file to the
          // corresponding output container, but it is not obvious how to do this
          // automatically if several objects in file...
-         TFile *f = TFile::Open(filename, "READ");
+         TFile *f = (TFile*)gROOT->GetListOfFiles()->FindObject(filename);
+         if (!f) f = TFile::Open(filename, "READ");
          if (!f) {
             Error("ImportWrappers", "Cannot open file %s in read-only mode", filename);
             continue;
          }   
          TObject *obj = 0;
-         // Try to fetch first a list object having the container name.
-         obj = f->Get(cont->GetName());
-         if (!obj) {
-         // Fetch first object from file having the container type.
-            TIter nextkey(f->GetListOfKeys());
-            TKey *key;
-            while ((key=(TKey*)nextkey())) {
-               obj = f->Get(key->GetName());
-               if (obj && obj->IsA()->InheritsFrom(cont->GetType())) break;
-            }                     
-         }
+         // Cd to the directory pointed by the container
+         TString folder = cont->GetFolderName();
+         if (!folder.IsNull()) f->cd(folder);
+         // Try to fetch first an object having the container name.
+         obj = gDirectory->Get(cont->GetName());
          if (!obj) {
-            Error("ImportWrappers", "Could not find object for container %s in file %s", cont->GetName(), filename);
+            Warning("ImportWrappers", "Could not import object for container %s in file %s:%s.\n Object will not be available in Terminate()", 
+                    cont->GetName(), filename, cont->GetFolderName());
             continue;
          }  
          wrap = new AliAnalysisDataWrapper(obj);
@@ -648,12 +658,13 @@ void AliAnalysisManager::ImportWrappers(TList *source)
       }
       icont++;
       if (fDebug > 1) {
-         printf("   Importing data for container %s", cont->GetName());
+         printf("   Importing data for container %s\n", cont->GetName());
          if (strlen(filename)) printf("    -> file %s\n", filename);
          else printf("\n");
       }   
       cont->ImportData(wrap);
-   }         
+   }
+   if (cdir) cdir->cd();
    if (fDebug > 0) printf("<-AliAnalysisManager::ImportWrappers(): %d containers imported\n", icont);
 }
 
@@ -702,12 +713,33 @@ void AliAnalysisManager::Terminate()
   // the results graphically.
    if (fDebug > 0) printf("->AliAnalysisManager::Terminate()\n");
    AliAnalysisTask *task;
+   AliAnalysisDataContainer *output;
    TIter next(fTasks);
+   TStopwatch timer;
    // Call Terminate() for tasks
-   while ((task=(AliAnalysisTask*)next())) task->Terminate();
+   while ((task=(AliAnalysisTask*)next())) {
+      // Save all the canvases produced by the Terminate
+      TString pictname = Form("%s_%s", task->GetName(), task->ClassName());
+      Int_t istart = gROOT->GetListOfCanvases()->GetEntries()-1;
+      task->Terminate();
+      if (TObject::TestBit(kSaveCanvases)) {
+         timer.Start();
+         while (timer.CpuTime()<5) {
+            timer.Continue();
+            gSystem->ProcessEvents();
+         }   
+         Int_t iend = gROOT->GetListOfCanvases()->GetEntries()-1;
+         if (istart == iend) continue;
+         TCanvas *canvas;
+         for (Int_t ipict=0; ipict<iend-istart; ipict++) {
+            canvas = (TCanvas*)gROOT->GetListOfCanvases()->At(istart+ipict);
+            if (!canvas) continue;         
+            canvas->SaveAs(Form("%s_%02d.gif", pictname.Data(),ipict));
+         }   
+      }
+   }   
    //
    TIter next1(fOutputs);
-   AliAnalysisDataContainer *output;
    while ((output=(AliAnalysisDataContainer*)next1())) {
       // Special outputs or grid files have the files already closed and written.
       if (fMode == kGridAnalysis) continue;
@@ -724,14 +756,23 @@ void AliAnalysisManager::Terminate()
       }      
       if (!strlen(filename)) continue;
       if (!output->GetData()) continue;
-      TFile *file = output->GetFile();
       TDirectory *opwd = gDirectory;
-      file = (TFile*)gROOT->GetListOfFiles()->FindObject(filename);
+      TFile *file = output->GetFile();
+      if (!file) file = (TFile*)gROOT->GetListOfFiles()->FindObject(filename);
       if (!file) file = new TFile(filename, "RECREATE");
-      if (file->IsZombie()) continue;
+      if (file->IsZombie()) {
+         Error("Terminate", "Cannot open output file %s", filename);
+         continue;
+      }   
       output->SetFile(file);
       file->cd();
-      if (fDebug > 1) printf("   writing output data %s to file %s\n", output->GetData()->GetName(), file->GetName());
+      // Check for a folder request
+      TString dir = output->GetFolderName();
+      if (!dir.IsNull()) {
+         if (!file->GetDirectory(dir)) file->mkdir(dir);
+         file->cd(dir);
+      }  
+      if (fDebug > 1) printf("   writing output data %s to file %s:%s\n", output->GetData()->GetName(), file->GetName(), output->GetFolderName());
       if (output->GetData()->InheritsFrom(TCollection::Class())) {
       // If data is a collection, we set the name of the collection 
       // as the one of the container and we save as a single key.
@@ -753,7 +794,17 @@ void AliAnalysisManager::Terminate()
    while ((output=(AliAnalysisDataContainer*)next1())) {
       // Close all files at output
       TDirectory *opwd = gDirectory;
-      if (output->GetFile()) output->GetFile()->Close();
+      if (output->GetFile()) {
+         output->GetFile()->Close();
+         output->SetFile(NULL);
+         // Copy merged outputs in alien if requested
+         if (fSpecialOutputLocation.Length() && 
+             fSpecialOutputLocation.BeginsWith("alien://")) {
+            Info("Terminate", "Copy file %s to %s", output->GetFile()->GetName(),fSpecialOutputLocation.Data()); 
+            TFile::Cp(output->GetFile()->GetName(), 
+                      Form("%s/%s", fSpecialOutputLocation.Data(), output->GetFile()->GetName()));
+         }             
+      }   
       if (opwd) opwd->cd();
    }   
 
@@ -772,20 +823,21 @@ void AliAnalysisManager::Terminate()
          tree->SetMarkerSize(0.5);
          if (!gROOT->IsBatch()) {
             tree->SetAlias("event", "id0");
-            tree->SetAlias("memUSED", "pI.fMemVirtual");
-            tree->SetAlias("userCPU", "pI.fCpuUser");
-            TCanvas *c = new TCanvas("SysInfo","SysInfo",10,10,800,600);
-            c->Divide(2,1,0.01,0.01);
-            c->cd(1);
+            tree->SetAlias("memUSED", "mi.fMemUsed");
+            new TCanvas("SysInfo","SysInfo",10,10,800,600);
             tree->Draw("memUSED:event","","", 1234567890, 0);
-            c->cd(2);
-            tree->Draw("userCPU:event","","", 1234567890, 0);
          }   
          tree->Write();
          f.Close();
          delete tree;
       }
       if (cdir) cdir->cd();
+   }
+   // Validate the output files
+   if (ValidateOutputFiles()) {
+      ofstream out;
+      out.open("outputs_valid", ios::out);
+      out.close();
    }      
    if (fDebug > 0) printf("<-AliAnalysisManager::Terminate()\n");
 }
@@ -815,11 +867,13 @@ AliAnalysisDataContainer *AliAnalysisManager::CreateContainer(const char *name,
                                 TClass *datatype, EAliAnalysisContType type, const char *filename)
 {
 // Create a data container of a certain type. Types can be:
-//   kExchangeContainer  = 0, used to exchange date between tasks
+//   kExchangeContainer  = 0, used to exchange data between tasks
 //   kInputContainer   = 1, used to store input data
-//   kOutputContainer  = 2, used for posting results
+//   kOutputContainer  = 2, used for writing result to a file
+// filename: composed by file#folder (e.g. results.root#INCLUSIVE) - will write
+// the output object to a folder inside the output file
    if (fContainers->FindObject(name)) {
-      Error("CreateContainer","A container named %s already defined !\n",name);
+      Error("CreateContainer","A container named %s already defined !",name);
       return NULL;
    }   
    AliAnalysisDataContainer *cont = new AliAnalysisDataContainer(name, datatype);
@@ -846,6 +900,10 @@ Bool_t AliAnalysisManager::ConnectInput(AliAnalysisTask *task, Int_t islot,
                                         AliAnalysisDataContainer *cont)
 {
 // Connect input of an existing task to a data container.
+   if (!task) {
+      Error("ConnectInput", "Task pointer is NULL");
+      return kFALSE;
+   }   
    if (!fTasks->FindObject(task)) {
       AddTask(task);
       Info("ConnectInput", "Task %s was not registered. Now owned by analysis manager", task->GetName());
@@ -859,6 +917,10 @@ Bool_t AliAnalysisManager::ConnectOutput(AliAnalysisTask *task, Int_t islot,
                                         AliAnalysisDataContainer *cont)
 {
 // Connect output of an existing task to a data container.
+   if (!task) {
+      Error("ConnectOutput", "Task pointer is NULL");
+      return kFALSE;
+   }   
    if (!fTasks->FindObject(task)) {
       AddTask(task);
       Warning("ConnectOutput", "Task %s not registered. Now owned by analysis manager", task->GetName());
@@ -885,8 +947,10 @@ Bool_t AliAnalysisManager::InitAnalysis()
 {
 // Initialization of analysis chain of tasks. Should be called after all tasks
 // and data containers are properly connected
-   // Check for input/output containers
+   // Reset flag and remove valid_outputs file if exists
    fInitOK = kFALSE;
+   if (!gSystem->AccessPathName("outputs_valid"))
+      gSystem->Unlink("outputs_valid");
    // Check for top tasks (depending only on input data containers)
    if (!fTasks->First()) {
       Error("InitAnalysis", "Analysis has no tasks !");
@@ -1038,7 +1102,10 @@ void AliAnalysisManager::StartAnalysis(const char *type, TTree *tree, Long64_t n
       while ((task=(AliAnalysisTask*)nextTask())) {
          task->LocalInit();
       }
-      fGridHandler->StartAnalysis(nentries, firstentry);
+      if (!fGridHandler->StartAnalysis(nentries, firstentry)) {
+         Info("StartAnalysis", "Grid analysis was stopped and cannot be terminated");
+         return;
+      }   
 
       // Terminate grid analysis
       if (fSelector && fSelector->GetStatus() == -1) return;
@@ -1099,7 +1166,7 @@ void AliAnalysisManager::StartAnalysis(const char *type, TTree *tree, Long64_t n
          break;
       case kProofAnalysis:
          if (!gROOT->GetListOfProofs() || !gROOT->GetListOfProofs()->GetEntries()) {
-            printf("StartAnalysis: no PROOF!!!\n");
+            Error("StartAnalysis", "No PROOF!!! Aborting.");
             return;
          }   
          sprintf(line, "gProof->AddInput((TObject*)0x%lx);", (ULong_t)this);
@@ -1109,7 +1176,7 @@ void AliAnalysisManager::StartAnalysis(const char *type, TTree *tree, Long64_t n
             cout << "===== RUNNING PROOF ANALYSIS " << GetName() << " ON CHAIN " << chain->GetName() << endl;
             chain->Process("AliAnalysisSelector", "", nentries, firstentry);
          } else {
-            printf("StartAnalysis: no chain\n");
+            Error("StartAnalysis", "No chain!!! Aborting.");
             return;
          }      
          break;
@@ -1167,7 +1234,7 @@ void AliAnalysisManager::StartAnalysis(const char *type, const char *dataset, Lo
    }
    
    if (!gROOT->GetListOfProofs() || !gROOT->GetListOfProofs()->GetEntries()) {
-      printf("StartAnalysis: no PROOF!!!\n");
+      Error("StartAnalysis", "No PROOF!!! Aborting.");
       return;
    }   
    sprintf(line, "gProof->AddInput((TObject*)0x%lx);", (ULong_t)this);
@@ -1184,27 +1251,138 @@ void AliAnalysisManager::StartAnalysis(const char *type, const char *dataset, Lo
 }   
 
 //______________________________________________________________________________
-TFile *AliAnalysisManager::OpenProofFile(const char *filename, const char *option)
+TFile *AliAnalysisManager::OpenFile(AliAnalysisDataContainer *cont, const char *option, Bool_t ignoreProof)
+{
+// Opens according the option the file specified by cont->GetFileName() and changes
+// current directory to cont->GetFolderName(). If the file was already opened, it
+// checks if the option UPDATE was preserved. File open via TProofOutputFile can
+// be optionally ignored.
+  AliAnalysisManager *mgr = AliAnalysisManager::GetAnalysisManager();
+  TString filename = cont->GetFileName();
+  TFile *f = NULL;
+  if (filename.IsNull()) {
+    ::Error("AliAnalysisManager::OpenFile", "No file name specified for container %s", cont->GetName());
+    return NULL;
+  }
+  if (mgr->GetAnalysisType()==AliAnalysisManager::kProofAnalysis && cont->IsSpecialOutput()
+      && !ignoreProof)
+    f = mgr->OpenProofFile(cont,option);
+  else {
+    // Check first if the file is already opened
+    f = (TFile*)gROOT->GetListOfFiles()->FindObject(filename);
+    if (f) {
+      // Check if option "UPDATE" was preserved 
+      TString opt(option);
+      opt.ToUpper();
+      if ((opt=="UPDATE") && (opt!=f->GetOption())) 
+        ::Fatal("AliAnalysisManager::OpenFile", "File %s already opened, but not in UPDATE mode!", cont->GetFileName());
+    } else {
+      f = TFile::Open(filename, option);
+    }    
+  }   
+  if (f && !f->IsZombie() && !f->TestBit(TFile::kRecovered)) {
+    cont->SetFile(f);
+    // Cd to file
+    f->cd();
+    // Check for a folder request
+    TString dir = cont->GetFolderName(); 
+    if (!dir.IsNull()) {
+      if (!f->GetDirectory(dir)) f->mkdir(dir);
+      f->cd(dir);
+    }
+    return f;
+  }
+  ::Fatal("AliAnalysisManager::OpenFile", "File %s could not be opened", filename.Data());
+  cont->SetFile(NULL);
+  return NULL;
+}    
+//______________________________________________________________________________
+TFile *AliAnalysisManager::OpenProofFile(AliAnalysisDataContainer *cont, const char *option)
 {
 // Opens a special output file used in PROOF.
-   char line[256];
-   if (fMode!=kProofAnalysis || !fSelector) {
-      Error("OpenProofFile","Cannot open PROOF file %s",filename);
-      return NULL;
-   }   
-   sprintf(line, "TProofOutputFile *pf = new TProofOutputFile(\"%s\");", filename);
-   if (fDebug > 1) printf("=== %s\n", line);
-   gROOT->ProcessLine(line);
-   sprintf(line, "pf->OpenFile(\"%s\");", option);
-   gROOT->ProcessLine(line);
-   if (fDebug > 1) {
+  TString line;
+  TString filename = cont->GetFileName();
+  if (cont == fCommonOutput) {
+     if (fOutputEventHandler) filename = fOutputEventHandler->GetOutputFileName();
+     else Fatal("OpenProofFile","No output container. Aborting.");
+  }   
+  TFile *f = NULL;
+  if (fMode!=kProofAnalysis || !fSelector) {
+    Fatal("OpenProofFile","Cannot open PROOF file %s: no PROOF or selector",filename.Data());
+    return NULL;
+  } 
+  if (fSpecialOutputLocation.Length()) {
+    f = (TFile*)gROOT->GetListOfFiles()->FindObject(filename);
+    if (f) {
+      // Check if option "UPDATE" was preserved 
+      TString opt(option);
+      opt.ToUpper();
+      if ((opt=="UPDATE") && (opt!=f->GetOption()))
+        Fatal("OpenProofFile", "File %s already opened, but not in UPDATE mode!", cont->GetFileName());
+    } else {
+      f = new TFile(filename, option);
+    }
+    if (f && !f->IsZombie() && !f->TestBit(TFile::kRecovered)) {
+      cont->SetFile(f);
+      // Cd to file
+      f->cd();
+      // Check for a folder request
+      TString dir = cont->GetFolderName(); 
+      if (dir.Length()) {
+        if (!f->GetDirectory(dir)) f->mkdir(dir);
+        f->cd(dir);
+      }      
+      return f;
+    }
+    Fatal("OpenProofFile", "File %s could not be opened", cont->GetFileName());
+    cont->SetFile(NULL);
+    return NULL;       
+  }
+  // Check if there is already a proof output file in the output list
+  TObject *pof = fSelector->GetOutputList()->FindObject(filename);
+  if (pof) {
+    // Get the actual file
+    line = Form("((TProofOutputFile*)0x%lx)->GetFileName();", (ULong_t)pof);
+    filename = (const char*)gROOT->ProcessLine(line);
+    f = (TFile*)gROOT->GetListOfFiles()->FindObject(filename);
+    if (!f) Fatal("OpenProofFile", "Proof output file found but no file opened for %s", filename.Data());
+    // Check if option "UPDATE" was preserved 
+    TString opt(option);
+    opt.ToUpper();
+    if ((opt=="UPDATE") && (opt!=f->GetOption())) 
+      Fatal("OpenProofFile", "File %s already opened, but not in UPDATE mode!", cont->GetFileName());
+  } else {
+    line = Form("TProofOutputFile *pf = new TProofOutputFile(\"%s\");", filename.Data());
+    if (fDebug > 1) printf("=== %s\n", line.Data());
+    gROOT->ProcessLine(line);
+    line = Form("pf->OpenFile(\"%s\");", option);
+    gROOT->ProcessLine(line);
+    f = gFile;
+    if (fDebug > 1) {
       gROOT->ProcessLine("pf->Print()");
-      printf(" == proof file name: %s\n", gFile->GetName());
-   }   
-   sprintf(line, "((TList*)0x%lx)->Add(pf);",(ULong_t)fSelector->GetOutputList());
-   if (fDebug > 1) printf("=== %s\n", line);
-   gROOT->ProcessLine(line);
-   return gFile;
+      printf(" == proof file name: %s", f->GetName());
+    }   
+    // Add to proof output list
+    line = Form("((TList*)0x%lx)->Add(pf);",(ULong_t)fSelector->GetOutputList());
+    if (fDebug > 1) printf("=== %s", line.Data());
+    gROOT->ProcessLine(line);
+  }
+  if (f && !f->IsZombie() && !f->TestBit(TFile::kRecovered)) {
+    cont->SetFile(f);
+    // Cd to file
+    f->cd();
+    // Check for a folder request
+    TString dir = cont->GetFolderName(); 
+    if (!dir.IsNull()) {
+      if (!f->GetDirectory(dir)) f->mkdir(dir);
+      f->cd(dir);
+    }
+    return f;
+  }
+  Fatal("OpenProofFile", "File %s could not be opened", cont->GetFileName());
+  cont->SetFile(NULL);  
+  return NULL;
 }   
 
 //______________________________________________________________________________
@@ -1225,7 +1403,8 @@ void AliAnalysisManager::ExecAnalysis(Option_t *option)
       TIter next(fTasks);
    // De-activate all tasks
       while ((task=(AliAnalysisTask*)next())) task->SetActive(kFALSE);
-      AliAnalysisDataContainer *cont = (AliAnalysisDataContainer*)fInputs->At(0);
+      AliAnalysisDataContainer *cont = fCommonInput;
+      if (!cont) cont = (AliAnalysisDataContainer*)fInputs->At(0);
       if (!cont) {
              Error("ExecAnalysis","Cannot execute analysis in TSelector mode without at least one top container");
          return;
@@ -1285,3 +1464,121 @@ void AliAnalysisManager::FinishAnalysis()
 {
 // Finish analysis.
 }
+
+//______________________________________________________________________________
+void AliAnalysisManager::SetInputEventHandler(AliVEventHandler*  handler)
+{
+// Set the input event handler and create a container for it.
+   fInputEventHandler   = handler;
+   fCommonInput = CreateContainer("cAUTO_INPUT", TChain::Class(), AliAnalysisManager::kInputContainer);
+   Warning("SetInputEventHandler", " An automatic input container for the input chain was created.\nPlease use: mgr->GetCommonInputContainer() to access it.");
+}
+
+//______________________________________________________________________________
+void AliAnalysisManager::SetOutputEventHandler(AliVEventHandler*  handler)
+{
+// Set the input event handler and create a container for it.
+   fOutputEventHandler   = handler;
+   fCommonOutput = CreateContainer("cAUTO_OUTPUT", TTree::Class(), AliAnalysisManager::kOutputContainer, "default");
+   fCommonOutput->SetSpecialOutput();
+   Warning("SetOutputEventHandler", " An automatic output container for the output tree was created.\nPlease use: mgr->GetCommonOutputContainer() to access it.");
+}
+
+//______________________________________________________________________________
+void AliAnalysisManager::RegisterExtraFile(const char *fname)
+{
+// This method is used externally to register output files which are not
+// connected to any output container, so that the manager can properly register,
+// retrieve or merge them when running in distributed mode. The file names are
+// separated by blancs. The method has to be called in MyAnalysisTask::LocalInit().
+   if (fExtraFiles.Length()) fExtraFiles += " ";
+   fExtraFiles += fname;
+}
+
+//______________________________________________________________________________
+Bool_t AliAnalysisManager::GetFileFromWrapper(const char *filename, TList *source)
+{
+// Copy a file from the location specified ina the wrapper with the same name from the source list.
+   char full_path[512];
+   char ch_url[512];
+   TObject *pof =  source->FindObject(filename);
+   if (!pof || !pof->InheritsFrom("TProofOutputFile")) {
+      Error("GetFileFromWrapper", "TProofOutputFile object not found in output list for file %s", filename);
+      return kFALSE;
+   }
+   gROOT->ProcessLine(Form("sprintf((char*)0x%lx, \"%%s\", ((TProofOutputFile*)0x%lx)->GetOutputFileName();)", full_path, pof));
+   gROOT->ProcessLine(Form("sprintf((char*)0x%lx, \"%%s\", gProof->GetUrl();)", ch_url));
+   TString clientUrl(ch_url);
+   TString full_path_str(full_path);
+   if (clientUrl.Contains("localhost")){
+      TObjArray* array = full_path_str.Tokenize ( "//" );
+      TObjString *strobj = ( TObjString *)array->At(1);
+      TObjArray* arrayPort = strobj->GetString().Tokenize ( ":" );
+      TObjString *strobjPort = ( TObjString *) arrayPort->At(1);
+      full_path_str.ReplaceAll(strobj->GetString().Data(),"localhost:PORT");
+      full_path_str.ReplaceAll(":PORT",Form(":%s",strobjPort->GetString().Data()));
+      if (fDebug > 1) Info("GetFileFromWrapper","Using tunnel from %s to %s",full_path_str.Data(),filename);
+      delete arrayPort;
+      delete array;
+   }
+   if (fDebug > 1) 
+      Info("GetFileFromWrapper","Copying file %s from PROOF scratch space", full_path_str.Data());
+   Bool_t gotit = TFile::Cp(full_path_str.Data(), filename); 
+   if (!gotit)
+      Error("GetFileFromWrapper", "Could not get file %s from proof scratch space", filename);
+   return gotit;
+}
+
+//______________________________________________________________________________
+void AliAnalysisManager::GetAnalysisTypeString(TString &type) const
+{
+// Fill analysis type in the provided string.
+   switch (fMode) {
+      case kLocalAnalysis:
+         type = "local";
+         return;
+      case kProofAnalysis:
+         type = "proof";
+         return;
+      case kGridAnalysis:
+         type = "grid";
+         return;
+      case kMixingAnalysis:
+         type = "mix";
+   }
+}
+
+//______________________________________________________________________________
+Bool_t AliAnalysisManager::ValidateOutputFiles() const
+{
+// Validate all output files.
+   TIter next(fOutputs);
+   AliAnalysisDataContainer *output;
+   TDirectory *cdir = gDirectory;
+   TString openedFiles;
+   while ((output=(AliAnalysisDataContainer*)next())) {
+      TString filename = output->GetFileName();
+      if (filename == "default") {
+         if (!fOutputEventHandler) continue;
+         filename = fOutputEventHandler->GetOutputFileName();
+      }
+      // Check if the file is closed
+      if (openedFiles.Contains(filename)) continue;;
+      TFile *file = (TFile*)gROOT->GetListOfFiles()->FindObject(filename);
+      if (file) {
+         Warning("ValidateOutputs", "File %s was not closed. Closing.", filename.Data());
+         file->Close();
+      }
+      file = TFile::Open(filename);
+      if (!file || file->IsZombie() || file->TestBit(TFile::kRecovered)) {
+         Error("ValidateOutputs", "Output file <%s> was not created or invalid", filename.Data());
+         cdir->cd();
+         return kFALSE;
+      }
+      file->Close();
+      openedFiles += filename;
+      openedFiles += " ";
+   }
+   cdir->cd();
+   return kTRUE;
+}