]> git.uio.no Git - u/mrichter/AliRoot.git/commitdiff
Output files are validated immediately after Terminate. A 0-length file called output...
authoragheata <agheata@f7af4fe6-9843-0410-8265-dc069ae4e863>
Wed, 23 Sep 2009 15:24:45 +0000 (15:24 +0000)
committeragheata <agheata@f7af4fe6-9843-0410-8265-dc069ae4e863>
Wed, 23 Sep 2009 15:24:45 +0000 (15:24 +0000)
All printf's changed to Printf.

ANALYSIS/AliAnalysisAlien.cxx
ANALYSIS/AliAnalysisAlien.h
ANALYSIS/AliAnalysisManager.cxx
ANALYSIS/AliAnalysisManager.h

index 3efecc3fc8d955c48c679b9080609500abfb23a3..33f542cda850ed93da848f1a9a98360b1ee1cf9a 100644 (file)
@@ -322,17 +322,20 @@ void AliAnalysisAlien::CdWork()
    } 
    TString homedir = gGrid->GetHomeDirectory();
    TString workdir = homedir + fGridWorkingDir;
-   if (!gGrid->Cd(workdir)) {
-      gGrid->Cd(homedir);
-      if (gGrid->Mkdir(workdir)) {
-         gGrid->Cd(fGridWorkingDir);
-         Info("CreateJDL", "\n#####   Created alien working directory %s", fGridWorkingDir.Data());
-      } else {
-         Warning("CreateJDL", "Working directory %s cannot be created.\n Using %s instead.",
-                 workdir.Data(), homedir.Data());
-         fGridWorkingDir = "";
-      }          
-   }      
+   if (DirectoryExists(workdir)) {
+      gGrid->Cd(workdir);
+      return;
+   }   
+   // Work directory not existing - create it
+   gGrid->Cd(homedir);
+   if (gGrid->Mkdir(workdir)) {
+      gGrid->Cd(fGridWorkingDir);
+      Info("CreateJDL", "\n#####   Created alien working directory %s", fGridWorkingDir.Data());
+   } else {
+      Warning("CreateJDL", "Working directory %s cannot be created.\n Using %s instead.",
+              workdir.Data(), homedir.Data());
+      fGridWorkingDir = "";
+   }          
 }
 
 //______________________________________________________________________________
@@ -396,7 +399,7 @@ Bool_t AliAnalysisAlien::CheckInputData()
       Error("CkeckInputData", "AliEn path to base data directory must be set.\n = Use: SetGridDataDir()");
       return kFALSE;
    }
-   if (!gGrid->Cd(fGridDataDir)) {
+   if (!DirectoryExists(fGridDataDir)) {
       Error("CheckInputData", "Data directory %s not existing.", fGridDataDir.Data());
       return kFALSE;
    }
@@ -430,8 +433,8 @@ Bool_t AliAnalysisAlien::CheckInputData()
       TIter next(arr);
       while ((os=(TObjString*)next())) {
          path = Form("%s/%s ", fGridDataDir.Data(), os->GetString().Data());
-         if (!gGrid->Cd(path)) {
-            Warning("CheckInputData", "Run number %s not found in path: %s", os->GetString().Data(), path.Data());
+         if (!DirectoryExists(path)) {
+            Warning("CheckInputData", "Run number %s not found in path: <%s>", os->GetString().Data(), path.Data());
             continue;
          }
          path = Form("%s/%s.xml", workdir.Data(),os->GetString().Data());
@@ -458,8 +461,8 @@ Bool_t AliAnalysisAlien::CheckInputData()
       Info("CheckDataType", "Using run range [%d, %d]", fRunRange[0], fRunRange[1]);
       for (Int_t irun=fRunRange[0]; irun<=fRunRange[1]; irun++) {
          path = Form("%s/%d ", fGridDataDir.Data(), irun);
-         if (!gGrid->Cd(path)) {
-            Warning("CheckInputData", "Run number %d not found in path: %s", irun, path.Data());
+         if (!DirectoryExists(path)) {
+//            Warning("CheckInputData", "Run number %d not found in path: <%s>", irun, path.Data());
             continue;
          }
          path = Form("%s/%d.xml", workdir.Data(),irun);
@@ -515,11 +518,11 @@ Bool_t AliAnalysisAlien::CreateDataset(const char *pattern)
       if (fInputFiles && fInputFiles->GetEntries()) return kTRUE;
       // Make a single data collection from data directory.
       path = fGridDataDir;
-      if (!gGrid->Cd(path)) {
+      if (!DirectoryExists(path)) {
          Error("CreateDataset", "Path to data directory %s not valid",fGridDataDir.Data());
          return kFALSE;
       }   
-      CdWork();
+//      CdWork();
       if (TestBit(AliAnalysisGrid::kTest)) file = "wn.xml";
       else file = Form("%s.xml", gSystem->BaseName(path));
       if (gSystem->AccessPathName(file)) {
@@ -529,7 +532,7 @@ Bool_t AliAnalysisAlien::CreateDataset(const char *pattern)
          command += " ";
          command += pattern;
          command += conditions;
-         printf("command: %s\n", command.Data());
+         Printf("command: %s", command.Data());
          TGridResult *res = gGrid->Command(command);
          if (res) delete res;
          // Write standard output to file
@@ -554,8 +557,8 @@ Bool_t AliAnalysisAlien::CreateDataset(const char *pattern)
       TIter next(arr);
       while ((os=(TObjString*)next())) {
          path = Form("%s/%s ", fGridDataDir.Data(), os->GetString().Data());
-         if (!gGrid->Cd(path)) continue;
-         CdWork();
+         if (!DirectoryExists(path)) continue;
+//         CdWork();
          if (TestBit(AliAnalysisGrid::kTest)) file = "wn.xml";
          else file = Form("%s.xml", os->GetString().Data());
          // If local collection file does not exist, create it via 'find' command.
@@ -591,7 +594,7 @@ Bool_t AliAnalysisAlien::CreateDataset(const char *pattern)
                cbase = (TGridCollection*)gROOT->ProcessLine(Form("new TAlienCollection(\"%s\", 1000000);",file.Data()));
             } else {
                cadd = (TGridCollection*)gROOT->ProcessLine(Form("new TAlienCollection(\"%s\", 1000000);",file.Data()));
-               printf("   Merging collection <%s> into masterjob input...\n", file.Data());
+               Printf("   Merging collection <%s> into masterjob input...", file.Data());
                cbase->Add(cadd);
                delete cadd;
             }
@@ -603,7 +606,7 @@ Bool_t AliAnalysisAlien::CreateDataset(const char *pattern)
                Info("CreateDataset", "\n#####   Dataset %s exist. Skipping creation...", schunk.Data());
                continue;
             }        
-            printf("Exporting merged collection <%s> and copying to AliEn.\n", schunk.Data());
+            Printf("Exporting merged collection <%s> and copying to AliEn.", schunk.Data());
             cbase->ExportXML(Form("file://%s", schunk.Data()),kFALSE,kFALSE, schunk, "Merged runs");
             TFile::Cp(Form("file:%s",file.Data()), Form("alien://%s/%s",workdir.Data(), file.Data()));
             if (!FileExists(schunk)) {
@@ -618,8 +621,8 @@ Bool_t AliAnalysisAlien::CreateDataset(const char *pattern)
       // Process a full run range.
       for (Int_t irun=fRunRange[0]; irun<=fRunRange[1]; irun++) {
          path = Form("%s/%d ", fGridDataDir.Data(), irun);
-         if (!gGrid->Cd(path)) continue;
-         CdWork();
+         if (!DirectoryExists(path)) continue;
+//         CdWork();
          if (TestBit(AliAnalysisGrid::kTest)) file = "wn.xml";
          else file = Form("%d.xml", irun);
          if (FileExists(file) && fNrunsPerMaster<2 && !TestBit(AliAnalysisGrid::kTest)) {
@@ -657,7 +660,7 @@ Bool_t AliAnalysisAlien::CreateDataset(const char *pattern)
             // Check if the collection for the chunk exist locally.
             Int_t nchunk = (nruns-1)/fNrunsPerMaster;
             if (FileExists(fInputFiles->At(nchunk)->GetName())) continue;
-            printf("   Merging collection <%s> into %d runs chunk...\n",file.Data(),fNrunsPerMaster);
+            Printf("   Merging collection <%s> into %d runs chunk...",file.Data(),fNrunsPerMaster);
             if (((nruns-1)%fNrunsPerMaster) == 0) {
                schunk = Form("%d", irun);
                cbase = (TGridCollection*)gROOT->ProcessLine(Form("new TAlienCollection(\"%s\", 1000000);",file.Data()));
@@ -674,7 +677,7 @@ Bool_t AliAnalysisAlien::CreateDataset(const char *pattern)
                Info("CreateDataset", "\n#####   Dataset %s exist. Skipping creation...", schunk.Data());
                continue;
             }        
-            printf("Exporting merged collection <%s> and copying to AliEn.\n", schunk.Data());
+            Printf("Exporting merged collection <%s> and copying to AliEn.", schunk.Data());
             cbase->ExportXML(Form("file://%s", schunk.Data()),kFALSE,kFALSE, schunk, "Merged runs");
             if (FileExists(schunk)) {
                Info("CreateDataset", "\n#####   Dataset %s exist. Skipping copy...", schunk.Data());
@@ -728,7 +731,7 @@ Bool_t AliAnalysisAlien::CreateJDL()
          error = kTRUE;
       } else {
          if (!fGridOutputDir.Contains("/")) fGridOutputDir = Form("%s/%s", workdir.Data(), fGridOutputDir.Data());
-         if (!gGrid->Cd(fGridOutputDir)) {
+         if (!DirectoryExists(fGridOutputDir)) {
             if (gGrid->Mkdir(fGridOutputDir)) {
                Info("CreateJDL", "\n#####   Created alien output directory %s", fGridOutputDir.Data());
             } else {
@@ -959,6 +962,35 @@ Bool_t AliAnalysisAlien::FileExists(const char *lfn)
    return kTRUE;
 }
 
+//______________________________________________________________________________
+Bool_t AliAnalysisAlien::DirectoryExists(const char *dirname)
+{
+// Returns true if directory exists. Can be also a path.
+   if (!gGrid) return kFALSE;
+   // Check if dirname is a path
+   TString dirstripped = dirname;
+   dirstripped = dirstripped.Strip();
+   dirstripped = dirstripped.Strip(TString::kTrailing, '/');
+   TString dir = gSystem->BaseName(dirstripped);
+   dir += "/";
+   TString path = gSystem->DirName(dirstripped);
+   TGridResult *res = gGrid->Ls(path, "-F");
+   if (!res) return kFALSE;
+   TIter next(res);
+   TMap *map;
+   TObject *obj;
+   while ((map=dynamic_cast<TMap*>(next()))) {
+      obj = map->GetValue("name");
+      if (!obj) break;
+      if (dir == obj->GetName()) {
+         delete res;
+         return kTRUE;
+      }
+   }
+   delete res;
+   return kFALSE;
+}      
+
 //______________________________________________________________________________
 void AliAnalysisAlien::CheckDataType(const char *lfn, Bool_t &is_collection, Bool_t &is_xml, Bool_t &use_tags)
 {
@@ -1116,67 +1148,67 @@ Bool_t AliAnalysisAlien::IsCollection(const char *lfn) const
 void AliAnalysisAlien::Print(Option_t *) const
 {
 // Print current plugin settings.
-   printf("### AliEn analysis plugin current settings ###\n");
-   printf("=   Production mode:______________________________ %d\n", fProductionMode);
-   printf("=   Version of API requested: ____________________ %s\n", fAPIVersion.Data());
-   printf("=   Version of ROOT requested: ___________________ %s\n", fROOTVersion.Data());
-   printf("=   Version of AliRoot requested: ________________ %s\n", fAliROOTVersion.Data());
+   Printf("### AliEn analysis plugin current settings ###");
+   Printf("=   Production mode:______________________________ %d", fProductionMode);
+   Printf("=   Version of API requested: ____________________ %s", fAPIVersion.Data());
+   Printf("=   Version of ROOT requested: ___________________ %s", fROOTVersion.Data());
+   Printf("=   Version of AliRoot requested: ________________ %s", fAliROOTVersion.Data());
    if (fUser.Length()) 
-   printf("=   User running the plugin: _____________________ %s\n", fUser.Data());
-   printf("=   Grid workdir relative to user $HOME: _________ %s\n", fGridWorkingDir.Data());
-   printf("=   Grid output directory relative to workdir: ___ %s\n", fGridOutputDir.Data());
-   printf("=   Data base directory path requested: __________ %s\n", fGridDataDir.Data());
-   printf("=   Data search pattern: _________________________ %s\n", fDataPattern.Data());
-   printf("=   Input data format: ___________________________ %s\n", fInputFormat.Data());
+   Printf("=   User running the plugin: _____________________ %s", fUser.Data());
+   Printf("=   Grid workdir relative to user $HOME: _________ %s", fGridWorkingDir.Data());
+   Printf("=   Grid output directory relative to workdir: ___ %s", fGridOutputDir.Data());
+   Printf("=   Data base directory path requested: __________ %s", fGridDataDir.Data());
+   Printf("=   Data search pattern: _________________________ %s", fDataPattern.Data());
+   Printf("=   Input data format: ___________________________ %s", fInputFormat.Data());
    if (fRunNumbers.Length()) 
-   printf("=   Run numbers to be processed: _________________ %s\n", fRunNumbers.Data());
+   Printf("=   Run numbers to be processed: _________________ %s", fRunNumbers.Data());
    if (fRunRange[0])
-   printf("=   Run range to be processed: ___________________ %d-%d\n", fRunRange[0], fRunRange[1]);
+   Printf("=   Run range to be processed: ___________________ %d-%d", fRunRange[0], fRunRange[1]);
    if (!fRunRange[0] && !fRunNumbers.Length()) {
       TIter next(fInputFiles);
       TObject *obj;
       TString list;
       while ((obj=next())) list += obj->GetName();
-      printf("=   Input files to be processed: _________________ %s\n", list.Data());
+      Printf("=   Input files to be processed: _________________ %s", list.Data());
    }
    if (TestBit(AliAnalysisGrid::kTest))
-   printf("=   Number of input files used in test mode: _____ %d\n", fNtestFiles);
-   printf("=   List of output files to be registered: _______ %s\n", fOutputFiles.Data());
-   printf("=   List of outputs going to be archived: ________ %s\n", fOutputArchive.Data());
-   printf("=   List of outputs that should not be merged: ___ %s\n", fMergeExcludes.Data());
-   printf("=====================================================================\n");
-   printf("=   Job price: ___________________________________ %d\n", fPrice);
-   printf("=   Time to live (TTL): __________________________ %d\n", fTTL);
-   printf("=   Max files per subjob: ________________________ %d\n", fSplitMaxInputFileNumber);
+   Printf("=   Number of input files used in test mode: _____ %d", fNtestFiles);
+   Printf("=   List of output files to be registered: _______ %s", fOutputFiles.Data());
+   Printf("=   List of outputs going to be archived: ________ %s", fOutputArchive.Data());
+   Printf("=   List of outputs that should not be merged: ___ %s", fMergeExcludes.Data());
+   Printf("=====================================================================");
+   Printf("=   Job price: ___________________________________ %d", fPrice);
+   Printf("=   Time to live (TTL): __________________________ %d", fTTL);
+   Printf("=   Max files per subjob: ________________________ %d", fSplitMaxInputFileNumber);
    if (fMaxInitFailed>0) 
-   printf("=   Max number of subjob fails to kill: __________ %d\n", fMaxInitFailed);
+   Printf("=   Max number of subjob fails to kill: __________ %d", fMaxInitFailed);
    if (fMasterResubmitThreshold>0) 
-   printf("=   Resubmit master job if failed subjobs >_______ %d\n", fMasterResubmitThreshold);
+   Printf("=   Resubmit master job if failed subjobs >_______ %d", fMasterResubmitThreshold);
    if (fNrunsPerMaster>0)
-   printf("=   Number of runs per master job: _______________ %d\n", fNrunsPerMaster);
-   printf("=   Number of files in one chunk to be merged: ___ %d\n", fMaxMergeFiles);
-   printf("=   Name of the generated execution script: ______ %s\n",fExecutable.Data());
+   Printf("=   Number of runs per master job: _______________ %d", fNrunsPerMaster);
+   Printf("=   Number of files in one chunk to be merged: ___ %d", fMaxMergeFiles);
+   Printf("=   Name of the generated execution script: ______ %s",fExecutable.Data());
    if (fArguments.Length()) 
-   printf("=   Arguments for the execution script: __________ %s\n",fArguments.Data());
-   printf("=   Name of the generated analysis macro: ________ %s\n",fAnalysisMacro.Data());
-   printf("=   User analysis files to be deployed: __________ %s\n",fAnalysisSource.Data());
-   printf("=   Additional libs to be loaded or souces to be compiled runtime: <%s>\n",fAdditionalLibs.Data());
-   printf("=   Master jobs split mode: ______________________ %s\n",fSplitMode.Data());
+   Printf("=   Arguments for the execution script: __________ %s",fArguments.Data());
+   Printf("=   Name of the generated analysis macro: ________ %s",fAnalysisMacro.Data());
+   Printf("=   User analysis files to be deployed: __________ %s",fAnalysisSource.Data());
+   Printf("=   Additional libs to be loaded or souces to be compiled runtime: <%s>",fAdditionalLibs.Data());
+   Printf("=   Master jobs split mode: ______________________ %s",fSplitMode.Data());
    if (fDatasetName)
-   printf("=   Custom name for the dataset to be created: ___ %s\n", fDatasetName.Data());
-   printf("=   Name of the generated JDL: ___________________ %s\n", fJDLName.Data());
+   Printf("=   Custom name for the dataset to be created: ___ %s", fDatasetName.Data());
+   Printf("=   Name of the generated JDL: ___________________ %s", fJDLName.Data());
    if (fIncludePath.Data())
-   printf("=   Include path for runtime task compilation: ___ %s\n", fIncludePath.Data());
+   Printf("=   Include path for runtime task compilation: ___ %s", fIncludePath.Data());
    if (fCloseSE.Length())
-   printf("=   Force job outputs to storage element: ________ %s\n", fCloseSE.Data());
+   Printf("=   Force job outputs to storage element: ________ %s", fCloseSE.Data());
    if (fFriendChainName.Length())
-   printf("=   Open friend chain file on worker: ____________ %s\n", fFriendChainName.Data());
+   Printf("=   Open friend chain file on worker: ____________ %s", fFriendChainName.Data());
    if (fPackages) {
       TIter next(fPackages);
       TObject *obj;
       TString list;
       while ((obj=next())) list += obj->GetName();
-      printf("=   Par files to be used: ________________________ %s\n", list.Data());
+      Printf("=   Par files to be used: ________________________ %s", list.Data());
    }   
 }
 
@@ -1232,7 +1264,7 @@ Bool_t AliAnalysisAlien::MergeOutputs()
    }   
    // Get the output path
    if (!fGridOutputDir.Contains("/")) fGridOutputDir = Form("/%s/%s/%s", gGrid->GetHomeDirectory(), fGridWorkingDir.Data(), fGridOutputDir.Data());
-   if (!gGrid->Cd(fGridOutputDir)) {
+   if (!DirectoryExists(fGridOutputDir)) {
       Error("MergeOutputs", "Grid output directory %s not found. Terminate() will NOT be executed", fGridOutputDir.Data());
       return kFALSE;
    }
@@ -1263,7 +1295,7 @@ Bool_t AliAnalysisAlien::MergeOutputs()
           fMergeExcludes.Contains(output_file.Data())) continue;
       // Perform a 'find' command in the output directory, looking for registered outputs    
       command = Form("find %s/ *%s", fGridOutputDir.Data(), output_file.Data());
-      printf("command: %s\n", command.Data());
+      Printf("command: %s", command.Data());
       TGridResult *res = gGrid->Command(command);
       if (!res) continue;
       TFileMerger *fm = 0;
@@ -1284,11 +1316,11 @@ Bool_t AliAnalysisAlien::MergeOutputs()
             }
             output_chunk = output_file;
             output_chunk.ReplaceAll(".root", Form("_%04d.root", count_chunk));
-            printf("%s\n", output_chunk.Data());
+            Printf("%s", output_chunk.Data());
             count_chunk++;
             if (gSystem->AccessPathName(output_chunk)) continue;
             // Merged file with chunks up to <count_chunk> found
-            printf("Resume merging of <%s> from <%s>\n", output_file.Data(), output_chunk.Data());
+            Printf("Resume merging of <%s> from <%s>", output_file.Data(), output_chunk.Data());
             previous_chunk = output_chunk;
             break;
          }
@@ -1466,7 +1498,7 @@ Bool_t AliAnalysisAlien::StartAnalysis(Long64_t /*nentries*/, Long64_t /*firstEn
    if (!fRunNumbers.Length() && !fRunRange[0]) {
       // Submit a given xml or a set of runs
       res = gGrid->Command(Form("submit %s", fJDLName.Data()));
-      printf("*************************** %s\n",Form("submit %s", fJDLName.Data()));
+      Printf("*************************** %s",Form("submit %s", fJDLName.Data()));
       if (res) {
          const char *cjobId = res->GetKey(0,"jobId");
          if (!cjobId) {
@@ -1526,14 +1558,14 @@ void AliAnalysisAlien::SubmitNext()
    if (!fNsubmitted) ntosubmit = 1;
    else {
       TString status = GetJobStatus(firstmaster, lastmaster, nrunning, nwaiting, nerror, ndone);
-      printf("=== master %d: %s\n", lastmaster, status.Data());
+      Printf("=== master %d: %s", lastmaster, status.Data());
       // If last master not split, just return
       if (status != "SPLIT") {iscalled = kFALSE; return;}
       // No more than 100 waiting jobs
       if (nwaiting>100) {iscalled = kFALSE; return;}
       npermaster = (nrunning+nwaiting+nerror+ndone)/fNsubmitted;      
       if (npermaster) ntosubmit = (100-nwaiting)/npermaster;
-      printf("=== WAITING(%d) RUNNING(%d) DONE(%d) OTHER(%d) NperMaster=%d => to submit %d jobs\n", 
+      Printf("=== WAITING(%d) RUNNING(%d) DONE(%d) OTHER(%d) NperMaster=%d => to submit %d jobs", 
              nwaiting, nrunning, ndone, nerror, npermaster, ntosubmit);
    }
    Int_t nmasterjobs = fInputFiles->GetEntries();
@@ -1542,7 +1574,7 @@ void AliAnalysisAlien::SubmitNext()
       if (fNsubmitted>=nmasterjobs) {iscalled = kFALSE; return;}
       TString query;
       query = Form("submit %s %s %03d", fJDLName.Data(), fInputFiles->At(fNsubmitted)->GetName(), fNsubmitted);
-      printf("********* %s\n",query.Data());
+      Printf("********* %s",query.Data());
       res = gGrid->Command(query);
       if (res) {
          TString cjobId1 = res->GetKey(0,"jobId");
@@ -1951,6 +1983,8 @@ void AliAnalysisAlien::WriteExecutable()
    if (copy) {
       CdWork();
       TString workdir = gGrid->GetHomeDirectory();
+      TString bindir = Form("%s/bin", workdir.Data());
+      if (!DirectoryExists(bindir)) gGrid->Mkdir(bindir);
       workdir += fGridWorkingDir;
       TString executable = Form("%s/bin/%s", gGrid->GetHomeDirectory(), fExecutable.Data());
       if (FileExists(executable)) gGrid->Rm(executable);
@@ -2074,6 +2108,12 @@ void AliAnalysisAlien::WriteValidationScript()
          out << "fi" << endl;
       }   
       delete arr;
+      out << "if ! [ -f outputs_valid ] ; then" << endl;
+      out << "   error=1" << endl;
+      out << "   echo \"Output files were not validated by the analysis manager\" >> stdout" << endl;
+      out << "   echo \"Output files were not validated by the analysis manager\" >> stderr" << endl;
+      out << "fi" << endl;
+      
       out << "if [ $error = 0 ] ; then" << endl;
       out << "   echo \"* ----------------   Job Validated  ------------------*\""  << out_stream << endl;
       out << "fi" << endl;
index 4942b0cc63c5818d2cd3fee6660938095fd8d1ef..75e00dcb2687a818dbd028214de82194718b1d9a 100644 (file)
@@ -73,6 +73,7 @@ public:
    virtual Bool_t      CreateDataset(const char *pattern);
    virtual Bool_t      CreateJDL();
    virtual void        EnablePackage(const char *package);
+   static Bool_t       DirectoryExists(const char *lfn);
    static Bool_t       FileExists(const char *lfn);
    static  const char *GetJobStatus(Int_t jobidstart, Int_t lastid, Int_t &nrunning, Int_t &nwaiting, Int_t &nerror, Int_t &ndone);
    virtual Bool_t      MergeOutputs();
index 136f64ee76b0ee3b93b29347f699417494c79385..b9fb460f90ec39ed64cd5e73af1ad753e0f66a52 100644 (file)
@@ -173,7 +173,7 @@ AliAnalysisManager::~AliAnalysisManager()
 Int_t AliAnalysisManager::GetEntry(Long64_t entry, Int_t getall)
 {
 // Read one entry of the tree or a whole branch.
-   if (fDebug > 0) printf("== AliAnalysisManager::GetEntry(%lld)\n", entry);
+   if (fDebug > 0) Printf("== AliAnalysisManager::GetEntry(%lld)", entry);
    fCurrentEntry = entry;
    return fTree ? fTree->GetTree()->GetEntry(entry, getall) : 0;
 }
@@ -189,7 +189,7 @@ Bool_t AliAnalysisManager::Init(TTree *tree)
    Bool_t init = kFALSE;
    if (!tree) return kFALSE; // Should not happen - protected in selector caller
    if (fDebug > 0) {
-      printf("->AliAnalysisManager::Init(%s)\n", tree->GetName());
+      Printf("->AliAnalysisManager::Init(%s)", tree->GetName());
    }
    // Call InitTree of EventHandler
    if (fOutputEventHandler) {
@@ -249,7 +249,7 @@ Bool_t AliAnalysisManager::Init(TTree *tree)
    }
    top->SetData(tree);
    if (fDebug > 0) {
-      printf("<-AliAnalysisManager::Init(%s)\n", tree->GetName());
+      Printf("<-AliAnalysisManager::Init(%s)", tree->GetName());
    }
    return kTRUE;
 }
@@ -260,7 +260,7 @@ void AliAnalysisManager::SlaveBegin(TTree *tree)
   // The SlaveBegin() function is called after the Begin() function.
   // When running with PROOF SlaveBegin() is called on each slave server.
   // The tree argument is deprecated (on PROOF 0 is passed).
-   if (fDebug > 0) printf("->AliAnalysisManager::SlaveBegin()\n");
+   if (fDebug > 0) Printf("->AliAnalysisManager::SlaveBegin()");
    static Bool_t isCalled = kFALSE;
    Bool_t init = kFALSE;
    Bool_t initOK = kTRUE;
@@ -272,7 +272,7 @@ void AliAnalysisManager::SlaveBegin(TTree *tree)
    if (fOutputEventHandler) {
       if (fMode == kProofAnalysis) {
          // Merging AOD's in PROOF via TProofOutputFile
-         if (fDebug > 1) printf("   Initializing AOD output file %s...\n", fOutputEventHandler->GetOutputFileName());
+         if (fDebug > 1) Printf("   Initializing AOD output file %s...", fOutputEventHandler->GetOutputFileName());
          init = fOutputEventHandler->Init("proof");
          if (!init) msg = "Failed to initialize output handler on worker";
       } else {
@@ -321,7 +321,7 @@ void AliAnalysisManager::SlaveBegin(TTree *tree)
       task->CreateOutputObjects();
       if (curdir) curdir->cd();
    }
-   if (fDebug > 0) printf("<-AliAnalysisManager::SlaveBegin()\n");
+   if (fDebug > 0) Printf("<-AliAnalysisManager::SlaveBegin()");
 }
 
 //______________________________________________________________________________
@@ -340,7 +340,7 @@ Bool_t AliAnalysisManager::Notify()
       return kFALSE;
    }   
    
-   if (fDebug > 0) printf("->AliAnalysisManager::Notify() file: %s\n", curfile->GetName());
+   if (fDebug > 0) Printf("->AliAnalysisManager::Notify() file: %s", curfile->GetName());
    TIter next(fTasks);
    AliAnalysisTask *task;
    // Call Notify for all tasks
@@ -359,7 +359,7 @@ Bool_t AliAnalysisManager::Notify()
    if (fMCtruthEventHandler) {
        fMCtruthEventHandler->Notify(curfile->GetName());
    }
-   if (fDebug > 0) printf("<-AliAnalysisManager::Notify()\n");
+   if (fDebug > 0) Printf("<-AliAnalysisManager::Notify()");
    return kTRUE;
 }    
 
@@ -383,7 +383,7 @@ Bool_t AliAnalysisManager::Process(Long64_t entry)
   //  The entry is always the local entry number in the current tree.
   //  Assuming that fChain is the pointer to the TChain being processed,
   //  use fChain->GetTree()->GetEntry(entry).
-   if (fDebug > 0) printf("->AliAnalysisManager::Process(%lld)\n", entry);
+   if (fDebug > 0) Printf("->AliAnalysisManager::Process(%lld)", entry);
 
    if (fInputEventHandler)   fInputEventHandler  ->BeginEvent(entry);
    if (fOutputEventHandler)  fOutputEventHandler ->BeginEvent(entry);
@@ -391,7 +391,7 @@ Bool_t AliAnalysisManager::Process(Long64_t entry)
    
    GetEntry(entry);
    ExecAnalysis();
-   if (fDebug > 0) printf("<-AliAnalysisManager::Process()\n");
+   if (fDebug > 0) Printf("<-AliAnalysisManager::Process()");
    return kTRUE;
 }
 
@@ -400,7 +400,7 @@ void AliAnalysisManager::PackOutput(TList *target)
 {
   // Pack all output data containers in the output list. Called at SlaveTerminate
   // stage in PROOF case for each slave.
-   if (fDebug > 0) printf("->AliAnalysisManager::PackOutput()\n");
+   if (fDebug > 0) Printf("->AliAnalysisManager::PackOutput()");
    if (!target) {
       Error("PackOutput", "No target. Aborting.");
       return;
@@ -415,9 +415,9 @@ void AliAnalysisManager::PackOutput(TList *target)
    AliAnalysisTask *task;
    while ((task=(AliAnalysisTask*)nexttask())) {
       if (!task->IsPostEventLoop()) {
-         if (fDebug > 0) printf("->FinishTaskOutput: task %s\n", task->GetName());
+         if (fDebug > 0) Printf("->FinishTaskOutput: task %s", task->GetName());
          task->FinishTaskOutput();
-         if (fDebug > 0) printf("<-FinishTaskOutput: task %s\n", task->GetName());
+         if (fDebug > 0) Printf("<-FinishTaskOutput: task %s", task->GetName());
       }
    }      
    
@@ -432,12 +432,12 @@ void AliAnalysisManager::PackOutput(TList *target)
          const char *filename = output->GetFileName();
          if (!(strcmp(filename, "default")) && fOutputEventHandler) {
             isManagedByHandler = kTRUE;
-            printf("#### Handler output. Extra: %s\n", fExtraFiles.Data());
+            Printf("#### Handler output. Extra: %s", fExtraFiles.Data());
             filename = fOutputEventHandler->GetOutputFileName();
          }
          // Check if data was posted to this container. If not, issue an error.
          if (!output->GetData() && !isManagedByHandler) {
-            Error("PackOutput", "No data for output container %s. Forgot to PostData ?\n", output->GetName());
+            Error("PackOutput", "No data for output container %s. Forgot to PostData ?", output->GetName());
             continue;
          }   
          if (!output->IsSpecialOutput()) {
@@ -451,7 +451,7 @@ void AliAnalysisManager::PackOutput(TList *target)
                if (file) file->cd();
                else      file = new TFile(filename, "RECREATE"); 
                if (file->IsZombie()) {
-                  Fatal("PackOutput", "Could not recreate file %s\n", filename);
+                  Fatal("PackOutput", "Could not recreate file %s", filename);
                   return;
                }   
                output->SetFile(file);
@@ -473,9 +473,9 @@ void AliAnalysisManager::PackOutput(TList *target)
                      output->GetData()->Write();
                   }   
                }      
-               if (fDebug > 1) printf("PackOutput %s: memory merge, file resident output\n", output->GetName());
+               if (fDebug > 1) Printf("PackOutput %s: memory merge, file resident output", output->GetName());
                if (fDebug > 2) {
-                  printf("   file %s listing content:\n", filename);
+                  Printf("   file %s listing content:", filename);
                   file->ls();
                }   
                file->Close();
@@ -483,7 +483,7 @@ void AliAnalysisManager::PackOutput(TList *target)
                if (opwd) opwd->cd();
             } else {
                // Memory-resident outputs   
-               if (fDebug > 1) printf("PackOutput %s: memory merge memory resident output\n", filename);
+               if (fDebug > 1) Printf("PackOutput %s: memory merge memory resident output", filename);
             }   
             AliAnalysisDataWrapper *wrap = 0;
             if (isManagedByHandler) {
@@ -506,12 +506,12 @@ void AliAnalysisManager::PackOutput(TList *target)
                continue;
             }   
             TString outFilename = file->GetName();
-            if (fDebug > 1) printf("PackOutput %s: special output\n", output->GetName());
+            if (fDebug > 1) Printf("PackOutput %s: special output", output->GetName());
             if (isManagedByHandler) {
                // Terminate IO for files managed by the output handler
                if (file) file->Write();
                if (file && fDebug > 2) {
-                  printf("   handled file %s listing content:\n", file->GetName());
+                  Printf("   handled file %s listing content:", file->GetName());
                   file->ls();
                }   
                fOutputEventHandler->TerminateIO();
@@ -535,7 +535,7 @@ void AliAnalysisManager::PackOutput(TList *target)
                }      
                file->Clear();
                if (fDebug > 2) {
-                  printf("   file %s listing content:\n", output->GetFileName());
+                  Printf("   file %s listing content:", output->GetFileName());
                   file->ls();
                }
                file->Close();
@@ -585,19 +585,19 @@ void AliAnalysisManager::PackOutput(TList *target)
             } else {
             // No special location specified-> use TProofOutputFile as merging utility
             // The file at this output slot must be opened in CreateOutputObjects
-               if (fDebug > 1) printf("   File for container %s to be merged via file merger...\n", output->GetName());
+               if (fDebug > 1) Printf("   File for container %s to be merged via file merger...", output->GetName());
             }
          }      
       }
    } 
-   if (fDebug > 0) printf("<-AliAnalysisManager::PackOutput: output list contains %d containers\n", target->GetSize());
+   if (fDebug > 0) Printf("<-AliAnalysisManager::PackOutput: output list contains %d containers", target->GetSize());
 }
 
 //______________________________________________________________________________
 void AliAnalysisManager::ImportWrappers(TList *source)
 {
 // Import data in output containers from wrappers coming in source.
-   if (fDebug > 0) printf("->AliAnalysisManager::ImportWrappers()\n");
+   if (fDebug > 0) Printf("->AliAnalysisManager::ImportWrappers()");
    TIter next(fOutputs);
    AliAnalysisDataContainer *cont;
    AliAnalysisDataWrapper   *wrap;
@@ -661,25 +661,25 @@ void AliAnalysisManager::ImportWrappers(TList *source)
       }
       icont++;
       if (fDebug > 1) {
-         printf("   Importing data for container %s", cont->GetName());
-         if (strlen(filename)) printf("    -> file %s\n", filename);
-         else printf("\n");
+         Printf("   Importing data for container %s", cont->GetName());
+         if (strlen(filename)) Printf("    -> file %s", filename);
+         else Printf("");
       }   
       cont->ImportData(wrap);
    }         
-   if (fDebug > 0) printf("<-AliAnalysisManager::ImportWrappers(): %d containers imported\n", icont);
+   if (fDebug > 0) Printf("<-AliAnalysisManager::ImportWrappers(): %d containers imported", icont);
 }
 
 //______________________________________________________________________________
 void AliAnalysisManager::UnpackOutput(TList *source)
 {
   // Called by AliAnalysisSelector::Terminate only on the client.
-   if (fDebug > 0) printf("->AliAnalysisManager::UnpackOutput()\n");
+   if (fDebug > 0) Printf("->AliAnalysisManager::UnpackOutput()");
    if (!source) {
       Error("UnpackOutput", "No target. Aborting.");
       return;
    }
-   if (fDebug > 1) printf("   Source list contains %d containers\n", source->GetSize());
+   if (fDebug > 1) Printf("   Source list contains %d containers", source->GetSize());
 
    if (fMode == kProofAnalysis) ImportWrappers(source);
 
@@ -698,13 +698,13 @@ void AliAnalysisManager::UnpackOutput(TList *source)
             task->CheckNotify(kTRUE);
             // If task is active, execute it
             if (task->IsPostEventLoop() && task->IsActive()) {
-               if (fDebug > 0) printf("== Executing post event loop task %s\n", task->GetName());
+               if (fDebug > 0) Printf("== Executing post event loop task %s", task->GetName());
                task->ExecuteTask();
             }   
          }
       }   
    }
-   if (fDebug > 0) printf("<-AliAnalysisManager::UnpackOutput()\n");
+   if (fDebug > 0) Printf("<-AliAnalysisManager::UnpackOutput()");
 }
 
 //______________________________________________________________________________
@@ -713,7 +713,7 @@ void AliAnalysisManager::Terminate()
   // The Terminate() function is the last function to be called during
   // a query. It always runs on the client, it can be used to present
   // the results graphically.
-   if (fDebug > 0) printf("->AliAnalysisManager::Terminate()\n");
+   if (fDebug > 0) Printf("->AliAnalysisManager::Terminate()");
    AliAnalysisTask *task;
    TIter next(fTasks);
    // Call Terminate() for tasks
@@ -730,7 +730,7 @@ void AliAnalysisManager::Terminate()
          if (fOutputEventHandler) filename = fOutputEventHandler->GetOutputFileName();
          TFile *aodfile = (TFile*)gROOT->GetListOfFiles()->FindObject(filename);
          if (aodfile) {
-            if (fDebug > 1) printf("Writing output handler file: %s\n", filename);
+            if (fDebug > 1) Printf("Writing output handler file: %s", filename);
             aodfile->Write();
             continue;
          }   
@@ -744,7 +744,7 @@ void AliAnalysisManager::Terminate()
       if (file->IsZombie()) continue;
       output->SetFile(file);
       file->cd();
-      if (fDebug > 1) printf("   writing output data %s to file %s\n", output->GetData()->GetName(), file->GetName());
+      if (fDebug > 1) Printf("   writing output data %s to file %s", output->GetData()->GetName(), file->GetName());
       if (output->GetData()->InheritsFrom(TCollection::Class())) {
       // If data is a collection, we set the name of the collection 
       // as the one of the container and we save as a single key.
@@ -803,8 +803,14 @@ void AliAnalysisManager::Terminate()
          delete tree;
       }
       if (cdir) cdir->cd();
+   }
+   // Validate the output files
+   if (ValidateOutputFiles()) {
+      ofstream out;
+      out.open("outputs_valid", ios::out);
+      out.close();
    }      
-   if (fDebug > 0) printf("<-AliAnalysisManager::Terminate()\n");
+   if (fDebug > 0) Printf("<-AliAnalysisManager::Terminate()");
 }
 
 //______________________________________________________________________________
@@ -836,7 +842,7 @@ AliAnalysisDataContainer *AliAnalysisManager::CreateContainer(const char *name,
 //   kInputContainer   = 1, used to store input data
 //   kOutputContainer  = 2, used for posting results
    if (fContainers->FindObject(name)) {
-      Error("CreateContainer","A container named %s already defined !\n",name);
+      Error("CreateContainer","A container named %s already defined !",name);
       return NULL;
    }   
    AliAnalysisDataContainer *cont = new AliAnalysisDataContainer(name, datatype);
@@ -910,8 +916,10 @@ Bool_t AliAnalysisManager::InitAnalysis()
 {
 // Initialization of analysis chain of tasks. Should be called after all tasks
 // and data containers are properly connected
-   // Check for input/output containers
+   // Reset flag and remove valid_outputs file if exists
    fInitOK = kFALSE;
+   if (!gSystem->AccessPathName("outputs_valid"))
+      gSystem->Unlink("outputs_valid");
    // Check for top tasks (depending only on input data containers)
    if (!fTasks->First()) {
       Error("InitAnalysis", "Analysis has no tasks !");
@@ -1039,7 +1047,7 @@ void AliAnalysisManager::StartAnalysis(const char *type, TTree *tree, Long64_t n
       Error("StartAnalysis","Analysis manager was not initialized !");
       return;
    }
-   if (fDebug > 0) printf("StartAnalysis %s\n",GetName());
+   if (fDebug > 0) Printf("StartAnalysis %s",GetName());
    TString anaType = type;
    anaType.ToLower();
    fMode = kLocalAnalysis;
@@ -1127,7 +1135,7 @@ void AliAnalysisManager::StartAnalysis(const char *type, TTree *tree, Long64_t n
          break;
       case kProofAnalysis:
          if (!gROOT->GetListOfProofs() || !gROOT->GetListOfProofs()->GetEntries()) {
-            printf("StartAnalysis: no PROOF!!!\n");
+            Error("StartAnalysis", "No PROOF!!! Aborting.");
             return;
          }   
          sprintf(line, "gProof->AddInput((TObject*)0x%lx);", (ULong_t)this);
@@ -1137,7 +1145,7 @@ void AliAnalysisManager::StartAnalysis(const char *type, TTree *tree, Long64_t n
             cout << "===== RUNNING PROOF ANALYSIS " << GetName() << " ON CHAIN " << chain->GetName() << endl;
             chain->Process("AliAnalysisSelector", "", nentries, firstentry);
          } else {
-            printf("StartAnalysis: no chain\n");
+            Error("StartAnalysis", "No chain!!! Aborting.");
             return;
          }      
          break;
@@ -1173,7 +1181,7 @@ void AliAnalysisManager::StartAnalysis(const char *type, const char *dataset, Lo
       Error("StartAnalysis","Analysis manager was not initialized !");
       return;
    }
-   if (fDebug > 0) printf("StartAnalysis %s\n",GetName());
+   if (fDebug > 0) Printf("StartAnalysis %s",GetName());
    TString anaType = type;
    anaType.ToLower();
    if (!anaType.Contains("proof")) {
@@ -1195,7 +1203,7 @@ void AliAnalysisManager::StartAnalysis(const char *type, const char *dataset, Lo
    }
    
    if (!gROOT->GetListOfProofs() || !gROOT->GetListOfProofs()->GetEntries()) {
-      printf("StartAnalysis: no PROOF!!!\n");
+      Error("StartAnalysis", "No PROOF!!! Aborting.");
       return;
    }   
    sprintf(line, "gProof->AddInput((TObject*)0x%lx);", (ULong_t)this);
@@ -1226,16 +1234,16 @@ TFile *AliAnalysisManager::OpenProofFile(const char *filename, const char *optio
       return f;
    }   
    sprintf(line, "TProofOutputFile *pf = new TProofOutputFile(\"%s\");", filename);
-   if (fDebug > 1) printf("=== %s\n", line);
+   if (fDebug > 1) Printf("=== %s", line);
    gROOT->ProcessLine(line);
    sprintf(line, "pf->OpenFile(\"%s\");", option);
    gROOT->ProcessLine(line);
    if (fDebug > 1) {
       gROOT->ProcessLine("pf->Print()");
-      printf(" == proof file name: %s\n", gFile->GetName());
+      Printf(" == proof file name: %s", gFile->GetName());
    }   
    sprintf(line, "((TList*)0x%lx)->Add(pf);",(ULong_t)fSelector->GetOutputList());
-   if (fDebug > 1) printf("=== %s\n", line);
+   if (fDebug > 1) Printf("=== %s", line);
    gROOT->ProcessLine(line);
    return gFile;
 }   
@@ -1402,3 +1410,34 @@ void AliAnalysisManager::GetAnalysisTypeString(TString &type) const
          type = "mix";
    }
 }
+
+//______________________________________________________________________________
+Bool_t AliAnalysisManager::ValidateOutputFiles() const
+{
+// Validate all output files.
+   TIter next(fOutputs);
+   AliAnalysisDataContainer *output;
+   TDirectory *cdir = gDirectory;
+   while ((output=(AliAnalysisDataContainer*)next())) {
+      TString filename = output->GetFileName();
+      if (filename == "default") {
+         if (!fOutputEventHandler) continue;
+         filename = fOutputEventHandler->GetOutputFileName();
+      }
+      // Check if the file is closed
+      TFile *file = (TFile*)gROOT->GetListOfFiles()->FindObject(filename);
+      if (file) {
+         Warning("ValidateOutputs", "File %s was not closed. Closing.", filename.Data());
+         file->Close();
+      }
+      file = TFile::Open(filename);
+      if (!file || file->IsZombie() || file->TestBit(TFile::kRecovered)) {
+         Error("ValidateOutputs", "Output file <%s> was not created or invalid", filename.Data());
+         cdir->cd();
+         return kFALSE;
+      }
+      file->Close();
+   }
+   cdir->cd();
+   return kTRUE;
+}   
index d0821e45d58f80ee834086dbb3d944323935351f..f8f16e25c4bb5c4dc4f76f7d2e6e740cd014c10b 100644 (file)
@@ -137,6 +137,7 @@ enum EAliAnalysisFlags {
    void                 ExecAnalysis(Option_t *option="");
    void                 FinishAnalysis();
    void                 PrintStatus(Option_t *option="all") const;
+   Bool_t               ValidateOutputFiles() const;
 
 protected:
    void                 ImportWrappers(TList *source);