]> git.uio.no Git - u/mrichter/AliRoot.git/blobdiff - ANALYSIS/AliAnalysisAlien.cxx
including new Salvatore's patch
[u/mrichter/AliRoot.git] / ANALYSIS / AliAnalysisAlien.cxx
index fa8b45de2f62e6f3229e9c69b1eaa261e001e398..47517705da7155173dadf2ce493a6adeb27e082f 100644 (file)
@@ -544,6 +544,11 @@ Bool_t AliAnalysisAlien::LoadModule(AliAnalysisTaskCfg *mod)
 {
 // Load a given module.
    if (mod->IsLoaded()) return kTRUE;
+   AliAnalysisManager *mgr = AliAnalysisManager::GetAnalysisManager();
+   if (!mgr) {
+      Error("LoadModule", "No analysis manager created yet. Use CreateAnalysisManager first.");
+      return kFALSE;
+   }   
    Int_t ndeps = mod->GetNdeps();
    TString depname;
    for (Int_t j=0; j<ndeps; j++) {
@@ -565,6 +570,15 @@ Bool_t AliAnalysisAlien::LoadModule(AliAnalysisTaskCfg *mod)
       Error("LoadModule", "Cannot load all libraries for module %s", mod->GetName());
       return kFALSE;
    }
+   // Check if a custom file name was requested
+   if (strlen(mod->GetOutputFileName())) mgr->SetCommonFileName(mod->GetOutputFileName());
+
+   // Check if a custom terminate file name was requested
+   if (strlen(mod->GetTerminateFileName())) {
+      if (!fTerminateFiles.IsNull()) fTerminateFiles += ",";
+      fTerminateFiles += mod->GetTerminateFileName();
+   }   
+
    // Execute the macro
    if (mod->ExecuteMacro()<0) {
       Error("LoadModule", "Executing the macro %s with arguments: %s for module %s returned a negative value",
@@ -582,8 +596,8 @@ Bool_t AliAnalysisAlien::LoadModule(AliAnalysisTaskCfg *mod)
    TString lib;
    for (Int_t i=0; i<nlibs; i++) {
       lib = mod->GetLibrary(i);
-      if (fAdditionalLibs.Contains(lib)) continue;
       lib = Form("lib%s.so", lib.Data());
+      if (fAdditionalLibs.Contains(lib)) continue;
       if (!fAdditionalLibs.IsNull()) fAdditionalLibs += " ";
       fAdditionalLibs += lib;
    }
@@ -608,7 +622,7 @@ Bool_t AliAnalysisAlien::GenerateTrain(const char *name)
    TString execCommand = fExecutableCommand;
    SetAnalysisMacro(Form("%s.C", name));
    SetExecutable(Form("%s.sh", name));
-   SetExecutableCommand("aliroot -b -q ");
+//   SetExecutableCommand("aliroot -b -q ");
    SetValidationScript(Form("%s_validation.sh", name));
    StartAnalysis();
    SetProductionMode(productionMode);
@@ -646,7 +660,7 @@ Bool_t AliAnalysisAlien::GenerateTest(const char *name, const char *modname)
    TString execCommand = fExecutableCommand;
    SetAnalysisMacro(Form("%s.C", name));
    SetExecutable(Form("%s.sh", name));
-   SetExecutableCommand("aliroot -b -q ");
+//   SetExecutableCommand("aliroot -b -q ");
    SetValidationScript(Form("%s_validation.sh", name));
    WriteAnalysisFile();   
    WriteAnalysisMacro();
@@ -809,6 +823,11 @@ Bool_t AliAnalysisAlien::CheckFileCopy(const char *alienpath)
 {
 // Check if file copying is possible.
    if (fProductionMode) return kTRUE;
+   TString salienpath(alienpath);
+   if (salienpath.Contains(" ")) {
+      Error("CheckFileCopy", "path: <%s> contains blancs - FIX IT !",alienpath);
+      return kFALSE;
+   }   
    if (!Connect()) {
       Error("CheckFileCopy", "Not connected to AliEn. File copying cannot be tested.");
       return kFALSE;
@@ -828,7 +847,8 @@ Bool_t AliAnalysisAlien::CheckFileCopy(const char *alienpath)
       Error("CheckFileCopy", "Alien path %s does not seem to exist", alienpath);
       return kFALSE;
    }
-   TFile f("plugin_test_copy", "RECREATE");
+   TString stest = "plugin_test_copy";
+   TFile f(stest, "RECREATE");
    // User may not have write permissions to current directory 
    if (f.IsZombie()) {
       Error("CheckFileCopy", "Cannot create local test file. Do you have write access to current directory: <%s> ?",
@@ -836,19 +856,19 @@ Bool_t AliAnalysisAlien::CheckFileCopy(const char *alienpath)
       return kFALSE;
    }
    f.Close();
-   if (FileExists(Form("alien://%s/%s",alienpath, f.GetName()))) gGrid->Rm(Form("alien://%s/%s",alienpath, f.GetName()));
-   if (!TFile::Cp(f.GetName(), Form("alien://%s/%s",alienpath, f.GetName()))) {
+   if (FileExists(Form("alien://%s/%s",alienpath, stest.Data()))) gGrid->Rm(Form("alien://%s/%s",alienpath, stest.Data()));
+   if (!TFile::Cp(stest.Data(), Form("alien://%s/%s",alienpath, stest.Data()))) {
       Error("CheckFileCopy", "Cannot copy files to Alien destination: <%s> This may be temporary, or: \
            \n# 1. Make sure you have write permissions there. If this is the case: \
            \n# 2. Check the storage availability at: http://alimonitor.cern.ch/stats?page=SE/table \
            \n#    Do:           export alien_CLOSE_SE=\"working_disk_SE\" \
            \n#    To make this permanent put in in your .bashrc (in .alienshrc is not enough) \
            \n#    Redo token:   rm /tmp/x509up_u$UID then: alien-token-init <username>", alienpath);
-      gSystem->Unlink(f.GetName());
+      gSystem->Unlink(stest.Data());
       return kFALSE;
    }   
-   gSystem->Unlink(f.GetName());
-   gGrid->Rm(Form("%s%s",alienpath,f.GetName()));
+   gSystem->Unlink(stest.Data());
+   gGrid->Rm(Form("%s/%s",alienpath,stest.Data()));
    Info("CheckFileCopy", "### ...SUCCESS ###");
    return kTRUE;
 }   
@@ -1024,6 +1044,7 @@ Bool_t AliAnalysisAlien::CopyLocalDataset(const char *griddir, const char *patte
 {
 // Copy data from the given grid directory according a pattern and make a local
 // dataset.
+// archivefile (optional) results in that the archive containing the file <pattern> is copied. archivefile can contain a list of files (semicolon-separated) which are all copied
    if (!Connect()) {
       Error("CopyLocalDataset", "Cannot copy local dataset with no grid connection");
       return kFALSE;
@@ -1041,6 +1062,16 @@ Bool_t AliAnalysisAlien::CopyLocalDataset(const char *griddir, const char *patte
       return kFALSE;
    }
    printf("... found %d files. Copying locally ...\n", nfound);
+   
+   // archives
+   TObjArray* additionalArchives = 0;
+   if (strlen(archivefile) > 0 && TString(archivefile).Contains(";")) {
+      additionalArchives = TString(archivefile).Tokenize(";");
+      archivefile = additionalArchives->At(0)->GetName();
+      additionalArchives->RemoveAt(0);
+      additionalArchives->Compress();
+   }
+   
    // Copy files locally
    ofstream out;
    out.open(output, ios::out);
@@ -1068,12 +1099,26 @@ Bool_t AliAnalysisAlien::CopyLocalDataset(const char *griddir, const char *patte
        targetFileName = archivefile;
       }
       if (TFile::Cp(source, Form("file:./%s/%s", dirname.Data(), targetFileName.Data()))) {
-         if (strlen(archivefile) > 0) targetFileName = Form("%s#%s", targetFileName.Data(), gSystem->BaseName(turl.Data()));
-         out << cdir << Form("/%s/%s/%s", outputdir, dirname.Data(), targetFileName.Data()) << endl;
+        Bool_t success = kTRUE;
+        if (additionalArchives)
+           for (Int_t j=0; j<additionalArchives->GetEntriesFast(); j++)
+           {
+              TString target;
+              target.Form("./%s/%s", dirname.Data(), additionalArchives->At(j)->GetName());
+              gSystem->MakeDirectory(gSystem->DirName(target));
+              success &= TFile::Cp(Form("%s/%s", gSystem->DirName(source.Data()), additionalArchives->At(j)->GetName()), Form("file:%s", target.Data()));
+           }
+
+        if (success) {
+           if (strlen(archivefile) > 0) targetFileName = Form("%s#%s", targetFileName.Data(), gSystem->BaseName(turl.Data()));
+           out << cdir << Form("/%s/%s/%s", outputdir, dirname.Data(), targetFileName.Data()) << endl;
+        }
       }
    }
    gSystem->ChangeDirectory(cdir);
    delete res;
+   if (additionalArchives)
+     delete additionalArchives;
    return kTRUE;
 }   
 
@@ -1629,7 +1674,17 @@ Bool_t AliAnalysisAlien::CreateJDL()
          }
       }
       if (fOutputArchive.Length()) {
-         arr = fOutputArchive.Tokenize(" ");
+         TString outputArchive = fOutputArchive;
+         if (!fRegisterExcludes.IsNull()) {
+            arr = fRegisterExcludes.Tokenize(" ");
+            TIter next1(arr);
+            while ((os=(TObjString*)next1())) {
+               outputArchive.ReplaceAll(Form("%s,",os->GetString().Data()),"");
+               outputArchive.ReplaceAll(os->GetString(),"");
+            } 
+            delete arr;
+         }     
+         arr = outputArchive.Tokenize(" ");
          TIter next(arr);
          Bool_t first = kTRUE;
          const char *comment = "Files to be archived";
@@ -1644,7 +1699,6 @@ Bool_t AliAnalysisAlien::CreateJDL()
          }      
          delete arr;
          // Output archive for the merging jdl
-         TString outputArchive;
          if (TestBit(AliAnalysisGrid::kDefaultOutputs)) {
             outputArchive = "log_archive.zip:std*@disk=1 ";
             // Add normal output files, extra files + terminate files
@@ -2181,30 +2235,48 @@ TChain *AliAnalysisAlien::GetChainForTestMode(const char *treeName) const
    in.open(fFileForTestMode);
    Int_t count = 0;
     // Read the input list of files and add them to the chain
-    TString line;
-    TChain *chain = new TChain(treeName);
-    while (in.good())
-    {
+   TString line;
+   TChain *chain = new TChain(treeName);
+   TChain *chainFriend = 0;
+   if (!fFriendChainName.IsNull()) chainFriend = new TChain(treeName);       
+   while (in.good())
+   {
       in >> line;
       if (line.IsNull()) continue;
       if (count++ == fNtestFiles) break;
       TString esdFile(line);
       TFile *file = TFile::Open(esdFile);
-      if (file) {
-         if (!file->IsZombie()) chain->Add(esdFile);
+      if (file && !file->IsZombie()) {
+         chain->Add(esdFile);
          file->Close();
+         if (!fFriendChainName.IsNull()) {
+            if (esdFile.Index("#") > -1)
+               esdFile.Remove(esdFile.Index("#"));
+            esdFile = gSystem->DirName(esdFile);
+            esdFile += "/" + fFriendChainName;
+            file = TFile::Open(esdFile);
+            if (file && !file->IsZombie()) {
+               file->Close();
+               chainFriend->Add(esdFile);
+            } else {
+               Fatal("GetChainForTestMode", "Cannot open friend file: %s", esdFile.Data());
+               return 0;
+            }   
+         }
       } else {
          Error("GetChainforTestMode", "Skipping un-openable file: %s", esdFile.Data());
       }   
-    }
-    in.close();
-    if (!chain->GetListOfFiles()->GetEntries()) {
+   }
+   in.close();
+   if (!chain->GetListOfFiles()->GetEntries()) {
        Error("GetChainForTestMode", "No file from %s could be opened", fFileForTestMode.Data());
        delete chain;
+       delete chainFriend;
        return NULL;
-    }
+   }
 //    chain->ls();
-    return chain;
+   if (!fFriendChainName.IsNull()) chain->AddFriend(chainFriend);
+   return chain;
 }    
 
 //______________________________________________________________________________
@@ -3267,9 +3339,9 @@ Bool_t AliAnalysisAlien::StartAnalysis(Long64_t /*nentries*/, Long64_t /*firstEn
    }
    // Check if submitting is managed by LPM manager
    if (fProductionMode) {
-      TString prodfile = fJDLName;
-      prodfile.ReplaceAll(".jdl", ".prod");
-      WriteProductionFile(prodfile);
+      //TString prodfile = fJDLName;
+      //prodfile.ReplaceAll(".jdl", ".prod");
+      //WriteProductionFile(prodfile);
       Info("StartAnalysis", "Job submitting is managed by LPM. Rerun in terminate mode after jobs finished.");
       return kFALSE;
    }   
@@ -3665,6 +3737,10 @@ void AliAnalysisAlien::WriteAnalysisMacro()
       out << "   TStopwatch timer;" << endl;
       out << "   timer.Start();" << endl << endl;
       // Change temp directory to current one
+      if (!IsLocalTest()) {  
+         out << "// connect to AliEn and make the chain" << endl;
+         out << "   if (!TGrid::Connect(\"alien://\")) return;" << endl;
+      }   
       out << "// Set temporary merging directory to current one" << endl;
       out << "   gSystem->Setenv(\"TMPDIR\", gSystem->pwd());" << endl << endl;   
       out << "// Set temporary compilation directory to current one" << endl;
@@ -3814,10 +3890,6 @@ void AliAnalysisAlien::WriteAnalysisMacro()
          out << "   gEnv->SetValue(\"XNet.ReconnectTimeout\",50);" << endl;
          out << "   gEnv->SetValue(\"XNet.FirstConnectMaxCnt\",1);" << endl << endl;
       } 
-      if (!IsLocalTest()) {  
-         out << "// connect to AliEn and make the chain" << endl;
-         out << "   if (!TGrid::Connect(\"alien://\")) return;" << endl;
-      }   
       out << "// read the analysis manager from file" << endl;
       TString analysisFile = fExecutable;
       analysisFile.ReplaceAll(".sh", ".root");
@@ -3832,6 +3904,8 @@ void AliAnalysisAlien::WriteAnalysisMacro()
          else   
             out << "   plugin->SetFileForTestMode(\"" << fFileForTestMode << "\");" << endl;
          out << "   plugin->SetNtestFiles(" << fNtestFiles << ");" << endl;
+         if (!fFriendChainName.IsNull()) 
+            out << "   plugin->SetFriendChainName(\"" << fFriendChainName << "\");" << endl;
          out << "   mgr->SetGridHandler(plugin);" << endl;
          if (AliAnalysisManager::GetAnalysisManager()) {
             out << "   mgr->SetDebugLevel(" << AliAnalysisManager::GetAnalysisManager()->GetDebugLevel() << ");" << endl;
@@ -3902,9 +3976,18 @@ void AliAnalysisAlien::WriteAnalysisMacro()
          out << "      chain->Add(filename);" << endl;
          if(fFriendChainName!="") {
             out << "      TString fileFriend=coll->GetTURL(\"\");" << endl;
-            out << "      fileFriend.ReplaceAll(\"AliAOD.root\",\""<<fFriendChainName.Data()<<"\");" << endl;
-            out << "      fileFriend.ReplaceAll(\"AliAODs.root\",\""<<fFriendChainName.Data()<<"\");" << endl;
-            out << "      chainFriend->Add(fileFriend.Data());" << endl;
+            out << "      if (fileFriend.Index(\"#\") > -1) fileFriend.Remove(fileFriend.Index(\"#\"));" << endl;
+            out << "      fileFriend = gSystem->DirName(fileFriend);" << endl;
+            out << "      fileFriend += \"/\";" << endl;
+            out << "      fileFriend += \"" << fFriendChainName << "\";";
+            out << "      TFile *file = TFile::Open(fileFriend);" << endl;
+            out << "      if (file) {" << endl;
+            out << "         file->Close();" << endl;
+            out << "         chainFriend->Add(fileFriend.Data());" << endl;
+            out << "      } else {" << endl;
+            out << "         ::Fatal(\"CreateChain\", \"Cannot open friend file: %s\", fileFriend.Data());" << endl;
+            out << "         return 0;" << endl;
+            out << "      }" << endl;
          }
          out << "   }" << endl;
          out << "   if (!chain->GetNtrees()) {" << endl;
@@ -4151,12 +4234,12 @@ void AliAnalysisAlien::WriteMergingMacro()
          out << "   gEnv->SetValue(\"XNet.FirstConnectMaxCnt\",1);" << endl << endl;
       }
       // Change temp directory to current one
+      out << "// Connect to AliEn" << endl;
+      out << "   if (!TGrid::Connect(\"alien://\")) return;" << endl;
       out << "// Set temporary merging directory to current one" << endl;
       out << "   gSystem->Setenv(\"TMPDIR\", gSystem->pwd());" << endl << endl;   
       out << "// Set temporary compilation directory to current one" << endl;
       out << "   gSystem->SetBuildDir(gSystem->pwd(), kTRUE);" << endl << endl;   
-      out << "// Connect to AliEn" << endl;
-      out << "   if (!TGrid::Connect(\"alien://\")) return;" << endl;
       out << "   TString outputDir = dir;" << endl;  
       out << "   TString outputFiles = \"" << GetListOfFiles("out") << "\";" << endl;
       out << "   TString mergeExcludes = \"" << fMergeExcludes << " " << fRegisterExcludes << "\";" << endl;