var m_vaild_name =         "Please enter a valid filename";
function checkFile(txtBox)
{
   var OS = GetBrowserOS();
   var f=document.forms[0];
   if (txtBox.length == 0)    // Это если имя файла пустое, понятно
   {
      alert(m_vaild_name);
      return false;
   }

   if (OS.indexOf("win")!=-1){      //если Ось — Винь?  У меня виста, вроде в false тут нигде не должно уходить..

      if (txtBox.indexOf("\\\\")!=-1)
         return true;
      temp = txtBox.search(":");
      if (temp != 1)
      {
         alert(m_vaild_name);
         return false;
      }
   }
   return true;
}

function isInProgress() {
   if ( progress == 0 )  {
      if(checkFile(document.forms[0].filename.value) == false)
      {
         return false;
      }
      progress = 1;
      return true;
   }

   alert('Upload software is in progress. Please wait for a minute.');
   return false;
}

<form method='post' ENCTYPE='multipart/form-data' action='upload.cgi' onSubmit='return isInProgress();'>