python設置檢查點簡單實現(xiàn)代碼

更新時間：2014年07月01日 22:59:29 投稿：mdxy-dxy

這篇文章主要介紹了python設置檢查點簡單實現(xiàn)代碼,需要的朋友可以參考下

說檢查點,其實就是對過去歷史的記錄，可以認為是log.不過這里進行了簡化.舉例來說,我現(xiàn)在又一段文本.文本里放有一堆堆的鏈接地址.我現(xiàn)在的任務是下載那些地址中的內(nèi)容.另外因為網(wǎng)絡的問題或者網(wǎng)站的問題,每次下載可能不會非常的成功.有可能出現(xiàn)斷鏈或者socket異常錯誤。不過不管產(chǎn)生什么樣的錯誤，我都希望我的程序能夠一直跑下去?；蛘吣芡５艉?，繼續(xù)從為下載的鏈接處跑。而不是從開始的地方跑。這個問題非常簡單。因為這些鏈接是上下文無關的（上下文有關的情況要另外分析）。所以我只要記錄程序運行停止前的最后一條，就有希望能夠延續(xù)前面的工作。這里實現(xiàn)中使用的是記錄原有的鏈接，大家也可以使用計數(shù)器的方法來記錄。代碼如下：

# 這個異常是原文本內(nèi)容中未出現(xiàn)檢查點內(nèi)容出現(xiàn)造成的  
class CheckPointMissContentError: 
  pass 
# 將文件讀取指針fd移至到檢查點對應的內(nèi)容處  
# check point 的規(guī)則為，讀取文件一行或者多行，進行操作后，將此一行或多行送入  
# 檢查文件check_point中。以后再次運行程序，即可從該檢查點處繼續(xù)運行。  
def GoCheckPoint(fd,check_point): 
  if not os.path.isfile(check_point): 
    f_check = open(check_point,'w') 
    f_check.close() 
  f_check = open(check_point,'r') 
  lines = f_check.readlines() 
  if len(lines) > 0: 
    check_content = lines[-1] #找到檢查點最后一行  
    check_content = check_content.strip(' /n/r') 
    # go to check point  
    while True: 
      content = fd.readline() 
      if content == '': # eof  
        raise CheckPointMissContentError 
      if content.strip(' /n/r') == check_content: 
        break 
         
  f_check.close()#關閉檢查點

有了上面一段還是不夠的，需要下面的代碼補充：

# 偽代碼  
def Download(downloadlist,sleep_time): 
   
  if os.path.isfile(downloadlist): 
    f = open(downloadlist) 
    # check_point file name，這里為自動生成一個檢查點文件  
    check_point = file[0:file.rfind('.')]+'_check.txt' 
    Util.GoCheckPoint(f,check_point) #這就是上面代碼中的GoCheckPoint函數(shù)  
    f_check = open(check_point,'a')# 以追加方式寫入  
     
    try: 
      while True: 
        content = f.readline() 
        if content == '': # eof  
          break 
        content = content.strip(' /n/r') 
        if content != '': 
          # has download url  
          time.sleep(sleep_time) 
          DownloadOper(path,url) #這里是偽代碼..可以認為是urllib.request.retrieve()函數(shù)或者是urllib.request.urlopen()啥的  
        # 作為響應的操作后再將內(nèi)容寫入檢查點文件  
          f_check.write(content+'/n') 
          f_check.flush() # 必須的，否則會緩存，不會寫入硬盤中  
    except : # 蹦個異常也不怕,以后再次按F5執(zhí)行即可  
      raise Exception() 
      return Util.FAILURE # 這是我設置的常量，大家認為是0或者1就可以了  
    finally: 
      f.close() 
      f_check.close()# 關閉文件  
    print('Downloading is done........................') 
    return Util.SUCCESS

執(zhí)行完操作之后再寫入到檢查點文件中。以后程序掛掉，只要檢查點文件還在，就可以延續(xù)前面的工作。不過這里的檢查點相對于數(shù)據(jù)庫中事務處理的檢查點還是太簡單了點。

您可能感興趣的文章: