Django實(shí)現(xiàn)web端tailf日志文件功能及實(shí)例詳解
這是Django Channels系列文章的第二篇,以web端實(shí)現(xiàn)tailf的案例講解Channels的具體使用以及跟Celery的結(jié)合
通過上一篇 《Django使用Channels實(shí)現(xiàn)WebSocket--上篇》 的學(xué)習(xí)應(yīng)該對Channels的各種概念有了清晰的認(rèn)知,可以順利的將Channels框架集成到自己的Django項(xiàng)目中實(shí)現(xiàn)WebSocket了,本篇文章將以一個(gè)Channels+Celery實(shí)現(xiàn)web端tailf功能的例子更加深入的介紹Channels
先說下我們要實(shí)現(xiàn)的目標(biāo):所有登錄的用戶可以查看tailf日志頁面,在頁面上能夠選擇日志文件進(jìn)行監(jiān)聽,多個(gè)頁面終端同時(shí)監(jiān)聽任何日志都互不影響,頁面同時(shí)提供終止監(jiān)聽的按鈕能夠終止前端的輸出以及后臺對日志文件的讀取
最終實(shí)現(xiàn)的結(jié)果見下圖
接著我們來看下具體的實(shí)現(xiàn)過程
技術(shù)實(shí)現(xiàn)
所有代碼均基于以下軟件版本:
- python==3.6.3
- django==2.2
- channels==2.1.7
- celery==4.3.0
celery4在windows下支持不完善,所以請 在linux下運(yùn)行 測試
日志數(shù)據(jù)定義
我們只希望用戶能夠查詢固定的幾個(gè)日志文件,就不是用數(shù)據(jù)庫僅借助settings.py文件里寫全局變量來實(shí)現(xiàn)數(shù)據(jù)存儲
在settings.py里添加一個(gè)叫 TAILF 的變量,類型為字典,key標(biāo)識文件的編號,value標(biāo)識文件的路徑
TAILF = { 1: '/ops/coffee/error.log', 2: '/ops/coffee/access.log', }
基礎(chǔ)Web頁面搭建
假設(shè)你已經(jīng)創(chuàng)建好了一個(gè)叫tailf的app,并添加到了settings.py的INSTALLED_APPS中,app的目錄結(jié)構(gòu)大概如下
tailf - migrations - __init__.py - __init__.py - admin.py - apps.py - models.py - tests.py - views.py
依然先構(gòu)建一個(gè)標(biāo)準(zhǔn)的Django頁面,相關(guān)代碼如下
url:
from django.urls import path from django.contrib.auth.views import LoginView,LogoutView from tailf.views import tailf urlpatterns = [ path('tailf', tailf, name='tailf-url'), path('login', LoginView.as_view(template_name='login.html'), name='login-url'), path('logout', LogoutView.as_view(template_name='login.html'), name='logout-url'), ]
因?yàn)槲覀円?guī)定只有通過登錄的用戶才能查看日志,所以引入Django自帶的LoginView,logoutView幫助我們快速構(gòu)建Login,Logout功能
指定了登錄模板使用 login.html ,它就是一個(gè)標(biāo)準(zhǔn)的登錄頁面,post傳入username和password兩個(gè)參數(shù)即可,不貼代碼了
view:
from django.conf import settings from django.shortcuts import render from django.contrib.auth.decorators import login_required # Create your views here. @login_required(login_url='/login') def tailf(request): logDict = settings.TAILF return render(request, 'tailf/index.html', {"logDict": logDict})
引入了 login_required
裝飾器,來判斷用戶是否登錄,未登錄就給跳到 /login 登錄頁面
logDict去setting里取我們定義好的 TAILF 字典賦值,并傳遞給前端
template:
{% extends "base.html" %} {% block content %} <div class="col-sm-8"> <select class="form-control" id="file"> <option value="">選擇要監(jiān)聽的日志</option> {% for k,v in logDict.items %} <option value="{{ k }}">{{ v }}</option> {% endfor %} </select> </div> <div class="col-sm-2"> <input class="btn btn-success btn-block" type="button" onclick="connect()" value="開始監(jiān)聽"/><br/> </div> <div class="col-sm-2"> <input class="btn btn-warning btn-block" type="button" onclick="goclose()" value="終止監(jiān)聽"/><br/> </div> <div class="col-sm-12"> <textarea class="form-control" id="chat-log" disabled rows="20"></textarea> </div> {% endblock %}
前端拿到 TAILF 后通過循環(huán)的方式填充到select選擇框下,因?yàn)閿?shù)據(jù)是字典格式,使用 logDict.items 的方式可以循環(huán)出字典的key和value
這樣一個(gè)日志監(jiān)聽頁面就完成了,但還無法實(shí)現(xiàn)日志的監(jiān)聽,繼續(xù)往下
集成Channels實(shí)現(xiàn)WebSocket
日志監(jiān)聽功能主要的設(shè)計(jì)思路就是頁面跟后端服務(wù)器建立websocket長連接,后端通過celery異步執(zhí)行while循環(huán)不斷的讀取日志文件然后發(fā)送到websocket的channel里,實(shí)現(xiàn)頁面上的實(shí)時(shí)顯示
接著我們來集成channels
先添加routing路由,直接修改 webapp/routing.py
from channels.auth import AuthMiddlewareStack from channels.routing import ProtocolTypeRouter, URLRouter from django.urls import path, re_path from chat.consumers import ChatConsumer from tailf.consumers import TailfConsumer application = ProtocolTypeRouter({ 'websocket': AuthMiddlewareStack( URLRouter([ path('ws/chat/', ChatConsumer), re_path(r'^ws/tailf/(?P<id>\d+)/$', TailfConsumer), ]) ) })
直接將路由信息寫入到了 URLRouter 里,注意路由信息的外層多了一個(gè)list,區(qū)別于上一篇中介紹的寫路由文件路徑的方式
頁面需要將監(jiān)聽的日志文件傳遞給后端,我們使用routing正則 P<id>\d+ 傳文件ID給后端程序,后端程序拿到ID之后根據(jù)settings中指定的 TAILF 解析出日志路徑
routing的寫法跟Django中的url寫法完全一致,使用 re_path 匹配正則routing路由
添加consumer在 tailf/consumers.py 文件中
import json from channels.generic.websocket import WebsocketConsumer from tailf.tasks import tailf class TailfConsumer(WebsocketConsumer): def connect(self): self.file_id = self.scope["url_route"]["kwargs"]["id"] self.result = tailf.delay(self.file_id, self.channel_name) print('connect:', self.channel_name, self.result.id) self.accept() def disconnect(self, close_code): # 中止執(zhí)行中的Task self.result.revoke(terminate=True) print('disconnect:', self.file_id, self.channel_name) def send_message(self, event): self.send(text_data=json.dumps({ "message": event["message"] }))
這里使用Channels的單通道模式,每一個(gè)新連接都會啟用一個(gè)新的channel,彼此互不影響,可以隨意終止任何一個(gè)監(jiān)聽日志的請求
connect
我們知道 self.scope 類似于Django中的request,記錄了豐富的請求信息,通過 self.scope["url_route"]["kwargs"]["id"]
取出routing中正則匹配的日志ID
然后將 id 和 channel_name 傳遞給celery的任務(wù)函數(shù)tailf,tailf根據(jù) id 取到日志文件的路徑,然后循環(huán)文件,將新內(nèi)容根據(jù) channel_name 寫入對應(yīng)channel
disconnect
當(dāng)websocket連接斷開的時(shí)候我們需要終止Celery的Task執(zhí)行,以清除celery的資源占用
終止Celery任務(wù)使用到 revoke 指令,采用如下代碼來實(shí)現(xiàn)
self.result.revoke(terminate=True)
注意 self.result 是一個(gè)result對象,而非id
參數(shù) terminate=True 的意思是是否立即終止Task,為True時(shí)無論Task是否正在執(zhí)行都立即終止,為False(默認(rèn))時(shí)需要等待Task運(yùn)行結(jié)束之后才會終止,我們使用了While循環(huán)不設(shè)置為True就永遠(yuǎn)不會終止了
終止Celery任務(wù)的另外一種方法是:
from webapp.celery import app app.control.revoke(result.id, terminate=True) send_message
方便我們通過Django的view或者Celery的task調(diào)用給channel發(fā)送消息,官方也比較推薦這種方式
使用Celery異步循環(huán)讀取日志
上邊已經(jīng)集成了Channels實(shí)現(xiàn)了WebSocket,但connect函數(shù)中的celery任務(wù) tailf 還沒有實(shí)現(xiàn),下邊來實(shí)現(xiàn)它
關(guān)于Celery的詳細(xì)內(nèi)容可以看這篇文章: 《Django配置Celery執(zhí)行異步任務(wù)和定時(shí)任務(wù)》 ,本文就不介紹集成使用以及細(xì)節(jié)原理,只講一下任務(wù)task
task實(shí)現(xiàn)代碼如下:
from __future__ import absolute_import from celery import shared_task import time from channels.layers import get_channel_layer from asgiref.sync import async_to_sync from django.conf import settings @shared_task def tailf(id, channel_name): channel_layer = get_channel_layer() filename = settings.TAILF[int(id)] try: with open(filename) as f: f.seek(0, 2) while True: line = f.readline() if line: print(channel_name, line) async_to_sync(channel_layer.send)( channel_name, { "type": "send.message", "message": "微信公眾號【運(yùn)維咖啡吧】原創(chuàng) 版權(quán)所有 " + str(line) } ) else: time.sleep(0.5) except Exception as e: print(e)
這里邊主要涉及到Channels中另一個(gè)非常重要的點(diǎn): 從Channels的外部發(fā)送消息給Channel
其實(shí) 上篇文章 中檢查通道層是否能夠正常工作的時(shí)候使用的方法就是從外部給Channel通道發(fā)消息的示例,本文的具體代碼如下
async_to_sync(channel_layer.send)( channel_name, { "type": "send.message", "message": "微信公眾號【運(yùn)維咖啡吧】原創(chuàng) 版權(quán)所有 " + str(line) } )
channel_name對應(yīng)于傳遞給這個(gè)任務(wù)的channel_name,發(fā)送消息給這個(gè)名字的channel
type對應(yīng)于我們Channels的TailfConsumer類中的 send_message 方法,將方法中的 _ 換成 . 即可
message就是要發(fā)送給這個(gè)channel的具體信息
上邊是發(fā)送給單Channel的情況,如果是需要發(fā)送到Group的話需要使用如下代碼
async_to_sync(channel_layer.group_send)( group_name, { 'type': 'chat.message', 'message': '歡迎關(guān)注公眾號【運(yùn)維咖啡吧】' } )
只需要將發(fā)送單channel的 send 改為 group_send , channel_name 改為 group_name 即可
需要特別注意的是: 使用了channel layer之后一定要通過async_to_sync來異步執(zhí)行
頁面添加WebSocket支持
后端功能都已經(jīng)完成,我們最后需要添加前端頁面支持WebSocket
function connect() { if ( $('#file').val() ) { window.chatSocket = new WebSocket( 'ws://' + window.location.host + '/ws/tailf/' + $('#file').val() + '/'); chatSocket.onmessage = function(e) { var data = JSON.parse(e.data); var message = data['message']; document.querySelector('#chat-log').value += (message); // 跳轉(zhuǎn)到頁面底部 $('#chat-log').scrollTop($('#chat-log')[0].scrollHeight); }; chatSocket.onerror = function(e) { toastr.error('服務(wù)端連接異常!') }; chatSocket.onclose = function(e) { toastr.error('websocket已關(guān)閉!') }; } else { toastr.warning('請選擇要監(jiān)聽的日志文件') } }
上一篇文章 中有詳細(xì)介紹過websocket的消息類型,這里不多介紹了
至此我們一個(gè)日志監(jiān)聽頁面完成了,包含了完整的監(jiān)聽功能,但還無法終止,接著看下面的內(nèi)容
Web頁面主動斷開WebSocket
web頁面上“終止監(jiān)聽”按鈕的主要邏輯就是觸發(fā)WebSocket的onclose方法,從而可以觸發(fā)Channels后端consumer的 disconnect 方法,進(jìn)而終止Celery的循環(huán)讀取日志任務(wù)
前端頁面通過 .close() 可以直接觸發(fā)WebSocket關(guān)閉,當(dāng)然你如果直接關(guān)掉頁面的話也會觸發(fā)WebSocket的onclose消息,所以不用擔(dān)心Celery任務(wù)無法結(jié)束的問題
function goclose() { console.log(window.chatSocket); window.chatSocket.close(); window.chatSocket.onclose = function(e) { toastr.success('已終止日志監(jiān)聽!') }; }
至此我們包含完善功能的Tailf日志監(jiān)聽、終止頁面就全部完成了
總結(jié)
以上所述是小編給大家介紹的Django實(shí)現(xiàn)web端tailf日志文件功能及實(shí)例詳解,希望對大家有所幫助,如果大家有任何疑問請給我留言,小編會及時(shí)回復(fù)大家的。在此也非常感謝大家對腳本之家網(wǎng)站的支持!
如果你覺得本文對你有幫助,歡迎轉(zhuǎn)載,煩請注明出處,謝謝!
相關(guān)文章
Python利用zhdate模塊實(shí)現(xiàn)農(nóng)歷日期處理
zhdate模塊統(tǒng)計(jì)從1900年到2100年的農(nóng)歷月份數(shù)據(jù)代碼,支持農(nóng)歷和公歷之間的轉(zhuǎn)化,并且支持日期差額運(yùn)算。本文將利用這一模塊實(shí)現(xiàn)農(nóng)歷日期的處理,需要的可以參考一下2022-03-03利用Python爬蟲實(shí)現(xiàn)搶購某寶秒殺商品
這篇文章主要介紹了利用Python爬蟲實(shí)現(xiàn)搶購某寶秒殺商品,文章基于python的相關(guān)資料展開詳細(xì)的內(nèi)容介紹具有一定的參考價(jià)值,需要的小伙伴可以參考一下2022-06-06Python自動化辦公之Word文檔的創(chuàng)建與生成
這篇文章主要為大家詳細(xì)介紹了如何通過python腳本來自動生成一個(gè)?word文檔,文中的示例代碼講解詳細(xì),感興趣的小伙伴可以了解一下2022-05-05Python 多線程,threading模塊,創(chuàng)建子線程的兩種方式示例
這篇文章主要介紹了Python 多線程,threading模塊,創(chuàng)建子線程的兩種方式,結(jié)合實(shí)例形式分析了Python線程的原理與創(chuàng)建子線程的相關(guān)實(shí)現(xiàn)技巧,需要的朋友可以參考下2019-09-09Python對Excel兩列數(shù)據(jù)進(jìn)行運(yùn)算的示例代碼
本文介紹了如何使用Python中的pandas庫對Excel表格中的兩列數(shù)據(jù)進(jìn)行運(yùn)算,并提供了詳細(xì)的代碼示例,感興趣的朋友跟隨小編一起看看吧2024-04-04Python使用pyenv實(shí)現(xiàn)多環(huán)境管理
這篇文章主要介紹了Python使用pyenv實(shí)現(xiàn)多環(huán)境管理,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2021-02-02python中watchdog文件監(jiān)控與檢測上傳功能
這篇文章主要介紹了python中watchdog文件監(jiān)控與檢測上傳功能,本文給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2020-10-10