快捷導(dǎo)航

如何利用Python實(shí)現(xiàn)一個論文降重工具

更新時間：2021年07月09日 11:51:33 作者：librauee

文章去重（或叫網(wǎng)頁去重）是根據(jù)文章（或網(wǎng)頁）的文字內(nèi)容來判斷多個文章之間是否重復(fù),下面這篇文章主要給大家介紹了關(guān)于利用Python實(shí)現(xiàn)論文降重工具的相關(guān)資料,需要的朋友可以參考下

前言

時值畢業(yè)季，有不少小伙伴深受論文查重的困擾。因此我便想到做一個簡單的自動去重的工具，先看看效果，我們再對原理或是代碼實(shí)現(xiàn)做進(jìn)一步的分析。

首先需要輸入appid以及key，這些可以在百度翻譯開放平臺申請一個賬號，可以免費(fèi)申請一個賬號。接著將需要進(jìn)行降重的文本內(nèi)容復(fù)制到相應(yīng)的輸入框內(nèi)，點(diǎn)擊開始按鈕，即可輸出不同但意思相近的語句，即達(dá)到降重去重的作用。點(diǎn)擊復(fù)制按鈕便可以將得到的新文本復(fù)制到剪貼板上，點(diǎn)擊清楚按鈕可以重新輸入需要降重的文本，并且循環(huán)往復(fù)地進(jìn)行。

去重原理

論文查重的粒度是句子，兩個句子的相似度主要取決于句子包含哪些詞，以及詞在句子中的位置。句子相似度只是文字上的對比，不考慮語義上的相近。

正因如此，我們可以采取的措施便是變換句子結(jié)構(gòu)，使用近似詞替換。

為了完成這些句子的自動替換，從而達(dá)到降重的目的，這里很容易便想到利用不同語種之間的互相轉(zhuǎn)換來生成新文本。比如在本工具中，我采用了中文→英文→韓文→中文的策略，你也可以采取更長的轉(zhuǎn)換路徑，但那樣似乎會在很大程度上降低文本的可讀性。

開放平臺的使用

語句的翻譯我采用了百度翻譯開放平臺的接口，簡單地申請之后就可以獲取每個月200萬的免費(fèi)字符翻譯權(quán)限。

此API的接入方式略微有些麻煩，需要生成簽名sign并且拼接完整的url。

def translate(q,lan_from,lan_to):
    url = 'http://api.fanyi.baidu.com/api/trans/vip/translate'
    salt = random.randint(1, 65536)
    sign = hashlib.md5((str(appid)+str(q)+str(salt)+str(key)).encode('utf-8')).hexdigest()
    params = {
        'from' :lan_from,
        'to' :lan_to,
        'salt' : salt,
        'sign' : sign,
        'appid' : appid,
        'q': q
    }
    r = requests.get(url,params=params)
    txt = r.json()
    if txt.get('trans_result', -1) == -1:
        print('ERROR Code：{}'.format(txt))
        return q
    return txt['trans_result'][0]['dst']