C# 撒列實現(xiàn)關(guān)鍵字過濾的實例
一直對搜索、過濾很好奇,覺得他們很有技術(shù)含量,只有非常NB的人才能做。很想知道他們的原理,實現(xiàn)這樣的功能,設(shè)計是不是必須得非常NB非常奇特,代碼是不是要寫得非常好,性能非常高??傊@一切都不是我這樣級別的人能做的。直到我看了《編程珠璣(第二版)》中的這么一段文字:
“假定我們可以在執(zhí)行搜索之前對文本內(nèi)容進(jìn)行預(yù)處理,那么我們可以建立一個撒列表(或者搜索樹),為文檔中的每個不同的單詞建立索引,并為每個單詞的每次出現(xiàn)存儲一個鏈表,這樣的逆向索引使得程序可以很快的找到給定的單詞,為了查找短語,我們可以對其中包含的每個單詞的鏈表進(jìn)行交叉,但實現(xiàn)起來比較復(fù)雜,速度可能會很慢。(不過一些網(wǎng)頁搜索引擎用的就是這樣的方法)”
思路就這么簡單,我靠!連有的搜索引擎也用這種思路。這種撒列的方式處理關(guān)鍵字過濾速度的確是蠻快,10000個字組織成一個撒列表也就幾毫秒,只要你預(yù)分配的內(nèi)存較好,基本上沒什么操作,就是向內(nèi)存中填數(shù)據(jù)。在撒列表中判斷一個鍵是否存在的時間復(fù)雜度為O(1),其實還可以自己重寫Dictionary<TKey, TValue>,關(guān)鍵字過濾的效率可能會更好點。
實現(xiàn)的思路比較簡單:
1:處理關(guān)鍵字,生成一個關(guān)鍵字字典表
2:處理要過濾的文本,同樣生成一個字典表
3:將文本,兩個字典表三者進(jìn)行比對
現(xiàn)在來測試下面一段文字(我上篇博客中的一段文字):
"看云風(fēng)博客關(guān)于解決12306并發(fā)問題的啟發(fā):我現(xiàn)在做駿卡接口,可能出現(xiàn)并發(fā)問題,就是一個訂單可能向我們的接口發(fā)送多個請求,而我現(xiàn)在做的方法是去數(shù)據(jù)庫中對應(yīng)的表驗證,看訂單是否存在,如果存在就提示一下,如果不存在按流程走,但是這個樣每來一個訂單我都需要去數(shù)據(jù)庫查,如果我在內(nèi)存中維護(hù)一個訂單集合,這樣就能很快解決判斷訂單是否存在的問題,慣性思維太嚴(yán)重了,什么都去數(shù)據(jù)庫查,這樣的性能是最差的,其實很多問題在內(nèi)存中就可以搞定的,最近還有一個特別感受,不要做井底之蛙,多看牛人的東西收獲真的比自己埋頭寫代碼進(jìn)步快很多,其實很多時候我寫的程序性能差,效率低都是因為方法的原因,沒有找到好的方法,沒有靈光一閃的感覺,用了最爛的方法解決問題"
測試代碼:
class Program
{
static void Main(string[] args)
{
string keys = "云風(fēng)博客|并發(fā)問題|最爛的方法|內(nèi)存|集合|數(shù)據(jù)庫|性能";
using (new OperationTimer("keyWords:"))
{
WordSearch ws = new WordSearch(keys);
string str = "看云風(fēng)博客關(guān)于解決12306并發(fā)問題的啟發(fā):我現(xiàn)在做駿卡接口,可能出現(xiàn)并發(fā)問題,就是一個訂單可能向我們的接口發(fā)送多個請求,而我現(xiàn)在做的方法是去數(shù)據(jù)庫中對應(yīng)的表驗證,看訂單是否存在,如果存在就提示一下,如果不存在按流程走,但是這個樣每來一個訂單我都需要去數(shù)據(jù)庫查,如果我在內(nèi)存中維護(hù)一個訂單集合,這樣就能很快解決判斷訂單是否存在的問題,慣性思維太嚴(yán)重了,什么都去數(shù)據(jù)庫查,這樣的性能是最差的,其實很多問題在內(nèi)存中就可以搞定的,最近還有一個特別感受,不要做井底之蛙,多看牛人的東西收獲真的比自己埋頭寫代碼進(jìn)步快很多,其實很多時候我寫的程序性能差,效率低都是因為方法的原因,沒有找到好的方法,沒有靈光一閃的感覺,用了最爛的方法解決問題";
ConsoleColor color = Console.ForegroundColor;
Console.ForegroundColor = ConsoleColor.Red;
Console.WriteLine("原文:");
Console.ForegroundColor = color;
Console.WriteLine(str);
Console.WriteLine();
Console.ForegroundColor = ConsoleColor.Red;
Console.WriteLine("過濾后:");
Console.ForegroundColor = color;
Console.WriteLine(ws.Filter(str));
}
Console.Read();
}
}
輸出結(jié)果截圖:
另外送上一個簡單實用的代碼運行時間測試類,測試某段代碼的運行時間可是很方便的哦
using System;
using System.Diagnostics;
namespace WordFilter
{
/// <summary>
/// 測試代碼運行時間幫組類
/// </summary>
public class OperationTimer : IDisposable
{
private string Text;
private Int32 collectCount;
private Stopwatch stopWatch;
public OperationTimer(string txt)
{
PerpareForOperation();
this.Text = txt;
collectCount = GC.CollectionCount(0);
stopWatch = new Stopwatch();
stopWatch.Start();
}
public void Dispose()
{
stopWatch.Stop();
Console.WriteLine("{0} Milliseconds (GCs={1}) {2}", stopWatch.ElapsedMilliseconds, GC.CollectionCount(0) - collectCount, Text);
}
private static void PerpareForOperation()
{
GC.Collect();
GC.WaitForPendingFinalizers();
GC.Collect();
}
}
}
實現(xiàn)撒列的部分核心代碼:
public Dictionary<char, IList<char>> HandleKeyWords(IEnumerable<string> text, int size)
{
Dictionary<char, IList<char>> dicList = new Dictionary<char, IList<char>>(size);//預(yù)分配非常關(guān)鍵
int len, i;
foreach (string s in text)
{
if (s == string.Empty)
{
continue;
}
len = s.Length - 1;
for (i = 0; i < len; i++)
{
if (dicList.ContainsKey(s[i]))
{
if (dicList[s[i]] != null && !dicList[s[i]].Contains(s[i + 1]))
{
dicList[s[i]].Add(s[i + 1]);
}
}
else
{
dicList.Add(s[i], new List<char>(2) { s[i + 1] });
}
}
if (!dicList.ContainsKey(s[len]))
{
dicList.Add(s[len], null);
}
}
return dicList;
}
我也想貼出全部代碼,但是還有一些BUG,功能還有待完善,完善一些了會貼出源碼的,在截一張圖給大家看看
相關(guān)文章
c#封裝百度web服務(wù)geocoding api 、百度坐標(biāo)轉(zhuǎn)換示例
這篇文章主要介紹了c#封裝百度Web服務(wù)geocoding api 、百度坐標(biāo)轉(zhuǎn)換,需要的朋友可以參考下2014-04-04C#用Topshelf創(chuàng)建Windows服務(wù)的步驟分享
這篇文章主要給大家介紹了關(guān)于C#如何利用Topshelf創(chuàng)建Windows服務(wù)的相關(guān)資料,文中通過示例代碼介紹的非常詳細(xì),對大家學(xué)習(xí)或者使用C#具有一定的參考學(xué)習(xí)價值,需要的朋友們下面來一起學(xué)習(xí)學(xué)習(xí)吧2020-05-05c# 9.0新特性nint和Pattern matching的使用方法
這篇文章主要介紹了c# 9.0新特性nint和Pattern matching的使用方法,文中講解非常細(xì)致,幫助你更好的學(xué)習(xí)c# 9.0,有需求的朋友可以參考下2020-06-06