專利名稱：一種限制惡意信息傳播的方法和系統(tǒng)的制作方法
技術(shù)領(lǐng)域：
本發(fā)明涉及互聯(lián)網(wǎng)和計算機技術(shù)領(lǐng)域，尤其涉及一種限制惡意信息傳播的方法和系統(tǒng)。
背景技術(shù)：
近年來，基于用戶生成內(nèi)容(User Generated Content，UGC)模塊的網(wǎng)絡(luò)產(chǎn)品越來越多，例如個人網(wǎng)絡(luò)空間、網(wǎng)絡(luò)社區(qū)等?；赨GC模塊的網(wǎng)絡(luò)產(chǎn)品在為用戶維護和擴展關(guān)系網(wǎng)方面，起到了重要作用，能夠在用戶之間快速傳播信息，因此，也常常被惡意用戶利用，進行廣告信息、敏感政治信息、色情信息等惡意信息的傳播。例如，A用戶的即時通訊用戶賬號被惡意用戶盜用，惡意用戶在A用戶的空間日志等UGC模塊中發(fā)表廣告，以便A用戶的B、C、D等好友能夠在A用戶的空間中看到所述廣告。目前，常常采用以下兩種方式處理惡意信息:其一，基于UGC I旲塊的網(wǎng)絡(luò)廣品的主人在看到發(fā)布在自身網(wǎng)絡(luò)廣品內(nèi)的惡意/[目息后，主動刪除。其二，基于UGC模塊的網(wǎng)絡(luò)產(chǎn)品的訪問用戶在看到發(fā)布在所述網(wǎng)絡(luò)產(chǎn)品內(nèi)的惡意信息后，對惡意信息的發(fā)布者進行舉報，后臺根據(jù)舉報信息對惡意信息進行審核并刪除?？梢姡壳暗膬煞N惡意信息處理方式，都是在惡意信息已經(jīng)實際發(fā)布后，才進行刪除，惡意信息的處理不夠及時，不能有效遏制惡意信息的傳播。

發(fā)明內(nèi)容
有鑒于此，本發(fā)明提供了一種限制惡意信息傳播的方法和系統(tǒng)，從而及時處理惡意信息，有效遏制惡意信息的傳播。本發(fā)明的技術(shù)方案具體是這樣實現(xiàn)的:一種限制惡意信息傳播的方法，該方法包括:存儲惡意信息種子，所述惡意信息種子根據(jù)惡意用戶在基于用戶生成內(nèi)容UGC模塊的網(wǎng)絡(luò)產(chǎn)品上的登錄信息、和/或惡意信息的內(nèi)容、和/或惡意用戶的行為信息得到；接收待發(fā)布信息，將所述待發(fā)布信息的發(fā)送用戶在基于UGC模塊的網(wǎng)絡(luò)產(chǎn)品上的登錄信息、和/或所述待發(fā)布信息的內(nèi)容、和/或所述發(fā)送用戶的行為信息，與所述惡意信息種子進行匹配，根據(jù)匹配結(jié)果，對所述匹配結(jié)果滿足預(yù)定條件的待發(fā)布信息不予發(fā)布、或提醒所述待發(fā)布信息的接收用戶進行惡意信息處理。一種限制惡意信息傳播的系統(tǒng)，該系統(tǒng)包括存儲模塊和惡意信息處理模塊；所述存儲模塊，用于存儲惡意信息種子，所述惡意信息種子根據(jù)惡意用戶在基于用戶生成內(nèi)容UGC模塊的網(wǎng)絡(luò)產(chǎn)品上的登錄信息、和/或惡意信息的內(nèi)容、和/或惡意用戶的行為信息得到；所述惡意信息處理模塊，用于接收待發(fā)布信息，將所述待發(fā)布信息的發(fā)送用戶在基于UGC模塊的網(wǎng)絡(luò)產(chǎn)品上的登錄信息、和/或所述待發(fā)布信息的內(nèi)容、和/或所述發(fā)送用戶的行為信息，與所述惡意信息種子進行匹配，根據(jù)匹配結(jié)果，對所述匹配結(jié)果滿足預(yù)定條件的待發(fā)布信息不予發(fā)布、或提醒所述待發(fā)布信息的接收用戶進行惡意信息處理。由上述技術(shù)方案可見，本發(fā)明預(yù)先存儲惡意信息種子，其中的惡意信息種子根據(jù)惡意用戶在基于用戶生成內(nèi)容UGC模塊的網(wǎng)絡(luò)產(chǎn)品上的登錄信息、和/或惡意信息的內(nèi)容、和/或惡意用戶的行為信息得到，通過將所述待發(fā)布信息的發(fā)送用戶在基于UGC模塊的網(wǎng)絡(luò)產(chǎn)品上的登錄信息、和/或所述待發(fā)布信息的內(nèi)容、和/或所述發(fā)送用戶的行為信息，與所述惡意信息種子進行匹配，根據(jù)匹配結(jié)果，對所述匹配結(jié)果滿足預(yù)定條件的待發(fā)布信息不予發(fā)布、或提醒所述待發(fā)布信息的接收用戶進行惡意信息處理，可以在惡意信息發(fā)布前，及時識別出惡意信息，從而直接對其不予發(fā)布或者提醒接收用戶進行相應(yīng)處理，能夠提高處理惡意信息的及時性，有效遏制惡意信息的傳播。


圖1是本發(fā)明提供的限制惡意信息傳播的方法流程圖。圖2是本發(fā)明提供的限制惡意信息傳播的系統(tǒng)組成示意圖。
具體實施例方式圖1是本發(fā)明提供的限制惡意信息傳播的方法流程圖。如圖1所示，該流程包括:步驟101，存儲惡意信息種子，所述惡意信息種子根據(jù)惡意用戶在基于用戶生成內(nèi)容UGC模塊的網(wǎng)絡(luò)產(chǎn)品上的登錄信息、和/或惡意信息的內(nèi)容、和/或惡意用戶的行為信息得到。步驟102，接收待發(fā)布信息，將所述待發(fā)布信息的發(fā)送用戶在基于UGC模塊的網(wǎng)絡(luò)產(chǎn)品上的登錄信息、和/或所述待發(fā)布信息的內(nèi)容、和/或所述發(fā)送用戶的行為信息，與所述惡意信息種子進行匹配。步驟103，根據(jù)匹配結(jié)果，對所述匹配結(jié)果滿足預(yù)定條件的待發(fā)布信息不予發(fā)布、或提醒所述待發(fā)布信息的接收用戶進行惡意信息處理。其中的惡意信息種子，可以通過對已確定的惡意信息及其發(fā)送用戶的登錄信息和行為信息等相關(guān)信息進行分析得到，系統(tǒng)在以往的惡意信息處理過程中，會積累一定量的惡意信息，例如根據(jù)用戶舉報然后通過人工審核確定的惡意信息，系統(tǒng)還會發(fā)現(xiàn)這些惡意信息發(fā)送用戶之間的一些共同的、且區(qū)別于正常用戶的特征，因此，可以根據(jù)這些惡意信息的內(nèi)容、以及惡意信息發(fā)送用戶區(qū)別于正常用戶的特征，確定出惡意信息種子。典型地，所述惡意信息種子具體可以包括:惡意用戶在基于UGC模塊的網(wǎng)絡(luò)產(chǎn)品上登錄的IP地址和/或用戶標(biāo)識ID、和/或惡意信息的內(nèi)容、和/或惡意用戶與正常用戶相區(qū)別的行為信息。典型地，所述惡意用戶與正常用戶相區(qū)別的行為信息具體可以包括:異地登錄、和/或提交的待發(fā)布信息內(nèi)容中帶有關(guān)鍵字或超鏈接或聯(lián)系方式、和/或查詢虛擬貨幣信息、和/或提交待發(fā)布信息的頻率大于預(yù)設(shè)閾值、和/或?qū)δ吧脩舻脑L問頻率滿足預(yù)定條件，其中，所述陌生用戶為與所述待發(fā)布信息的發(fā)送用戶之間的關(guān)系鏈節(jié)點距離大于預(yù)設(shè)閾值的用戶。
其中，關(guān)系鏈節(jié)點距離可以根據(jù)兩個用戶之間建立聯(lián)系最少需借助的用戶數(shù)、和/或用戶之間關(guān)系的親密程度等來表示，例如，如果用戶A與用戶B是好友關(guān)系，用戶B與用戶C是好友關(guān)系，同時用戶A和用戶C不是好友關(guān)系，可以將用戶A與用戶B的關(guān)系鏈節(jié)點距離設(shè)為0，因為用戶A與用戶C需要最少需要借助用戶B才能建立聯(lián)系，所以將用戶A與用戶C的關(guān)系鏈節(jié)點距離設(shè)為I。本發(fā)明對將待發(fā)布信息及其發(fā)送用戶的相關(guān)信息與惡意信息種子進行匹配，根據(jù)匹配結(jié)果對待發(fā)布信息進行處理，具體地，對所述匹配結(jié)果滿足預(yù)定條件的待發(fā)布信息不予發(fā)布、或提醒所述待發(fā)布信息的接收用戶進行惡意信息處理，從而及時處理惡意信息，遏制惡意信息的傳播。至于匹配結(jié)果不滿足所述預(yù)定條件的待發(fā)布信息，則予以發(fā)布。其中，可以對匹配結(jié)果滿足預(yù)定條件的待發(fā)布信息均不予發(fā)布，也可以均提醒所述待發(fā)布信息的接收用戶進行惡意信息處理，還可以在匹配度大于第一預(yù)定閾值時，對所述待發(fā)布信息不予發(fā)布，在匹配度大于第二預(yù)定閾值、且小于或等于第一預(yù)定閾值時，提醒所述待發(fā)布信息的接收用戶進行惡意信息處理，從而在基本無疑地確定待發(fā)布信息為惡意信息時(即匹配度大于第一預(yù)定閾值)，直接對其不予發(fā)布，避免對接收用戶的影響，在待發(fā)布信息有較大可能是惡意信息時(即匹配度大于第二預(yù)定閾值且小于或等于第一預(yù)定閾值)時，提醒用戶進行處理，從而使得用戶可以及時確定所述待發(fā)布信息是否為惡意信息，還可以進行相應(yīng)的處理，從而遏制其傳播。其中，提醒用戶進行惡意信息處理具體可以包括:提醒待發(fā)布信息的接收用戶修改登錄密碼、或刪除已發(fā)布成功的所述待發(fā)布信息、或提醒所述接收用戶確定是否允許發(fā)布所述待發(fā)布信息、或提醒所述接收用戶禁止所述待發(fā)布信息的發(fā)送用戶向所述接收用戶發(fā)布信息。其中，后臺系統(tǒng)在將待發(fā)布信息與所述惡意信息種子進行匹配，并根據(jù)匹配結(jié)果進行相應(yīng)處理的過程中，對于所述待發(fā)布信息的發(fā)送用戶，可以按照待發(fā)布信息為非惡意信息的發(fā)布過程對其返回提示消息，例如，可以向所述發(fā)送用戶返回信息發(fā)布成功的提示消息，則在發(fā)送用戶看來，惡意信息已成功發(fā)布，而在接收用戶看來，惡意信息已被攔截或者已根據(jù)提醒及時進行了處理。根據(jù)本發(fā)明提供的方法，本發(fā)明還提供了一種限制惡意信息傳播的系統(tǒng)，具體請參見圖2。圖2是本發(fā)明提供的限制惡意信息傳播的系統(tǒng)組成示意圖。如圖2所示，該系統(tǒng)包括存儲模塊201和惡意信息處理模塊202。存儲模塊201，用于存儲惡意信息種子，所述惡意信息種子根據(jù)惡意用戶在基于用戶生成內(nèi)容UGC模塊的網(wǎng)絡(luò)產(chǎn)品上的登錄信息、和/或惡意信息的內(nèi)容、和/或惡意用戶的行為信息得到。惡意信息處理模塊202，用于接收待發(fā)布信息，將所述待發(fā)布信息的發(fā)送用戶在基于UGC模塊的網(wǎng)絡(luò)產(chǎn)品上的登錄信息、和/或所述待發(fā)布信息的內(nèi)容、和/或所述發(fā)送用戶的行為信息，與所述惡意信息種子進行匹配，根據(jù)匹配結(jié)果，對所述匹配結(jié)果滿足預(yù)定條件的待發(fā)布信息不予發(fā)布、或提醒所述待發(fā)布信息的接收用戶進行惡意信息處理。存儲模塊201存儲的惡意信息種子可以包括:惡意用戶在基于UGC模塊的網(wǎng)絡(luò)產(chǎn)品上登錄的IP地址和/或用戶標(biāo)識ID、和/或惡意信息的內(nèi)容、和/或惡意用戶與正常用戶相區(qū)別的行為信息。存儲模塊201存儲的所述行為信息包括:異地登錄、和/或提交的待發(fā)布信息內(nèi)容中帶有關(guān)鍵字或超鏈接或聯(lián)系方式、和/或查詢虛擬貨幣信息、和/或提交待發(fā)布信息的頻率大于預(yù)設(shè)閾值、和/或?qū)δ吧脩舻脑L問頻率滿足預(yù)定條件，其中，所述陌生用戶為與所述待發(fā)布信息的發(fā)送用戶之間的關(guān)系鏈節(jié)點距離大于預(yù)設(shè)閾值。惡意信息處理模塊202可以包括匹配模塊和結(jié)果處理模塊。所述匹配模塊，可以用于接收待發(fā)布信息，將所述待發(fā)布信息的發(fā)送用戶在基于UGC模塊的網(wǎng)絡(luò)產(chǎn)品上的登錄信息、和/或所述待發(fā)布信息的內(nèi)容、和/或所述發(fā)送用戶的行為信息，與所述惡意信息種子進行匹配。所述結(jié)果處理模塊，可以用于在所述匹配模塊得到的匹配度大于第一預(yù)定閾值時，對所述待發(fā)布信息不予發(fā)布，在所述匹配模塊得到的匹配度大于第二預(yù)定閾值、且小于或等于第一預(yù)定閾值時，提醒所述待發(fā)布信息的接收用戶進行惡意信息處理。所述結(jié)果處理模塊，可以用于在所述匹配模塊得到的匹配度大于第二預(yù)定閾值、且小于或等于第一預(yù)定閾值時，提醒所述待發(fā)布信息的接收用戶修改所述接收用戶的登錄密碼、或刪除已發(fā)布成功的所述待發(fā)布信息、或確定是否允許發(fā)布所述待發(fā)布信息、或禁止所述待發(fā)布信息的發(fā)送用戶向所述接收用戶發(fā)布信息。該系統(tǒng)還可以包括信息反饋模塊。所述信息反饋模塊，用于按照待發(fā)布信息為非惡意信息的發(fā)布過程，對所述待發(fā)布信息的發(fā)送用戶返回提示信息。可見，通過本發(fā)明，可以在惡意信息發(fā)布前，及時識別出惡意信息，從而直接對其不予發(fā)布或者提醒接收用戶進行相應(yīng)處理，能夠提高處理惡意信息的及時性，有效遏制惡意信息的傳播。以上所述僅為本發(fā)明的較佳實施例而已，并不用以限制本發(fā)明，凡在本發(fā)明的精神和原則之內(nèi)，所做的任何修改、等同替換、改進等，均應(yīng)包含在本發(fā)明保護的范圍之內(nèi)。
權(quán)利要求
1.一種限制惡意信息傳播的方法,其特征在于,該方法包括: 存儲惡意信息種子，所述惡意信息種子根據(jù)惡意用戶在基于用戶生成內(nèi)容UGC模塊的網(wǎng)絡(luò)產(chǎn)品上的登錄信息、和/或惡意信息的內(nèi)容、和/或惡意用戶的行為信息得到； 接收待發(fā)布信息，將所述待發(fā)布信息的發(fā)送用戶在基于UGC模塊的網(wǎng)絡(luò)產(chǎn)品上的登錄信息、和/或所述待發(fā)布信息的內(nèi)容、和/或所述發(fā)送用戶的行為信息，與所述惡意信息種子進行匹配，根據(jù)匹配結(jié)果，對所述匹配結(jié)果滿足預(yù)定條件的待發(fā)布信息不予發(fā)布、或提醒所述待發(fā)布信息的接收用戶進行惡意信息處理。
2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述惡意信息種子包括: 惡意用戶在基于UGC模塊的網(wǎng)絡(luò)產(chǎn)品上登錄的IP地址和/或用戶標(biāo)識ID、和/或惡意信息的內(nèi)容、和/或惡意用戶與正常用戶相區(qū)別的行為信息。
3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述惡意用戶與正常用戶相區(qū)別的行為信息包括: 異地登錄、和/或提交的待發(fā)布信息內(nèi)容中帶有關(guān)鍵字或超鏈接或聯(lián)系方式、和/或查詢虛擬貨幣信息、和/或提交待發(fā)布信息的頻率大于預(yù)設(shè)閾值、和/或?qū)δ吧脩舻脑L問頻率滿足預(yù)定條件，其中，所述陌生用戶為與所述待發(fā)布信息的發(fā)送用戶之間的關(guān)系鏈節(jié)點距離大于預(yù)設(shè)閾值的用戶。
4.根據(jù)權(quán)利要求1所述的方法，其特征在于，對所述匹配結(jié)果滿足預(yù)定條件的待發(fā)布信息不予發(fā)布、或提醒所述待發(fā)布信息的接收用戶進行惡意信息處理包括: 在匹配度大于第一預(yù)定閾值時，對所述待發(fā)布信息不予發(fā)布； 在匹配度大于第二預(yù)定閾值、且小于或等于第一預(yù)定閾值時，提醒所述待發(fā)布信息的接收用戶進行惡意信息處理。
5.根據(jù)權(quán)利要求4所述的方法，其特征在于，所述進行惡意信息處理包括: 修改所述接收用戶的登錄密碼、或刪除已發(fā)布成功的所述待發(fā)布信息、或確定是否允許發(fā)布所述待發(fā)布信息、或禁止所述待發(fā)布信息的發(fā)送用戶向所述接收用戶發(fā)布信息。
6.根據(jù)權(quán)利要求1所述的方法，其特征在于，該方法還包括: 按照待發(fā)布信息為非惡意信息的發(fā)布過程，對所述待發(fā)布信息的發(fā)送用戶返回提示信肩、O
7.一種限制惡意信息傳播的系統(tǒng)，其特征在于，該系統(tǒng)包括存儲模塊和惡意信息處理模塊； 所述存儲模塊，用于存儲惡意信息種子，所述惡意信息種子根據(jù)惡意用戶在基于用戶生成內(nèi)容UGC模塊的網(wǎng)絡(luò)產(chǎn)品上的登錄信息、和/或惡意信息的內(nèi)容、和/或惡意用戶的行為信息得到； 所述惡意信息處理模塊，用于接收待發(fā)布信息，將所述待發(fā)布信息的發(fā)送用戶在基于UGC模塊的網(wǎng)絡(luò)產(chǎn)品上的登錄信息、和/或所述待發(fā)布信息的內(nèi)容、和/或所述發(fā)送用戶的行為信息，與所述惡意信息種子進行匹配，根據(jù)匹配結(jié)果，對所述匹配結(jié)果滿足預(yù)定條件的待發(fā)布信息不予發(fā)布、或提醒所述待發(fā)布信息的接收用戶進行惡意信息處理。
8.根據(jù)權(quán)利要求7所述的系統(tǒng)，其特征在于， 所述存儲模塊存儲的惡意信息種子包括:惡意用戶在基于UGC模塊的網(wǎng)絡(luò)產(chǎn)品上登錄的IP地址和/或用戶標(biāo)識ID、和/或惡意信息的內(nèi)容、和/或惡意用戶與正常用戶相區(qū)別的行為信息。
9.根據(jù)權(quán)利要求8所述的系統(tǒng)，其特征在于， 所述存儲模塊存儲的所述行為信息包括:異地登錄、和/或提交的待發(fā)布信息內(nèi)容中帶有關(guān)鍵字或超鏈接或聯(lián)系方式、和/或查詢虛擬貨幣信息、和/或提交待發(fā)布信息的頻率大于預(yù)設(shè)閾值、和/或?qū)δ吧脩舻脑L問頻率滿足預(yù)定條件，其中，所述陌生用戶為與所述待發(fā)布信息的發(fā)送用戶之間的關(guān)系鏈節(jié)點距離大于預(yù)設(shè)閾值。
10.根據(jù)權(quán)利要求7所述的系統(tǒng)，其特征在于，所述惡意信息處理模塊包括匹配模塊和結(jié)果處理模塊； 所述匹配模塊，用于接收待發(fā)布信息，將所述待發(fā)布信息的發(fā)送用戶在基于UGC模塊的網(wǎng)絡(luò)產(chǎn)品上的登錄信息、和/或所述待發(fā)布信息的內(nèi)容、和/或所述發(fā)送用戶的行為信息，與所述惡意信息種子進行匹配； 所述結(jié)果處理模塊，用于在所述匹配模塊得到的匹配度大于第一預(yù)定閾值時，對所述待發(fā)布信息不予發(fā)布，在所述匹配模塊得到的匹配度大于第二預(yù)定閾值、且小于或等于第一預(yù)定閾值時，提醒所述待發(fā)布信息的接收用戶進行惡意信息處理。
11.根據(jù)權(quán)利要求10所述的系統(tǒng)，其特征在于， 所述結(jié)果處理模塊，用于在所述匹配模塊得到的匹配度大于第二預(yù)定閾值、且小于或等于第一預(yù)定閾值時，提醒所述待發(fā)布信息的接收用戶修改所述接收用戶的登錄密碼、或刪除已發(fā)布成功的所述待發(fā)布信息、或確定是否允許發(fā)布所述待發(fā)布信息、或禁止所述待發(fā)布信息的發(fā)送用戶向所述接收用戶發(fā)布信息。
12.根據(jù)權(quán)利要求7所述的系統(tǒng)，其特征在于，該系統(tǒng)還包括信息反饋模塊； 所述信息反饋模塊，用于按照待發(fā)布信息為非惡意信息的發(fā)布過程，對所述待發(fā)布信息的發(fā)送用戶返回提示信息。
全文摘要
本發(fā)明實施例公開了一種限制惡意信息傳播的方法和系統(tǒng)。該方法包括存儲惡意信息種子，所述惡意信息種子根據(jù)惡意用戶在基于用戶生成內(nèi)容UGC模塊的網(wǎng)絡(luò)產(chǎn)品上的登錄信息、和/或惡意信息的內(nèi)容、和/或惡意用戶的行為信息得到；接收待發(fā)布信息，將所述待發(fā)布信息的發(fā)送用戶在基于UGC模塊的網(wǎng)絡(luò)產(chǎn)品上的登錄信息、和/或所述待發(fā)布信息的內(nèi)容、和/或所述發(fā)送用戶的行為信息，與所述惡意信息種子進行匹配，根據(jù)匹配結(jié)果，對所述匹配結(jié)果滿足預(yù)定條件的待發(fā)布信息不予發(fā)布、或提醒所述待發(fā)布信息的接收用戶進行惡意信息處理。應(yīng)用本發(fā)明能夠及時處理惡意信息，有效遏制惡意信息的傳播。
文檔編號H04L29/06GK103166920SQ20111041397
公開日2013年6月19日 申請日期2011年12月13日 優(yōu)先權(quán)日2011年12月13日
發(fā)明者鄭志昊, 梁柱, 陳瑜, 劉鎮(zhèn)偉 申請人:騰訊科技(深圳)有限公司