專利名稱：一種可擴(kuò)展的舉報(bào)不良信息的方法與系統(tǒng)的制作方法
技術(shù)領(lǐng)域：
本發(fā)明涉及一種可擴(kuò)展的舉報(bào)不良信息的方法與系統(tǒng)，屬于網(wǎng)絡(luò)通信領(lǐng)域。
背景技術(shù)：
隨著社交網(wǎng)絡(luò)的不斷發(fā)展，網(wǎng)絡(luò)上的傳播信息越來越多樣化，不良信息也趁虛 而入。例如，各大媒體曝光的各種情色類的視頻、圖片、文學(xué)等“低俗內(nèi)容”，賭博、 造假、詐騙等各類違反法律和道德的內(nèi)容，這些信息給廣大社交網(wǎng)站用戶造成了極大的 不良影響。為了杜絕低俗信息，給廣大社交網(wǎng)站用戶創(chuàng)建一個(gè)綠色、健康、和諧的社交 網(wǎng)站網(wǎng)絡(luò)環(huán)境，許多網(wǎng)站服務(wù)商都開通了各種用戶不良信息舉報(bào)通道。例如，用戶可以 通過撥打社交網(wǎng)站網(wǎng)絡(luò)監(jiān)督電話，發(fā)送電子郵件或者進(jìn)入特定的社交網(wǎng)站舉報(bào)頁面直接 舉報(bào)不良信息等途徑進(jìn)行舉報(bào)。但是，這些舉報(bào)途徑的舉報(bào)速度慢，處理效率低，很難 有效、及時(shí)地維護(hù)良好的社交網(wǎng)絡(luò)環(huán)境和杜絕低俗、違法的不良信息。

發(fā)明內(nèi)容
本發(fā)明的目的在于，提供一種可擴(kuò)展的舉報(bào)不良信息的方法與系統(tǒng)，它為社交 網(wǎng)站中具有傳播性的公共信息和交互內(nèi)容增加舉報(bào)入口，可擴(kuò)展性強(qiáng)，用戶通過舉報(bào)入 口向網(wǎng)站服務(wù)商即時(shí)舉報(bào)不良信息，有效地防止了陌生人、廣告商的不良信息騷擾，同 時(shí)對(duì)被舉報(bào)信息進(jìn)行智能分級(jí)，提高了對(duì)不良信息處理的效率。為解決上述技術(shù)問題，本發(fā)明采用如下的技術(shù)方案一種可擴(kuò)展的舉報(bào)不良信 息的方法，包括以下步驟
Si，用戶通過舉報(bào)入口舉報(bào)不良信息；
S2，web服務(wù)器接收并分析判斷被舉報(bào)信息是否符合預(yù)設(shè)的成為不良信息的條件； S3，web服務(wù)器對(duì)被舉報(bào)的不良信息進(jìn)行智能分級(jí)。所述步驟Sl中，客戶端為具有傳播性的公共信息和交互內(nèi)容增加舉報(bào)入口。其 中，具有傳播性的公共信息主要是指，用戶發(fā)表的照片、日記、轉(zhuǎn)帖等內(nèi)容；交互內(nèi)容 主要是指，陌生人、廣告商等向用戶發(fā)送的未知內(nèi)容。前述的一種可擴(kuò)展的舉報(bào)不良信息的方法中，所述方法還包括web服務(wù)器將 網(wǎng)站服務(wù)商預(yù)設(shè)的成為不良信息的條件存儲(chǔ)在數(shù)據(jù)庫中。前述的一種可擴(kuò)展的舉報(bào)不良信息的方法中，所述預(yù)設(shè)的成為不良信息的條件 包括被舉報(bào)信息包含預(yù)設(shè)的不良關(guān)鍵詞或者被舉報(bào)次數(shù)達(dá)到預(yù)設(shè)的次數(shù)限制。前述的一種可擴(kuò)展的舉報(bào)不良信息的方法中，所述步驟S3中對(duì)被舉報(bào)的不良信 息進(jìn)行智能分級(jí)的方法包括web服務(wù)器根據(jù)被舉報(bào)信息中所包含的關(guān)鍵詞性質(zhì)，對(duì)不 良信息進(jìn)行智能分級(jí)。所述關(guān)鍵詞性質(zhì)主要分為違反法律(國家明令禁止的)，違反道德(違背社 會(huì)主義精神文明建設(shè)要求、違背中華民族優(yōu)良文化傳統(tǒng)與習(xí)慣以及其它違背社會(huì)公德的 各類信息)，破壞信息安全(含有病毒、木馬、后門的高風(fēng)險(xiǎn)類信息)和其他(被舉報(bào)次數(shù)達(dá)到預(yù)設(shè)的次數(shù)限制)四類。將不良信息分為4級(jí)違反法律為1級(jí)，違反道德為 2級(jí)，破壞信息安全為3級(jí)，其他為4級(jí)。服務(wù)器對(duì)不良信息進(jìn)行智能分級(jí)處理后，網(wǎng)站服務(wù)商采用人工手動(dòng)進(jìn)行核對(duì)， 這樣可以提高對(duì)不良信息審核的效率。人工審核后，若被舉報(bào)信息被確認(rèn)為不良信息， 審核員則清理該舉報(bào)信息，否則撤銷對(duì)此信息的舉報(bào)。處理完畢后，網(wǎng)站服務(wù)商還可以 將不良信息的源地址信息通報(bào)給其他網(wǎng)站服務(wù)商，以進(jìn)一步遏制不良信息的傳播。前述的一種可擴(kuò)展的舉報(bào)不良信息的方法中，所述方法還包括web服務(wù)器根 據(jù)當(dāng)前信息的不良程度，對(duì)不良信息發(fā)布者進(jìn)行處理。對(duì)不良信息發(fā)布者根據(jù)不良信息 的智能分級(jí)情況，采取1級(jí)徹底刪除，2級(jí)隱藏內(nèi)容，3級(jí)禁止動(dòng)態(tài)和4級(jí)記錄的措施。實(shí)現(xiàn)前述方法的一種可擴(kuò)展的舉報(bào)不良信息的系統(tǒng)，包括 舉報(bào)入口模塊，用于用戶通過舉報(bào)入口舉報(bào)不良信息；
判斷模塊，用于web服務(wù)器接收并分析判斷被舉報(bào)信息是否符合預(yù)設(shè)的成為不良信 息的條件；
智能分級(jí)模塊，用于web服務(wù)器對(duì)被舉報(bào)的不良信息進(jìn)行智能分級(jí)； 其中，舉報(bào)入口模塊、判斷模塊和智能分級(jí)模塊順次連接?？蛻舳藶榫哂袀鞑バ缘墓残畔⒑徒换?nèi)容增加舉報(bào)入口。其中，具有傳播性 的公共信息主要是指，用戶發(fā)表的照片、日記、轉(zhuǎn)帖等內(nèi)容；交互內(nèi)容主要是指，陌生 人、廣告商等向用戶發(fā)送的未知內(nèi)容。前述的一種可擴(kuò)展的舉報(bào)不良信息的系統(tǒng)中，所述系統(tǒng)還包括條件存儲(chǔ)模塊， 用于web服務(wù)器將網(wǎng)站服務(wù)商預(yù)設(shè)的成為不良信息的條件存儲(chǔ)在數(shù)據(jù)庫中；條件存儲(chǔ)模 塊與判斷模塊連接。前述的一種可擴(kuò)展的舉報(bào)不良信息的系統(tǒng)中，所述預(yù)設(shè)的成為不良信息的條件 包括被舉報(bào)信息包含預(yù)設(shè)的不良關(guān)鍵詞或者被舉報(bào)次數(shù)達(dá)到預(yù)設(shè)的次數(shù)限制。所述智能分級(jí)模塊根據(jù)被舉報(bào)信息中所包含的關(guān)鍵詞性質(zhì)進(jìn)行智能分級(jí)。所述 關(guān)鍵詞性質(zhì)主要分為違反法律(國家明令禁止的)，違反道德(違背社會(huì)主義精神文 明建設(shè)要求、違背中華民族優(yōu)良文化傳統(tǒng)與習(xí)慣以及其它違背社會(huì)公德的各類信息)， 破壞信息安全(含有病毒、木馬、后門的高風(fēng)險(xiǎn)類信息)和其他(被舉報(bào)次數(shù)達(dá)到預(yù)設(shè) 的次數(shù)限制)四類。將不良信息分為4級(jí)違反法律為1級(jí)，違反道德為2級(jí)，破壞信 息安全為3級(jí)，其他為4級(jí)。服務(wù)器對(duì)不良信息進(jìn)行智能分級(jí)處理后，網(wǎng)站服務(wù)商采用人工手動(dòng)進(jìn)行核對(duì)， 這樣可以提高對(duì)不良信息審核的效率。人工審核后，若被舉報(bào)信息被確認(rèn)為不良信息， 審核員則清理該舉報(bào)信息，否則撤銷對(duì)此信息的舉報(bào)。處理完畢后，網(wǎng)站服務(wù)商還可以 將不良信息的源地址信息通報(bào)給其他網(wǎng)站服務(wù)商，以進(jìn)一步遏制不良信息的傳播。前述的一種可擴(kuò)展的舉報(bào)不良信息的系統(tǒng)中，所述系統(tǒng)還包括處理模塊，用于 web服務(wù)器根據(jù)當(dāng)前信息的不良程度，對(duì)不良信息發(fā)布者進(jìn)行處理。對(duì)不良信息發(fā)布者 根據(jù)不良信息的智能分級(jí)情況，采取1級(jí)徹底刪除，2級(jí)隱藏內(nèi)容，3級(jí)禁止動(dòng)態(tài)和4級(jí) 記錄的措施。與現(xiàn)有技術(shù)相比，本發(fā)明通過社交網(wǎng)站提供的舉報(bào)入口直接向網(wǎng)站服務(wù)商舉報(bào) 不良信息，操作方便快捷；在社交網(wǎng)站上為所有具有傳播性的公共內(nèi)容和交互內(nèi)容添加舉報(bào)入口，可擴(kuò)展性強(qiáng)，用戶舉報(bào)方便即時(shí)，有效地防止了陌生人、廣告商等的不良信 息騷擾；web服務(wù)器根據(jù)預(yù)設(shè)的關(guān)鍵詞性質(zhì)對(duì)被舉報(bào)信息進(jìn)行智能分級(jí)，并針對(duì)智能分 級(jí)情況對(duì)被舉報(bào)信息進(jìn)行相應(yīng)處理，提高了對(duì)不良信息處理的效率。


圖1是本發(fā)明的一種實(shí)施例的系統(tǒng)示意圖； 圖2是本發(fā)明的一種實(shí)施例的工作流程圖。附圖標(biāo)記1-舉報(bào)入口模塊，2-判斷模塊，3-智能分級(jí)模塊，4-條件存儲(chǔ)模 塊，5-處理模塊。下面結(jié)合附圖和具體實(shí)施方式
對(duì)本發(fā)明作進(jìn)一步的說明。
具體實(shí)施例方式
具體實(shí)施例方式一種可擴(kuò)展的舉報(bào)不良信息的方法，包括以下步驟 Si，用戶通過舉報(bào)入口舉報(bào)不良信息；
S2，web服務(wù)器接收并分析判斷被舉報(bào)信息是否符合預(yù)設(shè)的成為不良信息的條件； S3，web服務(wù)器對(duì)被舉報(bào)的不良信息進(jìn)行智能分級(jí)。所述步驟Sl中，客戶端為具有傳播性的公共信息和交互內(nèi)容增加舉報(bào)入口。其 中，具有傳播性的公共信息主要是指，用戶發(fā)表的照片、日記、轉(zhuǎn)帖等內(nèi)容；交互內(nèi)容 主要是指，陌生人、廣告商等向用戶發(fā)送的未知內(nèi)容。所述方法還包括web服務(wù)器將網(wǎng)站服務(wù)商預(yù)設(shè)的成為不良信息的條件存儲(chǔ)在 數(shù)據(jù)庫中。所述預(yù)設(shè)的成為不良信息的條件包括被舉報(bào)信息包含預(yù)設(shè)的不良關(guān)鍵詞或者 被舉報(bào)次數(shù)達(dá)到預(yù)設(shè)的次數(shù)限制。所述步驟S3中對(duì)被舉報(bào)的不良信息進(jìn)行智能分級(jí)的方法包括web服務(wù)器根據(jù) 被舉報(bào)信息中所包含的關(guān)鍵詞性質(zhì)，對(duì)不良信息進(jìn)行智能分級(jí)。所述關(guān)鍵詞性質(zhì)主要分為違反法律(國家明令禁止的)，違反道德(違背社 會(huì)主義精神文明建設(shè)要求、違背中華民族優(yōu)良文化傳統(tǒng)與習(xí)慣以及其它違背社會(huì)公德的 各類信息)，破壞信息安全(含有病毒、木馬、后門的高風(fēng)險(xiǎn)類信息)和其他(被舉報(bào) 次數(shù)達(dá)到預(yù)設(shè)的次數(shù)限制)四類。將不良信息分為4級(jí)違反法律為1級(jí)，違反道德為 2級(jí)，破壞信息安全為3級(jí)，其他為4級(jí)。服務(wù)器對(duì)不良信息進(jìn)行智能分級(jí)處理后，網(wǎng)站服務(wù)商采用人工手動(dòng)進(jìn)行核對(duì)， 這樣可以提高對(duì)不良信息審核的效率。人工審核后，若被舉報(bào)信息被確認(rèn)為不良信息， 審核員則清理該舉報(bào)信息，否則撤銷對(duì)此信息的舉報(bào)。處理完畢后，網(wǎng)站服務(wù)商還可以 將不良信息的源地址信息通報(bào)給其他網(wǎng)站服務(wù)商，以進(jìn)一步遏制不良信息的傳播。所述方法還包括web服務(wù)器根據(jù)當(dāng)前信息的不良程度，對(duì)不良信息發(fā)布者進(jìn) 行處理。對(duì)不良信息發(fā)布者根據(jù)不良信息的智能分級(jí)情況，采取1級(jí)徹底刪除，2級(jí)隱藏 內(nèi)容，3級(jí)禁止動(dòng)態(tài)和4級(jí)記錄的措施。實(shí)現(xiàn)前述方法的一種可擴(kuò)展的舉報(bào)不良信息的系統(tǒng)，如圖1所示，包括 舉報(bào)入口模塊1，用于用戶通過舉報(bào)入口舉報(bào)不良信息；判斷模塊2，用于web服務(wù)器接收并分析判斷被舉報(bào)信息是否符合預(yù)設(shè)的成為不良信 息的條件；
智能分級(jí)模塊3，用于web服務(wù)器對(duì)被舉報(bào)的不良信息進(jìn)行智能分級(jí)； 其中，舉報(bào)入口模塊1、判斷模塊2和智能分級(jí)模塊3順次連接?？蛻舳藶榫哂袀鞑バ缘墓残畔⒑徒换?nèi)容增加舉報(bào)入口。其中，具有傳播性 的公共信息主要是指，用戶發(fā)表的照片、日記、轉(zhuǎn)帖等內(nèi)容；交互內(nèi)容主要是指，陌生 人、廣告商等向用戶發(fā)送的未知內(nèi)容。所述系統(tǒng)還包括條件存儲(chǔ)模塊4，用于web服務(wù)器將網(wǎng)站服務(wù)商預(yù)設(shè)的成為不良 信息的條件存儲(chǔ)在數(shù)據(jù)庫中；條件存儲(chǔ)模塊4與判斷模塊2連接。所述預(yù)設(shè)的成為不良信息的條件包括被舉報(bào)信息包含預(yù)設(shè)的不良關(guān)鍵詞或者 被舉報(bào)次數(shù)達(dá)到預(yù)設(shè)的次數(shù)限制。所述智能分級(jí)模塊3根據(jù)被舉報(bào)信息中所包含的關(guān)鍵詞性質(zhì)進(jìn)行智能分級(jí)。所 述關(guān)鍵詞性質(zhì)主要分為違反法律(國家明令禁止的)，違反道德(違背社會(huì)主義精 神文明建設(shè)要求、違背中華民族優(yōu)良文化傳統(tǒng)與習(xí)慣以及其它違背社會(huì)公德的各類信 息)，破壞信息安全(含有病毒、木馬、后門的高風(fēng)險(xiǎn)類信息)和其他(被舉報(bào)次數(shù)達(dá) 到預(yù)設(shè)的次數(shù)限制)四類。將不良信息分為4級(jí)違反法律為1級(jí)，違反道德為2級(jí)， 破壞信息安全為3級(jí)，其他為4級(jí)。服務(wù)器對(duì)不良信息進(jìn)行智能分級(jí)處理后，網(wǎng)站服務(wù)商采用人工手動(dòng)進(jìn)行核對(duì)， 這樣可以提高對(duì)不良信息審核的效率。人工審核后，若被舉報(bào)信息被確認(rèn)為不良信息， 審核員則清理該舉報(bào)信息，否則撤銷對(duì)此信息的舉報(bào)。處理完畢后，網(wǎng)站服務(wù)商還可以 將不良信息的源地址信息通報(bào)給其他網(wǎng)站服務(wù)商，以進(jìn)一步遏制不良信息的傳播。所述系統(tǒng)還包括處理模塊5，用于web服務(wù)器根據(jù)當(dāng)前信息的不良程度，對(duì)不良 信息發(fā)布者進(jìn)行處理。對(duì)不良信息發(fā)布者根據(jù)不良信息的智能分級(jí)情況，采取1級(jí)徹底 刪除，2級(jí)隱藏內(nèi)容，3級(jí)禁止動(dòng)態(tài)和4級(jí)記錄的措施。本發(fā)明的一種實(shí)施例的工作流程(如圖2所示) Si，用戶通過舉報(bào)入口舉報(bào)不良信息；
S2，web服務(wù)器接收并分析判斷被舉報(bào)信息是否符合預(yù)設(shè)的成為不良信息的條件； S3，web服務(wù)器對(duì)被舉報(bào)的不良信息進(jìn)行智能分級(jí)。實(shí)例說明“李四”登錄自己的社交網(wǎng)站查看好友“王五”的轉(zhuǎn)帖，發(fā)現(xiàn)“王 五”的轉(zhuǎn)帖內(nèi)容為包含違法信息，“李四”通過點(diǎn)擊轉(zhuǎn)帖中提供的舉報(bào)入口，舉報(bào)“王 五”當(dāng)前轉(zhuǎn)帖內(nèi)容為不良信息。web服務(wù)器接收“李四”請(qǐng)求，獲取被舉報(bào)信息，分 析當(dāng)前信息是否符合預(yù)設(shè)的成為不良信息的條件，即是否包含預(yù)設(shè)的不良關(guān)鍵詞，比如
“毒品”、“搶劫”等，或者被舉報(bào)次數(shù)是否達(dá)到預(yù)設(shè)的次數(shù)限制。“王五”轉(zhuǎn)帖內(nèi)容 包含不良關(guān)鍵詞“毒品”，web服務(wù)器自動(dòng)將“王五”當(dāng)前轉(zhuǎn)帖內(nèi)容確定為不良信息， 并根據(jù)“王五”當(dāng)前轉(zhuǎn)帖中所包含的關(guān)鍵詞性質(zhì)進(jìn)行智能分級(jí)，確定為1級(jí)。web服務(wù) 器處理完畢后，網(wǎng)站服務(wù)商對(duì)被舉報(bào)信息進(jìn)行人工審核。人工審核后，如果該轉(zhuǎn)帖內(nèi)容 被認(rèn)定為不良信息，審核員徹底刪除當(dāng)前轉(zhuǎn)帖，web服務(wù)器還會(huì)徹底刪除“王五”在社 交網(wǎng)絡(luò)上的賬號(hào)；否則就撤銷所有對(duì)“王五”當(dāng)前轉(zhuǎn)帖內(nèi)容為不良信息的舉報(bào)。
權(quán)利要求
1.一種可擴(kuò)展的舉報(bào)不良信息的方法，其特征在于，包括以下步驟Si，用戶通過舉報(bào)入口舉報(bào)不良信息；S2，web服務(wù)器接收并分析判斷被舉報(bào)信息是否符合預(yù)設(shè)的成為不良信息的條件；S3，web服務(wù)器對(duì)被舉報(bào)的不良信息進(jìn)行智能分級(jí)。
2.根據(jù)權(quán)利要求1所述的一種可擴(kuò)展的舉報(bào)不良信息的方法，其特征在于，還包括 web服務(wù)器將網(wǎng)站服務(wù)商預(yù)設(shè)的成為不良信息的條件存儲(chǔ)在數(shù)據(jù)庫中。
3.根據(jù)權(quán)利要求1或2所述的一種可擴(kuò)展的舉報(bào)不良信息的方法，其特征在于，所述 預(yù)設(shè)的成為不良信息的條件包括被舉報(bào)信息包含預(yù)設(shè)的不良關(guān)鍵詞或者被舉報(bào)次數(shù)達(dá) 到預(yù)設(shè)的次數(shù)限制。
4.根據(jù)權(quán)利要求1所述的一種可擴(kuò)展的舉報(bào)不良信息的方法，其特征在于，所述步驟 S3中對(duì)被舉報(bào)的不良信息進(jìn)行智能分級(jí)的方法包括web服務(wù)器根據(jù)被舉報(bào)信息中所包 含的關(guān)鍵詞性質(zhì)，對(duì)不良信息進(jìn)行智能分級(jí)。
5.根據(jù)權(quán)利要求1所述的一種可擴(kuò)展的舉報(bào)不良信息的方法，其特征在于，還包括 web服務(wù)器對(duì)不良信息發(fā)布者進(jìn)行處理。
6.實(shí)現(xiàn)權(quán)利要求1 5所述方法的一種可擴(kuò)展的舉報(bào)不良信息的系統(tǒng)，其特征在于， 包括舉報(bào)入口模塊(1)，用于用戶通過舉報(bào)入口舉報(bào)不良信息；判斷模塊(2)，用于web服務(wù)器接收并分析判斷被舉報(bào)信息是否符合預(yù)設(shè)的成為不 良信息的條件；智能分級(jí)模塊(3)，用于web服務(wù)器對(duì)被舉報(bào)的不良信息進(jìn)行智能分級(jí)；其中，舉報(bào)入口模塊(1)、判斷模塊(2)和智能分級(jí)模塊(3)順次連接。
7.根據(jù)權(quán)利要求6所述的一種可擴(kuò)展的舉報(bào)不良信息的系統(tǒng)，其特征在于還包括 條件存儲(chǔ)模塊(4)，用于web服務(wù)器將網(wǎng)站服務(wù)商預(yù)設(shè)的成為不良信息的條件存儲(chǔ)在數(shù) 據(jù)庫中；條件存儲(chǔ)模塊(4)與判斷模塊(2)連接。
8.根據(jù)權(quán)利要求6或7所述的一種可擴(kuò)展的舉報(bào)不良信息的系統(tǒng)，其特征在于，所述 預(yù)設(shè)的成為不良信息的條件包括被舉報(bào)信息包含預(yù)設(shè)的不良關(guān)鍵詞或者被舉報(bào)次數(shù)達(dá) 到預(yù)設(shè)的次數(shù)限制。
9.根據(jù)權(quán)利要求6所述的一種可擴(kuò)展的舉報(bào)不良信息的系統(tǒng)，其特征在于還包括 處理模塊(5)，用于web服務(wù)器對(duì)不良信息發(fā)布者進(jìn)行處理；處理模塊(5)與智能分 級(jí)模塊(3)連接。
全文摘要
本發(fā)明公開了一種可擴(kuò)展的舉報(bào)不良信息的方法與系統(tǒng)，所述方法包括S1，用戶通過舉報(bào)入口舉報(bào)不良信息；S2，web服務(wù)器接收并分析判斷被舉報(bào)信息是否符合預(yù)設(shè)的成為不良信息的條件；S3，web服務(wù)器對(duì)被舉報(bào)的不良信息進(jìn)行智能分級(jí)。本發(fā)明為社交網(wǎng)站中具有傳播性的公共信息和交互內(nèi)容增加舉報(bào)入口，可擴(kuò)展性強(qiáng)，用戶通過舉報(bào)入口向網(wǎng)站服務(wù)商即時(shí)舉報(bào)不良信息，有效地防止了陌生人、廣告商的不良信息騷擾，同時(shí)對(duì)被舉報(bào)信息進(jìn)行智能分級(jí)，提高了對(duì)不良信息處理的效率。
文檔編號(hào)G06Q10/00GK102012926SQ20101056801
公開日2011年4月13日 申請(qǐng)日期2010年12月1日 優(yōu)先權(quán)日2010年12月1日
發(fā)明者伍星, 劉珊珊, 張利斌, 王劍清, 邢慧潔 申請(qǐng)人:北京開心人信息技術(shù)有限公司