中央網信辦：整治利用“AI換臉”生成涉未成年人低俗色情圖片視頻等問題_天天速遞

(資料圖片)

人民網北京6月28日電 （記者申佳平）據中國網信網消息，為進一步強化未成年人網絡保護，營造健康安全網絡環境，中央網信辦近日決定開展為期2個月的“清朗·2023年暑期未成年人網絡環境整治”專項行動，將對網絡欺凌、利用“AI換臉”等技術生成涉未成年人低俗色情圖片視頻等問題進行處置處罰。

據了解，該專項行動的目的是集中整治網上涉未成年人突出問題，全面壓縮有害信息隱形變異的生存空間，堅決遏制侵害未成年人權益的違法行為，進一步提升學習類APP、兒童智能設備等專屬產品服務信息內容安全標準，有效解決網絡沉迷問題，營造有利于未成年人健康安全成長的網絡環境。

同時，針對未成年人用戶數量較大、對未成年人具有顯著影響的網站平臺以及兒童智能設備，專項行動將從深從細全面整治，從嚴從重處置處罰，持續凈化網絡生態。重點聚焦以下7方面問題：

一是有害內容隱形變異問題。一是以諧音詞、變體字、表情符號等形式傳播色情低俗、賭博迷信等內容；二是利用視頻剪輯、影視二創、動漫改編等方式集中展示涉未成年人血腥暴力等畫面；三是通過外鏈、浮窗、二維碼、賬號信息等進行色情引流；四是兒童智能設備自帶及第三方APP，語音、文字搜索結果中存在涉黃涉暴內容。

二是網絡欺凌問題。一是使用網絡爛梗對未成年人進行侮辱謾罵；二是對未成年人進行“人肉搜索”，惡意傳播泄露未成年人隱私的欺凌視頻；三是通過惡意P圖、編造謠言等，詆毀未成年人。

三是隔空猥褻問題。一是借“個性交友”“童星招募”“有償收圖”等名義，誘騙或脅迫未成年人進行在線裸聊、作出淫穢動作、提供裸照視頻等；二是通過群組、私信等渠道向未成年人發送色情圖片、淫穢語言；三是在涉未成年人賬號、文章頁面發布低俗色情跟帖評論，誘導不良交友或實施性引誘。

四是網絡詐騙問題。一是以“內部人員”“含淚轉讓”等名義向未成年人虛假售賣演唱會門票，實施網絡詐騙；二是以免費游戲裝備、投票返現、盲盒抽取、粉絲抽獎等名義誘導未成年人加入群聊，誘騙轉賬匯款；三是誘騙未成年人提供社交賬號、支付密碼等用于網絡詐騙活動。

五是不良內容問題。一是發布校園主題劇情演繹類視頻，以偏激方式丑化學校形象，鼓噪師生矛盾，美化頂撞老師等行為；二是渲染家長“壓迫”“壓榨”孩子，惡意編造虛假家庭矛盾等內容；三是誘導吸煙、飲酒、紋身、曠課等不良行為；四是通過虛假擺拍鼓吹“霸凌風”“家暴妝”等畸形審美，傳播以強凌弱、以暴制暴等不良內容。

六是網絡沉迷問題。一是誘導未成年人長時間觀看直播短視頻；二是利用算法向未成年人集中推送誘導沉迷內容，形成信息繭房；三是通過聊天交友、虛擬空間裝飾等娛樂功能誘導未成年人消費；四是向未成年人違規提供網絡游戲賬號租售服務，教授未成年人破解防沉迷系統、繞過青少年模式。

七是新技術新應用風險問題。一是利用“AI換臉”“AI繪圖”“AI一鍵脫衣”等技術生成涉未成年人低俗色情圖片視頻；二是利用所謂“閱后即焚”的密聊軟件誘騙未成年人提供個人信息，誘導實施違法行為；三是利用生成式人工智能技術制作發布涉未成年人有害信息。

標簽：