近年來，不法分子利用人工智能等新技術實施的違法犯罪活動屢見不鮮，包括電信網絡詐騙、侵犯個人隱私、破壞社會信任基石，甚至威脅國家安全。對此，公安機關高度重視，並採取多種措施打擊整治。根據瞭解，目前利用人工智能實施的新型犯罪主要包括：利用人工智能技術偽造身份，侵入政企信息系統，對他人信息和財產實施盜竊；或者偽裝成成人、權威人士，騙取受害者信任後進行詐騙；以及利用人工智能工具生成網絡謠言，擾亂社會公共秩序。
今年上半年，共偵辦利用人工智能工具生成網絡謠言案件 170 餘起，依法查處 190 餘人。公安機關表示，在國家反詐中心應用程式上設置人工智能內容鑑定功能，用户可以上傳可疑視頻、語音、圖片，一鍵檢測是否存在人工智能生成痕跡，以鑑別偽造信息。今年上半年，共開展人工智能應用服務監督檢查 600 餘次，對相關服務提供者進行警告、責令整改、關停等行政執法 30 餘次。
公安機關加強打擊人工智能犯罪的措施
值得一提的是，7 月 17 日至 20 日，2026 世界人工智能大會暨人工智能全球治理高級別會議在上海舉行。展覽聚焦人工智能熱點，圍繞世界模型、開源智能體、AI 編程、Token 經濟、OPC 等議題，深入探討行業新趨勢。