AI技術一旦被濫用或惡意使用，將給個人合法權益、社會穩(wěn)定和國家安全帶來諸多安全風險和挑戰(zhàn)。國家安全機關工作發(fā)現(xiàn)，某境外反華敵對勢力通過深度偽造技術生成虛假視頻，企圖向境內傳播，誤導輿論、制造恐慌，對我國家安全構成威脅。
據(jù)公開報道，因開源庫發(fā)生故障，某境外AI模型的部分用戶可以看到其他活躍用戶聊天記錄中的標題甚至是名字、支付地址等隱私信息，造成個人信息泄露。如果不注意防范，相關人員信息數(shù)據(jù)可能成為境外間諜情報機關實施拉攏策反、滲透破壞活動的指引，造成國家安全風險隱患。
在社會熱點事件的前期，因事件自帶流量，在情況尚不明朗、公眾情緒累積時，AI生成的謠言往往“趁虛而入”，炮制虛假信息，誤導公共輿論，造成惡劣影響。國家安全機關工作發(fā)現(xiàn)，個別西方國家和境外勢力通過批量操縱賬號，在社交媒體大肆發(fā)布特定觀點或情感化內容，妄圖利用性別對立、勞資糾紛等議題，對我進行滲透破壞、污蔑抹黑，進而破壞我社會穩(wěn)定。
面對人工智能技術發(fā)展帶來的新機遇和新挑戰(zhàn)，需要前瞻研判相關風險，提高國家安全意識和自我防范意識，共同筑牢維護國家安全的人民防線。（人民日報）
國安機關提醒防范AI泄密風險,AI泄密風險,AI
