AI安全治理——当AI成为“双刃剑”

AI时代，安全风险也在“进化”

人工智能在赋能教学、科研与管理的同时，也带来了全新的安全挑战。2025年，AI大模型实网众测发现大量安全漏洞，其中大模型特有漏洞占相当高比例。AI技术正在重塑网络空间安全格局。

AI带来的四大安全新风险

AI辅助网络攻击：黑客利用AI技术辅助编写病毒混淆程序，大大降低攻击门槛、提升攻击速度

大模型数据泄露：AI模型训练过程中，个人信息和敏感数据存在泄露风险

深度伪造泛滥：AI生成的虚假影像和语音以假乱真，难以防范

AI系统自身漏洞：大模型存在特有安全漏洞，可能被攻击者利用

AI安全使用指南

✅要合规使用：使用AI工具时遵守相关法律法规和学校规定

✅要谨慎输入：不在公共AI平台输入敏感信息、科研数据或个人隐私

✅要辨别真伪：对AI生成内容保持警惕，不轻信、不盲从

✅要及时报告：发现AI安全风险或可疑行为，立即向信管中心反映

❌不滥用技术：不利用AI技术制作虚假信息、实施诈骗或侵犯他人权益

❌不依赖盲信：不将AI生成内容视为绝对权威，关键信息需交叉验证

❌不忽视防护：使用AI工具时同样注意账号安全和设备防护

记住口诀：

“AI虽好需谨慎，安全使用记心间！”

海报底部加入：扫一扫关注华理信管中心公众号