教育数字化知识图谱

随着 ChatGPT 、 DeepSeek 、 Midjourney 等生成式人工智能工具的快速普及，我们正处在一个由 AI 重塑学习与科研方式的变革时代。这些技术在辅助论文撰写、代码编程、数据分析及艺术创作方面展现了巨大潜力。

然而，技术便利的背后潜藏着数据泄露、学术不端、认知误导等安全风险。作为学院网络安全的守护者，特此发布本安全指南，提醒大家在拥抱 AI 的同时，务必筑牢安全防线。

一、 警惕数据隐私泄露：不要 “投喂”敏感信息

大多数 AI 对话模型会将用户的输入内容用于模型迭代训练。如果你向 AI 提问涉及学院未公开的科研数据、内部会议纪要、师生个人信息（身份证号、住址等），这些信息可能会被存储在境外服务器，或在特定条件下被二次曝光。

安全建议

严禁上传敏感资料： 绝对不要将涉密文件、未发表的论文核心数据、个人隐私信息输入公共 AI 模型。

匿名化处理： 如需 AI 帮助润色涉及具体案例的文本，请将敏感人名、地名、数据用代号替换。

使用本地化模型： 涉及学院核心资产的运算，建议优先使用学院内部部署的私有化 AI 系统。

二、 恪守学术诚信： AI 是“副驾驶”，不是“代写者”

在学术场景中，滥用 AI 可能导致剽窃、捏造参考文献或失去独立思辨能力。许多学术期刊和学院已明确禁止将 AI 列为作者，且过度依赖 AI 生成内容可能构成无意的抄袭。

安全建议：

明确披露： 若在作业或论文中使用了 AI 辅助（如翻译、校对、代码生成），请务必按照任课老师或期刊要求进行标注。

人工复核： AI 会“一本正经地胡说八道”（产生幻觉）。请务必核实 AI 生成的参考文献是否真实存在，数据和结论是否符合逻辑。

保持原创性： 核心观点、实验过程和最终结论必须由自己完成， AI 仅作为灵感激发或格式整理的工具。

三、 识别深度伪造：提升信息鉴别能力

AI 换脸、拟声技术的门槛已降至极低。诈骗分子可能利用伪造的视频或音频冒充学院领导、老师或亲友，以“紧急转账”“缴纳费用”等名义实施诈骗。

安全建议：

视频通话确认： 凡是涉及金钱交易，无论对方发来的视频多么逼真，务必通过线下见面或拨打原有手机号码二次确认。

观察细节： 目前的 AI 伪造视频在眨眼频率、面部边缘光晕、手指细节处仍可能存在破绽。

四、 防范提示注入攻击：保护你的 AI 应用环境

如果你正在开发基于 AI 的校园服务（如智能客服），请注意黑客可能通过“提示注入”诱导 AI 忽略安全规则，输出不当内容或获取后台数据。

安全建议：

对 AI 输入进行过滤，设置严格的系统指令边界。

不要让 AI 直接执行解析后的系统命令。

致全体师生的行动清单

不泄露： 不在 AI 对话框里贴身份证号、银行卡号、科研机密。

不轻信： 看到 AI 生成的“爆炸性新闻”或“内部消息”，先核实来源。

不滥用： 坚持独立思考，让 AI 为自己服务，而不是替代自己思考。

人工智能是时代赋予我们的利器，但只有安全地使用它，才能行稳致远。学院将持续为大家提供安全的网络环境，也呼吁每一位师生成为数字时代的安全守卫者。