国安部近期公开使用AI泄露敏感信息的相关案例。AI大模型正为各行各业注入强大动力，迅速融入我们的日常生活。然而随着AI的应用范围越来越广、渗透程度越来越深，一些潜在风险也悄然浮现。
1月8日消息，据央视新闻今日报道，国安部近期公开使用AI泄露敏感信息的相关案例。AI大模型正为各行各业注入强大动力，这个高效便捷的智能数字伙伴正迅速融入我们的日常生活。然而随着AI的应用范围越来越广、渗透程度越来越深，一些潜在风险也同时出现。
图源央视网
国安部近日公布案例，个别单位采用开源框架搭建联网大模型，结果攻击者无需通过授权就能自由访问其内部网络，进而引发数据泄露和安全风险。案例中，某单位工作人员在处理内部文件时违规使用开源AI。由于电脑系统默认开启公网访问且未设置密码，导致境外IP非法访问并下载其敏感资料。
专家指出，网民在使用AI工具时，常常忽略AI工具具备数据存储功能。所有上传给AI的文件、图片等数据，都会被AI存储起来。而之所以数据会被泄露，是因为这些数据对AI工具的开发者是完全透明的，开发者可以利用权限自由查看这些数据。此外，由于目前许多AI工具都是开源的，黑客会趁机利用大模型本身的漏洞攻击并入侵后台获取数据。专家提醒，在日常使用中切记不要给AI工具上传敏感数据，以免发生敏感信息泄露等安全问题。
