大模型处理财务数据时,企业应如何限制敏感信息访问
大模型处理财务数据时,企业应如何限制敏感信息访问
财务同事希望模型帮忙解释现金流,上传的表格里却有员工工资、客户账户和未公布的并购预算。模型不必把整份表都读一遍,才能回答“本月费用为何上涨”。最小访问的原则,到了大模型时代仍然成立,只是需要落实到检索、提示词和输出每一步。
企业先把数据按用途分区:日常费用、个人薪酬、税务、投资与战略交易分别授权。员工提问时,系统先确认其身份和业务权限,再检索允许看的字段;不能先把所有表喂给模型,再祈祷它不说出来。对需要汇总趋势的任务,可提供聚合数据,隐藏姓名、账号与单笔合同。权限应跟岗位变动及时调整,离职和转岗后撤销访问。
输出端也要检查。用户可能没有权限查看某位员工薪酬,却通过“各部门最高薪”推出来;连续问小组均值,也可能还原单个人。对小样本汇总设阈值,敏感查询转人工审批。审计日志记录谁在何时问了什么范围、系统取了哪些文件、是否输出,日志自身也要受保护。外部模型服务商的留存和训练条款经法务与安全团队确认。
测试不要只跑正常问题。用越权身份、诱导式提示、被植入恶意指令的发票和异常下载量,检查系统能否守住界限。模型答错财务数字,还会影响经营决策;关键结论须回到原始账与会计口径,由财务负责人核定。
财务问答的权限还应随问题变化。销售经理可以看自己区域的回款总额,却未必有权查看每个客户的付款条件;人事负责人能看薪酬预算,不代表能看单个并购项目的费用。系统不能只给用户一个“财务数据可访问”的总开关。模型在回答前可显示即将引用的数据范围,遇到跨部门信息要求时请发起正式审批。管理员定期查看哪些资料经常被拒绝访问,判断是权限设计过严还是有人在试探边界;两种情况的处理完全不同。
系统回答“没有权限”时也不能泄露信息。若它暗示“某项并购支出很大,但您无权查看”,已让人猜到敏感事件。安全设计要包括拒绝语句,说明权限范围即可,不要在拒绝中透露文件标题、金额或存在本身。
限制访问不是让数字化停摆。恰恰相反,员工知道自己看到的是合法范围内、可追到原始凭证的数据,才敢把模型用于日常工作。把“谁需要知道什么”设计清楚,比在泄露后再追问“谁把表上传了”更可靠。