养老企业如何防止算法歧视高龄或失能老人

养老企业如何防止算法歧视高龄或失能老人

服务分配模型发现高龄失能老人需要更多护理时间，于是把他们标为“低效率客户”，优先安排轻度照护者。这样的优化也许提高了每小时服务人数，却背离照护的基本目的。企业必须先规定什么不能被算法当作成本削减项。

把护理需求、风险和个人意愿作为服务配置依据，不能用年龄或失能程度直接降低等待优先级。模型训练数据若来自过去排班，可能继承既有差距；要分组检验被拒服务、延迟响应、投诉和不良事件。对小样本群体，定量结果还需个案审查。

关键决定，如减少护理频次、调整床位、提高费用，必须由受训人员审核并向老人及家属解释。设置人工申诉，让当事人能纠正错误资料。系统不应把表达能力较弱的人视为“满意”，应通过观察和可信访谈了解其体验。

企业审查供应商的优化目标和训练边界，合同约定审计、问题修复和停用机制。试点每月复盘最需要照护者的实际服务，而不只是平均效率。

养老算法的历史数据可能带着旧偏见：高龄或失能老人过去被安排较少活动，模型便把这种安排学成“适合他们”。企业应按健康需求与个人意愿评估服务，不让年龄、费用档次或表达能力成为减少照护的捷径。

测试可比较不同群体的等待、服务取消、投诉和安全事件。样本很少时，逐个复核比依赖统计显著性更可靠。对被模型建议减少服务的人，护理主管必须核查依据并解释，老人和家属能提出异议。

供应商的优化目标也要看清。如果合同只奖励降低护理工时，系统自然倾向于减少复杂住户的服务。机构可把生活质量和基本照护底线写进验收，模型更新后重复公平性测试。

最需要帮助的人常最难用数字表达自己。让他们的经验进入评估，是抵抗算法歧视的第一道防线。

机构可以组织一次“反向个案审核”：选取模型认为成本高、服务次数多的住户，逐个询问需求是否得到满足，是否因不善表达而被延迟。由护理与伦理负责人参与，不把算法分数给销售团队用于筛选客户。若高龄者总被建议减少活动，先检查历史训练数据里的偏差，再决定是否停用相关功能。

员工也可提出个案反例，帮助机构发现统计结果掩盖的具体不公。

个案申诉成功后，机构要检查是否有同类老人受到相同影响，而不止修正眼前一位住户的排班。

照护算法能否算得快并非最重要。它必须让需要最多帮助的人被准确看见，而不是被效率指标悄悄排除。