2022 年 4 月 6 日 第9 期 总第 528 期 为老年人设计人工智能技术 【译者按】2021 年 8 月，世界经济论坛首次发布了《为老年人设计人 工智能技术》报告。当前，老龄化成为多国面临的主要问题，人工智能可 以有效解决老年人服务需求，但在设计中如果没有考虑到潜在的风险隐患， 老年人则会受到威胁，因此，制定严格的人工智能设计准则，满足老年人 服务需求十分必要。报告研究了人工智能设计理念、隐私安全与数据安全 等关键问题，提出了 14 项指导原则，为人工智能的适老化发展提供相应 指导和启示。赛迪智库安全产业研究所对该报告进行编译，期望对我国有 关部门有所帮助。 【关键词】老龄化 养老 人工智能 -1- 一、概述 随着全球各地平均寿命的显著延长，老龄化成为多国面临的 重要问题。在生育率下降、预期寿命延长以及移民的推动下，全 球 60 岁及以上的人口正在快速增加，预计 2050 年将超过 16 亿。 几乎所有国家都将面临老年人口的增加，因此，各国政府、卫生 系统和私营部门都应做好准备，急老年人之所急、思老年人之所 需。虽然医疗服务与经济安全是基础，但随着人们步入老年，人 们需要的不再仅仅是病例表和抚恤金，老年人需要针对性的服务， 以满足其生理、心理及社交需求。 科技进步日新月异，运用人工智能（AI）等新兴技术满足老 年人的服务需求，让老年人成为人类精神和物质社会中的完整一 员不再遥不可及。人工智能具有变革性和广泛适用性，但如果在 设计中没有重点关注潜在风险隐患，则将会造成不可估量且无法 挽回的后果，对从人工智能中受益颇多的老年人群体来说，后果 更加严重。此类问题庞大繁杂，需要社会科学家、工程师、哲学 家和政策专家等协作解决。人工智能的设计不应该刻板地将老龄 人视作附属群体，开发者必须深刻考虑老年人的生活特点，开发 满足用户需求且保留用户控制权限的 AI 程序，构建有利于健康、 能促进有益互动和发展的方案。自主式辅助机器人、无人驾驶汽 车、智能健康软件、可穿戴装置、声控设备和智能家居等人工智 -2- 能技术可用以应对就地养老（即希望在自主选择的社区中独立生 活）、健康、流动性、社会参与、经济福利和照顾者负担等老龄 化关键问题，但必须以设计意图指导技术开发，且应充分考虑隐 私政策与用户同意。另外，还应平衡自主性与安全性，防止数据 滥用，最大程度减少社会隔绝，也要尽量避免对人工智能的过度 依赖。 本报告借鉴人工智能现有文献、专家访谈和专题小组的成果， 为发展负责任的人工智能和满足老年人需求提供指导。本报告旨 在为人工智能开发提供启示，而非详尽的指南。 二、为老年人设计人工智能的指导原则 （一）挖掘人工智能服务老年人的潜在价值 在产品生命周期的初期，应当明确老年人能够如何从人工智 能中获益。该工作包括明确老年人的观念、待解决的问题、技术 解决方法以及老年人如何从中受益。要通过用户与市场调研来证 明人工智能的潜在价值，还必须分清技术带来的积极与消极影响， 并防患于未然。 （二）采用以老年人为中心的设计流程 从早期的概念构想到后期的开发实践，须邀请老年人和其他 相关者（如家人和专业护理人员）在整个产品开发过程中提供反 -3- 馈。访谈、专题小组、相关群体和相关设计技术可以帮助了解这 类人群的需求、期许和关注点，从而最大限度地减少推行人工智 能可能遇到的障碍。可以通过多种方式招募老年人进行产品调研： 报纸、在线招聘平台（例如亚马逊在线劳动交易平台）、社交媒 体以及与地方机构建立合作等。 （三）将老年群体特征纳入人工智能数据集 在机器学习训练和测试中，将老年人的数据属性清晰描述出 来，是创建服务老年人的人工智能系统的关键一环。但最近一项 公开人脸数据集的分析表明，许多数据集对老年人的描述不足， 甚至不包含与年龄相关的元数据。创建捕捉老龄人口多样化信息 的数据集（年龄、性别、遗传、身体缺陷），并在数据集中标注 基本元数据，这是为老年人构建公平、积极的人工智能体验的第 一步。 （四）开发对老年群体包容性强的产品 与常见观点相反，生理年龄并不是老年人的关键特征。换言 之，老年人的身体、感官和认知能力因人而异，教育水平和科技 体验也各有不同。在人工智能开发过程中，预先征集和考虑不同 群体特征的老年人的需求，包括来自不同地域、不同社会经济地 位以及生活在农村的老年人，有助于开发普适性产品。 -4- （五）考虑老年残疾人群体的服务需求 虽然老年人的残疾可能是感官、肢体和认知功能随年龄增长 而衰退下降所致，但个别老年人也可能是因为以前的生理损伤而 导致残疾。除遵循广泛性原则外，获取遭受长期生理损伤的老年 人对人工智能系统的反馈意见，是使人工智能系统满足众多用户 需要的关键所在。 （六）公开人工智能的能力与局限性 用户往往对高保真性、高可靠性的人工智能系统抱有更高的 期望。当系统功能无法满足这些期望时可能导致用户进行不当操 作，且造成意想不到的后果，因此理清并公开人工智能的局限性 至关重要。 （七）建立评价指标体系评估软件应用成果 制定用户对人工智能技术满意度的评估指标非常重要。根据 人工智能的预期用途，制定标准时还应考虑技术对生活质量、孤 独感、幸福感和乐观情绪的影响。此外，通过遥测技术和分析错 误报告，还有助于评估人工智能系统的运行状况和有效性。 （八）尊重老年人隐私的五项原则 一是仅收集绝对必要的数据，防止人工智能泄露老年人期望 保护的隐私。 -5- 二是通过规范数据存储和删除过期数据保护隐私。老年人常 常质疑长期存储数据的必要性，不能将收集与保留数据设置为默 认选项，而只应该用于特定有利用途。 三是在家庭中使用计算机图像系统时，应尊重老年人的选择 权，考虑将系统安装于哪些房间。老年人通常将浴室和卧室等房 间视为隐私，因此应尊重老年人的选择权，让他们能够自主权衡 保护隐私与获取安全和自动化服务（例如跌倒检测）的利弊得失。 四是严格限制数据的获取权限。应将获取权限严格限制在能 够在必要时为老年人提供帮助的特定人员中，例如亲密的家庭成 员和专业人士。 五是为老年人提供隐私保护的用户控制。例如可以根据需要 轻松打开和关闭某些人工智能设备/功能，或查看监控者视图。这 些设计能让老年人感受到自身对人工智能的控制能力，对于为老 年人营造成功体验非常重要。 （九）公开人工智能收集数据的目的和范畴 老年人非常担心侵犯住宅和网络隐私。他们无法完全理解人 工智能技术是如何运作，或者如何使用用户数据的。因此，必须 要做好信息披露，并应预先解决老年人可能关心的所有问题：例 如介绍他们使用的智能家居设备、被收集和处理的数据、数据收 -6- 集的目的、对老年人的好处、有权获取数据的相关方、数据的保 留期限以及现有的隐私保护和安全措施等。 （十）人工智能产品必须获得老年人群体的认可 构建的人工智能系统必须得到老年人发自内心的认可，这既 是对各种数据采集的法律要求，也是建立用户信任的关键。人们 会考虑数据授权的利好和风险，还会利用既有经验和认识——如 其他公司或产品对待他们个人数据的方式进行辅助判断。 用户常常要面对冗长又晦涩的隐私保护政策，并被迫选择同 意。只有用户能够意识到正被索要授权、明白被索取的是哪些数 据，不被强制要求同意授权、且可以在不影响获得基础功能的情 况下撤销授权时，才可以称得上是真正有意义的用户同意。在知 情、理解、选择自由和控制这四大基础上构建用户同意体验，并 通过严格的用户调查协议评估隐私授权活动，有助于判断用户同 意流程是否符合预期以及解决老年人关系的主要问题。 人们还必须认识到，这种授权并非毫无边界。换句话说，一 种情况下的授权不可自动转移至其他情况。 （十一）最大程度降低老年人受骗风险 人工智能虚拟化身（例如护理教练）越来越多地用于与老年 人互动，并为满足老年人的需求提供自定义服务。相关报告显示， 使用高仿真声音与老年人互动时，向老年人明确该声音为合成声 -7- 音，有助于调整老年人对人工智能的合理期待，并最大程度降低 欺骗造成的危害后果。有关详细信息，请参阅微软关于如何披露 的部分——“披露设计指南”。 对于患有中度至重度认知障碍的老年人，披露和同意可能被 认为无效，此时应细心核查该项智能技术对这类老年人的利与弊， 甚至需要获取监护人的同意。 （十二）保护数据免遭滥用和意外获取 应通过有效的安全防护措施保护老年人的隐私，阻止试图恶 意获取隐私的行为。 （十三）引导老年人构建对人工智能的合理期望 人工智能是概率系统，不可避免地会出现偶然错误。当老年 人在理财或健康管理等高风险情况下使用人工智能时，人工智能 的失误可能造成严重后果。此外，由于认识能力随着年龄增长而 衰退，老年人更容易过度依赖人工智能。因此，老年人正是从成 功的操作体验中理解人工智能的操作，准确描述人工智能的作用， 并对人工智能的可靠性产生合理期望。出现超出人工智能实际能 力的过度信任时，需要将其调整为与人工智能能力相匹配的合理 信任度。 （十四）评估护理机器人可能导致的社会隔离加剧风险 为解决护理员的需求缺口，世界各国将目光转向护理机器人， -8- 其中日本处于领先地位。然而，一些学者认为机器人无法完全满 足老年人的社交和情感需求，过度依赖护理机器人，尤其是将机 器人作为与人类互动的替代品，可能会降低老人的幸福感。低收 入老年人也会因为过度依赖护理机器人而饱受其害。因此，设计 人工智能系统应优先考虑老年人的幸福感，最大程度降低机器人 的滥用风险，将高强度劳动任务交给机器人，让护理人员能够专 注于个人护理。 三、结语 在全球范围内，60 岁及以上年龄的人口增长比其他任何年龄 组都要迅速。老龄人口的增加堪称当今时代社会、经济与政治的 一次重大变革，影响着医疗、政府和社会系统，这些系统还远远 无法满足老龄人口的需求。现在，应调动各级政府、社会、学术 界和私营部门共同投资这些支持系统，并借助技术扩大其规模。 人工智能等新兴技术有潜力应对老龄人口的护理和供养挑战，然 而，这些技术的开发和部署应以老年人为中心，全面考虑老年人 的生理需求、心理需要和社交需求，在尊重、维护老年人数据隐 私的基础上，努力提升老年人的生活水平，通过精细化、人性化 服务，让老年人作为社会的一份子被尊重、被爱护。 -9- 译 自 ： Designing Artificial Intelligence Technologies for Older Adults, August 2021 by World Economic Forum 译文作者：工业和信息化部赛迪研究院 联系方式：15210580360 电子邮件：cmrharbin@sina.com - 10 - 程明睿