编者按:随着人工智能技术的发展,越来越多的AI技术被应用于各类产品和服务中,这也为AI设计师带来了许多挑战。微软研究院的研究人员基于前人对搭建高效人工智能交互系统等相关问题的研究成果,整合成一份《人工智能交互指南》。该指南共分为四个板块,规定了交互初始阶段、用户与系统交互过程中、系统出错情况下以及随着时间推移,人工智能系统分别应该如何表现。这份指南不仅为AI设计师提供了具体、可操作的建议,还旨在推动用户体验和工程开发从业者就设计决策的相关问题展开讨论,推动这一领域研究的进步。本文编译自微软研究院博客文章“Guidelines
for human-AI interaction design”。

图片 1

编者按:随着人工智能技术的发展,越来越多的AI技术被应用于各类产品和服务中,这也为AI设计师带来了许多挑战。微软研究院的研究人员基于前人对搭建高效人工智能交互系统等相关问题的研究成果,整合成一份《人工智能交互指南》。该指南共分为四个板块,规定了交互初始阶段、用户与系统交互过程中、系统出错情况下以及随着时间推移,人工智能系统分别应该如何表现。这份指南不仅为AI设计师提供了具体、可操作的建议,还旨在推动用户体验和工程开发从业者就设计决策的相关问题展开讨论,推动这一领域研究的进步。本文编译自微软研究院博客文章“Guidelines
for human-AI interaction design”。

雷锋网注:【 图片来源:Microsoft Research Blog 所有者:Microsoft
Research Blog 】

AI的可用性和准确性日益提升,激发了面向用户的主流应用和服务采用AI技术的热潮,伴随着各种人工智能服务产品到来的,还有对以人为本设计的最佳实践方法和实践指南的挑战和质疑。为了满足这方面的需求,由微软研究人员组成的专门团队对一系列人工智能交互指南进行了整合与考证。对于面对的各种复杂局面,AI设计师急需一份最佳实践指引,而上述研究正是朝着这个方向迈出的重要一步。

雷锋网按:设计人工智能系统和特性对用户体验从业者提出了新的挑战。传统上,UX设计师依赖草图和低保真度、快速原型来想象和测试他们的想法。然而,常用的设计工具和技术往往不能满足人工智能系统的设计要求。并且人工智能系统经常违反众所周知的可用性原则,因此需要更新设计人机交互的指导。

为了整合包括预测、识别和自然语言理解等在内的人工智能服务,AI设计师需要思考许多新的问题,例如,交互设计人员必须解决人工智能系统推理失败与成功的几率问题,机器学习带来的系统行为改变问题,以及AI功能的可理解性和可控性问题。

微软研究院(Microsoft Research)在ACM
CHI大会上发表了三篇关于计算系统中的人为因素的论文,以解决这些需求,并使UX从业者能够为人工智能设计。从构思到用户感知和接受,如何更好地设计AI,雷锋网全文编译如下。

当前AI设计本身存在多变性,而当用户无法有效理解或控制人工智能系统时(例如,半自动车辆事故),就会出现有关意外事件的大肆报道。这些都凸显了提供更直观、更有效的AI用户体验的重要意义。有关设计以人为本的人工智能系统的讨论从未间断,AI设计师也迫切希望得到可靠的相关设计指南。

自然语言处理——抽象素描

在过去20年间,科学家和工程师提出了不少有关AI系统有效交互设计的指南和建议。内容涵盖用户预期管理、自主程度调节、歧义解决,以及帮助人们认识随着系统对用户的了解不断加深而可能发生的变化。不幸的是,这些设计建议多分散在不同的出版物中,而且很少作为指南明确提出。微软研究团队收集了150余份设计建议,对它们加以提炼和验证,最终整合成一份统一的指南,让AI设计人员都能够以现有知识为基础,不断向前发展。

论文《Sketching NLP: A Case Study of Exploring the Right Things to
Design with Language Intelligence》(Sketching
NLP:探索用语言智能设计正确事物的案例研究)触及了设计思维的基本方法的核心:素描。设计师使用各种素描技术,如故事板、线框图和纸上原型,来阐明问题空间,并快速探索试探性的设计选择。然而,这些标准的绘图工具中有许多是基于诸如滑动、指向或单击之类的有形交互,而不是更抽象的交互。所以想象一下,当你和你的团队计划使用自然语言处理技术为文档创作应用程序添加智能写作辅助时,会出现哪些困难。

“此前并没有一套针对人工智能直观交互系统的统一指南,而我们正着手创建这样一套指南,并对其加以验证,”负责《人工智能交互指南》开发项目的研究员Saleema
Amershi说。

本文确定了其中的几个挑战,包括如何抽象地描述语言交互,以便作者能够更好地理解可能的结果,以及如何理解和扩展NLP的技术限制,并在这些限制下展望新奇的NLP应用。它还引入了一种新的线框图格式,作者将其称为记事本——一种文本编辑器,增加了用于草拟基于NLP的初步设计概念的功能。

《人工智能交互指南》(及其开发和验证流程)将在苏格兰格拉斯哥举行的2019年CHI大会上发布。团队成员Saleema
Amershi、Dan Weld、Mihaela Vorvoreanu、Adam Fourney、Besmira
Nushi、Penny Collisson、Jina Suh、Shamsi Iqbal、Paul Bennett、Kori
Inkpen、Jaime Teevan、Ruth Kikin-Gil和Eric
Horvitz对20多年来学术界和工业界在人工智能设计方面的认知和思考进行了整合,使之成为一套精炼而又具有普适性的人工智能交互设计指南。

通过对人机交互研究人员和NLP科学家团队产品设计过程的坦诚、幕后观察,文章表明这样一个笔记本可以作为设计师、NLP科学家和潜在用户交流设计概念的有用的共同点。该论文展望了未来,当NLP特定的设计工具将像今天的线框图和纸原型一样普遍。

这篇CHI
2019入选论文《人工智能交互指南》将各种涉及面广泛、内容具体的指南整合成一套可以被普遍接受的指南,同时也是对Eric
Horvitz在CHI
1999上发表那篇开创性论文的20周年纪念。这篇论文提出了将人类和人工智能的能力有机结合,以及人工智能和人类混合动力的原则。

人机交互指南

微软研究人员遵循严格的流程,首先收集了150多份与AI相关的来自权威来源的设计建议,包括学术研究论文、博客文章和一些内部资料。在对主题分类后,研究人员对内容进行了精简。然后,他们与用户体验和人机交互专家联手,展开多轮评估,以确保这份指南易于理解,并且适用于各种流行的AI产品。

除了用于构思的工具之外,设计人员通常还依赖原则和启发法来指导设计决策和评估现有的解决方案。论文《Guidelines
for Human-AI Interaction》为针对人工智能的设计指导奠定了基础。

“我们希望确保指南的内容具体,并且能够在UI层面产生可观察的效果。因此,我们剔除了一些诸如‘设定期望’或‘建立信任’之类的总体原则,并将其转化为具体、可操作的指南”资深项目经理Mihaela
Vorvoreanu说。

虽然关于人工智能设计的指导有很多,但社区缺乏一套统一的、值得信赖的指导原则,无法在人类和人工智能系统之间创建直观的交互。作者综合了这一领域20多年的研究和思考,形成了一套经过三轮严格验证的指导方针。由此产生的18条人工智能交互指南建议人工智能系统在初始交互、常规交互、不可避免地出错以及随着时间的推移时应该如何表现。

研究人员总结的18项人工智能交互指南共分为四个板块,规定了交互初始阶段、用户与系统交互过程中、系统出错情况下以及随着时间推移,人工智能系统分别应该如何表现。虽然《人工智能交互指南》旨在为设计决策提供支持,但它不是一份简单的检查清单,更是意在支持和推动用户体验和工程开发从业者就设计决策的相关问题展开对话,并推动该领域更深入的研究。作者也认识到,在很多情况下,AI设计师必须在各项指南之间做出取舍,权衡不同因素的重要性。但同时,不断丰富的AI产品功能和用例也需要更多的设计指导。

该指南可用于根据已建立的接口检查方法对思想或系统进行评估。当团队想象一个含有人工智能技术的系统的能力时,它们也可以用于基础构思。这些指南还旨在作为涉及含有人工智能技术的系统(如用户体验、工程、数据科学和管理)的不同学科之间对话的基础。指南可以在海报和可打印的卡片中找到——在CHI期间,到微软站台前与作者见面并获得一副套牌!

图片 2

塑造对人工智能系统的期望

准则10:有疑问时调整服务范围。当Word中的“自动替换”功能对某项更正操作存疑时,它会显示多个选项供用户从中选择,以此消除歧义。

错误是含有人工智能技术的系统所固有的,但大多数用户并不期望计算机表现得不一致或不完美。人工智能交互的前两个指导原则建议尽早设置对人工智能系统功能和性能的期望,以防止用户的失望和不满。论文《Will
You Accept an Imperfect AI? Exploring Designs for Adjusting End-user
Expectations of AI
Systems》(你会接受一个不完美的人工智能吗?探索调整人工智能系统最终用户期望的设计)评估了调整用户期望以提高用户接受度的不同技术。

《人工智能交互指南》的制定和验证以图形用户界面产品为依据,但也可以针对语音交互甚至半自动驾驶车辆等特殊的高风险用途加以具体化扩展或修改。

本文提出了三种塑造预期的模式:明确说明人工智能的准确性,解释人工智能的工作原理,以及允许用户控制人工智能的性能。

微软研究院院长Eric
Horvitz表示:“我们仍处于利用人工智能技术扩展人类能力的早期阶段。未来还有很多机会,当然也面临着许多有趣的挑战。其中的一个重要方向就是分享和完善有关将AI功能集成到人机交互体验中的原则和设计。”

通过对含有人工智能技术的调度助手中实现的这些模式的研究,本文证明了它们在维持用户接受度方面的有效性,并揭示了在调整人工智能以避免假阳性错误和调整人工智能以避免假阴性错误时的接受度的差异——即使总体精度相同。这些结果表明,解决一个错误所需的努力和资源是用户接受人工智能技术的一个关键因素。这篇论文为UX设计师提供了证据,他们可以使用这些证据来支持关于如何设置对AI系统的期望的决策,以及为此而设置的特定模式。

图片 3

这三篇论文旨在帮助UX设计师创造有用的、可用的、无挫折的AI体验,并在对如何设计AI有直接影响的领域提升学术知识。我们期待着在CHI上分享它们,并希望,如果您参加了在苏格兰格拉斯哥举行的会议,您可以顺道拜访一下微软的展台,与作者们见面!

准则15:鼓励细化的反馈。

雷锋网注:本文编译自Microsoft Research Blog

Ideas in
Excel功能帮助用户通过高级的可视化总结、趋势图和模式图来理解数据。通过“这对您是否有帮助?”的提问,鼓励大家对Excel提供的每项建议给予反馈。

【封面图片来源:网站名Microsoft Research Blog ,所有者:Microsoft
Research Blog 】

《人工智能交互指南》的意义或许已经超越了AI设计范畴,延伸至对“负责任和值得信赖的人工智能”的讨论。在2018年11月,微软埃忒尔道德委员会(Aether
Committee)发布了一份关于聊天机器人和虚拟助手等会话界面设计的指南——《负责任的机器人:对话AI开发者的10大指南》。该委员会由微软首席执行官萨提亚·纳德拉亲自宣布成立,专注于AI技术的负责任开发与应用等议题,以确保公司的AI研发工作符合微软的核心价值观和原则,并能够使整个社会受益。埃忒尔道德委员会下设几个专题工作组,Amershi担任人机交互与协作工作组的联合主席。

人工智能交互设计指南

以下是《人工智能交互设计指南》的内容摘要,想要了解各条指南的详细信息和示例,请点击“阅读原文”,参阅论文《人工智能交互指南》。

初始阶段

  1. 明确系统可以做什么。

帮助用户了解AI系统能够做什么。

  1. 明确系统的能力限度。

帮助用户了解AI系统的出错频率。

在互动期间

  1. 基于情境为服务设定时间。

根据用户当前的任务和环境,设定执行或中断操作的时间。

  1. 显示与用户使用情境相关的信息。

显示与用户当前任务和环境相关的信息。

  1. 符合相关社会规范。

提供符合用户社会文化背景的体验。

  1. 减少社会偏见。

确保AI系统的语言和行为不会强化刻板印象及偏见。

系统出错时

  1. 支持高效的调用。

在需要时可以轻松调用或请求AI系统的服务。

  1. 支持高效解除。

要能够轻松解除或忽略不需要的AI系统服务。

  1. 支持有效的纠正。

当AI系统出错时,能够轻松编辑、优化或恢复。

  1. 有疑问时调整服务范围。

如果不能确定用户的使用目的,调用消除歧义功能或减少AI系统的服务。

  1. 明确解释系统为什么会这样做。

让用户能够访问AI系统行为的原因说明。

随着时间推移

  1. 存储近期互动。

保留短期互动记录,并允许用户有效地查看这些记录。

  1. 了解用户行为。

逐渐学习用户行为,实现用户体验的个性化。

  1. 谨慎地更新和调整。

在更新和调整AI系统的行为时,尽量避免颠覆性的变化。

  1. 鼓励细化的反馈。

在用户与AI系统的交互期间,鼓励用户提供反映其偏好的反馈。

  1. 告知用户操作的后果。

提醒或告知用户他们的操作将如何影响AI系统之后的行为。

  1. 为用户提供对AI系统的完全控制。

允许用户全权控制AI系统监控的内容及其行为方式。

  1. 将变更信息告知用户。

当AI系统添加或更新功能时,通知用户。