如何知道您是否可以信任人工智能来回答您的问题


我最近在谷歌搜索中输入了一个简单的问题:对于青少年来说,屏幕时间多长才算过多?它没有像谷歌多年来所做的那样提供链接,而是给了我一个由人工智能生成的答案。人工智能代理引用了一个数字,然后将答案复杂化,并指出时间的质量和平衡比小时数更重要,而“太多”时间可能取决于青少年的睡眠、锻炼、学校要求和情绪。

我尝试了另一个搜索:我应该每天服用阿司匹林吗?这次,人工智能响应向我提供了医疗信息,警告了风险,并在我提供年龄和病史的情况下提供了更有针对性的指导。

这些都是很好的答案。让我感兴趣的是它们是不同类型的答案。

关于人工智能响应的争论主要集中在准确性上:系统是否给出了正确的答案?这很重要,但准确性只是一个测试。每种类型的响应都需要用户做出不同的判断。

我发现将人工智能响应分为四大类型的“响应类型”很有用:事实型、解释性、建设性和战略性。事实陈述通常可以根据来源进行检查。解释可以是准确的,并且仍然反映了对哪些证据是重要的选择。一个解释可能有充分的理由,但对于接受它的人来说仍然是错误的。一份写得很好的战略文件可能并不真实。然而,人工智能以同样流畅和权威的方式呈现所有四种类型的响应;这些差异很容易被忽视。

我是弗吉尼亚大学的一名大学图书馆员和图书馆馆长,领导国家为图书馆专业人员培养人工智能能力的努力,并就人工智能素养提供广泛的咨询。我首先在《学术图书馆杂志》上提出了版式设计的建议。

这四类都不是密闭的盒子。 AI 代理响应可以反映多种类型。也就是说,我在下面描述了每种响应类型,并提供了决定响应是否可以使用或需要进一步调查的指导。

谷歌给你什么答案?

事实性答案所提出的主张原则上可以用证据来验证。弗吉尼亚大学何时成立?黄金的化学符号是什么?

要确定事实响应是否足够有力以供您使用,请通过适当的来源验证该声明。如果答案引用了来源,请点击该链接,而不是简单地将答案视为证据。

解释性答案基于证据,但没有单一的结论。对于青少年来说,多少屏幕时间才算太多?远程工作能提高生产力吗?答案取决于包含哪些证据、省略哪些证据以及如何理解分歧。

谷歌对我有关屏幕时间的问题的初步回应表明,两小时是青少年的限制。然后他指出,针对儿童的目标更重视屏幕使用的质量和背景,而不是简单的时间。美国儿科学会表示,没有针对青少年的确切建议量,并强调了他们可能滚动浏览的屏幕使用类型和活动。一个看似数字的问题需要解释。

要评估解释性反应,不仅仅要检查事实。问问自己该系统强调了哪些证据,遗漏了哪些证据,以及是否还有其他可辩护的解释。向搜索引擎提出的一个有用的后续问题是“支持不同结论的最有力的证据是什么?”

如何知道您是否可以信任人工智能来回答您的问题
来自谷歌人工智能的这样的解释性回应会权衡证据并考虑分歧。
Jaap Arriens/NurPhoto 来自 Getty Images

做出建设性而非发现性的回应。让人工智能起草求职信、撰写悼词、提出课程计划或重新安排段落——没有唯一正确的结果。

你可以通过考虑目的、受众和声音来判断回应。赞美可能在语法上是完美的,但听起来仍然不像赞美者,或者可能被家庭成员听到。它也可能无法很好地捕捉到死者。在阅读时考虑这些类型的效果。

战略问题询问要做什么。我应该每天服用阿司匹林吗?我应该买房子吗?答案结合了有关目标、风险、承诺和个人情况的明智信息。

我对阿司匹林的搜索表明了为什么背景很重要。谷歌警告了这些风险,告诉我咨询医疗专业人士,并在我提供年龄、心血管病史和出血风险的情况下提供更量身定制的信息。这种谨慎态度与美国预防服务工作组的指导是一致的。他说,开始服用小剂量阿司匹林来预防心脏病和中风的决定应该因人而异,并权衡心血管益处和出血风险。

要获得策略性答案,请询问系统在其建议可以合理地应用于您个人之前需要了解什么。考虑风险、替代方案以及是否应由合格人员参与。对于阿司匹林问题,一个有用的后续行动是,“关于我的年龄、病史或出血风险的哪些细节可能会改变这个建议?在做出决定之前我应该​​与我的医生讨论什么?”最终的判断仍然由你做出,因为你是必须接受结果的人。

回答后的第一个问题

我的问题是从常规的谷歌搜索开始的。我没有打开聊天机器人。人工智能生成的响应简单地到达并添加了链接。

答案很有帮助。 Google 添加了上下文、识别了复杂性,并在您提供其他信息时提供量身定制的指导。但是,在每个响应中,响应类型可能会发生变化。报告医疗指南的内容不同于决定其如何适用于特定的人。流畅的响应可以在这些类型的响应之间移动,而声音没有明显的变化。

作为用户,你试图认识到人工智能代理为收到的响应做了什么样的智力工作。考虑解释是否令人信​​服或者建议是否适合您的情况。

在询问人工智能答案是否正确之前,先问一个更基本的问题:这是什么样的答案?那家伙会告诉你下一步该做什么。



Source link

Leave a Reply

Your email address will not be published. Required fields are marked *