有生一

相信人还是机器-说说自动化偏差

2023-08-30

几个观察

胎压监测

自家车没带胎压监测,购车时就装了OBD盒子来实现;约两年多,都没报警过。记得是在4S店保养后回公司,下班从地下车库拾级而上时,滴滴滴报警了,当时以为是盒子出错了,没理它直接开回家。

第二天上班时才发现左后轮报销了,扎了钉子,换了条新胎。原来胎压的报警是有用的,再后来又一次4S店保养后,胎压又报警,还是扎了钉子,当时留下了4S店附近或里头有钉子的坏印象。

货单合一

约十年前干淘宝电商,出现过一次客户A下单的货寄到了客户B家,而客户B的或寄到了A家,经过协调,让客户A和客户B用顺丰互寄;安抚了客户,省了寄回来重新发货的时间,费用上差不多。这个应急处理还好,毕竟更早前干国际快递时,客户自己出错,不同国家的货都能寄错。

寄错原因都是货单不一,没有检查出货单/快递单/货品的一致性。经此错误,发现了出货流程的漏洞,解决方法是增加检查环节。因人力有限,只能让打单员和打包员相互检查,打包员核对打单员的出货单/快递单一致性,打单员检查打包员的出货单和货品一致性;由此实现货单合一,就再也没有发错货、发漏货、多发货,哪怕日出千单。

自动驾驶

自家车是15款福睿斯顶配,带有自动巡航,功能按键占据了方向盘整个右边区域。使用机会不多,都是在高速上,速度达到80公里/每小时以上就可以按两键开启“Set+”“On”,关闭退出也简单,踩刹车或按取消键“OFF”即可;带来的唯一好处就是长途驾驶时,右脚可以偶尔放松,不会那么累,但神经依旧紧张。

2021年8月,蔚来汽车因NOP“辅助驾驶”功能开启致知名青年企业家死亡的事件上了头条,人们对于自动驾驶/辅助驾驶再持悲观态度。这两年来,华为依赖高精地图及够多的激光雷达,特斯拉依赖强大的实时的视觉场景算法,在复杂的路面场景下游刃有余,两者在自动驾驶上的进展,也令人惊叹不已!

自动化偏差

该相信人还是机器?还是都不相信?或是有选择地相信?之前文章提到过人相当的不可靠,需要流程、清单、奖惩制度来规范才能得到相对满意的结果。那机器/系统就百分之百的可靠了吗?如果设计不合理,有各种Bug,或极端环境没测试,零部件失灵等状况,也会导致各种事故。自动化偏差是指对自动化决策系统的结果过度相信而依赖或完全不信而废弃,两种极端的态度都不可取。审慎地看待和使用,包括未来已来的自动驾驶,也应持有相应态度,来看看AI方案(审慎地)。

AI方案

Prompt问题:

假设您是心理学教授,给职场新人做一场关于自动化偏差的授课,请从定义概念,应用范围,风险控制等角度讲授,最后推荐相关书籍和视频!

ChatGPT4.0回答:

自动化偏差:定义、应用和风险控制

自动化偏差的定义
自动化偏差(Automation Bias)是指人们在面对自动化系统(如机器学习算法或机器人)产生的决策或建议时,倾向于接受它们的意见,即使这些意见可能是错误的。人们可能会过度信赖自动化系统,忽视或贬低自己的判断。

自动化偏差的应用范围
自动化偏差在许多领域都有应用,特别是在高度依赖自动化技术的领域,如航空、医疗、金融和决策支持系统等。在这些领域,人们可能会过度依赖自动化系统,而忽视了自己的经验和专业知识。

自动化偏差的风险控制
自动化偏差可能导致我们过度依赖自动化系统,忽视自己的判断,这可能会导致错误的决策。为了控制这种风险,我们可以:

  1. 提升自我意识:了解自动化偏差的存在,并时刻提醒自己,即使是自动化系统,也是可能出错的。
  2. 培养批判性思维:对自动化系统的决策进行批判性思考,而不是盲目接受。
  3. 实施双重检查:即使自动化系统给出了决策,也可以进行人工复核,以确保决策的准确性。
  4. 持续学习和改进:随着科技的发展,自动化系统也在不断进步。我们需要持续学习和改进,以跟上科技的步伐。

推荐的书籍和视频

  • 书籍:《算法生活:大数据如何影响我们的决策》(Algorithms to Live By: The Computer Science of Human Decisions)是一本关于计算机科学和人类决策的书籍,其中深入探讨了自动化偏差及其影响。
7.4
[美] 布莱恩·克里斯汀 [美] 汤姆·格里菲思 / 2018 / 中信出版社
  • 视频:TED Talk 的《人工智能如何影响我们的决策》(How Artificial Intelligence Influences Our Decisions)详细解析了自动化偏差的原理及其影响,以及如何避免自动化偏差的影响。

总的来说,理解自动化偏差,能够帮助我们更好地利用自动化技术,同时避免过度依赖,保持我们的独立判断和决策能力。

Google Bard回答:

大家好,今天我给大家讲的主题是自动化偏差。

自动化偏差(automation bias)是指人类倾向于过度依赖自动化系统的建议,而忽略非自动化产生的相互矛盾的信息,即使这些信息是正确的。这种偏差可能导致决策错误,甚至造成严重后果。

定义概念

自动化偏差源于社会心理学文献,该文献发现人与人之间的互动存在偏见,表明人类对人类做出的决定的评价比对中性物体的评价更积极。在人机交互中也发现了相同类型的积极偏见,其中对自动化决策的评估是积极的,而不是中立的。

应用范围
自动化偏差在许多领域都可能发生,包括航空、医疗、金融、制造业等。在这些领域中,自动化系统越来越多地被用于决策支持。在这些情况下,操作员可能会过度依赖自动化系统的建议,而忽略来自其他来源的信息,即使这些信息是正确的。

风险控制
为了减少自动化偏差带来的风险,我们可以采取以下措施:

  • 提高操作员对自动化系统的理解和认知。操作员应该了解自动化系统的局限性,以及非自动化信息的重要性。
  • 鼓励操作员主动参与决策。操作员应该养成主动思考、质疑自动化系统建议的习惯。
  • 加强对自动化系统的监控和测试。定期测试自动化系统的准确性和可靠性,以确保其能提供正确的建议。

相关书籍和视频

  • 书籍:《The Human Factor in System Design》(作者:Donald A. Norman)
0
1997 / Ablex Publishing Corporation
  • 视频:《Automation Bias: How It Works and How to Avoid It》

希望这堂课对大家有所帮助。
谢谢大家!

New Bing回答:

您好,我是心理学教授,今天我要给大家讲一讲自动化偏差(automation bias)这个概念,它在职场中有什么应用范围,以及如何控制它带来的风险。请大家认真听讲,如果有问题,可以在课后提问。

首先,什么是自动化偏差呢?自动化偏差是指人们在使用自动化系统或技术时,倾向于过分依赖它们的判断或建议,而忽视或低估自己或他人的信息和能力。例如,当我们使用导航软件时,我们可能会盲目地跟随它的指示,即使它可能会导致我们走错路或遇到交通堵塞;当我们使用智能音箱时,我们可能会接受它的推荐,即使它可能不符合我们的喜好或需求;当我们使用人工智能助理时,我们可能会相信它的回答,即使它可能有误或不完整。

那么,自动化偏差在职场中有什么应用范围呢?随着科技的发展,越来越多的工作和任务被自动化了,这无疑给我们带来了很多便利和效率。但是,如果我们不加以注意,也可能会因为自动化偏差而降低我们的决策质量和工作表现。例如,在医疗领域,医生和护士可能会过分依赖诊断系统或监测设备的结果,而忽略病人的症状或反馈;在金融领域,投资者和分析师可能会过分依赖预测模型或交易平台的建议,而忽略市场的变化或风险;在教育领域,教师和学生可能会过分依赖评估系统或学习软件的反馈,而忽略学习的过程或目标。

最后,如何控制自动化偏差带来的风险呢?这里有一些建议:

  • 提高自我意识:我们要认识到自己可能受到自动化偏差的影响,并且定期检查和评估自己对自动化系统或技术的信任度和依赖程度。
  • 增强批判思维:我们要保持对自动化系统或技术的怀疑态度,并且主动寻找和验证其他来源的信息和证据。
  • 培养创造力:我们要利用自己的想象力和创造力,并且尝试提出和实施不同于自动化系统或技术的方案和解决办法。
  • 加强沟通协作:我们要与其他人分享和讨论自己对自动化系统或技术的看法和经验,并且借鉴和学习他们的意见和建议。

以上就是我今天要讲的内容,希望对大家有所帮助。如果您想了解更多关于自动化偏差的知识和案例,请参考以下书籍和视频:

  • 《超级预测:如何运用数据科学改善决策》(Superforecasting: The Art and Science of Prediction)[Philip E. Tetlock, Dan Gardner]
  • 《智能陷阱:如何让人工智能为你所用》(The AI Delusion)[Gary Smith]
  • 《自动化偏差:人类与机器的决策心理学》(Automation Bias: The Psychology of Human and Machine Decision Making)[Ewart de Visser, Raja Parasuraman]
  • 《自动化偏差:如何避免人工智能的陷阱》(Automation Bias: How to Avoid the Pitfalls of Artificial Intelligence)[TEDx Talk by David Danks]

谢谢大家的聆听,祝大家工作顺利,生活愉快!

通义千问回答:

尊敬的职场新人们,大家好!今天我将为大家讲解一个在职场中非常重要的概念——自动化偏差。

首先,我们来定义一下什么是自动化偏差。自动化偏差是指人们在面对复杂的信息时,倾向于依赖于自己的系统化思维方式和以往的经验,而忽略了新信息和更全面的视角。这种倾向有时会导致错误的决策和行为。

自动化偏差在职场中的应用范围非常广泛。比如,在面对工作压力时,我们可能会倾向于采用习惯性的解决方案,而忽略了其他更有效的方法。在团队协作中,我们也可能会因为过去的成功经验而固执于某种做法,而忽略了其他团队成员提出的更好建议。因此,了解自动化偏差的存在和影响,有助于我们更好地应对职场中的各种挑战。

那么,如何控制自动化偏差呢?以下是几个建议:

  1. 提高自我意识。首先,我们要认识到自己可能会受到自动化偏差的影响,并时刻保持警惕。只有当我们意识到自己的思维方式可能存在问题时,才能更好地调整自己的行为。
  2. 寻求多样化的信息来源。在面对复杂问题时,我们应该尽可能地从多个角度获取信息,以避免过度依赖于自己的经验和思维方式。这也有助于我们更全面地了解问题本身。
  3. 鼓励思维多样性。在团队协作中,我们应该鼓励成员们提出不同的观点和解决方案。这样可以促进全面的思考和更好的决策。

最后,我推荐大家阅读一本书——《思考快与慢》(Thinking, Fast and Slow),作者是丹尼尔·卡特尔。这本书深入探讨了自动化偏差和其他思维误区对我们决策的影响,并提供了许多实用的建议。此外,大家也可以观看一些关于自动化偏差的视频,比如TED演讲《我们为什么会犯同样的错误》(Why We Make the Same Mistakes Twice)。

希望今天的授课能够帮助大家更好地理解和应对自动化偏差。谢谢大家!

字节豆包回答:

在职场中,自动化偏差是一种非常常见的心理现象,它指的是人们在使用自动化工具或系统时,往往会过度依赖它们,从而导致判断和决策出现偏差。这种偏差会影响到职场新人的工作效率和决策质量,因此我们需要对其进行深入的探讨和学习。

首先,我们来谈谈自动化偏差的定义。自动化偏差是指人们在使用自动化工具或系统时,会出现过度依赖它们的情况,从而导致判断和决策出现偏差。这种偏差的产生原因是因为自动化工具或系统能够快速、准确地完成某些任务,使得人们对其产生了过度的信任和依赖。

接下来,我们来谈谈自动化偏差的应用范围。自动化偏差在职场中非常普遍,尤其是在需要进行大量数据分析和决策的领域,例如金融、医疗、营销等。在这些领域中,人们往往会使用自动化工具或系统来辅助决策,但是如果过度依赖这些工具或系统,就可能会出现自动化偏差。

最后,我们来谈谈如何控制自动化偏差。为了控制自动化偏差,我们需要采取以下措施:

  1. 意识到自动化工具或系统的局限性。自动化工具或系统虽然能够快速、准确地完成某些任务,但是它们并不是万能的。我们需要认识到它们的局限性,并在使用它们时保持警惕。
  2. 培养批判性思维。在使用自动化工具或系统时,我们需要培养批判性思维,对其输出的结果进行深入的分析和评估。我们需要思考这些结果是否合理,是否存在其他可能的解释,以及是否需要进一步的调查和验证。
  3. 加强人机交互。在使用自动化工具或系统时,我们需要加强人机交互,与它们进行充分的沟通和交流。我们需要了解它们的工作原理和局限性,并根据实际情况进行调整和优化。
  4. 定期休息和放松。长时间使用自动化工具或系统可能会导致疲劳和注意力不集中,从而增加自动化偏差的风险。因此,我们需要定期休息和放松,保持身心健康。

在这里,我想向大家推荐两本关于自动化偏差的书籍,它们分别是《自动化思维:机器智能如何影响人类思维和行为》和《智能陷阱:如何应对自动化时代的认知挑战》。这两本书深入探讨了自动化偏差的产生原因、影响和应对。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注