有生一

相信人还是机器-说说自动化偏差

该相信人还是机器?还是都不相信?或是有选择地相信?之前文章提到过人相当的不可靠,需要流程、清单、奖惩制度来规范才能得到相对满意的结果。那机器/系统就百分之百的可靠了吗?如果设计不合理,有各种Bug,或极端环境没测试,零部件失灵等状况,也会导致各种事故。自动化偏差是指对自动化决策系统的结果过度相信而依赖或完全不信而废弃,两种极端的态度都不可取。审慎地看待和使用,包括未来已来的自动驾驶,也应持有相应态度,来看看AI方案(审慎地)。

Continue Reading...