自动驾驶系统存在“偏见”？有色人种和儿童或面临更高碰撞风险

据Businessinsider 报道，最近的一项研究发现，自动驾驶汽车的行人检测软件可能在识别不同肤色、性别和年龄的行人时出现差异，可能对有色人种和儿童造成更高的安全风险。

这项研究由英国和中国团队共同完成，共测试八种流行的行人检测软件在不同情况下的可靠性。研究结果显示，性别因素对识别效果的影响较小，而肤色和年龄因素则有非常明显的差异。相比浅肤色和成年人，深肤色和儿童被检测到的概率分别低了 7.52% 和 19.67%。

研究团队认为，这种偏见源于许多公司使用的开源AI系统中存在的偏见。这些开源AI系统是通过大量数据训练而来，但这些数据并不能完全代表真实世界的多样性。因此，在将这些AI系统用于自动驾驶汽车时，可能会对某些群体产生不公平或歧视。

研究团队建议立法者对自动驾驶汽车软件进行监管，以确保检测系统不存在偏见。