Современные системы «автопилот» уличили в расизме
Система не распознает людей с темной кожей.
Согласно новому исследованию, системы автопилота по-разному реагируют на людей с разными оттенками кожи.
Автомобили с автопилотом могут не замечать людей с темной кожей. Об этом стало известно после исследования Технологического института Джорджии.
Чтобы понять, как различные системы автопилота реагируют на разных пешеходов, специалисты проанализировали базы данных с видеорегистраторов в Нью-Йорке, Беркли, Сан-Франциско и Сан-Хосе.
Оказалось, что технология хуже определяет людей, с четвертым, пятым и шестым типом кожи по шкале Фитцпатрика, что отвечает средиземноморскому, индонезийскому и афроамериканскому оттенкам кожи.
На результаты исследования могли повлиять время суток или цвет одежды. Но, если учитывать только цвет кожи, — точность обнаружения темнокожих пешеходов на 5% ниже.
Это повышает риски наезда на пешеходов, поскольку система может неправильно рассчитать траекторию их движения или вовсе не заметить людей на дороге.
Напомним, пару дней назад калифорнийский автопроизводитель электрокаров Tesla заявил, что внедрит функции полного автопилота к концу 2019-го. Система должна будет автоматически управлять автомобилем от начальной до конечной точки на шоссе, включая смену полос, опережение других транспортных средств и самостоятельную парковку.