Недавно Министерство внутренних дел Великобритании обязало государственные ведомства и полицейские органы сообщать о случаях, когда те используют искусственный интеллект (ИИ) для принятия общественно важных решений. The Guardian изучила отчеты шести организаций и отдельную базу данных, составленную организацией Public Law Project, а также направила запросы в каждый государственный департамент и полицейский орган Великобритании. Результаты показали, что по меньшей мере восемь департаментов Уайтхолла используют ИИ, причем некоторые делают это активнее других.
Журналисты также обнаружили, что некоторые из инструментов могут давать неточные и дискриминирующие результаты. Например, алгоритм, используемый министерством труда и пенсий, по ошибке привел к тому, что десятки людей лишились своих пособий, а алгоритм распознавания лиц, используемый столичной полицией, как выяснилось, при определенных настройках допускает больше ошибок распознавания для темнокожих лиц. ИИ также применяется властями для обнаружения фиктивных браков — по собственной оценке министерства внутренних дел, он чаще обвиняет в обмане граждан Албании, Греции, Румынии и Болгарии.
По словам экспертов, так происходит потому, что ИИ обычно обучается на большом наборе данных из разных источников, которые могут быть неэтичными и дискриминирующими. В связи с этим не только в Великобритании, но и в США и Нидерландах использование ИИ для принятия важных решений часто приводило к неприятным последствиям. Представители британских министерств отвергли обвинения в дискриминации и заявили, что все окончательные решения принимаются людьми.
