Демократы Калифорнии и Пенсильвании предлагают законопроект, предоставляющий обвиняемым право проверять алгоритмы, используемые против них в уголовных процессах. Этот шаг призван устранить опасения по поводу потенциальной предвзятости и недостаточной прозрачности этих все чаще используемых инструментов.
Закон о справедливости алгоритмов судебной экспертизы наделит обвиняемых правом тщательно изучать исходный код программного обеспечения, используемого для анализа улик. Кроме того, он обязывает Национальный институт стандартов и технологий (NIST) установить стандарты тестирования алгоритмов судебной экспертизы, используемых федеральными правоохранительными органами.
Эта инициатива вызвана растущим беспокойством по поводу непредвиденных последствий, возникающих при принятии алгоритмических решений, особенно в таких деликатных областях, как уголовное правосудие. Академические исследования показали, как неявные человеческие предубеждения могут проникать в программное обеспечение, что приводит к таким проблемам, как системы распознавания лиц, «неправильно идентифицирующие темнокожих людей». Подобные опасения распространяются не только на правоохранительные органы, но и на такие отрасли, как здравоохранение, где алгоритмическая предвзятость имеет не менее серьезные последствия.