I the example you gave I would actually put the blame the software provider. It wouldn't be ridiculously difficult to anonimize the data, get rid of name, race, gender, and leave only the information about the crime committed, the evidence, any extenuating circumstances, and the judgment.
It's more difficult then simply throwing in all the data, but it can and should be done. It could still contain some bias, based on things like the location of the crime. But the bias would be already greatly reduced.
If it's a purely software issue that's very good to hear. Should be way less problematic in the long run, than a hardware design flaw.
Korzystałem z apollo, potem przez kilka tygodni oficjalnej appki reddita. Potem zmieniłem telefon i dalej korzystałem z oficjalnej appki, ale tam najpierw miałem problem z wczytywaniem się komentarzy, a potem przestały się już nawet otwierać posty. Przeżuciłem się na relay, który mi się kompletnie nie podobał, ale działał. Dzisiaj niestety przestał działać za darmo, więc przybyłem tutaj.