Apple Card es la forma en que Apple ha entrado al negocio bancario de las tarjetas de crédito, sin cargos ocultos y ventajas como el reembolso diario en efectivo, pero, muchos usuarios de Apple Card están molestos por la posible discriminación contra las mujeres solicitantes y de hecho, el programador David Heinemeier Hansson acudió a Twitter el 7 de noviembre para quejarse de lo que vio como discriminación en el proceso de solicitud de Apple Card, citando la disparidad entre los «límites de crédito» que se le ofrecieron a él y a su esposa, y quejándose de que esta decisión no podía ser apelado.
Pero el revuelo grande se generó cuando el ex cofundador de Apple, el mismísimo Steve Wozniak, reclamó que él y su compañero habían experimentado el mismo problema y The New York Times informó que el Departamento de Servicios Financieros del Estado de Nueva York estaría investigando si el algoritmo que rige las decisiones de límite de crédito era discriminatorio contra las mujeres o cualquier otra clase protegida.
The same thing happened to us. I got 10x the credit limit. We have no separate bank or credit card accounts or any separate assets. Hard to get to a human for a correction though. It’s big tech in 2019.
— Steve Wozniak (@stevewoz) November 10, 2019
La decisión de investigar a Apple se basó en una serie de quejas que se han ido recibiendo e invitó a otros que creen que han sido afectados por circunstancias similares a contactar al departamento y se debe tener en cuenta que al menos en EE.UU, el sesgo, incluso cuando no es intencional, contra los grupos protegidos es ilegal, y si hay evidencia que respalde las acusaciones esto será un gran problema tanto para Apple como para Goldman Sachs, quienes junto con Mastercard son responsables de administrar Apple Card.
Si bien los algoritmos como el que rige el proceso de solicitud de la Apple Card no pueden ser discriminatorios, al menos en teoría, el proceso de programación y los datos utilizados para entrenar los algoritmos pueden introducir sesgos en piezas de software supuestamente objetivas, que luego pueden pasarse por alto .