Uma empresa de tecnologia desenvolveu um sistema de inteligência artificial para auxiliar em diagnósticos médicos. Durante o treinamento do modelo, os desenvolvedores utilizaram um conjunto de dados que continha vieses raciais significativos, o que resultou em um sistema que apresenta menor precisão em diagnósticos para pacientes de determinados grupos étnicos. Essa situação demonstra uma falha ética na IA, pois o desenvolvimento e a implantação da tecnologia não consideraram a equidade e a justiça para todos os usuários.