Una IA conduce un automóvil que no reconoce un semáforo en rojo en un día de orballo; un sistema experto de selección de personal impulsado por IA elige con menos frecuencia a personas de origen asiático; un sistema de generación de imágenes distribuye personas de diversos orígenes étnicos como público de una representación teatral en la Atenas del siglo V. Este tipo de fenómenos en el momento de desarrollo de la IA actual muestra cómo el tipo de respuestas que produce una IA puede ser incorrecto, injusto o contrario a la información histórica que poseemos.

Cada IA desarrollada lo hizo en unas circunstancias concretas que impulsaron resultados no deseados. Prestaremos atención a cómo estos fenómenos pueden ser posibles y por qué motivos.