Muchas personas se han quedado atrapadas en un ciclo sin fin al usar IA: hacen una pregunta, reciben la respuesta y confían en ella. Rara vez alguien realmente comprende la lógica detrás de ello: ¿cómo se genera esta conclusión? ¿Qué modelo está en funcionamiento? ¿Ha sido manipulado en algún momento?

Este problema de caja negra ha existido siempre. Sin embargo, algunos proyectos van en la dirección opuesta, no vendiendo la historia de "la IA es muy inteligente", sino enfocándose en la necesidad más profunda de entender "cómo piensa la IA". OpenGradient está haciendo esto: no se centra en la capacidad de expresión de la IA, sino en la trazabilidad y transparencia en la toma de decisiones de la IA. Este tipo de enfoque en el ecosistema en realidad representa una nueva dirección.