Por qué la mayoría de los productos de IA fallan antes de la primera interacción del usuario
La mayoría de las funciones de IA fallan porque comienzan con exageraciones, no con humanos.
La mayoría de los productos de IA fallan antes de la primera interacción del usuario porque no resuelven un problema real del usuario. Esto puede parecer dramático, pero sigo escuchando lo mismo en mi oficina ejecutiva: “Necesitamos una función de IA. Nuestro competidor acaba de lanzar una”. De esta manera, las funciones se crean por miedo a quedarse atrás y no por una comprensión clara de lo que los usuarios realmente necesitan.
Esta no es sólo mi opinión. Recientemente vi un informe titulado Las causas fundamentales del fracaso de los proyectos de IA y cómo tener éxito Corporación RAND.
Los investigadores entrevistaron a 65 científicos e ingenieros de datos experimentados que han pasado años construyendo sistemas de inteligencia artificial y aprendizaje automático. Su objetivo es simple: comprender por qué fracasan tantos proyectos de inteligencia artificial y qué tienen de especial los pocos que tienen éxito.
Una de sus conclusiones centrales es sorprendente. Los proyectos de IA más exitosos siempre se han centrado en los problemas que intentaban resolver, más que en la tecnología utilizada para resolverlos. Esta cita podría provenir directamente de una estrategia de experiencia del usuario.
Los diseñadores tienen décadas de capacitación para comprender a los usuarios y sus problemas antes de crear soluciones. ¿Qué pasaría si un proyecto de IA estuviera en problemas no por el modelo, sino por la falta de pensamiento de diseño en la sala?
Construir productos de inteligencia artificial solo por el bien de la tecnología
Veo muchas empresas que crean y lanzan productos de IA porque sienten que tienen que hacerlo (generalmente porque sus competidores acaban de lanzar herramientas con “IA” en el nombre), no porque hayan identificado una necesidad real del usuario.
Esta parece ser una tendencia importante, por lo que no me sorprendió leer una estadística que podría resultar impactante para algunos: Predicciones de Gartner. Más del 40% de los proyectos de IA de las agencias Se cancelará a finales de 2027. Las razones del fracaso incluyen el aumento de los costos, un valor comercial poco claro y un control de riesgos insuficiente. Sus propios analistas lo expresaron claramente: la mayoría de estos proyectos fueron experimentos en etapa inicial impulsados por exageraciones y, a menudo, fueron mal utilizados.
Gartner también estima que de los miles de agencias proveedoras de IA, sólo alrededor de 130 ofrecen una funcionalidad real. El resto se involucra en lo que ellos llaman “reorganización de agentes”, simplemente cambiando el nombre de los chatbots y las herramientas RPA a algo que no son.
Cuando todo funciona con IA, nada funciona con IA. Las etiquetas pierden sentido. La empresa terminó con un producto que era técnicamente “artificialmente inteligente” pero que no resolvió un problema real para nadie.
Problema de “no hay persona adecuada”
Los científicos e ingenieros de datos entrevistados para el informe de RAND Corporation (citado en la introducción del artículo) dijeron que encontrar el talento adecuado para proyectos de IA es un desafío.
Contratar expertos capacitados es un problema, al igual que cómo las organizaciones valoran el talento que ya tienen. Los ingenieros de datos, aquellos que trabajan duro para limpiar y construir datos para que los modelos puedan aprender de ellos, son tratados como ciudadanos de segunda clase. Un entrevistado los llamó “los fontaneros de la ciencia de datos”.
Entonces se fueron. Cuando se van, se llevan todo el conocimiento institucional. Nadie sabía qué conjuntos de datos eran fiables; el proyecto se estancó y el liderazgo perdió interés.
¿Qué pasa con los diseñadores? La mayoría de los equipos de IA ni siquiera tienen uno. O, cuando el modelo haya sido construido y alguien se dé cuenta de que la interfaz no funciona, presentará una al final. Los diseñadores y desarrolladores dependen unos de otros más que nunca Esto debe considerarse desde el primer día al crear cualquier producto, especialmente aquellos con capacidades de inteligencia artificial.
Para sustentar mis puntos de vista y opiniones sobre el tema, cito Experimento de campo de la Escuela de Negocios de Harvard 2025 Las investigaciones han descubierto que los equipos multifuncionales mejorados con IA tienen tres veces más probabilidades de generar ideas altamente efectivas que las personas que trabajan solas. La división entre diseñadores y desarrolladores es exactamente el tipo de silo que los experimentos muestran que deberíamos romper. Lo mismo ocurre con los ingenieros y científicos de datos. Diferentes roles, mismo problema: las personas marginadas son a menudo las que podrían haber “salvado” el proyecto, o al menos las que podrían haberle dado mayor claridad.
Qué podemos hacer como líderes en diseño
El informe RAND se centra en el desarrollo de modelos de aprendizaje automático/IA más que en el diseño de productos. Pero las fallas, la mala comunicación, los objetivos poco claros y los problemas que los usuarios consideran una ocurrencia tardía son exactamente lo que describen como el fin de los productos de IA en la actualidad. Hay una oportunidad única en la vida Los líderes en diseño pueden cerrar esta brecha.
A continuación se explica cómo proceder:
ser un comunicador
Las partes interesadas de la industria a menudo no entienden o no comprenden qué problemas deben resolverse utilizando la inteligencia artificial. Los líderes de diseño tienen una oportunidad única de servir como puente entre las partes interesadas clave y los ingenieros de software, científicos de datos y otros técnicos de IA. Hemos trabajado estrechamente con ellos a lo largo de los años para desarrollar sus productos, por lo que sabemos mejor cómo comunicar las especificaciones correctas. Hablamos el mismo idioma.
sigue la regla de un año
El informe de RAND Corporation dice que antes de iniciar cualquier proyecto de IA, los líderes deben estar preparados para que cada equipo de producto trabaje en un problema específico durante al menos un año. Si un proyecto de IA no merece una inversión a tan largo plazo, entonces probablemente no valga la pena invertir en él en absoluto, especialmente porque un proyecto de IA con un cronograma demasiado acelerado probablemente fracase y no logre los objetivos previstos. Los diseñadores son fundamentales para crear productos que la gente quiera usar, por lo que esta regla también se aplica a nuestro equipo. Necesitamos tiempo para investigar, probar, iterar y validar. No se puede diseñar una experiencia de IA significativa en un sprint de dos semanas.
Cuelga el enunciado del problema en la pared, no la pila de tecnología.
Los productos de IA exitosos son aquellos que se centran en el problema que deben resolver. Como líderes de diseño, debemos escribir un planteamiento del problema que guíe todo el proyecto. Quiero decir, es una declaración de problema clara y centrada en el ser humano que todos, desde el CTO hasta el ingeniero de datos junior, pueden apoyar.
Tener mapeo de flujo de trabajo
Uno de los modos de falla más comunes citados en el informe RAND es la creación de modelos de IA que no se ajustan a los flujos de trabajo empresariales. Funciona de forma aislada, pero se desmorona cuando se topa con la realidad. Este es el ámbito del diseño porque estamos capacitados para mapear los recorridos de los usuarios, los planos de servicios y los flujos de tareas. Entendemos dónde encajan las capacidades de IA en la vida de alguien y dónde no. Si mapeamos estos flujos de trabajo antes de que el equipo de ingeniería comience a construirlos, podemos evitar momentos dolorosos a lo largo del proyecto cuando un modelo técnicamente sólido se vuelve operativamente inútil.
P: “¿Necesitamos inteligencia artificial?”
No todos los problemas requieren inteligencia artificial. Como líderes de diseño, debemos sentirnos seguros al hacer preguntas incómodas. A veces, las mejores decisiones de diseño son las más simples, y decir “Esto no necesita IA, necesita una mejor interfaz” puede ser la contribución más valiosa que usted haga a todo el proyecto.
La pieza que falta para el éxito de los productos de IA
Los diseñadores e ingenieros se centran en resolver problemas reales de los usuarios. Así es como construimos productos de inteligencia artificial que realmente mejoran la vida de las personas.
La brecha entre lo que la empresa afirma que quiere que logre la IA y lo que los usuarios realmente necesitan es una cuestión de liderazgo en el diseño. Para lograr un éxito real, debemos replantear la conversación desde nuevas funciones brillantes hasta resolver problemas reales de los usuarios.
Arlin Bomick (@arinbhowmick) es director de diseño de SAP, con sede en San Francisco, California. Los artículos anteriores son opiniones personales y no necesariamente representan la posición, estrategia u opiniones de SAP.
Por qué la mayoría de los productos de IA fallan antes de la primera interacción del usuario Publicado originalmente en colectivo de experiencia de usuario En Medium, la gente continúa la conversación destacando y respondiendo a esta historia.
