La creación de productos de IA intuitivos requiere un diseño para la gestión del contexto
Los modelos de lenguaje grandes se vuelven muy buenos para realizar tareas.
Pueden resumir documentos, generar contenido, analizar datos e incluso razonar sobre problemas complejos de una manera casi humana. En muchos casos, su desempeño supera lo que la mayoría de las personas son capaces de hacer por sí solas.
Sin embargo, todavía cometieron graves errores. no solo en Maneras obvias, como alucinaciones. o mala interpretación de las instrucciones. Pero de una manera más sutil, Una respuesta que parece correcta en la superficie pero que pierde el punto esencial.. Hay una respuesta correcta que suena segura, pero está lejos de ser la respuesta más valiosa.
Es fácil pensar que se trata de una limitación de la inteligencia. Estos modelos aún no son “lo suficientemente inteligentes”. Pero eso no es del todo cierto. El problema no es la inteligencia. Este es el contexto. Estos sistemas le proporcionarán las mejores respuestas posibles, presentadas de una manera que suene muy convincente. Pero sin instrucciones claras, no tienen forma de saber si tienen la información correcta.
El verdadero problema: el entorno, no la capacidad
Cuando utilizamos un modelo de lenguaje grande para resolver un problema, estamos definiendo los límites de lo que puede ver a través de los datos que le conectamos y el historial específico que compartimos. Nosotros decidimos qué incluir. Lo que se está perdiendo. Qué enfatizar. Lo que se ignora. El modelo opera enteramente dentro del marco.
Esto significa que puede producir respuestas razonables y muy coherentes a versiones incorrectas de las preguntas. Aquí es donde las cosas empiezan a desmoronarse. Porque el contexto es más que solo datos. Es una forma completa de situación, historia, gente, limitaciones… la definición de “bien”.
Gran parte de esto no es obvio. Gran parte de ello no quedó escrito. Algunos de estos cambian con el tiempo. Sin embargo, todo esto afecta cuál debería ser la respuesta “correcta”. Sin esto, el sistema llena los vacíos. Hace suposiciones razonables. Se basa en patrones. A veces estas suposiciones son correctas. A menudo, son simplemente razonables.
Aquí es donde reside el peligro. El modelo no sabe cuando falta algo importante. Simplemente sigue y sigue. Produzca una salida técnicamente sólida pero direccional. La respuesta parece completa, pero se basa en una comprensión incompleta de la situación.
Pero incluso cuando se introduce un contexto relevante, rápidamente surge otro problema. Simplemente hay demasiados.
Hace tiempo que sabemos que los seres humanos se enfrentan al dilema de demasiadas opciones. Cuando nos enfrentamos a demasiadas opciones, no evaluamos todo. Simplificamos. Nos basamos en lo que está disponible, actualizado o fácil de manejar. Elegimos lo que nos parece correcto, no necesariamente lo más correcto.
La misma dinámica se aplica ahora a cómo el LL.M. elige un fondo. Estos sistemas no pueden hacer inferencias significativas sobre toda la información posible. Por lo general, identifican un conjunto de suposiciones y construyen a partir de ellas. Nuestra capacidad para explicar por qué eligieron estos hechos es mínima, al menos no mejor que hacer las mismas preguntas a los humanos.
En muchos sentidos, estos sistemas siguen el mismo molde que el nuestro. Operan sobre subconjuntos de cosas existentes y llenan los vacíos. La diferencia es que los humanos pueden confiar en la intuición y dar un paso atrás para cuestionar sus propios marcos. Podemos preguntar qué podría faltar. Podemos repensar qué contexto realmente importa. Luego podremos devolver ese pensamiento al sistema para garantizar que funcione de la manera más eficiente.
De la publicidad al entorno de diseño
Estamos pasando del mundo del diseño rápido al mundo del diseño contextual. Es un cambio sutil, pero importante. El consejo es sobre la redacción. El diseño contextual trata sobre la historia y los conocimientos contenidos en esa redacción. Es la diferencia entre hacer una mejor pregunta y asegurarse de que el sistema comprenda la versión correcta de la pregunta.
Mehul Gupta)
Diseñar para el contexto significa pensar en sentido previo: ¿Qué información se debe incorporar? ¿Cómo se relacionan las diferentes partes entre sí? ¿Qué debería perdurar en el tiempo?
Requiere ir más allá de las interacciones puntuales hacia interacciones más estructuradas. El trabajo más significativo no ocurre de forma aislada. Se construye con el tiempo. Sin embargo, muchas de las formas en que interactuamos con estos sistemas todavía tratan cada intercambio como si existiera de forma independiente.
El diseño para el contexto está diseñado para evitar este reinicio. Esto es para crear continuidad. y garantizar que los sistemas funcionen con una comprensión cambiante del espacio del problema. Esto requiere una nueva forma de diseñar productos y proporcionar formas de gestionarlos. inteligencia situacional del sistema.
El auge del patrón de diseño de gestión de contexto
Ya estamos empezando a ver que los productos evolucionan con el cambio hacia la gestión situacional. Esto no sucede como una serie de mejoras incrementales, sino como una forma fundamentalmente diferente de estructurar la interacción. Todos los principales actores de la IA están incorporando patrones similares en sus capacidades centrales de chat, lo que indica un cambio más amplio en la forma en que se diseñan estos sistemas.
Estas no son sólo funciones adicionales a los sistemas de chat existentes. Representan una nueva clase de herramientas para gestionar el contexto, así como capacidades que permiten recopilar, estructurar y reutilizar información a lo largo del tiempo. Como resultado, las conversaciones ya no son intercambios aislados, sino que se basan en un conjunto continuo y en evolución de entradas que determinan cómo responde el sistema.
En el nivel más alto, vemos esto en el proyecto ChatGPT, el proyecto Claude, Gemini NotebookLM y Copilot Notebooks. Todos estos son ejemplos del primer patrón: contenedor de contexto. Estas capacidades garantizan que el contexto ya no exista dentro de una única interacción, sino que pueda almacenarse, determinar su alcance y reutilizarse a lo largo del tiempo. Esto permite que la comprensión se acumule en lugar de restablecerse con cada nuevo mensaje, cambiando fundamentalmente la forma en que los usuarios interactúan con estos sistemas.
Si bien cada una de estas soluciones ofrece sus propias características y capacidades únicas, todas apuntan a la misma implementación subyacente. Los usuarios necesitan un lugar para almacenar contenido y contexto relevantes de una manera que sea de fácil acceso y reutilización. Esto marca un claro cambio de intercambios puntuales a un entorno diseñado para la reflexión, donde archivos, notas, conversaciones y artefactos coexisten y dan forma a cómo el modelo interpreta cada nueva solicitud.
A medida que los sistemas comienzan a conectarse a fuentes más contextuales, surgen nuevos desafíos. No se debe utilizar todo el contexto disponible en cada interacción, e incluirlo todo puede degradar rápidamente la calidad de su resultado. Esta necesidad introdujo un segundo patrón emergente: referencia selectiva. Más contexto no es necesariamente mejor, el contexto específico es mejor. Incluir todo introduce ruido y dificulta que el sistema identifique lo que es realmente importante. Diseñar teniendo en cuenta el contexto requiere decisiones conscientes sobre lo que se debe incluir y, lo que es igualmente importante, lo que se debe excluir.
Ya podemos ver que este patrón se implementa de diferentes maneras. Por ejemplo, en NotebookLM, los usuarios pueden seleccionar fuentes específicas a través de controles de interfaz simples, como casillas de verificación, reduciendo así el enfoque del sistema. En interfaces de chat más amplias, esta idea se está expandiendo a medida que el sistema puede acceder a más recursos externos. Crowder llama a estos conectores, lo que permite a los usuarios participar selectivamente en conversaciones basadas únicamente en la información que eligen incluir.
Además de los contenedores de contexto y las referencias selectivas, está surgiendo un tercer patrón: instruir. Este modo aparece tanto en el chat general como en entornos específicos de contexto, lo que permite a los usuarios brindar orientación adicional sobre cómo debe funcionar el sistema. Las instrucciones ayudan a dar forma no sólo a lo que el sistema considera, sino también a cómo el sistema interpreta y responde a esa información.
En un entorno de chat general, los comandos permiten a los usuarios definir preferencias como tono, estilo y comportamiento. A medida que se construye OpenAI, los usuarios pueden indicarle al sistema cómo responder durante las interacciones. Sin embargo, dentro de un contenedor de contexto, las directivas se vuelven más específicas y poderosas porque se aplican dentro de un alcance más limitado y definido. Claude Projects, por ejemplo, permite a los usuarios definir este nivel de especificidad a través de su interfaz de comando, lo que ayuda a dar forma a cómo opera el sistema en ese contexto. Esto crea interacciones más consistentes e intencionales, donde el sistema no solo se basa en el contenido, sino que también se guía por las expectativas definidas por el usuario.
Estos tres modelos emergentes resaltan las formas en que las empresas están pensando en cómo permitir a los usuarios gestionar el contexto. Señalan que la gestión de situaciones es un nuevo requisito de alto valor cuando los usuarios interactúan con LLM. El aspecto final es la realidad de que el contexto no es estático. Cambiará a medida que haya nueva información disponible. El archivo está actualizado. Las decisiones cambian. Las prioridades cambian. Los sistemas eficaces deben tener esto en cuenta. Permiten que el contexto se actualice, refine y reestructure con el tiempo en lugar de tratarlo como una entrada fija. Juntos, estos patrones apuntan a un nuevo espacio de diseño. Las personas se centran no sólo en las interacciones, sino también en cómo se recopila, construye y mantiene la información a lo largo del tiempo.
nuevo proceso
En un mundo cada vez más rico intelectualmente, el factor diferenciador ya no es la capacidad de generar respuestas. Más bien, es la capacidad de dar forma a las condiciones que crean esas respuestas. Esto significa decidir qué es importante, reconocer lo que falta y estructurar la información de manera que conduzca a mejores resultados.
Asistimos al surgimiento de una nueva forma de gusto, pero no en un sentido estético. Se trata de un juicio situacional, la capacidad de evaluar un paisaje complejo e incompleto y determinar qué merece atención. Esta habilidad se vuelve cada vez más importante a medida que los trabajadores comienzan a coordinar múltiples sistemas y agentes de IA, cada uno responsable de diferentes tareas. Las personas que sobresalgan en este entorno no serán las que más sepan. Podrán orientarse constantemente a sí mismos y a los sistemas que utilizan hacia lo que realmente importa.
Un diseño bien pensado es fundamental para construir sistemas de IA eficaces. Hace que el trabajo invisible de la selección contextual sea más visible, cerrando la brecha entre la capacidad y el uso efectivo. Con el tiempo, esto respaldará el desarrollo de hábitos y modelos mentales más poderosos, que permitirán a los usuarios operar de manera más efectiva en sistemas cada vez más complejos.
El diseño toma la iniciativa. Tiene la oportunidad de dar forma a una tecnología que no solo satisfaga las necesidades actuales sino que también ayude a quienes la utilizan a evolucionar con los tiempos. Hacerlo garantiza que a medida que estos sistemas se vuelvan más poderosos, las personas que los utilizan también se volverán más eficientes.
El contexto importa…mucho Publicado originalmente en colectivo de experiencia de usuario En Medium, la gente continúa la conversación destacando y respondiendo a esta historia.
