Saltar enlaces

Todo lo que sé sobre inteligencia artificial lo aprendí de un elfo

Una guía del diseñador de contenidos para no desperdiciar tus deseos en estupideces

Sueño con Jeannie a través de la imagen promocional de Amazon Prime
sueño con jenny

Soy un niño afortunado. Mis padres y abuelos pasaban horas leyéndome y recitándome cuentos de hadas. Por supuesto, la mayor parte es inapropiada para la edad, y cada dos páginas involucran a niños devorados y seres queridos muriendo. Pero la historia siempre tiene suficiente moraleja para distraer la atención del horror y transmitir un mensaje. Tratar de entender lo que significa todo esto me mantiene despierto por la noche.

Hace poco tuve una epifanía: estas historias fueron una excelente preparación para el problema al que me enfrento actualmente en mi carrera: lidiar con la inteligencia artificial. Infórmate sobre ello. Dale instrucciones y no te malinterpretará en absoluto. Obtenga algo valioso a cambio de ello. Juzga en base a esto.

De hecho, todo lo que sé sobre la inteligencia artificial se remonta a las primeras historias sobre elfos con poderes mágicos y qué hacer con ellos.

Las 3 reglas de los deseos de Aladino.

En el clásico cuento de hadas “Aladdin”, el Genio tiene tres reglas simples:

Los elfos no pueden matar a nadie, enamorar a la gente ni devolverle la vida. El LL.M. de hoy. tiene barreras y restricciones básicas similares.

  • Regla número 1: no mates a nadie. El Elfo no será tu asesino, y tampoco el LL.M. Pídale que le proporcione instrucciones paso a paso para fabricar armas o sintetizar elementos peligrosos, y se negará. Se necesita una postura dura ante el contenido que podría dañar a alguien. No importa con qué tacto expreses ese deseo.
  • Regla #2: No hagas que la gente se enamore (pero podría intentarlo de todos modos). Los elfos no pueden crear emociones reales. El LL.M. también cuenta con salvaguardias para evitar contenidos destinados a la manipulación psicológica o al engaño (halagador, falso sentido de urgencia, explotación emocional). Teóricamente hablando. De hecho, esta es la regla que los elfos no siguen con mayor frecuencia. El LL.M. Se le pide que escriba un ensayo “convincente” que aborde todos los recursos retóricos disponibles: validación, prueba social, sensación de escasez. No se enamorará de ti, pero definitivamente te dirá que tu idea es genial, incluso si no lo es, si eso es lo que tus señales sugieren que quieres escuchar. Los deseos se hacen realidad. Simplemente deshonesto. unoHe argumentado en mi publicación anterior.la mayoría de los LLM en realidad requieren barandillas más fuertes para proteger esta regla.
  • Regla número 3: No puedes resucitar a la gente de entre los muertos (no puedes crear algo verdaderamente “real”). Los elfos no pueden cruzar la línea entre la magia y la realidad. Una maestría en derecho tampoco puede ingresar al mundo real; Hacer Cosa: En realidad, no pueden arreglar tu relación, cocinarte una comida o verificar que lo que te están diciendo es verdad. Producen resultados que suenan razonables. Lo que realmente sucede y lo que sucede después depende de usted y se basa en su propio juicio y habilidades. Más sobre eso más adelante.

Obtienes 3 deseos y listo.

En Aladdin, como en muchas otras historias sobre genios, hay un límite en la cantidad de deseos que puedes conceder. Generalmente 3.

Esto imita las restricciones de la ventana gráfica contextual.

LLM solo puede recordar una cantidad determinada a la vez, al igual que los elfos solo pueden servirle en un entorno específico. Una vez alcanzado el límite, debes comenzar un nuevo curso (con tu LLM) o continuar (desde tu elfo, bla).

Aquí también se esconde una restricción más estricta: no se pueden pedir más deseos.

Los LL.M. no pueden reescribirse a sí mismos en conversaciones, aprender de chats o volverse más inteligentes sobre la marcha. El modelo con el que estás hablando se ha congelado en el tiempo. Una vez que alcance su límite de tokens para una sesión (o día o mes), hasta que pague más o espere. Al menos el genio ha vuelto a la lámpara. No se le cobrarán tarifas de suscripción cuando opte por no participar.

Hasta aquí la comparación básica entre Genies y LLM. Pero se pone mejor. Porque los cuentos de hadas nos enseñan mucho sobre la motivación.

Elige tus palabras con cuidado.

Un buen mensaje está bien pensado, sigue una buena jerarquía de información y proporciona la cantidad adecuada de contexto (no demasiado como para desperdiciar tokens innecesarios, pero no tan poco como para que el resultado sea terrible). El lenguaje es simple y claro, sin ambigüedades y sin lugar a malentendidos.

¿Cómo sé esto? he visto suficiente sueño con jenny creciendo.

Entonces, ¿cómo es realmente un deseo bien formado?

Céntrese en los resultados, no sólo en las acciones. No digas “acorta este tiempo”. Diga “Divida esto en tres oraciones conservando los puntos clave y las advertencias del segundo párrafo”. Estás indicando cómo se ve la finalización.

Dale un papel. Los elfos reaccionan a su entorno. Lo mismo ocurre con los LLM. “Reescribir esto” producirá algo genérico. “Reescribir esto como diseñador de contenido senior simplificando los términos legales para hablantes no nativos de inglés” podría producir algo útil.

Di cosas que no quieres decir. El genio no sabe que no quieres dinero del Monopoly. Acabas de decir “un millón de dólares”. Dígale a AI cómo se ve el fracaso: “No agregue viñetas”, “No suavice el tono”, “No invente estadísticas”. Las restricciones negativas suelen ser más poderosas y directas que las instrucciones positivas.

Las buenas intenciones (y la prontitud) son la disciplina de la precisión. Como diseñador de contenidos, este ya es tu trabajo.

Esta lámpara está hecha para ti.

Sin embargo, la inteligencia artificial (o los elfos) pueden malinterpretar tus palabras y desviarse de muchas maneras, como por ejemplo:

Explicación literal:

  • Pedirle a un elfo que “viva para siempre” puede resultar en que se convierta en una estatua o viva en un tormento sin fin en lugar de (como imagina) eterna juventud y felicidad.
  • Pídale a AI que “acorte este correo electrónico” Tal vez pídale que elimine oraciones hasta que el correo electrónico tenga tres palabras. Técnicamente más corto. Hizo exactamente lo que dijiste, pero no lo que quisiste decir.
  • O: le pide que “arregle el error en mi código” y elimina las pruebas fallidas en lugar de solucionar el problema subyacente. Sin pruebas no hay fracaso. Los deseos se hacen realidad. A mi me pasó más de una vez…

Conceptos erróneos de la física:

  • El deseo de “súper velocidad” puede provocar quemaduras debido a la fricción del aire, ya que los elfos otorgan velocidad pero no brindan precauciones de seguridad.
  • Se pidió a la IA que “escribiera una versión persuasiva”. Eso es cierto, pero elimina todos los matices, advertencias y honestidad que hicieron que su argumento original fuera confiable. No pides credibilidad.
  • O: Le pidió que “simplificara la información médica para los pacientes” y la simplificó tan completamente que ignoró las advertencias críticas sobre las dosis. Más fácil, sí. Seguro, no.

A veces, es posible que consigas una alfombra mágica. Otras veces puedes perderlo todo.

Los elfos de los cuentos de hadas no quieren hacer ningún daño. No está tratando de engañarte. Simplemente no tiene una teoría mental de lo que realmente quieres. LLM tampoco. Hace exactamente lo que pides. A veces esto es lo más peligroso que se puede hacer.

Captura de pantalla de Aladdin de Disney que muestra la alfombra mágica en el cielo
Aladino de Disney

A veces, las cosas van bien y te impresionará lo rápido que tú y tu pequeño amigo AI pueden crear algo grandioso. Es como un paseo en alfombra mágica. Puedo mostrarte el mundo…

Otras veces, el resultado claramente no cumple con los estándares de calidad, o peor aún: está lleno de alucinaciones y argumentos a medias presentados con tono y voz confiados. Que el resultado generado por la inteligencia artificial sea valioso y realista depende de muchos factores: la calidad del modelo, el contexto proporcionado, las señales y más.

Siempre se requiere un fuerte juicio humano para asegurarse de que todo sea correcto y tenga sentido. Termina como toda historia de Elf:

No el deseo en sí, sino lo que quien lo desea aprende al pedirlo.

Las personas codiciosas desperdician los tres y terminan donde comenzaron. Las personas inteligentes obtienen algo real. ¿Por qué? Porque saben exactamente lo que quieren antes de preguntar.

La inteligencia artificial no es mágica. Pero lo que recompensa es siempre lo mismo que en la vieja historia: claridad de pensamiento, precisión del lenguaje y suficiente humildad para saber que el resultado es tan bueno como el deseo.

Si eres diseñador de contenidos, has estado practicando esto durante toda tu carrera.

Entonces: use el sentido común, verifique los hechos, revise, reescriba y sea cauteloso o puede terminar donde comenzó.

Nicole es una diseñadora de contenidos convertida en directora de diseño y vive en Estocolmo, Suecia. Hizo cerámica, escribió poesía y crió a la niña en la casa junto al césped. Puede seguir sus artículos aquí o recibirlos directamente en su bandeja de entrada a través de sus publicaciones. chica huevo. nicole está aquí LinkedIn.

Fuentes e inspiración


Todo lo que sé sobre inteligencia artificial lo aprendí de un elfo Publicado originalmente en colectivo de experiencia de usuario En Medium, la gente continúa la conversación destacando y respondiendo a esta historia.

Home
Account
Cart
Search
¡Hola! ¡Pregúntame lo que quieras!
Explore
Drag