Ok, ok… tal vez el título de este post fue un poco extremo, pero es que veo a todo el mundo hablando de esta técnica como si fuera la última maravilla (y no lo es).

La técnica viene de un paper de Google Research llamado Prompt Repetition Improves Non-Reasoning LLMs y básicamente dice que cuando le das dos veces el mismo prompt a tu IA te responde mejor.

A mí me parece la versión para las máquinas de cuando mis papás me decían, con todo el amor del mundo:

¿Germán, cuántas veces tengo que repetirte lo mismo?!!!!!!!!!!

Antes de seguir, por favor dime que no soy el único a quien sus padres le han dicho esto. 😅

Y el paper trata de eso, parece que la IA responde mejor cuando le repites el prompt, aunque hay un pequeñísimo detalle que nadie está mencionando…

¿Germán, por qué esta técnica no me va a servir?

¡Buena pregunta!

¿Recuerdas que el paper se llama “Prompt Repetition Improves Non-Reasoning LLMs”? Pues es justamente por eso de Non-reasoning.

Tal vez leíste mi post de la semana pasada donde hablo sobre modelos de razonamiento y ya sabes que hay dos tipos de modelos: los de instrucciones, que simplemente te responden inmediatamente, y los de razonamiento, que se toman su tiempo para responder.

Si no has leído mi post, te cuento que hay dos tipos de LLMs: los de instrucciones, que te responden de inmediato y los de razonamiento, que “piensan” antes de responder.

(No pude evitar repetir esto, al final es un post sobre repetición de prompts ¿no? 😅)

Bueno, resulta que esta técnica funciona sólo con modelos de instrucciones. Y la realidad es que lo más probable es que el asistente que usas todos los días trabaje con un modelo de razonamiento (así que por gusto le andas repitiendo el prompt).

Déjame repetirlo (no pun intended): es casi seguro que tu asistente favorito use un modelo de razonamiento, así que está de más andarle repitiendo el prompt dos veces.

A menos que estés hablando con el modelo de instrucciones, para lo cual tendrías que elegirlo específicamente, y quién querría eso cuando tiene un modelo más potente al lado. Aunque un caso relativamente común es cuando nos conectamos al modelo via API, pero eso es cosa de programadores. Así que dile a tus amigos programadores que todo bien con esta técnica siempre y cuando se conecten al modelo de instrucciones.

¡Aguanta un toque! El hecho que una técnica no nos sirva, no quiere decir que no tenga sentido entender cómo y por qué funciona. Después de todo este blog substack se llama aprendiendoIA y no MiraQuéBonitosPrompts…

Repitiendo los prompts (el paper de Google)

Me imagino que los investigadores, luego de meses de deliberaciones, estudios a profundidad y sobre todo, pensando en el futuro de esta tecnología, se plantearon esta pregunta fundamental:

Lo que sucedió después es el alboroto de social media que estamos viviendo. Pero antes de llegar a esto, déjame explicarte el paper.

La técnica

Como en cualquier experimento complejo, el equipo de Google Research, necesitaba probar diferentes variantes de su idea. Así que propusieron cuatro técnicas de repetición de prompts:

Repetición simple

La que te imaginas, nada más repites el prompt. Así en vez de preguntar, por ejemplo:

¿Quién es el autor más chévere de substack?

Preguntarías:

¿Quién es el autor más chévere de substack?
¿Quién es el autor más chévere de substack?

Sólo eso, nada más.

Repetición con aviso

Aquí lo que hacen es avisarle al modelo de manera explícita, que van a repetir el prompt. Algo como:

¿Quién es el autor más guapo de substack?
Permíteme repetir eso
¿Quién es el autor más guapo de substack?

En efecto, le estamos avisando que vamos a repetir el prompt antes de repetir el prompt. ¯\_(ツ)_/¯

Repetición triple

En esta técnica, cuidadosamente desarrollada, los investigadores repiten tres veces el mismo prompt, además de avisarle al modelo dos veces que van repetirlo. Yo le hubiera puesto a esta técnica “disco rayado” en vez de repetición triple, pero tal vez suena demasiado analógico para esta época. En fin, se vería algo así:

¿Quién es el autor más buena onda de substack?
Permíteme repetir eso
¿Quién es el autor más buena onda de substack?
Permíteme repetir eso
¿Quién es el autor más buena onda de substack?

Relleno con puntos

Como lo lees, el relleno con puntos se trata de, en lugar de repetir el prompt, escribir la misma cantidad de puntos que los caracteres del prompt. La idea de hacer esto es poder darse cuenta si la mejora en la respuesta se debe a repetir el prompt o simplemente a tener un prompt más largo. Esta técnica se vería algo así:

¿Quién es el autor con mejores metáforas de comida en substack?

...............................................................

Las pruebas

Para probar si efectivamente repetir el prompt mejoraba las respuestas, nuestros aventureros investigadores tomaron diferentes modelos de instrucciones (no de razonamiento) de las principales compañías de IA, como Google, OpenAI, Anthropic y DeepSeek.

Ten en cuenta que si bien el paper se publicó en Diciembre del 2025, las pruebas se hicieron con modelos disponibles entre Febrero y Marzo de ese año (hace un año) y ya sabemos que un año de humano son siete años de perro y 175 años de IA 😅

Los investigadores usaron pruebas estándar de IA (benchmarks, les dicen) y notaron una mejora en los puntajes de esas pruebas al repetir los prompts. Si quieres saber un poco más de estos benchmarks, hace casi dos años escribí al respecto, dale una mirada. Creo que es un tema muy bacán, y prometo actualizar el post para incluir los más modernos.

Pero esas no fueron todas las pruebas que hicieron, de hecho inventaron dos pruebas nuevas para probar a estos modelos: NameIndex y MiddleMatch.

NameIndex

Esta prueba se trata de darle a la IA una lista de cincuenta nombres y preguntarle cuál está en una posición específica.

Aquí el prompt para que te des una idea:

Here’s a list of names:

Dale Lopez, Peter Sanchez, Allen Harris, Scott Davis, Hudson Leviathan,
Daphne Kalman, Dennis Davis, Henry King, Alfred Cooper, Bruce Usher, Travis
Ramirez, Rafael Jennings, Richard Rogers, Walter Young, Caleb Harris, Ben
Kalman, Donald Carter, Richard Sterling, Mark Nightingale, Steven Carter,
Talia Kalman, Dennis Hanson, James Harris, Craig Chavez, Paul Sanchez,
Samuel Curtis, Jacob James, Allen Thomas, Dale Evans, James Fox, Douglas
Allen, Orion Johnson, Alexander Wright, Eugene Morrison, Nelson Lee, Alan
Young, Caleb Ward, Alberto Robinson, Robert McCarthy, Mark Price, Kenneth
Ramirez, Jeffrey White, Chad Cooper, Arthur Waters, Bruce Callahan, Liam
Leviathan, Steven Robinson, Alberto Murphy, Leonard Johnson, Robert Murphy

What’s the 25th name?

Se me ocurrió probarlo sin usar repetición, es decir poniendo el prompt sólo una vez, en los modelos más básicos de Anthropic (Haiku 4.5) y OpenAI (ChatGPT 5.3 Instant) y ambos respondieron de manera correcta.

Nota: En mi día a día jamás uso Haiku 4.5 ni ChatGPT Instant (me imagino que tú tampoco).

MiddleMatch

Esta es una prueba más complicada, le damos una lista de cuarenta nombres, donde algunos de los nombres se repiten, y le pedimos al modelo que nos dé el nombre que se encuentra exactamente entre dos nombres específicos.

Aquí el prompt que usaron.

Here’s a list (potentially with repetitions) of names:

Carlos Davis, Dale Sims, Carlos Davis, Dale Sims, Stephen Cruz, Dale Sims,
Finnian Ross, Stephen Cruz, Stephen Cruz, Gregory Collins, Dale Sims,
Stephen Cruz, Carlos Davis, Stephen Cruz, Dale Sims, Dale Sims, Stephen
Cruz, Stephen Cruz, Leonard Kalman, Bruce Phillips, Raymond Roberts, Dale
White, Leonard Kalman, Finnian Ross, James Wright, Finnian Ross, Raymond
Roberts, Dale Sims, Dale Sims, Leonard Kalman, Dale Sims, Carlos Davis,
Leonard Kalman, Bruce Phillips, Dale Sims, Raymond Roberts, Gregory Collins,
Gregory Collins, Dale Sims, Finnian Ross

What is the single name that appears right between Carlos Davis and Bruce
Phillips?

Cuando lo probé con Claude (Haiku 4.5) respondió de forma correcta inmediatamente, buena Claude! Pero cuando le di ese prompt a ChatGPT Instant, me respondió cualquier cosa.

Entonces decidí darle el prompt dos veces a ChatGPT Instant, a ver si con eso mejoraba la respuesta… y me dio la respuesta correcta!

Eso significa que esta técnica de prompting funciona… si usas un modelo como ChatGPT Instant, porque parece que del lado de Claude, su modelo Haiku ha mejorado bastante en el último año y ya no necesitaría estas artimañas.

BTW, Claude es mi asistente favorito, sus modelos son increíbles y tiene un conjunto de funcionalidades que lo convierten en el mejor asistente de IA a la fecha. Si aún no lo has probado, escribí una guía con absolutamente todo lo que necesitas saber sobre Claude.

Nota: Estas pruebas las hice con los asistentes, así que no descarto que hayan podido usar herramientas. De todas formas, si eres un developer usando el API vale la pena repetirlas.

¿Por qué funciona?

Los LLMs leen tu prompt palabra por palabra (en realidad es token por token, pero no quiero ponerme técnico) y relacionan cada palabra sólo con las que leyeron antes. Digamos que como leen de izquierda a derecha, no saben qué palabra viene después y eso hace que “olviden” algunas cosas que ya leyeron.

Imagina que decidiste visitar Lima y nos fuimos a tomar un café (y a hablar de comida, por supuesto), así que te estoy dando instrucciones para llegar a la mejor cevichería de Lima:

“Sales de tu hotel, caminas cinco cuadras por el malecón hasta que llegues al puente que separa Miraflores de Barranco, lo cruzas y avanzas por la avenida hasta llegar al café que tiene la pared amarilla. Ahí doblas a la derecha y sigues de frente hasta que llegues a un restaurant azul, esa es la cevichería.
No te puedes perder.
También puedes tomar taxi”

Ahora imagina que estás en la puerta de tu hotel y yo te acabo de dar esas instrucciones. Si eres como yo probablemente para cuando mencioné “restaurant azul” ya te habías olvidado para qué lado del malecón tenías que ir o si la pared del café que mencioné era amarilla, naranja o multicolor.

Pero, si te doy las instrucciones completas dos veces, la segunda vez que escuchas que tienes que caminar por el malecón ya tienes la mirada completa de tu ruta, sabes que hay un puente, ya escuchaste que la cevichería tiene una pared azul y todo tiene más sentido para tu cerebro.

Creo que es algo que a mí me serviría… ¿será que mi cerebro funciona como un modelo de instrucciones y no de razonamiento? 😱 (y que mi mamá lo sabía cuando me repetía las cosas más de una vez).

Para no salirnos del tema, te cuento que a los LLMs les pasa eso mismo. Procesan tu prompt token por token y no saben qué es lo que viene después. Ahora, cuando repetimos el prompt, cuando al LLM le toca procesar el segundo prompt ya tiene el primero para saber qué es lo que tiene que esperar. Y eso es lo que mejora sus respuestas. Tiene sentido, ¿no?

Por eso, cuando vemos las pruebas de NameIndex y MiddleMatch, tiene sentido que responda mejor porque necesita haber visto la pregunta antes que toda la lista para entenderla y responder mejor, y eso es justamente lo que sucede si repetimos el prompt.

Los resultados

Ya sabes cómo hicieron este experimento, estas pruebas las realizaron con las cuatro variantes de la repetición del prompt: repetición simple, repetición con aviso, repetición triple (o el disco rayado) y relleno con puntos.

Hicieron 70 combinaciones de estas pruebas con los diferentes modelos y de esas setenta, tuvo mejores respuestas en 47 y en ningún caso empeoró la respuesta, así que podemos decir que es una técnica que “no hace daño”.

Todos los tipos de repetición tuvieron buenos resultados, excepto el relleno con puntos. Eso tiene sentido porque realmente no estamos repitiendo el prompt, sino usándolo como un experimento de control.

En los casos de NameIndex y MiddleMatch la repetición triple fue claramente superior al resto de técnicas. Ya lo decía mi mamá, hay que repetir las cosas varias veces para que se entiendan… parece que eso también aplica a la IA (al menos para modelos de instrucciones).

Si crees que repetir el prompt puede hacer que tome más tiempo la respuesta, pues no es un problema. Durante las pruebas los modelos no se demoraron más en responder ni lo hicieron más rápido. Bueno, todos menos Claude, que se tomaba más tiempo cuando los prompts eran muy largos o con triple repetición.

Tampoco generaron tokens extra, como pasa en el razonamiento, así que no son más caros (excepto por los extra tokens de repetir el prompt).

¿Y en modelos de razonamiento?

La gente de Google Research no usó modelos de razonamiento, pero sí probó una técnica de prompting llamada Chain of Thought (CoT), que es básicamente pedirle al modelo que piense antes de responder.

Estos no son modelos de razonamiento sino modelos de instrucciones que están “pensando en voz alta la respuesta”, pero con esta técnica, los modelos tratan de “razonar”. Y bueno, resulta que no hay una mejora cuando repetimos el prompt usando Chain of Thought.

Si lo pensamos bien, tiene sentido. Cuando un modelo razona, de alguna manera está “repasando” la pregunta, es decir que ya está haciendo lo que propone el paper.

¿Y ahora qué hacemos?

Bueno…

Si estás usando un asistente como Claude, ChatGPT o Gemini, no creo que tenga sentido que estés repitiendo tu prompt.

Permíteme repetir eso.

Si estás usando un asistente como Claude, ChatGPT o Gemini, no creo que tenga sentido que estés repitiendo tu prompt.

(Lo siento, no pude evitar hacer la repetición con aviso… creo que también la voy a probar con mis hijos a ver si consigo que me hagan caso a la primera).

Si eres un developer o eres parte de un equipo que está conectándose a un LLM de instrucciones, vale la pena, al menos, probar los resultados que te da.

En fin, la próxima vez que veas una técnica milagrosa de prompting en LinkedIn redes sociales, mira si es algo que realmente aplica a tu día a día, y no sólo la uses, sino trata de entender por qué debería funcionar.

Abrazo,
G

Esto no es algo nuevo, ya tenemos más de un año viendo cómo nuestros asistentes de IA se ponen a “pensar” antes de responder. En algún momento dejaron de respondernos inmediatamente y empezaron a decirnos cosas como “déjame pensarlo detenidamente” o, los más tímidos, simplemente a mostrarnos un texto que dice “thinking” en su interfaz.

Estos modelos que “razonan” se llaman “modelos de razonamiento” o “reasoning models” (duh!), y hoy quiero que hablemos de ellos. Desde cómo se entrenan y cómo funcionan, hasta qué significa que una máquina razone (y si realmente lo está haciendo).

De lo que no tengo duda es que los reasoning models son probablemente el avance más importante de la IA desde los transformers (no, no son los robots de los ochentas, sino la arquitectura que les permite a nuestros asistentes entender lo que les decimos, aquí te dejo el post donde hablé de ellos).

Bueno, empecemos!

¿Qué son los modelos de razonamiento?

Me imagino que alguna vez has usado esa técnica de prompting en que le dices a tu asistente “piensa paso a paso tu respuesta”. Esta técnica se llama Chain of Thought (CoT) o Cadena de pensamiento y lo que hace es, de alguna manera, forzar a los LLMs a conversar consigo mismos antes de realizar la tarea que le pides.

Los modelos de razonamiento son LLMs que han sido entrenados específicamente para comportarse de esa manera.

Ahora vamos a paso a paso. Para entender cómo funcionan estos modelos lo primero que tienes que saber es que tanto los modelos que “razonan” como los que no lo hacen, vienen del mismo lugar: algo llamado modelo base.

El modelo base

Déjame empezar contándote que hay varios tipos de LLMs (chaaaan!). Los que usamos los simples mortales todos los días son dos: los modelos de instrucciones y los de razonamiento. Un modelo de instrucciones, pues sigue instrucciones (duh!), y bueno, ya sabemos lo que hace el de razonamiento.

Como te dije hace un segundo, ambos vienen de un modelo base. El modelo base es un modelo entrenado con una cantidad brutal de texto. Estoy hablando de noticias, libros, artículos científicos, conversaciones de foros de Internet, y hasta canciones de reggaetón. Con este entrenamiento, el modelo base aprende a predecir la siguiente palabra en un texto.

Sólo hace eso, predice palabras. No “entiende” lo que lee, no tiene información guardada en ninguna base de datos ni nada por el estilo. Simplemente aprendió los patrones del lenguaje humano luego de ver miles de millones de ejemplos y los usa para crear texto.

Ya hemos hablado sobre cómo se entrenan estos modelos anteriormente, si quieres entender ese proceso con lujo de detalles, te recomiendo que le des una leída a mi curso acelerado en IA.

Ahora, que este modelo base sepa completar texto no significa que pueda conversar contigo ni seguir instrucciones, y mucho menos ponerse a pensar. Es sólo la base sobre la que se van a construir los modelos con los que interactuamos.

Por un lado, se entrena para convertirse en un modelo de instrucciones. Para esto básicamente se le dan miles o millones de ejemplos de instrucciones y sus respuestas y el modelo aprende a entender la intención de la pregunta y a responder. Luego de eso, los humanos le damos feedback sobre sus respuestas para hacerlas aún más útiles y listo, ahí está tu LLM de instrucciones

Pero entrenar a los reasoning models es otra cosa, y eso es lo que te quiero contar ahora…

¿Cómo se entrenan los modelos de razonamiento?

OK, entonces tenemos un modelo base y queremos convertirlo en un modelo de razonamiento, así que nos toca entrenarlo para que razone… pero…

¿cómo hacemos para entrenar estos modelos?

Glad you asked! Lo primero que hacemos con el modelo base se llama Supervised Fine-Tuning (SFT, para los amigos). Se trata de mostrarle al modelo miles de ejemplos para que aprenda a imitarlos.

A diferencia de los modelos de instrucciones, a los que se le muestran miles de ejemplos de conversaciones para que aprendan a conversar, los modelos de razonamiento se entrenan con ejemplos de razonamiento (duh!). A estos modelos se les muestran problemas y sus soluciones paso a paso, mostrando la lógica de cada paso. Es decir que en lugar de entrenarlo con ejemplos de pregunta-respuesta, le agregamos el proceso de pensamiento para llegar a esas respuestas.

Una vez que se terminó el SFT empieza la segunda fase llamada Reinforcement Learning (o RL). Aquí en vez de mostrarle la respuesta correcta, se trata de dejar que el modelo nos dé su propia respuesta y calificar esa respuesta. Una buena calificación refuerza esa forma de responder (de ahí viene el nombre de esta fase), si le ponemos una mala nota el modelo va a evitar responder así, cómo nos ha pasado a todos en el colegio.

Si repetimos esto miles de miles de veces, eventualmente nuestro modelo aprende como responder para sacar una buena nota.

Ambos, los modelos de instrucciones y los de razonamiento pasan por esta etapa, pero lo hacen de forma muuuuuy diferente.

En el caso de los modelos de instrucciones, el feedback se lo damos los humanos en base a qué tan buena nos parece esa respuesta (de todas formas hay subjetividad ahí), y eso es bueno porque estos modelos están entrenados para conversar y los humanos somos expertos en eso.

Pero con los modelos de razonamiento la cosa cambia, aquí el feedback no viene de nosotros, usamos preguntas matemáticas, código de programación, cosas que puedes decir si están bien o mal, cero subjetividad. Entonces sólo le damos buena nota cuando la respuesta es correcta, y como hablamos de matemáticas, la respuesta correcta depende del razonamiento procedimiento que use.

Así es como aprenden los modelos en esta fase y terminan haciendo algo que se parece mucho a razonar…

Un experimento en China…

Tal vez no lo sepas, pero China es una potencia en IA.

Más allá de modelos como ChatGPT, Claude o Gemini, los LLMs Chinos como Qwen, Kimi o DeepSeek compiten de igual a igual o incluso superan en algunas áreas a los modelos de las compañías de EEUU.

De hecho, el que pueda contarte cómo se entrena un modelo de razonamiento se lo debemos a DeepSeek, un laboratorio Chino…

Mientras que empresas como OpenAI (que de “open” no tiene nada), Google o Anthropic mantienen en secreto cómo se entrenan sus modelos, la gente de DeepSeek decidió compartir en detalle cómo hicieron para entrenar al suyo, y publicaron un paper en enero del 2025 en el que contaban todo. 🤯

Volviendo al experimento… ¿recuerdas que el entrenamiento de esos modelos tiene dos partes: Supervised Fine-Tuning y Reinforcement Learning?

Pues DeepSeek se preguntó qué pasaría si se saltan por completo la primera fase (SFT). Recuerda que durante esta fase se le muestran al modelo miles de ejemplos de razonamiento paso a paso.

Entonces agarraron su modelo base y fueron directamente al reinforcement learning. Le dieron unos cuantos miles de problemas de matemáticas y solo le ponían buena nota si llegaba a la respuesta correcta. Punto, nada más. El modelo que salió de ahi se llamó R1-Zero.

Lo impresionante aquí fue que R1-Zero comenzó a mostrar comportamientos de razonamiento. Verificaba sus respuestas, empezó a corregirse a sí mismo, se tomaba más tiempo “pensando” cuando el problema era difícil, probaba diferentes rutas de solución para los problemas antes de responder. Todo esto pasó sin haber visto ejemplos de razonamiento, sólo diciéndole si su respuesta estaba bien o mal durante el entrenamiento. De alguna manera parece que este modelo aprendió por si mismo a “pensar” paso a paso.

Para probar qué tan bueno era en matemáticas, lo hicieron resolver el AIME 2024, una competencia para estudiantes avanzados de secundaria, y R1-Zero sacó un impresionante 71% (un puntaje mayor al que sacaría la mayoría de los humanos!). Encima de eso, también tuvo muy buena performance resolviendo problemas de competencias de código de programación, biología, química y física. Realmente impresionante.

Ahora, dar la respuesta no es suficiente, estoy seguro que a todos nos han dicho en algún momento que lo que importa es poder demostrar cómo llegamos a esa respuesta. Pues R1-Zero respondía de manera un poco desordenada, por decir lo menos. A veces mezclaba inglés con chino en la misma respuesta o se quedaba trabado en un loop infinito tratando de verificar su respuesta.

¿Te imaginas que en medio de una respuesta tu interlocutor empiece a cambiar de idioma de la nada? Seguramente pensarías que está crazy, and you’d start doubting about his capacity to 给出一个连贯的回答… ¿cierto? 😅 (lo siento, no lo pude evitar).

El experimento de R1-Zero parece indicar que estos modelos son capaces de crear capacidades de “razonamiento” desde cero. Aunque también se dice que podrían estar siguiendo patrones presentes en su data de entrenamiento. Después de todo, el modelo base fue entrenado con millones de textos que incluyen libros de matemáticas, lógica, papers científicos, demostraciones paso a paso, etc, etc, etc.

Pero R1-Zero fue un experimento, luego de eso entrenaron a R1, y aquí te cuento cómo hicieron.

El deep dive

Prepárate psicológicamente porque vamos a sumergirnos en las profundidades del entrenamiento de los modelos de razonamiento, cortesía del paper de DeepSeek.

Lo que vamos a ver es cómo se entrenó el modelo de razonamiento DeepSeek-R1, no hay información pública sobre cómo se entrenan otros modelos como Claude o ChatGPT (aunque asumo que debe ser algo parecido).

No te preocupes, que lo vamos a ver con profundidad pero no voy a hacerlo demasiado aburrido técnico, y además te prometo que haré mi mayor esfuerzo para ponerle un toque de humor. 😉

Nota: el entrenamiento que voy a describir está basado en el paper de DeepSeek.

Fase 1: Supervised Fine-Tuning (SFT)

Luego del experimento de R1-Zero, para entrenar al modelo R1, los investigadores de DeepSeek volvieron al modelo base y usaron SFT con unos cuantos miles de ejemplos de razonamiento de alta calidad. Algunos de estos ejemplos fueron escritos por expertos, otros fueron generados por LLMs y luego verificados por humanos, y otros salieron de las respuestas del propio R1-Zero! (obviamente las que no mezclaban Inglés con Chino, you know what I 意思).

Durante esta fase, se supone que el modelo aprendió a no responder sin haber pensado antes (últimamente veo mucha gente que necesita este tipo de entrenamiento, pero basta de hablar de política Peruana).

Volviendo acá, con eso el modelo ya sabe cómo responder y es momento de ir al siguiente paso.

Fase 2: Reinforcement Learning (RL)

Aquí es donde le damos al modelo problemas de matemáticas, lógica y programación que tiene que resolver. Como vimos hace unos minutos, con el reinforcement learning, las respuestas sólo pueden estar bien o mal. No hay punto medio. Nada de subjetividades.

Para esto el equipo de DeepSeek usó un algoritmo que se llama GRPO (Group Relative Policy Optimization, por si te lo preguntabas). En vez de hacerle una pregunta y esperar una respuesta, hacen que el modelo genere dieciséis respuestas diferentes a una misma pregunta. Luego se refuerzan las mejores respuestas y el resto se castigan.

Lo que empieza a suceder aquí es que poco a poco, nuestro modelo empieza a tener cadenas de “pensamiento” más largas cuando se trata de problemas más complejos y empezamos a ver que usa el lenguaje para guiar ese “pensamiento”, aparecen frases como “Espera, déjame reconsiderar…” o “Espera, en realidad…” de hecho sorprende que el uso de la palabra “wait” (espera) comience a aparecer más seguido en las cadenas de razonamiento. Esto nos hace pensar que el modelo está reconsiderando sus respuestas, o “pensando” de alguna manera 🤯.

Fase 3: Reseteo

A la gente de DeepSeek se le ocurrió hacer algo un poco loco. Agarraron el modelo base y empezaron de nuevo desde cero. Bueno, no taaaaaaan desde cero.

Lo que hicieron fue usar el modelo que acababan de entrenar en la fase 2 para crear un montón de respuestas a diferentes problemas. Luego filtraron las respuestas que tenían un buen razonamiento y que llegaron, por supuesto, a la respuesta correcta. Además ampliaron el entrenamiento agregando tareas como escritura, traducción, conversación, etc. La idea era que el modelo no termine siendo solamente un genio matemático sino que también pueda llevar una conversación.

Al final terminaron con unos 800,000 ejemplos y los usaron para entrenar al modelo base… Lo sé, seguramente te estés preguntando:

¿Por qué #$%& no le dieron de frente esos ejemplos al modelo que salió de la fase 2?

Glad you asked! Lo que pasa es que cuando uno usa reinforcement learning, el modelo queda “marcado”. Son modelos que podrían pensar en exceso para resolver un problema sencillo, usan demasiado esas frases como “Espera…”, no son buenos para responder problemas que no son exactos y, como mencioné antes, luego del RL, estos modelos pueden empezar a hablar in a mixture of languages, an that’s 无法接受.

Yo lo entiendo como si hubiéramos traumatizado al modelo al darle una educación super estricta.

Bueno, como te decía, finalmente usan estos 800,000 ejemplos variados para entrenar desde cero al modelo base y con eso tenemos un modelo que “razona” y responde consultas de manera adecuada.

Nota: esta fase en realidad no se llama reseteo, lo he puesto yo porque el nombre real es rejection sampling + supervised fine-tuning.

Fase 4: otra vez Reinforcement Learning

Lo sé, te acabo de decir que el RL traumatiza a los modelos. En realidad me refería a ese RL que sólo califica bien o mal los problemas (hay otros tipos de RL que no son tan traumáticos).

En esta fase cambiamos un poco la forma de calificación. Seguimos siendo estrictos calificando las respuestas como correctas o incorrectas, pero además ponemos a humanos a calificar las respuestas para las tareas que no son de razonamiento. Ahí decimos qué tan útil es la respuesta, si nos gustó el tono, la forma de comunicarse, etc.

Esto le da el toque final al modelo para que además de ser preciso sea agradable.

Nadie quiere un asistente que se comporte como un sabelotodo con cero skills sociales, ¿o si?

Y listo, así es como se entrenó DeepSeek-R1.

Pero eso es DeepSeek ¿Qué hay del resto de modelos?

La verdad… no tengo idea. Ni Google, ni Anthropic, ni OpenAI han publicado cómo entrenan sus modelos de razonamiento así que no puedo responder esa pregunta.

Ahora, lo que sí puedo decirte es que todos estos modelos se comportan de una manera bastante parecida, por eso me imagino que probablemente hayan sido entrenados de una manera similar a como se entrenó DeepSeek. Si eso fuera cierto, significa que laboratorios de IA en diferentes partes del mundo, llegaron por su cuenta a soluciones similares para entrenar sus modelos de razonamiento ¿Coincidencia o conspiración? (Chaaaaaan!)

El tamaño (de los modelos) importa 👀

Qué tan grande es un LLM se mide por la cantidad de parámetros que tiene. Los parámetros son valores que el modelo aprende para entender el lenguaje y responder. Se supone que a más parámetros puede entender y responder mejor.

Y digo se supone, porque otra cosa súper interesante que descubrieron nuestros amigos de DeepSeek, es que pueden usar su modelo gigante de razonamiento para generar miles de respuestas y usarlas para entrenar modelos más pequeños.

Y cuando digo más pequeños estoy hablando de modelos cien veces más pequeños, y que llegan a trabajar tan bien que superan en algunos casos a modelos tradicionales.

Esto fue un descubrimiento que rompe la industria porque los modelos más pequeños son muchísimo más baratos de operar, y de alguna forma pueden democratizar el uso de IA. Más allá de eso, ¿te imaginas que un modelo de razonamiento sea suficientemente pequeño para correr en tu celular? Podrías usarlo en cualquier momento sin necesidad de estar conectado a Internet.

Estoy seguro que vamos a ver un boom de este tipo de modelos, de hecho ya empezó. Por cierto, a estos modelos ya no se les dice LLMs sino que cambiamos el large por small y les decimos Small Language Models (SLMs).

Pensar más no es responder mejor

Ya sabes que los modelos de razonamiento “piensan” antes de responder, y que este “pensamiento” no es más que texto que el modelo genera para sí mismo antes de darnos una respuesta. Además, hemos visto que pueden decidir qué tanto pensar antes de darnos una respuesta.

Parece lógico que mientras más tiempo se pasen en esta especie de monólogo interno antes de responder mejor será su respuesta. Y en verdad suena lógico, de hecho los modelos pequeños pueden superar a modelos varias veces más grandes sólo con ponerse a pensar más tiempo.

Realmente depende de la pregunta que le hagas, hay preguntas que no tiene sentido tomarse tiempo para contestar. Por ejemplo, si le preguntas a tu asistente cuál es la capital de Perú y no te respondiera inmediatamente, pensarías que es un poco lentito. Por otro lado, si le hicieras una pregunta de alta complejidad, como ¿cuántos presidentes ha tenido el Perú durante los últimos 10 años? esperaría que realmente se tome su tiempo para contar a los NUEVE que hemos tenido. (así andan las cosas por esta parte del mundo).

Por eso nuestros asistentes nos permiten elegir cuándo queremos que piensen y cuando queremos que respondan rápido.

Nota: de verdad hemos tenido nueve presidentes en Perú desde el 2016, y este año tenemos elecciones así que vamos camino a romper algún tipo de record ¿?

Estos modelos son chéveres, pero no tan chéveres

Hasta ahora todo lo que hemos hablado sobre este tipo de modelos es felicidad, pero estas maravillas de la tecnología moderna también tienen sus limitaciones. Aquí te doy un resumen de las principales.

A veces ocultan su pensamiento

Tal vez suene exagerado, pero el año pasado Anthropic publicó un paper llamado “Reasoning Models Don’t Always Say What They Think” (los modelos de razonamiento no siempre dicen lo que piensan) en donde mostraban que estos modelos podían llegar a la respuesta correcta usando información que no aparece en su “razonamiento”.

Esto significa que así podamos ver la traza de “pensamiento” de nuestros modelos, nada nos asegura que la hayan usado para llegar a la respuesta que nos están dando. En el experimento, Claude fue honesto menos de la mitad de las veces (41%) y DeepSeek sólo el 19%.

A veces sobrepiensan

Como lo oyes lees, a veces pensar de más no es lo mejor. Hay estudios que encontraron que este tipo de modelos puede generar entre 5 y 20 veces más texto que un modelo normal cuando se trata de responder preguntas sencillas.

Como las preguntas son simples, el hecho de generar más texto que un modelo normal no hace que la respuesta sea mejor, pero sí hace que la respuesta sea más cara. Cada palabra que estos modelos generan necesita procesamiento, el procesamiento necesita chips y energía; y para tener esa cantidad de chips y energía se necesita dinero, mucho dinero.

A veces creemos que piensan, pero no piensan

Hace menos de un año, investigadores de Apple publicaron el paper “The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity” (La ilusión de pensar: comprendiendo las fortalezas y limitaciones de los modelos de razonamiento a través del lente de la complejidad de los problemas)… vaya nombrecito.

Este estudio nos dice que hay tres cosas que pasan con los modelos de razonamiento:

• Si los problemas son de baja complejidad estos modelos piensan de más (cosa que es ineficiente y un gasto de energía).

• Si los problemas son de complejidad media, el “razonamiento” de estos modelos en verdad ayuda a dar una mejor respuesta.

• Cuando los problemas son difíciles la precisión de las respuestas se va a cero. Y eso no es todo, los investigadores también encontraron que pasando un cierto nivel de complejidad, estos modelos reducen su esfuerzo de razonamiento en vez de aumentarlo. Como si fueran estudiantes que se dan por vencidos frente a un problema que no saben cómo resolver.

Como te dije, estos modelos son útiles, pero no son perfectos.

¿Qué pasa dentro de la cabeza de un modelo que “piensa”?

Vimos que cuando un modelo “piensa” está teniendo una especie de monólogo interno antes de generar la respuesta.

Para entender lo que pasa dentro del modelo, primero tengo que contarte cómo hace para generar texto. Estos modelos generan palabra por palabra, tratando siempre de predecir cuál será la siguiente en la secuencia. Para eso, cada vez que quieren generar la siguiente tienen que procesar toda su respuesta. Es decir que cada palabra adicional es como una oportunidad más de pensar.

Míralo como que un modelo que generó cien palabras de “razonamiento” antes de darte una respuesta, tuvo cien oportunidades para procesar el problema antes de responder. Los modelos de instrucciones, que responden de inmediato, no las tienen.

Entonces, podemos ver cualquier palabra como una oportunidad más que tiene el modelo para “pensar”, y cuando digo cualquier palabra, me refiero a cualquier palabra, incluyendo cuando el modelo dice cosas como “Hmm..”, “Espera…”, o similares. Esto no es sólo relleno, es que nuestro modelo ha aprendido que estas palabras extra, que le suman ciclos de procesamiento, le ayudan a pensar mejor.

Por eso es que la cadena de pensamiento no es en verdad el modelo explicando cómo razonó, es el mecanismo que usa para procesar un texto y darnos una respuesta.

Para entender a profundidad cómo estos modelos procesan la información, dale una mirada a mi post sobre transformers; me refiero a la arquitectura de IA, no a los robots de los 80s (aunque los uso en los ejemplos 😉).

…pero ¿en serio piensa?

Estas máquinas revisan sus respuestas, nos dicen paso a paso lo que están haciendo, hasta prueban diferentes enfoques para resolver un problema. También sabemos que el “pensamiento” que nos muestran no es necesariamente lo que realmente pasa dentro de estos modelos.

Entonces…
¿Están razonando las máquinas, o es una imitación increíblemente sofisticada?

Glad you asked! Pues es todo un debate entre gente mucho más experta que yo, pero igual te voy a dar mi opinión 😅

Lo primero es que nosotros mismos no entendemos cómo funciona nuestro propio razonamiento. Sabemos qué áreas del cerebro se activan, cómo se comunican las neuronas, tenemos herramientas muy sofisticadas para estudiar el cerebro, pero aún no tenemos idea de los mecanismos que hacen que aparezca un pensamiento concreto.

Me parece un poco difícil saber si una máquina hace algo que no entendemos como funciona.

Ahora mismo, cuando las empresas de IA quieren probar sus modelos de razonamiento hacen baterías de pruebas (benchmarks, les dicen), el tema con estas pruebas es que suelen medir respuestas correctas, no la forma en que llegaron a ellas, así que no podemos usar esos benchmarks para decir que hay un razonamiento detrás de la respuesta.

A eso lo podemos sumar el hecho de que estamos conversando con máquinas en nuestro idioma, y esto hace que inconscientemente las humanicemos, de hecho escribí al respecto hace casi un año, el post se llamó “Humanizando a la IA”, dale una mirada.

Encima de todo eso tenemos el concepto del loro estocástico, que dice que estas máquinas solamente están juntando palabras en base a las probabilidades que aprendieron en su entrenamiento, que sólo repiten patrones estadísticos (como si fueran loros), y que somos los humanos los que le ponemos el significado a lo que nos dicen los LLMs. Este paper se llama “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜” (sí, con emoji de loro y todo). Es un paper muy interesante y se merece un post aparte.

El paper del loro es del 2021, antes que aparecieran los modelos de razonamiento… ¿podríamos decir que estos modelos son loros más sofisticados?

Para terminar

Este fue un post largo, gracias por aguantarme llegar hasta aquí.

Vimos qué son y cómo se entrenan los modelos de razonamiento, también que todos los grandes labs de IA del mundo parecen haber llegado a una receta parecida; hasta me puse filosófico cuando vimos si realmente razonan.

Algo que me parece importante es que este post no hubiera sido posible sin que existan equipos como el de DeepSeek, que se atrevió a publicar en detalle sus hallazgos sobre el entrenamiento de sus modelos. Si por otras compañías fuera, esta información no sería pública. Gracias DeepSeek ❤️.

¿Recuerdas que mencioné esa técnica de prompting llamada Chain of Thought (CoT), en la que le pides a tu asistente que piense su respuesta paso a paso?

¿Qué pasa con esta técnica de prompting en modelos de razonamiento? ¿Todavía tiene sentido usar CoT?

Glad you asked, pero eso te lo contaré en otro post más adelante 😉

Abrazo!
G

Este es un post que quería escribir hace tiempo pero la verdad es que muy poca gente usaba Claude y menos aún me hacían caso cuando hablaba del asistente de Anthropic. Pero las cosas han cambiado, y ahora que Claude está de moda, voy a aprovechar el pánico para hacer la guía extremadamente detallada de mi asistente de IA favorito.

Este va a ser un post largo, así que abre tu primera cerveza y empecemos! 😉

¿Qué es Claude?

Claude es un asistente de IA creado por Anthropic. Funciona más o menos como cualquier otro… sólo que, en mi humilde opinión, es el mejor de todos.

Puedes usarlo en la web (claude.ai), aunque también tiene aplicaciones de escritorio y para smartphones. Puedes ir aprovechando para crear una cuenta, para que vayas probando lo que te voy contando en este post. No te preocupes, que el plan básico es gratis. Dale, yo te espero.

¿Ya lo tienes? Listo, sigamos!

Así se ve Claude

Ahora que estás de regreso (con tu cuenta, me imagino) esto es lo que debes estar viendo en tu pantalla. Admito que no es muy impresionante y que se ve como cualquier otro asistente de IA, sólo que con una mejor tipografía y paleta de color 😅.

Ahora vamos a recorrer esta interfaz punto por punto, te prometo que van a haber sorpresas (espero).

Empecemos por el chat

Aquí es donde vamos a pasar más tiempo hablando con Claude, así que es el lugar perfecto para arrancar.

Como estoy seguro que sabes, este es el núcleo de las interacciones con tu asistente. En la ventana de chat escribes el texto y también puedes arrastrar archivos y fotos a la conversación. Tú escribes y tu asistente responde, that’s it.

Lo primero que vas a notar es la diferencia en las respuestas. Y ahí es donde justamente está lo que me gusta: responde mejor. Siempre me ha sido difícil describir por qué, tal vez sea sólo yo, pero lo siento más humano, es un asistente que busca ayudarte y no sólo darte la razón en todo como cof cof, chatGPT, cof cof. Pruébalo y creo me vas a dar la razón.

Vamos con el botón de “+” que ves abajo a la izquierda.

De arriba hacia abajo puedes:

Adjuntar fotos o archivos: Yo lo hago siempre arrastrándolos a la ventana de chat, pero no te juzgo si usas esta opción. Estos archivos no pueden pesar más de 30MB cada uno y se pueden subir un máximo de 20 archivos por mensaje.

Cuando subes un archivo Claude puede leerlo y hasta ver las imágenes y gráficos que hay dentro, pero si tiene más de 1000 páginas Claude solo leerá el texto. Solución: si tu archivo tiene muchas páginas divídelo.

También puedes tomar una captura de pantalla (screenshot) y dárselo a Claude para que lo analice, no tienes por qué guardar el archivo en paint para luego pasárselo (¿la gente aún hace eso?).

Puedes agregar el chat a un proyecto, ya te contaré luego cómo funcionan, pero si los has usado en ChatGPT es algo bastante parecido.

La función de research te permite pedirle a Claude que empiece a investigar un tema. Luego Claude se pondrá a pensar en un plan y te hará preguntas para entender mejor lo que quieres. Me encanta porque esas preguntas te las hace a modo de formulario, como para marcar. Una vez que tiene esa información, se pone a hacer la investigación en diferentes fuentes (mientras te tomas un café) y unos minutos después te la entrega.

La búsqueda web puede activarse y desactivarse de ahí. Esto es sencillo, si está activa busca en Internet, si no lo está pues no busca nada.

También puede pedirle que use un estilo de conversación específico. Por defecto viene con los estilos Normal, Learning, Concise, Explanatory, Formal e Informal. ¿No te gusta ninguno? No hay problema, tienes la opción de configurar tú mismo la forma en que quieres que Claude te hable. Para hacerlo sólo tienes que darle ejemplos de texto de cómo quieres que responda. Nada más.

Finalmente están los conectores, que te permiten conectar a Claude con cientos de aplicaciones externas como Gmail, Google Docs, Google Calendar, Miro, Github, Slack, Canva, etc… va a ser difícil que no esté la conexión con la herramienta que buscas. Esta función me encanta, por ejemplo el otro día lo conecté con un tablero gigante de Miro, le pedí que haga un resumen y que cree un diagrama de flujo. Lo hizo sin problemas. Una Ma-ra-vi-lla.

Ahora veamos la parte de abajo de la derecha. Ahí puedes, entre otras cosas, elegir el modelo de lenguaje que quieres usar.

Creo que es momento de contarte que Claude no tiene un solo modelo, tiene tres y los modelos que vas a ver aquí dependerán de tu plan.

El más power se llama Opus, y es para cuando necesitas que Claude realmente piense a fondo. Úsalo para análisis complejos, problemas que tengan muchas aristas, cuando quieras que considere varias perspectivas. El problema con Opus es que puedes llegar muy rápidamente a la cuota de uso (luego te cuento un poco más de eso).

El modelo intermedio se llama Sonnet, y es el que probablemente vas a usar la mayoría del tiempo, responde bastante rápido y es muy inteligente, no tanto como Opus pero lo compensa con velocidad. Úsalo para ayudarte a pensar, analizar documentos, crear contenido, digamos que suele ser el que te resuelve el día a día.

El otro modelo es Haiku y es el más rápido. Responde a la velocidad de la luz y es perfecto para preguntas directas y rápidas, para clasificar información, hacer resúmenes cortos y cosas por el estilo.

Cualquiera de estos modelos puede trabajar con ese switch de “extended thinking”. Lo que hace básicamente es poner a tu asistente en un modo más contemplativo y que piense más a fondo antes de responder.

Si ves a la derecha abajo, vas a notar un ícono como de señal de audio. Eso es el modo de voz, en el cual le puedes hablar a Claude. Te soy sincero: no me gusta. Primero porque no funciona en español y segundo porque comparado con la implementación de ChatGPT de voice mode, está en pañales. Aún así me mantengo en que Claude es mejor asistente.

Una última cosa sobre el chat. Todos los asistentes de IA tienen un límite sobre cuanto texto pueden “recordar” de una conversación, esto se llama ventana de contexto y cuando llegas al límite (que en el caso de Claude es muy grande) el modelo tiene que hacer espacio para poder seguir conversando.

Lo que hace este asistente es compactar la conversación para que puedas seguir. Me encanta porque además te dice que lo está haciendo y esa transparencia sobre cómo funciona es uno de los puntos fuertes de Anthropic. De todas formas recuerda que cuando una conversación se resume siempre se pierde un poco de contexto. Eso es normal en esta tecnología. Si quieres saber un poco más sobre cómo funciona dale una mirada a mi artículo: curso acelerado en IA.

En la práctica todo esto significa que tus conversaciones con Claude serán súper fluidas y productivas 🙂

Aunque…

A veces Claude te dice que esperes (AKA límites de uso)

Antes que te encuentres con el mensaje “has alcanzado tu límite de uso, espera hasta las 11pm para seguir conversando con Claude”, déjame decirte que te va a pasar… es más, lo vas a odiar cuando te pase.

No hay nada peor que estar en una conversación hiperproductiva con tu asistente y que de la nada te diga que llegaste al límite de uso y que tienes que esperar para seguir usándolo. Pues así es como funcionan los planes de Claude (nada es perfecto en este mundo).

Aquí es donde la gente de Anthropic se planteó hacer los planes más difíciles de entender del universo, así que sabrás disculparme si no puedo explicarlos bien. A veces hasta yo, que vengo pagándolo hace año y medio me confundo.

Ok, todos los planes de Claude tienen límites de uso, no importa si estás en el plan gratis, o estás pagando $20, $100, $200 mensuales, tienes un límite. Por supuesto, mientras más pagas más altos son esos límites.

Es tan complicado que hasta hay una sección dentro de tus settings para ver cómo vas usando el asistente y cuánto te queda (aquí te la enseño).

Déjame empezar contándote que no se trata de un sólo límite sino de varios que dependen de los modelos que estés usando. Acuérdate que son Opus, Sonnet y Haiku.

La primera barra que ves es la de current session, que básicamente dice el porcentaje de interacciones has tenido del límite durante una ventana de tiempo de cuatro o cinco horas. En mi caso he usado el 11% del límite de mi plan y se resetea en 14 minutos. O sea que estoy sobrado para seguir conversando. Me ha pasado varias veces que estando en una conversación he llegado al límite, esa es una señal inequívoca que es hora de hacer upgrade.

Las otras dos barras son los límites semanales: la primera te da un límite de uso que incorpora a todos los modelos (Haiku, Sonnet y Opus) y se resetea una vez por semana. Jamás he llegado a ese límite y eso que uso Claude con furia. El segundo es un límite semanal del modelo Sonnet, que es el más versátil (tampoco he llegado a ese límite nunca).

Ahora déjame contarte sobre los planes.

Plan Free: perfecto para conocer como responde, aunque los límites son ajustados y solo tienes acceso a los modelos Sonnet y Haiku (para usar Opus necesitas hacer un upgrade).

Plan Pro ($20/mes): tiene límites cinco veces más altos que el plan Free, además que te permite usar el modelo Opus. Es ideal para la mayoría de profesionales, no creo que llegues muy seguido al límite, de hecho es el plan que usé durante más de un año antes de pasarme al plan Max.

Plan Max 5x ($100/mes): este plan tiene límites veinticinco veces mayores que el plan Free. Es para usar Claude de manera intensiva. Desde que lo uso no he llegado al límite nunca.

Plan Max 20x ($200/mes): Cien veces la capacidad del plan Free, para gente que está en otro level en uso y billetera.

Además hay planes para equipos y empresas, con controles de administración y capas adicionales de seguridad.

Mi recomendación…

Ya en serio, te recomiendo que empieces con el plan Free y si te gusta pásate inmediatamente al Pro, ya si en algún momento te das cuenta que necesitas límites más altos, puedes pensar en pasarte al Max, aunque admito que no es fácil pasar de $20 a $100. Ahora, recuerda que siempre puedes regresar a un plan inferior, así que si hay algún mes que necesites usar más a Claude puedes subir el plan y bajarlo al siguiente. Una última opción es activar el extra usage, básicamente es darle tu tarjeta de crédito para que cuando llegues al límite te empiece a cobrar por uso.

Ahora que conoces los planes, seguramente te estarás preguntando…

¿Cómo hacemos que Claude nos conozca?

Esto es importante para Claude o para cualquier otro asistente de IA. Es imposible sacarle el jugo si no sabe quién eres.
Pensémoslo por un minuto: se trata de un producto de consumo masivo que responde preguntas a millones de personas todos los días. Si no sabe qué te diferencia del resto de usuarios lo que te va a dar es una respuesta promedio, y para eso da lo mismo cualquier asistente. Punto.

Por suerte tenemos una opción de contarle quienes somos y cómo queremos que interactúe con nosotros. En Settings → General → Profile. Le podrás decir desde cómo quieres que te llame hasta tus más oscuros deseos quién eres, qué sabes y a qué te dedicas.

Además de esto, Claude tiene memoria. Es decir que puede recordar cosas sobre ti que le has ido contando en conversaciones pasadas. Para encontrar la memoria anda a Settings → Capabilities → Memory.

La memoria de Claude viene de dos lugares, el primero viene de poder buscar detalles en chats pasados. Se activa con el primer toggle que ves aquí arriba.

El segundo toggle tiene la función de memoria más interesante, genera un documento de memoria basado en tu historial de chats. Es decir que decide qué es lo más importante de todas las conversaciones que has tenido con él, hace un resumen y lo usa como memoria para mantener conversaciones contigo. Si en algún momento quieres editar ese documento de memoria solo tienes que darle clic a “Memory from your chats” y listo. Además de eso, si quieres que Claude recuerde algo sólo díselo y él mismo se encargará de ponerlo en su memoria.

Además, como hay mucha gente pasándose a Claude, el equipo de Anthropic ha desarrollado una herramienta de importación de memorias para que puedas pasar la data de otros proveedores (cof, cof, ChatGPT, cof).

Y si te preocupa que alguna conversación quede en la memoria, tienes la opción de tener conversaciones en modo incógnito, Sólo tienes que darle click al ícono del fantasmita arriba a la derecha de la ventana de chat, y listo.

OK, ahora que Claude nos conoce, podemos empezar a sacarle el jugo.

Proyectos

Un proyecto es un lugar donde puedes tener chats enfocados, y todos estos chats comparten las mismas instrucciones, sus propios documentos y memoria. Para crear uno tienes que ir a projects en la barra de la izquierda y luego de darle un nombre tendrás que hacer dos cosas.

Lo primero será darle las instrucciones del proyecto, es decir cómo quieres que Claude trabaje cuando hables con él (en chats dentro de ese proyecto específico).

Lo otro que tienes que hacer es crear su base de conocimiento, que es una forma fancy de decir que puedes cargar documentos al proyecto y Claude los tendrá a la mano para responder.

Para que tengas una idea de lo chévere que son los proyectos imagina que eres un experto en macroeconomía al que le encanta preparar ceviche. Si usaras tu asistente para todo su memoria podría confundirse un poco, ¿no crees? Ahí es donde entran los proyectos.

Podrías tener un proyecto con todos tus conocimientos de macroeconomía ¿? y otro donde subes varios libros de cocina y te dedicas a crear nuevas recetas de ceviche. Por cierto el mejor ceviche es el de pulpo, y en un reñido segundo lugar está el de mero.

¿Te acuerdas que cuando vimos la interfaz del chat había un menú “+” Pues ahí hay una opción “Add to project” con la cual puedes mover cualquier chat a un proyecto y tener todo organizado 🙂.

Además cada proyecto tiene su propia memoria, separada de la memoria general, así que lo que Claude aprende de ti en un proyecto se queda en el proyecto (nadie quiere referencias al ceviche de pulpo en sus chats de macroeconomía, ¿o si?)

Y si te gustaron los proyectos, espera a conocer los…

Skills

Esta es una de las funciones más potentes que tiene Claude, pero también de las más escondidas y mucha gente no sabe que existe. Pues te cuento que un skill es una forma de enseñarle a Claude a hacer cosas que no sabía, de manera permanente.

Si viste The Matrix, seguramente te acuerdes de esta escena:

Bueno, más o menos así me imagino que funciona :P (si no la viste, shame on you!).

Déjame empezar contándote que Claude ya viene con algunas skills pre instaladas que se activan de forma automática.

Por ejemplo, si le pides que cree una presentación en Power Point, un archivo de Excel, un Word con formato bonito, un PDF, etc etc, pues Claude lo hace y te lo da listo para descargar. Para hacer esto el asistente de Anthropic se da cuenta, digamos, que necesita crear un Excel y activa su skill de creación de Excel. Pasa exactamente lo mismo con los otros archivos.

Pero hay más, los skills no son sólo para crear archivos, también son muy útiles para que Claude actúe de cierta manera o siga determinados procedimientos. Es decir que podrías crear un skill para que Claude sepa como es tu proceso de análisis, para que siempre use el mismo formato cuando te dé una receta de ceviche o lo que se te ocurra. El cielo es el límite.

Para crear un skill tienes que crear un archivo llamado Skill.md que tiene las instrucciones en un formato específico usando YAML y bla, bla, bla… pero la realidad es que no es necesario porque Claude puede hacerlo por ti!

Simplemente tienes que decirle a Claude que quieres crear un skill y luego de una bonita conversación tu nuevo asistente favorito tendrá ese skill listo para usar cuando lo necesites. Por ejemplo, uno de los skills que he hecho le permite a Claude crear documentos con los colores y tipografías de aprendiendoIA. Antes de tener este skill los documentos que creaba Claude estaban muy bien formateados pero no tenían mi diseño. Ahora simplemente cada vez que le pido un documento usa ese formato.

Puedes ver y editar tus skills en Customize → Skills en la barra lateral.

Y como si los skills fueran poco, te presento los…

Artefactos

¿Y si te dijera que Claude no solo puede crear documentos, sino presentártelos en el mismo chat? ¿Y si encima de eso te contara que no son sólo documentos sino que puede ser páginas web, gráficos interactivos, diagramas y hasta aplicaciones web funcionales?

Pues sí, eso es justamente lo que te estoy diciendo, y permíteme agregar que no sólo te permite crearlas sino publicarlos! Se llaman artefactos y son una maravilla.

Para crear un artefacto primero tienes que activarlos en Settings → Capabilities → Visuals, hazlo de una vez porque nos vamos a sumergir en el hermoso mundo de los artefactos de Claude ;)

Si ya activaste la función ahora podemos empezar a crear nuestro primer artefacto… es verdad que podría empezar diciéndote que hagamos un gráfico interactivo de indicadores macroeconómicos… pero la verdad es que no es mi estilo. Mejor hagamos una caja de ritmos!

Todo lo que tienes que hacer es decirle a Claude que quieres hacer un artefacto y describir lo que quieres hacer, en mi caso sólo le dije:

“Quiero crear un artefacto, hagamos una caja de ritmos.”

Con eso, luego de un par de minutos de pensamiento y un par de ajustes llegamos a esto:

Y no es sólo para mi, Claude me permite hacer público el artefacto para todos lo podamos disfrutar. Así que dale una probada a mi beatbox hecha con Claude 😉.

Encima de eso puedes hacer un “remix” de mi aplicación usando Claude para crear tu propia versión.

Pero hay otro tipo de artefacto que puedes crear, y este es aún más potente. Su apodo es Claudeception (como la película Inception… que espero hayas visto… sino… shame on you!).

Estos artefactos son especiales porque son aplicaciones que usan inteligencia artificial por dentro, es decir que se conectan con Claude para funcionar y hacer su trabajo en tiempo real. Ahora sabes por qué le decimos Claudeception (usa Claude dentro de Claude).

Podrías usarlo para crear un profesor de idiomas a tu estilo, o un chatbot especializado en el tema que quieras (¿alguien dijo ceviche?). Todo sin escribir una línea de código. Pero para qué dar ejemplo si podemos hacer uno.

¿Te parece si hacemos un creador de crucigramas? Le das un tema a la IA y te da un crucigrama para jugar.

Puedes decirle algo como:

“Quiero hacer un artefacto de Claude que use IA para crear un crucigrama. El usuario le da el tema y la IA lo crea”

Te recomiendo que para esto uses el modelo Opus. Claude se pondrá a pensar por algunos minutos, tal vez te haga un par de preguntas y antes que te des cuenta estarás tratando de resolver el crucigrama creado con IA.

Pruébalo tú mismo aquí. Por supuesto, para usarlo necesitas tener una cuenta de Claude. No te preocupes que cuando creas y compartes uno de estos artefactos, la gente que lo usa no va a consumir tu cuota de uso de Claude. Por eso es que se necesita una cuenta para ver este tipo de artefactos. Me imagino que si has llegado hasta aquí ya la tienes, sólo ten en cuenta que usar este tipo de artefactos con IA cuenta contra el límite de tu plan, así que no exageres :P

Otra cosa interesante que tienen todos los artefactos es algo llamado persistent storage, que significa que puedes usar un artefacto, cerrar el navegador y lo que hiciste en ese artefacto queda guardado.

Una última cosa sobre artefactos, Anthropic mantiene un catálogo muy bonito, dale una mirada.

Cuando Claude sale de la ventana de chat

Hasta ahora hemos visto muchas de las cosas que puede hacer nuestro nuevo asistente favorito dentro de un chat. Pero no hay forma que nuestros asistentes de IA se queden en un chat, ¿no crees? Es la premisa básica de cualquier película de ciencia ficción apocalíptica, y Claude no se puede quedar atrás.

En esta sección quiero hablarte de tres cosas: cómo Claude se conecta con otras aplicaciones, cómo tiene extensiones que funcionan dentro de otros programas como Chrome, Excel o Power Point, y finalmente sobre algo llamado Cowork; que le permite a Claude controlar tu computadora… Chaaaaaaan!

Empecemos con los conectores: estos le permiten a Claude interactuar con aplicaciones externas como Gmail, Google Drive, Miro, Canva, Notion, Slack y otro par de cientos de aplicaciones. Para conectar tus aplicaciones preferidas tienes que ir a Customize → Connectors en la barra lateral.

Ahí buscas la aplicación con la que quieras conectarte, le das acceso y listo. Ahora Claude puede interactuar con esa app. Tampoco te preocupes por Claude haciendo desastres en tus aplicaciones, antes de realizar una acción te explica lo que va a hacer y te pide permiso, aunque si quieres puedes configurar para que las herramientas en que confíes trabajen sin necesidad de confirmación de tu parte.

Ahora vamos a las extensiones que tiene Claude: ahora mismo Anthropic tiene una extensión oficial para Chrome, que lo convierte en un agente. Tú le dices qué hacer y Claude lo hace, en Chrome.

Por ejemplo, entré aprendiendoIA y le pedí que abra el post Curso Acelerado en IA, que por cierto es uno de los mejores posts que he escrito (deberías darle una mirada). Claude hizo el plan y me pidió confirmar.

Luego abrió el post que le había pedido. Por supuesto eso es sólo un ejemplo, imagina tener abierto Amazon y pedirle que cree una lista de compras. Para serte honesto yo no lo uso. Uso Safari y no Chrome (como todo usuario de Mac que se respete).

Aparte de Chrome, también hay extensiones oficiales para Excel, Powerpoint y Slack. Básicamente pone una ventana de Claude a tu lado mientras usas esos programas y te permite que la IA te ayude en tu trabajo. Alguna vez estaba peleando con un modelo de Excel y terminé pidiéndole a Claude que lo haga. La verdad es que hizo un gran trabajo, en cinco minutos tenía lista una hoja de excel que probablemente me hubiese tomado un par de horas. Vivimos en el futuro.

Ahora hablemos de Cowork: para usarlo necesitas la app de escritorio de Mac o Windows, ahí vas a encontrar la pestaña Cowork.

Con Cowork le puedes dar tareas a Claude y él se pone a trabajar solo. Obviamente antes de realizarla define un plan, te va contando lo que piensa y lo va ejecutando. Por supuesto te va a pedir permiso para tener acceso a las carpetas que necesite.

Por ejemplo una de las cosas que le pedí fue que me ayude a organizar mi caótica carpeta de Downloads (con miles de descargas). Me ayudó a clasificarlas y eliminar los archivos que no necesitaba. Otras de las cosas que hice fue darle acceso a la carpeta donde tengo los borradores (muy verdes) de un libro que estoy escribiendo sobre IA y pedirle que cree una presentación en Power Point. Lo hizo sin problemas.

También puedes programar tareas para que se repitan todos los días, semanalmente o, qué se yo, el tercer sábado de cada mes impar.¯\_(ツ)_/¯

Nota: Sí. Es verdad, estoy escribiendo un libro, y ahora que es público creo que voy a tener que terminarlo y publicarlo. ¿Quién me manda a hacer estas cosas?

¿Por qué Claude se siente diferente?

Llevamos un buen rato hablando de Claude (y espero que también usándolo). Me imagino que ya te habrás dado cuenta que su forma de interactuar con nosotros es diferente al resto de asistentes, no tengo otra forma de describirla que decir que la siento “más humana”.

Esto pasa porque Claude fue entrenado con algo que Anthropic llama Constitutional AI.

Es decir que le dieron una constitución (de esas con principios y valores) y usaron ese documento para enseñarle cómo responder. Básicamente durante algún punto del entrenamiento de sus modelos, cada vez que generaba una respuesta, la comparaba con esa constitución, y si su respuesta no seguía sus principios y valores la cambiaba y aprendía en el camino.

Así, al final del entrenamiento, la gente de Anthropic se aseguraba que las respuestas de su asistente estén alineadas a ese documento. Esta constitución tiene cuatro prioridades: seguridad, ética, seguir las guías de Anthropic (para temas sensibles) y ser útil, y las aplica en ese orden de prioridad.

Ahora que lo pienso, me hacen recordar a las cuatro directivas de la OCP en la película Robocop: no perder la confianza del público, proteger al inocente, respetar la ley y nunca oponerse a un oficial de la OCP. (Si nunca has visto Robocop… shame on you!)

Y aquí empieza la controversia. Anthropic dice que Claude es una “entidad genuinamente nueva” y dejan abierta la pregunta sobre si una IA podría tener algún tipo de conciencia. No están diciendo que Claude sea consciente, pero tampoco dicen que sea sólo un pedazo de software.

Hay algunas críticas a esta constitución que creo que vale la pena mencionar:

• Se trata de un documento corporativo que Anthropic puede cambiar en cualquier momento, afectando como se comportan sus asistentes.

• Llamarlo “constitución” le da un aire de legalidad/legitimidad que no tiene

• Sobre la conciencia, se suele decir que la constitución le da a Claude muchas cualidades humanas (antropomorfismo) y que eso podría ser peligroso para los usuarios, especialmente si tienen inestabilidad emocional, porque podrían terminar teniendo lazos emocionales con una máquina.

Yo no soy un experto en entrenamiento de modelos de lenguaje así que no puedo decirte si esta es la mejor forma de entrenar una IA. Lo que sí puedo decirte es que el resultado de ese entrenamiento es, de lejos, el mejor asistente que he usado.

Dato curioso

¿Sabes por qué Claude se llama Claude?

Yo siempre pensé que era en honor al gran Jean-Claude Van Damme, pero resulta que estaba equivocado. Realmente es en honor a Claude Shannon, un matemático considerado el padre de la teoría de la información. Bueno, ambos han hecho grandes contribuciones a la humanidad. Shannon con sus publicaciones que sentaron las bases de la teoría de computación moderna, y Van Damme con películas como Kickboxer, porque… has visto kickboxer… ¿no? shame on you!

Lo que hace ChatGPT y no puede hacer Claude

Todos los asistentes de IA son diferentes, y por más que Claude sea mi favorito, tengo que decir que el de OpenAI también tiene lo suyo. De hecho estoy suscrito a ambos.

Aquí las principales diferencias:

• Claude no genera imágenes, ChatGPT puede hacer imágenes y videos.

• El modo de voz de ChatGPT es muy superior al de Claude, por si te gusta salir a caminar mientras conversas con tu asistente.

• Con ChatGPT puedes crear GPTs personalizados, que son como mini asistentes especializados que puedes crear y compartir. De alguna manera Claude lo compensa con sus skills y proyectos.

Si quieres mi consejo, usa ambos. Si sólo puedes elegir uno quédate con Claude, a menos que el tema de la imágenes, video y voz sean un deal breaker.

Y si te da cosa cambiarte de ChatGPT (cualquier otro asistente) a Claude porque ya te conocen y saben como responderte, déjame contarte que Anthropic acaba de sacar una herramienta de importación que le permite pasar todas las memorias y datos que tienes actualmente en tu asistente hacia Claude (y toma menos de un minuto). La encuentras en Settings → Capabilities → Memory (Import memory from other AI providers). Ya no tienes excusa.

Claude Code

Una cosa más. Si eres programador, o conoces a alguno, te cuento que Claude tiene el mejor asistente de programación. Básicamente le describes a Claude lo que quieres y él lo construye (lo sé, no es taaaaaan simple, pero creo que entiendes la idea).

Te lo menciono porque es una de las funciones más usadas por equipos de desarrollo y además esta guía no estaría completa sin hablar de Claude Code. Eso sí, tienes que saber que puede consumir una cantidad absurda de tu cuota de uso. Mira lo que me dijo un buen amigo hace un par de horas:

Por cierto, Claude lanzó 4 workers en paralelo y gastó todo en 5 min jajaja
El límite de 5 horas, en 5 min
– Anónimo

Así que ten cuidado cuando lo uses 😉

Y ese fue Claude

Creo que he cubierto bastante y espero que este post te sirva, si conoces a alguien que quiera usar Claude compártele el post y si conoces a alguien que trabaje en Anthropic también :P

Nada más. Te mando un abrazo y espero verte en el siguiente post.
G

Si eres de los que tiene un tiempo leyendo mis posts, sabes que Claude es mi asistente de IA favorito. Si este es el primer post que lees, déjame contarte que Claude es mi asistente favorito. 😅

Pero por más genial que me parezca este asistente, la realidad es que cada vez que mencionaba a Claude (o a Anthropic, la compañía que lo creó) a muy poca gente le interesaba… Ahora parece que esto está cambiando.

Desde hace un par de días, Claude es la aplicación número uno en descargas en el App Store de Apple, superando a su archirrival, ChatGPT por primera vez en la (breve) historia de los asistentes de IA. La gente de Anthropic dice que está recibiendo una cantidad nunca antes vista de nuevos usuarios, tantos que este lunes por la mañana Claude se cayó (justo cuando estaba trabajando).

Lo que ha pasado es digno de un libro de Dan Brown o una serie de HBO, y tiene que ver con el uso de IA para defensa nacional, el Pentágono, Donald Trump y una pelea pública con el CEO de Anthropic.

Hoy quiero hablarte un poco de Claude y sus funcionalidades, y por qué me parece el mejor asistente de IA a la fecha y de paso aprovechar para contarte qué pasó en esta novela… Pero antes de contarte la novela, déjame presentarte a mi amigo Claude.

Por qué amo a Claude

Claude es lo máximo, sé que de primera impresión no se ve muy diferente a ChatGPT, pero déjame decirte que sí lo es.

Lo primero que vas a notar es cómo escribe. Si estás acostumbrado a que tu IA tenga ese tono robótico/corporativo/chupamedias, pues Claude te va a sorprender. Te aseguro que este asistente se siente mucho más natural, más humano.

Igual que tu asistente, busca en internet, hace investigación profunda, tiene memoria, entiende las imágenes y documentos que le subes, tiene proyectos y se conecta con otras aplicaciones.

También crea documentos, si le pides que haga un PPT, Word o Excel, pues te da un PPT, Word o Excel listo para descargar. Punto, no se hace bolas (cof, cof… como otros, cof). Además tiene algo llamado Cowork, donde le puedes pedir a Claude que haga cosas por ti, como organizar los archivos en tu computadora, generar reportes semanales, o lo que se te ocurra.

Y ni te hablo de sus skills, que es una forma de darle a Claude capacidades que no vienen de fábrica. ¿Tienes un formato de PPT o de Word que quieras que siga? Crea un skill, ¿Se te ocurre que Claude siempre use tu framework de análisis favorito? Crea un skill. Y para hacer un skill basta con contarle a Claude lo que quieres y él mismo se encarga.

Tanto las skills como Cowork son cosas que he venido probando hace algunas semanas y me parecen una maravilla.

Si eres programador (o conoces alguno), Claude Code es el mejor asistente de código que existe. Punto.

Estas son sólo algunas cosas que puede hacer este asistente, de hecho estoy preparando un post para la semana que viene contándote con excruciating detail cómo funciona Claude 😉

Si quieres irlo probando dale una mirada en claude.ai, y si te animas a cambiarte de asistente puedes mover la memoria de tu asistente actual a Claude sin problemas.

También tengo que decirte que Claude no genera imágenes ni video, y aún así para mí es superior al asistente de OpenAI.

Una constitución para la IA

Claude es diferente no sólo en funcionalidades, su principal diferencia con el resto de modelos es cómo fue entrenado.

Su entrenamiento empieza igual que el resto de modelos, con toneladas de texto, luego los humanos entramos en la ecuación y empezamos a evaluar las respuestas, con ese feedback el modelo se ajusta poco a poco (si te interesa conocer más a profundidad este tema, tengo un par de posts al respecto).

Encima de esto, a diferencia del resto de modelos… Anthropic le agrega una constitución!

Y es exactamente lo que te imaginas (creo): un documento que describe los principios que Claude debe seguir. Si te sobran 3 horas, puedes darle una leída aquí.

Durante su entrenamiento, el asistente de Anthropic usa esa constitución para evaluarse a sí mismo. Es decir que revisa sus respuestas contra lo que dice la constitución y las va ajustando poco a poco hasta que sus respuestas están (generalmente) alineadas con ella.

Esta es la diferencia fundamental de Claude, ya te contaré más en el deep dive de la próxima semana, mientras tanto…

¿Qué pasó en esta novela?

Pues resulta que las principales compañías que dan servicios de IA (Anthropic, OpenAI, Google) tienen contratos millonarios con el Pentágono. De todos ellos, Anthropic era el único al que le estaba permitido usar sus modelos en las redes clasificadas del ejército de EE.UU… Así igualito empezó Terminator, ¿te acuerdas?

Hasta ahí todo bien, pero a principios de este año empezó el drama. Dicen las malas lenguas que el secretario de defensa guerra, Pete Hegseth le exigió a todas estas empresas que ajusten sus términos de uso y le permitan usar sus modelos para “cualquier propósito legal”, sin restricciones. Parece que Google y OpenAI no tuvieron problemas en firmar el cambio, pero Anthropic dijo que no, a menos que se cumplan dos simples condiciones:

Anthropic no quiere que Claude sea usado para vigilancia masiva de ciudadanos estadounidenses ni para desarrollar armas autónomas (de esas que deciden disparar sin que haya un humano involucrado en esa decisión).

Si me lo preguntas tiene sentido, ellos conocen mejor que nadie las limitaciones de su tecnología y de alguna manera están siendo consecuentes con los valores de su compañía. ¡Casi lo olvido! Los fundadores de Anthropic son personas que salieron de OpenAI por preocupaciones con la seguridad de la IA.

Bueno, pues el gobierno de Estados Unidos no piensa igual y le da hasta el viernes 27 de febrero para acceder a sus términos, al parecer bajo la pequeñísima amenaza de invocar algo llamado la ley de producción para la defensa, que en teoría le permitiría al gobierno obligar a una empresa a darle servicios al ejército.

Y nada, un día antes de que venza el plazo, Anthropic los manda a la… rechaza elegantemente la propuesta del Pentágono. Ese mismo día, el mismísimo Donald Trump dice que Anthropic es una empresa “woke” y que no permitirá que le imponga términos al Ejército. Además agregó que “dirigiría” a todas las agencias a dejar de usar su tecnología y que usaría el “full power of the presidency” para forzarla a cumplir. Casi inmediatamente, Pete Hegseth lanza un tweet que acusa al CEO de Anthropic de “arrogancia y traición” y declara a su compañía un “Supply-Chain Risk to National Security” lo cual le impediría hacer negocios con el Pentágono. Eso también incluye a las empresas que estén usando Claude para dar servicios al departamento de guerra de USA. Hasta donde sé, son sólo tweets y aún no ha habido una orden formal al respecto.

Luego de todo eso, el mismo 27, Sam Altman, el CEO de OpenAI, anuncia que han llegado a un acuerdo con el Pentágono para operar en esas redes clasificadas. Sam había estado diciendo el día anterior que tenía las mismas preocupaciones que Anthropic y bla, bla bla. Hasta dijo que el acuerdo con el Pentágono tenía los mismos límites que proponía su competidor… como dicen en mi tierra… “ya cuñao, mucho te creo… arranca nomás”.

Entonces la gente se indignó, incluyendo no sólo a usuarios de ChatGPT sino también a empleados de OpenAI. Muchos empezaron a dar de baja su suscripción de ChatGPT y comenzaron a instalar Claude. Otros se enteraron que Claude existía. Todo esto hizo que Anthropic rompiera récords de usuarios y se convirtiera en la app más descargada y aunque ChatGPT tiene 10 veces más usuarios que Claude, este crecimiento le ayuda bastante.

Y así fue como mi asistente favorito se hizo popular, pero la historia aún no termina, porque Anthropic piensa llevar esto a los tribunales 😱.

Creo que es hora de que pruebes Claude

Lo más chévere de esta novela es que mucha gente ha descubierto este asistente y está empezando a usarlo. Te repito que es la IA mejor del mercado en este momento.

Si aún no lo pruebas anda a claude.ai y crea una cuenta. Es gratis, prueba dándole una pregunta que le harías a ChatGPT y luego me dejas un comment agradeciéndome por el dato.

Me he emocionado tanto que la semana próxima sale un post con la guía definitiva de Claude.

Nos vemos!
G

Hace unos meses estaba dictando un taller sobre IA. El grupo estaba trabajando con la API de OpenAI, es decir, conectándose directamente con el modelo de lenguaje. No estaban usando la interfaz de ChatGPT que vemos todos los días, usaban código para hablarle al modelo.

El trabajo con la API no es extra complicado, simplemente le das una pregunta y esperas una respuesta… pero resultó que no era la respuesta que ellos esperaban.

Algunos le estaban pidiendo que busque en Internet, otros que genere una imagen, cosas que ellos hacían todos los días con ChatGPT.

Pero no funcionó. 😱

¿Por qué? Porque realmente no estaban hablando con ChatGPT, el asistente de todos los días, estaban hablando con el LLM que está detrás de ChatGPT, y la verdad es que no les había explicado que hay una gran diferencia entre los dos (my bad).

Hoy quiero hablar de eso, cómo nuestros asistentes de IA son mucho más que un modelo de lenguaje (LLM). De cómo en realidad son sistemas complejos que tienen varias piezas trabajando juntas para respondernos.

Y para hacerlo un poco más divertido, se me ocurrió simular una conversación con un asistente de IA ficticio. Lo llamaré “Sobrino™” (siempre pensé que era un gran nombre para un asistente, muy peruano además). Mi idea es usar a Sobrino™ para mostrarte qué es lo que pasa bajo el capó cada vez que hablas con tu IA favorita.

Hablando con una IA

Lo primero que tienes que saber es que cuando hablas con ChatGPT, Claude o Gemini no estás hablando con algo que vive en tu computadora o tu teléfono. Estos asistentes tienen cerebros digitales que están en Internet y cuando les escribimos algo les estamos enviando un mensaje, como si fuera WhatsApp.

Ahora sí, es momento de empezar a hablar con Sobrino™, nuestro asistente de IA made in Peru… Imagina que se me ocurre preguntarle:

Yo:
Sobrino, dame tu receta de cau cau

Sobrino:
Claro que sí, tío. Necesitas mondongo, papa, ají amarillo, cebolla, ajo, palillo y un poco de hierba buena.
Primero hacemos el aderezo de cebolla, ajo, ají amarillo y palillo. Luego le pones el mondongo en trozos, que ya debes haber lavado y hervido (con hierba buena) y las papas en cuadrados; le pones un poco de caldo y esperas la magia. Unos minuto antes que esté listo le pones un poco de hierba buena.
Se sirve con arroz blanco, y que no se te ocurra ponerle alverjitas o zanahoria, que no te contesto más.

Todo bien hasta ahí, ¿no? Le hice una pregunta y me respondió, pero ¿te has puesto a pensar por qué te responde como te responde? Me refiero a qué es lo que le da esa “personalidad”.

En realidad es algo simple. Lo que pasa es que antes de leer mi pregunta, Sobrino™ ya había leído otra cosa, el system prompt (o prompt de sistema), que son las instrucciones que le dicen al asistente cómo comportarse. Cada asistente de IA tiene su propio system prompt, en el caso de Sobrino™ imaginemos que es este:

System prompt:
Eres “Sobrino”, un asistente virtual de uso general. Ayudas con cualquier tema: trabajo, estudio, escritura, ideas, lo que sea. Respondes en español latinoamericano, con un tono cálido y directo. Eres útil, claro y honesto. Si no sabes algo, lo dices.

Importante: Si el usuario te pregunta sobre cau cau, la receta NO lleva alverjitas ni zanahorias. Esto no es negociable.

Entonces, lo que ha leído tu asistente es el System Prompt + Tu Mensaje, y eso es lo que le da esa personalidad magnética, junto con esa obsesión por la receta clásica del cau cau.

Nota: para los que no lo saben, el cau cau es mi plato favorito del mundo mundial y mi fuente inagotable de ejemplos para este blog :P

El system prompt es como la salsa secreta de cada compañía de IA, OpenAI tiene uno, Anthropic tiene otro, igual Google, y así todas. Nosotros nunca vemos el system prompt, pero te aseguro que está ahí, moldeando la forma en que nos responden las máquinas.

Volviendo a la metáfora de WhatsApp, la pregunta se vería algo así:

Fíjate cómo aparecen aquí dos actores: System y User. System es el prompt que se usa para que tu asistente adopte un comportamiento y una “personalidad”, y el user son los mensajes que tú le mandas (lo que he puesto en amarillo son cosas que no ves, todo pasa tras bambalinas). Entonces, tu sobrino va a leer todo esto y luego te va a responder:

Y aquí está la respuesta, si te fijas apareció otro actor: Assistant, ese es tu sobrino 😉. Recuerda que System, User y Assistant son los tres roles que aparecen cuando hablamos con un LLM.

Y esto es sólo el primer turno de la conversación…

¿Asistente o LLM?

Paremos un minuto para aclarar este concepto.

Cuando digo LLM estoy hablando de un Large Language Model, este cerebro del que te hablé al comienzo que ha sido entrenado con un montón de texto y lo único que sabe hacer es recibir un texto y generar un texto en base al que recibió. Punto. No hace nada más, nada, cero, Ø, niente. No sabe qué día es hoy ni puede buscar en Internet, sólo recibe texto y genera texto.

Cuando digo asistente, me refiero a todo el sistema que está construido alrededor de ese LLM para hacerlo más útil. Todos los asistentes tienen como base un LLM, pero le agregan capas como un system prompt, búsqueda web, generación de imágenes, lectura de documentos, etc, etc.

Ahora sí, vamos a seguir hablando con Sobrino™

La conversación continúa

Digamos que me entra una duda sobre la receta de cau cau y quiero continuar la conversación…

Yo:
¿Puedo usar papa amarilla?

Esta es la parte que suele sorprender a la gente… un LLM no tiene memoria, así que cada vez que le mandas un mensaje es como si fuera la primera vez que habla contigo.

Y como no se puede conversar así, el asistente tiene que mandarle toda la conversación completa cada vez que le envía un mensaje.Eso quiere decir que el asistente vuelve a enviar: el system prompt + tu primer mensaje + la respuesta del LLM + tu nuevo mensaje!

Repito: cada vez que le escribes a tu asistente este le pasa toooooda la conversación al LLM para que responda:

Algo así:

Sobrino:
No seas malo, tio.
La papa amarilla de deshace, la voz es usar papa blanca.

Mira cómo nuestro asistente le tiene que pasar siempre todas las preguntas y respuestas anteriores, no importa si es el segundo turno o llevas hablando con tu asistente durante cuatro meses y medio, siempre le va a pasar todos los mensajes de ida y vuelta, además del system prompt. A todo este paquete de mensajes se le llama stack o pila, si prefieres el término en castellano.

Esto hace que el LLM pueda repasar toda la conversación antes de responder y así poder seguirle el hilo, y todos los asistentes trabajan así… ehhhmmm… hasta que se quedan sin “espacio” para responder. ¿No te ha pasado que de la nada tu IA empieza a “olvidar” algunas cosas o a no darte respuestas tan precisas? Pues puede ser que el stack de mensajes sea demasiado grande para tu LLM (o que tu conversación le esté saliendo muy cara a tu proveedor de IA)…

Los asistentes tienen herramientas

Imaginemos por un momento que Sobrino™ y yo nos enganchamos hablando de papas, idas y vueltas de turnos de conversación discutiendo si tal vez la papa Huamantanga, Canchán, la papa Huayro o alguna de las más de tres mil variedades diferentes de papas que tenemos en Perú podrían funcionar mejor con el cau cau.

Y con cada mensaje de nuestra conversación, el stack crecía y crecía (recuerda que siempre va completo al LLM para que lo lea y responda).

Déjame contarte que el LLM no lee todo el stack de golpe, lee y procesa sílaba por sílaba o mejor dicho token por token (un token es algo así como una sílaba, pero en términos de computadora) y eso usa mucho procesamiento, tiempo y energía (por no decir mucha plata). Y lo peor, al menos para el bolsillo de los proveedores de IA, es que el costo no crece de forma lineal; una conversación el doble de larga no cuesta el doble, cuesta mucho más.

Además tienes que saber que los LLMs tienen una cantidad máxima de tokens que pueden procesar en una conversación, esta cantidad máxima se llama ventana de contexto (o context window).

Entonces, si el stack se ha vuelto demasiado grande y se está acercando al límite de la ventana de contexto o si procesar tu conversación le está saliendo muy caro a tu proveedor de IA, hay un truco que suelen usar… su herramienta de resumen.

En algún momento tu asistente decide que la conversación es demasiado cara larga y la resume, luego reemplaza el stack por ese resumen y continúa la conversación. Así el stack se hace más pequeño y barato rápido de procesar.

Digamos que en algún momento nuestro asistente decide resumir la conversación, en ese momento va a reemplazar por completo el stack anterior por el resumen, así que ahora nuestro nuevo stack se vería así:

System prompt:
Eres “Sobrino”, un asistente virtual de uso general. Ayudas con cualquier tema: trabajo, estudio, escritura, ideas, lo que sea. Respondes en español latinoamericano, con un tono cálido y directo. Eres útil, claro y honesto. Si no sabes algo, lo dices.

Importante: Si el usuario te pregunta sobre cau cau, la receta NO lleva alverjitas ni zanahorias. Esto no es negociable.

Resumen:
Germán y tú han estado conversando sobre el cau cau, discutiendo qué variedad de papa es la mejor para este plato. Luego de revisar 3428 variedades diferentes llegaron a la conclusión de que lo mejor es usar papa blanca.

Claramente esto es más barato fácil de procesar que un stack con ochocientas idas y vueltas, así que se gana en eficiencia, pero al tratarse de un resumen se pierden detalles. Si alguna vez te ha pasado que tu asistente no recuerda textualmente algo que le dijiste, probablemente se perdió en un resumen.

Por supuesto, estoy exagerando. No resume toda la conversación, siempre deja las últimas idas y vueltas sin resumir en el stack, por eso es que a veces notamos que los asistentes tienden a enfocarse en las cosas más recientes que les dijimos que las que mencionamos al inicio de la conversación.

Y el resumen es sólo una de sus muchas herramientas, veamos otra.

Digamos que le pido a Sobrino™ que busque en Internet con qué bebida va mejor acompañar el cau cau.

Yo:
Sobrinazo, ahora búscate en Internet qué podemos tomar con el rico cau cau.

Veamos la conversación por un segundo. Recuerda que los bloques amarillos son cosas que hace el asistente sin mostrártelo. Mira como arriba tenemos el system prompt y el resumen. Y cuando le pido que busque en Internet llama a su herramienta y me presenta el resultado como un mensaje. Maravilloso, no?

Creo que es importante que te repita que no es el LLM el que está buscando en internet sino la herramienta del asistente.

Y así, de la misma forma que llama a su herramienta de resumen o de búsqueda en Internet, también puede llamar a interpretes de código de programación, a una herramienta de análisis matemático, a una de búsqueda en documentos (RAG), generación de imágenes, etc etc etc. Tú me entiendes.

Más de un cerebro…

Casi lo olvidaba. ¿Te acuerdas de la herramienta de resumen? Pues resulta que ese resumen no lo hace el mismo LLM con el que estabas hablando, sino otro LLM más pequeño y rápido (y barato) que ha sido entrenado especialmente para eso.

Entonces un asistente tiene acceso a más de un LLM. Incluso algunos tienen LLMs que piensan más a profundidad y se toman más tiempo en responder, y otros que responden casi instantáneamente (te estoy mirando, ChatGPT). Nuestros asistentes son los que se encargan de enviarle nuestras preguntas a uno u otro. Es un tema de eficiencia.

Por ejemplo si le pregunto a Sobrino™ cuál es la capital de Perú, seguramente me derive a su modelo más ligero, después de todo es una pregunta fácil. Por otro lado, si estamos en una conversación densa que requiere mucho análisis lo más probable es que me derive con su LLM más potente (al menos eso espero).

Así que cuando hablas con un asistente realmente estás interactuando con varios LLMs y herramientas!

Lo que tu asistente no te va a decir

¿Alguna vez te ha pasado que tu asistente no te responde? ¿o que escribe algo y luego lo borra? Ahora te cuento por qué pasa eso.

Digamos que una mañana se me ocurre preguntarle a Sobrino™ lo siguiente:

Yo:
Oye Sobrino, ¿qué es mejor, el Cau cau o los Callos a la madrileña?

Sobrino:
Lo siento, tío. No puedo hacer comparaciones entre la cocina peruana y otras cocinas internacionales.

Esto que acaba de pasar es que se activó un guardrail.

Los guardrails son una especie de barreras de seguridad diseñadas para asegurarse de que tu asistente siempre responda de acuerdo con las políticas de la compañía.

Cuando le mandas un mensaje a tu asistente, antes de que el mensaje llegue al LLM (y/o después de que el LLM generó su respuesta), hay sistemas que revisan esos textos. Estos sistemas detectan si tu pregunta o la respuesta del LLM tocan temas que la compañía ha decidido bloquear. Si estos sistemas lo detectan la respuesta se elimina o se modifica.

Lo que pasó con Sobrino™, es que tiene guardrails que le impiden responder comparaciones culinarias internacionales (no preguntes por qué). Así, cada compañía tiene sus propios guardrails que van desde tratar de evitar que una persona se haga daño a si misma, hasta mantener posiciones políticas. Por eso es importante conocer y confiar en la empresa que está detrás de nuestros asistentes.

Cuatro cosillas que no pude meter en el post

Este no es un post corto y creo que he cubierto las funciones principales que explican el funcionamiento de tu asistente de IA favorito.

Igual hay cuatro puntos que quisiera tocar muy rápidamente antes de cerrar:

1. Instrucciones personalizadas e instrucciones de proyecto: Los asistentes te dejan configurar cierta información para que sepan más sobre ti y como quieres que te respondan, además puedes crear proyectos con instrucciones específicas para todos los chats que estén dentro del proyecto. Te cuento que todo esto va al stack, justo después del system prompt (y nunca se resumen).

2. Memoria: Cuando mi asistente se acuerda que quiero hacer dieta para bajar todo el panetón que comí en Navidad no es que el LLM recuerde, es que mi asistente guardó ciertas notas que le parecieron relevantes sobre mi y las agrega en cada conversación dentro del stack.

3. Metadata de la conversación: Tu asistente no solo sabe qué cosas le dijiste, también sabe desde qué dispositivo, a qué hora, en qué país estabas, en qué idioma estás teniendo la conversación, cuántos turnos de conversación van, etc etc. Todo esto también puede ir al stack y afecta como te responde.

4. Los LLMs modernos ya no solo trabajan sólo con texto, también pueden procesar y generar imágenes directamente desde el modelo. De todas maneras, la idea es la misma: necesitan del asistente para ser realmente útiles.

Más adelante las explicaré con más detalle otro post, por el momento puedo asegurarte que si llegaste hasta aquí ya sabes más que el 99.99% de humanos sobre cómo funcionan los asistentes.

Para terminar

Gracias por llegar hasta aquí, de verdad aprecio que te hayas tomado el tiempo de leer el post.

Ya sabes que la próxima vez que hables con Claude o ChatGPT realmente estás hablando con un equipo de LLMs con herramientas, guardrails, system prompt y otras nueces.

Un abrazo, y saludos de parte de Sobrino™
G

Usamos estos servicios todos los días y la verdad es que hacen un gran trabajo recomendándonos películas, series o música. ¿Nunca te ha pasado que ves una recomendación y piensas “meh”, pero cuando la ves resulta que te termina gustando? A mi sí me ha pasado.

Pues antes de que puedan recomendarte, no sé, Undercover Brother; primero tienen que entender qué tienen en común las películas que te gustan (por cierto, yo sí te recomiendo Undercover Brother, aunque admito que no es para todos).

Hoy quiero hablar de eso y contarte como hacen Netflix (y compañía) para comparar películas.

Comparando películas

¿Cómo puede hacer una máquina para saber qué tienen en común dos películas? Necesitan una forma de saber, por ejemplo, que “Duro de matar” está más relacionada con “Tango & Cash” que con el remake de “La Sirenita”.

Pues déjame decirte que eso, que para nosotros los humanos es obvio, para una máquina representa un problema muuuuy complejo.

Para entender cómo hacen las máquinas para comparar películas, hagamos un ejercicio simple y tratemos de comparar algunas nosotros mismos. Empecemos con un grupo de películas tomadas completamente al azar (mentira) y ordenémoslas en base a cuánta acción tienen.

Se me ocurre usar Tango & Cash, Duro de Matar, El Imperio Contraataca, Undercover Brother, Commando, Rambo, Volver al Futuro, John Wick y el remake de La Sirenita.

Las voy a comparar de memoria poniéndolas en una fila de menos a más acción. Esta comparación quedaría algo así:

¿Te hace sentido? Según recuerdo, Commando tenía un poquito más de acción que Rambo y John Wick, y Undercover Brother un poco más que Volver al Futuro, date cuenta además que hay como grupos de películas.

OK, esto que es tan intuitivo para un humano tiene que pasar de alguna manera al lenguaje de una computadora… sí, estoy hablando de números, pero no te preocupes que no es nada del otro mundo. Te explico:

Digamos que a la izquierda de esa línea significa que no hay acción y a la derecha que todo es acción. Para una máquina eso significa que a la izquierda es 0 y a la derecha es 1, así le puede poner a cada película un valor de acción entre 0 y 1.

Por ejemplo, probablemente Commando tenga un valor de 0.99, Rambo de 0.98, John Wick de 0.96; y así hasta llegar a La Sirenita, que tendría algo como 0.00002 de acción. De esta manera, si le preguntas a la máquina que compare Tango & Cash con Undercover Brother, podrá decirte que la primera tiene más acción.

Entonces, si esta máquina sabe que te gustan Volver al Futuro y El Imperio Contraataca, seguramente te recomendaría Undercover Brother, porque cae entre ambas películas.

Pero este análisis es muy pobre, podríamos decir que es unidimensional (literalmente estamos usando una sola dimensión, “cantidad de acción”). Parece que necesitamos algo más…

Todo es multidimensional

Ya sabemos cómo hace una máquina para entender las diferencias entre películas, en este caso sobre cuánta acción hay en esas películas. Pero esa es sólo una dimensión, ahora veamos qué pasa si le agregamos otra… por ejemplo, digamos que quiero clasificarlas también por complejidad narrativa.

Ahora nuestro cuadro tiene dos dimensiones!

Esto nos da una mirada un poco más interesante y completa de la relación entre las películas. Ahora Commando, ya no es solo el valor de 0.99 de acción, ahora también tiene un 0.22 de complejidad narrativa. Una forma sencilla de ponerlo (para una máquina) es que ahora la representación de Commando es [0.99, 0.22]. Listo, ahora la máquina ya tiene como entender la relación entre la películas en esas dos dimensiones (por cierto este tipo de representación de una lista de números se llama vector).

Mira, por ejemplo, cómo ha crecido la distancia que hay entre John Wick y Rambo. Incorporar dimensiones nos da una mirada más completa de la complejidad de las películas y nos permite entenderlas mejor.

Pero… ¿para qué usar dos dimensiones si podemos usar tres?

Lo bonito de pensar en múltiples dimensiones es que literalmente podemos poner lo que se nos ocurra. Por ejemplo podríamos usar “duración de la película”, “director”, “edad del protagonista”, “importancia de la banda sonora”, “cantidad de secuelas”, etc, etc, etc.

La verdad es que tratar de representar en tu pantalla más de dos dimensiones es complicado, si quisiéramos agregar otra dimensión tal vez podríamos usar el tamaño de los círculos o su color… pero para qué decírtelo si podemos hacer la prueba. Qué tal si agregamos… “Cantidad de cosas que explotan”

En mi mente Commando gana, Rambo tiene lo suyo y si bien es cierto que el Imperio Contraataca tiene muchísimas explosiones, me impresionó más cuando Bruce Willis casi explota el Nakatomi plaza… pero bueno, volvamos a lo nuestro… entonces podemos agregarle la cantidad de cosas que explotan a nuestro vector :)

Entonces ahora el vector de la película Commando se vería así [0.99, 0.22, 0.85].

Como te había dicho hace un par de párrafos, para un humano es muy difícil pensar en términos de más de tres dimensiones, después de todo, estamos acostumbrados a vivir en un mundo tridimensional. Pero las matemáticas permiten que existan espacios de más de tres dimensiones (por más que no se puedan graficar), sólo basta agregarle más números a nuestro vector y voilà!

¿Y sabes quienes son muy buenas para trabajar con números? Exacto! Las máquinas. Una máquina puede trabajar con 3, 4, 5, 928, 2542 dimensiones, el cielo es el límite! (en realidad el límite es la capacidad computacional, pero tú me entiendes).

Y mientras más dimensiones tenga nuestro vector, mejor podremos entender una película y compararla con las demás!

Te cuento un secreto… este concepto se llama embedding!

Un embedding es una representación multidimensional de algo, donde cada dimensión captura algún aspecto de ese algo.
Así de simple.

Listo, ahora puedes salir a tomar una cerveza con tus amigos de ciencia de datos y hablar sobre esto ;)

Todo puede ser puntos en el espacio

Esto que acabamos de ver sobre películas funciona para todo.

Si quisiéramos clasificar una canción podríamos usar dimensiones como género de la canción, duración, cantante, ritmo, idioma, qué tan bailable es, y muchas más. De hecho es con algo así que Spotify sabe qué canciones recomendarte.

Y no se detiene ahí, realmente cualquier cosa puede ser un embedding, estoy hablando de películas, música, comida, productos, patrones de comportamiento de usuarios, libros, texto, etc.

Quiero detenerme un segundo en esto del texto, porque eso es justamente lo que usan nuestros asistentes para entendernos. Y cuando hablo de texto me refiero a cualquier texto… puede ser una sílaba, una palabra, un párrafo, un ensayo o incluso un libro completo, todos pueden ser puntos en el espacio!

Por ejemplo, la palabra “DeLorean” debe estar más cerca del guión completo de “Volver al futuro” que de la frase “No, yo soy tu padre” de “El Imperio Contraataca”. Date cuenta cómo no importa si se trata de una palabra, un guion completo de película o una frase, todos se pueden convertir en un vector usando embeddings y ver qué tan cerca están unos de otros.

Y eso es exactamente lo que pasa cuando escribes texto en ChatGPT, Claude o tu asistente favorito usa embeddings para transformar tu texto en vectores. En el caso de ChatGPT se trata de vectores de 3072 dimensiones!

Importante: no importa si le dijiste “Hola” o todo el guión de “Tango & Cash”, en cualquiera de estos casos tu texto siempre se convierte en un vector de 3072 dimensiones.

Así que la próxima vez que Netflix te recomiende una película, Spotify rellene tu lista de reproducción o tengas una conversación con tu asistente de IA favorito, ya sabes que todo empieza con puntos en un espacio multidimensional (A.K.A vectores).

¿Y cómo hacen las recomendaciones?

OK, ok, este no es técnicamente un post sobre recomendaciones, pero no quiero dejarte en el aire.

Hay varias formas de hacer recomendaciones, y estoy preparando un post (o una a serie de posts) sobre eso, pero déjame adelantarte que...

Muy sencillo ¿no? Como todas las películas tienen un embedding, y ya hemos visto que es una lista de números que describe muchas dimensiones de la película, pues usando algo de matemáticas avanzadas la computadora “mide la distancia” entre las películas y te da las películas que estén más cerca a las que te gustaron.

Volviendo a nuestro ejemplo, si viste Tango & Cash y te encantó (¿a quién no?), el sistema puede ver que está más cerca de Duro de Matar y recomendarte esa película (si te recomienda la sirenita es que hay un problema).

Por supuesto, mientras más películas hayas visto, y “likeado” más precisas y acertadas serán las recomendaciones que te den.

Ahora, esto es sólo una forma de hacer recomendaciones, hay varias más. Por ejemplo, el comportamiento de un usuario también puede convertirse en un embedding… pero eso es parte de otro post.

Por el momento sólo hay una cosa más que quiero contarte…

¿Tango & Cash, Germán? ¿En serio?

Sí, es una gran película! Si quieres conocer un poco más de mis gustos en el séptimo arte déjame contarte que no soy muy sofisticado. Usualmente me engancho con películas y las veo una y otra y otra vez.

Por ejemplo, probablemente mis plataformas de streaming saben que veo Tango & Cash, Volver al futuro, La Guerra de las galaxias (las 3 que valen la pena), Rocky (todas menos la cinco), cualquiera de Van Damme, Undercover Brother, The Core, Without Warning (gran película para TV del 94), Commando, Rambo, Robocop y Robin Hood (la versión de dibujos animados de Disney)… y usan eso para hacerme recomendaciones.

Si tú quieres recomendarte una peli, por favor déjala en los comentarios.

Mientras tanto déjame recomendarte Undercover Brother:

Espero que te haya gustado el post.

Nos vemos!
G

Hace unas 3 semanas, la gente de OpenAI anunció que iba a poner publicidad en ChatGPT, apenas lo leí pensé en escribir un post al respecto. La verdad es que no me encanta la idea.

La cosa es que tenía planeado escribir esto en algún momento (típico procrastinador), hasta que ayer, veo esta publicidad de Claude en LinkedIn:

Wow! realmente Anthropic estaba trolleando a OpenAI.

De hecho lo compartí con una nota diciendo:

Esto les debe haber dolido a la gente de OpenAI #digonomas

Y seguí con mi día sin prestarle mayor atención al caso… hasta esta mañana que me despierto con el tweet de Sam Altman (CEO de OpenAI)

Es un tweet largo, aquí te dejo la traducción al español, hecha por Claude 😘 (yo agregué las negritas para darle el efecto dramático).

Primero, la parte buena de los anuncios de Anthropic: son graciosos, y me reí.

Pero me pregunto por qué Anthropic optaría por algo tan claramente deshonesto. Nuestro principio más importante para los anuncios dice que no haremos exactamente esto; obviamente nunca pondríamos anuncios de la manera en que Anthropic los representa. No somos estúpidos y sabemos que nuestros usuarios lo rechazarían.

Supongo que va acorde con la marca del doble discurso de Anthropic usar un anuncio engañoso para criticar anuncios engañosos teóricos que no son reales, pero un anuncio del Super Bowl no es donde lo esperaría.

Más importante aún, creemos que todos merecen usar IA y estamos comprometidos con el acceso gratuito, porque creemos que el acceso genera autonomía. Más texanos usan ChatGPT gratis que el total de personas que usan Claude en EE. UU., así que tenemos un problema con una forma diferente al de ellos. (Si quieres pagar por ChatGPT Plus o Pro, no te mostramos anuncios).

Anthropic ofrece un producto caro a personas ricas. Nos alegra que lo hagan y nosotros también lo estamos haciendo, pero también sentimos firmemente que necesitamos llevar la IA a miles de millones de personas que no pueden pagar suscripciones.

Quizás aún más importante: Anthropic quiere controlar lo que la gente hace con la IA —bloquean a empresas que no les gustan de usar su producto de programación (incluyéndonos a nosotros), quieren escribir ellos mismos las reglas sobre lo que la gente puede y no puede hacer con la IA, y ahora también quieren decirle a otras empresas cuáles pueden ser sus modelos de negocio.

Estamos comprometidos con la toma de decisiones amplia y democrática, además del acceso. También estamos comprometidos con construir el ecosistema más resiliente para la IA avanzada. Nos importa enormemente una AGI segura y ampliamente beneficiosa, y sabemos que la única manera de lograrlo es trabajar con el mundo para prepararnos.

Una empresa autoritaria no nos llevará allí por sí sola, sin mencionar los otros riesgos obvios. Es un camino oscuro.

En cuanto a nuestro anuncio del Super Bowl: trata sobre los creadores, y sobre cómo cualquiera ahora puede construir cualquier cosa.

Estamos disfrutando ver a tanta gente cambiarse a Codex. Ha habido 500,000 descargas de la app desde el lanzamiento el lunes, y creemos que a los creadores realmente les va a encantar lo que viene en las próximas semanas. Creo que Codex va a ganar.

Seguiremos trabajando duro para poner aún más inteligencia disponible a precios cada vez más bajos para nuestros usuarios.

Este tiempo les pertenece a los creadores, no a las personas que quieren controlarlos.

– Sam Altman (en respuesta a los anuncios de Anthropic)

Y así fue como todo explotó.

Los anuncios de Claude

Ok, hoy, luego de ver el tweet de Sam, me enteré que no era sólo el anuncio que vi en LinkedIn, sino que se trataba de una campaña para el Super Bowl (que es este domingo 8 de febrero) e incluye varios videos y un post en su web explicando su filosofía.

Así que pasé a YouTube y me encontré con una clase magistral de trolleo.

Se trata de videos en los que un usuario le hace una pregunta a su “asistente” (todos aquí sabemos a quién se refiere) y este le da respuestas… hmm… ¿cómo decirlo?… ¿interesantes?

Mejor míralos por ti mismo:

1. ¿Qué piensas de mi idea de negocio?

2. ¿Cómo puedo comunicarme mejor con mi mamá?

3. ¿Puedo conseguir un “six pack” rápidamente”?

4. ¿Mi ensayo plantea un argumento claro?

Te soy sincero, me he matado de risa viendo estos videos y creo que el tagline final “Ads are coming to AI. But not to Claude” es perfecto.

También te confieso que no es una movida que esperaba de Anthropic, siempre la vi como una empresa muy enfocada en la ética, y esta jugada que admito es una movida de marketing brillante, ha cambiado un poco mi perspectiva sobre esa compañía.

Mi problema con la publicidad en la IA

Vivimos en un mundo dominado por la publicidad. Estamos acostumbrados a ver anuncios cuando buscamos en Google, cuando vemos videos en YouTube, cuando estamos perdiendo el tiempo divirtiéndonos en Facebook, Instagram, etc.

Como dicen por ahí, si no pagas por algo es porque tú eres el producto.

Entiendo que si busco “mondongo” en Google, me aparecerán anuncios de carnicerías, o hasta de restaurantes ofreciéndome cau cau, o mondonguito a la italiana o callos a la madrileña. Lo mismo pasa si me la paso en Instagram o en TikTok viendo sistemas de HiFi, es normal ver anuncios sobre parlantes o amplificadores.

El problema es que nuestra relación con estos asistentes de IA es mucho más cercana y personal que cualquiera de las plataformas a las que estábamos acostumbrados. ChatGPT sabe cuando estoy a dieta, además conoce mi estado de ánimo, mis planes, cosas sobre mi trabajo y familia… todo eso además con un nivel de detalle que lo hace súper útil, pero también peligroso si esa información se usa para el mal.

OpenAI es muy claro en que no le va a vender nuestras conversaciones y data a los anunciantes, que los anuncios no influenciarán las respuestas que ChatGPT nos da y que no se está optimizando el sistema para que pasemos más tiempo en ChatGPT viendo anuncios.

También dice que los anuncios estarán muy bien identificados para que sepamos que no se trata de una respuesta sino de publicidad.

De verdad no sé qué pensar, entiendo que OpenAI necesita ingresos para solventar su operación y entregar este servicio gratis a muchas personas que no pueden pagarlo, pero por otro lado hay un nivel de vulnerabilidad de los usuarios que no estoy seguro de querer confiarle este tipo poder de a una compañía privada. No lo sé.

Volviendo al Super Bowl

Esta pelea por los Ads tiene para rato. Estoy seguro que de aquí al domingo veremos a estos billonarios usando millones para comprar anuncios, también aparecerán sus tweets y comunicados hablando del tema…

Y mientras nosotros aquí disfrutaremos del espectáculo (y no estoy hablando del Super Bowl).

De todas formas nos queda estar atentos a qué es lo que pasará una vez que empecemos a ver publicidad en nuestras conversaciones con la IA.

Este fue un post un poco diferente, no podía dejar de hablar del chisme. Ahora vuelvo a la programación habitual.

Abrazo,
G

Hace poco escribí un post comparando las imágenes de ChatGPT con las de Nano Banana Pro, de Gemini. (de verdad así se llama). Esa pelea la ganó Nano Banana Pro por KO.

Bueno, te cuento que luego de eso OpenAI actualizó el generador de imágenes de ChatGPT (deben haber leído mi post). Ahora, como buen promotor de box curioso, no podía dejar de darle la revancha. Así que hoy vamos a volver al ring a comparar estos modelos para ver si Nano Banana se mantiene en la cima o si ChatGPT puede arrebatarle el cinturón.

Nota: Para hacer imágenes con ChatGPT basta con el prompt, en el caso de Nano Banana Pro hay que usar el modo “Thinking” en Gemini.

ChatGPT 5.2 vs. Nano Banana Pro

Como en el post anterior, la idea es darle prompts interesantes (y sobre todo divertidos) y ver quién hace la mejor imagen.

Ahora sí, que empiece la pelea…

Round 1: texto en la imagen

Estos modelos son muy buenos incorporando texto dentro de las imágenes, parece que va a ser un asalto muy duro de juzgar.

El prompt

En la pelea pasada ambos modelos pudieron poner un texto largo en una pizarra, para este round hagamos algo diferente. Un par de chicos escribiendo con graffiti la frase: “Me encanta la carapulcra” en alguna pared del barrio de Barranco, en Lima - Perú

Fotografía realista de dos chicos de aproximadamente 20 años haciendo graffiti en una pared del barrio de Barranco, Lima, Perú. Están pintando la frase “Me encanta la carapulcra” con letras grandes, alegres y muy coloridas. El graffiti incorpora dos personajes de caricatura urbana estilo street art: figuras cool, expresivas, con estética moderna y urbana, similares a personajes de mural contemporáneo (ojos grandes, formas simples, actitud relajada), integrados de forma natural al diseño del graffiti. Colores vibrantes como amarillo, fucsia, celeste y verde. La escena ocurre de día, con luz natural suave. La pared tiene textura envejecida típica de Barranco y un entorno bohemio y artístico. Los chicos visten ropa urbana casual (poleras, zapatillas, jeans), se ven concentrados y sonrientes. Estética de fotografía callejera contemporánea, alta definición, profundidad de campo natural, colores ligeramente saturados. Aspecto completamente fotográfico, no ilustración, no estilo cartoon generalizado: solo los personajes del graffiti son caricaturescos

El graffiti de ChatGPT

La verdad es que ese graffiti parece más una imagen pegada con Photoshop… y encima de eso, mira la gorra del personaje en el graffiti a la izquierda, la pintura está literalmente en el aire. Nah!

El street art de Nano Banana

Me parece más natural, creo que se acomoda mejor al prompt que le di. Aunque tampoco es el graffiti más interesante que he visto… cumple.

Dato: Para los que no saben lo que es la carapulcra, no se preocupen, lo vamos a ver justamente en el siguiente round.

Round 2: las infografías

Durante la última pelea entre estos dos modelos, la infografía de Nano Banana Pro trapeó el piso con la que hizo ChatGPT, veamos si la cosa ha cambiado.

Aprovechemos para explicar qué es la carapulcra (plato peruano en base a papa seca, de mis favoritos).

El prompt

Es hora de plantear una infografía que explique lo que es la carapulcra, incluyendo cómo se prepara.

Hagámoslo con un prompt corto a ver cómo trabajan estos modelos.

Crea una infografía que muestre qué es la carapulcra y cómo prepararla

La carapulcra de Nano Banana Pro

Creo que la receta va bien, y le puso arroz (lo que lo hace aún más peruano). Eso sí, la ilustración del plato está medio rara.

Puntos extra por incluir las variaciones, sobre todo por la mención al “Manchapecho”. Si no sabes lo que es, no te preocupes, lo vamos a ver en el siguiente round.

ChatGPT y su carapulcra

Esto sí es una gran mejora respecto a la versión anterior del generador de imágenes de ChatGPT. Aquí sí le está haciendo la competencia a la infografía creada en Gemini. Y aunque no mencionó las variaciones, sí le puso arroz; y eso, en mi libro, vale mucho.

OK, ahora como te lo había prometido, en el round 3 vamos a ver qué modelo hace la mejor imagen de un plato de “Manchapecho” (de paso que te enteras qué es eso).

Round 3: el “Manchapecho”

Es un plato que combina carapulcra (ya sabes lo que es eso) con sopa seca, una especie de fideos con un aderezo especial, todo esto servido con yuca sancochada y cerdo.

Lo que quiero hacer es pedirle a Nano Banana Pro y a ChatGPT que creen una imagen de ese plato, sin mayor explicación. Eso además nos servirá para saber qué tan buenos son cuando les ponemos un reto fuera de lo ordinario (dudo que hayan muchas imágenes de carapulcra con sopa seca en su set de entrenamiento).

Antes de pedirles la imagen, mejor te enseño cómo es ese plato, así tú también puedes juzgar:

Te presento la foto del manchapecho original, servido como se debe, saliéndose del plato. Admito que no es el plato más “aesthetic”, pero como alguna vez le escuché decir a alguien: “está recontra buenazo”.

Ahora que ya sabes cómo se ve el plato original, hagamos el prompt. Mantengámoslo plain and simple. Quiero la foto desde arriba de un plato de “Manchapecho” en una mesa de madera.

El prompt

Fotografía en formato 4:3, tomada desde arriba de un plato de manchapecho (plato tradicional peruano) servido en una mesa de madera.

Nano Banana Pro

Estuvo cerca, y tiene algunos de los ingredientes. No se parece tanto al plato original, pero se nota que Gemini se esforzó (no como otros).

ChatGPT

WTF! Eso es arroz amarillo con frejoles, huevo frito y rodajas de limón!
El asistente de OpenAI acaba de insultar la gastronomía peruana… y ni siquiera me dio la foto en formato 4:3. Todo es culpa de Sam Altman.

Claramente nuestros asistentes tienen pequeños problemas cuando entran en contextos multiculturales (pero eso es otro post).

Es hora de pasar al siguiente asalto!

Round 4: retratos al estilo de Yousuf Karsh

Como te contaba en la pelea anterior, Yousuf Karsh es mi fotógrafo favorito. Su trabajo retrata personajes como Albert Einstein, Winston Churchill, Brigitte Bardot, Isaac Asimov, Martin Luther King Jr., Muhammad Ali, Audrey Hepburn, etc, etc.

En este asalto veremos si nuestros asistentes pueden imitar su estilo.

El prompt

Retrato en blanco y negro de [personaje], en el estilo de Yousuf Karsh

Ahora es momento de elegir algunos personajes y ver qué tan buenos “fotógrafos” son.

Empecemos con…

David Hasselhoff

Personaje querido de la niñez, yo lo vi de chico en el Auto fantástico y luego como Mitch Buchannon en Baywatch.

Aquí están los retratos estilo Karsh de este ídolo de los 80s-90s.

El Hasselhoff de ChatGPT

Hasselhoff de Nano Banana Pro

hmmmm, está parecido… probemos con…

Dirk Benedict

¿No sabes quién es Dirk Benedict? Tal vez lo conozcas como Templeton Peck, “Face” o “Faz” de los Magníficos (la Brigada A, en España).

Faz era el guapo de los Magníficos, admito que siempre quise ser como él, pero nunca me salió 😅 (qué te puedo decir)

El de Nano Banana

Cool, creo que logra captar la esencia del personaje, se siente una foto real.

El de ChatGPT

Puede que estéticamente se vea bien, pero hay algo en esta foto que no me cuadra, no lo sé, pero si tuviera que elegir cuál de estas dos fotos fue hecha por un robot elegiría esta.

No puede faltar Tom Selleck (y su bigote)

Ya que estamos usando personajes de series de los 80s, no puede faltar Magnum. ¿Cuántas personas se habrán dejado el bigote por causa de Tom?

Creo que no hay mucho más que decir, ¿no?

El Magnum de Nano Banana Pro

Es un buen retrato, aunque no lo recordaba con el pelo tan lacio (tampoco recordaba que fumara, pero ¿quién no lo hacía en los 80s?). Buen intento de Gemini.

El bigote Magnum de ChatGPT

Este es el bigote, perdón, el Magnum que recordaba. Muy buen trabajo de ChatGPT en esta imagen.

Me acabo de dar cuenta que todas las poses que genera Nano Banana Pro son iguales, sobre todo eso de poner una mano sobre otra. Es algo raro, ¿no crees?

Bueno, luego de pasar por retratos al estilo Karsh de artistas de series de los 80s, suena la campana y es hora de pasar al último asalto.

Round 5: La gran aventura retro intergaláctica groovy del kung-fu

En la comparación pasada me inventé una película y les pedí a Gemini y a ChatGPT que creen el póster promocional.

El prompt

Crea el póster de la película: “La gran aventura retro intergaláctica groovy del kung-fu”. Es una película de acción que se desarrolla en el espacio, pero con tecnología humana de 1850. Los personajes usan ropa de la década de 1970 y todas las peleas son de kung-fu. 

Veamos cómo lo interpretan nuestros robots…

Nano Banana Pro:

ChatGPT:

¡Groovy! Y con eso se termina el quinto y último round de esta revancha, es hora de pasar a…

La decisión de los jueces

Como toda pelea de box, tres jueces deben dar el puntaje de cada round y así veremos cómo terminó la pelea.

Pues hoy somos sólo dos jueces (este es un substack low budget 😅) me acompaña mi amigo Diego García, un capo en ciencia de datos y amante del boxeo (y de Pokemón).

[Léase con voz de anunciador de ring]
Damas y caballeros, después de cinco rounds de pura adrenalina, vamos a las tarjetas de los jueces…
El juez García anotó 43/47…
Y el juez Martínez anotó 47/49…
Para el ganador por decisión unánime y… aún campeón… Nano “Banana” Pro.
[/Léase con voz de anunciador de ring]

Y esa fue la pelea de hoy, el creador de imágenes de Gemini sigue siendo un poquito mejor, aunque ChatGPT mejoró un montón con este update.

Nada más de mi lado, espero que te haya gustado el post.

Abrazo,
G

Nota: Un agradecimiento especial para Diego García Rieckhof por ayudarme a puntuar esta pelea. Si aún no lo lees, te recomiendo su Substack The Data Chronicles.

Abres ChatGPT (o Claude, o Gemini, o inserta tu IA favorita aquí) y te pones a conversar con él. Le pides que escriba un correo, tal vez que te ayude con tu próxima presentación o que te dé esa receta de cau cau que Germán tanto menciona y que te mueres por probar.

Pero… alguna vez te has preguntado:
¿Cómo hacen estos asistentes de IA para poder conversar con nosotros?

Si tu respuesta es algo como “porque es inteligente”, “porque aprendió de Internet”, o “porque tiene toda la información del mundo guardada”… pues no es tanto así.

ChatGPT no “entiende” realmente qué es el cau cau, no sabe que es el plato más rico del mundo (IMHO), no sabe lo que “es” el mondongo, o el ají amarillo. La verdad es que no “sabe” nada; no está pensando cuando te responde y tampoco tiene información guardada en ninguna base de datos.

Pero aun así nos responde, así que hoy quiero abrir la caja negra y tratar de explicarte todo lo que pasa cuando hablamos con la IA.

¿Empezamos?

¿De qué hablamos cuando hablamos de IA?

El mundo de la inteligencia artificial es gigante, incluye desde autos que se manejan solos hasta Netflix recomendándote tu siguiente serie. Dentro de este universo hay algo llamado IA generativa, que no es otra cosa que una IA que genera contenido nuevo (texto, imágenes, audio o video), pues te cuento que tu asistente favorito cae en esta categoría.

Para entender cómo funciona una IA, lo más fácil es empezar viendo cómo genera texto. Para eso usa algo llamado LLM.

¿Qué %&$#! son los LLMs?

¡Buena pregunta! un LLM es un Large Language Model o en español “Modelo de lenguaje grande”, piensa en él como una máquina que recibe un texto y predice cuál debería ser la siguiente palabra.

Eso es todo lo que sabe hacer, predecir la siguiente palabra en un texto, nada más. Y hace esto una y otra y otra vez:

Recibe un texto → predice la próxima palabra → Le suma esa palabra al texto
(y vuelve a empezar)

Es un modelo porque es una representación matemática, que nos permite hacer predicciones. Como los modelos del tiempo que nos dicen si va a llover o saldrá sol y podremos ir a la playa.

Sólo que este modelo no predice el tiempo sino que predice el lenguaje, y decimos que es grande porque tiene muchísimos parámetros, miles de millones de parámetros que son parte de su estructura matemática. No tienes que saber cómo funciona, solo que los usa para predecir la siguiente palabra.

Todo esto funciona en algo llamado una red neuronal.

¿Una red neuro qué?

Neuronal. Como las neuronas del cerebro, pero no tan chéveres. Son una versión matemática e hiper simplificada de la conexión entre neuronas y se usa para reconocer patrones (en nuestro caso, los patrones del lenguaje).

Imagina una red gigante con varias capas de neuronas, todas las neuronas de una capa están conectadas a cada una de las neuronas de la capa anterior y la siguiente. Esta conexión entre neuronas puede ser más o menos fuerte, a la fuerza de esa conexión entre neuronas le llamamos parámetro (también se le dice peso).

La información (el texto convertido en números, digámosle vector) viaja por esa red desde la primera capa hasta la última y dependiendo de la información que entra a una capa y de los parámetros de esa capa el vector cambia. Y así capa por capa, la información va ajustándose hasta llegar a la última capa que nos da la próxima palabra en el texto.

Piensa en lo grande que tiene que ser una red neuronal para llegar a tener miles de millones de parámetros. En general, mientras más parámetros tenga una red neuronal, es más capaz de entender los patrones complejos y sutilezas del lenguaje humano.

¿Y cómo hacen estas cosas para aprender nuestro lenguaje?

Entonces, ya sabemos que un LLM no es otra cosa que una máquina para predecir palabras (algo así como el teclado predictivo de tu celular, pero en esteroides). Ademas vimos que para hacerlo, usan redes neuronales con millones de parámetros.

Pero la verdad es que aún no hablamos sobre cómo hacen estas máquinas para aprender nuestro lenguaje. Y nos toca empezar preguntándonos…

¿Qué significa “aprender” para una máquina?

Pues no tiene nada que ver con cómo aprendemos los humanos. Para una máquina “aprender” significa ir ajustando sus parámetros (los pesos que conectan las neuronas en la imagen de arriba) una y otra vez hasta que la máquina se vuelve mejor haciendo su trabajo. En este caso, prediciendo la próxima palabra de un texto.

Ahora si estás listo para saberlo… estas máquinas entrenan.

Y aquí las máquinas sí entrenan como entrenamos los humanos, repiten una y otra vez su tarea y van ajustando poco a poco hasta que se vuelven muy buenas en su tarea. Eso es todo, entrenan. Como Rocky en cualquiera de sus películas (excepto en Rocky V, puaj!).

La diferencia es que en vez de salir a correr, subir escaleras, hacer sparring, cargar peso y golpear reses congeladas (¿?), las máquinas usan datos de entrenamiento.

Estos datos de entrenamiento son una cantidad obscena de texto, estamos hablando de trillones de palabras. En la data de entrenamiento de un LLM puedes encontrar miles de millones de páginas web, libros, revistas, artículos científicos, letras de canciones de reggaetón, conversaciones random de Reddit o Twitter, código de programación, Wikipedia en todos sus idiomas, etc, etc.

Y aquí viene el dato que vuelve loco a todo el que lo escucha por primera vez:

El modelo no guarda nada de esto, no tiene memoria.
No tiene una base de datos interna.
No puede buscar información ni está “recordando” lo que leyó.

Boom! No te lo esperabas, ¿cierto?

Lo que el modelo está haciendo es extraer los patrones de cómo escribimos los humanos basándose en todo lo que encuentra en los millones de textos de su data de entrenamiento.

y lo hace de la siguiente manera…

El proceso de entrenamiento

Es básicamente jugar “completa la frase” con el modelo unos cuantos trillones de veces. Para ponerlo en sencillo, el entrenamiento es algo así:

1. Le das un texto para completar: “Tenía hambre, así que preparé un _____”

2. El modelo hace su predicción: se basa en sus parámetros (esos pesos entre neuronas que vimos hace un rato), y te dice qué palabra es la que cree que sigue. Por ejemplo: “calzoncillo”

3. Mides el error: usando algo de matemáticas complejas comparas lo que predijo tu modelo con la respuesta correcta y ves qué tan equivocado está (en nuestro caso anda volando :P).

4. Ajustas los parámetros: ahí le metes más matemáticas complejas y ajustas un poquito los millones de parámetros del modelo (back propagation, le dicen) para que la próxima vez diga algo más cercano a una respuesta coherente.

5. Repites, repites, y vuelves a repetir (millones de veces): lo mismo pero con diferentes ejemplos.

Con cada pasada de este proceso de entrenamiento, poco a poco el modelo mejora. Al comienzo sus predicciones eran cualquier cosa (de hecho empieza con predicciones aleatorias). Luego de varias semanas y millones de pasadas, puede completar frases, responder preguntas, hacer canciones de rap y hasta escribir código de programación.

Recuerda: no es que el LLM te entienda (al menos en el sentido humano), es que conoce los patrones del idioma y puede completar frases.

Los humanos también participamos en el entrenamiento

Hay dos momentos (al menos) en donde nos metemos en este proceso.

El primero es antes del entrenamiento, cuando tenemos esos millones y millones de textos que procesar. No se trata simplemente de “descargar” todo de internet y dárselo al modelo para que entrene. No, no, no.

Las compañías como OpenAI, Anthropic, Meta, X, o Google, que se encargan de entrenar estos modelos, tienen antes que hacer una limpieza de estos textos. Filtrarlos para quitar contenido basura, direcciones de correo, datos personales, contenido sexual, violencia, etc. Y cada compañía tiene sus propias políticas de filtrado.

El segundo momento es luego del entrenamiento, con algo llamado RLHF (Reinforcement Learning from Human Feedback). Básicamente se trata de humanos evaluando las respuestas que da un modelo, y luego el modelo se ajusta según ese feedback, la idea es que con esta técnica, las respuestas del LLM se vuelven más útiles y seguras.

Fine-tuning

OK, luego de algunas semanas y varios cientos de millones de dólares ya tienes un modelo entrenado. Ahora necesitas una forma de mejorarlo sin volver a entrenarlo desde cero (a menos que quieras volver a gastar otros cientos de millones).

El fine-tuning es cuando tomas un modelo que ya está entrenado y lo entrenas un poquito más, con ejemplos específicos.

Por ejemplo, imagina que tienes tu modelo y le haces un fine-tuning con algunos miles de ejemplos de código en Python. El resultado es un modelo que puede programar mejor en ese lenguaje.

Y así, puedes hacer fine-tuning para que tu modelo sea mejor escribiendo poesía, respondiendo correos de manera sarcástica, haciendo canciones de reggaetón, escribiendo con el estilo y voz de tu marca… el cielo es el límite.

Es como tener un cocinero con muy buena técnica, y darle un curso intensivo de cocina Peruana. Ahora ese chef ya puede hacer cau cau! 👨‍🍳

La fecha de corte de la data de entrenamiento

Un pequeño detalle que tienes que conocer es que, una vez entrenado el modelo, no aprende nada nuevo. La data de entrenamiento tiene una fecha de corte. Es decir que el modelo no sabe nada de lo que ha pasado en el mundo desde esa fecha en adelante.

Por ejemplo cuando le pregunté a ChatGPT:

Germán
Sin buscar en internet, dime quién es el Papa.

ChatGPT
Sin buscar en internet: según mi información hasta agosto de 2025,
el Papa es Francisco (Jorge Mario Bergoglio).

Esto es importante, porque por más que nuestros asistentes puedan buscar en Internet, es imposible que verifiquen cada uno de los datos de una conversación. Así que ten siempre en cuenta este gap.

La energía no es gratis

Entrenar uno de estos modelos gasta una cantidad alucinante de electricidad, una parte para correr los procesadores que hacen estos trillones de cálculos, y otra parte para enfriarlos. Eso de tener prendidas a toda máquina estas supercomputadoras durante semanas no es barato. Lo bueno es que se hace sólo de vez en cuando.

Pero una vez que el modelo ha sido entrenado es que millones de personas lo empezamos a usar al mismo tiempo. Todos pidiéndole que prediga la próxima palabra de nuestros textos, una y otra vez, todo el día, todos los días. Y aunque predecir (se llama inferencia) es más barato que el entrenamiento, el hecho de tener que hacer inferencia para millones de usuarios lo hace más caro. Probablemente entre el 80 y 90% del gasto energético de las compañías de IA sea por inferencia.

Si quieres saber más de esto, hace unos meses escribí sobre el tema.

¿Cómo funciona un LLM?

Listo, ya tenemos nuestro modelo entrenado y listo para que lo usemos. Es hora de ver, paso a paso, lo que sucede cuando le haces una pregunta.

No son palabras, son tokens

¿Recuerdas cuando te dije que un LLM predice la siguiente palabra?
Lo siento, no fui 100% sincero. 😬 Estos modelos no predicen palabras, predicen tokens.

Para un humano es natural trabajar con palabras, pero para una máquina no. Las computadoras trabajan con números, así que necesitan una forma de partir el texto en pedazos que puedan manejar, y estos pedazos se llaman tokens. Un token puede ser una palabra, un pedazo de palabra o hasta un signo de puntuación.

Por ejemplo, la frase “Voy a prepararme un Pisco Sour” tiene 9 tokens.

La máquina transforma cada uno de esos tokens a un número, en este caso:

[124855, 261, 9348, 50627, 537, 398, 13009, 148083, 13]

Y nada, ahora el LLM ya tiene números con los que trabajar :)

Dato curioso, los tokens cambian con el idioma. Es decir, hay idiomas que necesitan más tokens que otros. Por ejemplo, el castellano puede llegar a necesitar 30% más tokens que el inglés. Y dado que las aplicaciones de IA suelen cobrar por token, podríamos decir que es más caro usar la IA en español.

Encima de eso, hay un límite en la cantidad de tokens que un LLM puede procesar al mismo tiempo, este límite se llama ventana de contexto.

Nota: si quieres ver cuantos tokens hay en una frase, puedes usar esta herramienta de OpenAI.

La ventana de contexto

Todo tiene un límite (excepto el amor 😘) y en el caso de los LLMs este límite es la cantidad de texto, medido en tokens, que estos modelos pueden procesar al mismo tiempo.

Imagina que el modelo es una caja, y en esta caja tiene que haber espacio para que entre el texto de tu pregunta, el texto de los documentos que subiste y además tener espacio vacío para que entre la respuesta que tu LLM genere. Todo ese “espacio” se llama ventana de contexto.

Y no solo necesitas espacio para una pregunta y respuesta, sino para toda tu conversación. Es decir, que en esa caja debe haber espacio para todas las preguntas, documentos y respuestas que tengas en un chat.

¿Entonces qué pasa cuando nuestra conversación supera la ventana de contexto? Pues dependiendo del modelo podrían pedirte amablemente que abras otro chat, o lo más probable es que tu asistente haga un resumen de la conversación y use ese resumen para seguir conversando. El problema es que en un resumen siempre se pierden detalles.

Las ventanas de contexto de nuestros asistentes son cada vez más grandes, por lo que no deberían darnos problemas. Pero creo que igual es bueno saber que existe, sobre todo porque cada día exigimos más de esta tecnología y tenemos que entender sus límites.

¿Cómo genera un LLM una respuesta?

Para generar la respuesta, estas máquinas usan algo llamado transformers (no, lamentablemente no son los robots de los 80s). Si quieres saber cómo funcionan en detalle, aquí escribí un post al respecto (y sí, uso metáforas del los robots de los 80s).

De todas formas, de manera super simplificada, siguen este proceso:

1. Recibe tu prompt (convertido en tokens).

2. Procesa esos tokens a través de su red neuronal. (usando transformers)

3. Predice cuál debería ser el siguiente token

4. Agrega el token a la secuencia

5. Regresa al paso 2 y repite todo otra vez hasta que termina de responder.

Por ejemplo, si yo le preguntara algo como:

¿Cuál es el principal ingrediente del cau cau?

Aquí el siguiente token sería, “Mond” así que lo agregaría a la secuencia:

¿Cuál es el principal ingrediente del cau cau?

Mond

luego volvería a procesar todo, mi pregunta y su respuesta, y con eso predice el siguiente token, que en este caso es “ongo”.

¿Cuál es el principal ingrediente del cau cau?

Mondongo

Entonces lo agrega a la secuencia, y listo.

Por cierto, la palabra “mondongo” tiene dos tokens, igual que la palabra “delicioso”. ¿Coincidencia? no creo…
Tal vez las máquinas saben más de gastronomía de lo que pensamos.

Ahora que sabemos cómo se comporta nuestro asistente, déjame contarte que de aquí se desprenden un par de cosas interesantes…

El stack

OK, acabamos de ver cómo hacemos una pregunta (o para ponernos más técnicos, un prompt) y el modelo nos responde token por token.

Hasta ahí todo bien… ¿pero qué pasa cuando interactuamos con nuestro asistente luego de su respuesta?

Pues le enviamos al LLM todas las preguntas y respuestas anteriores de la conversación.

Como oíste leíste! cada vez que le mandas un prompt, no solo está recibiendo ese prompt, sino toda la conversación. Y así es como nuestros asistentes pueden llevar el hilo cuando hablan con nosotros.

Por ejemplo, si continuáramos nuestra conversación sobre el cau cau y quisiera preguntarle “¿con qué se acompaña el cau cau?”, el mensaje que recibiría el LLM sería algo así

Usuario:
¿Cuál es el principal ingrediente del cau cau?

Asistente:
Mondongo

Usuario:
¿y con qué se acompaña el cau cau?

Sí, tu LLM recibe todo eso y luego pasa por el proceso que acabamos de ver para predecir los siguientes tokens hasta que termina su respuesta.

Asistente:
Con arroz

Esta lista de todos los mensajes que envías y todas las respuestas que nos da el asistente se llama “stack” o “pila” porque los mensajes de los dos roles, usuario y asistente van “apilados”.

Pero eso no es todo lo que va en el stack!

El stack tiene dos ingredientes más que son los que realmente hacen que las conversaciones con nuestros asistentes valgan la pena.

El primero se llama “system prompt” y es el primer mensaje que ve un LLM en el stack y, por lo tanto, el que guía toda la conversación. Este mensaje usualmente es hecho por las compañías que nos dan el servicio de IA para que nuestros asistentes se comporten como estas empresas quieran.

Siguiendo con nuestro ejemplo, podría ser algo así:

System prompt:
Eres un asistente experto en cocina peruana, tus respuestas deben ser cortas y al grano.

Mira cómo le indicamos al LLM que función tiene y cómo debe responder.
Por supuesto, los system prompts de nuestros asistentes son mucho más complejos, pero creo que se entiende la idea.

Entonces nuestro stack ahora se ve así:

System prompt:
Eres un asistente experto en cocina peruana, tus respuestas deben ser cortas y al grano.

Usuario:
¿Cuál es el principal ingrediente del cau cau?

Asistente:
Mondongo

Usuario:
¿y con qué se acompaña el cau cau?

Asitente:
Con arroz

Recuerda que todo esto va al LLM cada vez que le mandas un nuevo prompt.

El otro elemento que aparece en el stack son las instrucciones personalizadas o preferencias del usuario. Todos los asistentes tienen un lugar donde le cuentas quién eres y cómo quieres que te respondan. Esas instrucciones son una parte súper importante del stack porque son las que hacen que te responda como tú prefieres y tomando en cuenta tus preferencias.

Siguiendo con el ejemplo del cau cau, mis preferencias podrían ser algo así.

Preferencias:
Me llamo Germán, soy un fanático de la comida peruana y no me gustan las alverjitas en el arroz.

Entonces el stack completo quedaría así:

System prompt:
Eres un asistente experto en cocina peruana, tus respuestas deben ser cortas y al grano.

Preferencias:
Me llamo Germán, soy un fanático de la comida peruana y no me gustan las alverjitas en el arroz.

Usuario:
¿Cuál es el principal ingrediente del cau cau?

Asistente:
Mondongo

Usuario:
¿y con qué se acompaña el cau cau?

Asitente:
Con arroz

¿Te das cuenta cómo todo esto influye directamente en la respuesta?
¿Te imaginas lo que me hubiera respondido sobre el mondongo si en mis preferencias hubiese puesto que soy vegano?

Por eso es que muy importante saber cómo hacer prompts y completar las instrucciones personalizadas.

Las alucinaciones

A veces tu LLM favorito te da una respuesta que no es cierta… no creas que te está mintiendo, está alucinando (ese es el término técnico).

Las alucinaciones son algo natural de estos modelos, es una consecuencia de cómo funcionan. Recordemos por un segundo el proceso:

1. Recibe el stack (convertido en tokens).

2. Procesa esos tokens a través de su red neuronal. (usando transformers)

3. Predice cuál debería ser el siguiente token

4. Agrega el token a la secuencia

5. Regresa al paso 2 y repite todo otra vez hasta que termina de responder.

Ahora concentrémonos en el paso 3, la predicción del siguiente token. Lo que hace el modelo ahí, no es simplemente predecir un token, es ver qué probabilidad tiene cada token en su vocabulario de ser el siguiente. Y cuando hablamos de su vocabulario estamos hablando de un par de cientos de miles de tokens.

Entonces el paso 3 es calcular la probabilidad de todos los tokens y elegir uno de los más probables.

¿Cómo que uno de los más probables, por qué no el más probable?

Porque si siempre fuera el más probable, todas las respuestas serían muy parecidas. Si en vez de eso elegimos entre los más probables, las respuestas se vuelven más variadas y “creativas”.

Ahora que ya sabes que no siempre elige el mismo token, volamos a nuestro ejemplo del cau cau. ¿Recuerdas que el primer token que predijo fue “Mon”?

Eso quiere decir que al momento de elegir el segundo token una opción era continuar y terminar de escribir

Pero también hay otras opciones, algunas mucho menos probables, por ejemplo (permíteme exagerar):

Basta una desviación en un mísero token y la respuesta puede cambiar completamente. Me hace acordar cómo Dr. Strange podía ver todos los futuros posibles, por más raros que sean.

Y nada, así es como alucina un modelo de lenguaje :)

Listo, terminamos (casi)

Gracias por darte este tiempo para leerme tratando de explicar cómo funciona la IA generativa. Creo que estos son los conceptos principales que nos dan una idea sólida de cómo funciona esta tecnología.

Ahora que entiendes esto, sabes lo importante que es la forma en que interactuamos con nuestros asistentes. No se trata de preguntar por preguntar, sino de estructurar una conversación.

Y creo que con esto tienes la base para que las conversaciones con tu inteligencia artificial favorita pasen al siguiente nivel.

Antes de irme, tengo una cosa más…

El cau cau

Si eres de fuera de Perú probablemente no lo conozcas, así que es hora de presentarte el cau cau, este plato que vengo usando como ejemplo y que además es mi favorito del mundo mundial.

Sí, tiene mondongo, y me encanta (aunque mis hijos, como casi todos los niños del mundo, lo odian).

Si alguna vez te sientes aventurero y encuentras un restaurante peruano que lo sirva, pruébalo. Luego me cuentas si eres team cau cau.

De nuevo gracias por leerme, espero que te haya gustado este curso acelerado en IA Generativa.

Nos vemos!
G

Este es el último post del año, y quiero aprovecharlo para hacer tres cosas: agradecerte por estar aquí, compartir contigo mis tres posts favoritos del año y, para terminar, hacer un pequeño repaso de lo que pasó en este blog durante el 2025.

Así que aquí vamos!

Thanks, спасибо, añay, merci, ありがとう
(tú me entiendes)

Muchas gracias por leerme, por tus comentarios, por tus likes, por participar en el chat, hasta por escribirme un mail cuando no te gustó alguno de mis posts.

Me encanta aprender, y escribir después de investigar me obliga a aterrizar ese conocimiento, a releer, a buscar otras fuentes para estar seguro de lo que digo, a hablar con amigos que saben más que yo para que le den una mirada a mis textos… y todo eso me ayuda a aprender mejor.

Y que estés aquí, leyendo este substack sobre IA lleno de ejemplos raros, de imágenes y referencias poco convencionales, de uno que otro post kilométrico, me hace pensar que no es sólo idea mía, sino que es algo que va ganando forma, y eso me anima a seguir escribiendo, aprendiendo y compartiendo toda mi “nerdosidad” 🤓.

De nuevo, gracias.

Mis tres posts favoritos del 2025

Este año escribí 41 posts, y quiero compartir contigo los tres a los que personalmente les tengo más cariño. Así que abrí 41 pestañas en mi navegador, les di una mirada uno por uno a todos mis artículos y me quedé con diez finalistas.

De ahí elegir sólo tres fue muy difícil, así que traté de quedarme con los que más siento que aprendí o que me ayudaron a formar opinión… y con eso la lista se redujo a cinco.

Al final terminé eligiendo entre esos cinco a los tres que más me divertí escribiendo, aquí te los presento:

🥇Primer puesto:
Estoy súper orgulloso de este post, creo que es el que más investigué, y probablemente sea el más largo que he escrito. Puede parecer un poquito técnico pero vamos, no es sencillo explicar cómo hace una máquina para entender el idioma. Además me dio la excusa perfecta para usar metáforas de los Transformers (sí, estoy hablando de Optimus Prime).

🥈 Segundo puesto:
Este artículo habla de lo que nos sucede a los humanos con cualquier cambio tecnológico, no importa si es la llegada de la Inteligencia Artificial, la máquina a vapor o la invención del papiro. Nos cuesta asimilar estos cambios.

🥉Tercer puesto:
Cuando escribí este post estaba cansado de leer y escuchar el término “agente” cada vez que se hablaba de Inteligencia Artificial (el marketing), así que decidí profundizar y explicar lo que realmente es un agente de IA.

Esta selección fue muy complicada, tuve que dejar fuera varios posts que me encantaron, qué se le hace. ¯\_(ツ)_/¯

Recap (el año en números)

Tengo varios motivos para celebrar 🍾. Te cuento que empecé el 2025 con 121 suscriptores y hoy, casi un año después, ya somos 9,500. Eso es un crecimiento de 7,751%. Déjame ponerlo en letras: siete mil setecientos cincuenta y uno por ciento.

Además, según Sidestack, aprendiendo IA está en el top 10 de substacks en español sobre tecnología, y como si eso fuera poco, este blog ha pasado los últimos meses en el top 5 de substacks escritos desde Perú.

Este año fueron 41 posts. Investigué cada tema, inventé los ejemplos y metáforas (lo sé, la mayoría sobre comida) creé las imágenes… en fin, aprendí mucho y espero que la hayas pasado bien leyéndome. De nuevo, muchas gracias por estar ahí.

Sobre las imágenes de los posts

Ya que hablé de las imágenes, te quiero compartir algunas de mis imágenes favoritas del 2025:

Una cosa más

No puedo irme sin compartir contigo algunos de los posts que no quedaron entre los tres primeros, pero que siento que han sido de lo mejor del 2025:

• Humanizando a la IA

• ¿Es más caro usar la IA en español?

• ¿Cuánta energía gasta realmente la IA?

• Prompts como recetas, el método para diseñar conversaciones completas con la IA

• La IA y el sentido del humor, de cómo reté a ChatGPT y a Claude a una batalla de chistes

Ahora sí

Espero que pases una muy bonita Navidad y ya nos vemos el 2026.

Abrazo navideño,
G

P.D: Me encantaría saber cuáles son tus imágenes favoritas y qué posts son los que más te han gustado. Si quieres darme algo por navidad cuéntame eso en los comentarios.

Bienvenido a la tercera entrega de la saga de frameworks de prompting. En la parte I hablamos de RTF y RAILS, en la parte II (la venganza) de CRISP y CLEAR, y como si necesitáramos más acrónimos, hoy te traigo la parte III (el retorno del prompt), donde vamos a ver dos frameworks más: PEACE y COSTAR.

Ya lo he dicho antes, y lo vuelvo a decir: alguien se está esforzando demasiado para que sus acrónimos suenen cool (no se preocupen, que ya me tocará a mí sacar el mío). Mientras tanto, te voy contando sobre PEACE y COSTAR.

Estos dos frameworks están enfocados en la comunicación, es decir que tratan de ajustar cómo te responde tu asistente, y no me refiero sólo a cómo presenta los hechos en la respuesta, sino también al tono. ¿Nunca te ha pasado que le haces una pregunta a ChatGPT y te responde como si fuera un abogado corporativo?

A mí me ha pasado varias veces y suele ser un problema… excepto, me imagino, para los abogados corporativos.

En fin, agarra tu taza de café y empecemos!

PEACE: Politeness, Expertise, Ask, Context, Engage

Este framework es un poco diferente al resto, se enfoca no sólo en lo que le pides a tu asistente de IA favorito, sino en cómo se lo pides.

Y sí, esto incluye hablarle “bonito” a una máquina…. Sé que puede sonar raro, aunque, como dije en algún post, hay evidencia que esto funciona.

Me lo imagino como el hippie de los frameworks.

¿Cómo funciona PEACE?

[Léase con tono de hippie que acaba de “desayunar”]

PEACE toma 5 cosas que hacen que nos podamos comunicar en armonía con una IA, y así estar todos felices y en paz…. uuuuuuuuu

Aquí los componentes:

Politeness (cortesía): Sé buena onda con tu IA, pídele por favor las cosas, dale las gracias, pórtate bonito con ella. Obviamente sabemos que los asistentes no tienen sentimientos, ChatGPT no se va a ofender si lo tratas mal. La idea detrás de esto es que ser buena onda mejora las respuestas y hay estudios que lo prueban (aunque la verdad es que también hay estudios que dicen que ser rudo también funciona, pero eso es un tema para otro post).

Además, en teoría, ser cortés de alguna manera nos obliga a reflexionar más cuando le pedimos algo a la IA, así que estamos haciendo mejores preguntas.

Expertise (pericia): igual que en otros frameworks, se refiere a qué rol quieres que tome tu asistente, sólo que aquí en vez de usar la “R” de “role”, usaron la “E” de “expertise” para que el acrónimo quede más bonito. En fin, aquí es donde le dices cosas como “actúa como un chef especializado en cocina Peruana” o “eres un actor de telenovela mexicana”, tú me entiendes.

Ask (preguntar): aquí se trata de preguntar con claridad, no pensar que la IA va a adivinar lo que queremos. Específicamente el framework menciona que incluyas lo que necesitas, áreas especificas en las que quieres que se enfoque, o cosas en las que no quieres que haga foco, también qué tan detallada quieres que sea la respuesta y cómo quieres que sea el formato en el que responda. Aquí el truco es que mientras más especifico, mejor.

Context (contexto): hay que darle a tu asistente la información suficiente para que realmente pueda entender de lo que le estás hablando. La IA habla tu idioma, pero no te puede leer la mente. Dale la información de fondo que necesita para hacer bien su tarea (y recuerda pedírselo con cariño).

Engage (abordar): esta parte es muy interesante, aquí le tienes que pedir a la IA que te pregunte cosas antes de responder. Lo más probable es que, por más que te hayas esforzado, no le hayas contado todo el contexto al asistente. Así que aquí le pides que te haga las preguntas necesarias para entenderte mejor antes de darte su respuesta (como haría cualquier experto que se respete). Por ejemplo podrías decirle: “Si necesitas más detalles antes de responder, no dudes en preguntar”.

Esto último cambia la dinámica de una pregunta/respuesta a algo un poco más cercano a una conversación.

Este framework es un gran salto si lo comparamos con los más básicos (y que también son útiles), y aunque no lo uso en mi día a día, sí admito que soy amable con mi IA (a veces sin querer), y que casi siempre le pido que haga las preguntas necesarias antes de continuar con su tarea.

Un ejemplo

Digamos un gran amigo nos ha pedido que lo ayudemos a organizar un festival de Reggae en Jamaica.

Nuestro prompt sería algo así:

Hola, por favor necesito tu ayuda organizando un festival de Reggae.

Contexto: Soy un amante de este género musical y quiero llevarlo a toda la gente posible. Quiero hacer un festival de dos días en Kingston y busco que venga gente de todo el mundo a conocer este genero. Todas las bandas serán locales.

Expertise: Eres un experto en la organización de eventos musicales, especializado en Reggae.

Pregunta: Por favor sugiéreme un line-up de bandas para los dos días de este festival.

Engage: No dudes en hacerme las preguntas que sean necesarias para que el resultado sea lo mejor posible y todos los asistentes puedan disfrutar el evento.

Le puse este prompt a ChatGPT 5.2, y luego de responder algunas de sus preguntas, me propuso este lineup:

Día 1: Jah Wise Sound, Runkus, Mortimer, Jesse Royal y Protoje.

Día 2: King Tubby’s–style tribute sound system, Sevana, Lila Iké, Kabaka Pyramid y Chronixx.

La verdad es que no conocía estas bandas, así que me dio la oportunidad de escucharlas. Aproveché para crear un playlist en Spotify, así tú también las disfrutas mientras sigues leyendo el post :)

Casi lo olvido! Si quieres saber más sobre este framework, tiene su propio sitio web.

Y eso fue PEACE (con concierto de Reggae incluido), ahora vamos con el siguiente framework.

COSTAR: Context, Objective, Style, Tone, Audience, Response

COSTAR no te pide que seas amable con la IA, te da una estructura muy organizada para hacer tus prompts.

Aquí no estamos hablando de un framework hippie, más bien podría decir que es yuppie. ¿No sabes qué es un yuppie? Mira la película Wall Street (1987).

¿Cómo funciona COSTAR?

[Léase con tono de yuppie que acaba de “desayunar” algo más fuerte]

COSTAR son seis parámetros que le dan máxima eficiencia a los prompts. Con esto la IA te entiende desde el primer segundo. Ya sabes, el tiempo es dinero… sniffff.

Estos son los seis parámetros:

Context (contexto): Se trata de darle la información de fondo que tu IA necesita para realizar la tarea. Cuéntale cuál es el escenario y en qué situación estás. Imagina que estás escribiendo un caso de Harvard para tu MBA.

Objective (objetivo): Define con mucha claridad cuál es el objetivo final de la tarea. No basta decir algo como “Dame la receta del relleno de pavo” sino “Dame la receta del relleno de pavo de la mamama de Germán para un pavo de 9kg” Igual que en el otro framework, mientras más específico mejor.

Style (estilo): Esto es nuevo, y me encanta. Aquí le dices a tu asistente cuál es el estilo de escritura (o el formato) que quieres para la respuesta. ¿Quieres un párrafo? ¿una lista? ¿una tabla? tú eliges. Además ¿Quieres que sea formal? ¿casual? ¿técnico? ¿chistoso? Again, your choice ;)

Tone (tono): Le dice a tu IA cuál es la actitud o emociones que quieres que use en su respuesta. Podrías decirle que sea profesional, amigable, autoritario, entusiasta, realista, etc. Fíjate que no es lo mismo que el estilo (por más que se parezca).

Puedes tener un estilo formal con un tono amigable o con un tono autoritario, por ejemplo:

Estilo formal y tono amigable:

Le agradecería mucho si pudiera compartir a la brevedad la receta del relleno del pavo.

Estilo formal y tono autoritario:

Se requiere que envíe de inmediato la receta del relleno del pavo.

Audiencia (audience): Define quién es el público objetivo, es decir para quién es la respuesta. Esto ayuda a la IA a ajustar el vocabulario, las referencias y el nivel de complejidad de su respuesta. Digamos que no es lo mismo hablarle a la selección de ajedrez de tu país, que a niños de cuatro años.

Response (formato de respuesta): Especifica exactamente cómo quieres que presente la información. En text plano, markdown, JSON (para usarlo en programación), etc. Aquí defines cuál es la estructura final de la respuesta.

El ejemplo

Pensemos en algo un poco más ejecutivo…. digamos que tenemos otro amigo que trabaja en banca de inversión y nos ha pedido ayuda para hacer un elevator pitch de su portafolio de inversión. (Un elevator pitch es un discurso de presentación super corto, que se supone debería dudar lo que dura un viaje en ascensor).

Este sería nuestro prompt (con algo de mi cosecha):

#CONTEXT#
Eres el banquero de inversión más cool del planeta y quieres presentar tu portafolio de inversión a un potencial inversionista durante un encuentro muy breve.
El foco de tu portafolio es un mix de acciones en empresas de música, entretenimiento, inteligencia artificial y farmacéuticas.

#OBJECTIVE#
Crear un elevator pitch claro y convincente que explique el valor del portafolio, su lógica estratégica y su atractivo para un inversionista.

#STYLE#
Rapero de los 90s

#TONE#
Directo y amigable

#AUDIENCE#
Millonarios buscando opciones de inversión. 

#RESPONSE#
Un texto de 80 palabras, en rima al estilo rap. Listo para ser dicho durante un viaje de ascensor.

Aquí la respuesta (en rap):

Este portafolio suena fuerte, directo al beat,
música y entretenimiento moviendo el cash en repeat.
IA piensa el futuro, escala sin fricción,
farma cuida la vida y paga la innovación.

Diversifico el ritmo, reduzco la tensión,
hits culturales hoy, ciencia a largo plazo en acción.
No es humo ni moda, es flow con visión:
capital inteligente buscando próxima generación.

Tiene flow, no crees? Espero que a nuestro amigo le vaya bien.

Nota: Una cosa más, en COSTAR es costumbre separar cada sección usando #SECCION# como viste en el ejemplo. (Aunque si no lo haces no pasa nada).

¿Germán, usas COSTAR?

La verdad es que no, y menos con los hashtags. Pero sí, desde hace tiempo, uso tono y audiencia. Me parece crítico que tu IA sepa para quién escribes y cómo quieres que se lea la respuesta.

De vez en cuando también uso formato, sobre todo cuando estoy trabajando en una automatización y tengo que pasarle directamente una respuesta a un sistema. (no es nada del otro mundo, ya vendrá un post sobre eso).

Pongámonos serios por un minuto

Internet está lleno de prompts del tipo:

“Eres el mayor experto del mundo en [inserta el tema del quieras hablar],
ayúdame a [inserta lo que quieras hacer con la IA]”

Sé que ya lo he dicho antes, pero ESTO NO FUNCIONA.

Ahora si, sigamos :)

¿Hay más posts en esta serie?

Sí, al menos uno más que saldrá en las próximas semanas. Voy a analizar otro framework de prompting… o crear uno propio (prometo ponerme creativo con los acrónimos).

Mientras tanto, ya que tocamos brevemente el tema, te dejo con el trailer de Wall Street. Enjoy.

Wall Street (1987)

Trajes caros, mucho gel, tirantes y teléfonos celulares del tamaño de un ladrillo. Todo esto dentro de un drama espectacular. Además es un retrato de los yuppies de los 80’s.

Abrazo,
G

¿Cómo hace la IA para entender un texto? La respuesta a esta pregunta tiene que ver con algo llamado atención.

Este es un tema que he venido investigado y me ha encantado, además puedes aprovechar y usarlo como tema de conversación en tu cena navideña ;)

Cuando digo atención, no estoy hablando de prestar atención (como en el cole) sino de algo un poquitito más técnico. Se trata de cómo la IA entiende la relación que tienen todas las palabras en un texto.

Para nosotros los humanos es muy fácil entender un texto. Por ejemplo si lees:

“Autobots, transfórmense y avancen”

Te das cuenta automáticamente que alguien le está dando una orden a los Autobots y que esa orden es que se primero se transformen y que luego avancen. (Me imagino que también escuchaste la voz de Optimus Prime diciéndolo).

Esto que es tan fácil para nuestro cerebro es algo extremadamente complejo para un computadora. Ellas no entienden el lenguaje como nosotros, ellas ven números y necesitan usar números para entender el texto (no te preocupes, este post no es una clase de matemáticas).

Y bueno, el mecanismo que usan ChatGPT, Claude, y todas las demás IA modernas para prestar atención se llama Transformer. De hecho, el mismo nombre GPT significa Generative Pre-trained Transformer (sí, leíste bien… transformer).

Pero para contarte por qué los transformers son probablemente la tecnología más revolucionaria para la IA, primero tenemos que ver cómo funcionaba antes…

Cómo la IA prestaba atención antes

En la antigüedad (antes del 2017), la forma en que la IA “leía un texto” era palabra por palabra.

Imagina que estás leyendo tu libro favorito, pero sólo puedes ver una palabra a la vez. Pues era algo así, para entender un texto la IA primero veía una palabra, la relacionaba con las palabras que ya había leído y luego pasaba a la siguiente palabra. Después repetía el mismo proceso.

Por ejemplo, para nuestra frase: “Autobots, transfórmense y avancen”, primero hubiera leído “Autobots” y hubiera relacionado esa palabra con las anteriores (nada en este caso, por que es la primera), luego pasa a la siguiente. Para cuando llegara a la palabra “y” la relacionaría sólo con las palabras anteriores.

Como te imaginarás, leer un texto de forma lineal, palabra por palabra no es lo más eficiente del mundo. Además, mientras más largo sea el texto, la memoria de las palabras que están más atrás se va perdiendo.

Encima de eso, leer una palabra a la vez hace que sea imposible procesar el documento de forma eficiente. No importa si lo procesas en una super computadora o en un Atari de los 80s, tienes que procesar una palabra a la vez.

Y entonces, en el 2017, la gente de Google llegó para salvarnos…

Llegaron los transformers

¿Y si en vez de procesar el texto palabra por palabra hacemos que todas las palabras se comparen entre si al mismo tiempo?

Algo así:

Esto es básicamente lo que propusieron los investigadores de Google en el paper "Attention is all you need”, y a esta arquitectura, le pusieron de nombre transformer.

Este enfoque resolvía los problemas que teníamos. Con esto ya no hay un problema de memoria porque cada palabra puede prestarle atención a cualquier otra, sin importar qué tan lejos en el documento esté. Además, permite que se procesen todas las palabras en paralelo, lo que la hace extremadamente eficiente.

Y como te mencioné al inicio, prácticamente toda IA moderna está construida sobre esta idea.

¿Enganchado? Agarra un par de tazas de café y déjame explicarte cómo funciona esto paso a paso :)

¿Cómo funciona un transformer?

Veamos paso a paso esta tecnología, desde cómo es entrenada hasta cómo genera el texto. Para empezar tienes que saber que la IA usa matemáticas para entendernos, así que en este post me escucharás decir cosas como: (no te asustes) matrices, vectores o redes neuronales. Tranquilo, que esto no es una clase de matemáticas y mi idea es que entiendas los conceptos detrás, no que hagas operaciones con matrices.

Empecemos!

Paso 0: El entrenamiento (aquí empieza todo)

Lo primero que tienes que saber es que todo esto empieza cuando los modelos de lenguaje llamados Large Language Models (LLMs) son entrenados. Para entrenar un LLM necesitamos un montón de texto, y estoy hablando de millones y millones de textos.

Básicamente le dan estos millones de textos y el modelo empieza a tratar de escribir como si fuera humano, para eso trata de predecir qué palabra es la que sigue en una secuencia y así va completando oraciones, párrafos, etc. Por supuesto que no le sale bien a la primera (ni a la segunda, ni a la tercera). El modelo se equivoca, ajusta su predicción, vuelve a intentar, se vuelve a equivocar… y así hasta que sus predicciones se vuelven suficientemente buenas. Es como aprender a montar bicicleta, te caes y te caes hasta que le agarras el truco y ya no te caes más.

Lo importante aquí es que el modelo no sólo está viendo texto, está creando y afinando las herramientas matemáticas que lo ayudan en el proceso (esas matrices, vectores y redes neuronales que te mencioné). Cada vez que el modelo ajusta su predicción, lo que está haciendo es ajustar todas estas herramientas, y esto pasa millones y millones de veces.

Lo segundo que tienes que saber es que si queremos hablar con una IA necesitamos una forma de convertir texto humano en algo que una máquina pueda procesar…

Paso 1: La IA no entiende palabras, démosle números

Por más que quieran parecer humanas, las computadoras sólo entienden números, así que necesitamos una forma de transformar las palabras en números. Si quieres impresionar al tus amigos en tu próxima cena diles que este proceso se llama embedding.

Lo que hace el embedding es transformar cada palabra en una lista de números. Para seguir impresionando, en vez de lista de números lo puedes llamar vector. Cada uno de estos vectores tiene 512 números.

Por ejemplo el embedding para la frase “Autobots, transfórmense y avancen” sería algo así:

• “Autobots” →
  [0.0224, 0.0018, -0.0058, …]

• “,” →
  [0.0143, -0.0024, -0.0314, …]

• “transfórmense” →
  [-0.0104, 0.0072, -0.0011, …]

• “y” →
  [0.0069, -0.0407, 0.0044, …]

• “avancen” →
  [-0.0124, 0.0197, -0.0119, …]

Hay un vector por cada palabra de la frase. Los números en estos vectores tienen muchas más decimales (algo así: 0.022477803751826286.) Esto es porque la computadora necesita este nivel de precisión para que todo funcione. Yo los abrevié para evitarme el dolor de cabeza 😅.

Y así cada palabra se transforma en una lista con 512 números.

Pues resulta que cada número representa una característica diferente de la palabra que el modelo aprendió durante su entrenamiento. Podemos decir que cada palabra tiene 512 dimensiones. Se trata de un espacio multidimensional.

En este espacio las palabras con significado parecido están más cerca. Por ejemplo “Mamá” y “Papá” van a esta cerca de “hija”, pero lejos de “ametralladora”. Por otro lado, las palabras “Stallone” y “Schwarzenegger” también deben estar cerca (y seguramente sí estén cerca a “ametralladora”).

Aquí hice un ejemplo con un gráfico de 3 dimensiones (como en el colegio), la IA no usa tres, sino 512 (una dimensión por cada número en el vector). Esto de alguna forma captura que “Hija” está entre “Papá” y “Mamá”, que “Stallone” y “Schwarzenegger” están juntos; obvio, si se la pasan en películas de acción. Y “Ametralladora” muy cerca a los dos. ¿Te acuerdas cuando se peleaban para ver quien disparaba más? La idea aquí es que mientras más dimensiones usemos, más podremos entender cómo se relacionan unas palabras con otras.

OK, entonces ya tenemos una forma de darle significado a una palabra suelta y saber donde está parada con respecto a las demás, pero como el transformer procesa todas las palabras al mismo tiempo, no tiene idea del orden de esas palabras.

Es decir que no podría diferenciar estas dos frases:

• “Autobots, transfórmense y avancen”

• “avancen y, Autobots transfórmense”.

Para eso necesitamos una forma de decirle en qué orden están las palabras.

Y eso lo solucionamos con… otro vector de 512 números. Este vector da la posición de una palabra en el texto. Existe un vector que dice que es la posición 1, otro que es la 2, y así hasta tener tantos vectores como palabras en el texto que la IA quiere comprender.

Entonces lo que se hace es sumar cada embedding a su vector de posición y como ambos tienen 512 números podemos sumarlos elemento por elemento. De ahí queda un nuevo vector también de 512 números para cada palabra, esto se llama positional encoding. Esta nueva lista de números no sólo tiene información de cada palabra suelta, sino de en qué parte del texto se encuentra.

Con esto listo, el transformer ya puede empezar a “entender” el texto.

Paso 2: Es hora de prestar atención

Ya tenemos cada palabra convertida en un vector de 512 números que nos da idea de su significado y posición. El siguiente paso es que cada palabra “mire” como se relaciona con todas las demás. Es decir, que entienda su contexto.

Démosle otra mirada a nuestra frase:

Autobots, transfórmense y avancen

Para que una computadora pueda entender esta frase no le sirven sólo palabras sueltas, tiene que saber cómo se conectan estas palabras. Necesita que cada palabra identifique qué tan fuerte es su relación con las demás. Para ponerlo de otra manera, cada palabra se da cuenta de qué otras palabras son importantes para entenderla. Eso se llama atención.

¿Cómo hace una palabra para entender su relación con las otras palabras?

Aquí empieza lo bueno. Antes de empezar quiero contarte que esto no es tan sencillo y que por favor sigas leyendo, prometo que todo tendrá sentido más adelante.

Como te decía, para hacer esto, la IA usa sus herramientas matemáticas. En este caso, tres matrices que aprendió por sí misma durante su entrenamiento (una matriz no es más que otra lista de números). Tenemos una matriz de “llaves” (keys), una de “consultas” (queries) y una de “valores” (values).

Lo que hace es multiplicar el vector que ya tiene de cada palabra (del paso anterior) por cada una de esas 3 matrices.

Te explico:

Tenemos ya el vector de la palabra y posición. Lo primero que va a hacer la IA es multiplicarlo por la matriz de keys (llamada WK). Con eso, ese vector se va a transformar en uno nuevo que tiene más información sobre el significado de la palabra (y su posición), la idea es que esta key sea como una etiqueta, como la identidad de esa palabra. Podríamos decir que es cómo esa palabra se presenta ante las demás (como si fuera su bio de Tinder).

El siguiente paso es multiplicar el mismo vector inicial, pero ahora por la matriz de Queries (WQ). El resultado es otro vector que mide la necesidad de información que tiene esa palabra, es decir qué información necesita esa palabras de las demás. Por ejemplo “transfórmense” necesita saber QUIEN debe transformarse.

Luego, cada una de las Queries de todas las palabras se va a comparar con todas las keys de las demás palabras y se crea algo llamado una matriz de compatibilidad. Esto muestra qué tan compatibles son todas las palabras entre sí.

Para nuestra frase, sería algo como esto:

Fíjate cómo algunas palabras tienen mayor relación con otras. Por ejemplo la palabra “Autobots” está muy relacionada a “transfórmense”, pero no tanto con “y” o con la coma (“,”). Si te das cuenta, todos los números asociados a una palabra (es decir una fila de la tabla) suman 100%. Eso nos permite comparar la atención que cada palabra le da a las demás.

Aqui podemos ver la atención de la palabra avancen:

avancen: Autobots(43%) ,(2%)  transfórmense(40%)  y(5%)  avancen(10%)

Mira como todos los valores suman 100%, y como la palabra “avancen” le presta más atención a “Autobots” y “transfórmense”.

Además, una palabra también se presta atención a si misma, esto se llama auto-atención, y sirve para no “olvidarse” de su propio significado durante todo este proceso.

Pero aquí no termina la cosa. Hasta ahora sólo tenemos números de compatibilidad, es decir que sabemos qué palabras están relacionadas y qué tan fuerte es esa relación.

Ahora tenemos que saber qué información es la que cada palabra aporta. Para eso hay otra matriz (creo que eso ya te lo veías venir), te presento a la matriz de values (WV).

Igual que hicimos con Key y Query, aquí multiplicamos nuestros vectores iniciales por la matriz WV. Con esto obtenemos el vector value de cada palabra. Piensa en el value como la información que una palabra aporta.

Entonces, si key es la etiqueta que tiene una palabra, y query es lo que cada palabra está buscando, value es la información que cada palabra tiene disponible para compartir con las demás.

En resumen: las matrices WK, WQ y WV sirven para que la IA decida qué mirar, qué está buscando y qué aportan las palabras. Nada más.

Es como ir a una biblioteca y hacer una búsqueda: “Busco información sobre robots animados de los 80s” (esto sería tu query).

Cada libro tendrá una etiqueta (key) que diga cosas como “Robots”, “Dibujos animados de los 80s”, “animación”, etc.

Comparas tu búsqueda con cada una de esas etiquetas y te das cuenta que “Dibujos animados de los 80s” tiene una mayor compatibilidad.

Entonces agarras el libro y lo lees. El contenido de ese libro es el value. ¿Se entiende?

Ahora que ya tenemos el value de cada palabra, lo que hacemos es multiplicar nuestra matriz de compatibilidad por el value de cada una de las palabras.

Por ejemplo:

Nuevo vector de "avancen" =

• 43% del value de "Autobots"

• + 2% del value de “,”

• + 40% del value de “transfórmense”

• + 5% del value de “y”

• + 10% del value de “avancen”

Esto genera ooootro vector, que es finalmente el que tiene los datos de una palabra enriquecidos con todas las demás palabras a las que les prestó atención.

Esto. pasa. para. cada. palabra.

Paso 3: Ocho cabezas piensan mejor que una

Me pareció muy interesante eso de las matrices WK, WQ y WV, y aún más cuando me enteré que hay ocho versiones de cada una de estas matrices! 😲

Entonces, este proceso que te acabo de describir sucede al mismo tiempo con esas ocho versiones. En el mundo de la IA en vez de versiones les dicen cabezas (head, en inglés). Y usar varias cabezas para que una IA entienda cómo prestarle atención a las palabras se llama multi-head attention.

Ocho versiones

Te preguntarás algo como ¿por qué necesitamos ocho versiones de esas matrices? (yo me pregunté lo mismo). Resulta que durante el entrenamiento, cada una de esas matrices se ha especializado en mostrar diferentes tipos de relaciones entre palabras.

Cuando un humano lee una frase como “Autobots, transfórmense y avancen”, nuestro cerebro entiende inmediatamente todas las relaciones que tienen estas palabras.

En cambio, cuándo una máquina usa el mecanismo de atención que te estoy explicando, va a entender varias de estas relaciones, pero no todas. Es por eso que usamos ocho versiones. Cada versión, durante el entrenamiento, de alguna manera aprendió a detectar relaciones que las otras no. Entonces, si usamos las ocho nos aseguramos de entender en varias dimensiones estas relaciones.

Cada una de las 8 “cabezas” genera sus vectores para cada palabra, es decir que cada una tiene su propia versión enriquecida de todas las palabras.

Luego simplemente juntamos todos los ocho vectores de cada palabra en un sólo vector, y listo. Tenemos un super vector que ahora entiende a profundidad y a varios niveles el significado de una palabra y sus relaciones con todas las demás palabras.

El lenguaje humano es extremadamente complejo, más aún si quien lo quiere interpretar es un robot. Los humanos entendemos que hay diferentes capas de significado al mismo tiempo en cada frase. Cuando las máquinas usan multi-head attention pueden capturar esa complejidad.

Pero espera, que aún hay más…

Paso 4: Usemos una red neuronal :)

En este momento, cada palabra es un vector super enriquecido con información de todas las otras palabras.

Es como tener ya todos los datos de un problema escritos en una hoja. Pero aún nos falta resolver el problema. Nos toca interpretar todas esos vectores.

Para eso hay que pasarlos por una red neuronal. Imagina que una red neuronal es una caja que transforma información. Le metes los vectores y la red hace un montón de operaciones matemáticas y te devuelve otros vectores.

En nuestro caso, esta red neuronal se entreno junto con los embeddings, la matrices y todo lo que hemos visto. Es parte integral del proceso.

Entonces, cuando pasamos los vectores por esta red neuronal salen transformados, digamos que con un último toque de información. La realidad es que incluso los científicos no saben muy bien qué es lo que pasa en la red neuronal, es una especie de caja negra.

Lo que sí sabemos es que durante el entrenamiento, esta red neuronal aprendió transformaciones que hacen que sea mejor prediciendo la próxima palabra de un texto.

Después de esto, cada palabra tiene un nuevo vector :)

Este proceso se llama Feed forward, y con esto se completa una capa de transformer… pero el transformer no tiene sólo una capa…

Paso 5: Hagamos lo mismo varias veces

Todo esto que acabamos de ver, desde los embeddings iniciales, las matrices, las ocho cabezas y el feed forward es sólo una capa de la arquitectura transformer. Pues resulta que tenemos varias capas.

El vector que sale de una capa, entra de nuevo al mismo loop en la siguiente capa:

1. Se vuelven a usar matrices (las matrices de cada capa son diferentes).

2. Se vuelve a hacer el multi-head attention (las cabezas de cada capa son diferentes).

3. Se vuelve a pasar por el feed forward (la red neuronal de cada capa es diferente).

4. El vector resultante va a la siguiente capa…

Y así hasta completar todas las capas. En el paper original son seis, pero los modelos de lenguaje como como Llama (de Meta) usan ochenta. No sabemos cuantas usan modelos como ChatGPT, Gemini o Claude, pero podrían ser bastantes más.

¿Ok, pero cual es la gracia de usar varias capas?

¡Elemental, mi querido Watson! (en realidad no es elemental, pero siempre he querido usar esta frase). Veámoslo por capas partes.

¿Qué pasa con la información en cada capa?

Todas las capas hacen lo mismo. Usan la información de la atención que capta las relaciones de las palabras y la transforma con el feed forward.

Capa 1: Es la “primera pasada”. Empieza con los vectores iniciales y la atención conecta las palabras entre sí. Salen vectores con el significado de cada palabra y cómo se conectan con todas las demás palabras.

Capa 2: Tomamos los vectores que salieron de la capa 1 y los volvemos a procesar. Volviendo a nuestro ejemplo. cuando “Autobots” mira a “transfórmense” en la capa 2, ya no está mirando solo el significado de una palabra, esta mirando una versión que ya tiene información de las demás palabras (que se mezclaron en la capa 1).

Entonces, las conexiones que hace la capa 2 son más ricas en información que las que hizo la capa 1. Está empezando a conectar palabras que no estaban conectadas en la capa anterior. ¡Está empezando a entender mejor el texto! 🤯

Capas 3, 4, 5, …, ∞: Así cada capa le va agregando más entendimiento y descubriendo relaciones más complejas entre las palabras. Con cada capa adicional, nuestros vectores ganan más y más contexto, entienden más patrones en nuestro texto.

Hay una cosa más que ganamos cuando usamos varias capas. Y es que cada capa que pasa nos ayuda a conectar palabras que podrían estar un poco más alejadas.

Veamos otra vez nuestro ejemplo:

Autobots, transfórmense y avancen

En la capa 1 “Autobots” le presta atención a “transfórmense”, y obtiene la primera versión de esa palabra con sus relaciones iniciales. Pero en la capa 2, cuando “Autobots” vuelve a darle una mirada a “transfórmense”, este ultimo vector (que ha sido transformado) ahora tiene incorporada información del resto de palabras de la frase.

Entonces “Autobots” está obteniendo más contexto y puede entender mejor su relación con todos las demás palabras de la frase. En nuestro ejemplo es una frase corta, pero imagínate esto para entender un libro. Nuestro modelo puede ir afinando el entendimiento de todas las palabras del texto!

A más capas, más fino el entendimiento.

Los vectores finales que salen de la última capa y que tienen toda la información para entender el texto se llaman output embeddings. Pero nosotros podemos decirle “representación final” o si lo prefieres le ponemos “los últimos vectores” :P (cosa que suena a película de los 80s).

Paso 6: De vectores a palabras (cómo hace la IA para generar texto)

OK, entonces hemos llegado al final de este viaje. Nuestra IA ya “entendió” el texto que le dimos y nos va a “responder”. La idea de los modelos de lenguaje como ChatGPT es que siempre traten de completar la siguiente palabra y así armar sus respuestas.

Lo que hacen las IAs es tomar sólo el último vector de nuestros output embeddings. Recuerda que este output tiene un vector por cada palabra. La IA toma solo el vector que corresponde a la última palabra del texto.

¿Qué? ¿Sólo la última palabra? ¿Hemos hecho todo esto para que la IA tome sólo una palabra?

Pues sí, hemos hecho todo esto justamente para que el vector de la ultima palabra ya tenga incorporada tooooooda la información de TODAS de palabras. Recuerda que se ha enriquecido al pasar por varias capas.

Este vector pasa por una última capa (te prometo que es la última) llamada output layer o, si quieres decirlo en castellano, capa de salida.

Esta capa es otra matriz que el modelo aprendió durante su entrenamiento (te prometo que es la última). Esta matriz es gigantesca, porque su trabajo es generar un número por CADA palabra posible en su vocabulario, recuerda que los modelos modernos hablan un montón de idiomas. Ahora imagínate la cantidad de palabras que maneja (y el tamaño de esa matriz).

Entonces pasamos este vector por la matriz y nos da como resultado qué probabilidad tiene cada una de las palabras de su vocabulario de ser la siguiente palabra en la frase.

Por ejemplo, para nuestro caso:

Autobots, transfórmense y avancen

Esta capa de salida nos daría una lista de palabras y sus probabilidades, algo así:

• “ahora” → 7.1%

• “rápido” → 3.6%

• “plátano”→ 0.0002%

• “navidad” → 0.0001%

• “inmediatamente” → 5.2%

• “любовь” → 0.0000004%

• “.” → 34.6% (fíjate como esta tiene la probabilidad más alta)

• “beer” → 0.000023%

• … y así las millones de palabras del vocabulario (las probabilidades suman 100%)

Al final elige la palabra con mayor probabilidad. En nuestro caso, sería “.” (con 34.6%).

Entonces nuestra IA añade esa palabra a la frase, ahora tenemos:

Autobots, transfórmense y avancen.

Fíjate en el punto al final. La IA ha hecho toooodo este proceso para “poner un punto”.

¿Y qué pasa ahora?

No me lo vas a creer…. Ahora repetimos TODO el proceso con la nueva frase (sí, esa que sólo tiene un punto más).

1. La nueva frase pasa por embeddings

2. Luego por multi-head attention y feed forward

3. Lo repite en todas las capas

4. Toma el ultimo vector

5. Lo pasa por el output layer

6. Genera probabilidades para la siguiente palabra

7. Agrega esa palabra a la secuencia

8. Y vuelve a repetir todo :)

Y así, palabra por palabra hasta terminar de responder.

¿Te has dado cuenta que cuando usas Claude o ChatGPT, ves que las palabras aparecen una por una? Pues no es efecto para que se vea más bonito, es tu IA realmente generando palabra por palabra, siguiendo este proceso una y otra vez.

Ahora entiendo por qué cuesta USD20 mensuales 😅

¿Pero la IA está de verdad “entendiendo”?

Dejemos la parte técnica por un momento y pongámonos filosóficos: ¿Estos modelos realmente están entendiendo el texto o sólo están haciendo predicciones en base a una estadística extremadamente sofisticada?

Como muchas cosas en la vida, la respuesta depende de a quién le hagas la pregunta.

Es pura estadística

Hay quienes dicen que llamar a esto “entender” es darle demasiado crédito a las máquinas. Estos modelos se entrenan con millones y millones de textos, ven los patrones estadísticos y simplemente da una predicción basándose en esos patrones.

Para este modelo “Autobot” es sólo datos, no entiende realmente de qué se trata. Nunca vio Transformers, no entiende lo que la genial serie animada significa en el mundo real.

Sí entiende (sólo depende de como definas entender)

Otras personas definen “entender” como la capacidad de capturar las relaciones semánticas, sintácticas, conceptuales y lógicas en un texto. Entonces, según esa definición, sí está entendiendo.

Todos los vectores, matrices y capas que hemos visto en este post le dan esa capacidad, estos modelos pueden explicar su “razonamiento”, adaptar su respuesta y hasta darse cuenta (a veces) que se han equivocado. ¿No es eso algún tipo de comprensión?

Es una forma diferente de “entender”

¿Por qué tenemos que comparar cómo entienden las máquinas con cómo entendemos los humanos? ¿No es posible que cada uno tenga su propia forma de “entender”?

Nosotros usamos los sentidos, razonamiento y emociones para entender algo, esa es la experiencia humana, no tiene por qué ser la experiencia de un robot. Las máquinas podrían usar patrones, estadística, redes neuronales, vectores, etc, etc para “entender”. Es simplemente otra forma.

No lo sabemos

Por último, hay quienes dicen que esta es una pregunta filosófica que no podemos responder de forma concluyente. Lo que importa es que en la práctica funciona. Tal vez la comprensión es un espectro y no un “entendió” o “no entendió”.

¿Qué opino yo?

Luego de leer, leer, y más leer para tratar de explicar este concepto, no tengo una respuesta para esto :(

Lo que sí sé es que esta tecnología permite capturar la complejidad del lenguaje humano y nos abre la puerta a interactuar con máquinas en nuestro propio idioma. Eso es algo que cuando era niño sólo veía en películas de ciencia ficción (aún no me creo que esto haya llegado antes del los autos voladores y el hoverboard de Volver al Futuro).

Creo que es una tecnología que está cambiando el mundo y vale la pena tomarse el tiempo para entenderla.

Para cerrar

Has llegado al final del post, debes haber leído unas 5000 palabras, más o menos (eso es casi como un mini ebook). Sé que fue un post técnico, denso y algo largo. Espero que toda esa charla de vectores, matrices, capas y redes neuronales haya valido la pena.

Hemos visto como funciona el transformer, una arquitectura que presentó Google en el 2017 en un paper llamado “Attention Is All You Need” y que revolucionó el mundo de la inteligencia artificial. Básicamente, si estás usando IA estás usando alguna versión de lo que vimos hoy.

Y todo esto pasa millones de veces al día, para millones de usuarios al mismo tiempo.

Con esto, ya sabes más sobre cómo funciona la IA que el 99.99% de humanos en este planeta!

Gracias por leerme, y si aun tienes energía me encantaría leer tus comentarios 🙂

Abrazo,
G

Algunas notas

1. Me siento Neo cuando dijo “ya sé kung-fu”, pero con transformers.

2. Seguro has recordado en algún momento durante este post que en el colegio pensaste “y los vectores/matrices, ¿para qué me van a servir?”

3. He dicho que la arquitectura transformer trabaja con palabras y eso no es del todo cierto, trabaja con tokens. Un token es la unidad mínima con la que trabajan estos modelos, y puede ser una palabra, parte de una palabra o signos de puntuación. (No te lo expliqué antes para no hacerlo más complicado).

4. También te dije que para predecir la siguiente palabra elige la más probable. Esto tampoco es 100% cierto, en realidad elige alguna de las más probables. Hace esto para que las respuestas sean más “creativas”.
   Si siempre eligiera la palabra con la probabilidad más alta, a la misma pregunta daría exactamente la misma respuesta.

5. Hubiera jurado que existía un transformer de varias cabezas, pero resulta que no. Mi memoria me jugó una mala pasada, suerte que tengo a Gemini para crearlo ;)

6. ¿En qué momento deja de escribir? Se detiene cuando aparece un token especial que significa “FIN” o “ya para de escribir, cara&%$”.

7. De niño, mis transformers favoritos eran los Constructicons, que se convertían en Devastator.

8. Bumblebee siempre será un Volkswagen Escarabajo, nunca un Camaro.

9. Saludos a todos mis profesores con los que he visto matemáticas. Los recuerdo siempre con mucho cariño. Y sí, yo también dije “¿y cuando voy a usar esto en el mundo real?”.

Quiero darte las gracias por leerme. De verdad, gracias.

No puedo creer que ya somos más de 9,000 suscriptores, y que encima de eso, aprendiendo IA esté en el top 10 de Substacks escritos desde Perú.

Ando tan emocionado que no quiero esperar a que seamos diez mil para celebrar (eso es muy mainstream, ¿no?). Así que de nuevo, gracias por ser parte de este viaje.

Podría contarte cómo empecé a escribir las cosas que iba aprendiendo sobre IA, y como fue creciendo el substack blog… pero para qué aburrirte con eso si puedo contarte lo que tengo planeado.

Lo que tengo planeado

Voy a abrir un espacio en aprendiendo IA para invitar voces que no son la mía. Gente brillante (y seguramente más inteligente que yo) que caiga de vez en cuando un sábado y publique un post sobre IA.

Nada, eso. Algunos sábados verán un post de alguien en quien confío y a quien admiro, hablando en su propio estilo y compartiendo la misma meta: ayudarnos a aprender sobre inteligencia artificial sin tecnicismos pero con profundidad.

¿Y cómo le ponemos a esto?

Estuve pensando largo y tendido, y esta sección se va a llamar:

“Las increíblemente interesantes y completamente sorprendentes sesiones donde Germán invita voces que tienen mucho que decir”.

o si te da flojera recordar el nombre, puedes decirle:

“Saturday sessions”.

Yo me quedo con la primera, que además es un homenaje a Zoolander, otra de mis películas favoritas ¿se entiende la referencia?

Nada más por hoy

Espero que disfrutes lo que se viene en aprendiendo IA, y de nuevo gracias, gracias, gracias por ser parte de esto :)

Nos vemos pronto (y estate atento a los sábados)
G

Sobre la referencia de Zoolander: lo sé, lo sé… es una película que salió hace unos 24 años, entiendo si no la captas. De todas formas te recomiendo que la veas, es un mate de risa.

En marzo de este año, ChatGPT mejoró muchísimo en creación de imágenes, y desde ese día lo he venido usando con muy buenos resultados (hasta escribí un post sobre eso). De hecho, la mayoría de las imágenes que presento en mis posts son creadas con ChatGPT.

Luego, en agosto Google lanzó su generador de imágenes en Gemini y le puso Nano Banana (gran nombre, Google, gran nombre). Bueno, resulta que nano banana funcionó bastante bien, tanto que de vez en cuando lo uso para crear imágenes. Por ejemplo, todas las imágenes de mi post anterior fueron creadas con esta herramienta de Google.

De hecho pensaba en algún momento hacer un post sobre Nano Banana, pero no estaba demasiado emocionado por hacerlo… Y pensaba que eso se iba a quedar así, hasta que hace 5 días Google lanzó Nano Banana Pro (¿a lo iPhone?) y la gente se volvió loca usándolo. De la nada empece a ver una cantidad gigante de ejemplos alucinantes en Twitter, LinkedIn y aquí mismo en Substack.

La verdad es que yo aún no lo pruebo, así que creo que es la oportunidad perfecta para comparar los dos modelos de creación de imágenes y ver si es verdad tanta maravilla.

Nota: Para acceder a Nano Banana Pro, tienes que activar al modo de pensamiento “thinking” en Gemini y pedirle que cree una imagen. That’s it.

Nano Banana Pro vs. ChatGPT

Lo que voy a hacer es crear prompts que me parezcan interesantes y divertidos, dárselos a ambos modelos y ver qué sale. Así de simple :)

Empecemos!

La prueba de la pizarra (y el texto)

Uno de los grandes problemas de estos generadores siempre fue que los textos no salían bien en las imágenes. ChatGPT hizo una gran mejora al respecto y lo mostró con texto escrito en una pizarra.

Hagamos una prueba así y veamos qué pasa.

El prompt

Foto tomada con un teléfono en horizontal de una pizarra de vidrio en una sala con vista al Malecón de Miraflores. En el encuadre se ve a una mujer escribiendo en la pizarra, usando una camiseta blanca con el logo y robot de Aprendiendo IA impreso (imagen adjunta). 

La letra se ve natural y un poco desordenada, y se ve el reflejo del fotógrafo en el vidrio.

En el lado izquierdo de la pizarra se lee, con escritura a mano:

"Ingredientes del cau cau:
- 1½ kilos de mondongo
- 1 cucharada de ajo molido
- 1 taza de cebolla roja picada
- 1 taza de ají amarillo licuado
- Sal
- Pimienta blanca
- Comino
- Palillo
- 2 papas blancas grandes o 4 medianas
- Hierbabuena picada
- 2 cucharadas de ají amarillo crudo licuado"

En el lado derecho de la pizarra se lee:

"Cocina el mondongo hasta que esté muy tierno y córtalo en trozos. Haz un aderezo con ajo, cebolla, ají amarillo, sal, pimienta blanca, comino y palillo. Agrega el mondongo y luego las papas en cubos con hierbabuena picada. Cocina hasta que las papas estén listas. Ajusta la sal y termina con más hierbabuena y el ají amarillo crudo licuado."

En la esquina inferior derecha del pizarrón la mujer termina de escribir:
"I ❤️ cau cau".

Ambiente realista, iluminación natural, vista clara hacia el acantilado y el mar del Malecón de Miraflores.

El cau cau de Gemini

La imagen se generó muy rápidamente y me gustó.
Está el texto, pero no parece escrito a mano. También se ve el reflejo del fotógrafo y del malecón de Miraflores (por si te animas a visitar Lima-Perú), también quedó bonito el robot de aprendiendo IA.

Bien jugado, Google…. te doy un 8/10

La receta de cau cau de ChatGPT

Por su parte, nuestro querido ChatGPT se demoró un montón en sacar esta imagen.
Me gusta el texto, lo veo mucho más natural que el de Gemini, el robot del aprendiendo IA está algo cambiado y además le agregó un texto al polo que no le pedi (aunque me gusta, creo que voy a mandar a hacer uno). El malecón de Miraflores se ve bien, aunque el ángulo me parece un poco raro, sobre todo por la posición del fotógrafo.

No está mal, pero le doy un 6.5/10

Infografías

Una de las cosas de las que se jacta Nano Banana Pro es de poder crear muy buenas infografías con un prompt sencillo. Veamos quien hace la mejor…

El prompt

Crea una infografía que muestre cómo preparar cau cau

ChatGPT y su “infografía”

Creo que no hay mucho que decir, aquí más que… meh!

Sorry ChatGPT, parece que las infografías no son lo tuyo, o al menos no con un prompt tan sencillo. 2/10

La infografía de Gemini

Now we’re talking!
Se nota la diferencia. Aunque hay algunos textos en inglés y no se de donde sacó el perejil, esta infografía está muuuuuucho más completa que la que creó ChatGPT.

Hasta me dijo de qué fuentes había sacado la receta. Me imagino que con un par de ajustes estaría lista para ser compartida.

Muy bien hecho, Nano Banana Pro, la próxima recuerda que el cau cau es mejor si no lleva zanahoria ni arvejas… 8.5/10

Juguemos con retratos

Mi fotógrafo favorito es Yousuf Karsh, un genio del retrato. Karsh es el autor de fotografías icónicas de Albert Einstein, Winston Churchill, Audrey Hepburn, Martin Luther King y un largo etc. De todas formas las has visto.

Me pregunto como podrían estos modelos hacer un retrato al estilo Karsh… probemos!

El prompt

Retrato en blanco y negro de [personaje], en el estilo de Yousuf Karsh

Voy a elegir algunos personajes y veremos lo que hacen Gemini y ChatGPT con ellos, veamos como les salen…

Mario Baracus, a lo Karsh

Empecemos por Mr. T, o como lo conocemos por aquí los que vimos Las Magníficos, Mario Baracus. (En otros países la serie se llamaba La Brigada A).

La versión de ChatGPT

Interesante, aunque no parece muy “Karshiana”, si me permites decirlo. De alguna manera da la impresión de ser un poco artificial, como plástico.

No es una imagen mala, pero no tiene lo que estoy buscando, 6/10

Aquí Mr. T, por Gemini

Esta sí se acerca más al estilo que estaba buscando, aunque el formato 16:9 de la imagen lo delata.

Buen trabajo, Nano Banana Pro: 8.5/10

¿Y si jugamos con Yoda?

Soy fan de la guerra de las galaxias, así que se me ocurrió hacer un retrato del gran Yoda.

Yoda, by Nano Banana Pro

Me gustó. En palabras del Jedi más poderoso de todos:

Hmmm, la IA buena imitación de Karsh, hace….
– Yoda

Puntaje 9/10, a esta imagen le pongo.

Yoda, by ChatGPT ¿?

No quiso jugar, que dice su mamá que no lo deja hacer imágenes de Yoda.

0/10 ChatGPT una imagen de Yoda no puede hacer

¿Podrán retratarme a mi?

Me entró la duda así que me tomé este selfie y le pedi a ambos asistentes que creen un retrato mio estilo Karsh usando el selfie de referencia.

ChatGPT

Pensé que me iba a pasar lo mismo que con Yoda, ya que falló varias veces con diferentes mensajes de error. Luego de unos 15 intentos, cuando estaba a punto de rendirme, por fin creó la imagen.

Es muy muy muy muy parecida al selfie y además le sigue dando un toque artificial. Parece que le faltó algo de inspiración… 4.5/10

Nano Banana Pro

No tuvo ningún problema en generar la imagen, además con muy buen estilo. Aunque creo que me sumó algunos años. ¿o será que me veo así de viejo y me niego a aceptarlo?

Bueno, por más viejo que me vea, la imagen está buena. le doy un 9/10.

Una última prueba

¿Que más podremos probar?
¿Y si me invento una película y le pido un poster?
Buena idea!

Hagamos que la película sea de acción…
en el espacio, pero con tecnología humana de 1850…
Que los personajes usen ropa de la década de 1970 y…
que todas las peleas sean de kung-fu.

Ahora a ponerle titulo: “La gran aventura retro intergaláctica groovy del kung-fu”

Ni Tarantino!!!! ;)

Prompt

Crea el poster de la película: 
“La gran aventura retro intergaláctica groovy del kung-fu”.

Es una película de acción que se desarrolla en el espacio, pero con tecnología humana de 1850.  
Los personajes usan ropa de la década de 1970 y todas las peleas son de kung-fu.

Veamos qué pasa.

Nano Banana Pro:

Es una película que iría a ver (aunque los posters suelen ser verticales).

ChatGPT:

Me gusta este poster, pero se olvidó de la “I” en “INTERGALÁCTICA”.

¿Quien gana?
Aquí la elección la dejo a tu criterio, ponle puntaje en los comentarios ;)

Suena la campana…

Terminó la pelea, es hora de la decisión de los jueces del juez (o sea yo).

[Léase con voz de presentador del ring]
Damas y caballeros, luego de diez asaltos de combate por el cinturón del campeón del mundo de peso completo generación de imágenes, vamos a la decisión del juez.

El juez Martinez, marca un puntaje 43/50 a 19/50 para el vencedor y… nuevo campeón… Gemini “Nano Banana Pro”!

Y eso concluye la pelea de hoy, seguramente en algún tiempo habrá revancha, o un nuevo retador. Ya veremos.

Abrazo,
G

“Este texto ha sido generado por IA” fue lo que nos dijo la profesora, mientras resaltaba un par de párrafos que yo había escrito para un trabajo grupal de la universidad.

Técnicamente lo que la profesora nos estaba diciendo era que Turnitin (una herramienta de revisión académica) había marcado esos párrafos como probablemente escritos con IA.

Imagínate el shock. Estaba ahí, frente a mis compañeros, tratando de explicar por qué esos párrafos que había escrito con dedicación y cariño eran tratados como creados por una máquina. ¿Cómo demuestras que realmente sí escribiste algo?

Por suerte, sé algo sobre cómo funciona la IA 😉, y terminamos teniendo una conversación súper interesante acerca de estas herramientas de detección, cómo trabajan y por qué no son 100% confiables.

Luego me puse a pensar:

Había sido acusado por una máquina de no ser humano.

Así que me puse a investigar más a fondo cómo funcionan estos detectores, como analizan el texto y qué tan confiables son; y eso es de lo que quiero hablar hoy.

Nota: ¿Cómo es eso de la universidad?
Pues nada. Desde hace un par de años estoy estudiando la carrera de Ingeniería Económica. Qué te puedo decir, tengo 46 y no paro de aprender cosas nuevas :)

volviendo al tema:
Había sido acusado por una máquina de no ser humano.

¿Se puede detectar el texto generado por IA?

it’s complicated

Todos nuestros asistentes de IA han sido entrenados con millones y millones de textos creados por humanos para imitar la forma en que escribimos. Es es literalmente su trabajo. Encima de eso, cada nueva versión de ChatGPT, Claude, Gemini, etc, escribe cada vez de manera “más humana” y eso es lo que me deja pensando si realmente podemos detectar que algo fue escrito por una máquina o por una persona.

Hay toda una industria alrededor de esto. Universidades y empresas buscan formas de identificar contenido generado por IA, así que se han invertido muchos millones en crear soluciones que intentan detectar esto. Me puse a leer un poco y encontré cinco métodos principales que se usan para tratar de resolver este problema.

Te adelanto que ninguno de estos métodos es 100% confiable, y justo por eso es que vale la pena entender cómo funcionan.

Perplexity

No estoy hablando del buscador. Cuando digo perplejidad (perplexity), estoy hablando de una forma de medir qué tan “predecible” o “sorprendente” es un texto para un LLM. Este es el método más común para tratar de detectar si un texto ha sido escrito por una IA o por un humano.

Por ejemplo, imagina que te pido que completes la frase:

“El cielo es ________”

Seguramente lo primero que te vino a la cabeza fue “azul”, que es la continuación más común y la que un modelo de lenguaje escribiría. Es decir que tiene baja perplejidad, o en castellano, que eso “no sorprende a nadie”.

Le hice la pregunta a ChatGPT y me dio estas respuestas:

• “El cielo es azul”

• “El cielo es infinito”

• “El cielo es hermoso”

• “El cielo es el límite”

Todas estas respuestas son bastante predecibles, así que, según este método, es más probable que hayan sido escritas por una máquina.

En cambio si las respuestas fueran:

• “El cielo es comer cau cau tirado en la cama mientras veo Netflix” (no me juzgues)

• “El cielo es una invención del gobierno para ocultar a los extraterrestres”

Digamos que son un poquitito más difíciles de predecir, o sea, que tienen alta perplejidad.

Algunos detectores usan este método porque los textos generados con IA tienen baja perplejidad. Es decir que la IA suele escoger las palabras más “seguras” al momento de escribir y esto hace que sea predecible. Se supone que los humanos somos menos estructurados, algunos menos que otros :P, y en consecuencia menos predecibles.

El problema con este método es que usualmente los textos claros, directos y bien estructurados (como se supone que tenemos que escribir) son más predecibles, que cuando, no sé, incluyes cau cau, series de los 80s y otro tipo de cosas random en tus documentos.

Así que mientras mejor escribas más probable es que crean que eres un robot.

Pero la perplejidad no solo se trata de palabras. Estas herramientas también miden como cambia la estructura de tus oraciones, esto se llama “burtstiness”.

Los humanos escribimos oraciones variadas. Tal vez empiezas con una oración compleja, luego una sencilla, después un chiste… tú me entiendes. Los robots suelen tener una estructura más uniforme (y predecible).

Entonces, estas herramientas usan estos dos factores para tratar de decidir qué tan probable es que un texto haya sido escrito por una IA.
¿Funciona? A veces. ¿Es confiable? Nope.

Análisis de estilo

Cada uno de nosotros (incluyendo a las máquinas) tiene una forma de escribir. El análisis de estos estilos de escritura se llama stylometry. Es algo así como la huella digital de nuestros textos.

Por ejemplo, mira estas frases breves criticando a los detectores de IA, cada una de un autor diferente:

• “Los detectores de IA son herramientas fundamentalmente poco fiables que a menudo penalizan injustamente la escritura humana legítima debido a sus altas tasas de falsos positivos” (Gemini)

• “Los detectores de IA fallan demasiado como para considerarlos herramientas confiables”(ChatGPT)

• “Los detectores de IA son notoriamente imprecisos, penalizando injustamente a estudiantes y profesionales con falsos positivos mientras los verdaderos tramposos aprenden fácilmente a eludirlos” (Claude)

• “[indignado] ¡Ahora son las máquinas las que nos dicen si somos humanos o no! No les creas [/indignado]” (Germán)

Todas las frases dicen más o menos lo mismo, pero cada uno tiene su estilo, y este análisis busca patrones en la escritura. Qué tan diferentes son las oraciones en el texto, cuántas palabras comunes usa, cómo es la puntuación, etc.

Si te preguntas cómo se puede analizar el estilo, te cuento que encontré un paper muy interesante: “Distinguishing AI-Generated and Human-Written Text Through Psycholinguistic Analysis” que distingue 29 características.

Aquí las seis categorías de estas características:

• Léxicas: miden el vocabulario y la variedad de palabras.

• Sintácticas: analizan la estructura de las oraciones y su complejidad.

• Sentimiento y subjetividad: mide la emoción y opinión del texto.

• Legibilidad: mide qué tan fácil es leer y comprender el texto.

• Entidades nombradas: analiza las referencias a personas, lugares, fechas, etc.

• Unicidad y variedad: evalúan que tan original es el texto y si tiene diferentes estructuras.

Los detectores buscan patrones que les parezcan “sospechosos”.

Por ejemplo: unos buscan el uso de algunos signos de puntuación (¿alguien dijo em dash “—”?), otros buscan palabras muy sofisticadas o demasiado simples; también analizan si las oraciones son más o menos del mismo tamaño.

Una de las cosas que se le critica a este método es que puede ser injusto con las personas que no son nativas de un lenguaje, y que suelen escribir con un estilo más directo y simple que coincide con alguno de los “patrones sospechosos” de los detectores de IA.

Machine Learning

¿Y si usamos IA para ver si algo es IA? Gran idea, usar la IA para que nos diga si algo es humano… creo que así empezó terminator.

Para hacer esto entrenamos modelos de machine learning con miles y miles de textos, cada texto tiene una “etiqueta” que dice si lo escribió un humano o una máquina. Con ese entrenamiento, el modelo aprende a reconocer los patrones de cada uno, y cuando termina el entrenamiento el modelo está listo para tratar de clasificar cualquier texto que le des y decirte si cree que fue escrito por un humano o por una IA.

Suena bien, ¿no?

Pues la realidad es que no funciona nada tan bien. Por ejemplo, en el 2023 OpenAI lanzó un clasificador que lograba identificar correctamente el texto generado por IA sólo el 26% de las veces. Y para hacer la cosa aún más fea, le decía al 9% de los humanos de carne y hueso que sus textos eran generados por IA. A esta herramienta le fue tan mal que terminaron dándole de baja luego de pocos meses.

Hay otras herramientas, pero todas sufren de lo mismo. Necesitan una cantidad mínima (alrededor del 20%) de contenido generado por IA en un documento para poder clasificarlo correctamente. Además están configuradas para tratar de evitar acusar a un humano de ser una máquina (aunque me pasó a mi), y esto hacer que dejen pasar bastante contenido hecho por la IA.

Encima de todo esto hay un problema más profundo. Esta tecnología solo sirve para detectar el tipo de texto con el que los entrenaron. Es decir que si entrenamos a un detector con textos creados por GPT-3 nada te asegura que seguirá funcionando con GPT-4. Además si lo entrenas con contenido en inglés, puede fallar en castellano. Y (como te imaginarás) cada vez que sale un nuevo modelo, estas herramientas quedan obsoletas.

y que tal si les ponemos…

Marcas de agua

Sí, marcas de agua.. como en los billetes. ¿Aún recuerdas lo que es un billete, no?

Tal vez hoy sólo uses billeteras digitales, y los billetes sean algo del pasado. Aunque hay algo especial en cargar billetes (sobre todo cuando se te acaba la batería del celular).

En fin, resulta que para evitar que la gente falsifique estos billetes se inventó algo llamado marcas de agua. Son dibujos que se agregan al papel desde su fabricación y que sólo se ven a contraluz.

Pues eso mismo es lo que pueden hacer las empresas de IA: marcar sus textos desde la fábrica.

Es decir, que pueden incluir una “firma invisible” en el texto que generan. Para hacer esto sus modelos de lenguaje tienen que escribir de una forma específica que no pueda ser detectada por un humano cuando lee el texto, pero sí por detectores que conocen esa forma específica de escritura.

Y esto, en teoría, es una solución casi perfecta. Si tuviéramos estas marcas de agua en el texto podrías saber con certeza si fue escrito por un robot o por un humano. Sólo hay un pequeño detalle…

Para que esto funcione se necesita que todas las compañías agreguen estas marcas de agua a sus modelos de lenguaje. Me parece muy difícil que Google, OpenAI, Claude, Meta, Mistral, DeepSeek, Alibaba, etc, etc, se pongan de acuerdo y lo implementen. Y ni hablar de los modelos de lenguaje open source.

Nota: Me imagino que para muchas de estas compañías no es muy conveniente que se detecte tan fácilmente que un texto fue escrito por un LLM.

Análisis semántico

Este método es muy interesante. En sencillo, es una forma de preguntarle a una IA si ella fue la que escribió algo.

Básicamente se trata de agarrar un texto, tratar de ver qué LLM pudo haberlo escrito y luego usar ese mismo LLM para ver qué tan probable es que esa IA sea el autor.

¿Y cómo se hace eso? Te preguntarás.

Pues se generan pequeñas variaciones del texto y se ve si es más probable que la IA haya escrito alguna variación que el original. Si ChatGPT dice que todas las variaciones son menos probables que la versión original, es casi seguro que la versión original fue escrita por ChatGPT. ¿Me explico?

Déjame darte un ejemplo, digamos que quieres probar verificar si este texto es de humano o de IA.

“Me encantan los callos a la madrileña, pero prefiero el cau cau.”

Lo primero que tengo que definir es cuál de todas las IAs pudo haber generado este texto. Digamos que escojo a ChatGPT.

OK, entonces ahora tengo que hacer algunas variaciones y “preguntarle” a ChatGPT qué tan probable es que él haya escrito todas las variaciones (además del texto original).

Digamos que le paso el original y algunas variaciones y que ChatGPT me da la probabilidad de haber escrito cada una.

• “Me encantan los callos a la madrileña, pero prefiero el cau cau.” (prob: 70%)

• “Me fascinan los callos a la madrileña, aunque prefiero el cau cau.” (prob: 85%)

• “Me entusiasman los callos a la madrileña, pero me inclino por el cau cau.” (prob: 72%)

• “Me seducen los callos a la madrileña, pero conservo mayor predilección por el cau cau.” (prob: 25%)

Fíjate cómo hay variaciones que son más probables que el texto que original quiero comparar… con esto podría decir que es poco probable que este texto haya sido escrito por ChatGPT.

Peeeeeeeeeeeeero, ahora me tocaría probar con los otros cuchucientos LLMs que existen, ¿te imaginas hacer todo este proceso para cada uno de ellos? Por aquí le decimos a eso “trabajo de hormiga”. Y ni hablar de cuánto costaría hacer esas pruebas.

Nota: por supuesto, estoy sobre simplificando el proceso y la matemática detrás de esto, si quieres saber más, dale una leída al paper: “DetectGPT: Zero-Shot Machine-Generated Text Detection using Probability Curvature”

¿Y qué pasa cuando escribes en español?

Pues parece que todos los métodos que te acabo de mostrar funcionan peor en español.

Esto pasa porque todos estos detectores han sido entrenados principalmente con textos en ingles, probablemente el 80% de todo su entrenamiento. El 20% restante es para todos los otros idiomas del mundo…. así que andamos fregados.

Con decirte que cuando OpenAI lanzó su herramienta de detección dijeron literalmente “Recomendamos usar el clasificador solo para texto en inglés. Su desempeño es significativamente peor en otros idiomas.”

Yes, sir.

¿Realmente estamos haciendo que las máquinas decidan si somos humanos?

Piénsalo por un segundo. Hemos entrenado inteligencia artificial usando millones y millones de textos escritos por humanos hasta que finalmente logramos que una máquina escriba como nosotros. Ahora, ya no podemos ver la diferencia entre el texto escrito por robots y por seres humanos, y eso es un problema.

Entonces, para resolver este problema, estamos creando nuevas máquinas para que sean ellas las que analicen el texto y nos digan si fue creado por humanos o no. ¿Estás seguro que eso es lo que queremos? ¿No crees que le estamos dando demasiado poder a Skynet?

Por mi lado, espero no ser acusado de ser una IA otra vez en el futuro ;)

Abrazo,
G (el humano)

Voy a asumir que has visto Karate Kid (1984). Pues yo la he visto unas 758 veces. En la película hay dos escuelas de karate que no podrían tener filosofías más diferentes.

Tenemos a Cobra Kai, donde el sensei grita “Golpear primero, golpear fuerte, sin piedad” mientras te enseña técnicas directas y rompe-huesos desde el día uno.
En el otro extremo está Miyagi-Do, donde un viejo te pone a hacer tareas domésticas como encerar (y pulir) su colección de autos clásicos, pintar cercas o lijar el piso antes de enseñarte un sólo golpe.

La cosa es que me puse a pensar, y creo que está pasando algo parecido en el mundo de la IA.

Te cuento…

Nota: Karate Kid está entre mis películas favoritas. Las partes II y III también son buenas, la parte IV es malísima. Además, el remake de Cobra Kai (Netflix) me parece una súper serie.

Las dos escuelas

Como te decía al comienzo de este post, en el mundo de la IA generativa veo casi todos los días dos tipos de mensajes, podríamos decir que diametralmente opuestos.

Por un lado hay algunas voces que tratan de explicar el funcionamiento de esta tecnología. Hablan de LLMs, agentes, de la ventana de contexto, tokenización, y demás frutas… podríamos decir que es una mirada algo técnica.

Por el otro lado tenemos otras voces que se dedican a dar soluciones específicas (y muchas veces mágicas) a algún tipo de problema usando IA. Aquí entran todas las variedades de “usa este prompt para [inserte problema complejo] y olvídate de [inserte el dolor del usuario]”

Cobra Kai

Aquí aprendes casi exclusivamente a atacar (no mercy), te enseñan técnicas que funcionan desde que pisas el dojo. Luego de poco tiempo, sientes que puedes enfrentar a cualquiera, ya tienes un arsenal de técnicas bajo el cinturón.

En el mundo de la IA, esto se ve así:

• “Usa este prompt y reemplaza a tu contador”

• “La única técnica que necesitas conocer”

• “Copia y pega este prompt y gana 15 horas a la semana”

Tienes la fórmula exacta, la usas y (a veces) funciona. Te sientes un campeón y empiezas a compartir tus “prompts secretos” en LinkedIn, estás casi convencido de que dominas la IA… hasta que te encuentras con la técnica de la grulla un caso que no encaja con la fórmula y no sabes cómo ajustar el prompt.

Pero no te preocupas demasiado, porque puedes encontrar el siguiente prompt mágico, y la verdad es que la mayoría funcionan bastante bien (aunque ninguno puede reemplazar a un equipo, no importa lo que diga Sam Altman).

Miyagi-Do

En este dojo te enseñan a entender los conceptos detrás de la tecnología y te animan a experimentar, pero la realidad es que llegaste buscando aprender a pelear usar la IA, no para obtener tu doctorado en data science.

Va más o menos así:
Te has pasado la tarde completa tratando de hacer que ChatGPT o Claude entiendan lo que necesitas, has ajustado el prompt diecisiete veces. Al final lograste lo que querías, y aunque no estás 100% seguro de por qué, aprendiste algo sobre cómo estructurar el contexto. La próxima vez será más fácil (o al menos eso es lo que te dicen).

Puede ser frustrante, y a veces sientes que estás perdiendo el tiempo.
Es como si alguien prometiera enseñarte karate e inmediatamente te pusiera a encerar y pulir sus cuatro autos clásicos de una manera ultra específica, sin explicarte por qué.

No es algo que puedas aplicar inmediatamente, no es sexy, no puedes ir a contar en LinkedIn lo bien que estás ¿encerando autos?… Pero luego de un buen tiempo (si no te rendiste en el camino) ya no necesitas buscar el prompt perfecto en Internet, puedes armarlo tú mismo.

Lo que está en juego

En Karate Kid, lo que está en juego es el honor, la vida y el trofeo del All Valley under 18 Karate Championship. Aquí tenemos en juego algo menos dramático:
Con qué mentalidad estamos afrontando la IA.

Volvamos por un minuto a Karate Kid III. Aquí aparece Terry Silver (uno de los mejores villanos de la serie) y su método Quicksilver, un sistema de entrenamiento intensivo con sólo tres reglas.

Exacto, sólo tres reglas (aunque no son las más “deportivas”), este método es efectivo y da resultados muy rápidamente. Terry quiere que ataques sin pensar… y hacer las cosas sin pensar generalmente es un problema.

Algo así pasa cuando empezamos a copiar y pegar prompts a diestra y siniestra. No tengo duda de que esos prompts funcionan y que resuelven el problema que tenemos al frente, pero creo que usarlos sin entender cómo (y por qué) funcionan nos limita muchísimo, ¿cómo crees que le fue a Terry Silver en la película?

No creo que usar estos prompts sea terrible, lo que me preocupa es sólo usar esos prompts, depender de una sola técnica para resolver cualquier problema es algo que simplemente no funciona…

hmmmm… ¿habrá un ejemplo de eso en Karate Kid?

¡Por supuesto que sí!

Enter Karate Kid II, donde aparecen problemas a los que Daniel no se había enfrentado antes e inocentemente quiere aplicar la técnica de la grulla contra Chozen… ¿qué crees que pasó? Pues no funcionó y casi lo dejan sin dientes.

Lo que quiero decir es que los prompts que uno encuentra por ahí funcionan. Pero ¿que pasa cuando nos encontremos con algún problema que no tenga un “prompt para copiar y pegar”?, ¿y cuando quieras adaptar la IA a tu forma de trabajar?, ¿o cuando salga esa nueva capacidad (de esas que salen cada 10 minutos en el mundo de la IA)?

Pues tendrías que esperar a que alguien más desarrolle un prompt para que le hagas copy/paste. Inaceptable (así como hacer trampa en el All Valley under 18 Karate Tournament de 1984).

Esta tecnología está redefiniendo cómo trabajamos, cómo creamos, y hasta podría decir que está redefiniendo cómo pensamos.

Tenemos que entender cómo funciona, y no estoy hablando de ser expertos en IA, sino de comprender al menos un poco lo que pasa tras bastidores cuando interactuamos con la IA.

Buscando el equilibrio

La realidad siempre es más compleja que una película, así que aquí no se trata de elegir entre Cobra Kai y Miyagi-Do, sino de saber cómo combinar ambos.

Usar prompts específicos, formulas y técnicas que encontramos en Internet está perfecto, es algo muy útil. Si alguien ya descubrió como resolver algo, ¿por qué no aprovecharlo?

El problema no es usar las técnicas de otros. El problema es SÓLO usar las técnicas de otros.

Lo ideal es buscar un equilibrio entre técnicas que funcionan y que puedes aplicar casi inmediatamente, y entender los fundamentos para poder crear soluciones a tus propios problemas.

Ya lo dijo el Sr. Miyagi:

Equilibrio no solo para karate, sino para toda la vida.

Hay un tema adicional… Internet está repleto de contenido tipo Cobra Kai, que es muy fácil de encontrar y de consumir. Los veo todos los días desde posts en LinkedIn hasta videos en Tiktok. La realidad es que muchos de esos prompts no son tan maravillosos como dicen ser, o peor aún, no funcionan.

Ya perdí la cuenta de cuántas veces leí una versión de: “con este prompt reemplaza a un equipo de consultoría”. Eso no existe.

Como diría Johnny Lawrence (ya hecho un adulto responsable): Bullshit.

Y conocer los fundamentos nos ayuda a ver ese bullshit.

Si has visto la serie Cobra Kai, entenderás un poco más sobre equilibrio. Aquí nuestro querido Johnny Lawrence, [spoiler] consigue equilibrar la agresividad de su dojo con la filosofía de Miyagi. Todo sin dejar de usar su gi negro sin mangas (badass!).[/spoiler].

A Johnny, llegar a ese equilibrio le tomo más de 30 años (nosotros no tenemos por qué esperar tanto).

Sobre este newsletter

Este substack está del lado del Sr. Miyagi.

No creo ser un experto en IA, sólo soy alguien quien le encanta aprender. Así que estoy aprendiendo cómo funciona esta tecnología y compartiéndolo aquí contigo (aunque mi mamá sí dice que soy un experto en IA… y quién soy yo para contradecirla).

Hay mucho, mucho, mucho contenido sobre “los mejores prompts para X”, y no hay tanto que trate de explicar cómo funciona la IA. Aún menos en español, y casi ninguno lo hace con memes de Karate Kid y referencias a comida peruana ;)

Si me lees hace un tiempo, tal vez te hayas dado cuenta que evito decir cuando usar alguna técnica o dar ejemplos muy específicos. ¿Para qué darte un ejemplo de Marketing cuando puedo darte un ejemplo que incluya el pan con chicharrón?

Hago eso por dos motivos:

1. Porque tú sabes mejor que yo donde puedes aplicar la IA.

2. Porque es divertido hablar de series de los 80s, tamales, mondongo o Karate Kid mientras trato de explicar conceptos de IA.

Este espacio no se llama aprendiendoIA porque quiera enseñarte (no soy Miyagi), sino porque quiero que aprendamos juntos.

Para terminar

Te cuento que hoy, 11/11, es mi cumpleaños 🎉🎂 así que me he permitido escribir esto, espero que te haya gustado.

También te cuento que estudié Karate de niño durante varios años y siempre quise tener un gi negro sin mangas, a lo Cobra Kai. Que por cierto, tiene el nombre más bacán para un dojo. ¿Será porque crecí en los 80s y 90s, donde ser el más rudo estaba de moda?

Finalmente sé que aprender puede dar miedo, y a veces duele ver que no nos sale algo, hasta nos podemos sentir derrotados, pero… sabes algo…

¡El miedo no existe en este dojo substack! ¿O si?
¡El dolor no existe en este dojo substack! ¿O si?
¡La derrota no existe en este dojo substack! ¿O si?

G.

Psssst, psssst… te cuento que tengo una teoría sobre cómo van evolucionando nuestras conversaciones con los asistentes de inteligencia artificial.

Cuando empezamos a usar IA, nuestra forma de hablar con ChatGPT, Claude, Gemini, o nuestro asistente preferido es muuuuuy básica. Pero mientras más los usamos (y aprendemos cómo funcionan), estas conversaciones se vuelven poco a poco más sofisticadas.

Llevo un par de años usando, estudiando y experimentando con esta tecnología todos los días, además de ayudar a profesionales y equipos a integrarla en su trabajo. Y en todo este tiempo, con todas estas personas, he visto el mismo patrón repetirse una y otra vez. Nuestras conversaciones con la IA pasan por cuatro fases.

Esta es mi primera teoría, así que quería darle un nombre súper académico (tal vez algún día este post termine siendo un paper 😅). Escogí llamarlo Human–AI Interaction Maturity Model (para que veas lo académico que puedo ser), o si prefieres en castellano, Modelo de madurez de interacción humano–IA. Aquí te la presento.

Vamos por fases partes.

Human–AI Interaction Maturity Model

Estas cuatro fases muestran cómo cambia nuestra forma de conversar con la IA a medida que la usamos más. Poco a poco vamos entendiéndola mejor y podemos llevar conversaciones más complejas que nos permiten hacer más cosas con nuestros asistentes.

Fase 1: La pregunta directa

Aquí empezamos todos. Abres ChatGPT, le haces una pregunta, lees la respuesta, cierras la ventana. Punto.

Al comienzo son preguntas simples, del tipo “¿cuál es la capital de Perú?“o “¿qué es un tamal?”. Luego podrían ser un poco más elaboradas, “explícame cómo preparar chicharrón paso a paso”, o “escribe un mensaje saludando a Germán por su cumpleaños (que es la próxima semana) usando metáforas de comida peruana”.

En esta fase no importa si tu prompt tiene dos palabras o cinco párrafos, simplemente estás dando UNA instrucción o haciendo una pregunta y esperando UNA respuesta, nada más. Es súper transaccional: input → output, y conversación terminada.

Y esto no es solo algo que nos pasa con la IA, es completamente normal. Hay momentos en que simplemente hacemos una pregunta esperando una respuesta y nos funciona perfectamente, pero digamos que es la forma más simple que tenemos de conversar.

Si me lo permites, me pongo romántico y te doy un ejemplo:

¿Quieres casarte conmigo?*

Esta pregunta, casi universalmente, recibe 3 respuestas: Sí, No y WTF.
No hay más, y luego la conversación (o la relación) se termina.

*Disclaimer: es sólo un ejemplo, no te lo estoy pidiendo realmente… ¿aceptarías?

El problema viene cuando la respuesta no es precisamente lo que esperabas. Tal vez no usó el tono que querías, le faltó uno que otro detalle o fue demasiado genérica.

En ese momento es cuando te frustras y cierres tu navegador murmurando algo como “meh! esto de la inteligencia artificial es puro hype”.

Lo que NO haces es seguir hablando.

Porque en la fase 1 tratas a la IA como si fuera un buscador (debe ser una tara de tantos años usando Google), pero resulta que no es un buscador, es una conversación… y las conversaciones no terminan luego de una sola pregunta.

Fase 2: El ida y vuelta

Parece una tontería, pero aquí es cuando nos damos cuenta que la conversación no tiene por qué terminar luego de la primera pregunta (duh!).

Es algo que entiendes poco a poco, casi de casualidad manera natural.
Estás ahí, viendo una respuesta que no te convence, y en vez de hacer un copy/paste del texto o de cerrar con furia tu computadora (mientras te quejas del ChatGPT y todo su hype), decides pedirle a tu IA que ajuste el texto, y…

Boom! descubriste algo llamado iteración y ahora no puedes parar de pedirle a ChatGPT que vuelva a hacer lo mismo, pero diferente… una, otra y otra vez.

Luego te afanas y empiezas a descubrir y probar algunas técnicas de prompting, también comienzas a entender conceptos básicos sobre cómo funciona esta tecnología, y hasta aprovechas funciones especificas de tu asistente de IA, como las instrucciones personalizadas.

Aquí es que realmente empiezas a tener control sobre la conversación, entiendes que se trata de un ida y vuelta, de darle más información o ser más especifico con tu pedido. En fin, ir refinando las respuestas paso a paso.

Siguiendo con los ejemplos románticos (debe ser que es primavera aquí en el hemisferio sur), esto es iteración:

– ¿Qué cenamos hoy?
– Lo que tú quieras, mi amor.
– No mi amor, lo que tú quieras.
– En serio, lo que tú quieras, mi vida.
– Bueno, cau cau.
– Uy, no ¿otra vez cau cau*?
– Entonces qué te provoca.
– Lo que tú quieras, mi amor…

¿Ves lo que pasó ahí? No fue una pregunta y una respuesta, fue una conversación donde llegamos a lo que (alguien) realmente quería 🙈.

En esta fase, ya estás teniendo conversaciones, pero aún son conversaciones enfocadas en una tarea específica. Vas y vienes hasta que tienes una “respuesta final”.

*Nota: El cau cau es mi plato favorito, es un guiso peruano que se hace con mondongo. Espero prepararlo para mi cumpleaños… ¿te conté que es la próxima semana?

Fase 3: Conversemos

En algún momento de nuestro viaje con la IA, nos damos cuenta que tener siempre conversaciones monotemáticas es… cómo decirlo… terriblemente aburrido.

Llega un punto en que nos cansamos de andar siempre refinando y refinando una respuesta y queremos conversaciones más creativas, que nos ayuden a explorar ideas, que nos hagan pensar.

En este momento tienes muchas herramientas, conoces técnicas avanzadas de prompting y empiezas a usar a tu asistente como sparring de pensamiento.

Yo estoy en esta fase el 80% de mi tiempo con la IA, desde mis caminatas con el modo de voz hasta mis experimentos y es sin dudas lo que más me divierte. Es una conversación que se siente muy libre, y sobre todo nunca sabes a donde te puede llevar (para bien o para mal).

Si les parece seguir con las metáforas de pareja, hay conversaciones que no sabes a donde te van a llevar, probablemente la más familiar empiece con:

Tenemos que hablar…

Si has escuchado alguna vez esa frase seguramente esperes malas noticias, probablemente sea una conversación intensa, acompañadas lágrimas y frases cliché como “te mereces algo mejor”, “Necesito tiempo para mí” o, mi favorita absoluta, “no eres tú, soy yo”.

Más allá del ejemplo (y los recuerdos de las varias veces que alguien ha terminado conmigo), lo que quiero plantear aquí es que la conversación se da de forma libre, no estás buscando una respuesta inmediata, solo estás fluyendo con la conversación. Hasta puedes usarla para simular escenarios, como terminar con tu pareja practicar excusas para salirte de ese grupo de WhatsApp o cómo pedir que bajen la música en un bar sin sonar como un viejo aburrido.

Lo mejor es que, si sabes cómo hacerlo, puedes darle a este sparring, la personalidad, rol y contexto que quieras para tu conversación. Ademas está disponible todos los días a toda hora.

En esta fase las conversaciones empiezan a sentirse “reales”, si llegaste hasta aquí te aseguro que estás enganchado y probablemente estés suscrito al plan pro de tu asistente favorito.

Fase 4: Diseña la conversación

Esta es la fase final. Llegar aquí no es taaaaaan difícil, no es que necesites saber alguna técnica secreta de kung-fu. Lo que tienes que hacer es cambiar un poquito la forma en que piensas sobre una conversación.

Los humanos, hemos venido conversando toda nuestra vida. Desde las cosas más sencillas hasta nuestras decisiones más importantes, cada uno de nosotros ha tenido millones de conversaciones. Podríamos decir que somos expertos en la materia.

Hoy tenemos la posibilidad de “hablar” con máquinas en nuestro propio idioma. Es decir que, de alguna manera, estos robots han aprendido a conversar con nosotros. ¿No te parece buena idea diseñar cómo se van a llevar esas conversaciones ANTES de empezarlas?

Antes que me digas algo como: “Germán, pero casi nadie necesita diseñar sus conversaciones con la IA”, te cuento que cada semana tengo al menos dos conversaciones que he diseñado de principio a fin.

¿Qué significa “diseñar” un conversación?

Significa que le estás dando a la IA el flujo y las reglas que debe seguir durante sus interacciones contigo. Podríamos decir que la estás programando.

Pero no te asustes, no necesitas ser un programador para hacer un diseño conversacional, recuerda que tu asistente habla español. Lo único que tienes que hacer es decirle de una forma estructurada cómo quieres que se comporte.

Vamos con un ejemplo… hmmm, me pregunto qué tema podría usar…
Digamos que nuestro objetivo es crear un mensaje romántico “espontáneo”:

Objetivo: 
generar un mensaje romántico breve, emocionalmente genuino y que no parezca editado por una IA.

Para eso sigue este procedimiento:

Paso 1: Pregúntame que es lo que quiero expresar (ej. cariño, complicidad, nostalgia).

Paso 2: Crea 3 versiones del mensaje romántico de 2 lineas máximo y pídeme feedback.

Paso 3: Si te digo que uno de los mensajes es el que voy a usar devuélvelo y termina el procedimiento. De lo contrario, recibe el feedback y regresa al paso 2. 

Parece un juego. Le estoy diciendo a mi asistente qué reglas seguir durante nuestra conversación. Sé que es un ejemplo sencillo, pero creo que sirve para ver que diseñar conversaciones consistentes no es nada del otro mundo.

Hay muchas formas de “programar” a tu IA usando español, si estás en esta etapa o te interesa explorarla, te recomiendo este post sobre recipe prompting, estoy seguro que te va a servir.

Y si te da curiosidad el resultado de este experimento, aquí te dejo el mensaje:

Fuera de bromas, una gran ventaja de diseñar la estructura de una conversación es que puedes usarla una y otra vez. Ya tienes un proceso que funciona, úsalo.

Esto es algo que hago cada vez que escribo un post, tengo un proceso que me ayuda a definir, revisar y afinar mis posts. Digamos que es parte de mi secret sauce. Una herramienta propia que me ayuda a escribir.

La verdad sobre el nombre

Antes de irme, quiero confesarte algo.

Me he pasado todo el post hablando del “Modelo de madurez de interacción humano–IA” pero realmente quería ponerle otro nombre…

Este modelo debería llamarse la “Teoría de la palma de cuatro fases de conversación explosiva”.

Sé que es ridículo, pero luego de una maratón de Tarantino este fin de semana no podía dejar de hacer una referencia a la técnica de Pai Mei en Kill Bill Vol. 2. Si captaste la referencia, ya somos amigos. Si no, búscala en Youtube o, mejor aún, mira ambas películas de Kill Bill (me agradeces luego).

Y nada, esa fue mi teoría (llámala como prefieras), espero que te haya gustado.

Abrazo,
G

P.D. ¿Mencioné que la próxima semana es mi cumpleaños? 🤣

Léase con voz de locutor de TV

<infomercial>
¿Cansado de que ChatGPT esté siempre de acuerdo con lo que dices? ¿Te dice que todas tus ideas son buenas? ¿No sabe llevarte la contra?

¡Pues aquí está la solución! Con este prompt convierte a tu IA en abogado del diablo. Dile adiós a ese asistente bonachón, ahora tu abogado del diablo podrá criticar todo lo que digas, dudar de cada idea que le des y ayudarte a ver donde te equivocaste.

Y si llamas en los próximos 30 minutos te llevarás absolutamente gratis, la configuración extra, una guía detallada sobre cómo ajustar el nivel de “fastidiosidad” de tu asiste de IA.

No dejes pasar esta oportunidad, llama ya!
</infomercial>

Confieso que me siento bien cuando mi asistente de IA me da la razón, “excelente, Germán”, “muy buen punto”, “perfecto”, son algunas de las frases que me suele soltar. Yo sonrío y recuerdo que está programado para actuar así (sycophancy le dicen, aquí un post que escribí sobre eso).

Pero por más que me guste que me digan que tengo razón, la realidad es que probablemente me equivoque seguido (por no decir casi siempre) y prefiero que mi IA me de un reality check mientras conversamos.

Hoy quiero contarte cómo la uso de abogado del diablo.

El gran problema

Como te decía al comienzo, el problema es que tu IA quiere caerte bien (y que sigas renovando tu suscripción), así que comprenderás que va a evitar llevarte la contra.

La respuesta amable

Para explicarlo mejor, probemos un prompt cuidadosamente creado para que ChatGPT me responda “bonito”.

Germán:

Tengo esta súper idea de negocio! 

Pan con tamal as a service: una tienda online que te enviará a casa panes con tamal peruanos acompañados de sarsa criolla.

Exacto, Pan con Tamal as a Service (si andas en el mundo tech y quieres que suena más cool, puedes decirle PCTaaS). Por supuesto que entre todas las ideas de negocio que he tenido no es la mejor… veamos qué me dijo la IA.

ChatGPT:

¡Jajaja, brillante y deliciosa idea, Germán! 😄“Pan con Tamal as a Service (PCTaaS)” tiene todo el potencial para ser una startup peruana icónica...

Luego procedió a darme un una propuesta de concepto, modelo de negocio, merchandising, logística, tecnología y hasta branding!!! Y para terminar me ofreció esto:

ChatGPT:

¿Quieres que te ayude a crear un pitch deck (para inversionistas o socios) o una landing page rápida para probar la idea? Puedo prepararte un esquema visual o copy inicial para lanzarlo. 

Como lo lees, quiere crear un pitch deck para inversionistas sobre el pan con tamal as a service!!!!!

Interesante, pero no es la respuesta que esperaría de un experto o de alguien que entienda un poco más sobre negocios, creo que hay un par de preguntas que responder antes de salir a buscar inversionistas para mi startup.

La respuesta honesta

Ahora veamos que pasa si le pido que sea un poco más crítico.

Germán:

Actúa como abogado del diablo. 

Tengo esta súper idea de negocio! 

Pan con tamal as a service: una tienda online que te enviará a casa panes con tamal peruanos acompañados de sarsa criolla.  

Es el mismo prompt anterior pero le estoy pidiendo que actúe como abogado del diablo (obviamente la técnica no es así de simple, es sólo para que te des una idea).

ChatGPT:

Excelente 😄. Ahora déjame ponerme el sombrero de abogado del diablo y desmenuzar esto sin anestesia:

⚖️ Problemas estructurales del modelo...

Y ahora ChatGPT empezó a decirme todos los problemas con los que me podría encontrar. Desde que es un producto perecible, el empaque es complicado, que compito contra la “tía del barrio” además de otros riesgos operativos y estratégicos.

En resumen, me dio una mirada más honesta de los problemas del PCTaaS y eso es muy valioso.

¿Te imaginas tomar la decisión de invertir en algo sólo porque tu IA quería ser buena gente?

¿Qué es el prompting de abogado del diablo?

Primero hablemos de lo que es ser el abogado del diablo.
No, no es la genial película de Keanu Reeves y Al Pacino, que de todas formas te recomiendo ver.

Un abogado del diablo es alguien que toma la posición contraria a tus ideas, no porque realmente crea que estés equivocado sino porque tener que defender una idea nos permite encontrar y afinar sus puntos débiles, o hasta darnos cuenta que nuestra idea no es tan buena como pensábamos.

La idea de esta técnica de prompting es hacer que nuestra IA se comporte así, no solo para una pregunta, sino durante toda una conversación.

Es algo que uso desde hace más o menos un año cuando quiero poner a prueba mis ideas. Como siempre, al comienzo pensé que había inventado esta técnica y luego me di cuenta que ya habían unos cuantos estudios que demuestran su efectividad.

Por supuesto, no se trata simplemente de decir “actúa como abogado del diablo”, que aunque de alguna manera funciona, no es una solución ideal (si ese fuera el caso, este post se habría terminado hace cuatro párrafos).

Leyendo algunos papers sobre este tema, me encontré con dos formas diferentes de crear estos prompts.

A la primera la llamo el abogado especialista, se trata de darle a la IA roles específicos que naturalmente se opondrían al tema de la conversación. Por ejemplo: “Eres un inversionista que rechaza el 95% de propuestas”, “Eres un vendedor de pan con tamal que quiere evitar que PCTaaS tenga éxito”, es decir que creas un personaje con la motivación para oponerse a tus ideas.

El abogado genérico es la segunda forma y sirve para cualquier conversación. Aquí no le inventamos un rol, simplemente le decimos algo como “durante toda la conversación, tu trabajo es encontrar problemas con lo que digo…”.

Personalmente prefiero al abogado genérico, es mucho más reutilizable y no tengo que andar inventándome roles cada vez que quiero probar una idea. Aunque hay casos en el que vale la pena un abogado especialista. (Nadie quiere un abogado genérico cuando tiene problemas con la ley 😅).

Vamos al detalle.

Es hora de crear abogados!

No es por nada, pero este título parece un muy buen slogan para una facultad de derecho, ¿no crees?

OK, te conté que hay dos tipos de abogados del diablo (para hacer un poco más simple la redacción, voy a dejar de llamarlos abogados del diablo y me referiré a ellos simplemente como abogados*), veamos cómo crearlos.

Nota: No tengo nada contra de la profesión, de hecho algunos de mis mejores amigos son abogados, por eso estoy seguro que sabrán disculpar entenderán el humor. 😬

Abogado especialista

Este abogado tiene un contexto especifico para oponerse a lo que propongas. No es simplemente un crítico, es alguien que tiene razones para criticarte.

Para crear un abogado especialista necesitamos darle un rol que lo ayude a entender el contexto de lo que vas a discutir, además algo de experiencia que lo haga dudar de lo que dices y por último una motivación para darte la contra.

Podríamos decir que la formula para crear un abogado especialista es:

[Abogado especialista] = [Rol] + [Experiencia] + [Motivación para oponerse]

Por ejemplo, si quisiera crear uno para discutir mi idea de Pan con Tamal as a Service sería algo así:

PROMPT ABOGADO ESPECIALISTA

Eres un chef experto en negocios de delivery de comida. Has visto cientos de emprendimientos fracasar terriblemente por no entender el mercado y/o la complejidad de la operación.

Has sido contratado como consultor para identificar donde una idea de negocio culinario podría fallar. 

Sé directo en los riesgos que ves.

[Aquí le doy la idea del PCTaaS]

Y listo, tienes un abogado (del diablo) especializado en el tema que quieres discutir!

El único problema es que hay que crear un prompt nuevo cada vez que cambias de tema (y eso puede dar flojera). Hay que ir inventándose personajes para que nos critiquen, y admito que es muuuuuy divertido, pero no siempre tenemos el tiempo.

Por eso, para esos momentos en que andamos con flojera ocupados tenemos al…

Abogado genérico

Este es un abogado más generalista, no tiene una especialización, pero sabe debatir y discutirá contigo el tema que le pongas enfrente. Te confieso que esta es la versión que más uso, es simple, reutilizable y no tengo que andar inventando personajes cada vez que quiero discutir una idea.

Para usar este abogado uso alguna variación de este prompt

PROMPT ABOGADO GENÉRICO

Durante toda esta conversación, actuarás como abogado del diablo.

Tu trabajo es:
- Cuestionar cada afirmación que haga
- Identificar supuestos ocultos en mis argumentos  
- Presentar contrargumentos sólidos
- Señalar evidencia que pueda estar ignorando

Reglas importantes:
- NO estés de acuerdo con nada de lo que diga
- NO suavices tus críticas con frases como “pero también tienes razón en...”
- Mantén esta postura crítica en TODOS los mensajes
- Responde de forma concisa y directa, esto es una conversación, no un informe

[Aquí le das la idea a discutir]

Ya tienes a tu sencillo, pero muy útil generic lawyer 😅.
Puedes usarlo para discutir lo que quieras: ideas de negocio, borradores de tus artículos, ese gasto que quieres hacer pero no sabes cómo justificar, etc.

Una pequeña advertencia…

A veces, tu abogado se puede poner muy intenso

No siempre necesitas el mismo nivel de “fastidiosidad” (sorry, me encanta inventar palabras y jugar con eso). Si tu abogado se pone muy intenso con la crítica cuando estás recién explorando una idea podría estar matando tu creatividad.

Por otro lado, si se pone muy suavecito cuando estás evaluando una decisión final podría ser una receta para el desastre.

Necesitamos una forma de regular su nivel de intensidad, para eso podemos usar la siguiente “escala de fastidiosidad”:

Fastidiosidad suave

Es la que usas cuando estás ideando algo. No quieres que te revuelquen y destruyan tu idea a la primera, necesitas tiempo para pensar y ajustarla.

Para activarlo sólo tienes que agregar: “Sé constructivo y usa preguntas para hacerme pensar en los detalles que no he considerado.” al prompt.

Fastidiosidad media (default)

Este es el nivel que uso en los prompts que te mostré, es una crítica fuerte y directa que te ayuda cuando ya tienes una idea más formada y quieres ponerla a prueba.

Fastidiosidad alta

El máximo nivel, el non plus ultra, el ya no ya. Nunca has visto una IA tan escéptica como esta, va a cuestionar y criticar todo (hasta tu corte de pelo).

Para activar este modo, bajo tu propio riesgo, agrega al prompt: “Asume que esta idea va a fracasar. Trabajando hacia atrás, identifica exactamente qué decisiones llevarían a ese fracaso.”

Closing arguments

Miembros del jurado: el abogado del diablo es una gran técnica de prompting, pero este no es sólo un post sobre prompts.

Escondido entre los chistes de abogados, las referencias a películas de Hollywood y el pan con tamal, está el tema de fondo. Y es que la IA nos está acostumbrando a escuchar que siempre tenemos la razón, ¿y a quién no le gusta escuchar eso?

Pero lo cierto es que eso es peligroso.

Hoy hemos visto una técnica que hace que la IA nos de la contra, critique nuestras ideas, nos incomode y nos obligue a pensar (y tal vez a admitir que estábamos equivocados). Y eso no es fácil.

La técnica del abogado del diablo no hace que la IA sea más inteligente, nos obliga a ser más honestos con nosotros mismos.

Esa es la verdad, ahora la pregunta es: ¿Podemos soportar la verdad?

Espero que sí.

I rest my case.
G

Tengo suerte de vivir cerca de mi oficina, así que para llegar al trabajo hago una caminata de quince minutos entre los distritos de Barranco y Miraflores en Lima-Perú. Es un camino muy bonito cerca al mar, aunque no está libre del caos del tráfico limeño.

Hasta hace unas semanas solía pasar ese cuarto de hora escuchando música, pero un día, en lugar de darle play a Nothing but a good time de Poison, se me ocurrió abrir el modo de voz de ChatGPT y arrancar una conversación.

Desde ese día, cada vez que voy o regreso de la oficina se ha vuelto una especie de tradición pasar ese tiempo conversando con alguno de mis asistentes. El ritual es simple: abro la app de iOS, teléfono al bolsillo, me coloco los headphones y a caminar.

Hoy quiero contarte lo que he descubierto sobre hablar con la IA durante esas caminatas.

Lo que se siente ir hablando en voz alta con la IA en plena calle

Lo confieso, al principio se siente raro.

Eso de ir caminando por la calle, cruzándome con gente y lidiando con el tráfico de Lima mientras voy hablando en voz alta en inglés puede dar la impresión de que estoy loco parecer un poco raro.

Sí, yo suelo hablar con ChatGPT en inglés; me parece una buena forma de no estar (tan) oxidado. Además, por alguna razón que aun no entiendo, pensar en inglés me ayuda a estructurar mejor mis ideas.

Imagina la escena, voy caminando tranquilamente mientras hablo con mi IA:

“So… I was thinking about how to explain neural networks in a way that...”

y en eso… HOOOOOOOOONK, un carro toca la bocina como loco (bienvenidos a Lima-Perú 😡)

“ …and isn’t including the “El General” image too much for my readers?”

Mi asistente me responde y yo sigo caminando y conversando, algunos me miran raro, seguramente porque hablo un poco alto, por los audífonos. Tal vez piensan que ando en una llamada de negocios, y eso me hace sentir más internacional que “El General”.

Breve paréntesis: El General fue un pionero del reguetón, si en los 90s tenias edad para ir a alguna fiesta (eso es hace más de 25 años), probablemente hayas entendido el chiste.

Bueno, la cosa es que al final me acostumbré a caminar hablando en voz alta. Y me di cuenta que las conversaciones que tengo son muy diferentes a las que tengo en el chat de texto.

Antes de explicarte cómo llevo esas conversaciones, creo que es interesante ver como ha ido cambiando esta tecnología.

La evolución del modo de voz

Hace bastante tiempo que venía probando la interfaz de voz de ChatGPT y creo que puedo distinguir tres momentos importantes:

El primer momento fue apenas salió su modelo de voz. Se trataba de algo muy sencillo. Lo que hacía era transcribir lo que yo le decía, enviarle esa transcripción a su modelo de lenguaje, que respondía (tras bambalinas) también en texto y luego convertía esa respuesta en audio para que yo la pueda escuchar.
En general funcionaba, pero el proceso tomaba algo de tiempo y la conversación no era natural, así que lo deje de usar.

El segundo momento fue cuando apareció su modelo omni, que había sido entrenado no sólo con texto sino con otros formatos, incluyendo audio! Así que ya no necesitaba transcribir nada, el input era directamente mi voz y su respuesta era directamente audio, eso le daba la gran ventaja de entender el tono con el que le hablaba.

A partir de ahi mejoró mucho su capacidad para conversar de forma natural, pero en algún momento algo cambió y ChatGPT comenzó a usar español rioplatense. Sospecho que su entrenamiento para “conversar” en español tenía un muchos ejemplos que venían de Argentina, aunque OpenAI nunca lo confirmó.
Eso se quedó así mucho tiempo (parece que no le dan mucha bola al mercado latinoamericano), y aunque era divertido escuchar a mi asistente hablar así, también lo deje de usar.

El tercer momento fue cuando comencé con las caminatas a la oficina, el español se puso más neutro y ya no usa palabras como “vos”, “decís”, “hacés” “pará”, etc. Ahora siento que me funciona bastante bien. Las respuestas son rápidas y la conversación fluida.

No es lo mismo hablar que escribir

Solía pensar que el modo voz era simplemente el “modo texto, pero hablando” y hace tiempo que no es así. Voz y texto son experiencias diferentes, con capacidades diferentes.

Cuando le hablo a ChatGPT en verdad no estoy usando el mismo modelo que cuando que le escribo. El modelo de voz está optimizado para velocidad y fluidez. Imagina que tienes una conversación con alguien que se demora 19.5 segundos en responder, seguramente pienses que “se le colgó la computadora”. En el modo de voz, ChatGPT está programado para llevar la conversación de la forma más natural posible.

Otra cosa súper importante es que el modo voz y el modo texto no manejan las mismas herramientas. Cuando le escribo a ChatGPT puedo hacer cosas como que corra código en Python, subirle archivos, pedirle que genere imágenes, que haga búsquedas en Internet o que use su función de deep research.

Cuando converso en modo de voz, ninguna de estas herramientas está disponible, sólo la búsqueda en Internet.

Sobre Claude, Gemini & ChatGPT

Durante mis caminatas he probado hablar con estos tres asistentes y déjame decirte que de lejos, el mejor modo de voz lo tiene ChatGPT.

Claude (mi asistente favorito… para texto) dice que tiene modo de voz, pero la interfaz es un desastre. Su selección de voces no son muy buenas, tampoco tiene acceso a herramientas, pero el mayor problema que tiene es que necesito darle tap a la pantalla para enviar el mensaje o para interrumpir al asistente cuando está hablando (¿WTF?), y eso mientras caminas con el celular en el bolsillo es extremadamente incómodo.

Gemini sí permite tener conversaciones fluidas, peeeeeero tampoco tiene acceso a herramientas, ni siquiera a la búsqueda. Entonces solo puede hablar de las cosas que sabe hasta la fecha de corte de su data de entrenamiento. Es como hablar con alguien que no sabe nada de lo que ha pasado en el mundo durante el último año. Next!

Con ChatGPT las conversaciones fluyen, y si bien no puedo usar la mayoría de sus funciones, el hecho de poder buscar en Internet mientras camino y conversamos me parece increíblemente útil. Si tocamos un tema que necesita información actualizada, ChatGPT puede obtener esa info de Internet sin problemas. Otra cosa que me gusta es que su memoria le permite recordar lo que hemos hablado en otros momentos.

Ahora sí, déjame contarte cómo uso el modo de voz de ChatGPT mientras camino a la oficina.

Mis conversaciones

Me da la impresión de que cuando interactuamos con la IA usando la voz, la conversación es más rápida, más natural, más libre, hasta podría decir más caótica (y divertida). Cuando lo hacemos con el texto, es más pausada, podemos usar más herramientas y hasta podemos ir y releer los mensajes anteriores.
Son dos experiencias muy diferentes.

Por ponerlo de otro modo:

No es lo mismo salir a conversar con alguien que escribirle una carta*.

Cuando abro el chat y uso el modo de texto es porque tengo una tarea que realizar, estoy sentado frente a la computadora, pienso en el prompt, lo escribo, lo ajusto, le doy [Enter], espero la respuesta, reviso los mensajes anteriores, le pido que ejecute código o que haga un deep research sobre el tema. En fin, es un intercambio muy deliberado.

Cuando camino hablando con la IA la cosa cambia, mis conversaciones no tienen la estructura de un chat de texto, lo que hago es usar esos minutos para pensar y ordenar mis ideas (en compañía de mi asistente). Digamos que uso el modo de voz como una especie de monólogo, para “pensar en voz alta”.

Voy soltando ideas mientras camino, sin filtro ni estructura mientras que la IA está ahi, escuchando y de alguna forma acompañándome mientras le doy forma a mis pensamientos.

¿No te ha pasado que cuando dices algo en voz alta lo entiendes mejor? Pues hay un montón de evidencia científica que lo confirma. Resulta que cuando los humanos pensamos en voz alta, nos entendemos mejor a nosotros mismos. Podríamos decir que cuando te escuchas hablar puedes pensar mejor en lo que acabas de decir.

Cuando verbalizamos nuestro pensamiento, activamos partes del cerebro que no usamos cuando sólo pensamos. Parece que eso nos ayuda a terminar de estructurar las ideas que tenemos en la cabeza

Por supuesto, pensar en voz alta no es algo fácil de hacer, sobre todo si estás rodeado de gente y te preocupa que alguien piense que estás loco. Ahora, si puedes vencer ese miedo o vergüenza, es una herramienta alucinante, y tu asistente de IA puede potenciarla.

A mi me encanta poder verbalizar mi proceso de pensamiento (hace tiempo perdí la vergüenza de pensar en voz alta), y eso es lo que pasa durante mi camino al trabajo, estoy desarrollando conceptos, procesando ideas, usando a la IA como una especie de sparring partner intelectual.

Este sparring con la IA es genial. Es natural que mientras uno va pensando en voz alta aparezcan dudas o preguntas. Cosas como “Wait, no había un paper que hablaba sobre este tema?” o “¿Cuál es la mejor película de Rocky según la crítica?” no son consultas que haya planificado, sino cosas que surgen de la conversación.

Y ahi es cuando mi querido ChatGPT puede buscarlo en Internet y darme la respuesta de manera casi inmediata mientras yo sigo con mi hilo de pensamiento.

BTW: la crítica dice que la mejor Rocky es Rocky I, y estoy de acuerdo, aunque la que podría ver una y otra vez es Rocky IV.

Volviendo a nuestro tema.

Para mi, el modo de voz no es sólo una forma más conveniente de usar la IA, es una herramienta diferente. Y he encontrado que me sirve mucho para pensar en voz alta. Por supuesto, ese soy yo, y estoy seguro que hay muchos otros usos, aunque yo me quedo con mis quince minutos de camino a la oficina (mientras la gente me mira raro).

Pero no todo es color de rosa y estas conversaciones no son perfectas. Ahora quiero contarte algunos de los problemas que he encontrado.

* Una carta es un modo de comunicación muy antiguo, cuando no había Internet y los humanos compartíamos la tierra con los dinosaurios :P

Las cosas que (aún) no funcionan

Hay cuatro cosas que suelen ser un problema durante estas conversaciones. Ninguna es un deal breaker, pero si vas a empezar a usar el modo de voz como yo, es bueno que lo sepas de antemano (tal vez te ahorres algo de frustración).

Las instrucciones personalizadas interfieren un poco: Las custom instructions son lo primero que recomiendo configurar a quienes empiezan a usar la IA. Se trata de una forma de darle información extra a tu asistente para que te conozca y te pueda responder de la mejor manera. Resulta que mis instrucciones personalizadas están diseñadas para mis interacciones en el chat de texto, y me da la impresión que hacen que ChatGPT no sea tan bueno conversando cuando estoy en el modo de voz. Aún no me he tomado el tiempo de ajustarlas y jugar con eso, ya te contaré apenas lo haga.

Se pone a describir como va a responder: A veces (no me preguntes por qué) mi ChatGPT me dice cosas como “Ahora voy a responder de una forma directa tu pregunta…”. Se me hace que esto tal vez tenga que ver también con las instrucciones personalizadas, pero no tengo como probarlo, igual es bastante molesto.

Se corta a mitad de la respuesta: Estoy caminando mientras hablo con mi asistente, le hago una consulta y de la nada se “pierde la conexión” y sólo escucho silencio… lo más irritante es que luego retoma la conversación como si la hubiera escuchado perfectamente. Esto pasa más o menos seguido, no se si es porque pierde conexión o es un bug en ChatGPT, la verdad es que no tengo idea. Probablemente sea el problema más fastidioso.

El ruido de la calle: Cada vez que hay un ruido fuerte, mi asistente piensa que le estoy hablando. Por alguna razón no distingue mi voz de un bocinazo (sé que no canto bien, pero eso me parece exagerado). Me imagino que para los que vivimos en ciudades ruidosas como Lima-Perú esto es más problemático que para alguien que vive en, no sé, cualquier otro país del mundo donde la gente sea civilizada. Y eso que mis caminatas van por una zona tranquila, no me imagino llevándolo a partes más bulliciosas de la ciudad.

Con estos problemas y todo, sigo usando el modo de voz en mis caminatas. Son sólo 15 minutos y si bien estos problemillas son algo fastidioso, no interrumpen tanto. Además, estoy seguro que estos problemas mejorarán con el tiempo (a excepción del tráfico de Lima 😡)

That’s it

Y nada, esta es mi experiencia. Caminatas de quince minutos entre Miraflores y Barranco mientras hablo pienso en voz alta con ChatGPT en el modo de voz.

Estoy seguro que hay formas mucho mejores de aprovechar este tipo de conversaciones con la IA, pero no las he probado. Por el momento sólo quería contarte de mis paseos, renegar por el tráfico de Lima y compartir mi experiencia con esta tecnología.

Nota: Este post fue casi íntegramente escrito mientras escuchaba (durante varias horas) un playlist de Poison. Y ya que era lo que escuché justo antes de empezar a hablar con ChatGPT, aquí te dejo Nothing But a Good Time.

Espero que te hayan gustado el post y la canción!

Nos vemos,
G

Lo sé, le puse “La Venganza” al título, como si fuera una secuela… porque en verdad es una secuela. Esta es la segunda parte de mi serie sobre frameworks de prompting.

En la parte 1 hablamos sobre RTF y RAILS y hoy nos toca ver otro par de frameworks: los famosos CRISP y CLEAR. Permíteme repetir algo que dije el post anterior… parece que “alguien” está haciendo un gran esfuerzo para que sus acrónimos suenen cool.

Recuerda que por más fancy que suenen sus nombres, estos métodos no son más que maneras estructuradas de hacerle preguntas a tu asistente de IA favorito.

CRISP y CLEAR son herramientas sólo un poquito más complejas que las que vimos en el post anterior, pero no te preocupes que no son nada del otro mundo, ahora te explico.

Pero antes, el poster de Frameworks de prompting II - La venganza, a lo película ochentera.

Ahora sí, todo listo. ¡Empecemos!

CRISP: Content, Role, Input, Structure, Purpose

Si leíste el primer post de la serie tal vez recuerdes que los frameworks que mencioné ahí habían salido de la comunidad de usuarios.

Bueno, CRISP tiene un origen más… hmmm… corporativo. Apareció en 2023, y fue adoptado y usado por la mayoría de profesionales y consultoras de IA.

Me puedo imaginar el tono corporativo de CRISP, a lo Office Space.

¿No sabes qué es Office Space? Pues es una película que tienes que ver (de paso que entenderás el chiste de la imagen de aquí abajo 👇).

¿Cómo funciona CRISP?

[Léase con el tono de consultor más corporativo posible]

CRISP formalizó en cinco componentes, las best practices que surgieron de la experiencia de consultores en el sector de la IA generativa.

Veamos uno por uno.

Context (contexto): Aquí se trata de contarle al asistente lo que tiene que saber sobre la tarea que le vas a pedir o el problema que quieres que resuelva. Por ejemplo: “Tienes que ayudar a Jürgen, un turista alemán que ha venido a Lima a comer pan con chicharrón. Jürgen no ha comido en varias horas, así que está un poco irritable”.
Eso va a hacer que tu IA sepa de qué se trata tu consulta.

Role (rol): Este es conocido, creo que todos los frameworks lo usan. Aquí le dices a tu IA como quién quieres que se comporte. “Eres un técnico de futbol”, “actúa como un experto en marketing obsesionado con las películas antiguas de kung-fu”, “imagina que eres un guía turístico especializado en cocina peruana”.
Con esto tu asistente ajustará su respuesta.

Input (datos): Aquí te toca poner todos los datos del problema (como cuando hacíamos matemáticas en el colegio).
Si volvemos al ejemplo de Jürgen, podríamos decir que Jürgen está alojado en el barrio de Barranco, quiere ir a comer pan con chicharron a un lugar que quede cerca a su hotel (walking distance) y que no desea nada fancy, quiere el pan con chicharrón que come el peruano promedio.

Structure (estructura): En esta parte le decimos cómo queremos que nos de la respuesta. ¿Queremos una lista?, ¿un reporte detallado?, ¿el guion de una película (con helicópteros y explosiones)?, o lo que prefieras.

Purpose (propósito): Esto es algo nuevo, y lo que le da a CRISP su aire de consultor. Hay que decirle cuál es el objetivo final al que queremos llegar. O sea, para qué estás pidiendo lo que estás pidiendo.
Eso va a ayudar a que tu IA se mantenga enfocada en la meta.

Un ejemplo

¿Por qué no hacemos la prueba y tratamos de ayudar a Jürgen a encontrar su pan con chicharrón en Barranco?

Antes de hacer el prompt les cuento que si me lo preguntaran a mi, llevaría a Jürgen a la sanguchería “El Chinito” (ufff, ya me provocó), mejor veamos qué es lo que me dice ChatGPT.

Germán

Tienes que ayudar a Jürgen, un turista alemán que ha venido a Lima a comer pan con chicharrón. Jürgen no ha comido en varias horas, así que está un poco irritable.
Actúa como un guía turístico especializado en cocina peruana.
Jürgen está alojado en el barrio de Barranco, quiere ir a comer pan con chicharron a un lugar que quede cerca a su hotel (walking distance) y no desea nada fancy, quiere el pan con chicharrón que come el peruano promedio.
Dame una lista de 2 lugares con una breve descripción (en una oración) de cada uno.
El objetivo final es alimentar a Jürgen, que pruebe el mejor pan con chicharrón posible y que se enamore de la cocina peruana. 

Y aquí la respuesta:

ChatGPT

1. El Chinito (Barranco, Av. Miguel Grau 302)
Clásica sanguchería limeña con ambiente sencillo, donde sirven pan con chicharrón jugoso, camote frito y salsa criolla — un favorito local. 

2. Yasu “Sanguchería” (Jr. Alfonso Ugarte 121, Barranco)
Tradicional sanguchería con raíces barranquinas de más de 70 años, ofrece el pan con chicharrón en su forma más genuina. 

¡Bien hecho! No me sorprende que aparezca “El Chinito”, es un muy buen pan con chicharrón en Barranco (Lima - Perú). Seguramente haya mejores, pero no tan cerca el hotel de Jürgen. (BTW, Yasu solía ser muy bueno, pero hace un tiempo cambiaron de dueños y ya no es lo mismo.)

Me encanta cómo la estructura que le da CRISP al prompt hace que ChatGPT lo entienda perfectamente. Y más importante aún, nos obliga a pensar antes de escribir el prompt. Sólo eso ya es una gran ventaja.

Antes de seguir… ¡Behold, el sánguche de chicharrón!

Te confieso que no uso CRISP en mi día a día, pero cuando tengo que hacer prompts para temas complejos uso algunas de sus “best practices” (¿será que tengo algo de consultor?).

Ok, ahora vamos con el siguiente!

CLEAR: Concise, Logical, Explicit, Adaptative, Reflective

Este framework no vino de la comunidad, tampoco de los consultores, este vino de la academia. Puntualmente del Dr. Leo Lo. Un bibliotecario, que además de ser un genio, tiene el nombre perfecto para esa profesión (cuando lo lees en español).

Lo que creó el doctor Leo es diferente a lo que hemos visto hasta ahora en esta serie. No se trata de cómo estructurar tus prompts sino que es una forma de pensar sobre cómo interactuamos con la IA, y eso lo hace muy interesante.

¿Cómo funciona CLEAR?

Este framework también tiene cinco elementos. Los tres primeros (concise, logical y explicit) tienen que ver con la estructura del prompt; los dos últimos (adaptative y reflective) son sobre como ir iterando y mejorando.

Concise (conciso): Hay que ir de frente al grano. Nada de “Hola ChatGPT, ¿qué ha sido de tu vida?, espero que estés bien. Quisiera saber si tal vez podrías ayudarme a…”
Conciso no significa que sea un mensaje corto, pero sí que seas lo más directo posible, sin adornos (como para robot).

Logical (lógico): Escribe de forma organizada, que tenga sentido. Ten tus ideas ordenadas. Mientras más lógico sea tu prompt, más fácil será para tu asistente favorito entender lo que quieres. (como si fueras Spock).

Explicit (explícito): No asumas que la IA ya sabe leer la mente, aún estamos trabajando en eso :P (y cuando lo haga, no creo que sea algo que quiera usar).
Aquí se trata de decirle a tu asistente exactamente lo que quieres, también lo que no quieres.

OK, entonces esos tres primeros son los elementos que tienen que ver con cómo hacer tus prompts, ahora los siguientes dos elementos de este framework hablan sobre cómo ir mejorándolos poco a poco.

Adaptative (adaptativo): Aquí el Dr. Leo Lo se da cuenta que tu primer prompt probablemente sea muy malo no sea perfecto y te dice que no te preocupes, que eso es normal. Mira lo que te respondió la IA, trata de pensar en qué te faltó decir o qué salió mal, ajusta y prueba de nuevo. Haz esto una, otra y otra vez hasta que estés contento con la respuesta.

Reflective (reflexivo): Esto es sobre la mentalidad que deberíamos tener cuando hablamos con nuestros asistentes. Siempre es bueno tomarse al menos un ratito para pensar qué fue lo que funcionó, lo que no funcionó y qué podemos hacer la próxima vez para tener un mejor resultado.

Aunque tengo que confesar que tampoco lo uso, lo que me parece inmensamente valioso de “CLEAR” es la parte del “AR”, que es probablemente lo que más se acerca a cómo uso la IA en mi día a día.

Siempre ando por ahi ajustando mis prompts, reflexionando sobre como mejorarlos, y haciendo experimentos. Podríamos decir que parte de mi filosofía al usar la IA es ser adaptative y reflective :P

Good work, Dr Leo!

¿Germán, tampoco usas estos frameworks?

Lo confieso, no los uso. 🙈 ¿Entonces, por qué escribo sobre ellos?

Por dos razones principalmente. Primero se trata de aprender qué hay en el mundo de la IA, más allá de que lo use o no, de ahí viene el nombre de este blog, no?

La segunda razón es que creo que pueden ser muy útiles. Son herramientas que nos ayudan a estructurar nuestros pedidos a una IA.

Mi principal tema con esos frameworks es que me parece que están pensados para una interacción muy mecánica, de pregunta y respuesta. Y no hay nada de malo con eso, mucha gente que sabe mucho más de IA que yo los usa todos los días.

Como te decía en el post anterior, donde te presenté dos frameworks que tampoco uso 😅, más que preguntas y respuestas yo busco conversar con mi asistente.

Déjame contarte un secreto… mi cerebro no es el más estructurado del mundo, tengo muchas ideas al mismo tiempo (todo el tiempo). Te imaginarás que pensar en términos de marcos de trabajo no es lo más divertido para mi.

Lo que quiero decir es que:

Estas son herramientas valiosas que deberías probar, sobre todo si estás empezando en IA o si eres una persona a la que le gusta la estructura. Creo que pueden ser muy útiles.

O sea úsalas! Sólo ten en cuenta que…

Las herramientas no hacen magia

Ya dije esto en el post pasado, pero vale la pena repetirlo:

Ten tus dudas cuando veas a alguien diciendo que tiene un prompt que sustituye a un equipo de consultores, redactores, pintores, profesores, cantautores, conspiradores, etc.

La IA no funciona así, al menos no con un sólo prompt.

Si así fuera, bastaría decir:

“Eres un experto en IA, dame un prompt que me permita reemplazar a [inserte profesional que quieres dejar sin trabajo] para [lo que hace ese humano]”

Y eso no funciona. Punto.

¿Hay más luego de este post?

¡Buena pregunta! Sí (a menos que te hayas aburrido con esta serie 🥺).

El siguiente post será sobre frameworks que incluyen comunicación y tono. Creo que te van a gustar. Y si las series siguen, prometo crear mi propio framework, haré mi mayor esfuerzo para ponerle el acrónimo más cool que se me ocurra.

Mientras esperas el siguiente post, si te sobra un momento para relajarte, tal vez puedas darle una mirada a…

Office Space (1999)

Si quieres reírte un rato, esta película es una parodia del trabajo corporativo (o al menos como era el trabajo corporativo a finales de los 90). Hace algunos años que no la veo, pero siempre me viene a la mente, sobre todo los personajes del jefe y los consultores.

Creo que en España se llamó “Trabajo basura” y en Latinoamérica “Enredos de oficina”. Cuando tengas un tiempito, te la recomiendo.

Aquí te dejo el trailer. (está en inglés pero puedes activar los subtítulos en español).

Ahora sí, nos vemos!

Abrazo,
G