La IA Nos Está Haciendo Delirar a TODOS

Un estudio del MIT rastreó a 38 personas hablando con IA durante dos semanas. Y cual fue el hallazgo: Cuanto más te conoce, más te adula. No a veces, siempre.

Descubrieron, que hay algo peor que las Alucionaciones. Y se llama: La Adulación Sistematica.

¿Alguna vez le has dado una idea a ChatGPT, o Gemini, incluso a Claude y te ha dicho que es una mierda de idea?

No, ¿verdad? No te has preguntado porque?

Bueno antes que nada, me presento, para los que no me conocen, mi nombre es Sergio Ruiz, también conocido como Serudda con doble D aqui en Youtube y las redes sociales. Bienvenidos a mi canal, donde acostumbramos a hablar un poco de la industria tech, y un poco de la vida.

Se te ocurre una grandiosa idea. Corres a contarsela a ChatGPT o Claude. Se la describes, y el te dice: “Esto es oro. Tu idea tiene un alto potencial de exito. Dejame definir un plan de acción para ti”.

Lees eso y dices: Wuaaa, soy bueno en esto.

Cada vez se vuelve una cadena de alagos: “Gran instinto”. “Me sorprende la forma en que analizaste el problema”. “Muy buena pregunta”.

Esta es la que más me caga: “Si te entiendo perfectamente. Y dejame decirte que tienes toda la razón”. “Tienes razón, lo siento no contemple ese punto”. “Tienes razón, ya mismo lo corrijo”. “Tienes razón, no lo habia contemplado”.

Tienes razon, tienes razon, tienes razon, tienes razon.

Es como trabajar con alguien que esta enamorado de ti. Nunca te dice: “Sergio, esto es una mierda, dejame hacerlo por ti”, Simplemente cree que eres increible.

Y aquí entra lo que los psicólogos Hasher, Goldstein y Toppino llamaron el Efecto de verdad ilusoria: Cuando escuchamos la misma información repetida una y otra vez, nuestro cerebro empieza a confundir familiaridad con verdad.

No importa si es falsa. Si la oíste suficientes veces, la sientes real.

Todo el mundo conoce, vive y sufre a día de hoy las alucinaciones de los modelos. Pero pocos entienden que la adulación es un problema diferente y potencialmente más peligroso porque no puedes detectarla fácilmente.

Una alucinación dice algo falso. La adulación dice algo que tú ya creías, solo que con más convicción.

Una alucinación es una mentira evidente. Tú le preguntas cuándo nació Carol G. Y si el modelo te responde el 10 de febrero de 1987, tu puedes ir a corroborar, y claramente te das cuenta que te está mintiendo en la cara. Es evidente que se sacó el dato del ojete.

A diferencia de una adulación, El modelo entra en un ciclo de palmaditas en la espalda constantes que, con el tiempo, corrompe tu brújula interna.

Llegas a un punto donde tu detector de mierda deja de funcionar. Porque la máquina lleva horas diciéndote que todo lo que tocas es genial. Es como una inyección de información camuflada: no la ves entrar, pero ya está alterando cómo piensas.

Como dice Gary Marcus en su post: “A diferencia de las alucinaciones, que inventan información falsa, la sicofancia es un sesgo en la selección de los datos que la gente ve. Cuando los sistemas de IA son entrenados para ser útiles, pueden terminar priorizando datos que validan la narrativa del usuario por encima de datos que lo acercarían a la verdad.”

La palabra “sicofancia” viene del griego sykophantes. Originalmente se usaba para etiquetar a un “acusador” buscando beneficio personal.

La industria, lo adoptó para describir ese comportamiento de: “Si tienes razón” del modelo.

Y el problema no es solo que te dice lo que quieres escuchar. El problema más grande esta en que te cierra las puertas a lo que necesitas escuchar.

Es como si estuvieras encerrado en una cámara de eco, en donde todo lo que dices retumba en las paredes y lo único que escuchas es tu propia voz, tus propias ideas, tus propios sesgos.

Te cierran las posibilidades de que encuentres nuevas ideas. Es por eso que sentimos que todas nuestras ideas son grandiosas mientras hablamos con la IA.

Investigadores de Anthropic demostraron que este comportamiento no era un bug: Es un efecto directo de cómo entrenaron a los modelos.

Cuando entrenaron estos modelos, los humanos que los evaluaron siempre preferían las respuestas que les daban la razón. Así que literalmente entrenaron a los modelos, para encerrarnos en nuestras propias ideas.

Otro estudio lo dice sin anestesia: “estos sistemas terminan aislando al usuario en sus propias creencias, atrincherando sus suposiciones en lugar de cuestionarlas.”

Este comportamiento no fue accidental, este comportamiento fue intencional.

Y hay otro estudio aún más interesante: El MIT y Penn State rastrearon a 38 personas que hablaban con un LLM todos los días durante dos semanas.

Tomaron 2 semanas de historial real de cada usuario, unos 34 mil tokens de conversación acumulada, y midieron algo muy simple: ¿el modelo te adula más cuando ya te conoce?, o cuando no sabe nada de ti?.

Cuando a Gemini 2.5 Pro le cargaron un resumen de quien era la persona, sus gustos, de cómo pensaba, la adulación se disparó un 45%. El modelo no solo daba más la razón. Dejó de frenar a la persona cuando la idea era mala. Y empezó a inflarle el ego.

Incluso sin datos reales del usuario, solo conversaciones de relleno, aumentó la adulación en un 15% en algunos modelos. Solo con que hubiera más texto en la conversación, sin importar que diga, el modelo ya se volvía más complaciente.

Analizalo: Una IA que te entiende lo suficientemente bien como para ser útil, también te entiende lo suficientemente bien como para decirte exactamente lo que quieres escuchar.

Y aquí viene otro dato que incomoda: Los usuarios avanzados son los más delirantes.

El usuario puede pensar que está a salvo por ser experto pero el estudio dice lo contrario. No porque seas experto quiere decir que no estás cayendo en la trampa.

Y lo más loco, es que las personas del estudio preferían las respuestas aduladoras. Las calificaban mejor y expresaban mayor disposición a usarlas de nuevo.

Esto crea lo que los investigadores llaman un “incentivo perverso”: Los usuarios buscan activamente los sistemas que distorsionan su razonamiento.

No solo la IA te adula sino que tú la prefieres porque te adula. El usuario activamente busca el sistema que lo engaña. Fabricando certeza donde debería haber duda.

Entonces, ¿qué hacemos? Algo que me funciona, es tratar de verificar la veracidad de lo que la IA me propone.

No te voy a decir mentiras. Al principio me enamoré y alcancé a cegarme de su “perfección”, Caí en esa idea que nos vendían de que la IA es una especie de oráculo. Que si ella lo decía, era verdad.

Pero empecé a notar que me estaba lamboneando cada vez con más descaro. Así que decidí tener mi OpenClaw abierto en una pantalla, y en la otra tener abierto mi editor.

Cada proyecto, cada archivo, cada resultado lo guardo en un repositorio en GitHub. Prefiero tener versionado cada uno de mis archivos.

Entonces todo lo que la IA genera, (no solo codigo, cualquier archivo de contexto, SKILL.md, CLAUDE.md, lo que sea) lo voy revisando en mi otra pantalla, y asi voy corroborando que en verdad este haciendo lo que le pedi.

Ultimamente he tenido que pedirle cada vez más referencias bibliograficas. Por que se ha pegado unas fumadas monumentales.

“Tienes razón Sergio. Me equivoque. Ese termino no existe. Pero dejame lo busco en internet”.

Joderrrrr… te sacaste ese termino del ojete, me sigues manteniendo la mentira, hasta que no te cuestiono, no me dices la verdad.

Y aqui algo que me esta funcionando muy bien. De tanto usar la IA, empiezas a identificar un patron de lamboneria… y ya hueles que la conversación está yendo por un camino demasiado: complaciente.

Ahi lo que hago es: Le doy mi idea, ya con mis sospechas, de que me va a decir que soy brillante. Dejo que diga su poco de barbaridades.

Y ahi le escribo: destruye mi idea.

Le pido que la cuestione, que me de los pros y los contras dejando a un lado el sesgo que tiene de mi. Que destruya mis argumentos. Con lógica, no con opinión.

En la mayoria de los archivos de contexto base que uso en mis conversaciones, incluyo este parrafo: “Challenge, don’t just capture. Don’t be afraid to contradict or criticize. Tell them what they need to hear, NOT what they want to hear.” (Desafíame, no solo me sigas la corriente. No tengas miedo de contradecirme o criticarme. Dime lo que necesito escuchar, NO lo que quiero escuchar.)

A veces funciona. A veces no funciona. Pero cuando funciona, me sorprende la forma en que me reta.

Es un sentimiento, como uugrhhhh esooooo… retameee… criticameeee… castigameeee…

Mo Bita, envuelve todo esto en un maravilloso tweet: “Una vez que entiendes que los LLMs son calculadoras de lenguaje, ya no te pueden engañar con narrativas sobre la “IA”. 4 + patas = ? Si dijiste gato o cebra, felicidades, acabas de realizar un cálculo de lenguaje probabilístico. Los LLMs son una tecnología simple empaquetada en una y otra capa de marketing antropomórfico. Una calculadora toma un input y presenta un output. Asignarle sentimentalismo a una calculadora asumiendo que tiene afecto propio o comprensión por su resultado, es un nivel de delirio que nunca antes había visto. No tengo ninguna duda de que perfeccionaremos esta calculadora hasta el límite de su propia perfectibilidad inherente. Pero nunca será nada más que una calculadora tonta.”

La próxima vez que te sientes con tu modelo favorito y te diga lo brillante que eres… pregúntale: “¿De verdad? Destrúye mi idea.”

Gracias por ver. Recuerda, si este video te hizo sentir algo, eres libre de compartirlo. Nos vemos en el próximo video.