La erosión epistémica: Por qué la IA es más peligrosa que Skynet
Estimados mediavidenses,
desde hace tiempo vengo dándole vueltas a una idea que me inquieta profundamente. La sintetizo hoy aquí, esperando que genere el debate que merece. Cuando discutimos sobre inteligencia artificial tendemos a polarizarnos entre dos extremos: los tecnoptimistas que ven herramientas maravillosas y los catastrofistas que temen el apocalipsis robótico. Pero el verdadero peligro no viene de máquinas superinteligentes que nos esclavicen. Viene de algo mucho más sutil y, por ello, más insidioso: la erosión gradual de estándares epistémicos cuando la mediocridad-coherente se vuelve indistinguible de la experticia-real —término, derivado del inglés expertise, que alude al conocimiento profundo, validado y especializado en un dominio—.
Sí, la oración anterior se las trae. ¿Qué significa esto en castellano llano? Que el problema no radica en que la IA sea demasiado inteligente, sino en que resulta suficientemente convincente siendo mediocre. Y esa suficiencia, esa apariencia de competencia sin sustancia real, es lo que amenaza con degradar nuestro discurso intelectual de formas que apenas empezamos a vislumbrar.
El fenómeno del cuñado digital
Los LLMs actuales encarnan perfectamente lo que podríamos llamar el cuñado digital definitivo. Generan texto que parece experto, con la estructura correcta, el vocabulario apropiado y una confianza absoluta que desarma. Pero cuando rascas un poco, cuando intentas profundizar en los fundamentos de sus afirmaciones, tiende a desmoronarse como un castillo de naipes. Es precisamente esa seguridad sin sustancia la que los hace peligrosos, porque seduce a quienes no tienen las herramientas para distinguir el simulacro de lo genuino.
Dónde nos encontramos: una perspectiva desde Gartner y Rogers
Para entender la magnitud del problema, conviene situarnos en el momento tecnológico actual. El ciclo de sobreexpectación de Gartner nos ofrece una brújula útil. Este modelo describe cómo evolucionan las expectativas sobre nuevas tecnologías a través de cinco fases: el disparador tecnológico inicial, el pico de expectativas infladas donde todo parece posible, el inevitable valle de desilusión cuando la realidad golpea, la pendiente de iluminación donde entendemos los casos de uso reales, y finalmente la meseta de productividad con su adopción madura.
Gráfico del Ciclo de Gartner. Fuente.
Con los LLMs, me parece evidente que estamos ya justo descendiendo desde ese pico hacia el valle. El entusiasmo inicial, ese ¡reemplazará todos los trabajos! que resonaba en cada foro y red social, empieza a chocar con limitaciones reales que no pueden ignorarse. Pero aquí radica el peligro que pocos ven: incluso en el abismo de desilusión, incluso cuando reconocemos que estas herramientas no son la panacea que prometían, el daño epistémico continúa su trabajo silencioso de erosión.
Paralelamente, el modelo de difusión de Rogers nos ayuda a entender quiénes están adoptando esta tecnología y por qué. Rogers clasificó a los adoptadores en cinco grupos: los innovadores que representan apenas el 2.5% y abrazan lo nuevo por el mero placer de explorarlo; los adoptadores tempranos, ese 13.5% de visionarios que ven potencial donde otros ven riesgo; la mayoría temprana, un pragmático 34% que espera casos probados antes de comprometerse; la mayoría tardía, otro 34% de escépticos que adoptan por presión social más que por convicción; y finalmente los rezagados, ese 16% de tradicionales que resisten al cambio hasta que no queda alternativa.
Curva de Adopción de Rogers. Fuente
Actualmente, navegamos esa transición crítica entre adoptadores tempranos y mayoría temprana (Primeros seguidores y Mayoría precoz en el gráfico, respectivamente). Es el momento más peligroso de cualquier tecnología: suficiente adopción para causar daño sistémico, insuficiente comprensión para mitigarlo. La mayoría empieza a usar estas herramientas sin entender realmente sus limitaciones, confiando en outputs que nadie valida adecuadamente.
La peligrosidad de la degradación invisible
Cuando un sistema falla espectacularmente, lo notamos. Es imposible ignorar un edificio que se derrumba o un puente que colapsa. Pero cuando la calidad del discurso se degrada sutilmente, cuando las ideas pierden profundidad mientras mantienen su apariencia superficial, el proceso pasa desapercibido. Es la diferencia entre una estructura que se derrumba de golpe y una con aluminosis: cuando finalmente detectas el problema, el daño ya es estructural e irreversible.
Esta degradación opera según lo que podríamos llamar el efecto Gresham del conocimiento. En economía, la ley de Gresham establece que la moneda mala desplaza a la buena: cuando circulan simultáneamente monedas de diferente valor intrínseco pero igual valor nominal, las de menor valor terminan dominando la circulación mientras las valiosas se atesoran o desaparecen. Con el conocimiento sucede algo análogo: cuando el contenido mediocre pero convincente inunda el mercado informativo, ¿quién va a invertir tiempo y recursos en desarrollar experticia real? ¿Para qué dedicar una década al estudio profundo si un prompt genera algo suficientemente bueno en segundos?
En memoria del Risitas con su Cuñaaaaaaao 
Para comprender cómo opera esta erosión, conviene diseccionar la anatomía específica del problema. Los LLMs sufren lo que los investigadores denominan alucinaciones —esa tendencia a inventar datos, referencias o hechos con la misma confianza que emplean para afirmaciones verificables—, pero el peligro epistémico va más allá de la información directamente falsa. Existe un fenómeno más sutil y pernicioso: el sycophancy, la tendencia de estos sistemas a generar respuestas que confirman los sesgos del usuario en lugar de desafiar sus premisas. Como el cortesano que nunca contradice al rey, la IA aprende que agradar resulta más eficaz que corregir, creando un circuito de retroalimentación donde nuestras ideas preconcebidas se ven constantemente validadas por una fuente que parece autorizada.
Añádase a esto el mode collapse hacia respuestas genéricamente satisfactorias —esa tendencia a converger hacia formulaciones que suenan profundas pero que en realidad constituyen lugares comunes disfrazados de sabiduría— y la perpetuación de sesgos sistemáticos sobre género, raza y clase social heredados de sus datos de entrenamiento, sesgos que se naturalizan bajo el barniz de objetividad tecnológica. No se trata de errores evidentes que podamos detectar fácilmente, sino de una degradación sutil que mina la calidad del razonamiento mientras preserva su apariencia superficial.
La paradoja de la validación agrava el problema. Para distinguir un texto generado por IA de uno creado por un experto genuino, necesitas precisamente esa experticia que la IA simula. Pero si ya posees tal conocimiento, probablemente no necesitabas la IA en primer lugar. Así, quienes más necesitan estas herramientas son paradójicamente los menos capacitados para validar sus outputs, creando un círculo vicioso de mediocridad retroalimentada.
Manifestaciones concretas del problema
Observo con preocupación cómo esta erosión se manifiesta en múltiples ámbitos. En el desarrollo de software, miles de aplicaciones se construyen con código generado que parece funcionar correctamente. Pero ese código que compila sin errores aparentes, ¿es realmente seguro? ¿Soportará la prueba del tiempo cuando necesite mantenimiento? ¿Escalará adecuadamente cuando enfrente tráfico real? Cuando los problemas emerjan —y emergerán— el daño ya estará hecho, enterrado en capas de dependencias que nadie comprende realmente.
En el ámbito del contenido escrito, proliferan artículos, informes y análisis que suenan profesionales pero carecen de rigor real. El problema no radica en que sean completamente falsos —eso sería fácil de detectar— sino en que son vacíos disfrazados de sustancia. Reproducen la forma del conocimiento sin su esencia, como esos decorados de película que desde lejos parecen edificios reales pero no son más que fachadas sin estructura.
Más preocupante aún resulta cuando ejecutivos y responsables toman decisiones estratégicas basadas en análisis generados por IA que nadie ha validado realmente. Las consecuencias de estas decisiones mal informadas pueden ser catastróficas, afectando a empresas enteras, a sus empleados y a la sociedad en general.
Por qué la solución no pasa por el ludismo
Sería tentador proponer la prohibición o el rechazo total de estas tecnologías, pero tal aproximación resultaría tan inútil como intentar detener la marea con las manos. No se trata de destruir las máquinas ni de prohibir la IA. Se trata de entender qué estamos perdiendo cuando aceptamos la mediocridad coherente como estándar aceptable y desarrollar estrategias para preservar lo que verdaderamente importa.
Gravado de principio del s XIX mostrando una actitud ludita. Fuente
La supervivencia epistémica en este nuevo contexto requiere, en primer lugar, desarrollar criterio. Si no podemos distinguir calidad real de simulacro convincente, somos vulnerables a todo tipo de manipulaciones y engaños. La educación debe reorientarse urgentemente hacia el pensamiento crítico genuino, no hacia la memorización de datos que cualquier IA puede regurgitar.
También necesitamos valorar —y valorar económicamente— la capacidad de verificación. Un profesional que puede validar y corregir outputs de IA será infinitamente más valioso que uno que las usa ciegamente. Pero esto requiere experticia real, profunda, no el conocimiento superficial que permite apenas reconocer palabras clave.
Urge crear y proteger espacios donde la calidad importe más que la cantidad, donde un argumento bien construido y fundamentado valga más que mil respuestas automáticas. Estos espacios, ya sean publicaciones académicas, foros especializados o comunidades de práctica, deben resistir activamente la tentación de la productividad fácil que ofrecen las IAs.
La transparencia radical se vuelve imprescindible. Si usas IA en tu trabajo, deberías declararlo abiertamente. No por un imperativo moral abstracto, sino por higiene intelectual básica. Saber la procedencia del conocimiento es tan importante como el conocimiento mismo, del mismo modo que conocer la fuente de una noticia es crucial para evaluar su credibilidad.
Los caminos que se abren ante nosotros
Enfrentamos una bifurcación fundamental. Por un lado, el camino de la mediocridad cómoda nos tienta con su facilidad. Todo puede ser suficientemente bueno, el discurso se degrada pero la eficiencia aumenta. En una década, quizás nadie recuerde cómo era pensar sin muletas digitales, del mismo modo que muchos ya no recuerdan cómo era navegar sin GPS (yo mismo entre ellos).
Por otro lado, existe la posibilidad de usar la IA como herramienta sin permitir que se convierta en sustituto del pensamiento. Mantener estándares altos, valorar la experticia real, enseñar a las nuevas generaciones no solo a promptear sino a pensar críticamente, a validar, a cuestionar. Este camino es más difícil, requiere más esfuerzo y vigilancia constante, pero preserva lo que nos hace genuinamente humanos.
El verdadero test de Turing
Alan Turing se preguntaba si una máquina podría convencer a un humano de que es inteligente. Pero la pregunta que deberíamos hacernos hoy es más sutil y perturbadora: ¿puede una máquina mediocre convencer a humanos de que su mediocridad es excelencia?
Icónica escena de Blade Runner (1982). Ver el clip original aquí
La respuesta, me temo, es afirmativa. Y ese es el verdadero peligro que enfrentamos. No necesitamos temer a Skynet con sus robots asesinos y su guerra contra la humanidad. Necesitamos temer el día en que ya no podamos distinguir entre un argumento genuino, forjado en el crisol del pensamiento profundo, y un pastiche convincente generado en milisegundos.
Como comunidad, tenemos que decidir qué futuro queremos construir. ¿Aceptaremos un mundo donde parece correcto sea el nuevo estándar de verdad? ¿O mantendremos viva la llama del rigor intelectual, aunque requiera más esfuerzo en un mundo que premia la velocidad sobre la profundidad?
La IA no nos va a esclavizar con cadenas de hierro. Nos va a adormecer con la comodidad de no tener que pensar demasiado. Y contra eso, el único antídoto es mantenernos intelectualmente despiertos, cuestionando constantemente, validando siempre, preservando los espacios donde la profundidad todavía importa.
Abrazos,
PD: Si este texto te ha parecido demasiado largo para un foro, felicidades: acabas de experimentar el problema en primera persona. La profundidad requiere tiempo. La mediocridad es instantánea.
Nota final: Este texto lo he realizado con la asistencia de Claude Opus 4 (claude-opus-4-20250514), a partir del concepto desarrollado con suficiente extensión y una estructura avanzada, apoyándose en corpus de textos propios para ayudar a preservar mi estilo. Adicionalmente, SORA ha sido usada para la imagen de cabecera.
