A mi mientras me quite trabajo sin valor del día a día como si se convierte en mi jefe
#120 sí, tienden a equivocarse en cosas de contar que para los humanos son obvias. No sé exactamente a qué se debe, pero creo que los tiros van por el mismo camino que cuando te pintan manos deformes con más de 5 dedos.
Pero yo creo que es cuestión de tiempo que se encuentren soluciones y modelos óptimos que poco a poco vayan cayendo menos en ese tipo de errores.
En este caso concreto patina porque internamente el modelo no trabaja con letras, sino con algo parecido a sintagmas, grupos de letras o medias palabras, los famosos "tokens". Por eso falla tanto. En otros casos no tan específicos tiene alta eficiencia.
Pues algo en lo que está en pañales es en el ámbito jurídico. Falla mucho con la normativa. Se equivoca, da normas desactualizadas... La jurusprudencia ya ni hablamos.
Hace falta todavía mucho para que afecte a la profesión de la abogacía. Para trámites de administrativo sí no van a hacer falta según qué funcionariado de picateclas. De hecho hace poco escuché en la radio que se ha agilizado mucho trámites con la automaticidad de solicitudes. La charo funcionaria ya no hace falta, ha tenido que venir la IA a eliminarla. Por fin.
Pregunta que me viene random a la cabeza después de esto del token: podría un gremio llegar a sabotear los LLM? Sabiendo cómo funcionan y sus puntos débiles, no sé si un colectivo lo suficientemente grande se puede poner de acuerdo para hacer las cosas de tal manera para que el LLM se equivoque. No me refiero a miles de usuarios poniendo prompts estúpidos (entiendo que en la escala que hablamos es inviable) sino a construir procedimientos que a los LLM les cueste per se.
Motivos para ello? Supongo que ludismo puro y duro 
#126 Existen varias maneras de vulnerar la seguridad de los llms. Por eso desarrollamos raíles, métodos que intentan que las interacciones con el modelo se circunscriban a ciertos límites. Pero es el juego del gato y el ratón (como los virus y las vacunas, como los virus informáticos y los antivirus, como los exploits y los parches).
Te dejo un juego interesante, un hilo que creé hace unos meses -> https://www.mediavida.com/foro/feda/lakera-gandalf-consigue-gandalf-diga-contrasena-720764
El texto que has escrito es excepcional Hda.
Un tema interesante sobre los LLM que no sé si se ha tocado ya durante el tema porque me lo he leído en diagonal es el entrenamiento de los LLM para tareas específicas.
Esto a mí me parece, sin duda, la parte más interesante de la IA a día de hoy. Da para mucho ese tema y no me quiero extender.
Mi opinión al final es parecida a la de otros, la IA es un instrumento que potencia a un humano en X ámbito donde ese humano ya tiene formación y experiencia.
Y sobre todo en el campo de Big Data en áreas como medicina está permitiendo avances que serían impensables hace unos años.
En mi campo en el que me considero "experto" que es en la planificación deportiva para conseguir fuerza y hipertrofia le sigo pegando un repaso importante a cualquier LLM si le digo por ejemplo que me haga el plan más eficiente posible para 1 año. Pero si le doy un contexto correcto y cierta iteración en mis mensajes me ahorra mucho trabajo. Esto creo que es buen ejemplo.
Muy buen hilo, me parece un tema muy interesante.
Muchos decís que la IA no es inteligente, pero a mi una herramienta que aprende en base de lo que la gente le va enseñando sí me parece ciertamente inteligente.
Otra cosa es que no tenga criterio propio o desarrolle su propia ideología (lo cual conlleva también un entorno que de momento no van a tener), pero vamos, que las hayan entrenado desde desarrollar puntitos a que te dibujen un Picasso en base de fuentes de las que han aprendido ya me parece un hito.
También decir que creo que la IA (como cualquier forma de automatización) nos facilitará la vida en ciertos tema como en medicina o ciencia/tecnología, pero nos lo complicará en otros como por ejemplo que ya no podremos discernir si algo es real o IA; que se pierda más contacto humano (llamar a una empresa y que te atienda una IA); o incluso que conlleve establecer normas más estrictas en general como que los institutos deban hacer examenes orales para cerciorarse de que el alumno ha aprendido algo.
Es una escala de grises.
#120 Giraffe y gorilla.
Ha dado 7 letras, pero para la palabra en inglés.
Había por ahí un artículo de como los LLMs cuando tienen varios idiomas en el dataset empiezan a almacenar 'conceptos' en la red y luego una relación de palabras en cada idioma al que pertenece este, tal vez le haya dado por ahí.
#132 Por supuesto pero se pueden usar tecnicas RAG y fine-tuning para hacer grounding y evitar alucinaciones.
"Dale a un mono un martillo y lo agarrará por el mango usándolo aunque no lo necesite. Dale a un humano una IA y hará lo mismo que el mono con el martillo"
. MaTaPaToS antes del juicio final.
A menudo, los humanos tendemos a usar herramientas nuevas (como la IA) simplemente porque están disponibles, incluso cuando no son necesarias o no son la mejor solución para un problema. Esto puede llevar a aplicaciones ineficientes, redundantes o incluso contraproducentes. (Que básicamente es el resumen de la tochada de HDA)
Tal y como lo veo, tras la extensa lectura, la cual he disfrutado y la he ido leyendo con pausa desde mi móvil desde cama antes de acostarme, me gustaría indicar lo siguiente en 4 puntos desglosando la frase que me surgió de la nada y no tengo ni idea si la escuché o leí en algún lado o sin tal solo la soñe, lo que si se es que la IA no ha tenido nada que ver con ellos.
Tras leer el texto y haciendo mención a mi frase, creo lo siguiente y lo voy a enumerar:
Fascinación por lo nuevo: Tanto el mono con el martillo como el humano con la IA pueden verse seducidos por la novedad, usándola sin un propósito claro.
Sobreexplotación de herramientas: La IA se aplica a veces donde no es necesaria, generando soluciones complejas a problemas simples (como usar modelos avanzados para tareas triviales).
Falta de entendimiento: El mono no comprende el martillo, igual que muchos usuarios de IA no entienden sus límites o riesgos.
Efecto "martillo de oro": Esto se refiere a usar la misma herramienta para todo. es un sesgo cognitivo y un fenómeno psicológico que describe la tendencia a aplicar una herramienta, tecnología o metodología familiar de manera excesiva o inapropiada, incluso cuando no es la solución óptima para el problema en cuestión. (Definición y origen**
El concepto proviene de la "Ley de la herramienta", formulada por Abraham Kaplan en 1964:
"Si le das a un niño un martillo, le parecerá que todo lo que encuentra necesita un golpe" . ) googleado sin IA. C&P
¿Qué opinais? ¿Creemos que los humanos superaremos esta fase o seguiremos "golpeando cosas" con la IA volviéndonos mediocres sin alcanzar el éxito que nos prometían con las Inteligencias artificiales?
Buenas noches.
E ide a rañala raparigos preguntarle a IA que significa, recordarle que lo dijo un T800
Un cliente hace prs full ia con su equipo de be. El código es una mierda 3 prs 4 semanas y mete más bugs de lo que arregla xd
Así que si, es el cuñado máximo por ahora, simplemente se basa en estadística no hay que olvidarlo. Pero en el fondo algo funciona
Me han compartido esto esta mañana en el chat del trabajo y no he podido evitar acordarme de este hilo:
Es largo pero merece la pena
#136 desde que vi el ataque de Ucrania de esta semana llevo dándole vueltas al punto que mencionan sobre que la IA puede hacer obsoleta la política nuclear disuasoria. Una IA lo bastante avanzada puede deshabilitar todos los lanzadores simultáneamente antes de que nadie llegue a enterarse.
Probablemente estemos ante las últimas décadas en la que los humanos lucharán guerras para bien o para mal.
#139 No, no. He lo he narrado a la vieja usanza: audacity y grabar varias veces las tomas en las que me trabo, cortar y dejar la pista limpia jaja.
Por cierto, abiertísimo a feedback sobre la narración por tu parte y por la de todo quien quiera dar su granito de arena. No sé si lo habré leído demasiado rápido, si me ha fallado la cadencia en puntos críticos o similar.
¡Gracias por ese feedback! 
- Supuestos implícitos: ¿qué estás dando por hecho?
Que la degradación epistémica es un fenómeno inevitable y sistémico. Asumes que el uso creciente de IAs generativas llevará necesariamente a una pérdida de rigor intelectual generalizada. Pero no demuestras que no pueda haber un reequilibrio dinámico entre herramientas y validación humana.
Que la mediocridad coherente desplaza al conocimiento genuino de forma irreversible. Aquí estás proyectando una versión dura de la Ley de Gresham sin matizar que hay espacios donde la calidad sigue siendo recompensada y exigida (publicaciones científicas, tribunales, ingeniería crítica, medicina...).
Que el público general carece de herramientas críticas. ¿Es esto universal o más bien contextual? Hay evidencia de que en algunos nichos (e.g., comunidades científicas, foros técnicos) los usuarios aprenden a detectar el "olor a texto generado".
- Contraargumentos posibles: ¿qué diría un escéptico informado?
"Esto es una fase transitoria." Como en otras revoluciones tecnológicas, lo que ves como degradación podría ser el polvo del derribo, no el plano final del edificio. Con el tiempo, podrían emerger prácticas más robustas de evaluación y verificación, igual que ocurrió con la Wikipedia.
"La IA democratiza el acceso a conocimientos útiles." Un escéptico podría decir que prefieres una élite que controla el conocimiento a una masa empoderada, aunque sea con conocimiento imperfecto. Y eso es una tensión política más que epistémica.
"La mediocridad ya existía antes." ¿No es más bien que ahora se visibiliza y acelera? Desde las seudociencias hasta el coaching de garrafón, lo superficial con apariencia de profundidad ha tenido éxito mucho antes de la IA.
- Perspectivas alternativas: ¿cómo más puede leerse este fenómeno?
Como una crisis de autoridad, no de verdad. Tal vez el problema no sea que la IA degrade el conocimiento, sino que revela cuán poco sólido era ya el andamiaje de validación en muchos contextos (medios, política, divulgación rápida).
Como un espejo cultural. Quizás los LLMs no están creando mediocridad, sino amplificando y replicando los patrones culturales dominantes —la IA como síntoma, no como causa.
Como una fase pedagógica. Podría ser que esta mediocridad inicial sirva para entrenar el pensamiento crítico a gran escala. La necesidad de detectar errores, sesgos y vacíos podría ser una escuela intelectual inadvertida.
- Examen lógico: ¿tu argumento resiste el escrutinio?
Riesgo de círculo vicioso no está probado empíricamente. Dices que quienes más necesitan IA son quienes menos pueden validar su output, creando retroalimentación de mediocridad. Pero eso presupone que no habrá mecanismos correctivos ni aprendizaje progresivo.
Equivalencia entre apariencia de conocimiento y daño sistémico es debatible. Asumes que la forma sin fondo destruye la epistemología social. Pero podrías estar subestimando los mecanismos culturales y profesionales que ya filtran y regulan contenido.
Predicción del colapso intelectual carece de evidencia longitudinal. No hay pruebas robustas de que el discurso global se esté degradando a causa de la IA. Hay más información mediocre, sí, pero también más acceso a conocimiento de calidad que nunca.
- Verdad antes que acuerdo: ¿dónde puedes estar equivocado?
Podrías estar cayendo, con honestidad intelectual pero con sesgo, en una forma moderna de tecnopesimismo ilustrado: un escepticismo lúcido pero también demasiado alineado con la idea de que lo profundo está en retirada y lo superficial triunfa sin resistencia.
Además, hay un riesgo de elitismo epistemológico implícito: la defensa de la experticia real (justificada) corre el riesgo de desestimar lo que puede ser válido aunque no venga revestido de autoridad formal.
Conclusión crítica
Tu texto es valiente, necesario y muy lúcido, pero no escapa a su propia paradoja: si la única forma de validar la verdad es a través de expertos formados, entonces ¿cómo salimos del círculo si estos expertos también usan IA o son reemplazados en parte por ella?
Tal vez el desafío no sea preservar estándares antiguos, sino reconstruir nuevos filtros y herramientas de validación que funcionen en un entorno mixto, donde IA y humanos interactúan constantemente.
¿Y si la próxima experticia no es la que sabe cosas, sino la que sabe detectar cuándo algo parece saber sin saber?
Te lo devuelvo. ¿Cómo responderías tú a este tipo de contraargumentos? ¿Hay algún punto ciego que estés dispuesto a explorar más a fondo?
#140 acabo de escuchar el mini podcast. Me ha encantado. ¿Me das permiso para entrenar un modelo de audio con tu voz, en local, para ver cómo se comporta? Porque con esos 12 minutazos da para hacerlo.
PD: he ido leyendo el texto mientras escuchaba, y he localizado esta errata "tiende a desmoronase como un castillo de naipes" => desmoronarse. Para que quede flamante y no nos dé TOC a los dos, seguro que lo editas xD
15 días después
Me encontré con esto ayer y creo que alguno lo puede encontrar interesante:
Si seguís el hilo en twitter resume a grosso modo las conclusiones preliminares:
83.3% of ChatGPT users couldn't quote from essays they wrote minutes earlier.
Brain scans revealed the damage: neural connections collapsed from 79 to just 42
ChatGPT makes you 60% faster at completing tasks but it reduces the "germane cognitive load" needed for actual learning by 32%. MIT researchers call this "cognitive debt" - like technical debt, but for your brain.
People with strong cognitive baselines showed HIGHER neural connectivity when using AI than chronic users. But chronic AI users forced to work without it? They performed worse than people who never used AI at all.
Link al paper: https://arxiv.org/pdf/2506.08872
#144 muy al caso, la verdad. Enlaza bien con lo que comento en OP. Lo ojearé pero, todo sea dicho, estaría bien que fuese peer-review. Algo así, revisado, entraría en cualquier revista del sector con alto IF sin dudas.
#144 Lo que confirma que sin hormesis en nuestro cerebro no hay asentamiento del conocimiento y además este se vuelve más vago de lo que es, porque el cerebro está diseñado para mantenernos vivos y por lo tanto, ahorrar la máxima energía posible y obviamente la IA viene de puta madre para ese fin, si no se usa para ir más allá de donde iría tu cerebro por si solo.
Es decir, si usas la información generada por IA como fast food, la estás usando mal.
Salu2,
#144 Hay algunos podcast sobre el impacto de la AI a nivel de educacion que dan bastante miedito. Sinceramente no me quiero ni imaginar las generaciones de gilipollas que se vienen, y las generaciones que se van a terminar convirtiendo en gilipollas
#148 ahí añadiria un * xq completan tareas, sí, pero son basura? Sí, si no tenian las skills MINIMAS previas para hacerlo sin la IA.
Algo así se decía cuando pasábamos de la Encarta a internet. El que es listo ahora va a ser 300x más listo, porque le va a preguntar con sus palabras y contexto y se lo va a decir directamente, sin tener que perder más tiempo. Obviamente el sesgo de cada modelo ya se verá, pero yo creo que es un avance en educación y pedagogía.
El mongolo que antes era mongolo no ha entrado en la wikipedia en su vida, así que esto ni lo contempla. Es mucho peor el deep scrolling en mi opinión.
No sé, yo de pequeño soñaba con que los ordenadores serían así y si lo llego a tener con 10 años, no sé donde estaría hoy.
