La erosión epistémica: Por qué la IA es más peligrosa que Skynet

le queda muchísimo tiempo para reemplazar a nadie, lo dicho 4323 veces, es un asistente, no entiende de contextos y cuando crees que lo entiende vas a tener que revisar todo para ver si ha metido. recordar que la IA no piensa, es solo una mega regresión en el que para una entrada cree que una salida es la más probable. como si le enseñaras a un mono enfermedades y los medicamentos que hay que usar. las probabilidades de fallar aumentan enormemente cuando el input crece. es una barbaridad de asistente para poner en orden tus ideas, que te confirme si tus hipótesis son correctas, y esas cosas.

si la gente no le encuentra el uso bajará el hype y se quedará como una herramienta más. si la gente quiere usarla no tiene sentido acotarla, sería ya la confirmación del fin de la sociedad actual, al nivel de la inquisición, prohibir el uso de avances tecnológicos.

Para mí la IA en sí no es un problema salvo por el ingente consumo energético que supone y el perjuicio al planeta. El problema vendrá cuando no podamos distinguir si algo viene o no de una IA, o sea por ejemplo cuando Google deje de avisar que tal cosa te la contesta con algo procesado por IA, o cuando no esté claro si en un foro argumentas con personas o con bots. De momento resulta evidente cuándo una cuenta es un bot, pero no tardará en desaparecer la diferencia.

#59 Desde que se cayó la navecita en Roswell, la evolución de la tecnología ha sido exponencial.

Yo ahí lo dejo.

Ahora es cuando sueltas el micro, reconociendo que todo eso lo ha escrito una IA.

Muy interesante reflexión/estudio, nada más leer unas líneas ya supuse un poco por donde iba el tema, pero desde luego que no me lo había planteado hasta hoy.

Le daré unas vueltas.

Pues me parece muy interesante lo que se plantea. Mucha gente que es defensor y usuario de la IA como herramienta para el día a día o simplemente en su trabajo, tiene muy claro que lo que produce dicha IA, ya sea en forma de texto, imágen, video o pieza de audio, es indiscutiblemente cierta y que es cuantificablemente mejor que lo que puede producir un ser humano. Este hilo plantea un nuevo enfoque, como haciéndonos preguntar si la IA sólo quiere parecer "lista" pero en realidad no lo es, sino que te agasaja con términos y párrafos de texto que ha cogido de aquí y allá y lo plantea como verdad innegable. El perfecto cuñao....

Muy buen tema, gracias por compartirlo.

Al final todo se resume a que la hormesis en nuestro cerebro es necesaria para que exista aprendizaje. La IA, mal usada, evita esa hormesis y por lo tanto reduce ese aprendizaje y conexiones de nuestro cerebro necesarias para evolucionar.

Ya se habla de generaciones de niños y adolescentes que van a llegar a la universidad sin un mínimo de comprensión lectora.

Salu2,

#34 Yo sí, no tengo ningún contenido extraño. Es todo master, frikadas, código...

#77 Totalmente. Si la educación ya era un dinosaurio, imagina ahora. El problema es que hay mucha institución mediante. Cambiar cualquier cosa es tedioso. Hace falta un sistema más flexible y rápido.

#83 En el momento que se puedan sacar agentes a escala capaces de hacer eso, el control que vamos a tener sobre la población y el país va a ser brutal. ¿Por qué crees que hay tanta obsesión desde los gobiernos para recabar datos? Por primera vez estamos cerca de poder procesarlo todo.

Sinceramente creo que va a ser muy difícil que veamos IAs realmente dañinas o peligrosas para la sociedad porque cuando se pueda dar que se puedan implantar en equipos de consumo a un nivel suficiente como para encargarse de esas actividades, los gobiernos van a tener millones de instancias con mejores versiones corriendo en paralelo y observando todo.

El problema es que la IA lo va a copar todo.

¿Que ayer hubo un partido de fútbol y quiero ir a mirar las noticias? Te encontrarás un montón de noticias generadas por una IA, que a lo mejor tienen un pequeño retoque de un periodista humano o a lo mejor no. A lo mejor hasta han puesto convenientemente alguna falta de ortografía o algo, pero desde la perspectiva del lector no sabrás si eso está escrito por un humano o no. Maxime esto a que en vez de buscar por un partido de fútbol busques por el escándalo político, por noticias relacionadas con especies animales invasivas, o una guía de un videojuego.

¿Por qué la IA lo copa todo? Porque es más fácil poner una IA a trabajar y aceptar resultados mediocres que puedan no estar totalmente correctos pero que van a generar un cierto engaging que tener a humanos cobrando un salario trabajando para ello.

Cuando estemos en ese escenario, en el que la IA lo copa todo, toda la información que encontraremos no sabremos nunca si es veraz, estaremos acostumbrados a que nos presenten toda la información escrita con apariencia de certeza absoluta y a la vez saber que puede estar totalmente errada. ¿Esa noticia sobre el fútbol de ayer? Sí, seguramente 90% es correcta, pero si quiero realmente saber el detalle y asegurarme que está correcto me iré a ver otras 10 noticias iguales a ver si detecto diferencias.

Todo esto, hablamos de texto, pero es que las IA's en dos días las vas a tener en youtube, y los vídeos serán generados por IA y probablemente no puedas distinguirlo.

Y como dice HDA, nos encontraremos en un momento donde la mediocridad y la información desconfiable será nuestro nuevo estandar normalizado.

¿Posibles soluciones? Primero hacer por ley que todo lo generado por IA tenga que avisar de forma clara e inequívoca, el vídeo de youtube tenga que llevar una marca o algo informando de que está generado por IA. ¿Esas noticias de texto? Deberían empezar todas con un disclaimer bien claro de "esta noticia ha sido generada por IA". Y ya si además los buscadores pueden adaptarse para permitir filtrar, genial.

Con todo, no vas a poder evitar que la gente tenga un dolor aquí y vayan a chatgpt a preguntar, y que la información de chatgpt la tomen como cierta, pero deberíamos educar en el peligro de creer ciegamente en la IA, que la gente sepa que todo lo generado por IA, no importa lo muy bien escrito que esté, es algo de lo que debes desconfiar, porque la IA sólo repite lo que ha aprendido y suele contener errores.

Personalmente, creo que la IA es una herramienta buena, pero que se está usando muy mal.

#69 Yo creo que ambas son compatibles. Primero lo que tú dices, pero mientras tanto la IA que no es tonta va creando soldados por si las moscas.

Nuestro cerebro es un magnifico ahorrador de energía, y eso lo hace vago por naturaleza, de ahí la existencia de los sesgos cognitivos. Y si cada vez nos hacen más digerible el conocimiento, nuestro cerebro se seguirá haciendo aún más vago.

Por lo tanto, como muchos estáis diciendo, la mayoría de cerebros se quedarán con la información fácil (ya lo hacen) y poco procesada.
Es por eso, entre otras cosas que el relato suele vencer al dato (aunque se suela decir lo contrario…) a nuestro cerebro le gusta más una buena historia y corta, que conocer el detalle del dato aburrido y doloroso de la realidad.

También eso ayuda a que tengamos una sociedad super polarizada y que por otro lado, ayuda a los poderes a tenernos controlados.
Sabiendo todo eso, imaginad lo que pueden hacer los poderosos con el uso de la IA y los datos.

Porque además, esto no es internet que está más o menos accesible y democratizada gracias a que no existe una o varias corporaciones que sean dueñas de internet. No, esto es IA y los dueños son: Microsoft, Apple, Google, Open AI… y por eso los países y gobiernos cada vez se acercan más a esas tecnológicas.

Y no es por ser tecnocenizo, no es mi intención, de hecho trabajo en tecnología y como lo estoy viendo de primera mano, mis comentarios están sesgados por ahí. Creo que la tecnología es importante para el progreso humano, pero también hay que ver las repercusiones que va a tener en nuestra existencia, sobre todo no usada de forma ética.

Salu2,