¿Qué problema hay con la IA?

Clive

En los últimos meses he visto varios vídeos por internet que me han hecho dudar seriamente de si eran reales o generados por IA. Y al hilo de esa duda, me ha surgido una reflexión que me gustaría compartir aquí: ¿de verdad estamos ante un problema nuevo? ¿O simplemente estamos viviendo una versión moderna de algo que ha existido siempre?

La mayoría de debates sobre la IA giran en torno a un temor central: “ya no podremos saber si lo que vemos o escuchamos es real”. Pero si lo pensamos bien, eso nunca fue una garantía en la vida real. Desde que el ser humano es ser humano, convivimos con rumores, exageraciones, malentendidos y mentiras directas. Cada día alguien podría decirnos algo falso, y aun así las sociedades funcionan. ¿Cómo? Porque siempre hemos vivido gestionando la incertidumbre sobre la verdad, no eliminándola.

Cuando alguien nos cuenta algo, no tenemos un “certificado de autenticidad” que garantice que es cierto. Lo que hacemos es evaluar si lo que nos dice es plausible, si la persona suele decir la verdad o suele mentir, si encaja con lo que sabemos del contexto o si, simplemente, nos interesa creerlo o no. Es decir, asignamos un grado de credibilidad, no certeza absoluta. Y sin embargo, nadie considera que esto sea un problema estructural que deba regular el Estado. Mentir no es delito en la inmensa mayoría de contextos, y aun así las sociedades siguen adelante sin derrumbarse. ¿Por qué, entonces, debería ser distinto con la IA?

Es cierto que la IA introduce factores nuevos: la velocidad con la que un contenido puede viralizarse, la facilidad para generar imágenes o vídeos muy verosímiles y la escala masiva. Pero en el fondo, el mecanismo humano para evaluar la verdad no cambia. Lo que cambia es el canal, no la psicología.

Quizá la solución no sea perseguir legalmente cada contenido generado por IA ni exigir etiquetas obligatorias en todas partes, sino asumir que hemos entrado en una etapa en la que la credibilidad se gestiona igual que siempre: con sentido crítico, reputación de las fuentes, y un sano escepticismo cuando algo parezca demasiado perfecto o demasiado conveniente.

Así como aprendimos a convivir con el hecho de que cualquier persona pueda contarnos algo falso en cualquier momento, también aprenderemos a convivir con imágenes y vídeos generados por IA. La adaptación social es inevitable y, probablemente, suficiente.

No necesitamos un mundo donde el Estado garantice que todo lo que vemos es cierto, porque ese mundo nunca ha existido. Lo que necesitamos es seguir haciendo lo que ya hacemos: elegir qué creemos y qué no, sabiendo que la verdad nunca ha sido un terreno completamente seguro… y aun así, aquí estamos.

1
B

La IA ha venido para bien y para mal. Si se utiliza bien puede ser increíble.

MeCagoEnDios

Pues dependerá de cada uno, yo personalmente estoy hasta la polla de videos de ia y de imágenes de ia, y hasta puta música de IA, y cada vez hay más, me está dando asco hasta doomscrollear así que supongo que me va a hacer bien y todo xdd

11
Kbarton

Tu mira el contenido, si te entretiene que mas da que sea IA

Ni te ralles

vene-nemesis

Sobre lo que dices específicamente, el problema de la IA no es que pueda crear un video o bulo y a primera vista no puedas saber si es verdad o no lo que has visto, el problema viene cuando con la IA además eres capaz de saturar la red con falsas pruebas que sustenten el engaño. Y si, nunca hemos podido saber a ciencia cierta nada, porque dependemos del buen hacer de otras personas que han generado un sistema de garantías que determina que una información es fiable, a pesar de que aquí todos hemos estudiado con libros de texto con bastantes datos falsos, pero la diferencia con la IA es la escala, si ya el mass media daba miedo...

Pero vamos, el problema con la IA es que a corto plazo se desarrolle una economía de absolute funneling donde unas pocas empresas puedan prescindir de absolutamente toda su mano de obra y convertirse en los tenedores de toda la riqueza del planeta, que es la version última del sistema en el que vivimos ya.

Y a medio plazo que la barrera de entrada para la creación de armamento bioquímico sea tan baja que cualquier colgado pueda convertirse en un asesino de masas y no haya forma alguna de prevenirlo.

1
B

El problema va a ser cuando usen la IA para engañarnos , como el famoso video de la FIFA con el doble toque en la champion league AT Madrid vs Real Madrid.
Cuando sea tan real lo usaran gobiernos y grandes empresas a su antojo para hacernos creer cualquier mierda.

Nirfel

La IA va a revolucionar el mundo como lo hizo en su momento internet.

Mucho hype, muchos cambios pero acabaremos pagando consecuencias.

En el caso de internet, desinformación, salud mental, el cáncer de las redes sociales, la facilidad de propagar estafas, etc.

2
GaN2

Que problema hay dice... Problemas hay bastantes pero asi de rapido:

  • El material que se usa en entrenamiento generalmente esta protegido por copyright y se esta usando ya no solo para entrenar modelos sino para crear modelos especificos que suplantan dicho material. Como ejemplo rapido OpenAI o Meta las que pillaron con libros y peliculas pirateadas que usaban para entrenar su modelo.

  • Reemplazo de fuerza de trabajo por AI lo que supone dejar sin trabajo a miles de personas. Y si, ya se que me vais a decir que paso lo mismo cuando se invento la imprenta o en las revoluciones industriales pero a una escala menor a lo que se especula donde ya hay estudios que estiman que podemos reemplazar alrededor del 11% de la fuerza del trabajo actual en paises como USA.

  • Posibilidad de que la adopcion de AI lleve a desiertos creativos y termine por destruir la creatividad en ciertos campos. En campos como la musica te soprendes de lo bien que suenan ciertos temas hechos por AI, hasta niveles que llegan a primeros puestos de los billboards como 'Walk my walk'. Si cualquier zopenco puede hacer una cancion top con AI, para que se va a esforzar un músico en hacer carrera y pasar por el esfuerzo creativo necesario para lanzar una cancion/album top? Y lo mismo puedes aplicar a otros campos.

  • Suplantacion de la realidad, estamos llegando al momento en el que discernir que es real o hecho con AI no es practicamente imposible para el ciudadano medio. Y esto va a ir a peor, imaginate la epidemia de fake news que tenemos desde hace unos años pero ahora con una tecnologia que permite generar contenido artificial a cualquier tonto que sepa de prompting...

  • Posibilidad de generar deepfakes de cualquier persona, ya sea a nivel video, voz, fotos, etc. que permiten reemplazar o denigrar a personas. Cada vez es mas comun las noticias de X alumno de Y instituto al que han pillado haciendo un deepfake porno de la compañera de turno, tambien tienes casos de timos donde han conseguido suplantar a la persona imitando su voz.

  • A nivel de recursos, la AI es tremendamente voraz en necesidades energeticas y estamos viendo paises donde la produccion de energia se deriva unica y exclusivamente a las necesidades de los gigantes tecnologicos lo cual termina por aumentar el precio para el ciudadano comun y poner en peligro la red. A nivel de hardware ya ves lo que esta pasando no solo en GPUs sino en memorias ahora mismo y como la proliferacion de players en el sector esta provocando que fabricantes tradicionales prioricen ordenes de empresas del sector e incluso terminen por abandonar el mercado de ocio comun. Y a nivel de data centers ya ni te digo...

Y ya si nos ponemos en modo 'imaginemos que', AI 2027 es un ejercicio cojonudo sobre un posible futuro.

12 2 respuestas
N

Quizás este sea el problema.

1
Kacto

Laboralmente va a ser desastroso para muchísima gente, y todavía no sabemos el alcance que va a tener.
Lo mas seguro es que la gran mayoría de las personas que se han quedado obsoletas de un año para otro acabarán siendo una carga pública, como es normal. Decirle "pues reinvéntate" a peña de 40-50 años es muy fácil, pero la realidad es otra.

1 respuesta
Prava
#8GaN2:

Posibilidad de que la adopcion de AI lleve a desiertos creativos y termine por destruir la creatividad en ciertos campos. En campos como la musica te soprendes de lo bien que suenan ciertos temas hechos por AI, hasta niveles que llegan a primeros puestos de los billboards como 'Walk my walk'. Si cualquier zopenco puede hacer una cancion top con AI, para que se va a esforzar un músico en hacer carrera y pasar por el esfuerzo creativo necesario para lanzar una cancion/album top? Y lo mismo puedes aplicar a otros campos

Aquí discrepo. La música pop no tiene complejidad estructural ninguna. Literal: si la comparas con la música clásica te ríes. Y las canciones de IA suenan bien porque hacer que suenen bien es un tema matemático y no artístico. Hay unas estructuras que se conocen hace muchos siglos que, si las usas, pues suena bien. Muchos músicos "pop" descubrieron dichas estructuras por ensayo error y no por tener una base de música. Otra cosa es la letra, ojo.

Pero sí, el problema que le veo a la IA es que la gente, en general, lo utiliza justamente para lo que no hay que usarlo: para información en general. Porque miente más que habla y se le da veracidad "porque me lo ha dicho chatGPT". Y qué decir de los chavales de hoy en día... que se lo preguntan todo y, sin la maquinita, no te saben hacer nada. Hasta un puto email sencillo e informal tienen que pasarlo por el chatGPT "para que me lo mejore". Y si lo hicieran solo una vez y se quedaran con la mejora vale, pero es que no, se han vuelto vagos y que piense el robot.

#10 Laboralmente el primer problema yo lo veo en que las empresas están en modo "hay que meterle IA hasta a la taza del vater" simplemente para poder decir que están usándola pero sin plantearse si es viable meterla en toda la empresa. Todo es IA esto, IA lo otro. Y yo la uso, ojo, pero para cosas muy concretas y repetitivas, que no aportan ningún valor pero se tienen que hacer. A mi equipo ya le he dicho que no dependan tanto de la mierda del chatgpt y que pueden usar la cabeza para pensar y preguntárselo todo a chatgpt.

pelusilla6

Rescato un hilo súper interesante de @hda

https://www.mediavida.com/foro/off-topic/erosion-epistemica-ia-mas-peligrosa-skynet-722254

1
wizar5

Algo que últimamente estoy viendo (será por mi algoritmo) es que se está generando mucho contenido de historia pero con una capa de IA para explicarla haciendo la mucho más entretenida y fácil de ver llegando a más público.

La IA es una revolución que cambiará el mundo, y va a tener muchas luces y sombras

Kike_Knoxvil

Únicamente añadir a #8 que hace un fantástico resumen:
A nivel económico es insostenible el mantenimiento de los modelos de IA actuales, entre otras cosas porque nuestra capacidad de computación en realidad sigue sin ser suficiente y estamos supliendo esa falta técnica con más recursos. Se estima que la IA actualmente es una burbuja 17 veces superior a las de las .com que van a devorar trillones (americanos) para construir y alimentar centros de datos cuya esperanza de vida en realidad no es tan alta (si la memoria no me falla, un centro de datos top necesitaría una renovación de chips en 5 años), y que se necesitaba una cantidad ingente de retorno solo para suplir los gastos

2
LuisKA

No hace falta que la regule el Estado, pero si considero una buena práctica que, a través de metadatos, el ciudadano pueda saber si lo que está viendo se ha generado con IA. Al igual que si yo voy al super me dicen de donde viene mi manzana.

Con los humanos asumimos que las personas son falibles e imperfectas, forma parte de nuestro ser. A una persona se le perdona un accidente de tráfico, a una IA no se le va a pasar ni una. Moralmente, no es lo mismo.

evening0

Para mi cualquier animalito haciendo cosas raras en un vídeo es IA a huevo.

1
ElJohan

El drama va a ser cuando no sepamos diferenciar entre IA y realidad, de momento aún está verde la cosa pero todo dios está invirtiendo en eso y va a desarrollarse en nada. En relación a los bulos esto va a ser terrible, yo metía la obligación de etiquetar contenido generado por IA, no veo ningún problema por hacerlo... Si ya vivimos engañados imagínate con esta tecnología.

1
Vhsephi

pues como cuando se inició Internet, el uso de las webcam, incluir tantas chuminadas en el móvil.... todo puede usarse para bien o para mal, dependiendo de quién lo use.

Hoy en día es fácil diferenciar entre IA y algo real (la calidad, el movimiento, lo que sucede, detalles del entorno....) y cuando lo usan para cosas ideológicas aún lo podemos reconocer. Pero, ¿dentro de unos 5-10 años? Ya no podremos diferenciarlo tan fácilmente, y entonces, sí que vendrán los problemas de verdad de como se usará para "convencer" sobre algo... ahí sí que será peligroso.

por otro lado, lo suqe sí que se deberían ir poniendo las pilas son los dibujantes, animadores, actores... a esos sí que dentro de nada se les podrá sustituir por IA y no se notará