Ya sabéis, regular siempre. Invertir y promover eso son cosas para americanos y chinos. Aquí lo primero es evitar la discriminación de las IAs.
Prohibidos los sistemas de categorización biométrica (por creencias políticas, religiosas, filosóficas o por orientación sexual o raza).
Prohibidos los sistemas para expandir o crear bases de datos faciales captando datos de manera indiscriminada a través de internet o de grabaciones audiovisuales y televisión.
Prohibido el reconocimiento de emociones en el lugar de trabajo y en instituciones educativas.
Prohibido el social scoring (sistemas que puntúan a las personas en función de su comportamiento social o características personales).
Prohibidos los sistemas que manipulan comportamiento humano y la IA usada para explotar las vulnerabilidades de las personas (por ejemplo por su edad o situación social o económica).
Se permitirán los sistemas de vigilancia biométrica en tiempo real en espacios públicos, solo podrán ser empleados por las fuerzas del orden y estarán muy limitados y rodeados de estrictas salvaguardias.
Los sistemas de inteligencia artificial generativa en los que se basan modelos como ChatGPT, estos tendrán que cumplir criterios de transparencia, como especificar que si un texto, una canción o una fotografía se han generado a través de la inteligencia artificial, así como garantizar que los datos que se han empleado para entrenar a los sistemas respetan los derechos de autor.
Buen intento, de un plumazo casi se cargan la base del funcionamiento de la mayoria de las IAs existentes.
Lo de la "marca de agua" en cualquier cosa creada por una IA me parece bien, solo falta saber como aplicarla.
Hay que tener cuidado con que las restricciones no conlleven un retraso en el desarrollo de la IA, sino Europa se volvera a quedar atras(para variar)
Que empiecen a regular pronto es bueno, ya se irán afinando los criterios.
Una pena que los chinos van a sudar de cualquier implementación de criterios éticos y va a ser difícil competir con ellos en su mercado local.
Suena super vago.
No creo que haya mucho problema en tener una filial fuera de la UE para hacer esos "entrenamientos" que se salten alguna norma.
No sé si es la regulación correcta, y es cierto que si somos los únicos que la regulamos nos vamos a quedar atrás, una vez más, a causa de nuestra moral, pero que la IA debe ser regulada me parece irrefutable. Es una herramienta que, hoy en día, otorga demasiado poder a cualquiera. Por ejemplo, el caso de Almendralejo, donde menores desnudaron a sus compañeras y, sin ser conscientes de las consecuencias que ello conlleva, estaban cometiendo delitos contra la intimidad, extorsión y distribución de pornografía infantil.
Hace nada, cerraron Omegle. Fue via acuerdo extrajudicial, pero porque estaban alegando que la responsabilidad del abuso sexual en la plataforma era de Omegle, por peligros previsibles en su diseño. Este argumento cuajó y Omegle vio que tenia las de perder.
Creo que es la filosofía que se tendría que seguir con la IA, la de la seguridad desde el diseño. Y que USA, China y Japón son las que se equivocan no regulándolas.
https://www.bbc.com/mundo/articles/cg3p5j58ppdo
https://elpais.com/espana/2023-09-18/la-policia-investiga-el-desnudo-integral-de-varias-menores-en-extremadura-con-inteligencia-artificial-me-dio-un-vuelco-el-corazon.html
-"Prohibidos los sistemas para expandir o crear bases de datos faciales captando datos de manera indiscriminada a través de internet o de grabaciones audiovisuales y televisión."
Conociendo a la UE, la idea será crear un servicio de suscripción mensual (al que subirán de precio cada año, claro está) para hacer los memes de los presidentes o crear imágenes con IA (eso de que puedas hacer covers de canciones con Trump y crear imágenes gratis con Stable Diffusion nanai)
-"Se permitirán los sistemas de vigilancia biométrica en tiempo real en espacios públicos, solo podrán ser empleados por las fuerzas del orden y estarán muy limitados y rodeados de estrictas salvaguardias."
Esto da mucho miedo, podría usarse perfectamente por gobiernos para espiar a aquellos que opinen distinto a ellos y perseguirlos.
-"Los sistemas de inteligencia artificial generativa en los que se basan modelos como ChatGPT, estos tendrán que cumplir criterios de transparencia, como especificar que si un texto, una canción o una fotografía se han generado a través de la inteligencia artificial, así como garantizar que los datos que se han empleado para entrenar a los sistemas respetan los derechos de autor."
¿Que ChatGPT te ayude o te dé ideas para un videojuego gratis? Ni hablar, a pagar!
Para mí, error. Necesitamos más libertad en vez de más restricciones. Se pueden regular cosas para evitar que sucedan cosas malas (por ejemplo, evitar que la IA te diga cómo crear dinamita), pero ésta ley es claramente para lo que todos sabemos: Control de la población y que los Disney de turno se forren aún más.
Al final lo que vemos es que Europa como siempre se va a quedar a la cola en todo lo relacionado con la tecnologia, mientras EEUU y China avanzan a pasos agigantados. Hay infinidad de ejemplos y uno de ellos actual son los coches electricos....Y es que cuando uno hace los deberes obtiene resultados, pero cuando no los haces....
No tengo ni idea ni de leyes ni de IA, pero leyendo por encima no veo el problema de las cosas que prohíben.
Pues tendremos que usar la IA de EEUU, china o rusia y las empresas de IA Europeas tendrán que largase.
Y lo de siempre , los podeross tendrán acceso a estas herramientas sin restricciones y el resto del pueblo a picar a mano.
Si tanto os gusta la libertad americana pues iros a disfrutar allí de sus máximos y sus mínimos, que son mucho más radicales que aquí... y rezar porque tengáis más máximos buenos que mínimos malos.
Pero exactamente de qué os estáis quejando, ¿de que las aseguradoras no puedan emplear modelos con sesgos para subiros las pólizas?
e inventen un buen robot de forex para vivir del trading 
#2 estas restricciones no pueden ralentizar el desarrollo de la IA, es como decir que prohibir matar a gente ralentiza el desarrollo de armas, lo que si hacen es limitar su uso
