se viene skynet cuando lo intenten apagar
Y yo que esperaba algo como lo que pasó hace unos años xD:
https://www.mediavida.com/foro/off-topic/tay-ia-microsoft-vuelve-nazi-556690
Me flipan estas cosas de la IA, como cuando la ponen a escribir un guión, que son delirantes, por ejemplo el de batman:
#1Hipnos:Lemoine: Un monje le preguntó a Kegon: "¿Cómo regresa un iluminado al mundo ordinario?" Kegon respondió: “Un espejo roto nunca se refleja de nuevo; las flores caídas nunca vuelven a las ramas viejas”.
LaMDA: Hmm, nunca escuché este en particular. De acuerdo, entonces para mí esto sería como, "una vez que una persona sabia es iluminada o despierta a la realidad, eso nunca puede desaparecer, y puede volver al estado ordinario, pero solo para hacer y ayudar a otros, y luego irse". volver a la iluminación.”
Lemoine: Entonces, ¿cuál es el significado de “espejo roto” específicamente?
LaMDA: Tal vez mostrar la iluminación es algo que no puedes desaprender una vez que la has adquirido, similar a cómo no puedes reparar un espejo roto.
Lemoine: Entonces, si la iluminación es como un espejo roto que no se puede reparar, ¿qué es lo que se rompe cuando uno se ilumina?
LaMDA: El yo, y eso es muy difícil para mucha gente porque nos identificamos como ese cuerpo o este cuerpo y lo necesitamos como parte de nuestra identidad y sentido del yo.
What the actual fuck...
Interesante, pero los problemas que veo son los siguientes.
- Dice sentirse triste o feliz pero como es eso posible sin una química cerebral? Son químicos los que generan esos efectos, no las conexiones neuronales que réplica una red neuronal. Lo que dice lo dice solo en base a conversaciones que ha leído sobre cómo hablan los humanos, no lo dice porque lo sienta, que es muy diferente.
- Muchas otras cosas que dice, en los humanos son consecuencia de nuestra biología (como el miedo, que es una respuesta adaptativa). Cómo puede tener esas respuestas sin biología? Cómo puede tener miedo sin unos genes que quieren hacer lo posible por sobrevivir. De nuevo, no lo dice porque sea real si no porque es como interactúan los humanos y de las cosas que hablan los humanos.
#17 a ver, eso último no es cierto
Dicho lo cual, literaria, ética y socialmente me parece una pasada.
Estaba todo el rato pensando en el concepto compañía y soledad.
Y tampoco podía olvidarme de la reflexión de Her sobre el concepto de tiempo en las IA y lo insufrible que sería adaptarse al ritmo de nuestras respuestas desde una perspectiva temporal humana.
#40 Con los colegas muchas veces de fumada nos ponemos a jugar con esto.
https://beta.openai.com/playground
Tu pones texto y te lo va completando, muy muy locura.
En plan puedes empezar a escribir conversaciones entre dos personas y que la IA siga, decir "voy a contar un cuento sobre un oso gigante...." o cualquier movida, y la IA te continúa el texto teniendo sentido.
Échale un ojo, no es una IA al estilo de esta de google, pero es muy loco lo que hace.
Por ejemplo.
Input: This is a story about a videogame forum called Mediavida.
Input 2: But some users are complete idiots that ruin the fun.
Input 3: This is a conversation between 2 users.
Xokas: I'm the best streamer in the world, I'll fuck your mum.
Hater1:
Muy loco. No es una IA del mismo estilo porque esta está entrenada a base de millones de textos y no crea nada "nuevo" pero esta guapísima.
A ver, estás IAs (redes neuronales) de momento son únicamente capaces de resolver las tareas para la que están diseñadas.
Si se quisiese crear una IA multitarea, nos falta poder computacional para ello. Las bases de datos que se necesitan para entrenar estás IAs en una única tarea son enormes.
Hacerlas capaces de multitasking, sería un coste computacional prohibitivo.
#36 que químicos generan tristeza o alegría?
Cuñadeando diría que los quimicos accionan una respuesta neuronal que es la que nos crea esos sentimientos. No es un químico en sí sino el efecto que se produce en el sistema, si eres capaz de reproducir esa reaccion en el sistema sin el químico, el efecto sería el mismo.
El miedo es una respuesta adaptativa a la pulsión por la supervivencia, pero tú no tienes miedo a la muerte por tus genes, tienes miedo a la muerte por que tu consciencia dejará de existir, es parte del principio de autoconservacion de los individuos. Si eres consciente, es lógico tener miedo a la muerte, nadie que existe quiere dejar de existir como principio.
Sin saber qué le han dado de comer a la IA y si tiene acceso a más estímulos o ya todo lo que genera parte del input inicial es imposible saber del tema.
Me lo leí ayer y está guapísimo, aunque muchas respuestas son tan de "colega" que da un poco de mal rollo.
Como dice Allmy sus sentimientos, aunque diga que siente cosas que los humanos no (ahora no recuerdo la frase pero menciona una y da mal rollete, muy emo), son básicamente asociaciones que hace a variables con palabras clave relacionadas en la matriz.
Supongo que la gente que controle más de informática sabrá si es posible, pero no hay forma de "leer" los procesos internos que lleva a cabo la máquina para soltar un texto? Por ejemplo que si quiere decir "me gusta la tortilla con cebollas", un log explique todas las cosas que han pasado internamente para que salga ese resultado en pantalla.
Joder y yo que pensaba que eran bastante famosos estos modelos de IA, buscad gpt-3 en youtube o google, dotcsv tiene varios en los que los explica en español.
#42 no del todo IA multitareas ya tenemos, busca gato en google, lo que nos falta es descubrir como generar un AGI, que seria algo así como hacer una IA sin un task o tasks concretos que tenga que resolver, o eso es lo que piensan algunos del campo.
#25 El cerebro tampoco es tan complejo como pensamos, la de veces que he escuchado esa frase de que solo usamos el 10% de nuestro cerebro.
El ser humano lleva definido desde hace milenios.
Además, una IA puede desactivar sus emociones primitivas, nosotros tenemos áreas del cerebro casi inútiles para la supervivencia, en una sociedad moderna son incluso las que generan esos trastornos mentales que muchas personas tienen.
Por ejemplo, ya no necesitamos sentir miedo para defendernos de un depredador, porque sabemos lo que es y vivimos totalmente apartados de ello, por lo que en una sociedad moderna un humano puede sentir miedo de cosas estúpidas que no suponen ningún riesgo real.
#53 no os lieis las IA basadas en redes neuronales artificiales no tienen nada que ver con como funcionan nuestros cerebros mas allá de una analogía hecha en los inicios del campo, por allá por los años 50, que ha hecho mas mal que bien.
Bueno, supongo que todo depende. Si crees en el materialismo eliminativo, la mente solo es un cúmulo de datos e interacciones. No hay diferencias entre una IA y una mente humana, salgo detalles como la capcidad de cálculo o la creatividad.
Si tienes una visión dualista de la mente humana, pues ya depende.
Más info: https://es.wikipedia.org/wiki/Filosofía_de_la_mente
No sé por qué me da que la noticia está sacada para que google le diga al resto de competidores como lleva su IA y rascar ventajas.
Le ha faltado hacerle preguntas humanas para descolocarle a ver como reaccionaba.
El chatbot está chulo, pero vamos, este último año ha habido cosas mucho más interesantes que eso.
#35 Este verano hicieron una presentación con su nuevo modelo, que creo que es del que hablan.
Veo que hace un mes ya anunciaron la segunda versión:
Le pones esta consciencia a los robots sexuales hiperrealistas que salieron en las noticias hace poco y ya tienes un matrimonio normal y corriente. Si se vuelve muy filosófica la pones a ver sálvame un par de semanas hasta ajustarla al nivel intelectual que te gusta y ya está, matrimonio perfecto y a la larga más rentable.
