[Recursos] Aprehendiendo sobre redes neuronales

hda

Venga, chavales, este hilo es para recursos de redes neuronales. Incluso tienen cabida dudas. Para otros asuntos, por favor, usad otros hilos.

Para algo como lo que comentas en #53 veo mejor que crees un hilo en el subforo "estudios y trabajo" :)

Dejemos la discusión aquí y ciñámonos al tema.

1 1 respuesta
LucianESP

Está en favs, cuando termine lo que tengo que terminar me gustaría ponerme a investigar un poco más sobre esto.
¡Gran hilo!

medium

#61 insisto en que lo mío es para modelos de predicción con NN y simplemente quería agradecer este hilo, contar mi experiencia con NN en mi PFC y de paso ofrecer eso, a modo de simple inciso... No entiendo qué tiene de inapropiado... me guardo tu consejo para crear otro hilo.

Frave

#43

Sobre lo de generar textos, como digo en #15 , estoy interesado en que una NN cree un post en MV o un poema como yo xD

Justo hubo bastante revuelo con una red de generación de texto creada por openAI, yo me baje la implementación en pytorch de aquí para jugar un rato:

https://github.com/huggingface/pytorch-pretrained-BERT

El tema es que esta en ingles obviamente, osea que solo genera textos en ingles. Si quieres saber mas sobre el algoritmo y tal, y bueno ya de paso comparto un canal en español sobre temas de IA que mola bastante Dot CSV:

Aquí una respuesta generada por el algoritmo a la siguiente pregunta ( las respuestas son bastante lol):

What do you think about the internet forum Mediavida?

Some people simply bought into the Trump politics and you're seeing that with Ismael and others selling times.
I've seen little but blatant criticism of violence against government workers and journalists at times.

1 1 respuesta
B

#1 El hilo es bien interesante, me llama mucho este tema desde hace un tiempo. Sin embargo el "Aprehendiendo" en el título me provoca un picorsito.

Cabe decir que la palabra como tal está escrita correctamente, pero en este caso sería aprendiendo sin H por tratarse de adquirir los conocimientos y no por comprensión de ellos. Corregid si me equivoco.

hda

#64 Oh, muy interesante el aporte, tomo nota.

@Masme Aprehender es más que gramaticalmente correcto para la acepción que yo uso (fuente, acepción 2), incluso es etimológicamente más correcto (fuente, etimología). Es una lucha personal así como elección propia.

Me alegra que disfrutes el hilo. Bienvenido.

1 1 respuesta
B

#66 Que perrys son, la RAE en tu primera fuente parece que reflejen "aprehender = aprender".

Ahí va manita ya que no estaba del todo seguro y toda fuente a la que accedía parecía indicar que no tenían tan estrecha conexión. Pero la RAE manda.

Ulmo

Ya lo puse en otro hilo, pero si alguien quiere jugar con una red neuronal simple que permite manipularla manualmente:

https://playground.tensorflow.org

Es un buen punto para experimental qué es una red neuronal y comprender los conceptos básicos. Yo afortunadamente nunca he tenido que pelearme con una, pero tengo 3 compañeros que trabajan casi en exclusiva en ellos y me tienen acribillado a presentaciones xDD

2 1 respuesta
hda

#68 Qué pasada de página. Llevo un rato largo haciendo el canelo xD

B

Interesantísimo post! De cabeza a favoritos!

N

Me he registrado en el foro de Mediavida al ver este hilo tan interesante.
Me congratula mucho haber encontrado un foro con temas tan interesantísimos y que pensaba que en ninguna parte se verían.

2
covaga

este tema siempre me ha parecido muy interesante. A parte de generar textos e identificar objetos, que mas aplicaciones tiene?

3 respuestas
HeXaN

#72 Infinitas. Básicamente todo lo que se ha hecho a día de hoy con machine learning se puede extrapolar a redes neuronales.

n3krO

#72 Las redes neuronales son especialistas en encontrar patrones y replicarlos.

jilker

Mis sinceras felicitaciones por la creación del hilo.
No tengo apenas conocimientos sobre el tema y he comentazado por M. Nielsen - Neural networks and deep learning, muy recomendable, ameno e interesante.

covaga

entonces podría hacer que analice pdf y extraiga información?

En mi trabajo tengo una lista de materiales en excel, de esa lista la filtro y me quedo con lo que me interesa. Tengo un script que hace el filtrado pero el problema es que antes solo tenia que filtrar como máximo 200 materiales y ahora las listas son de 1000 y el excel se peta durante 5/10 segundos mientras hace el bucle y compara.

Si con las redes neuronales se puede analizar y filtrar de una forma mas optimizada pues me pondria a ello.

1 4 respuestas
HeXaN

#76 Para eso no hace falta una red neuronal.

A

#76 python + regex + un tarde aburrida = tu script listo. Te lo digo con conocimiento de causa que tenia que sacar datos estructurados de documentos pdf infumables xD

N

#72 Pues, como ya han dicho por aquí, una red neuronal básicamente es una función matemática especializada en la detección y clasificación de patrones.
Tiene una fase de aprendizaje, durante su configuración o fase de "especialización" en la que se le pasan una serie de patrones y se le establece la clasificación.
La configuración permitirá establecer el umbral de tolerancia en las clasificaciones. Es decir, establecer lo que un patrón dado "se parece" a una clasificación.
¿Usos de redes? Todo lo que sea detectar/clasificar un patrón, que puede aplicarse a: procesamiento de imágenes para detección de objetos, análisis biométricos de huellas dactilares, identificación facial, escáner de retina, etc.
Una de las aplicaciones que están teniendo mas difusión y que es la que mas me gusta, porque me dedico a ella, es la identificación de patrones en series temporales, y mas concreto en la bolsa.
Existen multitud de redes neuronales que automatizan las inversiones en bolsa, de manera que "la máquina maneja tu dinero" y compra/vende cuando toca, te hace ganar dinero mientras tú estas tomándote una caña en un bar.
¿Cómo lo hace? Identificando patrones de comportamiento en series temporales (cotizaciones) y tomando decisión de comprar/vender.

1
Huk

#76 parsing, en xml. Rápido como el rayo!

1
Ulmo

#76 Como ya te han dicho: para eso no necesitas redes neuronales. Y yo añadiría: no es recomendable el uso de redes neuronales para dicho fin.

Hay que tener en cuenta que las redes neuronales casi siempre generan pérdida de información y su acierto tiene un % de acierto que nunca es del 100%. Se usan mucho para aproximar valores o para hacer cosas aproximativas: detección de objetos, análisis de imagen/sonido, estimar valores estadísticos, detectar patrones, etc.

Es para aquellos casos en donde no existe un algoritmo que resuelva el problema o que este sería tan computacionalmente costoso que no es viable, en donde las redes neuronales te dan un resultado aproximado que puede ser suficiente.

Siempre se enseñan los análisis más llamativos, como una red que te pinta un cuadro o que te dice en qué imágenes sale un gatito, pero por ejemplo en mi grupo hay gente que está corriendo redes neuronales para sacar un simple vector de 96 números que mejor ajuste un producto matricial (que poco lustre).

1 1 respuesta
n3krO
#81Ulmo:

pero por ejemplo en mi grupo hay gente que está corriendo redes neuronales para sacar un simple vector de 96 números que mejor ajuste un producto matricial (que poco lustre).

Que? Explicame un poco mas a ver si NO es lo que estoy pensando.

Porque si lo es, no hace falta una red neuronal, solo un algoritmo genetico :thinking:

2 respuestas
HeXaN

#82 Es que no es que haga falta o no haga falta, es que se elige una técnica y se tira a por ella. Lo mismo en su grupo hay expertos en redes neuronales y lo han visto mucho más fácil así.

2 respuestas
Ulmo

#82 #83 No quería liar a la gente, es una persona en mi grupo que esta usando NMF (non-negative matrix factorization), básicamente es una reducción del espacio vectorial descomponiendo una matriz de observaciones en la multiplicación de un vector por una matriz.

En cáncer se viene usando para descomponer los diferentes factores mutagénicos que actúan sobre un grupo de individuos, siendo la matriz los elementos mutagénicos y el vector la incidencia de cada uno de ellos.

Puede resultar un cálculo "sencillo" pero es un problema que tiene 2 complicaciones:

  • El primero es que es bastantes costoso computacionalmente dependiendo del tamaño de la matriz, la reducción que busques etc.
  • El segundo es que no existe una solución única ni óptima. Paras de iterar cuando asumes un error menor a X, pero biológicamente la matriz más pequeña no tiene porqué ser la de mayor sentido biológico.

Si a eso empiezas a sumarle ciertas condiciones, el NMF es muy sufrido para introducirle cambios o añadir más dimensiones, mientras que con una red neuronal puedes llegar a una aproximación bastante óptima utilizando más fuerza bruta.

No se si me he explicado muy bien.

2 2 respuestas
bLaKnI

#84 Delicioso.

Fyn4r

A este paso va a hacer falta otro hilo sobre heuristicas xd

1
n3krO

#84 Efectivamente no es lo que yo pensaba....

Para cada matriz de observaciones tienen que entrenar la red neuronal de 0?

1 respuesta
Ulmo

#87 No, la idea es que del producto resultante vector X matriz, la matriz debería ser constante, ya que los procesos que pueden provocar mutaciones en nuestro genoma son los que son, por lo tanto es una matriz fija. Ésta es la que se entrena creando diferentes grupos de pacientes y haciendo que los diferentes resultados vayan convergiendo asumiendo el mínimo error posible.

El vector es la parte variable y la que se estimará cada vez de forma independiente, aquí no hace falta ninguna red. El desafío es descomponer bien los procesos mutaciones, para ello se usan miles de datos de pacientes.

Por ejemplo, la fila de la matriz para las mutaciones provocadas por el tabaco sería la siguiente: Una citosina (C) muta a adenina (A) casi independientemente del contexto (no importa qué haya antes y después excepto si la citosina está rodeada de otra citosina y una guanina CCG, en cuyo caso no muta).

Esta es muy conocida y se ha estudiado muy a fondo, pero existen muchísimos procesos todavía desconocidos y que tienen una alta relevancia clínica y de prevención.

2
Unrack

#13 Ahora mismo tengo un problema que pretendo resolver con LSTM (Series temporales sobre consumos en una fabrica). Tienes algun paper bueno para comprender profundamente el funcionamiento de esta arquitectura?

1 respuesta
HeXaN

#89 Suerte digiriéndolo: Hochreiter, S., & Schmidhuber, J. (1997). Long short-term memory. Neural computation, 9(8), 1735-1780.

1 respuesta

Usuarios habituales

  • Frave
  • Ardi
  • hda
  • HeXaN
  • Ulmo
  • Unrack
  • n3krO