Hackeando redes neuronales

Muy interesante!! sabia sobre estos temas de "ataques" a redes pero joder que se pueda hacer poniendo cinta aislante en una foto real....entre que no sabemos porque cojones toman sus decisiones y estas cosas en algunos campos como la medicina va a estar chusco de usarse por muy bien que funcionen. Imaginad que hackean una base de datos de pacientes en un hospital y le enchufan a todas las resonancias un ruido para que salte un diagnostico de algo....puta locura tetes.
O en plan terrorismo para coches autónomos te dedicas a "retocar" señales que provoquen accidentes graves....

Al final lo bueno de esto es que espero que los equipos de investigación vayan por delante y puedan reentrenar las redes para que sean inmunes a estos ataques, como se hace con el software vamos que se parchean agujeros de seguridad.

#10 Si a mí lo que me rechina es que lo cataloguen como "latest tricks". No sé, cualquiera diría que es un artículo de Nature para conseguir visitas con el "mira qué fácil es engañar a una red neuronal".

Pero si esto lleva más años que el sol haciéndose XDD

Yo he estado en conferencias hablando de esto hace 2 o 3 años.

#15 Nadie habla que sea una novedad, de hecho el artículo recoge los estudios que se han hecho sobre este tema, pero es innegable que con el auge de coches autónomos y todo tipo de maquinaria industrial que usan CNN, como también los asistentes personales, es importante resaltar que estos todavía están lejos de ser robustamente fiables.

#14 ¿CapsNet no deja de ser CNN sobre CNN no? En biología se usa bastante, creo que es a lo que te refieres, en donde una CNN simplemente delimita los espacios de interés (células en una muestra) para que luego otra CNN analice de forma independiente cada uno de estos espacios (tipo de célula en cada caso).

No veo porqué deberían ser inmunes a este hecho, aunque sí más robustos si por ejemplo en el caso de la señal las diferentes letras se analizaran por separado y luego se juntara el texto, difícilmente llegaría al resultado erróneo con tan poca manipulación.

#8 Que esperas en Nature precisamente? Factor de impacto y ya está. Es lo único que les importa al final. Que sea mas o menos veraz, mas o menos adecuado a la realidad? Bueeeeenoooo.

Memoria del agua y fusión fría, nevah forget.

No sé cómo será Nature, pero el NEJM (New England Journal of Medicine, una de las revistas históricamente con más impacto en medicina, si no la que más) cada vez se está volviendo más sensacionalista, puede que sea una línea a seguir entre las grandes revistas científicas para mantenerse a flote.

probablemente las rrnn que han petado así no estén bien entrenadas y sea un articulo extremadamente sesgado