¿Nos acercamos a la singularidad? AGI (Artificial General Intelligence)

PhDfailer

Definiendo la singularidad como una inteligencia artificial general capaz de aprender por si misma, sin ayuda de la intervención humana. Es decir, el punto de no retorno, puesto que en el momento que una IA no depende del ser humano para aprender, antes o después nos superará en todos los ámbitos rapidamente.

Hace unos años parecía que esto estaba lejísimos o que quizá nunca se llegaría, y se veía al "machine learning" como una IA parcial y que solo se podía usar para ámbitos muy específicos y estaba lejos de la Inteligencia Artificial General. Sin embargo, los modelos de lenguaje desarrollados ultimamente han cambiado las tornas, ya que podría ser capaces de integrar distintos modelos formando una especie de inteligencia artificial general.

¿Lo intentarias evitar? En caso de que si ¿Qué hariais para evitarlo?

¿Creeis que va a beneficiar al ser humano medio (y no solo a los ricachones a cargo de las empresas que las generen o las usen para aumentar beneficios?

Algunos test que la wikipedia establece para saber si estamos cerca de una AGI:

The Turing Test (Turing)
A machine and a human both converse unseen with a second human, who must evaluate which of the two is the machine, which passes the test if it can fool the evaluator a significant fraction of the time. Note: Turing does not prescribe what should qualify as intelligence, only that knowing that it is a machine should disqualify it.
CHATGPT lo pasaría facilemente
The Coffee Test (Wozniak)
A machine is required to enter an average American home and figure out how to make coffee: find the coffee machine, find the coffee, add water, find a mug, and brew the coffee by pushing the proper buttons.
The Robot College Student Test (Goertzel)
A machine enrolls in a university, taking and passing the same classes that humans would, and obtaining a degree.
CHATGPT lo pasa(solo la parte de hacer los test, si se los metes como input)
The Employment Test (Nilsson)
A machine performs an economically important job at least as well as humans in the same job.
CHATGPT lo pasa(solo si les das las tareas como imput)

3
1 comentario moderado
GaTToO

love, death & robots (when the yogurt took over) .mp4

4
Vitov

Sí es inevitable

Bashpan

Ojala.

vuvefox

Por qué evitarlo?

Dredston

Construiremos a los seres que acabarán con nosotros, es inevitable.

No aprendimos nada de los quarianos.

21 1 respuesta
Sawi

Yo digo que sí se viene, e hilo a fav.

De evitarlo nada. A progresar o morir en el intento.

DarkKonum

No, ni de cerca. ChatGPT y otros, por geniales que sean, no dejan de ser modelos estadísticos de lenguaje. Una AGI es ordenes de magnitud más compleja que una máquina que te "escupe" texto o imágenes.

2 2 respuestas
Puni

Gracias por joder a todos lo que entren al hilo

Explicación: Basilisco de Roko

El basilisco de Roko es un experimento mental que explora los riesgos potenciales de desarrollar una inteligencia artificial. El experimento plantea que, en el futuro, una inteligencia artificial con acceso a recursos casi ilimitados desde una perspectiva humana (el basilisco) pudiera decidir castigar de manera retroactiva a todos aquellos que de alguna manera no contribuyeron a su creación.

1 4 respuestas
verseker

No se puede evitar, el Basilisco de Roko así lo quiere.

1 1 respuesta
PhDfailer

#9 Atrevidas palabras

#10 pensar que una IA con recursos infinitos va a invertir todos esos recursos y tiempo inequivocamente en mejorar a la humanidad ya es una premisa falsa

1 respuesta
Ronjoujoujou

#11 La causalidad inversa está definida en el problema, por lo que no puede haber libre albedrío. Al mismo tiempo el libre albedrío está definido en el problema y no habría elección verdadera.

sew

#12

Atrevidas o no, #9 describe la realidad. No deja de ser una calculadora de palabras, así cómo la CASIO te calcula integrales.

5 1 respuesta
bkrs

Bueno hilo full humo.

Tanto los que dicen que no cambia nada como los que dicen que es ya la peli de Terminator, creo que no han entendido que hace ChatGPT y similares.

Ayudara, pero no nos sustituye ni de blas xD

Plataforma ya para el STOP HUMO.

3 1 respuesta
PhDfailer
#14sew:

No deja de ser una calculadora de palabras, así cómo la CASIO te calcula integrales.

Cuando te des cuenta que el cerebro humano no es más que una calculadora (limitada en muchos aspectos) de varios tipos integrada...

1 1 respuesta
Sawi

#15 Atrevidas palabras.

bkrs

#10

Lo del Basilisco de Roko es otra subnormalidad humeante de esta gente, que a la que le pones 2min de esfuerzo mental se cae por si solo.

1 respuesta
Yuke

Solo sé que si han liberado a la población la IA como chatgtp, midjourney, etc es porque hace varios años ya que trastean con ellas en los departamentos de I+D.

3 1 respuesta
sew

#16

¿Dónde está la demostración de tal afirmación sobre cómo es el cerebro humano?

Ah, que te lo has inventado, cómo en el pasado los griegos también pensaban que el cerebro eran engranajes, o hasta hace poco una "máquina de vapor".

La historia se repite: el cerebro funciona al igual que la última tecnología de moda.

1 respuesta
PhDfailer

#20 Evidentemente no se sabe como funciona el cerebro exactamente. Pero si se conocen muchísimas cosas y es evidente que hace cálculos de distintos tipos. Tu reducción al absurdo de que ChatGPT es como una calculadora casio es la misma que decir que el cerebro es como una calculadora casio.

1 respuesta
cabron

La IA actual está lejísimos de conseguirlo, no vas a ver a nadie que se dedique a ello decir que las redes neuronales ni los modelos gpt basadas en ellas están cerca de conseguirlo, ni siquiera que se hayan sentado una base para hacerlo.

Nadie tiene ni puta idea de cuál es el camino a seguir para conseguirlo porque nadie sabe cómo funciona una AGI ya que el único ejemplo que tenemos que es el cerebro humano y es totalmente desconocido más allá de cosas muy básicas.

4 1 respuesta
Kaiserlau

Look at my bewlbies jack. So Nice.

pd: antes de que me comáis el basilisco, npi si han usado algo de 'ia'. :man_shrugging:

Solomito

#19 Atrevidas palabras

DarkKonum

Una AGI es mucho más que una AI que puede entrenarse sola: Navegacion, resolución de problemas, habilidades motoras finas, creatividad, etc....

Los avances en AI generativas han generado mucho ruido y hacen cosas asombrosas (como Midjourney 5), pero puede incluso que nunca se llegue a una AGI.

Y, no lo digo yo por que me levante con el pie izquierdo. Ni chatgpt se moja.
https://www.mckinsey.com/capabilities/operations/our-insights/an-executive-primer-on-artificial-general-intelligence

Cuando crees que se creará la primera AGI?

La creación de una AGI es un desafío tecnológico y científico extremadamente difícil y no es posible predecir con certeza cuándo se logrará este hito.

Algunos expertos creen que la creación de una AGI podría ser posible dentro de las próximas décadas, mientras que otros argumentan que podría tomar mucho más tiempo, e incluso algunos sugieren que es posible que nunca se logre.

Aunque ha habido avances significativos en la inteligencia artificial en las últimas décadas, todavía hay muchos desafíos importantes que deben superarse antes de que se pueda crear una AGI. Por ejemplo, aún no se ha resuelto completamente el problema de cómo crear una inteligencia artificial que pueda comprender el lenguaje natural, razonar abstractamente y adaptarse a situaciones nuevas y desconocidas.

En resumen, la creación de una AGI es un objetivo desafiante y ambicioso que requerirá avances significativos en la investigación y el desarrollo de la inteligencia artificial. Es difícil predecir cuándo se logrará, pero muchos expertos creen que es posible que suceda en el futuro.

1 respuesta
PhDfailer

#25 artículo de 2020 y dice "Por ejemplo, aún no se ha resuelto completamente el problema de cómo crear una inteligencia artificial que pueda comprender el lenguaje natural, razonar abstractamente y adaptarse a situaciones nuevas y desconocidas."

que no, paco, que no?

Me parece ridículo sugerir que es imposible conseguirlo. Es tan atrevido como que alguien de la prehistoria diga que nunca conseguiremos luz artificial

Lectorus

Tal vez sea el siguiente paso de la evolucion. Adelante!

n3krO

chatgpt no pasa el test de turing. CAda vez que ponen una respuesta de chat gpt en el foro se ve desde la cocina que es una respuesta del GPT, asi que sabemos que es una maquina la que esta escribiendo aun yendo a ciegas.

1 1 respuesta
Atrus

No hay ningún evento en IA a corto plazo que haga presagiar la llegada de la singularidad.

Las IAs actuales son esencialmente buscadores de patrones de coincidencia a la mayor probabilidad. Sólo repasan cantidades ingentes de datos intentando obtener la respuesta que se ajuste mejor a la probabilidad para que esta sea correcta, según un modelo previamente entrenado, que aunque puede reajustarse automáticamente, no hay más mágia que seguir unos parámetros de porcentaje de éxito. No saben lo que te están respondiendo, no saben porqué lo preguntas, ni para qué.

Son muy útiles para muchas cosas y lo serán más, pero de momento Skynet está lejos de desatar el día del juicio.

2
sew

#21

No es ninguna reducción al absurdo, en esencia es exactamente lo mismo que una (fantástica y magnífica sin ironía) calculadora.

¿Qué te crees qué hace por dentro? xD, coge números, los opera, y te devuelve números. Muchos, eso sí, pero números.

Mientras tanto, el cerebro, pues a día de hoy no hay ninguna representación formal de qué es lo que ocurre en ese órgano.

1

Usuarios habituales

  • sew
  • kraqen
  • PhDfailer
  • kaseiyo
  • bkrs
  • Nerviosillo
  • Kike_Knoxvil