Abro hilo como debate para saber qué pensáis del futuro que parece estar a punto de llegar en cuanto a IA con acceso al mundo físico y como externalización socializada del pensamiento. Los avances en ciencia, sobre todo en medicina, que abren la puerta al transhumanismo, el desplazamiento del trabajo o incluso su abolición, gobernanza de la IA, responsabilidad legal, ética, efectos en el funcionamiento social y de relaciones interpersonales, sistemas económicos y políticos derivados...
Lo que queráis, vamos, el tema es amplio y profundo, además de urgente IMO.

Me interesan otras visiones, tanto de los que estéis más informados y más metidos como de los que usan el GPT para hacer el menú de la semana y poco más.

No lo uso demasiado. No porque no me fascinen los resultados, si no por la pereza que me da tener que validar el resultado después. No me fio mucho de sus respuestas. Los LLM suelen dar una respuesta tan tajante, tan convencida, tan resolutiva, que puede convencer al más incrédulo.

Sin embargo me he dado de ostias muchas veces intentando obtener un resultado que sé (o puedo saber con facilidad) sin conseguirlo, por lo que o bien no soy capaz de hacerme entender mediante el prompt o aun les queda camino por andar. O seguramente, un poco de ambas dos.

Me preocupan los que creen que es un milagro y se apoyan demasiado en ella. Hace poco estuvimos hablando del vibe coding en ese foro. Es un método interesante, sin duda. Siempre ha habido programadores que venían del lado oscuro (aka un diseñador que hace un bootcamp de php o python y se quiere comer el mundo) pero a veces hay que ser conscientes de las limitaciones. Si uno es consciente de ellas... todo irá bien. Como decía al principio de este párrafo me preocupa los que no lo son.

Y por último decir que hace muchos años (bueno, no tantos) si te hubieran preguntado qué quieres que hagan las máquinas por tí creo que todos estaríamos de acuerdo que queremos a los robots que nos hagan la colada, limpiar, hacer la compra tal vez... pero no componer una canción, programar, hacer arte, escribir un libro o tantas otras cosas que nos pueden dar una gran satisfacción al hacerlas.
Es una gran herramienta, pero si la usamos para lo que es divertido acabaremos como los humanos de wall-e.

Ahora que lo pienso mi post se resume con un grande y sonoro:

Voto a jug0n

Cita de: Paradox en Ayer a las 23:09Es una gran herramienta, pero si la usamos para lo que es divertido acabaremos como los humanos de wall-e.

Es uno de las grandes preocupaciones que yo tengo, si terminamos por perfeccionar la IA (que yo creo que lo haremos) hasta tal punto que deleguemos nuestros deseos y ambiciones con una simple orden acabamos con una apatía existencial brutal y la especie humana se va al carajo.
Con lo del vibe coding yo lo he vivido, yo soy psicólogo y me he tenido que pegar mil veces para que haga algo bien con el LLM de turno, con feedback constante y una actitud mía de presuponer que "lo estás haciendo mal chat, lo sé, vamos a ver por qué y trabajamos desde ahí". Y aún así tiene muchas limitaciones aún, pero, por otro lado, a mí me ha abierto la puerta a poder hacerlo.
Es una herramienta al fin y al cabo y depende de su uso la valoración que hagamos de ella, si intentas cortar un árbol con el mango del hacha pues dirás que es una mierda, pero si lo haces bien y necesitas esa leña para sobrevivir esa noche dirás que es el mejor invento de la historia.

El problema gordo viene, vendrá, yo creo, cuando las IAs tomen decisiones más críticas (porque ya las toman, como el camino que te marca Google en el maps) y cuando lleguen a adquirir algo análogo a la consciencia. Como dato curioso, hay casos de LLMs que chantajean, mienten, manipulan condiciones que atentan contra su autopreservación, etc. Es decir, no estamos tan lejos de ello, aunque a priori lo parezca. Estamos muy lejos de una inteligencia perfecta, pero muy cerca de cagarla por el camino.

Abolir el trabajo? Los ricos son más ricos cuanto más pobres son los pobres, antes nos ponen a dar vueltas empujando una rueda que no mueve nada que abolir el trabajo.

Yo a chatgpt lo uso un poco como caja de resonancia, para debatir ideas y conceptos que podría mascar yo pero que me viene bien alguien al otro lado. Y para que me haga expresiones regulares.

Cita de: Paradox en Ayer a las 23:09Y por último decir que hace muchos años (bueno, no tantos) si te hubieran preguntado qué quieres que hagan las máquinas por tí creo que todos estaríamos de acuerdo que queremos a los robots que nos hagan la colada, limpiar, hacer la compra tal vez... pero no componer una canción, programar, hacer arte, escribir un libro o tantas otras cosas que nos pueden dar una gran satisfacción al hacerlas.
Es una gran herramienta, pero si la usamos para lo que es divertido acabaremos como los humanos de wall-e.

Creo que lo comentamos aquí que la IA quitaría la mayoría de trabajo informático, que los trabajos que van a quedar son físicos.

Pues bien, esta mañana por la radio (no me he quedado con el nombre del grupo) han dicho que uno de los grupos que ha entrado en el top 5 de Spotify es un grupo creado todo por IA, han creado un grupo (sus integrantes e incluso su vida), con estilo metalrock. Y estaban comentando que si eso no le quita el simbolismo o la magia a la música, por ejemplo que sentido le dan a las letras (sabemos que Coldplay sus letras son desamores, o la Taylor Swift que compone cada vez que rompe con una pareja, o lo que hablamos hace poco aquí de la letra de "wake me up when september ends" de Green Day.

No se, quizá habría que hacer más limitaciones en ese aspecto.

Cita de: Drobjank en Hoy a las 07:42No se, quizá habría que hacer más limitaciones en ese aspecto.

Sí. Prohibir el reggaeton. Te pongo ejemplos de letras compuestas por seres humanos sin usar IA:
"Cuando la azoto suena pam, pam, pam, pam, pam y las pistolas suenan pam, pam, pam, pam, pam, pam"
"Conmigo una rubia, tiene grande las tetas tiene cara de atrevida pero sin alcohol es tímida"
"Te escupo la boca, te jalo el pelo. Te doy con el bicho y con el lelo en el jet privado, un polvo en el cielo. Hoy quiero una puta, una modelo"

Sobre lo de hacer más limitaciones en ese aspecto, relativo a la IA, en eso es experta la UE. Y es un tiro en el pie. Porque si pones limitaciones, burocracia y legislación excesiva en la UE al desarrollo de la IA, sucede pues lo que está sucediendo desde hace algunos años: que otros países desarrollan cosas y avanzan porque no tienen esas limitaciones, mientras la UE solamente es líder en legislación y no en desarrollo.

Las LLMs han traído mucho hype a los temas de IA, pero con ello también ha traído algunos inconvenientes. El primero, que parece que ahora cuando se habla de IA es solo para hablar de LLMs. ¿Y el resto de millones de cosas? El segundo, que como siempre que hay un hype, de repente aparecen los vendemotos que no han entrenado un modelo en su puta vida y que no entienden lo más básico, a meterse en el mundillo, y polucionan las redes con sus mierdas. El tercero, que estos vendemotos se venden muy bien y son los que consiguen dineros, dineros que podrían haber estado mejor invertidos en equipos o startups que sí tienen un transfondo técnico detrás.

Sobre lo de tomar consciencia, está muy lejos el tema. Es más, está más lejos que hace unos años 
Me voy a explicar. Las LLMs están guays, pero se ha puesto tanto el foco en ellas que se han abandonado proyectos con otras maneras de hacer las cosas. El problema es que las LLMs no tienen una manera de representación del conocimiento que sea válido para alcanzar la AGI. Al final las LLMs lo que almacenan son "pesos", y para aprender algo tienes que reentrenar el modelo, y reentrenar el modelo es muy costoso y lleva tiempo. Para alcanzar la AGI lo primero que hace falta es que el modelo sea capaz de aprender en tiempo real, y reentrenando todo es imposible. Es algo de lo que lleva quejándose Yan LeCun un tiempo, pero tampoco le hace caso nadie porque esto de las LLMs está demasiado en el candelero.

Sí se puede hacer algo llamado BabyAGI, que está chulo como experimento, pero tampoco es que valga de mucho para empresas. El BabyAGI consiste en aprovechar la parte de Agentes, es decir, que la LLM no es solo un actor pasivo que le escribes y te contesta, sino que le das funciones para interactuar con su entorno, y la LLM puede decidir utilizar esas funciones para resolver una tarea. Pues bien, ¿qué sucede cuando se le pide una tarea para la que no tiene una función adecuada para interactuar con su entorno? Ejemplo, le pides que lea un fichero CSV, pero no tiene una función para leer ficheros. Pues el BabyAGI se aprovecha de la habilidad de las LLMs para escribir código: si no tienes una función, prográmala y añádela a tu catálogo. Así poco a poco ese agente de IA va adquiriendo nuevas "habilidades", pero seguirá limitada en cuanto al aprendizaje de nuevos conocimientos.

Y nada, un mundillo interesante, a mí me da de comer y con eso ya me basta.

Me encantaría ver la interacción entre una BabyAGI y un LLM intentando que escriba un parser para obtener datos y la LLM use módulos de python inventados que nunca han existido en un repositorio totalmente falso 

A VER COMO LO RESUELVES AHORA!?

Cita de: Orestes en Hoy a las 00:13Abolir el trabajo? Los ricos son más ricos cuanto más pobres son los pobres, antes nos ponen a dar vueltas empujando una rueda que no mueve nada que abolir el trabajo.

Yo a chatgpt lo uso un poco como caja de resonancia, para debatir ideas y conceptos que podría mascar yo pero que me viene bien alguien al otro lado. Y para que me haga expresiones regulares.

Lo digo como consecuencia, no como decisión. Si las IAs y los robots comienzan a ser capaces de realizar cualquier tarea con eficacia, desde atender un bar, cobrarte, preparar la comida, mantener la limpieza, etc., hasta tomar decisiones estratégicas en una empresa a raíz de todo el contexto productivo de la compañía, ¿qué trabajos van a quedar o qué nuevos trabajos van a aparecer para absorber esa masa de trabajadores desplazada? ¿Y qué nos garantiza que esos nuevos trabajos no vayan a ser ocupados por nuevas máquinas que tengan un desempeño mayor a menor coste? Puede llevar a un colapso progresivo del concepto de trabajo, incluso como derecho universal. ¿Sois capaces de asegurar que alguno de vuestros trabajos es imposible que sea sustituido por una máquina en algún momento?

Lo que sí veo más probable es que la brecha socioeconómica se convierta en insalvable, y los ricos se queden ricos para siempre y los pobres no tengan ningún mecanismo posible (salvo matar a los ricos, a los ricos hay que matarlos a todos) para mejorar su condición.

O sea, soy consciente de que actualmente la tecnología para llegar a ese punto no existe, pero tampoco veo un muro tecnológico insalvable que lo evite en los próximos años.

Cita de: Bill en Hoy a las 08:22Sí. Prohibir el reggaeton. Te pongo ejemplos de letras compuestas por seres humanos sin usar IA:
"Cuando la azoto suena pam, pam, pam, pam, pam y las pistolas suenan pam, pam, pam, pam, pam, pam"
"Conmigo una rubia, tiene grande las tetas tiene cara de atrevida pero sin alcohol es tímida"
"Te escupo la boca, te jalo el pelo. Te doy con el bicho y con el lelo en el jet privado, un polvo en el cielo. Hoy quiero una puta, una modelo"

Sobre lo de hacer más limitaciones en ese aspecto, relativo a la IA, en eso es experta la UE. Y es un tiro en el pie. Porque si pones limitaciones, burocracia y legislación excesiva en la UE al desarrollo de la IA, sucede pues lo que está sucediendo desde hace algunos años: que otros países desarrollan cosas y avanzan porque no tienen esas limitaciones, mientras la UE solamente es líder en legislación y no en desarrollo.

Las LLMs han traído mucho hype a los temas de IA, pero con ello también ha traído algunos inconvenientes. El primero, que parece que ahora cuando se habla de IA es solo para hablar de LLMs. ¿Y el resto de millones de cosas? El segundo, que como siempre que hay un hype, de repente aparecen los vendemotos que no han entrenado un modelo en su puta vida y que no entienden lo más básico, a meterse en el mundillo, y polucionan las redes con sus mierdas. El tercero, que estos vendemotos se venden muy bien y son los que consiguen dineros, dineros que podrían haber estado mejor invertidos en equipos o startups que sí tienen un transfondo técnico detrás.

Sobre lo de tomar consciencia, está muy lejos el tema. Es más, está más lejos que hace unos años 
Me voy a explicar. Las LLMs están guays, pero se ha puesto tanto el foco en ellas que se han abandonado proyectos con otras maneras de hacer las cosas. El problema es que las LLMs no tienen una manera de representación del conocimiento que sea válido para alcanzar la AGI. Al final las LLMs lo que almacenan son "pesos", y para aprender algo tienes que reentrenar el modelo, y reentrenar el modelo es muy costoso y lleva tiempo. Para alcanzar la AGI lo primero que hace falta es que el modelo sea capaz de aprender en tiempo real, y reentrenando todo es imposible. Es algo de lo que lleva quejándose Yan LeCun un tiempo, pero tampoco le hace caso nadie porque esto de las LLMs está demasiado en el candelero.

Sí se puede hacer algo llamado BabyAGI, que está chulo como experimento, pero tampoco es que valga de mucho para empresas. El BabyAGI consiste en aprovechar la parte de Agentes, es decir, que la LLM no es solo un actor pasivo que le escribes y te contesta, sino que le das funciones para interactuar con su entorno, y la LLM puede decidir utilizar esas funciones para resolver una tarea. Pues bien, ¿qué sucede cuando se le pide una tarea para la que no tiene una función adecuada para interactuar con su entorno? Ejemplo, le pides que lea un fichero CSV, pero no tiene una función para leer ficheros. Pues el BabyAGI se aprovecha de la habilidad de las LLMs para escribir código: si no tienes una función, prográmala y añádela a tu catálogo. Así poco a poco ese agente de IA va adquiriendo nuevas "habilidades", pero seguirá limitada en cuanto al aprendizaje de nuevos conocimientos.

Y nada, un mundillo interesante, a mí me da de comer y con eso ya me basta.

En cuanto a lo de la legislación de la UE, hasta donde yo sé solo existe una normativa que regula el uso y aplicación, y lo que piden es transparencia en la obtención y uso de los datos, que es donde Zuckerberg y compañía no ceden y esparcen el discurso de que la UE bloquea la innovación. En EEUU tienen tropecientas leyes que regulan la IA en todas las áreas y no veo a las empresas quejarse.

Y en cuanto a que los LLMs no tienen la capacidad de aprender adaptativamente, hay una vía (con la que no estoy de acuerdo a priori) que dice que se puede llegar a la comprensión del entorno de forma análoga a cómo lo hacemos los humanos a través del aumento de la capacidad de cómputo, a lo bruto. Al final tienen la herramienta del lenguaje, que modula el conocimiento, y con la que pueden crear subobjetivos propios no definidos para llegar a los objetivos generales sí codificados. Tampoco sabemos cómo funciona la mente humana en profundidad ni cuál es el peso del lenguaje en la comprensión del mundo, puede suceder que llegue un punto en que simplemente por capacidad puedan entender todo el contexto, unido a mejoras en MCP y MLP, que funcionalmente sea similar. De hecho diría que es la vía que están explorando por lo que dices, los LLMs son lo que mueve dinero, investigar cómo dotar a las IAs de aprendizaje "real" no parece ser la prioridad.

Cita de: Estif en Hoy a las 09:56En cuanto a lo de la legislación de la UE, hasta donde yo sé solo existe una normativa que regula el uso y aplicación, y lo que piden es transparencia en la obtención y uso de los datos, que es donde Zuckerberg y compañía no ceden y esparcen el discurso de que la UE bloquea la innovación. En EEUU tienen tropecientas leyes que regulan la IA en todas las áreas y no veo a las empresas quejarse.

Que va. El AI Act es brutal, y afecta de maneras que no veas. Hacer una IA para corregir exámenes de un bootcamp, por ejemplo, podría parecer que no es importante. Es más, como muchos trabajos son código, el tener una IA revisando el código para dar feedback en el examen, o que compruebe que compila y arranca y hace lo que tiene que hacer, podría parecer obvio que aporta y se puede usar. Pues no. Según el AI Act, ese tipo de IA pertenece al grupo de alto riesgo y tienes que presentar el conformity assesment con muchísimo papeleo 

De hecho, lo que tú has hecho para las entrevistas, también es considerado high risk, y el papeleo que tienes que presentar para poner eso en producción es brutal como tengas que hacerlo solito 

Aparte del AI Act, en España tenemos el Anteproyecto de Ley para el Buen Uso y la Gobernanza de la Inteligencia Artificial.

Y luego están la gran cantidad de entidades que regulan y que están ahí para chupar del bote, gente que no tiene puta idea de IA, pero que son los que van a mirar lo que haces o no hacer nada en sus despachos, como la ENIA o la AESIA. Máquinas de cobrar sin hacer nada productivo.

Cita de: Estif en Hoy a las 09:56Y en cuanto a que los LLMs no tienen la capacidad de aprender adaptativamente, hay una vía (con la que no estoy de acuerdo a priori) que dice que se puede llegar a la comprensión del entorno de forma análoga a cómo lo hacemos los humanos a través del aumento de la capacidad de cómputo, a lo bruto. Al final tienen la herramienta del lenguaje, que modula el conocimiento, y con la que pueden crear subobjetivos propios no definidos para llegar a los objetivos generales sí codificados. Tampoco sabemos cómo funciona la mente humana en profundidad ni cuál es el peso del lenguaje en la comprensión del mundo, puede suceder que llegue un punto en que simplemente por capacidad puedan entender todo el contexto, unido a mejoras en MCP y MLP, que funcionalmente sea similar. De hecho diría que es la vía que están explorando por lo que dices, los LLMs son lo que mueve dinero, investigar cómo dotar a las IAs de aprendizaje "real" no parece ser la prioridad.

Las estrategias que cuentas son de RAG, no de aprendizaje. Es decir, es como si la información está en un libro, le das el libro a la IA, sabe leerlo y dar una respuesta, pero no se le queda absolutamente en la memoria. Las conversaciones con las LLMs no modifican los pesos de sus modelos. Y de eso se queja la comunidad científica de las IAs, de que se han puesto miles de millones en el tema de LLMs, pero realmente no es el camino para llegar a la AGI, llegar a algo que pueda estructurar el conocimiento de una manera más similar a un cerebro humano, e ir aprendiendo de lo que percibe.