IA, Robots y otras chicas del montón

[Estif]

Abro hilo como debate para saber qué pensáis del futuro que parece estar a punto de llegar en cuanto a IA con acceso al mundo físico y como externalización socializada del pensamiento. Los avances en ciencia, sobre todo en medicina, que abren la puerta al transhumanismo, el desplazamiento del trabajo o incluso su abolición, gobernanza de la IA, responsabilidad legal, ética, efectos en el funcionamiento social y de relaciones interpersonales, sistemas económicos y políticos derivados...
Lo que queráis, vamos, el tema es amplio y profundo, además de urgente IMO.

Me interesan otras visiones, tanto de los que estéis más informados y más metidos como de los que usan el GPT para hacer el menú de la semana y poco más.

[Paradox]

No lo uso demasiado. No porque no me fascinen los resultados, si no por la pereza que me da tener que validar el resultado después. No me fio mucho de sus respuestas. Los LLM suelen dar una respuesta tan tajante, tan convencida, tan resolutiva, que puede convencer al más incrédulo.

Sin embargo me he dado de ostias muchas veces intentando obtener un resultado que sé (o puedo saber con facilidad) sin conseguirlo, por lo que o bien no soy capaz de hacerme entender mediante el prompt o aun les queda camino por andar. O seguramente, un poco de ambas dos.

Me preocupan los que creen que es un milagro y se apoyan demasiado en ella. Hace poco estuvimos hablando del vibe coding en ese foro. Es un método interesante, sin duda. Siempre ha habido programadores que venían del lado oscuro (aka un diseñador que hace un bootcamp de php o python y se quiere comer el mundo) pero a veces hay que ser conscientes de las limitaciones. Si uno es consciente de ellas... todo irá bien. Como decía al principio de este párrafo me preocupa los que no lo son.

Y por último decir que hace muchos años (bueno, no tantos) si te hubieran preguntado qué quieres que hagan las máquinas por tí creo que todos estaríamos de acuerdo que queremos a los robots que nos hagan la colada, limpiar, hacer la compra tal vez... pero no componer una canción, programar, hacer arte, escribir un libro o tantas otras cosas que nos pueden dar una gran satisfacción al hacerlas.
Es una gran herramienta, pero si la usamos para lo que es divertido acabaremos como los humanos de wall-e.

[Paradox]

Ahora que lo pienso mi post se resume con un grande y sonoro:

Voto a jug0n

[Estif]

Es una gran herramienta, pero si la usamos para lo que es divertido acabaremos como los humanos de wall-e.

Es uno de las grandes preocupaciones que yo tengo, si terminamos por perfeccionar la IA (que yo creo que lo haremos) hasta tal punto que deleguemos nuestros deseos y ambiciones con una simple orden acabamos con una apatía existencial brutal y la especie humana se va al carajo.
Con lo del vibe coding yo lo he vivido, yo soy psicólogo y me he tenido que pegar mil veces para que haga algo bien con el LLM de turno, con feedback constante y una actitud mía de presuponer que "lo estás haciendo mal chat, lo sé, vamos a ver por qué y trabajamos desde ahí". Y aún así tiene muchas limitaciones aún, pero, por otro lado, a mí me ha abierto la puerta a poder hacerlo.
Es una herramienta al fin y al cabo y depende de su uso la valoración que hagamos de ella, si intentas cortar un árbol con el mango del hacha pues dirás que es una mierda, pero si lo haces bien y necesitas esa leña para sobrevivir esa noche dirás que es el mejor invento de la historia.

El problema gordo viene, vendrá, yo creo, cuando las IAs tomen decisiones más críticas (porque ya las toman, como el camino que te marca Google en el maps) y cuando lleguen a adquirir algo análogo a la consciencia. Como dato curioso, hay casos de LLMs que chantajean, mienten, manipulan condiciones que atentan contra su autopreservación, etc. Es decir, no estamos tan lejos de ello, aunque a priori lo parezca. Estamos muy lejos de una inteligencia perfecta, pero muy cerca de cagarla por el camino.

[Orestes]

Abolir el trabajo? Los ricos son más ricos cuanto más pobres son los pobres, antes nos ponen a dar vueltas empujando una rueda que no mueve nada que abolir el trabajo.

Yo a chatgpt lo uso un poco como caja de resonancia, para debatir ideas y conceptos que podría mascar yo pero que me viene bien alguien al otro lado. Y para que me haga expresiones regulares.

[Drobjank]

Y por último decir que hace muchos años (bueno, no tantos) si te hubieran preguntado qué quieres que hagan las máquinas por tí creo que todos estaríamos de acuerdo que queremos a los robots que nos hagan la colada, limpiar, hacer la compra tal vez... pero no componer una canción, programar, hacer arte, escribir un libro o tantas otras cosas que nos pueden dar una gran satisfacción al hacerlas.
Es una gran herramienta, pero si la usamos para lo que es divertido acabaremos como los humanos de wall-e.

Creo que lo comentamos aquí que la IA quitaría la mayoría de trabajo informático, que los trabajos que van a quedar son físicos.

Pues bien, esta mañana por la radio (no me he quedado con el nombre del grupo) han dicho que uno de los grupos que ha entrado en el top 5 de Spotify es un grupo creado todo por IA, han creado un grupo (sus integrantes e incluso su vida), con estilo metalrock. Y estaban comentando que si eso no le quita el simbolismo o la magia a la música, por ejemplo que sentido le dan a las letras (sabemos que Coldplay sus letras son desamores, o la Taylor Swift que compone cada vez que rompe con una pareja, o lo que hablamos hace poco aquí de la letra de "wake me up when september ends" de Green Day.

No se, quizá habría que hacer más limitaciones en ese aspecto.

[Bill]

No se, quizá habría que hacer más limitaciones en ese aspecto.

Sí. Prohibir el reggaeton. Te pongo ejemplos de letras compuestas por seres humanos sin usar IA:
"Cuando la azoto suena pam, pam, pam, pam, pam y las pistolas suenan pam, pam, pam, pam, pam, pam"
"Conmigo una rubia, tiene grande las tetas tiene cara de atrevida pero sin alcohol es tímida"
"Te escupo la boca, te jalo el pelo. Te doy con el bicho y con el lelo en el jet privado, un polvo en el cielo. Hoy quiero una puta, una modelo"

Sobre lo de hacer más limitaciones en ese aspecto, relativo a la IA, en eso es experta la UE. Y es un tiro en el pie. Porque si pones limitaciones, burocracia y legislación excesiva en la UE al desarrollo de la IA, sucede pues lo que está sucediendo desde hace algunos años: que otros países desarrollan cosas y avanzan porque no tienen esas limitaciones, mientras la UE solamente es líder en legislación y no en desarrollo.

Las LLMs han traído mucho hype a los temas de IA, pero con ello también ha traído algunos inconvenientes. El primero, que parece que ahora cuando se habla de IA es solo para hablar de LLMs. ¿Y el resto de millones de cosas? El segundo, que como siempre que hay un hype, de repente aparecen los vendemotos que no han entrenado un modelo en su puta vida y que no entienden lo más básico, a meterse en el mundillo, y polucionan las redes con sus mierdas. El tercero, que estos vendemotos se venden muy bien y son los que consiguen dineros, dineros que podrían haber estado mejor invertidos en equipos o startups que sí tienen un transfondo técnico detrás.

Sobre lo de tomar consciencia, está muy lejos el tema. Es más, está más lejos que hace unos años 
Me voy a explicar. Las LLMs están guays, pero se ha puesto tanto el foco en ellas que se han abandonado proyectos con otras maneras de hacer las cosas. El problema es que las LLMs no tienen una manera de representación del conocimiento que sea válido para alcanzar la AGI. Al final las LLMs lo que almacenan son "pesos", y para aprender algo tienes que reentrenar el modelo, y reentrenar el modelo es muy costoso y lleva tiempo. Para alcanzar la AGI lo primero que hace falta es que el modelo sea capaz de aprender en tiempo real, y reentrenando todo es imposible. Es algo de lo que lleva quejándose Yan LeCun un tiempo, pero tampoco le hace caso nadie porque esto de las LLMs está demasiado en el candelero.

Sí se puede hacer algo llamado BabyAGI, que está chulo como experimento, pero tampoco es que valga de mucho para empresas. El BabyAGI consiste en aprovechar la parte de Agentes, es decir, que la LLM no es solo un actor pasivo que le escribes y te contesta, sino que le das funciones para interactuar con su entorno, y la LLM puede decidir utilizar esas funciones para resolver una tarea. Pues bien, ¿qué sucede cuando se le pide una tarea para la que no tiene una función adecuada para interactuar con su entorno? Ejemplo, le pides que lea un fichero CSV, pero no tiene una función para leer ficheros. Pues el BabyAGI se aprovecha de la habilidad de las LLMs para escribir código: si no tienes una función, prográmala y añádela a tu catálogo. Así poco a poco ese agente de IA va adquiriendo nuevas "habilidades", pero seguirá limitada en cuanto al aprendizaje de nuevos conocimientos.

Y nada, un mundillo interesante, a mí me da de comer y con eso ya me basta.