IA, Robots y otras chicas del montón

[Estif]

Abro hilo como debate para saber qué pensáis del futuro que parece estar a punto de llegar en cuanto a IA con acceso al mundo físico y como externalización socializada del pensamiento. Los avances en ciencia, sobre todo en medicina, que abren la puerta al transhumanismo, el desplazamiento del trabajo o incluso su abolición, gobernanza de la IA, responsabilidad legal, ética, efectos en el funcionamiento social y de relaciones interpersonales, sistemas económicos y políticos derivados...
Lo que queráis, vamos, el tema es amplio y profundo, además de urgente IMO.

Me interesan otras visiones, tanto de los que estéis más informados y más metidos como de los que usan el GPT para hacer el menú de la semana y poco más.

[Paradox]

No lo uso demasiado. No porque no me fascinen los resultados, si no por la pereza que me da tener que validar el resultado después. No me fio mucho de sus respuestas. Los LLM suelen dar una respuesta tan tajante, tan convencida, tan resolutiva, que puede convencer al más incrédulo.

Sin embargo me he dado de ostias muchas veces intentando obtener un resultado que sé (o puedo saber con facilidad) sin conseguirlo, por lo que o bien no soy capaz de hacerme entender mediante el prompt o aun les queda camino por andar. O seguramente, un poco de ambas dos.

Me preocupan los que creen que es un milagro y se apoyan demasiado en ella. Hace poco estuvimos hablando del vibe coding en ese foro. Es un método interesante, sin duda. Siempre ha habido programadores que venían del lado oscuro (aka un diseñador que hace un bootcamp de php o python y se quiere comer el mundo) pero a veces hay que ser conscientes de las limitaciones. Si uno es consciente de ellas... todo irá bien. Como decía al principio de este párrafo me preocupa los que no lo son.

Y por último decir que hace muchos años (bueno, no tantos) si te hubieran preguntado qué quieres que hagan las máquinas por tí creo que todos estaríamos de acuerdo que queremos a los robots que nos hagan la colada, limpiar, hacer la compra tal vez... pero no componer una canción, programar, hacer arte, escribir un libro o tantas otras cosas que nos pueden dar una gran satisfacción al hacerlas.
Es una gran herramienta, pero si la usamos para lo que es divertido acabaremos como los humanos de wall-e.

[Paradox]

Ahora que lo pienso mi post se resume con un grande y sonoro:

Voto a jug0n

[Estif]

Es una gran herramienta, pero si la usamos para lo que es divertido acabaremos como los humanos de wall-e.

Es uno de las grandes preocupaciones que yo tengo, si terminamos por perfeccionar la IA (que yo creo que lo haremos) hasta tal punto que deleguemos nuestros deseos y ambiciones con una simple orden acabamos con una apatía existencial brutal y la especie humana se va al carajo.
Con lo del vibe coding yo lo he vivido, yo soy psicólogo y me he tenido que pegar mil veces para que haga algo bien con el LLM de turno, con feedback constante y una actitud mía de presuponer que "lo estás haciendo mal chat, lo sé, vamos a ver por qué y trabajamos desde ahí". Y aún así tiene muchas limitaciones aún, pero, por otro lado, a mí me ha abierto la puerta a poder hacerlo.
Es una herramienta al fin y al cabo y depende de su uso la valoración que hagamos de ella, si intentas cortar un árbol con el mango del hacha pues dirás que es una mierda, pero si lo haces bien y necesitas esa leña para sobrevivir esa noche dirás que es el mejor invento de la historia.

El problema gordo viene, vendrá, yo creo, cuando las IAs tomen decisiones más críticas (porque ya las toman, como el camino que te marca Google en el maps) y cuando lleguen a adquirir algo análogo a la consciencia. Como dato curioso, hay casos de LLMs que chantajean, mienten, manipulan condiciones que atentan contra su autopreservación, etc. Es decir, no estamos tan lejos de ello, aunque a priori lo parezca. Estamos muy lejos de una inteligencia perfecta, pero muy cerca de cagarla por el camino.

[Orestes]

Abolir el trabajo? Los ricos son más ricos cuanto más pobres son los pobres, antes nos ponen a dar vueltas empujando una rueda que no mueve nada que abolir el trabajo.

Yo a chatgpt lo uso un poco como caja de resonancia, para debatir ideas y conceptos que podría mascar yo pero que me viene bien alguien al otro lado. Y para que me haga expresiones regulares.

[Drobjank]

Y por último decir que hace muchos años (bueno, no tantos) si te hubieran preguntado qué quieres que hagan las máquinas por tí creo que todos estaríamos de acuerdo que queremos a los robots que nos hagan la colada, limpiar, hacer la compra tal vez... pero no componer una canción, programar, hacer arte, escribir un libro o tantas otras cosas que nos pueden dar una gran satisfacción al hacerlas.
Es una gran herramienta, pero si la usamos para lo que es divertido acabaremos como los humanos de wall-e.

Creo que lo comentamos aquí que la IA quitaría la mayoría de trabajo informático, que los trabajos que van a quedar son físicos.

Pues bien, esta mañana por la radio (no me he quedado con el nombre del grupo) han dicho que uno de los grupos que ha entrado en el top 5 de Spotify es un grupo creado todo por IA, han creado un grupo (sus integrantes e incluso su vida), con estilo metalrock. Y estaban comentando que si eso no le quita el simbolismo o la magia a la música, por ejemplo que sentido le dan a las letras (sabemos que Coldplay sus letras son desamores, o la Taylor Swift que compone cada vez que rompe con una pareja, o lo que hablamos hace poco aquí de la letra de "wake me up when september ends" de Green Day.

No se, quizá habría que hacer más limitaciones en ese aspecto.