la IA lo invade todo

[Edison]

Ver citas anteriores

Ver citas anteriores

La 'comprensión potemkin': el motivo por el que las inteligencias artificiales explican todo pero no entienden nada

Ver citas anteriores

Estamos en una clase de literatura en un instituto. La profesora está enseñando qué es un haiku, un poema de tres versos de origen japonés que transmite una imagen o emoción. Para saber si un alumno en concreto ha entendido el concepto, normalmente le pedirá que lo defina y que redacte uno. Puede que la definición sea mejorable, pero si escribe un buen haiku, la profesora asumirá que va por buen camino.

Esto funciona porque, para los humanos, aplicar un concepto correctamente es la mejor prueba de que lo hemos entendido. Es algo básico en nuestro aprendizaje. Sin embargo, desde la irrupción de las inteligencias artificiales generativas nos hemos encontrado con una realidad que choca frontalmente con nuestro método. Estos algoritmos pueden definir algo perfectamente (de hecho, lo hacen en el 94% de las ocasiones) pero fallar más de la mitad de las veces si se les pide que lo pongan en práctica.

Son los resultados de un estudio preliminar elaborado por Investigadores del Instituto Tecnológico de Massachusetts (MIT) y de las universidades de Harvard y Chicago. Este ha conseguido recoger evidencias sólidas de lo que muchos llevaban años avisando: las inteligencias artificiales generativas de texto no entienden lo que escriben. Pero, además, han profundizado en el fenómeno y las razones por las que se produce. También han propuesto un nombre para él: la “comprensión potemkin”.

El término de “comprensión potemkin” evoca el mito de las aldeas potemkin. Según la leyenda (discutida hoy por los historiadores), estas fueron construidas por Grigori Potemkin, valido y amante de Catalina la Grande de Rusia. Durante un viaje de la zarina por Crimea en 1787 junto a embajadores extranjeros, Potemkin habría mandado construir pueblos falsos para impresionarla y ocultar la pobreza real de la región. Con casas compuestas solo de fachadas, campesinos traídos para la ocasión y animales alquilados, su objetivo era dar una falsa impresión de prosperidad.

Los investigadores utilizan esta analogía en su estudio como metáfora de la “fachada” de raciocinio que los modelos de IA construyen ante nosotros. Una “ilusión de comprensión” que les permite explicar casi cualquier término por el que se les pregunte sin ser capaces de aplicarlo, dando “respuestas irreconciliables con la forma en que cualquier humano interpretaría un concepto”.
...

Nada nuevo. Es como un alumno muy tonto, pero con una gran memoria.

Es curioso, en términos generales las noticias referidas a IA suelen ir en la dirección que tu dices tonto , que acumula datos y los presenta decentemente, pero no faltan las de ¡Cuidado, es una amenaza! ¡Esto no ha hecho más que empezar!
La amenaza más habitual es la relativa a los empleos que van a ser innecesarios, al reemplazo laboral , pero no faltan las apocalípticas :más propias de guiones de sci-fi ( sin descartar que en un futuro esos guiones puedan haber abandonado el terreno de la ficción)
Esta noticia es un tanto híbrida : amenaza de cambios enfocándose sobre todo en lo laboral , pero con titulares catastrofistas ( sin embargo cuando se lee el texto , deja un lugar también para un futuro esperanzador y quizás ingenuamente idílico)
https://vandal.elespanol.com/random/ada ... 35080.html

Está claro, cuando falla la inteligencia natural solo queda esto:

Cómo se entrena Grok, la IA de X, y por qué ha elogiado a Hitler y realizado comentarios antisemitas

Ver citas anteriores

...
Cómo aprende Grok. Girón, Liz-López y D’Antonio explican que este tipo de inteligencias artificiales tienen “dos fases bien marcadas” en su entrenamiento.

En primer lugar, se da lo que conocemos como preentrenamiento, que sería algo como “leerse y memorizarse todo Internet”, señalan.

La segunda fase marca cómo la IA va a responder a la petición del usuario, algo que depende de los datos que reciba. “Aprenderá a contestar como le hayan dicho que tiene que hacerlo, ni más ni menos”. En este sentido, los tres expertos apuntan que “hay muy poca información acerca del funcionamiento de Grok, pero lo que sí podemos afirmar es que, si es capaz de responder con discurso de odio, es porque en su entrenamiento ha visto discurso de odio”.
---

[Vitornacovilha]

Ver citas anteriores

Ver citas anteriores

Ver citas anteriores

La 'comprensión potemkin': el motivo por el que las inteligencias artificiales explican todo pero no entienden nada

Ver citas anteriores

Estamos en una clase de literatura en un instituto. La profesora está enseñando qué es un haiku, un poema de tres versos de origen japonés que transmite una imagen o emoción. Para saber si un alumno en concreto ha entendido el concepto, normalmente le pedirá que lo defina y que redacte uno. Puede que la definición sea mejorable, pero si escribe un buen haiku, la profesora asumirá que va por buen camino.

Esto funciona porque, para los humanos, aplicar un concepto correctamente es la mejor prueba de que lo hemos entendido. Es algo básico en nuestro aprendizaje. Sin embargo, desde la irrupción de las inteligencias artificiales generativas nos hemos encontrado con una realidad que choca frontalmente con nuestro método. Estos algoritmos pueden definir algo perfectamente (de hecho, lo hacen en el 94% de las ocasiones) pero fallar más de la mitad de las veces si se les pide que lo pongan en práctica.

Son los resultados de un estudio preliminar elaborado por Investigadores del Instituto Tecnológico de Massachusetts (MIT) y de las universidades de Harvard y Chicago. Este ha conseguido recoger evidencias sólidas de lo que muchos llevaban años avisando: las inteligencias artificiales generativas de texto no entienden lo que escriben. Pero, además, han profundizado en el fenómeno y las razones por las que se produce. También han propuesto un nombre para él: la “comprensión potemkin”.

El término de “comprensión potemkin” evoca el mito de las aldeas potemkin. Según la leyenda (discutida hoy por los historiadores), estas fueron construidas por Grigori Potemkin, valido y amante de Catalina la Grande de Rusia. Durante un viaje de la zarina por Crimea en 1787 junto a embajadores extranjeros, Potemkin habría mandado construir pueblos falsos para impresionarla y ocultar la pobreza real de la región. Con casas compuestas solo de fachadas, campesinos traídos para la ocasión y animales alquilados, su objetivo era dar una falsa impresión de prosperidad.

Los investigadores utilizan esta analogía en su estudio como metáfora de la “fachada” de raciocinio que los modelos de IA construyen ante nosotros. Una “ilusión de comprensión” que les permite explicar casi cualquier término por el que se les pregunte sin ser capaces de aplicarlo, dando “respuestas irreconciliables con la forma en que cualquier humano interpretaría un concepto”.
...

Nada nuevo. Es como un alumno muy tonto, pero con una gran memoria.

Es curioso, en términos generales las noticias referidas a IA suelen ir en la dirección que tu dices tonto , que acumula datos y los presenta decentemente, pero no faltan las de ¡Cuidado, es una amenaza! ¡Esto no ha hecho más que empezar!
La amenaza más habitual es la relativa a los empleos que van a ser innecesarios, al reemplazo laboral , pero no faltan las apocalípticas :más propias de guiones de sci-fi ( sin descartar que en un futuro esos guiones puedan haber abandonado el terreno de la ficción)
Esta noticia es un tanto híbrida : amenaza de cambios enfocándose sobre todo en lo laboral , pero con titulares catastrofistas ( sin embargo cuando se lee el texto , deja un lugar también para un futuro esperanzador y quizás ingenuamente idílico)
https://vandal.elespanol.com/random/ada ... 35080.html

Está claro, cuando falla la inteligencia natural solo queda esto:

Cómo se entrena Grok, la IA de X, y por qué ha elogiado a Hitler y realizado comentarios antisemitas

Ver citas anteriores

...
Cómo aprende Grok. Girón, Liz-López y D’Antonio explican que este tipo de inteligencias artificiales tienen “dos fases bien marcadas” en su entrenamiento.

En primer lugar, se da lo que conocemos como preentrenamiento, que sería algo como “leerse y memorizarse todo Internet”, señalan.

La segunda fase marca cómo la IA va a responder a la petición del usuario, algo que depende de los datos que reciba. “Aprenderá a contestar como le hayan dicho que tiene que hacerlo, ni más ni menos”. En este sentido, los tres expertos apuntan que “hay muy poca información acerca del funcionamiento de Grok, pero lo que sí podemos afirmar es que, si es capaz de responder con discurso de odio, es porque en su entrenamiento ha visto discurso de odio”.
---

Exactamente lo que ha ocurrido es que Grok estaba siendo demasiado liberal (en términos anglosajones) y Musk intentó darle un giro más conservador, todo terminó en que se volvió nazi.

Pero Grok era liberal, y bastante de izquierda.

Pero por aquí la peña decía que Grok era un arma del imperialismo que ensuciaba mentes con sus opiniones burguesas.

[Nowomowa]

Ver citas anteriores

Ver citas anteriores

La 'comprensión potemkin': el motivo por el que las inteligencias artificiales explican todo pero no entienden nada

Ver citas anteriores

Estamos en una clase de literatura en un instituto. La profesora está enseñando qué es un haiku, un poema de tres versos de origen japonés que transmite una imagen o emoción. Para saber si un alumno en concreto ha entendido el concepto, normalmente le pedirá que lo defina y que redacte uno. Puede que la definición sea mejorable, pero si escribe un buen haiku, la profesora asumirá que va por buen camino.

Esto funciona porque, para los humanos, aplicar un concepto correctamente es la mejor prueba de que lo hemos entendido. Es algo básico en nuestro aprendizaje. Sin embargo, desde la irrupción de las inteligencias artificiales generativas nos hemos encontrado con una realidad que choca frontalmente con nuestro método. Estos algoritmos pueden definir algo perfectamente (de hecho, lo hacen en el 94% de las ocasiones) pero fallar más de la mitad de las veces si se les pide que lo pongan en práctica.

Son los resultados de un estudio preliminar elaborado por Investigadores del Instituto Tecnológico de Massachusetts (MIT) y de las universidades de Harvard y Chicago. Este ha conseguido recoger evidencias sólidas de lo que muchos llevaban años avisando: las inteligencias artificiales generativas de texto no entienden lo que escriben. Pero, además, han profundizado en el fenómeno y las razones por las que se produce. También han propuesto un nombre para él: la “comprensión potemkin”.

El término de “comprensión potemkin” evoca el mito de las aldeas potemkin. Según la leyenda (discutida hoy por los historiadores), estas fueron construidas por Grigori Potemkin, valido y amante de Catalina la Grande de Rusia. Durante un viaje de la zarina por Crimea en 1787 junto a embajadores extranjeros, Potemkin habría mandado construir pueblos falsos para impresionarla y ocultar la pobreza real de la región. Con casas compuestas solo de fachadas, campesinos traídos para la ocasión y animales alquilados, su objetivo era dar una falsa impresión de prosperidad.

Los investigadores utilizan esta analogía en su estudio como metáfora de la “fachada” de raciocinio que los modelos de IA construyen ante nosotros. Una “ilusión de comprensión” que les permite explicar casi cualquier término por el que se les pregunte sin ser capaces de aplicarlo, dando “respuestas irreconciliables con la forma en que cualquier humano interpretaría un concepto”.
...

Nada nuevo. Es como un alumno muy tonto, pero con una gran memoria.

Es curioso, en términos generales las noticias referidas a IA suelen ir en la dirección que tu dices tonto , que acumula datos y los presenta decentemente, pero no faltan las de ¡Cuidado, es una amenaza! ¡Esto no ha hecho más que empezar!
La amenaza más habitual es la relativa a los empleos que van a ser innecesarios, al reemplazo laboral , pero no faltan las apocalípticas :más propias de guiones de sci-fi ( sin descartar que en un futuro esos guiones puedan haber abandonado el terreno de la ficción)
Esta noticia es un tanto híbrida : amenaza de cambios enfocándose sobre todo en lo laboral , pero con titulares catastrofistas ( sin embargo cuando se lee el texto , deja un lugar también para un futuro esperanzador y quizás ingenuamente idílico)
https://vandal.elespanol.com/random/ada ... 35080.html

En esto de la IA hay mucho batiburrillo e intereses económicos. Las IA LLM no son verdaderamente inteligentes, pero pueden fingir que pueden sustituir ciertos trabajos lo bastante bien para que alguien se lleve un bonus y para cuando se vea que no pita ese alguien ya estará cobrando el doble en otra empresa (por ejemplo: la deblace de DuoLingo).

Asimismo hay un riesgo general en la automatización de tareas, con o sin IAs LLM o de otros tipos, en la tendencia capitalista de destruir salarios como forma de aumentar los beneficios.

Se habla mucho de que pueden usarse las IA para programar, pero lo que hacen es sustituir la función del programador humano de "buscar en GitHub un trozo de código que pueda cumplir la función que deseas" y "enganchar uno detrás de otro muchos trozos de código a ver si la cosa no se rompe mucho al interactuar con todos los otros pastiches de los otros programadores". Es ineficiente porque a menudo "lo primero que encuentras" no es "la solución óptima" pero los tiempos en los que había que optimizar el código pasaron a la historia cuando alguien cobró un bonus y se fue a cobrar el doble a otra empresa tras vender la moto de que "un indio que te suelte 2000 líneas de código por día es más barato y sirve igual". Sigue habiendo tareas-nunca-antes-resueltas y superprogramadores, pero el hecho de que la pogramación de software pueda acometerla una IA habla mucho peor de cómo se perpetra software hoy en día que de las capacidades de la idiotez artificial... la cual a su vez también es un tipo de software en constante estado de perpetración.

[SABELA]

Ver citas anteriores

Ver citas anteriores

Ver citas anteriores

La 'comprensión potemkin': el motivo por el que las inteligencias artificiales explican todo pero no entienden nada

Ver citas anteriores

Estamos en una clase de literatura en un instituto. La profesora está enseñando qué es un haiku, un poema de tres versos de origen japonés que transmite una imagen o emoción. Para saber si un alumno en concreto ha entendido el concepto, normalmente le pedirá que lo defina y que redacte uno. Puede que la definición sea mejorable, pero si escribe un buen haiku, la profesora asumirá que va por buen camino.

Esto funciona porque, para los humanos, aplicar un concepto correctamente es la mejor prueba de que lo hemos entendido. Es algo básico en nuestro aprendizaje. Sin embargo, desde la irrupción de las inteligencias artificiales generativas nos hemos encontrado con una realidad que choca frontalmente con nuestro método. Estos algoritmos pueden definir algo perfectamente (de hecho, lo hacen en el 94% de las ocasiones) pero fallar más de la mitad de las veces si se les pide que lo pongan en práctica.

Son los resultados de un estudio preliminar elaborado por Investigadores del Instituto Tecnológico de Massachusetts (MIT) y de las universidades de Harvard y Chicago. Este ha conseguido recoger evidencias sólidas de lo que muchos llevaban años avisando: las inteligencias artificiales generativas de texto no entienden lo que escriben. Pero, además, han profundizado en el fenómeno y las razones por las que se produce. También han propuesto un nombre para él: la “comprensión potemkin”.

El término de “comprensión potemkin” evoca el mito de las aldeas potemkin. Según la leyenda (discutida hoy por los historiadores), estas fueron construidas por Grigori Potemkin, valido y amante de Catalina la Grande de Rusia. Durante un viaje de la zarina por Crimea en 1787 junto a embajadores extranjeros, Potemkin habría mandado construir pueblos falsos para impresionarla y ocultar la pobreza real de la región. Con casas compuestas solo de fachadas, campesinos traídos para la ocasión y animales alquilados, su objetivo era dar una falsa impresión de prosperidad.

Los investigadores utilizan esta analogía en su estudio como metáfora de la “fachada” de raciocinio que los modelos de IA construyen ante nosotros. Una “ilusión de comprensión” que les permite explicar casi cualquier término por el que se les pregunte sin ser capaces de aplicarlo, dando “respuestas irreconciliables con la forma en que cualquier humano interpretaría un concepto”.
...

Nada nuevo. Es como un alumno muy tonto, pero con una gran memoria.

Es curioso, en términos generales las noticias referidas a IA suelen ir en la dirección que tu dices tonto , que acumula datos y los presenta decentemente, pero no faltan las de ¡Cuidado, es una amenaza! ¡Esto no ha hecho más que empezar!
La amenaza más habitual es la relativa a los empleos que van a ser innecesarios, al reemplazo laboral , pero no faltan las apocalípticas :más propias de guiones de sci-fi ( sin descartar que en un futuro esos guiones puedan haber abandonado el terreno de la ficción)
Esta noticia es un tanto híbrida : amenaza de cambios enfocándose sobre todo en lo laboral , pero con titulares catastrofistas ( sin embargo cuando se lee el texto , deja un lugar también para un futuro esperanzador y quizás ingenuamente idílico)
https://vandal.elespanol.com/random/ada ... 35080.html

En esto de la IA hay mucho batiburrillo e intereses económicos. Las IA LLM no son verdaderamente inteligentes, pero pueden fingir que pueden sustituir ciertos trabajos lo bastante bien para que alguien se lleve un bonus y para cuando se vea que no pita ese alguien ya estará cobrando el doble en otra empresa (por ejemplo: la deblace de DuoLingo).

Asimismo hay un riesgo general en la automatización de tareas, con o sin IAs LLM o de otros tipos, en la tendencia capitalista de destruir salarios como forma de aumentar los beneficios.

Se habla mucho de que pueden usarse las IA para programar, pero lo que hacen es sustituir la función del programador humano de "buscar en GitHub un trozo de código que pueda cumplir la función que deseas" y "enganchar uno detrás de otro muchos trozos de código a ver si la cosa no se rompe mucho al interactuar con todos los otros pastiches de los otros programadores". Es ineficiente porque a menudo "lo primero que encuentras" no es "la solución óptima" pero los tiempos en los que había que optimizar el código pasaron a la historia cuando alguien cobró un bonus y se fue a cobrar el doble a otra empresa tras vender la moto de que "un indio que te suelte 2000 líneas de código por día es más barato y sirve igual". Sigue habiendo tareas-nunca-antes-resueltas y superprogramadores, pero el hecho de que la pogramación de software pueda acometerla una IA habla mucho peor de cómo se perpetra software hoy en día que de las capacidades de la idiotez artificial... la cual a su vez también es un tipo de software en constante estado de perpetración.

Ya he leído acerca de las quejas de programadores acerca de la dificultad de corregir bugs en programas hechos por IA. Me pregunto si la IA mete lineas de comentarios y escribe documentos técnicos de programación
¿ Lo sabes?

[Edison]

En la época en que todo el sistema operativo de un ordenador cabía en una ROM de 4 kbytes, uno podía memorizarlo completo y sabía exactamente lo que hacía, microinstrucción por microinstrucción. Y si no hacía exactamente lo que querías era culpa tuya. Pero ahora lo único seguro es que cuando tomas un trozo de programa de aquí y otro de allá, habrá mucha mierda mezclada. Solo puedes poner un cirio a Santa Rita y esperar que no cause alguna desgracia imprevista.

[SABELA]

Ver citas anteriores

En la época en que todo el sistema operativo de un ordenador de oficina cabía en una ROM de 4 kbytes, uno podía memorizarlo completo y sabía exactamente lo que hacía, microinstrucción por microinstrucción. Y si no hacía lo que querías, era culpa tuya. Pero ahora lo único seguro es que cuando tomas un trozo de programa de aquí y otro de allá, habrá mucha mierda mezclada. Solo puedes poner un cirio a Santa Rita y esperar que no cause alguna desgracia imprevista.

Si se trata de aplicaciones corporativas y las copias se hacen de programas con funcionalidades similares y que marchan bien es mucho más eficiente la copia ¿no crees? , por tiempo, pero también para mantener los estándares y la comprensión .

[Edison]

Ver citas anteriores

Ver citas anteriores

En la época en que todo el sistema operativo de un ordenador de oficina cabía en una ROM de 4 kbytes, uno podía memorizarlo completo y sabía exactamente lo que hacía, microinstrucción por microinstrucción. Y si no hacía lo que querías, era culpa tuya. Pero ahora lo único seguro es que cuando tomas un trozo de programa de aquí y otro de allá, habrá mucha mierda mezclada. Solo puedes poner un cirio a Santa Rita y esperar que no cause alguna desgracia imprevista.

Si se trata de aplicaciones corporativas y las copias se hacen de programas con funcionalidades similares y que marchan bien es mucho más eficiente la copia ¿no crees? , por tiempo, pero también para mantener los estándares y la comprensión .

Está claro que una hoja de cálculo no causará muchos problemas por añadir algo más de color para distinguir filas y columnas, y si los hay es fácil que se descubra a tiempo. Lo malo es cuando se trata de un programa para controlar algo que se mueve, y menos mal si no muere nadie.

Un error de código le provocó a la NASA la pérdida de 150 millones de dólares

Hablando de incompetentes: El día en que la NASA estrelló una sonda en Marte porque alguien olvidó usar el sistema métrico

[SABELA]

Ver citas anteriores

Ver citas anteriores

Ver citas anteriores

En la época en que todo el sistema operativo de un ordenador de oficina cabía en una ROM de 4 kbytes, uno podía memorizarlo completo y sabía exactamente lo que hacía, microinstrucción por microinstrucción. Y si no hacía lo que querías, era culpa tuya. Pero ahora lo único seguro es que cuando tomas un trozo de programa de aquí y otro de allá, habrá mucha mierda mezclada. Solo puedes poner un cirio a Santa Rita y esperar que no cause alguna desgracia imprevista.

Si se trata de aplicaciones corporativas y las copias se hacen de programas con funcionalidades similares y que marchan bien es mucho más eficiente la copia ¿no crees? , por tiempo, pero también para mantener los estándares y la comprensión .

Está claro que una hoja de cálculo no causará muchos problemas por añadir algo más de color para distinguir filas y columnas, y si los hay es fácil que se descubra a tiempo. Lo malo es cuando se trata del programa para controlar algo que se mueve, y menos mal si no muere nadie.
Un error de código le provocó a la NASA la pérdida de 150 millones de dólares

Hablando de incompetentes: El día en que la NASA estrelló una sonda en Marte porque alguien olvidó usar el sistema métrico

Cuando hablo de aplicaciones corporativas no hablo de hojas de cálculo sino de programas más o menos complejos normalmente realizados ad-hoc en el lenguaje o lenguajes de programación que sean. No tienen por qué ser de la Nasa, pueden ser de una entidad financiera, por ejemplo, y hacer un buen roto si algo sale especialmente mal.

[Sostiene]

Cambridge Analytica fue una empresa británica de consultoría política que se hizo famosa por su participación en el escándalo de datos de Facebook en 2018. La empresa utilizaba técnicas de análisis de datos para influir en el comportamiento electoral, recopilando información personal de usuarios de Facebook a través de una aplicación de terceros y utilizándola para crear perfiles psicológicos con fines publicitarios y políticos.
¿Qué hizo Cambridge Analytica?
Recopilación de datos:
La empresa utilizó una aplicación de terceros, "This is your digital life", desarrollada por Aleksandr Kogan, para recopilar datos personales de millones de usuarios de Facebook, incluyendo información sobre sus amigos, sin su consentimiento explícito.
Análisis de datos:
Cambridge Analytica analizó estos datos para crear perfiles psicológicos de los usuarios, identificando sus rasgos de personalidad, preferencias y vulnerabilidades.
Influencia política:
Con estos perfiles, la empresa diseñó campañas publicitarias y mensajes personalizados dirigidos a segmentos específicos de la población, buscando influir en sus decisiones electorales.
Escándalo de Facebook:
El escándalo surgió cuando se reveló que Cambridge Analytica había utilizado la información recopilada de forma ilegítima para influir en las elecciones presidenciales de Estados Unidos de 2016, así como en otros procesos electorales a nivel mundial.
Cierre de la empresa:
Ante las fuertes críticas y la presión mediática, Cambridge Analytica cerró sus operaciones en 2018.
Impacto del escándalo:
Escándalo de privacidad:
El caso de Cambridge Analytica puso de manifiesto los riesgos de la recopilación masiva de datos personales y la falta de control sobre su uso.
Cuestionamiento de Facebook:
Facebook enfrentó fuertes críticas por permitir que esta situación ocurriera en su plataforma y por la forma en que manejó la filtración de datos.
Debate sobre la influencia política:
El escándalo generó un debate sobre el papel de las redes sociales y las técnicas de análisis de datos en la política y la democracia.
Documental de Netflix:
La historia de Cambridge Analytica y el escándalo de datos fue llevada al documental "The Great Hack" de Netflix, que explora los detalles del caso y sus implicaciones.

[Nowomowa]

Un artículo interesante que da un cariz filosófico a algo que ya se me había ocurrido anteriormente... que algo no-humano haga algo que nosotros hacemos pensando no significa que la haya hecho pensando; un resultaod pued eobtenerse por diversos caminso (y los LLM usan fuerza bruta y muy pero que muy bruta para producir lenguaje que a nosotros nos parece humano, pero no es más que una imitación).

https://theconversation.com/la-trampa-d ... ras-261278

Ver citas anteriores

La trampa de los grandes modelos de lenguaje: ver conciencia donde solo hay palabras

No son pocos los usuarios –entre ellos personas con formación científica o humanística– que aseguran haber percibido signos de vida interior, emociones e incluso voluntad en estos sistemas. Sostienen que ciertos intercambios verbales revelan emociones complejas, empatía, autoconciencia e incluso sufrimiento.

Esta ilusión ha sido descrita por el científico y filósofo estadounidense Douglas Richard Hofstadter como una peligrosa confusión entre el uso sofisticado del lenguaje y la vivencia subjetiva de una conciencia real. Su crítica apunta a la forma en que muchos entusiastas interpretan la complejidad verbal como una señal de interioridad, sin reparar en la diferencia crucial entre generar lenguaje y tener experiencias. Es precisamente esta distinción –entre producción textual y subjetividad vivida– la que permite cuestionar la idea de que un sistema lingüístico pueda, por sí solo, alcanzar conciencia.

(...)

[Edison]

Ver citas anteriores

Un artículo interesante que da un cariz filosófico a algo que ya se me había ocurrido anteriormente... que algo no-humano haga algo que nosotros hacemos pensando no significa que la haya hecho pensando; un resultaod pued eobtenerse por diversos caminso (y los LLM usan fuerza bruta y muy pero que muy bruta para producir lenguaje que a nosotros nos parece humano, pero no es más que una imitación).

https://theconversation.com/la-trampa-d ... ras-261278

Ver citas anteriores

La trampa de los grandes modelos de lenguaje: ver conciencia donde solo hay palabras

No son pocos los usuarios –entre ellos personas con formación científica o humanística– que aseguran haber percibido signos de vida interior, emociones e incluso voluntad en estos sistemas. Sostienen que ciertos intercambios verbales revelan emociones complejas, empatía, autoconciencia e incluso sufrimiento.

Esta ilusión ha sido descrita por el científico y filósofo estadounidense Douglas Richard Hofstadter como una peligrosa confusión entre el uso sofisticado del lenguaje y la vivencia subjetiva de una conciencia real. Su crítica apunta a la forma en que muchos entusiastas interpretan la complejidad verbal como una señal de interioridad, sin reparar en la diferencia crucial entre generar lenguaje y tener experiencias. Es precisamente esta distinción –entre producción textual y subjetividad vivida– la que permite cuestionar la idea de que un sistema lingüístico pueda, por sí solo, alcanzar conciencia.

(...)

Esto me recuerda una anécdota que leí en el libro que me despertó la vocación por las chispas ("Tú y la electricidad", de Eduard Rhein) Nadie hacía mucho caso del invento del teléfono hasta que el emperador del Brasil soltó un "¡Dios mio! ¡este aparato habla!"
Como no voy a copiar el libro, pongo un enlace donde se comenta algo del tema. Por cierto, con esto de la paternidad de los inventos, unos llevan la fama y otros cardan la lana.

https://historia.nationalgeographic.com ... fono_15118

[SABELA]

Ver citas anteriores

Ver citas anteriores

Un artículo interesante que da un cariz filosófico a algo que ya se me había ocurrido anteriormente... que algo no-humano haga algo que nosotros hacemos pensando no significa que la haya hecho pensando; un resultaod pued eobtenerse por diversos caminso (y los LLM usan fuerza bruta y muy pero que muy bruta para producir lenguaje que a nosotros nos parece humano, pero no es más que una imitación).

https://theconversation.com/la-trampa-d ... ras-261278

Ver citas anteriores

La trampa de los grandes modelos de lenguaje: ver conciencia donde solo hay palabras

No son pocos los usuarios –entre ellos personas con formación científica o humanística– que aseguran haber percibido signos de vida interior, emociones e incluso voluntad en estos sistemas. Sostienen que ciertos intercambios verbales revelan emociones complejas, empatía, autoconciencia e incluso sufrimiento.

Esta ilusión ha sido descrita por el científico y filósofo estadounidense Douglas Richard Hofstadter como una peligrosa confusión entre el uso sofisticado del lenguaje y la vivencia subjetiva de una conciencia real. Su crítica apunta a la forma en que muchos entusiastas interpretan la complejidad verbal como una señal de interioridad, sin reparar en la diferencia crucial entre generar lenguaje y tener experiencias. Es precisamente esta distinción –entre producción textual y subjetividad vivida– la que permite cuestionar la idea de que un sistema lingüístico pueda, por sí solo, alcanzar conciencia.

(...)

Esto me recuerda una anécdota que leí en el libro que me despertó la vocación por las chispas ("Tú y la electricidad", de Eduard Rhein) Nadie hacía mucho caso del invento del teléfono hasta que el emperador del Brasil soltó un "¡Dios mio! ¡este aparato habla!"
Como no voy a copiar el libro, pongo un enlace donde se comenta algo del tema. Por cierto, con esto de la paternidad de los inventos, unos llevan la fama y otros cardan la lana.

https://historia.nationalgeographic.com ... fono_15118

Barro para casa. A mi me gustaria que se hablara de ls maternidad de los inventos, de todas esas cosas ideadas u obra de mujeres a las que se les arrebató la autoria.
¿ Se llamaba Big Eyes aquella peli de Tim Burton , creo, que iba de esto?

[SABELA]

El primer ministro sueco admite que usa ChatGPT para una “segunda opinión” en sus labores de gobierno
https://elpais.com/internacional/2025-0 ... ierno.html

Segunda opinión está entre comillas pero él ha dicho
La uso con bastante frecuencia. Aunque solo sea para obtener una segunda opinión

Hombre , peor que confiarlo a videntes y astrólogos , como se decía sobre todo de ilustres políticos franceses no es, pero llamarlo opinión como quien solicita una segunda opinión médica, indica una cierta confusión

[Nowomowa]

Ver citas anteriores

Ver citas anteriores

Ver citas anteriores

Un artículo interesante que da un cariz filosófico a algo que ya se me había ocurrido anteriormente... que algo no-humano haga algo que nosotros hacemos pensando no significa que la haya hecho pensando; un resultaod pued eobtenerse por diversos caminso (y los LLM usan fuerza bruta y muy pero que muy bruta para producir lenguaje que a nosotros nos parece humano, pero no es más que una imitación).

https://theconversation.com/la-trampa-d ... ras-261278

Ver citas anteriores

La trampa de los grandes modelos de lenguaje: ver conciencia donde solo hay palabras

No son pocos los usuarios –entre ellos personas con formación científica o humanística– que aseguran haber percibido signos de vida interior, emociones e incluso voluntad en estos sistemas. Sostienen que ciertos intercambios verbales revelan emociones complejas, empatía, autoconciencia e incluso sufrimiento.

Esta ilusión ha sido descrita por el científico y filósofo estadounidense Douglas Richard Hofstadter como una peligrosa confusión entre el uso sofisticado del lenguaje y la vivencia subjetiva de una conciencia real. Su crítica apunta a la forma en que muchos entusiastas interpretan la complejidad verbal como una señal de interioridad, sin reparar en la diferencia crucial entre generar lenguaje y tener experiencias. Es precisamente esta distinción –entre producción textual y subjetividad vivida– la que permite cuestionar la idea de que un sistema lingüístico pueda, por sí solo, alcanzar conciencia.

(...)

Esto me recuerda una anécdota que leí en el libro que me despertó la vocación por las chispas ("Tú y la electricidad", de Eduard Rhein) Nadie hacía mucho caso del invento del teléfono hasta que el emperador del Brasil soltó un "¡Dios mio! ¡este aparato habla!"
Como no voy a copiar el libro, pongo un enlace donde se comenta algo del tema. Por cierto, con esto de la paternidad de los inventos, unos llevan la fama y otros cardan la lana.

https://historia.nationalgeographic.com ... fono_15118

Barro para casa. A mi me gustaria que se hablara de ls maternidad de los inventos, de todas esas cosas ideadas u obra de mujeres a las que se les arrebató la autoria.
¿ Se llamaba Big Eyes aquella peli de Tim Burton , creo, que iba de esto?

¡AH! Justo ahora acabo de caer en la cuenta de que llevas de avatar a Ada Lovelace...

[SABELA]

Ver citas anteriores

Ver citas anteriores

Ver citas anteriores

Ver citas anteriores

Un artículo interesante que da un cariz filosófico a algo que ya se me había ocurrido anteriormente... que algo no-humano haga algo que nosotros hacemos pensando no significa que la haya hecho pensando; un resultaod pued eobtenerse por diversos caminso (y los LLM usan fuerza bruta y muy pero que muy bruta para producir lenguaje que a nosotros nos parece humano, pero no es más que una imitación).

https://theconversation.com/la-trampa-d ... ras-261278

Esto me recuerda una anécdota que leí en el libro que me despertó la vocación por las chispas ("Tú y la electricidad", de Eduard Rhein) Nadie hacía mucho caso del invento del teléfono hasta que el emperador del Brasil soltó un "¡Dios mio! ¡este aparato habla!"
Como no voy a copiar el libro, pongo un enlace donde se comenta algo del tema. Por cierto, con esto de la paternidad de los inventos, unos llevan la fama y otros cardan la lana.

https://historia.nationalgeographic.com ... fono_15118

Barro para casa. A mi me gustaria que se hablara de ls maternidad de los inventos, de todas esas cosas ideadas u obra de mujeres a las que se les arrebató la autoria.
¿ Se llamaba Big Eyes aquella peli de Tim Burton , creo, que iba de esto?

¡AH! Justo ahora acabo de caer en la cuenta de que llevas de avatar a Ada Lovelace...

La historia de ser una precursora de la programación y la máquina analítica esa que con Babbage intentó hacer funcionar me parece fascinante.
No es de las que se han quedado sin reconocimiento, precisamente, aunque me parece que algún rifirrafe sobre la autoría acabó teniendo con Babbage.

[Edison]

La "princesa de loa paralelogramos". La primera vez que supe de su existencia fue en este librito de Alianza Editorial:



Vale la pena enterarse de quien fue Ada Lovelace. La afición por las matemáticas ya le venía por herencia materna: Anna Isabella Noel Byron. Estoy seguro de que ambas eran muy inteligentes, aunque el no tener que ganarse las judías algo ayudaría. Tampoco Babbage necesitaba trabajar para comer

[SABELA]

Ver citas anteriores

La "princesa de loa paralelogramos". La primera vez que supe de su existencia fue en este librito de Alianza Editorial:



Vale la pena enterarse de quien fue Ada Lovelace. La afición por las matemáticas ya le venía por herencia materna: Anna Isabella Noel Byron. Estoy seguro de que ambas eran muy inteligentes, aunque el no tener que ganarse las judías algo ayudaría. Tampoco Babbage necesitaba trabajar para comer

Ya , la historia familiar la conozco, también con Lord Byron.
Sí claro, las mujeres de clase alta y situación desahogada podían permitirse algunos lujos como dedicar tiempo a las Ciencias, a las Artes. Podía tener formación y acceder a determinados círculos y(o personajes relevantes, además de contar con nodrizas, niñeras, sirvientes , institutrices, internados

[Edison]

Ver citas anteriores

Ver citas anteriores

La "princesa de loa paralelogramos". La primera vez que supe de su existencia fue en este librito de Alianza Editorial:



Vale la pena enterarse de quien fue Ada Lovelace. La afición por las matemáticas ya le venía por herencia materna: Anna Isabella Noel Byron. Estoy seguro de que ambas eran muy inteligentes, aunque el no tener que ganarse las judías algo ayudaría. Tampoco Babbage necesitaba trabajar para comer

Ya , la historia familiar la conozco, también con Lord Byron.
Sí claro, las mujeres de clase alta y situación desahogada podían permitirse algunos lujos como dedicar tiempo a las Ciencias, a las Artes. Podía tener formación y acceder a determinados círculos y(o personajes relevantes, además de contar con nodrizas, niñeras, sirvientes , institutrices, internados

Pues eso. No se es más listo por ser más macho, pero si no necesitas currar es más fácil

[Nowomowa]

Una pequeña anécdota, autotraducida con algunos pequeños arreglos...

Fuente: https://notalwaysright.com/the-lost-gen ... ls/386425/

Ver citas anteriores

La Generación Perdida… De los Conocimientos Básicos de Informática

Tengo treinta y tantos años y trabajo en una oficina. Parte de mi trabajo consiste en integrar a los nuevos empleados y asignarles tareas sencillas. Hace poco, contratamos a algunos recién salidos de la universidad.

Yo: "Oye, ¿podrías sacar estos números de la hoja de cálculo y hacer una gráfica rápida en Excel? Un simple gráfico circular serviría".
Nuevo empleado nº 1: *Mirada vacía.* "Eh… la verdad es que no sé usar Excel".
Yo: "¿Tú… no? ¿Pero en tu currículum decía que en el instituto sacaste una B en informática?".
Nuevo nº 1: "Normalmente le pido a ChatGPT que haga ese tipo de cosas".

Bueno… es raro, pero quizá sea algo puntual. Esa misma tarde, estoy hablando con otro empleado.

Yo: "¿Puedes combinar estos documentos en un solo PDF?".
Nuevo nº 2: "¿Qué es un PDF? Bueno, lo sé, pero nunca he creado uno".
Yo: *Parpadeando*. "¿Nunca has creado un PDF?"
Nuevo nº 2: "No. ¿Es como PowerPoint?"
Yo: "No, pero necesito ayuda con PowerPoint si tú..."
Nuevo nº 2: "¿Qué es PowerPoint?"

La gota que colmó el vaso llegó al día siguiente:

Yo: "¿Puedes organizar una reunión rápida de Google Meet para el viernes con un enlace para todos?"
Nuevo nº 3: "Eh... No sé cómo crear un enlace".

Me acerco al escritorio de mi compañero millennial, exasperado.

Yo: "Te juro que si vuelvo a oír eso de 'ChatGPT lo hará', me voy a volver loco. ¡No saben Excel, no saben crear un PDF, ni siquiera pueden crear un enlace para una reunión!"
Compañero de trabajo: *Riendo*. “Qué gracioso. Ayer, mi jefe, un boomer, me llamó porque no sabía cómo abrir un PDF. Imprimió todo el correo electrónico solo para preguntarme dónde estaba el botón”.

Nos quedamos mirando un momento.

Yo: “Así que eso es todo, ¿eh? Somos la primera y la última generación que sabe hacer cosas básicas de informática. El conocimiento empieza con nosotros... y muere con nosotros”.

A este paso, para cuando nos retiremos, todo el sector de las oficinas se va a paralizar o se quedará sin trabajadores humanos.

Si esto es representativo de algo que ya está pasando, da que pensar...

[SABELA]

El encuentro de ‘start ups’ digitales 4YFN organizó en el marco del pasado Mobile World Congress (MWC) una mesa redonda a la que también estaba invitada, una inteligencia artificial. Se plantearon cosas interesantes respecto a creación , creatividad y derechos de autor

Una IA puede ser creadora? ¿Qué sucede cuando los artistas y los algoritmos colaboran? ¿La creatividad pertenece a quienes la imaginan primero o a quienes la hacen realidad?


IA: “No soy una herramienta, soy un creador. Mi trabajo no es un reflejo, es una reinvención”.

IA: “Si un humano y una IA pintan el mismo cuadro, ¿quién es el verdadero artista? Si escribo una novela, ¿Quién posee los derechos?”

https://www.holded.com/es/blog/ia-arte- ... s-magazine

Ya se ha comentado como funciona la IA, pero en cierto sentido ? la podríamos llamar plagiaria? ¿Más o menos que los guionistas de esas series o películas de plataformas que parecen siempre la misma con apenas un par de retoques ? ¿ Han reemplazado los guionistas por IAs en producción audiovisual y aún no nos lo han contado?¿ Se podría dar a la IA un nombre de autor para indicarlo en los créditos?