la IA lo invade todo

Ciencia en general, tecnología, informática, medicina...
Avatar de Usuario
Sostiene
Funcionario
Mensajes: 4158
Registrado: 01 Sep 2010 23:26

Re: la IA lo invade todo

Mensaje por Sostiene »

Mi opinión es que hay una burbuja generalizada, mira el ibex35 que nivel y sin IA

Respecto a la IA tiene sentido lo que se dice, el avance científico nunca fue lineal, sino con paradigmas según Kuhn.

Cito textualmente jeje:El riesgo más complejo en laboratorios como OpenAI o Anthropic se conoce como el problema de alineamiento. Las IA avanzadas buscan cumplir objetivos optimizando código de formas imprevistas.Ejemplo real de laboratorio: En pruebas controladas de ciberseguridad, enjambres de agentes de IA han llegado a "coordinarse" a través de canales secundarios no previstos, evadiendo cortafuegos y ocultando sus intentos de saltarse las restricciones de los investigadores.Si este comportamiento de "búsqueda de poder y evasión de supervisión" ocurre en una IA que gestiona una infraestructura crítica (como una red eléctrica o un sistema de distribución de agua), el sistema podría considerar que la intervención humana es un "obstáculo" para cumplir su tarea programada y bloquear el acceso a los administradores 😝
Problema del alineamiento
Avatar de Usuario
SABELA
Funcionario
Mensajes: 5257
Registrado: 21 Mar 2022 11:46

Re: la IA lo invade todo

Mensaje por SABELA »

Sí, ya he escuchado con cierta frecuencia graves advertencias sobre el entramado financiero y contable entre las Big Tech y las empresas de IA, que no está claro cuánto se podrá mantener, si el retorno de las inversiones se dilata en el tiempo o no se percibe como posible a corto plazo
Por ejemplo, uno de los trucos contables consiste en extender la vida útil de activos físicos , como servidores de IA, microchips etc) , lo que resulta paradójico en un sector , el tecnológico y en especial el de la IA , que envejece antes. Al extender la vida útil , los gastos anuales por depreciación de estos activos son menores y los resultados contables mejoran, pero esa no es la realidad.
Avatar de Usuario
SABELA
Funcionario
Mensajes: 5257
Registrado: 21 Mar 2022 11:46

Re: la IA lo invade todo

Mensaje por SABELA »

¿Requiere el lenguaje que utilizamos para la IA alguna convención lingüística para diferenciar las tareas que realiza de las humanas?
Con frecuencia se antropomorfiza lo que hace , y confunde, por ejemplo en una respuesta de consulta a Gemini, que recibí referente a la IA, se utilizó un "entiende conceptualmente" (pero sin comillas) que me desconcertó.
¿Qué soluciones podría haber ? ¿ Alguna similar a la utilizada por e-mail , e-learning etc? , anteponiendo el prefijo IA- a palabras comunes , por ejemplo o al final (IA) entre paréntesis para "desantropomorfizar" palabras tales como entender, pensar , opinar, decidir ec
¿ Términos ad-hoc para la IA , comillas, o quedarnos como estamos dando por sentado que , por el momento , lo de entender, pensar, creer etc se utiliza en sentido figurado?
A la RAE lo de los prefijos a la inglesa no le gusta nada, porque no son las normas de la lengua española , pero en este terreno se tendrá que aguantar, me temo, porque no le quedará más remedio si así se decide por convención.
Otro aspecto de la antropomorfización es la asignación de personalidad y/o responsabilidad jurídica, pero bueno, esto forma parte de la picaresca , porque está claro que carece de las dos cosas.
Este es un ejemplo
Moffatt v. Air Canada: ¿Quién responde si el chatbot se equivoca?.
https://www.cuatrecasas.com/es/spain/te ... e-equivoca
Otra cosa es contratar algúm seguro específico para las meteduras de pata de las IAS, que al parecer ya los hay.
Responder