Author: MIL-OSI Publisher

Source: The Conversation – (in Spanish) – By Ramón López de Mántaras, Profesor de investigación del CSIC, Instituto de Investigación en Inteligencia Artificial (IIIA – CSIC)

La irrupción de los modelos de lenguaje de gran escala (LLM, por sus siglas en inglés), como ChatGPT, ha desatado un debate apasionado en torno a su posible naturaleza consciente.

No son pocos los usuarios –entre ellos personas con formación científica o humanística– que aseguran haber percibido signos de vida interior, emociones e incluso voluntad en estos sistemas. Sostienen que ciertos intercambios verbales revelan emociones complejas, empatía, autoconciencia e incluso sufrimiento.

Esta ilusión ha sido descrita por el científico y filósofo estadounidense Douglas Richard Hofstadter como una peligrosa confusión entre el uso sofisticado del lenguaje y la vivencia subjetiva de una conciencia real. Su crítica apunta a la forma en que muchos entusiastas interpretan la complejidad verbal como una señal de interioridad, sin reparar en la diferencia crucial entre generar lenguaje y tener experiencias. Es precisamente esta distinción –entre producción textual y subjetividad vivida– la que permite cuestionar la idea de que un sistema lingüístico pueda, por sí solo, alcanzar conciencia.

La ilusión de conciencia y el efecto ELIZA

Este fenómeno no es nuevo. En 1966, el científico informático Joseph Weizenbaum desarrolló Eliza, un sencillo programa que imitaba a un terapeuta. A pesar de su simplicidad, muchos usuarios llegaron a creer que el sistema los comprendía. Esta reacción preocupó profundamente al creador del programa, quien advirtió en su influyente libro Computer Power and Human Reason (1976) de los riesgos éticos y epistemológicos de atribuir vida mental a un software.

Los modelos de lenguaje como ChatGpt no comprenden

Hoy, sesenta años más tarde, con la capacidad verbal de los LLM, el efecto Eliza ha regresado amplificado. Los sistemas actuales no solo reformulan preguntas, sino que generan textos con coherencia narrativa, referencias filosóficas, giros estilísticos e incluso formas de humor. Sin embargo, esta competencia verbal no implica interioridad ni comprensión.

Los LLM no comprenden los conceptos que enuncian ni tienen experiencia de aquello que describen. El efecto Eliza consiste en proyectar conciencia allí donde solo hay estructuras lingüísticas generadas estadísticamente. Es fruto de sofisticadas técnicas que maximizan la probabilidad de la siguiente palabra en función de patrones extraídos de enormes corpus lingüísticos.

La fluidez de los modelos de lenguaje

Una de las grandes trampas epistémicas de los LLM es su fluidez. Su capacidad para construir discursos con cohesión y elegancia gramatical los vuelve extremadamente persuasivos. El científico y filósofo estadounidense Douglas Hofstadter (2007) ha llamado a esta habilidad “fluidez superficial”. Es decir, la capacidad de combinar términos y frases sin que ello implique reflexión o conciencia real. Lo que parece pensamiento profundo es, en realidad, un sofisticado espejismo verbal.

Se trata, en términos del filósofo Luciano Floridi (2019), de una “inteligencia artificial sin semántica”. O, en términos del filósofo de la ciencia Daniel Dennett (2018), de “habilidades sin comprensión”.

¿Cómo es ser un murciélago?

Para comprender por qué la fluidez verbal no equivale a conciencia, conviene volver a la filosofía. El filósofo Thomas Nagel, en su célebre ensayo What Is It Like to Be a Bat? (1974) (¿Cómo es ser un murciélago?), sostiene que la conciencia implica un punto de vista subjetivo, una cualidad fenomenológica que escapa a la descripción objetiva.

Esta opacidad de la experiencia subjetiva –llamada qualia– define para Nagel la conciencia como algo radicalmente distinto de cualquier simulación computacional. Por más que comprendamos el funcionamiento del cerebro de un murciélago, nunca sabremos qué se siente al ser uno.

Los modelos de lenguaje no tienen experiencias internas. Generan frases que “hablan” del amor, el miedo o la muerte, pero no sienten amor, miedo ni saben lo que significa morir. Carecen de lo que el filósofo Thomas Metzinger (2003) llama “modelos de sí mismos con acceso consciente”. Son máquinas sin punto de vista.

Un sistema sin cuerpo

Para profundizar en esta distinción, la fenomenología del filósofo francés Maurice Merleau-Ponty resulta especialmente reveladora. Merleau-Ponty argumenta que la conciencia no es un mero proceso mental ni un conjunto de datos simbólicos, sino que está inseparablemente ligada al cuerpo y a la experiencia encarnada del mundo. En su Fenomenología de la percepción (1945), describe la conciencia como una experiencia donde el cuerpo no es solo un objeto, sino el sujeto primordial a través del cual se percibe y se habita el mundo.

Pretender que un sistema sin cuerpo, sin mundo vivido y sin temporalidad interna pueda experimentar conciencia equivale a despojarla de sus condiciones esenciales.

Los LLM pueden articular frases sobre el sufrimiento o la belleza, pero no pueden habitarlas, ya que carecen totalmente de las experiencias sensorio-motoras que según Merleau-Ponty son condición sine qua non para la conciencia genuina.

La habitación china

En una línea similar, el filósofo John Searle (1980) ilustra esta ausencia de comprensión mediante su experimento mental de la habitación china. Una persona sin conocimientos de chino puede perfectamente responder a preguntas en ese idioma si dispone de un manual con reglas sintácticas precisas. A los ojos de un observador externo, parecería que comprende. Pero no hay comprensión real, solo manipulación sintáctica.

Así funcionan, para Searle, los sistemas computacionales: pueden simular comprensión, pero no poseen intencionalidad ni experiencia consciente. Esta analogía aplica directamente a los LLM: producen textos verosímiles sin comprensión semántica ni intención comunicativa.

La crítica del filósofo Hubert Dreyfus complementa esta perspectiva. En What Computers Can’t Do (Lo que los ordenadores no pueden hacer, 1972), insiste en que la inteligencia humana emerge de una relación práctica y encarnada con el mundo, una habilidad para navegar contextos complejos que los algoritmos no poseen. Así, aunque los LLM puedan generar textos coherentes y sofisticados, carecen de la comprensión experiencial y situacional que fundamenta la conciencia y la inteligencia humana.

La ilusión de conciencia en los LLM es un espejismo que nace de proyectar experiencias humanas en máquinas que carecen de cuerpo y experiencia.

La trampa del espejo

La clave del problema no reside en las máquinas, sino en los humanos. Lo que ocurre en muchos casos es que proyectamos sobre las máquinas nuestros propios esquemas cognitivos. Es lo que Hofstadter llama “la trampa del espejo”: creemos ver una mente donde solo hay palabras. Vemos conciencia porque queremos verla, porque en el fondo anhelamos encontrar un reflejo de nuestra interioridad. Como explica la socióloga Sherry Turkle (2011), no buscamos máquinas conscientes, sino relaciones significativas –aunque sean ilusorias– con entidades que nos devuelvan “la mirada”.

Esta proyección puede tener consecuencias importantes. A nivel afectivo, corremos el riesgo de desarrollar vínculos con entes que no pueden corresponderlos. A nivel epistemológico, confundimos apariencia con realidad. A nivel social, podríamos legitimar decisiones automatizadas que simulan empatía sin tenerla y ello podría debilitar nuestra comprensión de lo humano al confundir simulación con experiencia. A nivel legal podría incluso conducir a otorgar derechos y responsabilidades a sistemas que no pueden experimentarlos.

Si no aprendemos a distinguir entre lenguaje y experiencia, entre forma y fondo, entre simulacro y sujeto, corremos el riesgo de caer en una nueva forma de animismo tecnocientífico.

Antes de proclamar que las máquinas han despertado, quizá deberíamos despertar nosotros de nuestra fascinación por sus reflejos.

Ramón López de Mántaras no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.

– ref. La trampa de los grandes modelos de lenguaje: ver conciencia donde solo hay palabras – https://theconversation.com/la-trampa-de-los-grandes-modelos-de-lenguaje-ver-conciencia-donde-solo-hay-palabras-261278

Source: The Conversation – (in Spanish) – By María Dolores Porto Requejo, Profesora Titular de Filología Inglesa, Universidad de Alcalá

Las palabras son poderosos instrumentos capaces de conformar la realidad que nos circunda. El nombre que damos a las cosas configura el modo en que se perciben. No es lo mismo hablar de “estrategia de rearme” en Europa que de “mejorar nuestra seguridad”, y no es lo mismo un “plan de deportación” de inmigrantes que un “plan de remigración”.

Toda palabra funciona como un pequeño interruptor en nuestra mente que conecta ideas más o menos dispares, pero que, sobre todo, activa silenciosamente emociones de las que apenas somos conscientes.

El término “deportación” inspira un rechazo automático, posiblemente relacionado con imágenes subyacentes de deportaciones a campos de exterminio durante la Segunda Guerra Mundial, pero “remigración” nos evoca sensaciones más positivas, como de “vuelta a casa” después de una “migración”. Sólo si nos detenemos un momento para interpretarlas con calma, veremos que ambas expresiones se refieren a una misma realidad.

Es muy fácil inocular una emoción a través del lenguaje. No hace falta ser un experto, hasta su hijo pequeño sabe cómo “tocarle la fibra” cuando quiere convencerle de algo, y eso que nadie le ha hablado todavía de la Retórica de Aristóteles y del pathos como una de las claves del discurso persuasivo. Los publicistas lo saben, y también los políticos, además de los manipuladores y los diseminadores de desinformación.

Emociones que no admiten argumentos

La cuestión es que las emociones, una vez activadas por determinadas expresiones, son difíciles de ignorar y rara vez pueden contrarrestarse mediante argumentaciones. Apelar a las emociones es, pues, un recurso clásico que sigue funcionando. Y de entre todas las emociones que podemos evocar en la comunicación, las negativas (miedo, ira, tristeza, asco) suelen ser más intensas y perdurables, y por ello son también las más poderosas.

Biológicamente predispuestos para sobrevivir, el miedo nos es útil porque nos permite detectar y reaccionar ante un peligro, incluso si no es real, sino sólo sugerido, como una sombra en la pared. Por eso es una emoción tan inmediata y tan intensa y, como sabe cualquier comunicador, hacen falta muy pocas palabras para activarlo. En los tiempos de la covid se viralizaron mensajes totalmente irracionales que calaron en una sociedad atemorizada. A pesar de los numerosos desmentidos, respaldados por datos científicos, resultaba difícil resistir la fuerza de los bulos basados en el miedo.

En estos días, son los discursos del miedo al inmigrante los que se han multiplicado en los medios de comunicación. Cuando oímos hablar de una inmigración “masiva” o incluso de una “invasión” de inmigrantes, identificamos una posible amenaza y nos ponemos en estado de alerta.

Son necesarios muchos argumentos y un esfuerzo consciente por interpretar cifras y datos objetivos para comprender que la inmigración de que nos hablan ni es “masiva” ni es “invasiva”, pero una vez instalada, la sensación de miedo no nos abandona fácilmente. Es más, algunos líderes políticos o de opinión alimentan este miedo asociando a la idea de inmigración palabras con fuertes resonancias emocionales, presentando la situación como una “emergencia” demográfica para evitar un inminente “reemplazo” poblacional, o una progresiva “destrucción” de nuestra identidad y apelando al derecho a “sobrevivir” como pueblo.

Las representaciones mentales configuradas por estos términos en nuestra mente, sin datos objetivos o argumentos explícitos, condicionan nuestra percepción de la realidad. ¿Quién no reaccionaría ante una “emergencia”? ¿Cómo no defenderse cuando nuestra “supervivencia” está amenazada?

En la narrativa del miedo, una vez identificado el peligro, la reacción instintiva es defenderse y protegerse. Se multiplican entonces los llamamientos para “salvar” la nación, “proteger a nuestras hijas” (no a las “víctimas” o a las “mujeres”, que son conceptos más abstractos y generales), “recuperar” las calles (como si estuvieran invadidas) o a la necesidad de “más muros y menos moros” (aprovechando la aliteración para hacer del mensaje un eslogan más memorable). Es fácil ver en estas reacciones de “defensa” el germen de los discursos de odio.

La confrontación virulenta como estrategia

Existe una percepción generalizada de que los discursos de odio son cada vez más frecuentes y más virulentos, a pesar del rechazo casi unánime a los mismos y de los esfuerzos por parte de los investigadores para intentar desvelar los resortes que los disparan.

La creciente polarización, tanto ideológica como afectiva, en el discurso público parece ser uno de esos resortes. La creación de bandos opuestos, nosotros versus ellos, y la normalización de discursos basados en el conflicto y la confrontación nos presentan una sociedad fragmentada y ponen en peligro la armonía y el bienestar social. Pero también las estrategias del miedo y de la construcción discursiva del otro como una amenaza, menos evidentes y reconocidas hasta ahora, son un detonante de los discursos de odio.

Es importante aprender a reconocer las expresiones, a veces manipuladoras, que intentan hacernos ver la realidad en términos de peligro inminente (metáforas, asociaciones repetidas de ideas, hipérboles). Identificarlas es el primer paso para “resistir” el miedo que las palabras intentan activar antes de que este se convierta en discursos de odio.

M DOLORES PORTO REQUEJO ha formado parte del proyecto “Polarización y Discursos Digitales. Perspectivas críticas y socio-cognitivas” (PID2020-119102RB-I00) y es miembro de la Red Temática sobre Comunicación Conflictiva y Mediación (CoCoMInt; RED2022-134123-T), ambos financiados por la Agencia Estatal de Investigación.

– ref. ‘Deportación’, ‘invasión’, ‘emergencia’, ‘reemplazo’… Así se fabrican las palabras del miedo – https://theconversation.com/deportacion-invasion-emergencia-reemplazo-asi-se-fabrican-las-palabras-del-miedo-261314

Source: The Conversation – (in Spanish) – By Rafael Conde Melguizo, Investigador en el grupo ECSiT, Tecnología e Innovación para la Sociedad, la Cultura y la Educación, UDIT – Universidad de Diseño, Innovación y Tecnología

Los docentes de las diferentes etapas educativas sentimos a menudo cierta presión por introducir en nuestra práctica elementos tecnológicos innovadores. No sólo por ofrecer metodologías más atractivas y cercanas a las generaciones que enseñamos, ya nativas digitales, sino porque desde las propias leyes se invita y demanda que la alfabetización digital y tecnológica se incorpore a todas las asignaturas.

Por esta razón, cuando en 2021 la gran compañía tecnológica estadounidense Facebook se convirtió en Meta y cambió el plan estratégico al desarrollo de su propio metaverso –entendido como un mundo virtual, inmersivo e interactivo–, el interés que desató la propuesta (un análisis del histórico de búsquedas con Google Trends muestra un ascenso súbito de la búsqueda del término “metaverso” en todo el mundo en esa semana) también se trasladó al mundo académico.

Pero su aplicación en las labores docentes no está exenta de problemas y dudas.

El metaverso aún no es para todos

Pese al potencial que ofrece el metaverso en el aula, no debemos olvidar que otro de los ejes educativos estratégicos es la inclusión. La ley nos invita a utilizar el “diseño universal de aprendizaje”, inspirado en el diseño arquitectónico universal, para plantear modelos de enseñanza que atienden a la diversidad del alumnado, ofreciendo adaptaciones que, si bien están pensadas para quienes las necesitan, también benefician al conjunto del grupo al facilitar un aprendizaje significativo.

Desde esta perspectiva, cabe preguntarse si esa herramienta es aplicable en contextos educativos diversos. En primer lugar, debemos considerar la brecha digital: ¿todo el alumnado tiene acceso a los dispositivos necesarios? ¿Cuentan con las competencias digitales adecuadas? En segundo lugar, muchas plataformas que usan el metaverso se sustentan en tecnologías de realidad extendida (virtual, aumentada o mixta) que, en la práctica, no garantizan que estudiantes con trastornos o discapacidad puedan acceder a ellas.

¿Aprendemos con el uso del metaverso?

Otro aspecto fundamental a la hora de incluir actividades del metaverso en el aula es definir cómo vamos a medir su impacto en el aprendizaje y cómo contrastaremos sus resultados con otros métodos, ya sean innovadores o tradicionales. A este respecto, hemos llevado a cabo un proyecto de investigación con el objetivo de evaluar la calidad científica de los trabajos publicados sobre metaverso y educación entre 2008 y 2024 en España.

Los resultados no son positivos. Los datos recabados no permiten saber con certeza si el metaverso mejora los procesos de aprendizaje, dado que una parte significativa de las publicaciones analizadas no parecen cumplir suficientemente con los estándares científicos.

Leer más:
Educación y tecnología en el siglo XXI

Por ejemplo, gran parte de los trabajos no especifican aspectos como la muestra, la metodología y las técnicas empleadas. Los datos de muchas de estas experiencias no son accesibles, lo que impide realizar revisiones sistemáticas periódicas para evaluar la evolución de la calidad científica en este campo y el impacto real del metaverso en el aprendizaje.

Además, no existe una muestra de experiencias docentes suficientemente transversal a las distintas etapas educativas, especialmente las obligatorias.

Lo que hay que tener en cuenta

A la luz de este contexto, proponemos una serie de requisitos para la incorporación del metaverso a las actividades del aula:

1. El metaverso es una herramienta. Como tal, es un medio y no un fin. El objetivo no debe ser introducirlo en clase, sino que debemos definir un objetivo de aprendizaje donde lo identifiquemos como una palanca útil y novedosa.

2. Hay vida fuera de Meta. Existen numerosos universos virtuales, algunos muy populares entre el alumnado, como Roblox, que también pueden utilizarse didácticamente. Debemos buscar el más adecuado, no el más famoso o espectacular. Igualmente, las tecnologías para crear metaversos también son múltiples. Por ejemplo, la fotografía 360º puede dar lugar a espacios de aprendizaje con tecnología más accesible que la realidad virtual o aumentada que también permiten un uso didáctico inmersivo.

3. Es imprescindible valorar la accesibilidad de la herramienta seleccionada. Donde hay una brecha social o de aprendizaje, una nueva tecnología puede hacerla aun más evidente.

4. Compartir nuestras experiencias en publicaciones abiertas permite a los docentes aprendamos unos de otros en un área donde por su novedad no puede haber aun expertos o guías definidas.

5. Finalmente, es necesario que el docente se forme no sólo en el uso del metaverso, sino también en metodologías y técnicas científicas para evaluar su impacto educativo de manera fundamentada a lo largo del tiempo.

Las nuevas tecnologías son un medio para mejorar el proceso de aprendizaje, no un fin en si mismo: aunque incorporar el metaverso suscite un interés, no debemos apresurarnos sin comprobar su verdadera utilidad. Esperamos que los cinco puntos expuestos sirvan de guía para los docentes que deseen trabajar con esta herramienta en su aula.

Las personas firmantes no son asalariadas, ni consultoras, ni poseen acciones, ni reciben financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y han declarado carecer de vínculos relevantes más allá del cargo académico citado anteriormente.

– ref. Cinco consejos a tener en cuenta antes de usar el metaverso en el aula – https://theconversation.com/cinco-consejos-a-tener-en-cuenta-antes-de-usar-el-metaverso-en-el-aula-257486

Source: The Conversation – (in Spanish) – By Primrose Freestone, Senior Lecturer in Clinical Microbiology, University of Leicester

Es un viejo debate. Mientras que los entusiastas de la ducha matutina defenderán que es la opción ganadora, ya que ayuda a despertarse y empezar el día con energía, los fieles a la ducha nocturna argumentarán que es mejor relajarse antes de acostarse.

Pero ¿qué dicen realmente las investigaciones? Como microbióloga, tengo una respuesta clara a esta pregunta.

Una rutina fundamental

En primer lugar, es importante destacar que ducharse es una parte integral de cualquier rutina de higiene, independientemente de cuándo prefiramos hacerlo. No solo nos ayuda a eliminar la suciedad y la grasa de nuestra piel, lo que puede ayudar a prevenir erupciones cutáneas e infecciones, sino que también elimina el sudor, origen del mal olor corporal.

Aunque muchos piensen que ese mal olor es causado por el sudor, en realidad lo producen bacterias que viven en la superficie de nuestra piel. El sudor fresco, de hecho, no tiene olor. Pero las bacterias que viven allí, concretamente los estafilococos, lo utilizan como fuente directa de nutrientes. Cuando descomponen el sudor, liberan un compuesto que contiene azufre llamado tioalcohol, responsable del familiar aroma acre que desprendemos.

¿De día o de noche?

Durante el día, el cuerpo y el cabello acumulan contaminantes y alérgenos (como el polvo y el polen), además de la acumulación habitual de sudor y grasa sebácea. Aunque algunas de estas partículas quedan retenidas en la ropa, otras se transfieren a las sábanas y las fundas de almohada.

Además, el sudor y el aceite de la piel favorecen el crecimiento de las bacterias que componen el microbioma cutáneo, microorganismos que también pueden transferirse de nuestro cuerpo a las sábanas.

Ducharse por la noche puede eliminar algunos de los alérgenos, el sudor y la grasa acumulados durante el día, por lo que acabarán menos en las sábanas.

Sin embargo, incluso si se ha duchado antes de acostarse, seguirá sudando durante la noche, independientemente de la temperatura. Los microbios de la piel se alimentarán de los nutrientes del sudor, y eso significa que, por la mañana, habrá depositado microorganismos en las sábanas. Probablemente también se despertará con algo de olor corporal.

Lo que anula especialmente los beneficios de la ducha nocturna es no lavar la ropa de cama con regularidad. Los microbios que causan el olor presentes en las sábanas pueden transferirse al cuerpo limpio mientras dormimos.

Además, ducharse por la noche tampoco impide que se desprendan las células de la piel. Esto significa que pueden convertirse en fuente de alimento para los ácaros del polvo doméstico. Si no lavamos las sábanas con regularidad, puede producirse una acumulación de células muertas que alimentarán a más ácaros del polvo. Los excrementos de estos pequeños arácnidos pueden provocar alergias y agravan el asma.

En cambio, las duchas matutinas ayudan a eliminar las células muertas de la piel, así como el sudor o las bacterias que se han acumulado en las sábanas durante la noche. Esto es especialmente importante si las sábanas no se han lavado antes de acostarse.

Si nos duchamos por la mañana, nuestro cuerpo estará más libre de microbios cutáneos adquiridos durante la noche cuando nos pongamos ropa limpia. También empezaremos la jornada con menos sudor del que se alimentan las bacterias generadoras de olores, lo que probablemente nos ayudará a oler mejor durante más tiempo a lo largo del día en comparación con alguien que se ducha por la noche.

Veredicto de microbióloga

En suma: como microbióloga, soy partidaria de ducharse por la mañana.

Por supuesto, cada uno tiene sus propias preferencias. Sea cual sea la hora que elija, recuerde que la eficacia de la ducha depende de muchos aspectos de su higiene personal, como la frecuencia con la que lava las sábanas.

Por lo tanto, independientemente de si prefiere ducharse al despertarse o al acostarse, es importante limpiar la ropa de cama con regularidad. Debe lavar las sábanas y las fundas de almohada al menos una vez a la semana para eliminar todo el sudor, las bacterias, las células muertas de la piel y los aceites sebáceos que se han acumulado en ellas.

El lavado también eliminará las esporas de hongos que puedan estar creciendo en la ropa de cama, junto con las fuentes de nutrientes que estos microbios productores de olores utilizan para crecer.

Primrose Freestone no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.

– ref. ¿Es mejor ducharse por la mañana o por la noche? Una microbióloga da la respuesta – https://theconversation.com/es-mejor-ducharse-por-la-manana-o-por-la-noche-una-microbiologa-da-la-respuesta-261622