3 Mitos sobre la IA que la Ciencia Ficción nos Contó (y la Verdad que Debes Saber en la Escuela)

Reflexión en base al artículo original enfocada a la educación con IA, elaborada con ayuda de NotebookLM.

3 Mitos sobre la IA que la Ciencia Ficción nos Contó (y la Verdad que Debes Saber en la Escuela)

Introducción: Más Allá de los Robots de Película

Si te menciono la palabra "Inteligencia Artificial", es probable que pienses en robots de películas como los droides de Star Wars, el T-800 de Terminator o los androides de Yo, Robot. La ciencia ficción ha moldeado nuestra imaginación, presentándonos máquinas súper inteligentes que lo saben todo, lo ven todo y pueden realizar cualquier tarea con una precisión casi divina. Estas historias son emocionantes, pero han creado una imagen muy específica y poderosa de lo que es la IA.

Esta visión nos lleva a hacer preguntas que, por ahora, no tienen respuesta: "¿Puede la IA crear por sí sola una tesis completamente original para mi proyecto final?" o "¿Puede la IA decirme cuál es la mejor manera de resolver este conflicto con mi compañero de equipo?". La respuesta a estas preguntas se encuentra al desmentir algunos mitos clave.

Pero, ¿qué tan cierta es esa imagen? La Inteligencia Artificial que usamos hoy en día en nuestras computadoras y teléfonos es una herramienta fascinante y cada vez más presente en nuestras vidas, pero funciona de una manera muy diferente a como la pintan las películas. Entender esa diferencia no es solo una curiosidad; es fundamental para aprender a usarla de manera efectiva, tanto para estudiantes que investigan para una tarea como para maestros que buscan nuevas formas de enseñar.

Mito 1: La IA "sabe" cosas como un humano

Cuando le hacemos una pregunta a una IA y nos da una respuesta detallada, es fácil pensar que "entiende" el tema. Creemos que la IA posee conocimiento, pero aquí es donde se encuentra el primer gran mito. La realidad es que la inteligencia y el conocimiento no son lo mismo para una máquina.

La IA actual no razona desde cero ni comprende el contexto como lo hacemos nosotros. Funciona reconociendo patrones en cantidades masivas de información que ya existen. Imagina que la IA es una bibliotecaria experta que ha memorizado cada libro de la biblioteca más grande del mundo. Puede encontrar y conectar fragmentos de texto sobre cualquier tema al instante. Sin embargo, no puede escribir un libro completamente nuevo con ideas originales propias. Esta es la primera gran confusión, que el Dr. Eric Sandosham, un veterano en análisis de datos, llama "la falsa equivalencia entre inteligencia y conocimiento". En sus propias palabras, la IA "no conecta los puntos, sino que se basa en puntos que ya se han conectado".

La falsa equivalencia entre inteligencia y conocimiento. Y la realidad es que la IA no es una fuente de conocimiento. El conocimiento es contextual; evoluciona y se transforma continuamente. La IA imita la inteligencia; no razona realmente a partir de principios básicos.

Para los estudiantes, esto es crucial. Al usar una IA para una investigación, recuerda que sus respuestas pueden sonar muy correctas, pero podrían carecer de un entendimiento real. Usa la IA para obtener un resumen, pero luego busca las fuentes primarias que menciona o pregúntale directamente: "¿En qué estudios o datos te basas para hacer esa afirmación?". Trátala como un punto de partida para desarrollar tu propio razonamiento, no como la respuesta final.

Mito 2: La IA "aprende" de la experiencia

Otro mito común es pensar que "entrenar" a una IA es como darle experiencia de vida. Después de todo, si un modelo de lenguaje se entrena con "todo internet", ¿no equivale eso a absorber toda la experiencia humana colectiva? La respuesta, según expertos como Richard Sutton, una figura galardonada por sus aportes al aprendizaje automático, es un rotundo no.

El "entrenamiento" de una IA se basa en la memorización de datos y patrones, mientras que la experiencia humana se basa en aprender haciendo, probando, cometiendo errores y entendiendo las consecuencias. Es como la diferencia entre memorizar el manual completo de cómo andar en bicicleta y haberse subido a una, haberse caído y haber aprendido a mantener el equilibrio. Memorizar la información no te da la comprensión que se logra con la práctica.

Esta es otra falsa equivalencia: que un aprendizaje memorístico suficiente podría equivaler a un aprendizaje basado en la experiencia. Memorizar un montón de datos e información no implica comprensión.

Para maestros y alumnos, esto refuerza algo clave en la educación: el valor de la experiencia directa. La IA puede darte la teoría de la fotosíntesis, pero solo plantando una semilla, regándola y viéndola crecer (o no) bajo diferentes condiciones de luz, tu cerebro crea la experiencia y la comprensión profunda que la IA nunca tendrá. Los proyectos, los experimentos y los debates son formas de aprendizaje que la IA puede apoyar, pero nunca replicar.

Mito 3: La IA es buena para "pensar fuera de la caja"

Una de las habilidades humanas más asombrosas es la "generalización": la capacidad de tomar un concepto aprendido en un área, como la forma en que funciona un sistema en biología, y aplicarlo para resolver un problema completamente diferente en ingeniería. A menudo damos por sentada esta capacidad de pensar de forma creativa, pero es algo en lo que la IA actual tiene muchas dificultades.

La IA es excelente para reconocer patrones dentro del dominio específico en el que fue entrenada. Sin embargo, no puede innovar combinando conocimientos de campos distintos. Su funcionamiento se basa en lo que ya ha visto, no en crear conexiones verdaderamente nuevas y originales. Por eso se dice que la IA no es un "activo reutilizable de amplio alcance". Para que quede claro: una IA entrenada para ser experta en escribir poesía no podrá, de repente, usar ese conocimiento para diseñar un puente de manera innovadora.

Para los estudiantes, esto es un llamado a la acción. Mientras otros se limitan a pedirle resúmenes a la IA, ustedes pueden destacar combinando ideas que la máquina no puede conectar. ¿Qué tiene que ver la estrategia de una colonia de hormigas con el diseño de una red de tráfico urbano? Esa es una pregunta para un humano, no para una IA. La creatividad y la capacidad de conectar ideas de diferentes materias son tus superpoderes en un mundo con IA.

Conclusión: ¿Socios Inteligentes, no Cerebros Mágicos?

Al final del día, desmentir estos mitos no le quita valor a la Inteligencia Artificial. Al contrario, nos ayuda a verla por lo que realmente es. La IA no es una fuente de conocimiento infinito, no aprende de la experiencia real y no puede generalizar creativamente como un ser humano.

Entender estas limitaciones es clave para nuestro futuro, especialmente en la educación. Nos permite dejar de ver a la IA como un cerebro mágico y empezar a usarla como lo que es: una herramienta increíblemente poderosa. Un socio que puede ayudarnos a buscar, organizar y procesar información, pero que depende de nuestra inteligencia, experiencia y creatividad para darle un verdadero significado.

Sabiendo que la verdadera inteligencia, experiencia y creatividad siguen siendo nuestras, ¿cuál es la forma más inteligente en que podemos usar la IA en el salón de clases para potenciar nuestras propias habilidades?

++++++++++++++++

Podcast analizando el contenido de el artículo original enfocado a la educación en un mundo con IA:

https://www.spreaker.com/episode/no-entendemos-la-ia-en-absoluto--68183684

++++++++++++++++

Traducción con ayuda de Google Translate del artículo original analizado:

No entendemos la IA en absoluto

Eric Sandosham, Doctor.

5 minutos de lectura

·Publicado en medium.com el 12 de Octubre de 2025

Enlace al artículo original: https://eric-sandosham.medium.com/we-dont-understand-ai-at-all-e32a6f308e8a

¿Somos simplemente ingenuos, ignorantes o mal informados?

Foto de Igor Omilaev en Unsplash

Fondo

Recientemente vi el video viral en YouTube del podcaster Dwarkesh Patel entrevistando a Richard Sutton (ganador del Premio Turing 2025 por su contribución al aprendizaje por refuerzo ), y antes de eso, impartía una clase de aprendizaje automático para adultos principiantes. En ambos casos, me impactaron las preguntas sobre lo que la IA podría ser capaz de hacer:

“ ¿Por qué la IA no puede detectar fallos de seguridad en nuestro sistema de forma autónoma? ”

“ ¿No se están generalizando ya los grandes modelos de lenguaje (LLM) para resolver un montón de problemas matemáticos? ”

“ ¿No puedo usar IA para crear modelos de aprendizaje automático, desde la recopilación de datos hasta la ingeniería de características y la selección de modelos? ”

Tengo la sensación de que, a pesar de toda la cobertura informativa y los supuestos programas de alfabetización en IA, la mayoría de la gente no entiende realmente qué es la IA. ¿Se trata de ingenuidad, ignorancia o desinformación? Citi anunció recientemente que capacitará a 175.000 empleados para redactar mejores propuestas de IA general. Accenture anunció de forma similar que quienes no puedan volver a capacitarse en IA deberán abandonar la empresa. Estas empresas siguen pensando que la alfabetización en IA equivale a usar soluciones de IA general predefinidas. A pesar de que los empleados saben cómo aprovechar algunas propuestas de ChatGPT, muchos parecen tener expectativas bastante extrañas sobre lo que realmente puede hacer la IA.

Mi artículo número 112 explora este desajuste en las expectativas y la comprensión de la IA en el mundo corporativo y la sociedad.

(Escribo una serie semanal de artículos en los que denuncio los malos pensamientos y las malas prácticas en el análisis y la ciencia de datos, que puedes encontrar aquí ).

¿Qué es la Inteligencia (Artificial)?

Para la mayoría de las personas, cuando escuchan el término "IA", evoca imágenes de robots inteligentes animados porque gran parte de esto está profundamente influenciado por la literatura. Estamos fascinados por la creación de vida sintética o artificial. Desde el antiguo mito griego de Talos, el autómata gigante de bronce, hasta la novela Frankenstein de Mary Shelley de 1818, pasando por la serie Yo, Robot de Isaac Asimov publicada entre 1940 y 1950, hasta la película 2001: Una odisea del espacio de Stanley Kubrick, hasta las más recientes películas de Star Wars, Terminator y Matrix. Con cada iteración, la IA adquiere más habilidades divinas. Todo lo ve, todo lo sabe, capaz de predecir con precisión el futuro. Estas descripciones de la IA caen en lo que los investigadores de IA etiquetarían como Inteligencia Artificial General (AGI). La AGI sigue siendo pura ficción; aún no tenemos la capacidad de crearla. El mundo piensa en la IA como capacidades similares a la AGI, incluso para los líderes corporativos. Debería ser capaz de hacer todas las cosas.

Debido a que la literatura moldea nuestra percepción, lo que hemos visto es el concepto de IA que ha evolucionado desde “algo que podía pensar por sí mismo” a “algo que lo sabe todo”.Y esto es quizás la raíz del desajuste a la hora de comprender la IA: la falsa equivalencia entre inteligencia y conocimiento. Y la realidad es que la IA no es una fuente de conocimiento. El conocimiento es contextual; evoluciona y se transforma continuamente. La IA imita la inteligencia; no razona realmente a partir de principios básicos. No conecta los puntos, sino que se basa en puntos que ya se han conectado. Por eso, cuando alguien pregunta: "¿Por qué la IA no puede crear datos para mi modelo? ¿Por qué la IA no puede decirme qué características serán más predictivas? ¿Por qué la IA no puede descubrir las fallas de ciberseguridad de mi sistema?", cree que la IA tiene TODAS las respuestas para usarlas inteligentemente, pero simplemente no es así.

El entrenamiento no es experiencia

En el podcast de Dwarkesh Patel, Richard Sutton argumentó que los humanos aprenden más a través de la experiencia que por imitación. Esto limita la IA, ya que esta se basa en el aprendizaje memorístico. Sin embargo, Dwarkesh parece creer que, dado que los grandes modelos lingüísticos (LLM) se han entrenado con el corpus de conocimiento del mundo, esto equivalía, en esencia, a haber aprendido a través de la experiencia humana colectiva. Esta es otra falsa equivalencia: que un aprendizaje memorístico suficiente podría equivaler a un aprendizaje basado en la experiencia.Memorizar un montón de datos e información no implica comprensión. La comprensión se logra cuando esos datos e información se ponen en práctica y se comparan con los resultados esperados... ese es el poder de la experiencia., como opinó Sutton.

Esto tiene implicaciones para los líderes que buscan impulsar sus organizaciones mediante la transformación de la IA, evitando la necesidad de desarrollar competencias clave en análisis y ciencia de datos. Creen que pueden adquirir "experiencia" con la IA. La realidad es que la IA es frágil y menos ágil en un mundo dinámico y en constante cambio.La IA no es un experto porque la competencia a nivel experto proviene de la experiencia.No existen atajos para que las organizaciones logren competencias en datos e inteligencia artificial.

El acto de generalización

Otro aspecto que parece confundir a la mayoría de la gente es el concepto de generalización. En su podcast con Sutton, Dwarkesh Patel insistió en que los LLM actuales (es decir, la IA Gen) pueden generalizar más allá de las áreas en las que han sido entrenados. Cita la capacidad de los LLM para resolver problemas matemáticos como prueba de ello. Pero ¿realmente resuelven problemas matemáticos basándose en enfoques axiomáticos de primeros principios, o es simplemente una cuestión de suerte, ya que lograron descomponer el problema en subcomponentes con equivalentes reconocibles en el conjunto de datos de entrenamiento del LLM? Los investigadores coinciden en que se trata, en gran medida, de esto último.

La generalización es una capacidad humana clave y única que generalmente damos por sentada. No depende de la estocástica, que es la base de todos los LLM. Y esta incapacidad de la IA para generalizar también significa que no puede innovar recombinando el conocimiento existente ni transferir conocimientos y mejores prácticas de un dominio a otro.Para los líderes que buscan construir una ventaja competitiva distintiva mediante el uso de IA, esto plantea un desafío ya queLa IA no es un activo reutilizable de amplio alcance. No es escalable horizontalmente., que es una característica clave para el crecimiento y la sostenibilidad a largo plazo de una empresa.

Conclusión

La alfabetización en IA va mucho más allá de simplemente capacitar a los empleados para usar las indicaciones de la Generación IA, como anunciaron Citi y Accenture. Esto equivale a enseñar a los empleados a acceder a internet o usar el correo electrónico; no es transformador. Para participar en debates significativos sobre cómo la IA podría integrarse en sus funciones, los empleados necesitan comprender mejor qué es realmente la IA.

Tags #AI, Inteligencia artificial, Ciencia de datos, Sociedad, Análisis de datos

Escrito por Eric Sandosham, Ph.D.

Fundador y socio de Red & White Consulting Partners LLP. Un veterano apasionado y con amplia experiencia en análisis de negocios. Exdirector ejecutivo de Citibank APAC.

+++++++++++++++++++

mapa mental en base a los conceptos expuestos en el artículo original elaborado con ayuda de NotebookLM.  (descarga la imagen para verlo mejor).

+++++++

FIN.