Cuando llevas años vendiendo humo y llega la hora de mostrar algo más para conseguir dinero, entonces ponemos la cortina (de humo por supuesto) para que hablemos de otra cosa y justifiquemos no llegar a lo que habíamos prometido.

Hace dos semanas, menos de dos semanas, el presidente de OpenAI dijo: “Welcome to the AGI era”. En la era de la inteligencia artificial general.

Diez días después dicen que hay que parar el desarrollo de la IA que puede destruirnos.

Curiosamente todos los expertos, académicos y técnicos, nacionales e internacionales, que no tienen interés comercial directo, niegan que estemos ante una inteligencia artificial general.

La IA general equivale al procesamiento humano.

Gary Marcus (investigador especializado en lenguaje y mente, voz destacada en el debate sobre IA) responde directamente que decir que la IA general ya está aquí “se apoya en la nada más absoluta”.

Yann LeCun, científico jefe de IA en Meta hasta que abandonó la compañía y ganador del Premio Turing, considera que el término “Inteligencia artificial general” en sí mismo “es un error”. Los modelos de lenguaje que venden la llegada de esa “superinteligencia” no pueden llevarnos a algo similar al procesamiento humano. Ni en cien años.

¿Por qué? Porque se limita a hacer una inferencia estadística: en base a los datos que tiene (todos los que hay digitalizados) cuál es más probable que sea la siguiente palabra de la respuesta. Y cuál es la respuesta más probable a tu petición o pregunta. Nada más, y cuidado -nada menos- que eso.

Los humanos conectan el lenguaje a experiencias sensoriales, físicas y emocionales; las palabras están “conectadas a tierra” (grounded) en la realidad.

Los modelos actuales, por el contrario, son motores estadísticos puros. Replican patrones de texto increíblemente bien, pero lo hacen sin comprensión. Un LLM puede generar un texto impecable sobre cómo montar en bicicleta, pero no comprende la gravedad, el equilibrio o el dolor de rasparse la rodilla. LeCun sostiene que esta limitación arquitectónica explica por qué los modelos inventan información (alucinaciones) con tanta confianza: simplemente están calculando probabilidades de palabras sucesivas, no recuperando recuerdos estructurados ni razonando sobre verdades objetivas. Por tanto, escalar estos sistemas probabilísticos nunca nos dará una inteligencia verdadera.

Los estudios clásicos de Hart & Risley (1995) estiman que un niño oye entre 20.000 y 38.000 palabras al día, lo que equivale a unos 7,3 millones de palabras al año. Extrapolado a 5 años, eso da un rango de entre 15 y 45 millones de palabras en total.

La retina humana transmite información al cerebro a una velocidad estimada de unos 10 millones de bits por segundo, similar a una conexión Ethernet. Solo contando horas de vigilia durante 5 años, eso supone un volumen bruto de información visual del orden de decenas de terabytes — sin contar audio, tacto, propiocepción, olfato y gusto, todo ello procesado en paralelo y de forma continua e interactiva.

ChatGPT necesitó para entrenarse diez billones de palabras, pero no responde a preguntas que un niño de cinco años aprende de manera intuitiva. Por ejemplo, en razonamiento causal, planificación a largo plazo y comprensión física robusta.

Se han realizado estudios y con los mismos inputs que un niño (con el mismo volumen de información) los resultados de los LLM son mucho peores que los de un niño de cinco años. Porque la IA no piensa. Es mera estadística. No razona, es mera estadística. Tiene apariencia de, pero no esencia de pensamiento.

Hay evidentemente riesgos, que los grandes operadores de IA no han tenido en cuenta. Riesgos sociales, económicos y políticos generados por un uso inadecuado, incontrolado o perverso de los modelos de lenguaje. No han tenido ni quieren tener en cuenta.

Las campañas de desinformación política, la suplantación de identidad mediante deepfakes y la propagación automatizada de noticias falsas amenazan con erosionar la confianza pública en las instituciones democráticas. El coste, en tiempo y dinero, de reproducir textos, sonidos e imágenes falsos es mínimo. Casi tan escaso como los controles de las empresas al uso de esas herramientas.

Los sistemas de IA aprenden de los datos que los humanos les proporcionan. Dado que nuestros datos históricos están plagados de prejuicios y sesgos, las IA frecuentemente heredan y amplifican estos sesgos. Esto tiene consecuencias devastadoras para personas concretas: no le dan el empleo, no le conceden la hipoteca o niegan su libertad anticipada porque el algoritmo prevé reincidencia.

Realiza tareas cerradas basadas en un conocimiento concreto en un dominio con gran exactitud. Eso automatiza cientos de procesos y pone en peligro muchos empleos.

El peligro real no es un mundo sin trabajo, se crearán nuevos empleos, sino una transición brutal en la que la riqueza generada por la automatización se concentre en las pocas corporaciones que controlan la tecnología, exacerbando la desigualdad global.

La integración de la IA en la tecnología militar plantea el riesgo de sistemas de armas letales autónomas, capaces de identificar y atacar objetivos sin intervención humana.

La IA puede ser utilizada para descubrir vulnerabilidades de software y lanzar ciberataques masivos a infraestructuras críticas (hospitales, redes eléctricas) con una velocidad y eficiencia que los defensores humanos no pueden igualar.

Todos estos riesgos son reales. Tan reales como evitables por estas corporaciones con una única condición: querer hacerlo.

Si la AGI es matemáticamente imposible o biológicamente irreplicable en silicio, los billones de dólares y el pánico legislativo invertidos en evitar que Terminator se haga realidad están mal dirigidos. Deberíamos centrarnos en regular a los humanos y las corporaciones que controlan la IA.

Los verdaderos peligros de la inteligencia artificial no residen en que las máquinas cobren vida y decidan volverse en nuestra contra. El peligro radica en la irresponsabilidad humana: en corporaciones desplegando sistemas que perpetúan la discriminación; en regímenes autoritarios usándola para la vigilancia masiva; y en una economía que valora la automatización barata por encima de la dignidad laboral.

La IA es, y probablemente seguirá siendo, la herramienta más poderosa jamás creada por el ser humano. No tiene conciencia, ni consciencia, ni deseo de dominar el mundo. No tiene ningún conocimiento. Te da una receta maravillosa pero no “sabe” qué es comer, ni qué es cada producto ni nada de nada. Es mera estadística. Lo siento, no es magia. Tratar a estos modelos como herramientas de enorme impacto, en lugar de como agentes casi divinos, es el primer paso necesario para garantizar que la tecnología se utilice para elevar el potencial humano en lugar de socavarlo. La precaución es absolutamente necesaria, pero debe estar guiada por la ciencia y la realidad de los algoritmos de hoy, no por los espectros de la ciencia ficción de mañana.

Que no vendan cortinas de humo para decir que paran el desarrollo. El desarrollo de este modelo da para poco más, aunque ellos vendieran otra cosa, los tecno-magnates no cat > src/content/noticias/peligros-reales-de-la-ia.md << ‘EOF’

title: “¡¡¡Vamos a morir todos!!! Pero es cuestión de tiempo, no de la IA” description: “Un repaso crítico a la retórica del apocalipsis de la IA: por qué los propios expertos independientes niegan que estemos ante una IAG, y dónde están los riesgos reales — sesgo, desinformación, armas autónomas y concentración de poder.” pubDate: 2026-09-15T20:00:00 tag: “Opinión”

Cuando llevas años vendiendo humo y llega la hora de mostrar algo más para conseguir dinero, entonces ponemos la cortina (de humo por supuesto) para que hablemos de otra cosa y justifiquemos no llegar a lo que habíamos prometido.

Hace dos semanas, menos de dos semanas, el presidente de OpenAI dijo: “Welcome to the AGI era”. En la era de la inteligencia artificial general.

Diez días después dicen que hay que parar el desarrollo de la IA que puede destruirnos.

Curiosamente todos los expertos, académicos y técnicos, nacionales e internacionales, que no tienen interés comercial directo, niegan que estemos ante una inteligencia artificial general.

La IA general equivale al procesamiento humano.

Gary Marcus (investigador especializado en lenguaje y mente, voz destacada en el debate sobre IA) responde directamente que decir que la IA general ya está aquí “se apoya en la nada más absoluta”.

Yann LeCun, científico jefe de IA en Meta hasta que abandonó la compañía y ganador del Premio Turing, considera que el término “Inteligencia artificial general” en sí mismo “es un error”. Los modelos de lenguaje que venden la llegada de esa “superinteligencia” no pueden llevarnos a algo similar al procesamiento humano. Ni en cien años.

¿Por qué? Porque se limita a hacer una inferencia estadística: en base a los datos que tiene (todos los que hay digitalizados) cuál es más probable que sea la siguiente palabra de la respuesta. Y cuál es la respuesta más probable a tu petición o pregunta. Nada más, y cuidado -nada menos- que eso.

Los humanos conectan el lenguaje a experiencias sensoriales, físicas y emocionales; las palabras están “conectadas a tierra” (grounded) en la realidad.

Los modelos actuales, por el contrario, son motores estadísticos puros. Replican patrones de texto increíblemente bien, pero lo hacen sin comprensión. Un LLM puede generar un texto impecable sobre cómo montar en bicicleta, pero no comprende la gravedad, el equilibrio o el dolor de rasparse la rodilla. LeCun sostiene que esta limitación arquitectónica explica por qué los modelos inventan información (alucinaciones) con tanta confianza: simplemente están calculando probabilidades de palabras sucesivas, no recuperando recuerdos estructurados ni razonando sobre verdades objetivas. Por tanto, escalar estos sistemas probabilísticos nunca nos dará una inteligencia verdadera.

Los estudios clásicos de Hart & Risley (1995) estiman que un niño oye entre 20.000 y 38.000 palabras al día, lo que equivale a unos 7,3 millones de palabras al año. Extrapolado a 5 años, eso da un rango de entre 15 y 45 millones de palabras en total.

La retina humana transmite información al cerebro a una velocidad estimada de unos 10 millones de bits por segundo, similar a una conexión Ethernet. Solo contando horas de vigilia durante 5 años, eso supone un volumen bruto de información visual del orden de decenas de terabytes — sin contar audio, tacto, propiocepción, olfato y gusto, todo ello procesado en paralelo y de forma continua e interactiva.

ChatGPT necesitó para entrenarse diez billones de palabras, pero no responde a preguntas que un niño de cinco años aprende de manera intuitiva. Por ejemplo, en razonamiento causal, planificación a largo plazo y comprensión física robusta.

Se han realizado estudios y con los mismos inputs que un niño (con el mismo volumen de información) los resultados de los LLM son mucho peores que los de un niño de cinco años. Porque la IA no piensa. Es mera estadística. No razona, es mera estadística. Tiene apariencia de, pero no esencia de pensamiento.

Hay evidentemente riesgos, que los grandes operadores de IA no han tenido en cuenta. Riesgos sociales, económicos y políticos generados por un uso inadecuado, incontrolado o perverso de los modelos de lenguaje. No han tenido ni quieren tener en cuenta.

Las campañas de desinformación política, la suplantación de identidad mediante deepfakes y la propagación automatizada de noticias falsas amenazan con erosionar la confianza pública en las instituciones democráticas. El coste, en tiempo y dinero, de reproducir textos, sonidos e imágenes falsos es mínimo. Casi tan escaso como los controles de las empresas al uso de esas herramientas.

Los sistemas de IA aprenden de los datos que los humanos les proporcionan. Dado que nuestros datos históricos están plagados de prejuicios y sesgos, las IA frecuentemente heredan y amplifican estos sesgos. Esto tiene consecuencias devastadoras para personas concretas: no le dan el empleo, no le conceden la hipoteca o niegan su libertad anticipada porque el algoritmo prevé reincidencia.

Realiza tareas cerradas basadas en un conocimiento concreto en un dominio con gran exactitud. Eso automatiza cientos de procesos y pone en peligro muchos empleos.

El peligro real no es un mundo sin trabajo, se crearán nuevos empleos, sino una transición brutal en la que la riqueza generada por la automatización se concentre en las pocas corporaciones que controlan la tecnología, exacerbando la desigualdad global.

La integración de la IA en la tecnología militar plantea el riesgo de sistemas de armas letales autónomas, capaces de identificar y atacar objetivos sin intervención humana.

La IA puede ser utilizada para descubrir vulnerabilidades de software y lanzar ciberataques masivos a infraestructuras críticas (hospitales, redes eléctricas) con una velocidad y eficiencia que los defensores humanos no pueden igualar.

Todos estos riesgos son reales. Tan reales como evitables por estas corporaciones con una única condición: querer hacerlo.

Si la AGI es matemáticamente imposible o biológicamente irreplicable en silicio, los billones de dólares y el pánico legislativo invertidos en evitar que Terminator se haga realidad están mal dirigidos. Deberíamos centrarnos en regular a los humanos y las corporaciones que controlan la IA.

Los verdaderos peligros de la inteligencia artificial no residen en que las máquinas cobren vida y decidan volverse en nuestra contra. El peligro radica en la irresponsabilidad humana: en corporaciones desplegando sistemas que perpetúan la discriminación; en regímenes autoritarios usándola para la vigilancia masiva; y en una economía que valora la automatización barata por encima de la dignidad laboral.

La IA es, y probablemente seguirá siendo, la herramienta más poderosa jamás creada por el ser humano. No tiene conciencia, ni consciencia, ni deseo de dominar el mundo. No tiene ningún conocimiento. Te da una receta maravillosa pero no “sabe” qué es comer, ni qué es cada producto ni nada de nada. Es mera estadística. Lo siento, no es magia. Tratar a estos modelos como herramientas de enorme impacto, en lugar de como agentes casi divinos, es el primer paso necesario para garantizar que la tecnología se utilice para elevar el potencial humano en lugar de socavarlo. La precaución es absolutamente necesaria, pero debe estar guiada por la ciencia y la realidad de los algoritmos de hoy, no por los espectros de la ciencia ficción de mañana.

Que no vendan cortinas de humo para decir que paran el desarrollo. El desarrollo de este modelo da para poco más, aunque ellos vendieran otra cosa, los tecno-magnates no buscan una IA ética y responsable ni temen un apocalipsis. Nada que no sea ordenado o diseñado por un humano puede salir de la IA. Lo que quieren es que este juego tenga sus reglas, no las del juego, sino las que los propietarios de las grandes de Silicon Valley quieren.