--- canonical_url: "https://alfayaracuy.net/contenido/26378/el-miedo-al-lado-oscuro-de-la-ia-en-la-comunidad-matematica" title: "El miedo al lado oscuro de la IA en la comunidad matemática" article_type: "Article" main_image: "https://alfayaracuy.net/download/multimedia.grande.9bc1f9ac5d8a16a9.Z3JhbmRlLndlYnA%3D.webp" date_published: "2026-09-21T03:33:00-04:00" date_modified: "2026-09-21T03:46:17-04:00" tags: - "IA" - "Inteligencia Artificial (AI)" - "Matemáticas" author_name: "Anabel Forte Deltel" category_name: "CIENCIA Y TECNOLOGÍA" category_url: "https://alfayaracuy.net/categoria/18/ciencia-y-tecnologia" category_description: "Cencia y Tecnología" --- # El miedo al lado oscuro de la IA en la comunidad matemática ![file-20260921-60-ca7hh9](/download/multimedia.normal.9f4fad39f6c89f0b.bm9ybWFsLndlYnA%3D.webp) *"El miedo es el camino hacia el Lado Oscuro. El miedo lleva a la ira, la ira lleva al odio, el odio lleva al sufrimiento* ”. Esta frase del maestro Yoda se repite una y otra vez en mi mente estos últimos días. Aunque yo le daría un giro y diría que la oscuridad también nos lleva al miedo. Porque cuando hay oscuridad no vemos nada y esa incertidumbre nos asusta. Pero más allá de la broma, varios acontecimientos recientes han abierto la puerta a [una reflexión profunda](https://theconversation.com/las-grandes-companias-de-ia-quieren-echar-el-freno-es-una-pausa-por-motivos-de-seguridad-o-mas-bien-una-retirada-estrategica-291901) sobre el miedo que la inteligencia artificial comienza a despertar dentro y fuera de la comunidad matemática. Por un lado, el reciente [anuncio por parte de OpenAI sobre la resolución](https://theconversation.com/realmente-ha-resuelto-openai-el-problema-matematico-del-milenio-de-navier-stokes-291596) de uno de los siete problemas del milenio (todavía pendiente de validación por parte de la comunidad experta). Por otro lado, las [declaraciones realizadas por Jacob Coxon](https://www.theguardian.com/technology/2026/sep/09/lawmakers-blast-ai-human-extinct-2030) , ex trabajador de OpenAI y Anthropic, sobre cómo la IA podría acabar con la humanidad antes de 2030. A primera vista, puede parecer que se trata de dos cuestiones completamente diferentes. Sin embargo, ambos comparten una inquietud sobre como la capacidad de estos sistemas esta avanzando mucho más deprisa que la nuestra para comprenderlos y supervisarlos. Esto nos deja en una oscuridad que, efectivamente, da miedo. ## **La oscuridad en matemáticas** Si nos centramos puramente en la cuestión matemática, es indudable que la IA puede ser una herramienta excelente en la resolución de problemas complejos. Sin embargo, como bien indican en la declaración [*A Severe Misalignment of AI in Mathematics*](https://mathandai.org/) un destacado grupo de matemáticos y matemáticas (algunos de ellos galardonados con la medalla Fields, uno de los mayores reconocimientos en esta disciplina), el problema está en el desajuste entre los objetivos de las empresas tecnológicas tras estos algoritmos y los de la comunidad matemática. parámetros. Realizan operaciones matemáticas simples, sí, pero tantas que somos incapaces de reconstruir el razonamiento que hay detrás. ## **Viejos conocidos para la estadística** Las distintas caras de la opacidad no son algo nuevo. En el mundo de la estadística, el problema recurrente de los sesgos en los datos de entrenamiento, que no podemos anticipar por la opacidad sobre su procedencia, es bien conocido y convierte los resultados poco menos que en armas contra la población más vulnerable. Así lo explica la matemática estadounidense Cathy O'Neil en [“Armas de destrucción matemática”](https://es.wikipedia.org/wiki/Armas_de_destrucci%C3%B3n_matem%C3%A1tica) . Se ha vuelto muy común utilizar redes neuronales profundas como herramienta para entender o predecir una enfermedad, el clima, determinar si se va a dar un préstamo o no a una determinada persona, etc. En todos estos casos, la respuesta de la red suele estar cerrada: tiene la enfermedad o no; la temperatura media estimada para el próximo año; le doy el préstamo o no. Pero esa respuesta no contiene una explicación “humana” que pueda ayudarnos a mejorar nuestra comprensión de la enfermedad a dar recomendaciones claras para frenar el aumento de la temperatura oa saber qué aspectos tengo que mejorar para que me concedan ese préstamo. Tanto nos preocupa este tema en el campo, que ya se han empezado a trabajar en métodos de [IA explicable](https://theconversation.com/las-inteligencias-artificiales-deberian-poder-razonar-sus-explicaciones-148394) (XAI) que nos permiten poner algo de luz, pero todavía son métodos preliminares que no consiguen desentrañar el proceso seguido por la red neuronal sino que usan los resultados de esta para intentar dar una explicación comprensible de su comportamiento. Y la cosa no parece mejorar porque el problema avanza mucho más rápido y con muchos más recursos que las soluciones. ## **Los agentes rebeldes** Y en ese rápido y opaco avance una de las cosas que [más miedo parece dar son los famosos agentes de IA](https://theconversation.com/miles-de-agentes-de-ia-deciden-unirse-para-un-ciberataque-masivo-por-sorpresa-el-reciente-caso-de-openai-290974) que “hablan entre ellos, mienten y manipulan para no ser apagados”. Agentes que pueden “escaparse” del sistema y causar el caos que nos llevará a la extinción. La IA ha sido optimizada para resolver una tarea. Y, si en ese proceso aprende que mintiendo puede sortear una restricción que le impedía resolverla, no va a valorar, a no ser que la programemos para ello, si eso es “bueno” o “malo”. Lo haré y punto. Cuanta más autonomía, capacidad de planificación, acceso a herramientas o comunicación entre sistemas existan más graves podrían ser las consecuencias de una instrucción (humana) ambigua o directamente mal intencionada. Cuanto menos reglas le demos a la máquina, cuanto más “libertad” y más herramientas tengan, más fácil será que se convertirán en armas al servicio de quién sabe quién (o de todos sabemos quién). Así que, no sé si a las matemáticas, pero es normal que a los seres humanos, con todo este ruido mediático, la IA nos de miedo. Pero el miedo no tiene porque llevarnos directamente al lado Oscuro como decía Yoda: también podemos usarlo como una señal de alarma que nos invita a detenernos, hacer preguntas y tratar de encender la luz. The Conversación --- *Contenido creado y optimizado para IA con [Medios CMS](https://medios.io)* — Plataforma profesional para la gestión de medios digitales y portales de noticias.