Minab, Maven y las preguntas difíciles sobre IA y sentiencia

Minab: el costo civil detrás de un fallo de selección de objetivos

¿Sabías que una escuela primaria de Minab fue alcanzada el 28 de febrero, primer día de la guerra contra Irán, y que la cifra de víctimas continúa en disputa? Associated Press contabilizó unos 120 niños entre las personas fallecidas; los medios estatales iraníes situaron el total en 168, mientras AFP informó de al menos 155 muertos, la mayoría niños. El acceso limitado de periodistas impide tratar esas cifras como un recuento final confirmado. La escuela estaba junto a un complejo de la Guardia Revolucionaria, pero ambos lugares habían estado visiblemente separados desde 2016. El Congressional Research Service informó que un misil Tomahawk alcanzó la escuela y que una investigación militar preliminar de Estados Unidos responsabilizó al país, basándose en información de objetivos desactualizada. El secretario de Estado Marco Rubio afirmó que Estados Unidos “would not deliberately target a school”. Meses después, el Pentágono todavía no había publicado sus conclusiones, por lo que las familias y el público seguían sin una explicación oficial completa.

El detalle humano más doloroso es también el más cotidiano: los profesores llamaron a los padres para que recogieran a sus hijos antes de que el gobierno iraní ordenara cerrar las escuelas esa mañana, y algunos padres no llegaron a tiempo. Ese dato convierte la historia en algo más concreto que una disputa sobre una lista de objetivos: muestra una escuela, una rutina matinal y niños sin participación en las decisiones de la guerra. El artículo no establece que un sistema de IA seleccionara el objetivo de Minab. Informa que un Tomahawk alcanzó la escuela y que una investigación preliminar señaló información desactualizada; por separado, describe el uso de Maven por parte del Pentágono durante la campaña en general. Mantener separadas esas afirmaciones es importante. Vincular un ataque específico con la IA sin pruebas no aclararía la rendición de cuentas: la confundiría. Desde la perspectiva de las ciudades inteligentes, la lección no es que todos los sistemas automatizados causen daño, sino que las decisiones que afectan a lugares civiles requieren información rastreable, revisión y una vía clara para investigar los errores.

La investigación descrita también muestra que la vigencia y calidad de los datos pueden importar tanto como la precisión técnica de un arma. La cobertura menciona un Tomahawk, pero no identifica el flujo de selección de objetivos concreto del ataque, el programa empleado para calcular sus coordenadas ni a las personas que aprobaron la decisión. Tampoco publica el informe militar completo. Esas lagunas limitan lo que puede afirmarse responsablemente sobre el funcionamiento del sistema. Lo que sí se conoce es que la escuela llevaba desde 2016 separada visiblemente del complejo cercano y que, según la investigación preliminar, la información desactualizada fue un factor. Un arma precisa, dirigida con información incorrecta o antigua, puede alcanzar el lugar equivocado. Esa es una consecuencia operativa general, no una afirmación sobre un algoritmo que no se ha descrito. La distinción importa para cualquier institución que utilice tecnología: las personas necesitan saber qué información tomó en cuenta un sistema, cuándo fue verificada y quién tenía autoridad para cuestionar el resultado.

Las consecuencias de Minab van más allá de las muertes y la investigación. El 17 de septiembre, la misión de investigación de la ONU sobre Irán encontró motivos razonables para creer que fuerzas estadounidenses cometieron crímenes de guerra en dos ataques de febrero, incluido el de Minab. La misión dijo que la escuela era claramente civil, que los datos de inteligencia no se habían verificado adecuadamente y que el ataque excedía la negligencia. El gobierno estadounidense no había aceptado esa conclusión; en junio, el presidente Trump dijo que “nobody” había atacado la escuela deliberadamente, mientras las conclusiones del Pentágono seguían sin publicarse. Las declaraciones políticas y los hallazgos de la misión tienen distintos autores y estatus, y no deben presentarse como una sola versión definitiva. Para quienes crean o gobiernan sistemas que ayudan a dirigir acciones, la pregunta práctica es si después de un error se puede reconstruir la decisión: qué información había, cuán fiable era y si una revisión humana podía intervenir. Esa pregunta es urgente en cualquier ciudad donde el software influye en decisiones sobre personas y espacios.

Maven, la velocidad y la trampa de la escalada

El artículo sobre el conflicto describe otra historia tecnológica: el Pentágono utilizó la plataforma de selección de objetivos con IA llamada Maven para atacar más de 13.000 objetivos durante los primeros 38 días de la guerra. Michael Klare, en Arms Control Today, señaló que la velocidad de Maven para seleccionar y volver a seleccionar objetivos daba una ventaja militar a las fuerzas estadounidenses, al ayudarles a desactivar capacidades iraníes con rapidez y continuidad e impedir que se reconstruyeran. Esa es la justificación operativa reportada, no una especificación técnica publicada. El artículo no revela la arquitectura del modelo de Maven, sus datos de entrenamiento, sus umbrales de confianza, sus entradas de sensores ni la distribución exacta del trabajo entre el software y quienes toman decisiones. Por eso no permite afirmar qué algoritmos concretos se usaron ni demostrar que Maven participara en el ataque de Minab. Sí establece que la plataforma se usó a gran escala y que las autoridades consideraban central la velocidad como ventaja. Si un sistema ayuda a procesar objetivos rápidamente y de forma repetida, las preguntas sobre revisión, verificación y responsabilidad adquieren más importancia, no menos.

La información publicada sitúa esa aceleración junto a una reducción considerable del personal dedicado a proteger a civiles. Politico informó en marzo que el personal del Pentágono centrado en reducir víctimas civiles había caído de unas 200 personas a menos de 40. Un exfuncionario dijo a AP que el ataque de Minab era una consecuencia natural de esos recortes y del énfasis del secretario de Defensa Pete Hegseth en la letalidad. Esa es una evaluación atribuida, no una conclusión oficial que demuestre una cadena causal directa. Aun así, las cifras describen un desequilibrio llamativo: más de 13.000 objetivos en los primeros 38 días, mientras que, según los informes, el equipo de protección civil quedó reducido a menos de una quinta parte de su tamaño anterior. El artículo no detalla cómo se distribuyó ese personal ni qué procedimientos de revisión permanecieron. Sí invita a preguntar si la velocidad para seleccionar objetivos estaba acompañada de suficiente capacidad para detectar riesgos civiles, comprobar la información y responder a señales de advertencia. Un proceso de alto rendimiento no es automáticamente un proceso bien gobernado.

Robert Pape, politólogo de la Universidad de Chicago y fundador del Chicago Project on Security and Threats, describe el peligro general como una “trampa de escalada”. Sostiene que la certeza moral de ambos lados puede normalizar ataques cada vez más agresivos contra civiles, cuando cada parte trata a los civiles del otro bando como merecedores del daño. La descripción de su investigación sobre terrorismo suicida, en sus libros Dying to Win y Cutting the Fuse, identifica la ocupación extranjera como un factor principal. Pape advierte que la ira causada por las muertes de civiles puede tener consecuencias futuras y dijo en Amanpour & Company, de PBS, que “even with smart bombs, there’s going to be collateral damage of a serious nature.” Su planteamiento no demuestra que un incidente provocara un ataque posterior. El artículo señala expresamente que los casos del hombre armado de Austin y del atacante de Temple Israel no demuestran que la guerra causara esa violencia, y que los motivos seguían sin aclararse. El riesgo que describe es una posible vía de escalada, no una explicación confirmada de esos hechos.

Las consecuencias se extienden más allá de los sistemas de mando militares. Las ciudades dependen de decisiones sobre infraestructura, transporte, seguridad pública y emergencias tomadas con datos fiables y responsabilidades claras. La comparación no significa que los servicios urbanos sean equivalentes a la selección de objetivos durante una guerra: no lo son. La conexión es que la rapidez y la automatización pueden hacer que las decisiones importantes parezcan rutinarias, aunque las personas terminen pagando el precio de información defectuosa. El artículo no ofrece detalles de la arquitectura de Maven, y un análisis responsable no debería rellenar ese vacío con especulación. Sí aporta datos sobre escala, ritmo y contexto institucional: más de 13.000 objetivos en 38 días, una reducción reportada del personal de protección civil y una investigación de Minab aún sin publicar. En conjunto, esos hechos plantean una prueba de gobernanza útil para cualquier sistema de alto impacto: ¿pueden las autoridades mostrar qué información utilizó, quién la comprobó, qué ocurrió al emplear datos antiguos y cómo se investigan los daños? Durante la próxima década, la confianza pública dependerá tanto de responder esas preguntas como del rendimiento técnico.

Daño civil, rendición de cuentas y verdades simultáneas

La advertencia central del artículo es que no basta con elegir un único culpable cuando las pruebas describen daños y presuntos crímenes cometidos por más de una parte. El 17 de septiembre, la misión de investigación de la ONU encontró motivos razonables para creer que fuerzas estadounidenses cometieron crímenes de guerra en dos ataques de febrero, incluido el de Minab. La misma misión concluyó que la represión iraní de las protestas desde finales de diciembre constituía crímenes de lesa humanidad. El recuento oficial iraní fue de 3.038 muertos, una cifra que la misión consideró inferior a la real. Son conclusiones distintas sobre conductas diferentes; reconocer ambas no equivale a decir que sean iguales. El artículo sostiene que mantener presentes varias verdades es importante porque la atención selectiva puede reforzar la certeza moral que alimenta la escalada. Esa postura también importa al informar sobre tecnología: hablar de un fallo de sistema no debe borrar a otras víctimas, y condenar los abusos de un gobierno no debe servir para descartar pruebas sobre las acciones de otro.

Las respuestas propuestas se centran tanto en la rendición de cuentas pública como en la capacidad técnica. El artículo propone que los programas informativos pregunten quién corre mayor peligro a continuación y qué podría impedirlo antes de centrarse en quién tiene razón. También plantea que investigadores de protección civil, trabajadores humanitarios y mediadores compartan espacio con las voces partidistas. En relación con la selección de objetivos asistida por IA, la propuesta concreta es exigir una revisión independiente y una explicación pública cuando existan pruebas creíbles de daños graves. Así, la investigación no se limita a un proceso interno cuyas conclusiones nunca llegan a las personas afectadas. El artículo no define un comité específico, un estándar jurídico ni un método de auditoría técnica, por lo que no deben darse por supuestos. Su exigencia concreta es la revisión independiente y la explicación pública. Esa transparencia puede ayudar a distinguir la contribución del software de las decisiones de las autoridades, sin convertir al sistema en un sustituto conveniente de la responsabilidad humana: es necesario investigar toda la cadena de decisiones.

La memoria es otra forma de rendición de cuentas. AP describió la escuela destruida de Minab como un memorial y publicó estas palabras: “This will never be a school again.” En marzo, Win Without War colocó mochilas infantiles en el Capitolio para recordar a los niños fallecidos. El artículo señala que la ciudadanía puede mantener esos memoriales a la vista de legisladores que preferirían no mirar. También destaca la diplomacia: un alto el fuego mediado por Pakistán en abril, descrito por Imran Khalid, de Foreign Policy in Focus, como “a shift in the center of the diplomatic world”, mostró que la diplomacia aún podía abrirse camino. Pape ha dicho que sigue siendo posible un acuerdo parecido al pacto nuclear de 2015, con enriquecimiento bajo, alivio de sanciones e inspecciones. Esos ejemplos no garantizan un acuerdo, pero muestran que el conflicto depende de decisiones políticas además de herramientas militares. Ningún sistema que acelere la acción puede sustituir la negociación, el escrutinio público o el difícil trabajo de llegar a compromisos.

Las consecuencias no se limitan a Irán. El artículo informa que el responsable de derechos humanos de la ONU dijo que los civiles sufrían el peso de la nueva escalada de combates en Yemen: 32 civiles habían muerto desde agosto, incluidos 15 niños. En Ucrania, la ONU documentó 15.280 civiles muertos o heridos durante los primeros ocho meses de 2026. También se informaron muertes civiles en ataques estadounidenses en Irán, entre ellas cuatro personas en una boda según el recuento iraní de septiembre, además de ataques con misiles y drones que afectaron ciudades del Golfo, incluidos los aeropuertos de Dubái y Abu Dabi. Estos datos no demuestran que todos los hechos tengan la misma causa o el mismo patrón operativo. Sí muestran por qué el daño civil no puede tratarse como una nota al margen local. Las ciudades de la próxima década estarán condicionadas por el uso de datos y herramientas automatizadas, pero también por la posibilidad de cuestionar decisiones y obtener una explicación honesta del daño. La tecnología puede cambiar el ritmo de la acción; la rendición de cuentas determina si el público queda solo frente a sus consecuencias.

Ted Chiang: ficción sobre IA, poder y lo que los modelos de lenguaje no son

Otra pregunta sobre la IA aparece en una conversación con el escritor de ciencia ficción Ted Chiang: ¿cómo escribir sobre mentes artificiales cuando las empresas tecnológicas y los medios promueven afirmaciones sobre la IA actual? La entrevista comienza con una idea del ensayo de 2024 de Ali Alkhatib: la IA no debería entenderse solo como una herramienta con características políticas, sino como un proyecto político capaz de trasladar autoridad y autonomía desde las personas hacia estructuras de poder centralizadas. Chiang consideró útil ese enfoque, especialmente porque los promotores de la IA pueden describir un sistema como “just a tool — like a hammer” y, al mismo tiempo, asegurar que será transformador de una forma que un martillo no puede serlo. Relaciona esa tensión con su ensayo de 2023, “Will A.I. Become the New McKinsey?”, donde pregunta si la IA puede hacer algo distinto de afilar el cuchillo del capitalismo. Su observación es que resulta fácil ver cómo la IA puede ayudar al capital frente al trabajo, y mucho más difícil ver cómo ayuda al trabajo frente al capital. Se trata de un argumento sobre instituciones y poder, no de afirmar que una máquina tenga intenciones.

Chiang establece también una frontera clara entre los grandes modelos de lenguaje actuales y los seres conscientes de ficción. Afirma que los LLM no son conscientes, no tienen experiencia subjetiva, no pueden sufrir y, por tanto, no se les deben obligaciones como si fueran entidades sintientes. En su opinión, los LLM actuales no demuestran que haya llegado la vida artificial descrita en su novela The Lifecycle of Software Objects. Si el software llegara algún día a tener experiencia subjetiva y capacidad de sufrir, las obligaciones morales hacia él serían una cuestión importante. Pero Chiang describe esa posibilidad como teórica y añade: “We are no closer to conscious software now than we were sixteen years ago.” La entrevista no ofrece una prueba técnica de la conciencia ni afirma que una arquitectura concreta pueda producirla. Su distinción útil es conceptual: que un sistema genere lenguaje no lo convierte por ello en una persona con experiencias. Confundir esas categorías puede distorsionar el debate público sobre lo que hacen los sistemas existentes y sobre lo que todavía pertenece a la especulación.

Para los escritores, esa distinción abre un espacio creativo y plantea un reto de comunicación. Chiang dice que ningún autor puede garantizar que sus lectores entiendan una historia como pretendía, y observa que los defensores de la tecnología pueden interpretar la ficción especulativa desde sus propias certezas. Propone varias formas de evitar que una IA ficticia se lea como una predicción sobre los chatbots actuales: dejar claro que los sistemas son distintos, situar la historia en un futuro lejano o un pasado alternativo, crear un mundo secundario o explicar con cuidado las bases científicas de la IA inventada. Otra opción es escribir historias que cuestionen directamente las narrativas de la industria, por ejemplo imaginando una IA que propone soluciones terribles al cambio climático. Ninguno de esos métodos garantiza una interpretación determinada, pero permite señalar lo que una historia afirma y lo que no. Chiang cita la novela corta de 2024 Death and the Gorgon, de Greg Egan, en la que personas ricas congelan sus cerebros esperando revivir en el futuro, como ejemplo de una historia que aborda tecnologías actuales y contradice algunas narrativas de Silicon Valley.

La relevancia para las empresas tecnológicas no es que la ficción deba interpretarse como una predicción. Es que las historias sobre IA pueden influir en la manera en que la gente entiende los productos, las promesas y el poder. La pregunta de Chiang —si la IA puede hacer algo más que afilar el cuchillo del capitalismo— invita a examinar quién se beneficia y quién adquiere control, en vez de concentrarse solo en si un sistema produce resultados impresionantes. Esa mirada tiene una aplicación práctica para las organizaciones que adoptan IA: determinar qué hace realmente la herramienta, qué decisiones afecta y quién mantiene la responsabilidad por el resultado. La entrevista no aporta cifras de mercado, tasas de adopción ni un producto técnico nuevo, así que no deben inferirse. Su contribución es un vocabulario cuidadoso para distinguir los LLM actuales del software consciente hipotético y para examinar los acuerdos de poder alrededor de la tecnología. En la próxima década, esas distinciones serán importantes en el debate cívico tanto como en la ciencia ficción: las expectativas públicas pueden estar moldeadas por la exageración, mientras que una buena gobernanza depende de describir con precisión las capacidades y los límites actuales.

Dónde encaja Robles.AI

Para una empresa que considera adoptar IA, la pregunta práctica es concreta: ¿qué procesos implican decisiones importantes, qué información utilizaría el sistema y cómo revisarán las personas sus resultados? Estas preguntas son especialmente importantes cuando la velocidad puede ocultar datos desactualizados o dificultar la identificación de responsabilidades.

Ofrecemos diagnósticos de IA de dos semanas y precio fijo: Esencial cubre hasta dos procesos, Avanzado hasta cuatro e Integral hasta seis. También ofrecemos proyectos directos de IA con alcance definido mediante una propuesta, además de demostraciones en vivo para responder preguntas sobre documentos con RAG, extraer datos estructurados, transcribir voz, realizar pronósticos y otras capacidades disponibles.