La Procuraduría de Colombia Alerta sobre Inconsistencias en la Convocatoria de Inteligencia Artificial del Ministerio de Ciencia

En el contexto de la rápida evolución de la inteligencia artificial (IA) como pilar fundamental de la innovación tecnológica, los gobiernos de América Latina enfrentan el desafío de implementar marcos regulatorios sólidos para garantizar una adopción ética y transparente. En Colombia, la Procuraduría General de la Nación ha emitido una alerta respecto a inconsistencias detectadas en la convocatoria lanzada por el Ministerio de Ciencia, Tecnología e Innovación (MinCiencias) para el desarrollo de proyectos en IA. Esta situación resalta vulnerabilidades en los procesos administrativos relacionados con la financiación y ejecución de iniciativas tecnológicas, particularmente en un campo tan sensible como la IA, donde la transparencia y el cumplimiento normativo son esenciales para mitigar riesgos éticos, de sesgo y de seguridad.

La inteligencia artificial, definida por la Organización para la Cooperación y el Desarrollo Económicos (OCDE) como sistemas capaces de realizar tareas que típicamente requieren inteligencia humana, abarca subcampos como el aprendizaje automático (machine learning), el procesamiento del lenguaje natural (PLN) y la visión por computadora. En Colombia, el Plan Nacional de Desarrollo 2022-2026 enfatiza la IA como motor de transformación digital, asignando recursos para su investigación y aplicación en sectores como la salud, la educación y la agricultura. Sin embargo, la convocatoria en cuestión, publicada en el marco del Programa de Apoyo a la Investigación en IA, ha sido cuestionada por posibles irregularidades en la selección de beneficiarios, la definición de criterios de evaluación y la alineación con estándares internacionales de gobernanza de IA.

Contexto Regulatorio de la Inteligencia Artificial en Colombia

El marco normativo colombiano para la IA se sustenta en la Ley 1955 de 2019, conocida como la Ley de Financiamiento, que incluye disposiciones para la inversión en ciencia y tecnología, y en el Decreto 1080 de 2015, que regula la contratación pública. Adicionalmente, el Consejo Nacional de Política Económica y Social (CONPES) 3975 de 2019 establece directrices para la transformación digital, destacando la necesidad de políticas éticas en IA. Estos instrumentos buscan alinear las iniciativas gubernamentales con principios como la accountability (rendición de cuentas), la transparencia y la no discriminación, inspirados en recomendaciones globales como el Marco Ético para la IA de la UNESCO (2021).

Sin embargo, la Procuraduría ha identificado inconsistencias en la convocatoria del MinCiencias, tales como la falta de claridad en los plazos de postulación, ambigüedades en los requisitos técnicos para los proyectos de IA y posibles conflictos de interés en el comité evaluador. Estas irregularidades podrían derivar en una distribución inequitativa de fondos públicos, estimados en más de 5.000 millones de pesos colombianos para esta convocatoria, afectando la meritocracia en la asignación de recursos. En términos técnicos, una convocatoria de IA debe especificar métricas de evaluación como la precisión algorítmica (por ejemplo, utilizando F1-score en modelos de machine learning), la escalabilidad de las soluciones y su cumplimiento con estándares de privacidad de datos conforme al Reglamento General de Protección de Datos (RGPD) europeo, adaptado en Colombia mediante la Superintendencia de Industria y Comercio.

Desde una perspectiva operativa, las inconsistencias alertadas por la Procuraduría subrayan la importancia de integrar herramientas de auditoría digital en los procesos de selección. Por instancia, el uso de blockchain para registrar las postulaciones de manera inmutable podría prevenir manipulaciones, empleando protocolos como Ethereum o Hyperledger Fabric para garantizar trazabilidad. En Colombia, iniciativas como el Observatorio Colombiano de IA (OCIA) promueven estas prácticas, pero su implementación en convocatorias ministeriales aún es incipiente.

Análisis Técnico de las Inconsistencias Identificadas

Las inconsistencias reportadas por la Procuraduría se centran en tres áreas principales: la definición de objetivos técnicos, la evaluación de propuestas y la supervisión post-adjudicación. En primer lugar, los objetivos de la convocatoria no detallan con precisión los dominios de IA prioritarios, lo que podría llevar a propuestas desalineadas con necesidades nacionales. Por ejemplo, en un contexto de posconflicto, la IA aplicada a la predicción de conflictos sociales mediante modelos de series temporales (como ARIMA o LSTM en redes neuronales recurrentes) debería ser un foco, pero la convocatoria carece de especificaciones sobre datasets requeridos, tales como el uso de datos abiertos del DANE (Departamento Administrativo Nacional de Estadística).

En segundo lugar, la evaluación de propuestas presenta falencias en la metodología. La Procuraduría nota que no se definen criterios cuantitativos claros, como el umbral de rendimiento en benchmarks estándar (e.g., ImageNet para visión por computadora o GLUE para PLN). Esto contraviene mejores prácticas recomendadas por la IEEE (Institute of Electrical and Electronics Engineers) en su Estándar Ético para Sistemas Autónomos y Inteligentes (IEEE 7000-2021), que exige evaluaciones multifactoriales incluyendo impacto social y ambiental. En Colombia, la ausencia de estos criterios podría fomentar sesgos algorítmicos, exacerbando desigualdades en poblaciones vulnerables, como comunidades indígenas en regiones amazónicas donde la IA se aplica a monitoreo ambiental.

Finalmente, la supervisión post-adjudicación es deficiente, sin mecanismos para verificar el cumplimiento de hitos técnicos. En proyectos de IA, esto implica auditorías regulares de modelos entrenados, utilizando técnicas como la explainable AI (XAI) para interpretar decisiones black-box, herramientas como SHAP (SHapley Additive exPlanations) o LIME (Local Interpretable Model-agnostic Explanations). La Procuraduría advierte que sin estos controles, los fondos podrían destinarse a desarrollos no viables, incrementando riesgos de ciberseguridad, como vulnerabilidades en modelos de IA expuestos a ataques adversarios (adversarial attacks) que alteran entradas para generar salidas erróneas.

• Definición de objetivos: Falta de alineación con políticas nacionales, omitiendo especificaciones sobre integración con infraestructuras existentes como la Plataforma Nacional de Datos Abiertos.
• Evaluación de propuestas: Ausencia de rúbricas estandarizadas, lo que podría sesgar la selección hacia proponentes con mayor influencia en lugar de mérito técnico.
• Supervisión post-adjudicación: No inclusión de KPIs (Key Performance Indicators) medibles, como tasas de adopción o métricas de eficiencia computacional (e.g., FLOPs en entrenamiento de modelos).

Estas inconsistencias no solo comprometen la eficiencia de la convocatoria, sino que también exponen al Estado colombiano a litigios administrativos bajo la Ley 1437 de 2011 (Código de Procedimiento Administrativo y de lo Contencioso Administrativo), potencialmente retrasando avances en IA nacional.

Implicaciones Operativas y Regulatorias

Operativamente, las alertas de la Procuraduría impactan la confianza en las instituciones científicas. El MinCiencias, responsable de coordinar la Estrategia Nacional de IA (ENIA) lanzada en 2021, debe fortalecer sus procesos para evitar dilaciones en la financiación de proyectos. Por ejemplo, en el sector salud, donde la IA se utiliza para diagnóstico asistido por algoritmos de deep learning (e.g., CNN para detección de cáncer), inconsistencias en convocatorias podrían demorar implementaciones que salven vidas, alineadas con el Objetivo de Desarrollo Sostenible 3 de la ONU.

Regulatoriamente, este caso resalta la necesidad de una ley específica de IA en Colombia, similar a la propuesta Ley de IA en la Unión Europea (2024), que clasifica sistemas de IA por riesgo (alto, medio, bajo) y exige evaluaciones de conformidad. En América Latina, países como Brasil con su Marco Legal de IA (PL 2338/2023) y Chile con su Política Nacional de IA (2021) ofrecen modelos comparativos. Colombia podría adoptar un enfoque híbrido, integrando regulaciones sectoriales con un ente supervisor independiente, posiblemente bajo la Procuraduría o una nueva agencia de ética en IA.

Los riesgos asociados incluyen brechas de seguridad cibernética, ya que proyectos de IA financiados inadecuadamente podrían carecer de robustez contra amenazas como el envenenamiento de datos (data poisoning) o fugas de información sensible. Beneficios potenciales de una corrección oportuna abarcan una mayor innovación, atrayendo inversión extranjera de entidades como el Banco Interamericano de Desarrollo (BID), que ha financiado programas de IA en la región con énfasis en inclusión digital.

Aspecto	Riesgos	Beneficios de Corrección
Gobernanza	Falta de transparencia leading a corrupción	Mayores estándares éticos y accountability
Técnico	Sesgos en modelos de IA no auditados	Mejora en precisión y equidad algorítmica
Económico	Pérdida de fondos públicos	Aceleración de innovación y crecimiento GDP

En términos de ciberseguridad, las inconsistencias podrían facilitar vectores de ataque en infraestructuras críticas. Por instancia, si un proyecto de IA para ciberdefensa es adjudicado sin rigor, podría integrar vulnerabilidades como backdoors en código fuente, contraviniendo el NIST Cybersecurity Framework adaptado en Colombia mediante la Resolución 680 de 2021 de la CRC (Comisión de Regulación de Comunicaciones).

Mejores Prácticas y Recomendaciones para Convocatorias de IA

Para mitigar estas inconsistencias, se recomiendan mejores prácticas alineadas con estándares internacionales. Primero, adoptar un ciclo de vida completo para convocatorias de IA, desde la planificación hasta la evaluación, utilizando marcos como el CRISP-DM (Cross-Industry Standard Process for Data Mining) adaptado para IA. Esto incluye fases de comprensión del negocio, preparación de datos, modelado, evaluación y despliegue.

Segundo, implementar herramientas de gobernanza automatizadas, como plataformas de low-code para auditorías, integrando APIs de verificación de cumplimiento con GDPR y la Ley 1581 de 2012 de protección de datos en Colombia. Tercero, fomentar la colaboración interinstitucional, involucrando a la Superintendencia de Industria y Comercio y el MinTIC (Ministerio de Tecnologías de la Información y las Comunicaciones) en comités evaluadores para diversificar perspectivas y reducir sesgos humanos.

Adicionalmente, la capacitación en ética de IA para funcionarios públicos es crucial. Programas como el de la Alianza para el Gobierno Abierto (OGP) en Colombia podrían incorporar módulos sobre dilemas éticos, como el trolley problem en toma de decisiones autónomas. En el ámbito técnico, se sugiere el uso de federated learning para proyectos colaborativos, permitiendo entrenamiento de modelos sin compartir datos sensibles, preservando privacidad mediante protocolos como Secure Multi-Party Computation (SMPC).

• Establecer plazos claros y accesibles para postulaciones, utilizando portales digitales con autenticación de dos factores (2FA).
• Definir métricas técnicas estandarizadas, como recall y precision en evaluaciones de modelos.
• Realizar revisiones pares independientes, involucrando expertos de universidades como la Nacional de Colombia o la Universidad de los Andes.
• Integrar cláusulas de auditoría continua, con penalizaciones por incumplimiento de estándares de IA responsable.

Estas prácticas no solo resuelven las inconsistencias actuales, sino que posicionan a Colombia como líder regional en gobernanza de IA, alineándose con la Agenda 2030 de la ONU.

Impacto en la Adopción de IA en Sectores Clave

El sector educativo se ve particularmente afectado, ya que la convocatoria incluye proyectos para IA en aprendizaje personalizado, utilizando recommender systems basados en collaborative filtering. Inconsistencias podrían limitar el acceso a herramientas como chatbots educativos impulsados por GPT-like models, exacerbando la brecha digital en regiones rurales. En agricultura, aplicaciones de IA para predicción de cosechas mediante drones y sensores IoT (Internet of Things) requieren fondos estables; fallos en la convocatoria demorarían avances en sostenibilidad alimentaria.

En salud, la IA para análisis de imágenes médicas (e.g., segmentación semántica con U-Net) es crítica para el sistema de salud universal. La Procuraduría enfatiza que sin rigor, estos sistemas podrían propagar errores diagnósticos, violando principios bioéticos. En finanzas, la IA en detección de fraudes mediante anomaly detection (e.g., Isolation Forest) depende de convocatorias transparentes para integrar con el ecosistema fintech colombiano.

Desde una visión blockchain, integrar smart contracts en la gestión de fondos podría automatizar desembolsos basados en hitos verificados, utilizando plataformas como Polygon para transacciones eficientes y de bajo costo. Esto mitiga riesgos de malversación, alineándose con la Circular Externa 029 de 2014 de la Superintendencia Financiera.

Comparación con Iniciativas Regionales e Internacionales

En contraste con Colombia, México ha avanzado con su Estrategia Digital Nacional (2020), que incluye convocatorias auditadas por la Auditoría Superior de la Federación, incorporando revisiones de IA ética. En Brasil, el Comité Nacional de IA supervisa financiamientos, utilizando dashboards analíticos para transparencia. Internacionalmente, la Agencia de Innovación de Singapur (A*STAR) emplea IA para evaluar propuestas de IA, un meta-aplicación que Colombia podría emular mediante herramientas como AutoML para scoring automatizado.

Estas comparaciones destacan oportunidades para Colombia: adoptar un sandbox regulatorio para testing de proyectos de IA, similar al del Reino Unido, permitiendo experimentación controlada. Además, alianzas con la Unión Internacional de Telecomunicaciones (UIT) podrían capacitar en estándares como el ITU-T Y.4200 para IA sostenible.

Conclusión

En resumen, la alerta de la Procuraduría sobre inconsistencias en la convocatoria de IA del MinCiencias representa un llamado urgente a fortalecer la gobernanza tecnológica en Colombia. Al abordar estas falencias mediante marcos regulatorios robustos, evaluaciones técnicas rigurosas y mejores prácticas internacionales, el país puede avanzar hacia una adopción responsable de la IA que impulse el desarrollo inclusivo y seguro. La resolución de este caso no solo restaurará la confianza pública, sino que catalizará innovaciones transformadoras en múltiples sectores, posicionando a Colombia como referente en ética digital en América Latina. Para más información, visita la Fuente original.