La IA que sirve es la que conoce sus datos
Desarrollamos inteligencia artificial sobre sus propias fuentes —dentro del ecosistema de SAP o sobre su plataforma de datos con tecnologías abiertas— y la entregamos gobernada: con estructura de decisión, riesgos clasificados y trazabilidad suficiente para responder ante un auditor.
La pregunta que decide si un modelo se aprueba o no
La conversación técnica es la fácil. La difícil llega después, y casi siempre la hace alguien de auditoría, de jurídico o del consejo.
Un modelo que nadie puede explicar es un modelo que nadie puede autorizar. Por eso construimos la respuesta al mismo tiempo que el sistema, no después.
¿Con qué datos se entrenó, y quién dijo que se podía?
Origen, permiso de uso, calidad y linaje de cada fuente que alimenta el modelo. Sin eso no hay defensa posible frente a protección de datos.
¿Quién responde cuando el modelo se equivoca?
Un sistema que decide sin intervención humana necesita un responsable con nombre, un umbral de escalamiento y un punto donde una persona puede detenerlo.
¿Se puede reconstruir una decisión de hace ocho meses?
Qué versión del modelo, con qué datos y bajo qué parámetros produjo aquel resultado. Es la diferencia entre un incidente explicable y uno indefendible.
¿Trata igual a todos los que deberían recibir el mismo trato?
Un modelo de crédito, de contratación o de triaje puede discriminar sin que nadie lo haya programado para hacerlo. Se detecta midiendo, no confiando.
Estas preguntas no las inventamos nosotros
ISO/IEC 42001:2023 es la primera norma internacional de sistemas de gestión de inteligencia artificial. Su comité no tiene que evaluar un marco propio de su proveedor: evalúa el cumplimiento de un estándar reconocido, auditable por un organismo certificador independiente.
Nuestro socio fundador es fundador y presidente de la Comisión de Inteligencia Artificial, Datos y Automatización de CANACINTRA. La conversación sobre cómo se gobierna la IA en México se está definiendo ahora, y estamos en la mesa donde ocurre.
Un sistema de gestión de IA tiene cinco frentes
No es un documento que se firma una vez. Es un ciclo que se planifica, se ejecuta, se verifica y se corrige — el mismo mecanismo de ISO 9001, aplicado a los modelos.
-
Estructura de gobierno
Quién autoriza un modelo, quién lo supervisa y quién puede detenerlo. Aquí es donde aparece el rol del CAIO.
-
Gestión de riesgos
Inventario de los sistemas de IA en operación, clasificados por el daño que pueden causar y no por su complejidad técnica.
-
Gobierno de los datos
Los datos que alimentan los modelos, con origen conocido, linaje trazable y calidad medida.
-
Protocolos de cumplimiento
Cómo se responde ante la regulación aplicable y ante un requerimiento externo, con la evidencia ya construida.
-
Competencias del equipo
Formación del personal que opera y supervisa los modelos. Una norma no la sostiene el software: la sostiene la gente.
y vuelve al 01: planificar, hacer, verificar, actuar
La adopción de la norma ya entrega valor por sí sola. La certificación, cuando se persigue, es lo que además lo demuestra ante un tercero.
Algorética: seis principios que se pueden verificar
El término nace del Rome Call for AI Ethics, firmado en Roma el 28 de febrero de 2020 por la Pontificia Academia para la Vida junto con Microsoft, IBM, la FAO y el Ministerio de Innovación del gobierno italiano. Su tesis: la ética de la inteligencia artificial no puede quedarse en declaraciones, tiene que bajar al algoritmo.
El documento organiza el problema en tres ámbitos —ética, educación y derechos— y lo concreta en seis principios. Nuestro trabajo consiste en traducir cada uno a algo que se pueda medir, probar y reportar.
Comprensible para cualquiera
El principio dice que un sistema de IA debe poder entenderse. En la práctica se verifica con explicabilidad: poder decir por qué el modelo decidió lo que decidió, en términos que entienda quien recibe la decisión.
Sin discriminar a nadie
Todo ser humano tiene igual dignidad. Se verifica midiendo si el modelo produce resultados sistemáticamente distintos entre grupos que deberían recibir el mismo trato — no preguntándole al equipo si cree que discrimina.
Alguien responde por lo que hace la máquina
Siempre debe haber una persona que responda. Se verifica en la estructura de gobierno: un responsable con nombre, un umbral de escalamiento y un punto real donde alguien puede detener el sistema.
No seguir ni crear sesgos
Distinto de la inclusión: aquí se revisa el origen. Un modelo puede heredar el sesgo de sus datos de entrenamiento o generarlo por su propia arquitectura. Se prueba en ambos extremos.
Que funcione, y que se sepa cuándo deja de hacerlo
Un modelo se degrada cuando la realidad cambia y él no. Se verifica con monitoreo continuo del desempeño y alertas de deriva, no con la prueba del día que se liberó.
Sistemas seguros que respetan al usuario
Control de acceso, protección del dato personal y linaje que permita saber qué información entró al modelo y con qué permiso. Aquí la algorética se cruza con la ley de protección de datos.
Rome Call for AI Ethics · Nuestro socio fundador es además representante titular de CANACINTRA ante USEM, que agrupa a dirigentes empresariales en torno a la ética empresarial e integra la red internacional UNIAPAC. La conversación sobre ética de la IA no nos llegó por moda.
La auditoría algorítmica
Los seis principios se vuelven exigibles cuando alguien los revisa desde fuera. Las metodologías se apoyan en estándares de ISO, del IEEE y del Open Data Institute, y terminan en un informe dirigido a la alta dirección y, si hace falta, al regulador.
ISO/IEC 42005
La norma complementaria a la 42001: evalúa el impacto de un sistema de IA sobre las personas antes de ponerlo en producción, no después del incidente. Es el equivalente, en inteligencia artificial, de la evaluación de impacto en protección de datos.
Plan de IA
El documento rector: qué sistemas hay, qué riesgo tiene cada uno y cómo se gestiona.
Inventario de modelos
Nadie puede gobernar lo que no sabe que tiene. Empieza por saber cuántos modelos están operando hoy.
Construir y auditar no lo puede hacer el mismo
Quien desarrolla un modelo no puede ser quien certifique que ese modelo es imparcial. Es el mismo principio que separa a la contabilidad de la auditoría.
Por eso trabajamos en alianza con White Box Project, consultora especializada en gobernanza y ética de la inteligencia artificial, fundada por el Dr. José Luis Hernández Sánchez. Cada quien responde por su materia, y el cliente tiene una sola conversación.
«No basta invocar genéricamente la ética: se necesitan marcos jurídicos adecuados, vigilancia independiente.»
Gobernanza y gestión de riesgos de IA, auditorías algorítmicas, evaluaciones de impacto y acompañamiento en ISO/IEC 42001 y 42005. También formación: su programa de Ética de la Inteligencia Artificial y el Club de AI Officers de Latinoamérica.
La construcción: los modelos, la plataforma de datos que los alimenta, la orquestación de los procesos donde se ejecutan y la evidencia que deja cada corrida.
Dos pistas, según dónde viva su información
IA dentro de SAP
Capa de desarrollo propia sobre SAP BTP, construida por nosotros: no es reventa de licencias. Integra SAP AI Core como entorno de ejecución de modelos y Joule como copiloto dentro de las herramientas que su equipo ya usa.
IA con tecnologías abiertas
Sobre su plataforma de datos, sin depender del fabricante del ERP. Es la vía cuando la información vive fuera de SAP, cuando debe permanecer on-premise, o cuando el caso de uso excede el ecosistema.
Dato en casa e IA moderna, sin elegir
Normalmente hay que escoger: o inteligencia artificial de última generación en la nube del proveedor, o la información dentro de su propia infraestructura. Para un banco, una aseguradora o un hospital eso no es un matiz, es la decisión completa.
La plataforma que usamos despliega modelos, agentes y aplicaciones RAG también on-premise. Se puede tener las dos cosas.
Cuatro clases de solución
Estrategia
Dónde la IA genera impacto real, antes de escribir una línea de código. Y dónde no conviene usarla.
Machine learning
Modelos predictivos sobre sus datos: demanda, comportamiento, detección de anomalías y fraude.
IA generativa y RAG
Sistemas que responden a partir de sus propias fuentes de conocimiento, no de internet, con la cita a la vista.
Agentes
Agentes que ejecutan tareas: interactúan con sistemas, procesan información y dejan registro de cada paso.
Sobre qué se sostiene: datos gobernados y procesos orquestados
Ninguna de las cuatro clases funciona sobre datos sin gobierno. Por eso la conversación de inteligencia artificial casi siempre empieza siendo una conversación de datos — y termina siendo una de procesos.
De dónde salen los datos que alimentan el modelo
Ingesta y streaming, almacén analítico y formato de tabla abierto. Y sobre todo linaje automatizado: el mapa de qué información existe, de dónde viene y por dónde pasó. Ese mapa es el que responde la pregunta del auditor.
Ver la plataforma de datos LA CAPA DE PROCESOS · BMC CONTROL-MDónde se ejecuta y qué rastro deja
Un modelo aislado no cambia nada: tiene que dispararse dentro de un proceso, en el orden correcto y con dependencias resueltas. Control-M orquesta cargas SAP y no-SAP con visibilidad central, alertas y registro de cada ejecución — certificado por SAP y sin correr dentro de su núcleo.
Ver la orquestaciónEstas dos capas son también las que sostienen el sistema de gestión: el gobierno de datos que pide la norma no se declara en un manual, se demuestra con linaje; y la trazabilidad de una decisión no se promete, se lee en el registro de ejecución.
¿Qué caso de uso tiene en mente?
Le decimos con franqueza si sus datos hoy lo sostienen, si hay que preparar el terreno primero, y qué tendría que quedar gobernado antes de que ese modelo salga a producción.