Franklin Martín Ruiz Gordillo y Josué David Citalán Hérnandez analizan el concepto, el rol y la importancia del AI Officer en el contexto de la gobernanza de la inteligencia artificial dentro de una organización.
Introducción
El crecimiento de las aplicaciones y el poder de los sistemas de Inteligencia Artificial es exponencial. Lo que hoy nos sorprende, es probable que en un par de semanas nos parezca obsoleto y haya sido superado por algún sistema mucho más capaz. Si bien se ha experimentado con sistemas de Inteligencia Artificial1 desde hace más de una década, con la llegada y popularización de chatbots como ChatGPT y otros modelos de lenguaje grandes, el crecimiento ha sido más que explosivo.
El ritmo al que la inteligencia artificial crece es tal, que resulta extremadamente difícil mantenerse al tanto no solo de las nuevas aplicaciones y modelos, sino también del marco regulatorio emergente que busca gobernar su desarrollo y uso. Esta complejidad ha dado lugar al surgimiento del AI Officer, un profesional que debe combinar conocimientos técnicos, comprensión regulatoria y visión estratégica para gestionar efectivamente la implementación y uso de la IA.
Especialmente sobre la legislación emergente, estar informado sobre qué prácticas pueden afectar la esfera jurídica de la empresa es y debe ser considerada una prioridad para cualquier empresa que pretenda mantener prácticas sanas de compliance. Esta necesidad se vuelve aún más crítica cuando consideramos que el uso de IA dentro de la empresa, al no estar regulado o ser ignorado por completo, conlleva riesgos significativos: desde la filtración de datos sensibles hasta el uso indebido de sistemas que pueden traducirse en multas o acciones legales contra la organización.
Indudablemente, el futuro de la sociedad apunta en la dirección de una mayor integración con sistemas de Inteligencia Artificial. Así como el acceso a internet es hoy una necesidad, en algunos años más estaremos en constante contacto con sistemas de IA que nos ayuden en la cotidianidad de nuestras vidas. Esta realidad ya es palpable en diversas regiones del mundo, y con ella surge la necesidad imperante de contar con profesionales especializados que puedan gestionar, supervisar y garantizar el uso ético y responsable de estas tecnologías. Es aquí donde la figura del AI Officer cobra especial relevancia, aunque su denominación y alcance específico pueda variar según la jurisdicción o el marco regulatorio aplicable.
El concepto del AI Officer
El término AI Officer lo utilizo de manera genérica en este artículo para referirme a aquella figura responsable de liderar, supervisar y administrar el uso de inteligencia artificial, cualquiera que sea su manifestación, dentro de una organización. Al hablar de organización, me refiero a este concepto en su sentido más amplio: desde empresas privadas y sociedades comerciales, hasta instituciones educativas, agencias gubernamentales, municipios, secretarías de estado e incluso comunidades o núcleos sociales organizados. La denominación específica de este rol puede variar según la región, el marco regulatorio aplicable o la estructura organizacional particular, pero su esencia y objetivos fundamentales permanecen constantes.
Debe entenderse que la implementación de Inteligencia Artificial en las organizaciones representa una dualidad crítica que justifica la necesidad de esta figura: por un lado, constituye una oportunidad colosal para la innovación y el crecimiento organizacional; por otro, implica riesgos significativos en términos de seguridad de la información y compliance. Es, en esencia, como caminar en una cuerda floja donde el balance entre el aprovechamiento de oportunidades y la gestión de riesgos resulta fundamental.
Por mencionar un caso concreto, En Estados Unidos, la Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence del 30 de octubre de 2023 (DE ahora en adelante USEAI 2023) formaliza esta figura bajo el título de Chief Artificial Intelligence Officer (CAIO), estableciéndola como obligatoria para las agencias federales2. El CAIO, según esta orden, tiene tres responsabilidades medulares: coordinar el uso de IA, promover la innovación en esta materia, y gestionar los riesgos asociados.
El AI Officer emerge como una figura transversal en la organización, cuya influencia y responsabilidades atraviesan todos los departamentos y niveles jerárquicos. Desde los equipos técnicos hasta la alta dirección, desde las áreas operativas hasta los departamentos legales y de compliance, su rol es fundamental para asegurar una implementación coherente y responsable de la IA. Podríamos concebirlo como una especie de ombudsman de la Inteligencia Artificial: una figura independiente que vela por el uso ético, seguro y eficiente de la IA en toda la organización. Este rol va más allá de la mera supervisión técnica: debe ejercer un liderazgo estratégico que impulse la innovación mientras salvaguarda los valores organizacionales.
La complejidad de este rol es un reflejo de nuestra sociedad: multidisciplinaria, multicultural y en constante evolución. El AI Officer no puede ser únicamente un experto legal o solamente un especialista técnico; debe ser un profesional con una formación que combine un conocimiento profundo del marco jurídico con un entendimiento sólido de los principios y el funcionamiento de la inteligencia artificial. Esta dualidad en su perfil no es fortuita: así como la transformación digital dio origen a figuras como el oficial de protección de datos, que hoy es indispensable en cualquier organización moderna (responsable), o el Chief Of Remote, que ha emergido como un rol estratégico, el AI Officer está destinado a convertirse en una pieza fundamental para la gobernanza tecnológica del futuro inmediato.
El rol del AI Officer
Al hablar de Inteligencia Artificial, es importante distinguir entre tres tipos: la IA Predictiva, que encontramos comúnmente en nuestros dispositivos como el autocorrector o las sugerencias de texto; la IA Generativa, que conocemos a través de ChatGPT y otros sistemas capaces de crear contenido original como texto, código o imágenes; y la IA General, que aunque permanece en el terreno teórico, se refiere a sistemas que podrían igualar o superar la capacidad cognitiva humana en cualquier tarea.
Para ejercer un liderazgo estratégico efectivo, el AI Officer debe, en coordinación con las distintas áreas de la organización, definir la estrategia de implementación de IA. En Know-me utilizamos el enfoque de Service Design, una metodología que se centra en el diseño de servicios considerando todos los puntos de interacción entre el usuario y el sistema, buscando optimizar tanto la eficiencia como la experiencia del usuario. Este enfoque permite mapear detalladamente los procesos y momentos de interacción entre la IA y los usuarios, facilitando la identificación de oportunidades y riesgos.
Una vez definida la estrategia, el AI Officer debe supervisar activamente el proceso de desarrollo e implementación de las soluciones de IA. Esta supervisión implica no solo la selección de herramientas apropiadas, sino también asegurar que se implementen y utilicen correctamente. En el mercado actual existe una amplia gama de opciones que difieren en potencia, costo y facilidad de uso. Por ejemplo, si se trata de un despacho jurídico que busca implementar IA para análisis y creación de documentos legales, el AI Officer deberá recomendar la solución más viable considerando el presupuesto disponible, el número de usuarios y su capacidad técnica.
En este proceso de supervisión tecnológica, el AI Officer debe mantenerse actualizado sobre las capacidades y limitaciones de cada herramienta. Aunque las soluciones comerciales como ChatGPT son populares, las organizaciones pueden requerir opciones más especializadas y seguras. Por ejemplo, existen asistentes de IA que operan a través de APIs, utilizando modelos fundacionales que pueden ser modificados para necesidades específicas, implementados en servidores más seguros y con funciones superiores de privacidad de datos. Estas soluciones permiten a las organizaciones mantener un mayor control sobre sus datos y personalizar las capacidades de la IA según sus requerimientos particulares, mientras cumplen con estándares éticos y regulaciones vigentes en su región.
Un aspecto fundamental en el rol del AI Officer es la gestión de equipos y la promoción de una cultura de uso efectivo de la IA dentro de la organización. Debe ofrecer los recursos y el apoyo necesario para que la implementación de IA fluya de la manera más natural posible, lo que incluye programas de educación y difusión sobre el uso adecuado de estas herramientas. Esta responsabilidad se reconoce incluso en la Executive Order de 2023 sobre el desarrollo y uso seguro de la IA, donde se enfatiza la importancia de asegurar que la organización cuente con el talento necesario. Esto puede implicar tanto la atracción de especialistas en IA, como el desarrollo de las capacidades del personal existente a través de capacitación continua y el establecimiento de alianzas estratégicas con proveedores externos que complementen las capacidades del equipo.
Podría interesarte: «Inteligencia artificial y derecho»
Conclusión
La necesidad de un AI Officer en una organización depende de diversos factores como su tamaño, complejidad, sector de actividad y, especialmente, el grado de implementación de sistemas de IA en sus operaciones. Si bien actualmente en México no existe una regulación específica que establezca la existencia de esta figura, la tendencia global y la creciente adopción de tecnologías de IA sugieren que su regulación es inminente.
Considero importante señalar que la implementación del rol de AI Officer no necesariamente implica la creación de un nuevo puesto específico dentro del organigrama. Las responsabilidades descritas en este artículo pueden ser asumidas, dependiendo de la complejidad y extensión de la organización, por uno o varios miembros que cuenten con las habilidades y conocimientos necesarios. Por ejemplo, en organizaciones pequeñas o medianas, estas funciones podrían ser desempeñadas por el Oficial de Protección de Datos o el oficial de cumplimiento, siempre que posean la capacitación adecuada.
Asimismo, el rol del AI Officer puede materializarse de diferentes formas: desde una posición individual hasta un comité o equipo especializado que colabore en la gestión de la IA. Esta flexibilidad permite a las organizaciones adaptar el rol según sus necesidades específicas, recursos disponibles y estructura organizacional, manteniendo siempre como objetivo fundamental el desarrollo e implementación responsable de la IA.Lo verdaderamente crucial no es el título o la estructura específica que se adopte, sino asegurar que las responsabilidades fundamentales del AI Officer –desde la supervisión técnica hasta la gestión de riesgos y el cumplimiento regulatorio– sean atendidas de manera efectiva y consistente, garantizando así un uso seguro, ético y productivo de la IA en la organización.
Notas:- sistemas de IA, definidos en la Executive Order on Safe, Secure and Trustworthy Development and Use of Artificial Intelligence de 2023 como «cualquier sistema basado en datos o software que puede, para un conjunto de objetivos definidos por humanos: recopilar, procesar o analizar datos; establecer conexiones entre conjuntos de datos dispares; hacer recomendaciones, predicciones o decisiones; o influir en entornos físicos o virtuales»[↩]
- Para efectos de precisión, el término «agencia» se define según 44 U.S.C. § 3502 como «cualquier departamento ejecutivo, departamento militar, corporación gubernamental, corporación controlada por el gobierno, u otro establecimiento en la rama ejecutiva del Gobierno, incluyendo la Oficina Ejecutiva del Presidente, o cualquier agencia reguladora independiente».[↩]