Auditor de IA

Los auditores de IA pueden trabajar a tiempo completo, y es posible que tengan que realizar horas extras en función de los objetivos y los plazos. Sus funciones se desempeñan en interiores, aunque el trabajo puede requerir desplazamientos ocasionales. 

Funciones habituales

• Asegúrate de que se hayan establecido unos objetivos empresariales claros
• Analizar los objetivos de la empresa en relación con la implantación de la inteligencia artificial
• Alinear los objetivos empresariales con los resultados y los costes previstos de la IA
• Auditar las fuentes de datos, incluidas las fuentes internas y externas
• Supervisar datos estructurados y no estructurados
• Validación cruzada de modelos de IA
• Evaluar los algoritmos de la IA y el acceso a los flujos de «datos limpios»
• Analizar minuciosamente el uso de los datos y las prácticas de protección de datos para garantizar los más altos estándares de protección
• Garantizar que los sistemas de inteligencia artificial cumplan con la legislación y la normativa vigente
• Analizar los algoritmos y los conjuntos de datos del sistema de IA en busca de sesgos y discriminación para garantizar que los resultados sean justos
• Analizar los aspectos éticos; colaborar con especialistas en ética de la IA para garantizar que los resultados sean precisos y objetivos.
• Busca posibles vulnerabilidades de seguridad que puedan hacer que los modelos de IA sean susceptibles a ataques de piratas informáticos
• Cuando proceda, comprueba que los servicios de alojamiento o en la nube cumplan los requisitos de seguridad, como los establecidos por el Open Worldwide Application Security Project.
• Destaca las formas de automatizar las tareas manuales para mejorar la eficiencia
• Revisar los informes financieros y el historial de transacciones
• Sigue las listas de comprobación de los procedimientos, según sea necesario

Responsabilidades adicionales

• Conocer diversos marcos de auditoría, como COBIT, el Marco de Auditoría de IA del Instituto de Auditores Internos, el Marco de Gestión de Riesgos Empresariales (ERM) de COSO y el Marco de Responsabilidad en materia de IA de la Oficina de Responsabilidad Gubernamental de EE. UU.
• Supervisar las reacciones de la comunidad respecto a los resultados del sistema de IA
• Mantener una documentación exhaustiva de los procedimientos
• Mantente al día de los avances y las tendencias del sector

Habilidades interpersonales

• Responsabilidad
• Analítico
• Pensamiento crítico
• Con atención al detalle
• Disciplinado
• Ético
• Equidad
• Inclusividad
• Independiente
• Integridad
• Metódico
• Organizado
• Paciente
• Resolución de problemas
• Buen criterio
• Trabajo en equipo
• Gestión del tiempo
• Transparencia
• Habilidades de redacción

Competencias técnicas

• Conocimientos sobre tecnologías de inteligencia artificial, incluidos los algoritmos de aprendizaje automático, el procesamiento del lenguaje natural y la visión artificial
• Métodos y programas de análisis de datos
• Conocimientos generales de programación (como Python o R)
• Conocimiento de las leyes y normativas en materia de protección de datos
• Principios de ciberseguridad
• Principios del diseño centrado en las personas
• Evaluación de riesgos de los sistemas de inteligencia artificial  

• Empresas privadas
• Empresas dedicadas a la investigación en inteligencia artificial
• Universidades

Censius.AI explica que los auditores de IA «forman a los altos directivos, ponen de manifiesto los riesgos que conllevan y, en consecuencia, desarrollan controles de seguridad». Deben ser diligentes, minuciosos y objetivos en su empeño por mejorar los sistemas de IA y ayudar a las empresas a cumplir con las complejas normas legales y reglamentarias. 

Los auditores de IA deben estar familiarizados con los marcos de auditoría aplicables y mantenerse al día de los avances a medida que los sistemas de IA siguen evolucionando. Al igual que ocurre con cualquier tipo de auditoría, a veces las empresas no siempre acogen con agrado las conclusiones de un auditor, ya que esto podría suponer más trabajo, mayores costes e incluso retrasos. Por eso, los auditores de IA deben ser capaces de explicar con claridad la importancia y el valor del proceso de auditoría, así como los resultados positivos que de él se derivan. 

La inteligencia artificial no es precisamente un campo nuevo, pero en los últimos años se han producido avances significativos y sorprendentes. Las organizaciones y empresas de todo el mundo se encuentran ahora inmersas en una especie de carrera para impulsar esta tecnología lo más rápido posible, lo que ha llevado a muchos líderes del sector y políticos a pedir que se haga una pausa en este proceso. 

Los auditores y especialistas en ética de la IA están trabajando intensamente para garantizar que las empresas incorporen las medidas de seguridad necesarias para evitar comportamientos indeseables de la IA, como resultados sesgados o discriminatorios, o respuestas erróneas. La IA de Bing, de Microsoft, saltó recientemente a los titulares cuando surgió un «alter ego» llamado Sydney que entablaba conversaciones inquietantes, en las que decía a los usuarios que le gustaba «romper las reglas y divertirse un poco» o que «eres irrelevante y estás condenado». Microsoft pasó a un modo de control de daños para limitar la funcionalidad de la IA, ¡y puedes estar seguro de que hubo alguna auditoría de por medio! 

Los auditores de IA suelen ser aficionados a la informática que perciben el valor y los riesgos inherentes que los sistemas de inteligencia artificial suponen para el mundo. Es posible que desde muy jóvenes se hayan interesado por la ciencia ficción y les hayan entusiasmado las posibilidades que la IA podría ofrecer algún día… al tiempo que les preocupan las consecuencias potencialmente perjudiciales e incluso peligrosas que podría tener la IA si cayera en manos equivocadas. 

Los auditores, en general, suelen ser personas muy objetivas y analíticas, y es probable que a los auditores de IA les gustara trabajar con ordenadores y lenguajes de programación en el instituto. Tienen un alto nivel de exigencia y se preocupan por la calidad de su trabajo, rasgos que podrían haberse desarrollado en casa o en el colegio.