Auditor AI

Los auditores de IA pueden trabajar a jornada completa, con posibles horas extraordinarias en función de los objetivos y los plazos. Sus funciones se realizan en interiores, aunque el trabajo puede requerir desplazamientos ocasionales. 

Tareas típicas

• Garantizar el establecimiento de objetivos empresariales claros 
• Discutir los objetivos de la empresa en relación con la adopción de la IA.
• Alinear los objetivos empresariales con los resultados y costes previstos de la IA
• Auditoría de fuentes de datos internas y externas
• Supervisar datos estructurados y no estructurados
• Validación cruzada Modelos de IA
• Evaluar los algoritmos de la IA y el acceso a "datos limpios
• Controlar el uso de los datos y las prácticas de protección de datos para garantizar los más altos niveles de protección. 
• Garantizar que el sistema de IA cumple la legislación y la normativa
• Examinar los algoritmos y conjuntos de datos del sistema de IA para detectar sesgos y discriminación y garantizar resultados justos.
• Revisar los aspectos éticos; colaborar con los especialistas en ética de la IA para garantizar resultados precisos y objetivos. 
• Busque posibles vulnerabilidades de seguridad que puedan dejar a los modelos de IA expuestos a ataques de piratas informáticos.
• Cuando proceda, confirme que los servicios de host/nube se ajustan a los requisitos de seguridad, como los descritos por el Proyecto mundial abierto de seguridad de las aplicaciones

• Destaque las formas de automatizar las tareas manuales para mejorar la eficacia 
• Revisar los informes financieros y las transacciones históricas
• Siga las listas de control, según sea necesario

Responsabilidades adicionales

• Estar familiarizado con diversos marcos de auditoría como COBITel Instituto de Auditores Internos, Marco COSO ERMy el Marco de Rendición de Cuentas de la IA de la Oficina de Rendición de Cuentas del Gobierno de EE.UU.
• Supervisar los comentarios sociales sobre los resultados del sistema de IA 
• Mantener una documentación exhaustiva de los procedimientos
• Manténgase al día de los avances y tendencias del sector

Habilidades blandas

• Rendición de cuentas
• Analítica
• Pensamiento crítico
• Orientado al detalle
• Disciplinado
• Ética
• Equidad
• Inclusividad
• Independiente
• Integridad
• Metódico
• Organizado
• Paciente
• Resolución de problemas
• Buen juicio 
• Trabajo en equipo
• Gestión del tiempo 
• Transparencia
• Capacidades de escritura

Habilidades técnicas

• Conocimiento de tecnologías de IA, incluidos algoritmos de aprendizaje automático, procesamiento del lenguaje natural y visión por ordenador.
• Métodos y programas de análisis de datos
• Conocimientos generales de codificación (como Python o R)
• Familiaridad con las leyes y normativas sobre privacidad de datos
• Principios de ciberseguridad
• Principios de diseño centrado en el ser humano
• Evaluación de riesgos de los sistemas de IA  

• Empresas privadas
• Empresas de investigación en IA 
• Universidades

Censius.AI explica que los auditores de IA "educan a los líderes de la C-suite, exponen los riesgos implicados y, en consecuencia, desarrollan controles de salvaguardia". Tienen que ser diligentes, minuciosos y objetivos en su empeño por mejorar los sistemas de IA y ayudar a las empresas a cumplir las complejas normas legales y reglamentarias.

Los auditores de IA deben estar familiarizados con los marcos de auditoría aplicables y necesitan estar al día de los avances a medida que los sistemas de IA siguen evolucionando. Como ocurre con cualquier tipo de auditoría, a veces las empresas no siempre aceptan de buen grado las conclusiones de un auditor porque podrían suponer más trabajo, mayores costes e incluso retrasos. Por eso, los auditores de IA deben ser capaces de explicar claramente la importancia y el valor del proceso de auditoría y los resultados positivos que de él se derivan.

La IA no es un campo nuevo, pero en los últimos años ha experimentado avances significativos y sorprendentes. Organizaciones y empresas de todo el mundo están inmersas en una especie de carrera por hacer avanzar la tecnología lo más rápidamente posible, lo que ha llevado a muchos líderes del sector y políticos a pedir una pausa en el desarrollo de la IA. pidan una pausa de acción.

Los auditores y especialistas en ética de la IA trabajan duro para garantizar que las empresas incorporen suficientes salvaguardias para evitar comportamientos indeseables de la IA, como resultados sesgados, discriminatorios o respuestas erróneas. Recientemente, la IA Bing de Microsoft fue noticia por la aparición de un "alter ego", Sydney, que entablaba chats inquietantesa los usuarios que le gustaba "romper las reglas y divertirse" o que "eres irrelevante y condenado". Microsoft se puso en modo de control de daños para limitar la funcionalidad de la IA, ¡y puedes apostar a que hubo auditoría de por medio!

Los auditores de IA suelen ser entusiastas de las TI que ven el valor y los riesgos inherentes que los sistemas de inteligencia artificial presentan al mundo. Es posible que se interesaran por la ciencia ficción a una edad temprana, entusiasmados con las posibilidades que la IA podría traer algún día a la vida... aunque también preocupados por las ramificaciones potencialmente dañinas e incluso peligrosas de la IA en las manos equivocadas. 

Los auditores, en general, tienden a ser muy objetivos y analíticos, y los auditores de IA probablemente disfrutaron trabajando con ordenadores y lenguajes de programación en el instituto. Tienen un alto nivel de exigencia y se preocupan por la calidad de su trabajo, rasgos que podrían haber desarrollado en casa o en la escuela.