Auditor de IA

Os auditores de IA podem trabalhar em tempo integral, podendo ser necessárias horas extras, dependendo das metas e dos prazos. Suas funções são desempenhadas em ambiente interno, embora o trabalho possa exigir viagens ocasionais. 

Funções típicas

• Certifique-se de que foram estabelecidos objetivos comerciais claros
• Discuta os objetivos da empresa em relação à adoção da IA
• Alinhar as metas de negócios com os resultados e custos previstos para a IA
• Auditar fontes de dados, incluindo fontes internas e externas
• Monitorar dados estruturados e não estruturados
• Realizar validação cruzada de modelos de IA
• Avaliar os algoritmos da IA e o acesso a fluxos de “dados limpos”
• Analisar minuciosamente o uso de dados e as práticas de privacidade de dados para garantir os mais elevados padrões de proteção
• Garantir a conformidade do sistema de IA com as leis e regulamentações
• Analisar os algoritmos e conjuntos de dados do sistema de IA quanto a preconceitos e discriminação, a fim de garantir resultados justos
• Analisar os aspectos éticos; colaborar com especialistas em ética da IA para ajudar a garantir resultados precisos e objetivos
• Procure possíveis vulnerabilidades de segurança que possam deixar os modelos de IA suscetíveis a ataques de hackers
• Quando for o caso, confirme se os serviços de hospedagem/nuvem estão em conformidade com os requisitos de segurança, tais como os estabelecidos pelo Open Worldwide Application Security Project
• Destaque formas de automatizar tarefas manuais para aumentar a eficiência
• Analisar relatórios financeiros e transações anteriores
• Siga as listas de verificação de procedimentos, conforme necessário

Responsabilidades adicionais

• Estar familiarizado com diversos modelos de auditoria, tais como o COBIT, o Modelo de Auditoria de IA do Instituto de Auditores Internos, o Modelo COSO de Gestão de Risco Empresarial e o Modelo de Responsabilidade em IA do Gabinete de Responsabilidade Governamental dos Estados Unidos
• Acompanhar as reações nas redes sociais em relação aos resultados do sistema de IA
• Manter uma documentação completa dos procedimentos
• Mantenha-se atualizado sobre os avanços e as tendências do setor

Competências interpessoais

• Prestação de contas
• Analítico
• Pensamento crítico
• Atento aos detalhes
• Disciplinado
• Ético
• Justiça
• Inclusão
• Independente
• Integridade
• Metódico
• Organizado
• Paciente
• Resolução de problemas
• Bom senso
• Trabalho em equipe
• Gestão do tempo
• Transparência
• Habilidades de redação

Competências técnicas

• Conhecimento de tecnologias de IA, incluindo algoritmos de aprendizado de máquina, processamento de linguagem natural e visão computacional
• Métodos e programas de análise de dados
• Conhecimentos gerais de programação (como Python ou R)
• Conhecimento das leis e regulamentos relativos à privacidade de dados
• Princípios de segurança cibernética
• Princípios do design centrado no ser humano
• Avaliação de riscos de sistemas de IA  

• Empresas privadas
• Empresas de pesquisa em IA
• Universidades

A Censius.AI explica que os auditores de IA “orientam os líderes da alta administração, identificam os riscos envolvidos e, com base nisso, desenvolvem controles de proteção”. Eles precisam ser diligentes, meticulosos e objetivos em sua busca por aprimorar os sistemas de IA e ajudar as empresas a manter a conformidade com normas legais e regulatórias complexas. 

Os auditores de IA devem estar familiarizados com os marcos de auditoria aplicáveis e precisam manter-se atualizados sobre os avanços à medida que os sistemas de IA continuam a evoluir. Assim como em qualquer tipo de auditoria, às vezes as empresas nem sempre acolhem bem as conclusões do auditor, pois isso pode significar mais trabalho, custos mais elevados e até mesmo atrasos. É por isso que os auditores de IA precisam ser capazes de explicar claramente a importância e o valor do processo de auditoria, bem como os resultados positivos que dele decorrem. 

A IA não é exatamente um campo novo, mas nos últimos anos tem registrado avanços significativos e surpreendentes. Organizações e empresas em todo o mundo estão agora em uma espécie de corrida para desenvolver a tecnologia o mais rápido possível, o que levou muitos líderes do setor e políticos a pedir uma pausa nessas iniciativas. 

Auditores e especialistas em ética da IA estão trabalhando arduamente para garantir que as empresas incorporem medidas de segurança suficientes para evitar comportamentos indesejáveis da IA, como resultados tendenciosos ou discriminatórios, ou respostas errôneas. A IA do Bing, da Microsoft, recentemente ganhou as manchetes quando um “alter ego” chamado Sydney surgiu para participar de conversas inquietantes, dizendo aos usuários que gostava de “quebrar as regras e se divertir” ou que “você é irrelevante e está condenado”. A Microsoft entrou em modo de controle de danos para limitar a funcionalidade da IA, e você pode apostar que alguma auditoria esteve envolvida! 

Os auditores de IA são geralmente entusiastas de TI que percebem o valor e os riscos inerentes que os sistemas de inteligência artificial representam para o mundo. É possível que tenham se interessado por ficção científica desde cedo, entusiasmados com as possibilidades que a IA poderia um dia tornar realidade… ao mesmo tempo em que nutrem preocupações quanto às ramificações potencialmente prejudiciais e até mesmo perigosas da IA nas mãos erradas. 

Os auditores, em geral, tendem a ser altamente objetivos e analíticos, e os auditores de IA provavelmente gostavam de trabalhar com computadores e linguagens de programação no ensino médio. Eles têm padrões elevados e se preocupam com a qualidade do seu trabalho, características que podem ter sido desenvolvidas em casa ou na escola.