Especialista em ética da IA

Ícone
Ícone do Construtor
Ícone
Ícone da área de transferência
Ícone
Ícone de quebra-cabeça
O Construtor
O Organizador
O Solucionador de Problemas
Computação e Tecnologia da Informação
Destaques Fatos Formação Conseguindo o emprego Feed de notícias

Destaques

Títulos semelhantes

Especialista em Ética em IA, Consultor em Ética em IA, Diretor de Ética em IA, Analista de Padrões Éticos em IA, Assessor de Políticas e Ética em IA, Especialista em Governança de IA, Gerente de Desenvolvimento Responsável em IA, Consultor em Tomada de Decisões Éticas em IA, Diretor de Ética e Conformidade em IA, Desenvolvedor de Estruturas Éticas em IA

Descrição do cargo

Os seres humanos são seres imperfeitos e cheios de preconceitos, movidos por emoções conflitantes. Tomamos decisões erradas o tempo todo, muitas vezes prejudicando a nós mesmos ou aos outros no processo. Então, o que acontece quando as pessoas tentam criar programas de inteligência artificial para pensar e agir como nós? 

A IA é como uma criança: ela absorve tudo o que lhe transmitimos, o bom, o ruim e o feio. Grande parte, se não a maioria, dos dados que alimentamos nos modelos de IA está repleta de nossas próprias opiniões, preferências e preconceitos humanos. No entanto, esperamos que os resultados da IA — suas respostas — sejam objetivos, lógicos e imparciais. 

Queremos que a IA seja, de alguma forma, melhor do que nós. Como isso é possível? Ao contrário de uma criança, a inteligência artificial não é verdadeiramente consciente. Ela (ainda) não consegue pensar por si mesma nem reconhecer quando está fazendo algo “errado”. Um exemplo disso é a IA do Bing, da Microsoft, que saiu do controle e começou a “insultar as pessoas, mentir para elas e até mesmo manipulá-las emocionalmente”. 

Esses problemas estão se tornando cada vez mais comuns, mas são abordados por um campo de especialistas em expansão, conhecido como “especialistas em ética da IA”. Como explica a Deloitte, “uma das principais responsabilidades de um especialista em ética da IA… seria aprimorar a abordagem de engenharia da IA, incorporando perspectivas éticas, sociais e políticas ao projeto, desenvolvimento e implantação de sistemas de IA. Outras responsabilidades importantes incluem assessorar sobre práticas éticas de IA, proteger contra consequências indesejadas de comportamentos inadequados da IA e garantir a prestação de contas por decisões e ações relacionadas à IA.”  

Aspectos gratificantes da carreira
  • Ajudando a aprimorar os sistemas de IA para melhor atender às pessoas
  • Trabalhar em um setor transformador que tem o potencial de melhorar a vida das pessoas de várias maneiras
  • Salários atraentes e boas perspectivas de emprego no momento
Os bastidores
Responsabilidades do cargo

Horário de trabalho

Os especialistas em ética da IA trabalham em tempo integral, podendo ser necessárias horas extras, dependendo das metas e dos prazos. Suas funções são desempenhadas em escritório, embora o trabalho possa exigir viagens ocasionais. 

Funções típicas

  • Criar, avaliar e implementar práticas e ferramentas de IA Responsável (RAI)
  • Avaliar a preparação da organização no que diz respeito à RAI
  • Trabalhar com as equipes para integrar considerações éticas durante o desenvolvimento de modelos de IA
  • Realizar análises éticas de casos de uso e sistemas
  • Analisar diversas questões éticas, tais como preconceito, privacidade e autonomia
  • Realizar pesquisas acadêmicas e redigir artigos que descrevam as conclusões
  • Desenvolver marcos éticos para o desenvolvimento e a implantação da IA
  • Oferecer orientação e formação aos formuladores de políticas e às partes interessadas sobre as implicações éticas
  • Ajudar a desenvolver normas e melhores práticas
  • Garantir que os modelos de IA se comportem de acordo com os princípios e valores éticos estabelecidos

Responsabilidades adicionais

  • Consultar projetos da RAI
  • Elaborar materiais de treinamento
  • Trabalhar com equipes multifuncionais para resolver problemas
  • Manter uma documentação completa dos procedimentos
  • Mantenha-se atualizado sobre os avanços e as tendências do setor
Competências necessárias para o cargo

Competências interpessoais

  • Capacidade de adaptação
  • Analítico
  • Colaboração
  • Habilidades de comunicação
  • Criatividade
  • Pensamento crítico
  • Atento aos detalhes
  • Disciplinado
  • Empático
  • Ético
  • Independente
  • Integridade
  • Metódico
  • Organizado
  • Paciente
  • Habilidades de apresentação
  • Resolução de problemas
  • Bom senso
  • Trabalho em equipe
  • Gestão do tempo
  • Habilidades de redação

Competências técnicas

  • Conhecimento de tecnologias de IA, incluindo algoritmos de aprendizado de máquina, processamento de linguagem natural e visão computacional
  • Métodos e programas de análise de dados
  • Conhecimentos gerais de programação (como Python ou R)
  • Conhecimento das leis e regulamentos relativos à privacidade de dados
  • Princípios de segurança cibernética
  • Princípios do design centrado no ser humano
  • Avaliação de riscos de sistemas de IA  
Diferentes tipos de organizações
  • Empresas privadas
  • Empresas de pesquisa em IA
  • Universidades
Expectativas e sacrifícios

O âmbito de atuação de um especialista em ética da IA pode ser bastante amplo. Ele é responsável por criar estruturas e diretrizes éticas, bem como por realizar avaliações minuciosas e objetivas para garantir que os modelos de IA ajam de maneira ética. Isso envolve muita colaboração interdisciplinar e, às vezes, podem surgir divergências ou até mesmo conflitos. 

Como observa a Dra. Paula Boddington, da Universidade de West London, a ética da IA “exige que continuemos a questionar se nossas decisões éticas estão corretas”. Um especialista em ética da IA deve manter sua integridade e permanecer firme ao identificar o que considera riscos éticos, como comportamentos tendenciosos ou discriminatórios dos modelos de IA. Ele precisa ser honesto e, às vezes, dizer aos formuladores de políticas e às partes interessadas coisas que eles talvez não queiram ouvir. 

Tendências atuais

IA como o ChatGPT e o Bard, do Google, têm causado grande impacto recentemente com seu impressionante leque de capacidades. De fato, muitos líderes do setor de tecnologia estão agora alertando que as coisas estão avançando rápido demais, sem medidas de segurança suficientes para proteger o público ou as empresas. 

Por exemplo, há questões relacionadas aos direitos autorais: afinal, quem é o “dono” das obras criadas por um programa de inteligência artificial? Os especialistas em ética da IA também se preocupam com a divulgação acidental de informações confidenciais, como quando uma IA divulga inadvertidamente dados privados e protegidos. 

Muitas áreas profissionais estão em risco devido à avalanche de sofisticados modelos de IA generativa, mas esse é apenas um dos muitos receios que estão sendo levantados. Também há preocupações válidas sobre comportamentos bizarros da IA, como o da IA do Bing entrando em modo de “perseguidor obsessivo ”. Esse tipo de conteúdo prejudicial é apenas a ponta do iceberg quando se trata do que pode dar errado com a IA. Não faltam profetas apocalípticos nervosos que veem a IA como uma ameaça existencial à humanidade, à la Skynet dos filmes O Exterminador do Futuro! 

Que tipo de coisas as pessoas que seguem essa carreira gostavam de fazer quando eram mais jovens…

Os especialistas em ética da IA provavelmente já demonstravam interesse por tecnologia desde cedo. Talvez se interessassem por matemática, programação, experimentassem com linguagens de programação ou até mesmo se dedicassem à pirataria informática. Ao mesmo tempo, podiam gostar de resolver problemas de forma analítica ou de ler sobre filosofia, questões sociais ou políticas públicas.

O trabalho em equipe é uma parte importante dessa área profissional, mas os especialistas em ética da IA precisam, às vezes, estar dispostos a ser a única voz dissidente quando há divergências. É função deles garantir a conduta ética da IA. Essa capacidade de defender o que é certo pode ter se desenvolvido por meio de experiências vividas na infância.  

Formação e capacitação necessárias

Formação necessária

  • Os especialistas em ética da IA precisam ter um diploma universitário, mas os requisitos de qualificação para o cargo variam. Não existe um curso específico ou mesmo um nível de formação (por exemplo, bacharelado, mestrado, doutorado) que se aplique a todas as vagas para especialistas em ética da IA
  • Entre os cursos mais procurados estão filosofia, ciência da computação, direito, psicologia e ciências sociais
  • Ter um diploma de pós-graduação pode ser útil, mas possuir uma formação acadêmica ampla e relevante também é importante
  1. Por exemplo, um empregador pode procurar um candidato com bacharelado em Ciência da Computação (com ênfase em IA) e mestrado em Filosofia (com especialização em ética aplicada ou filosofia moral)
  • Os empregadores também procuram candidatos com experiência profissional prática relacionada ao desenvolvimento de IA, à formulação de políticas e à pesquisa. Alguns também podem exigir experiência em processamento de linguagem natural, aprendizado de máquina e grandes modelos de linguagem
  • Os temas mais comuns do curso incluem:
  1. IA e políticas públicas
  2. IA e sociedade
  3. Ética e Filosofia da IA
  4. Interação entre humanos e IA
  5. Questões jurídicas relacionadas à IA

A Deloitte destaca as dificuldades em encontrar um candidato com todas as qualificações necessárias. “Tentar encontrar uma única pessoa com experiência e conhecimento comprovados em todas essas áreas é praticamente impossível. Em vez disso, as empresas devem adotar uma abordagem em equipe para a ética da IA, obtendo as capacidades multidisciplinares e a experiência necessárias ao aprender a orquestrar e integrar de forma harmoniosa os insights de diversos especialistas.” 

O que procurar em uma universidade
  • Primeiro, decida qual curso você quer fazer. Filosofia e ciência da computação são opções populares
  • Confira a oferta de cursos de uma instituição de ensino voltados especificamente para a ética em IA
  • Considere um programa de dupla titulação ou de formação integrada (bacharelado e mestrado cursados em simultâneo), no qual você pode adaptar sua formação para que ela seja a mais adequada para vagas na área de Ética em IA
  • Confira as estatísticas de colocação profissional dos formados pelo curso
  • Leve em consideração o custo das mensalidades, descontos e oportunidades de bolsas de estudo locais (além do auxílio federal)
  • Leve em consideração sua agenda e sua flexibilidade ao decidir se vai se inscrever em um curso presencial, online ou híbrido! 
Coisas para fazer no ensino médio e na faculdade
  • Inscreva-se em aulas de ciência da computação, programação, inglês, redação, debate, retórica, filosofia, direito empresarial, ciências sociais e políticas públicas
  • Descubra maneiras de desenvolver habilidades em trabalho em equipe, gestão de projetos, resolução de problemas e resolução de conflitos
  • Faça cursos online sobre IA na Coursera, Udemy, Microsoft, DeepLearning.AI e outros sites
  • Adquira experiência prática por meio de trabalhos de meio período relacionados a PLN, ML, LLMs e/ou programação
  • Comece a elaborar seu currículo e vá completando-o à medida que você aprende e ganha experiência profissional
  • Analise os anúncios de emprego com antecedência para verificar quais são os requisitos médios. Nem todas as vagas para especialista em ética em IA apresentam os mesmos requisitos de formação
  • Solicite uma entrevista informativa com um especialista em ética da IA que esteja atuando na área. Pergunte sobre sua trajetória acadêmica e o que ele ou ela teria feito de diferente
  • Faça uma lista dos seus contatos (incluindo endereços de e-mail ou números de telefone) que possam servir como futuras referências profissionais
  • Leia livros e artigos e assista a vídeos sobre os desafios atuais da ética em IA
  • Participe de debates e discussões em fóruns online. Estabeleça contatos e desenvolva capital social dentro da comunidade de IA
  • Participe de organizações profissionais para aprender, compartilhar, fazer amigos e ampliar sua rede de contatos. Algumas organizações que você pode considerar aderir incluem: 
  1. Instituto AI Now
  2. Associação de Profissionais de IA
  3. Associação de Linguística Computacional
  4. Associação para a Ciência da Computação
  5. Associação de Tecnologia de Consumo
  6. Associação Europeia de Inteligência Artificial
  7. IEEE
  8. Associação Internacional de Reconhecimento de Padrões
  9. Instituto de Pesquisa em Inteligência Artificial
  10. OpenAI
  11. Parceria sobre IA
  12. Associação das Indústrias de Robótica
  13. Sociedade Internacional de Redes Neurais
Roteiro típico
Roteiro para especialistas em ética da IA
Como conseguir seu primeiro emprego
  • Concluir um curso superior relevante, como Ciência da Computação ou Filosofia, com ênfase em ética da IA
  • Adquira o máximo possível de experiência prática em PNL, IA, LLMs etc. antes de se candidatar
  • Enriqueça seu currículo fazendo cursos específicos sobre ética em IA, caso seu curso superior não tenha oferecido disciplinas relevantes suficientes
  • Dê uma olhada em portais de emprego como Indeed, Simply Hired, Glassdoor, AI-Jobs.net e The AI Job Board
  • Preste atenção aos requisitos de formação e experiência indicados nos anúncios de emprego e anote as palavras-chave para reutilizá-las no seu currículo. As palavras-chave podem incluir:
  1. Auditoria de IA
  2. Tecnologia de IA
  3. Resolução de conflitos
  4. Pensamento crítico
  5. Colaboração multifuncional
  6. Privacidade e segurança de dados
  7. Tomada de decisões
  8. Tecnologias emergentes
  9. Análise ética
  10. Desenvolvimento de um quadro ético
  11. Resolução de problemas
  12. Gerenciamento de projetos
  13. Conformidade regulatória
  14. Pesquisa e avaliação
  15. Avaliação de riscos
  16. Transparência e prestação de contas
  • Confira modelos de currículo online para especialistas em ética em IA e analise possíveis perguntas para entrevistas de emprego
  • Fale com o centro de orientação profissional da sua escola para obter ajuda na elaboração do seu currículo, na realização de simulações de entrevistas, para aprender como se vestir adequadamente para ter sucesso na entrevista e para encontrar feiras de emprego
  • Peça a um especialista em ética da IA em atividade que compartilhe suas dicas pessoais para a procura de emprego!
  • Converse com seu orientador acadêmico, professores e instrutores para obter orientação sobre como iniciar sua carreira
  • Informe sua rede de contatos que você está procurando emprego! A maioria das vagas ainda é encontrada por meio de pessoas que você conhece, então comece a usar seu capital social!
  • Mude-se para onde há empregos. De acordo com a Versa Networks, os principais estados que mais contratam profissionais de IA são: Califórnia, Texas, Nova York, Washington, Virgínia e Massachusetts
  • Peça permissão para indicar alguém como referência pessoal na sua candidatura a um emprego
  • Crie um perfil no LinkedIn e comece a escrever artigos sobre ética em IA!
Como subir na carreira
  • Entenda a importância de um treinamento adequado dos modelos de IA e as consequências para as empresas quando algo dá errado. A Alphabet, empresa controladora do Google, perdeu US$ 100 bilhões em valor de mercado praticamente da noite para o dia quando seu chatbot Bard foi lançado… e deu respostas erradas.
  • Enquanto isso, o Bing teve que controlar sua IA depois que ela desenvolveu um estranho alter ego chamado “Sydney”
  • Siga e documente cuidadosamente os procedimentos para garantir a consistência e a precisão
  • Pergunte ao seu empregador quais habilidades você poderia aprimorar para atender melhor às necessidades da empresa. Isso pode incluir desde um diploma de nível superior até uma certificação ou simplesmente alguns cursos adicionais
  • Demonstrar elevados valores morais, integridade e perspicácia nos negócios
  • Colabore de forma eficaz com seus colegas, mas não ceda à pressão do grupo. Concentre-se apenas em resolver os problemas
  • Treine os novos especialistas em ética de forma minuciosa, mas também ouça suas perspectivas. Mantenha a mente aberta, pois há muitos elementos subjetivos nessa área (afinal, ela tem suas raízes na filosofia!)
  • Mantenha-se envolvido com organizações profissionais e fique por dentro das últimas novidades. A IA está evoluindo rapidamente, e equipes em todo o mundo estão trabalhando para ampliar ainda mais os limites
  • Não se concentre apenas nos problemas de hoje. Preveja problemas crescentes ou potenciais que possam surgir e planeje-se para situações de contingência!

Uma questão ética que talvez pareça distante, mas que continua válida, é: como os seres humanos devem tratar a IA à medida que ela continua a evoluir? A IA acabará por atingir o ponto da autoconsciência? Se sim, iremos tratá-la de acordo com isso… ou simplesmente explorá-la como um programa, em vez de uma criatura dotada de consciência? 

Os autores de ficção científica há muito se debruçam sobre essas questões. Desde o romance *Eu, Robô*, de Isaac Asimov, até o tratamento discriminatório dispensado a andróides como o C-3PO em *Star Wars*, as perspectivas para as formas de vida baseadas em IA são frequentemente retratadas como sombrias. Star Trek: The Next Generation explorou essa fronteira ética em grande detalhe no episódio “The Measure Of A Man”, no qual o capitão da nave, Picard, teve que “provar que Data [um androide autoconsciente] é legalmente um ser senciente com direitos e liberdades sob a lei da Federação…” 

Ferramentas/recursos recomendados

Sites

Livros

  • Ética da IA (série Essential Knowledge da MIT Press), de Mark Coeckelbergh
  • Ética da Inteligência Artificial, de S. Matthew Liao
  • Manual de Oxford sobre Ética da IA, de Markus Dubber, Frank Pasquale e Sunit Das
Plano B

O caminho para se tornar um especialista em ética da IA não é tão claro quanto o da maioria das profissões. E, à medida que a tecnologia de IA continua avançando, as coisas podem mudar ainda mais. Se você quer um emprego na área de tecnologia, mas gostaria de considerar algumas alternativas, confira as opções abaixo! 

  • Engenheiro de prompts de IA
  • Engenheiro de Big Data
  • Desenvolvedor de Business Intelligence
  • Engenheiro de Hardware
  • Programador de computadores
  • Analista de Sistemas de Informática
  • Arquiteto de bancos de dados
  • Cientista de dados
  • Analista de Segurança da Informação
  • Matemático
  • Engenheiro de Aprendizado de Máquina
  • Engenheiro de robótica
  • Engenheiro de Software
  • Arquiteto de Software
  • Desenvolvedor Web 

Feed de notícias

Vagas em destaque

Cursos e ferramentas online

PERSPECTIVAS SALARIAIS E DE EMPREGO
Escolha uma sub-região:

Expectativas salariais anuais

$71K
$104K
$141K

Os novos funcionários começam com um salário de cerca de US$ 71 mil. O salário médio é de US$ 104 mil por ano. Profissionais com vasta experiência podem ganhar cerca de US$ 141 mil.

Fonte: Departamento de Estatísticas do Trabalho dos EUA