Designer de Interação Humano-IA

Horário de trabalho

Os designers de interação entre humanos e IA geralmente trabalham em tempo integral, em horário comercial padrão, como parte de uma equipe de design, pesquisa ou IA responsável dentro de uma empresa de tecnologia. A função combina momentos de pesquisa e design independentes com intensa colaboração, incluindo workshops com engenheiros, pesquisadores e equipes de políticas públicas. A maioria trabalha diretamente para empresas de tecnologia que desenvolvem produtos de IA, embora alguns atuem em laboratórios de pesquisa, empresas de consultoria ou organizações sem fins lucrativos voltadas para a IA responsável.

Funções típicas

• Pesquisar como diferentes grupos de usuários interpretam e reagem às sugestões ou decisões geradas por IA
• Projetar interfaces que comuniquem claramente o nível de confiança, as limitações e a incerteza de um sistema de IA
• Criação de controles que permitam aos usuários revisar, corrigir ou anular facilmente as decisões da IA
• Elaboração de diretrizes sobre quando e como um sistema deve explicar seu raciocínio aos usuários
• Colaborar com engenheiros de aprendizado de máquina para compreender o comportamento dos modelos e os modos de falha
• Realizar estudos de usabilidade para verificar se as pessoas confiam demais ou de menos em um recurso de IA
• Criação de experiências de integração que definam expectativas precisas sobre o que uma IA é capaz de fazer
• Auditoria de produtos existentes para identificar interações de IA que sejam confusas, enganosas ou inseguras
• Colaboração com as equipes de ética, jurídica e de políticas na elaboração de diretrizes para o uso responsável da IA
• Apresentação dos resultados da pesquisa e das recomendações de design à equipe de liderança de produtos
• Criação de protótipos e testes de diversas formas de apresentar recomendações ou alertas baseados em IA
• Documentação de padrões de projeto para garantir a transparência da IA e a supervisão humana em todo o produto

Responsabilidades adicionais

• Contribuir para as diretrizes mais amplas de uma empresa sobre IA responsável ou ética em IA
• Treinar outros designers e equipes de produto sobre os princípios da interação entre seres humanos e IA
• Análise de novos recursos de IA antes do lançamento, com foco em questões de confiança e transparência
• Estudo das implicações das funcionalidades de IA em termos de acessibilidade para usuários com deficiência
• Acompanhamento das pesquisas e regulamentações emergentes sobre transparência e explicabilidade da IA
• Defender a realização de testes com usuários antes do lançamento de recursos de IA, mesmo com prazos apertados

A manhã de um designer de interação entre humanos e IA pode começar com a análise dos resultados de um estudo recente de usabilidade, verificando se os participantes do teste compreenderam por que uma ferramenta de IA destacou um determinado resultado ou o ignorou completamente, talvez porque a explicação estivesse muito escondida na interface. Ele pode esboçar algumas novas maneiras de apresentar essa explicação com mais clareza.

O meio-dia costuma incluir reuniões com um engenheiro de aprendizado de máquina para entender exatamente qual é o nível de confiança de um novo modelo em diferentes situações, seguidas por uma sessão de trabalho com um designer de produto para descobrir como representar essa confiança visualmente sem sobrecarregar os usuários com detalhes técnicos. Eles também podem participar de uma revisão com a equipe jurídica ou de políticas sobre um novo recurso de IA que envolva decisões delicadas, como aprovações de crédito ou recomendações médicas.

As tardes costumam ser dedicadas à criação de protótipos, desenvolvendo algumas versões diferentes de um painel de “explicação da IA” ou de um botão de anulação, para depois planejar um estudo para verificar qual versão realmente ajuda as pessoas a tomarem melhores decisões. Antes do fim do dia, eles geralmente documentam o que aprenderam, atualizam as diretrizes de design e identificam quaisquer padrões que sugiram que as pessoas estejam confiando demais ou de menos na IA.

Competências interpessoais

• Profunda curiosidade sobre como as pessoas pensam, tomam decisões e constroem confiança
• Sólidas habilidades de pesquisa e raciocínio analítico
• Comunicação clara entre as equipes técnicas, de design e de políticas
• O raciocínio ético e o conforto levantam questões difíceis sobre os riscos da IA
• Empatia em relação à forma como diferentes usuários, incluindo os mais vulneráveis, vivenciam os sistemas de IA
• Paciência diante da ambiguidade, já que as melhores práticas nessa área ainda estão se consolidando
• Colaboração e construção de consenso entre disciplinas
• A atenção aos detalhes em como pequenas escolhas de texto ou design influenciam a confiança
• Capacidade de adaptação, à medida que as capacidades da IA e as regulamentações mudam rapidamente
• Reflexão crítica sobre quando não se deve confiar em um sistema de IA
• Uma narrativa convincente para transformar os resultados da pesquisa em decisões de design
• Habilidades de defesa de causa para promover a realização de testes com usuários sob pressão de prazos

Competências técnicas

• Métodos de pesquisa com usuários e de testes de usabilidade
• Ferramentas de design de interação e prototipagem, como o Figma
• Conhecimento básico sobre como funcionam os modelos de aprendizado de máquina e em que pontos eles apresentam falhas
• Conhecimento dos conceitos de explicabilidade e interpretabilidade na IA
• Visualização de dados para comunicar confiança, probabilidade e incerteza
• Padrões de acessibilidade para interfaces baseadas em IA
• Conhecimento sobre ética em IA, equidade e estruturas de avaliação de preconceitos
• Pensamento sistêmico para projetar um comportamento consistente da IA em todo o produto
• Conhecimento das regulamentações relevantes sobre IA e dos requisitos de transparência
• Ferramentas de análise para estudar como os usuários interagem com recursos de IA ao longo do tempo

• Designer de transparência em IA: concentra-se em explicar como e por que uma IA chegou a uma decisão
• Pesquisador em Confiança na IA: Estuda o grau de confiança das pessoas nos sistemas de IA e por que essa confiança muda
• Designer de Supervisão Humana: projeta controles que permitem que as pessoas revisem, corrijam ou substituam as decisões da IA
• Designer de IA responsável: concentra-se na equidade, na segurança e nas diretrizes éticas em todos os produtos de IA
• Designer de integração de IA: responsável por definir como os novos usuários são apresentados aos recursos e limites de um recurso de IA
• Designer de IA Explicável (XAI): Especializado em visualizar e simplificar o raciocínio de modelos complexos
• Designer de Interação em IA Corporativa: Cria ferramentas de supervisão humana para ambientes profissionais, como a área da saúde ou o setor financeiro

• Empresas de tecnologia e software
• Laboratórios de pesquisa em IA e centros de estudos
• Empresas do setor de saúde e de tecnologia da saúde
• Empresas de serviços financeiros e seguradoras
• Órgãos governamentais que regulamentam ou implementam sistemas de IA
• Empresas de consultoria especializadas em IA responsável ou ética
• Universidades e centros de pesquisa acadêmica
• Organizações sem fins lucrativos dedicadas às políticas e à segurança em IA
• Empresas do setor automotivo e de veículos autônomos
• Empresas de software corporativo que desenvolvem ferramentas de IA para outras empresas
• Plataformas de mídia e conteúdo que utilizam recomendações baseadas em IA
• Órgãos de normalização e consórcios do setor voltados para diretrizes de IA

Os designers de interação entre humanos e IA atuam em uma área em que a “resposta certa” muitas vezes ainda é desconhecida, já que as capacidades da IA e a compreensão do público sobre elas estão em constante evolução. Isso significa pesquisar, testar e revisar constantemente as abordagens de design, em vez de se basear em melhores práticas já estabelecidas, o que pode ser intelectualmente exigente e, às vezes, frustrante.

O que está em jogo pode ser muito importante. Escolhas inadequadas de design relacionadas à transparência ou à supervisão da IA têm consequências reais, que vão desde pessoas que confiam cegamente em uma recomendação médica falha até o desconsiderar de um alerta de segurança genuinamente útil. Os designers têm a responsabilidade real de tomar essas decisões da maneira correta, e esse peso pode ser grande, especialmente ao trabalhar com sistemas de IA utilizados na área da saúde, no setor financeiro ou em outras áreas sensíveis.

A função também exige lidar com a tensão entre a pressão da empresa para lançar recursos de IA rapidamente e o trabalho mais lento e meticuloso de testar se as pessoas realmente compreendem e conseguem controlar esses recursos. Defender esse trabalho meticuloso, às vezes diante de prazos apertados, exige confiança, paciência e disposição para se opor de forma respeitosa.

• A crescente regulamentação que exige que os sistemas de IA sejam explicáveis e transparentes para os usuários
• Mais pesquisas sobre até que ponto as pessoas confiam excessivamente ou não o suficiente nas recomendações da IA
• A crescente demanda por controles de supervisão humana em aplicações de IA de alto risco, como na área da saúde e no recrutamento
• Maior ênfase no projeto para lidar com erros e situações de falha da IA, e não apenas com casos de sucesso
• Ampliação das iniciativas de alfabetização em IA para ajudar os usuários comuns a compreender as limitações da IA
• O uso crescente de índices de confiança e visualização de incerteza em produtos de consumo
• Maior colaboração entre designers, especialistas em ética e equipes de políticas públicas no que diz respeito a produtos de IA
• O surgimento de comunidades de pesquisa acadêmicas e do setor dedicadas à interação entre humanos e IA
• Mais empresas estão criando equipes formais dedicadas à IA responsável ou à ética na IA
• Atenção crescente à forma como o design de interação com IA afeta usuários vulneráveis ou carentes

Muitos designers de interação entre humanos e IA eram aquelas crianças que faziam muitas perguntas do tipo “mas por quê?”, curiosas não apenas sobre como algo funcionava, mas também se era justo ou confiável. Frequentemente, gostavam de debates, discussões filosóficas ou aulas com foco em ética, além de terem um interesse genuíno pela tecnologia e pela forma como as coisas eram construídas.

Muitos também se sentiram atraídos por disciplinas de psicologia, sociologia ou design, motivados pelo desejo de compreender como as pessoas pensam e tomam decisões. Uma combinação de curiosidade técnica e um forte senso de equidade ou justiça muitas vezes os levava a essa trajetória profissional emergente e ainda em formação.