A equipe de experiência do usuário de AI responsável (Responsible AI UX) do Google é uma equipe voltada para o produto incorporada ao Google Research.

Esse posicionamento único exige que apliquemos práticas responsáveis ​​de desenvolvimento de AI ao nosso processo de design de experiência do usuário (UX) centrado no usuário. Nesta postagem, descrevemos a importância do design UX e da AI ​​responsável no desenvolvimento de produtos e compartilhamos alguns exemplos de como os recursos e as colaborações multifuncionais de nossa equipe levaram ao desenvolvimento responsável em todo o Google.

Primeiro, a parte UX. Somos uma equipe multidisciplinar de especialistas em design de produto: designers, engenheiros, pesquisadores e estrategistas que gerenciam o processo de design UX centrado no usuário, desde a fase inicial de concepção e enquadramento do problema até o design de interface de usuário (UI) de fase posterior, prototipagem e refinamento. Acreditamos que o desenvolvimento eficaz de produtos ocorre quando há um alinhamento claro entre as necessidades significativas não atendidas do usuário e a proposta de valor principal de um produto, e que esse alinhamento é alcançado de forma confiável por meio de um processo completo de design UX centrado no usuário.

E em segundo lugar, reconhecendo o potencial da AI ​​generativa (GenAI) para impactar significativamente a sociedade, assumimos o nosso papel como principais defensores dos utilizadores à medida que continuamos a evoluir o nosso processo de design UX para enfrentar os desafios únicos que a AI coloca, maximizando os benefícios e minimizando os riscos. À medida que navegamos por cada estágio de um processo de design de produto baseado em AI, colocamos maior ênfase no impacto ético, social e de longo prazo de nossas decisões. Contribuímos para o desenvolvimento contínuo de protocolos abrangentes de segurança e inclusão que definem proteções de design e implantação em torno de questões importantes como curadoria de conteúdo, segurança, privacidade, capacidades de modelo, acesso de modelo, equidade e justiça que ajudam a mitigar os riscos de GenAI.

A Responsible AI UX está constantemente evoluindo seu processo de design de produto centrado no usuário para atender às necessidades de um cenário de produtos alimentado por GenAI com maior sensibilidade às necessidades dos usuários e da sociedade e com ênfase no impacto ético, social e de longo prazo.

A responsabilidade no design do produto também se reflete nos problemas sociais e de usuários que escolhemos abordar e nos programas que utilizamos. Assim, incentivamos a priorização dos problemas dos usuários com escala e gravidade significativas para ajudar a maximizar o impacto positivo da tecnologia GenAI.

A comunicação entre equipes e disciplinas é essencial para o design responsável do produto. O fluxo contínuo de informações e insights das equipes de pesquisa de usuários para as equipes de design e engenharia de produtos, e vice-versa, é essencial para um bom desenvolvimento de produtos. Um dos principais objetivos de nossa equipe é garantir a aplicação prática de insights profundos do usuário nas decisões de design de produtos baseados em AI no Google, preenchendo a lacuna de comunicação entre o vasto conhecimento tecnológico de nossos engenheiros e o conhecimento do usuário/sociedade de nossos acadêmicos, pesquisadores cientistas e especialistas em pesquisa em design centrado no usuário. Construímos uma equipe multidisciplinar com experiência nessas áreas, aprofundando nossa empatia pelas necessidades de comunicação de nosso público e nos permitindo uma melhor interface entre nossos especialistas em usuários e sociedade e nossos especialistas técnicos. Criamos estruturas, guias, protótipos, cheatsheets e ferramentas multimídia para ajudar a dar vida aos insights para as pessoas certas, no momento certo.

Facilitando a prototipagem e o desenvolvimento responsável de GenAI

Durante as colaborações entre Responsible AI UX, a iniciativa People + AI Research (PAIR) e Labs , identificamos que a prototipagem pode oferecer uma oportunidade criativa de envolvimento com grandes modelos de linguagem (LLM) e é muitas vezes o primeiro passo no desenvolvimento de produtos GenAI. Para atender à necessidade de introduzir LLMs no processo de prototipagem, exploramos uma variedade de diferentes designs de prompts. Em seguida, saímos para o campo, empregando várias metodologias externas de pesquisa de design UX em primeira pessoa para extrair insights e ganhar empatia pela perspectiva do usuário. Por meio de sessões de cocriação usuário/designer, iteração e prototipagem, conseguimos reunir stakeholders internos, gerentes de produto, engenheiros, redatores, equipes de vendas e marketing para garantir que o ponto de vista do usuário fosse bem compreendido e para reforçar o alinhamento entre equipes.

O resultado deste trabalho foi o MakerSuite , uma plataforma generativa de AI lançada no Google I/O 2023 que permite que pessoas, mesmo aquelas sem qualquer experiência em ML, criem protótipos de forma criativa usando LLMs. A experiência em primeira mão da equipe com os usuários e a compreensão dos desafios que eles enfrentam nos permitiram incorporar nossos Princípios de IA no design do produto MakerSuite. Recursos de produtos como filtros de segurança , por exemplo, permitem que os usuários gerenciem resultados, levando a um desenvolvimento de produto mais fácil e responsável com MakerSuite.

Devido à nossa estreita colaboração com as equipes de produto, conseguimos adaptar a prototipagem somente de texto para oferecer suporte à interação multimodal com o Google AI Studio , uma evolução do MakerSuite. Agora, o Google AI Studio permite que desenvolvedores e não desenvolvedores aproveitem perfeitamente o mais recente modelo Gemini do Google para mesclar entradas de múltiplas modalidades, como texto e imagem, na exploração de produtos. Facilitar o desenvolvimento de produtos dessa forma nos dá a oportunidade de usar melhor a AI para identificar a adequação dos resultados e abre oportunidades para desenvolvedores e não desenvolvedores brincarem com sandboxes de AI. Juntamente com os nossos parceiros, continuamos a impulsionar ativamente este esforço nos produtos que apoiamos.

O Google AI Studio permite que desenvolvedores e não desenvolvedores aproveitem a infraestrutura do Google Cloud e mesclem entradas de múltiplas modalidades em suas explorações de produtos.

 

Reconhecimento de fala equitativo

Vários estudos externos , bem como a própria pesquisa do Google, identificaram uma lamentável deficiência na capacidade da tecnologia atual de reconhecimento de fala de compreender, em média, os falantes negros, em relação aos falantes brancos. À medida que as ferramentas de IA multimodais começarem a depender mais de comandos de voz, esse problema aumentará e continuará a afastar os usuários. Para resolver esse problema, a equipe Responsible AI UX está fazendo parceria com linguistas e cientistas de renome mundial da Howard University , uma proeminente HBCU , para construir um conjunto de dados de inglês afro-americano de alta qualidade para melhorar o design de nossos produtos de tecnologia de fala para torná-los mais acessível. Chamado de Projeto Elevate Black Voices, esse esforço permitirá que a Howard University compartilhe o conjunto de dados com aqueles que buscam melhorar a tecnologia de fala, ao mesmo tempo que estabelece uma estrutura para a coleta responsável de dados, garantindo que os dados beneficiem as comunidades negras. A Howard University manterá a propriedade e o licenciamento do conjunto de dados e atuará como administradora de seu uso responsável. No Google, oferecemos suporte financeiro e colaboramos estreitamente com nossos parceiros da Howard University para garantir o sucesso deste programa.

 

 

Visão computacional equitativa

O projeto Gender Shades destacou que os sistemas de visão computacional têm dificuldade para detectar pessoas com tons de pele mais escuros e tiveram um desempenho particularmente fraco para mulheres com tons de pele mais escuros. Isto se deve em grande parte ao fato de que os conjuntos de dados usados ​​para treinar esses modelos não incluíam uma ampla gama de tons de pele. Para resolver essa limitação, a equipe Responsible AI UX fez parceria com o sociólogo Dr. Ellis Monk para lançar a Monk Skin Tone Scale (MST), uma escala de tons de pele projetada para incluir mais o espectro de tons de pele em todo o mundo. Ele fornece uma ferramenta para avaliar a inclusão de conjuntos de dados e modelar o desempenho em uma variedade inclusiva de tons de pele, resultando em recursos e produtos que funcionam melhor para todos.

Integramos o MST em vários produtos do Google , como a Pesquisa, o Google Fotos e outros. Também abrimos o código-fonte do MST, publicamos nossa pesquisa , descrevemos nossas práticas de anotação e compartilhamos um conjunto de dados de exemplo para incentivar outros a integrá-lo facilmente em seus produtos. A equipe Responsible AI UX continua a colaborar com o Dr. Monk, utilizando o MST em múltiplas aplicações de produtos e continuando a fazer pesquisas internacionais para garantir que seja globalmente inclusivo.

Consultoria e orientação

À medida que as equipes do Google continuam a desenvolver produtos que aproveitam os recursos dos modelos GenAI, nossa equipe reconhece que os desafios que enfrentam são variados e que a concorrência no mercado é significativa. Para apoiar as equipes, desenvolvemos ativos acionáveis ​​para facilitar um processo de design de produto mais simplificado e responsável, que considera os recursos disponíveis. Atuamos como uma consultoria de design focada em produtos, identificando maneiras de dimensionar serviços, compartilhar conhecimentos e aplicar nossos princípios de design de forma mais ampla. Nosso objetivo é ajudar todas as equipes de produto do Google a conectar necessidades significativas não atendidas dos usuários com benefícios tecnológicos por meio de um excelente design de produto responsável.

Uma maneira de fazer isso é com a criação do Guia People + AI , um recurso resumido em evolução de muitas das lições de design responsável que aprendemos e recomendações que fizemos para partes interessadas internas e externas. Com suas próximas atualizações contínuas focadas especificamente em como projetar melhor e considerar as necessidades do usuário com GenAI, esperamos que nossas equipes internas, partes interessadas externas e a comunidade em geral tenham orientação útil e prática nos marcos mais críticos da jornada de desenvolvimento do produto.

O Guia People + AI tem seis capítulos, projetados para cobrir diferentes aspectos do ciclo de vida do produto.

Se você estiver interessado em ler mais sobre UX de AI responsável e como estamos pensando especificamente em projetar de forma responsável com AI generativa, confira este artigo de perguntas e respostas .