Na Conferência Web.br 2017, em São Paulo, a engenheira do Google Onome Ofoman alertou que nenhum dado é completamente imparcial e listou três causas de viés em aprendizado de máquina. O evento também tratou de segurança em internet das coisas e de privacidade em realidade virtual e aumentada.
Em 2017, o risco de viés em sistemas de inteligência artificial chegou a um dos principais eventos de tecnologia web do Brasil. Na 9ª Conferência Web.br, realizada em 24 e 25 de outubro em São Paulo pelo Ceweb.br, do NIC.br, com apoio do W3C Brasil, a engenheira de software do Google Onome Ofoman apresentou um exemplo hipotético de admissão universitária para mostrar como dados históricos podem favorecer homens. "Nenhum dado é completamente imparcial", afirmou. O evento, com o tema "Imersão e Transcendência", reuniu mais de 300 participantes.
A discussão antecipou preocupações que hoje fazem parte de qualquer projeto sério de IA: de onde vêm os dados, quem os escolhe e quem é afetado pelas decisões automatizadas.
Quais causas de viés foram apontadas?
Segundo o NIC.br, Onome Ofoman listou três causas de viés em aprendizado de máquina:
- Valores morais não refletidos: a IA não incorpora, por si só, os valores que se espera dela.
- Bases de dados pouco diversas: conjuntos de dados que não cobrem cenários variados reproduzem lacunas.
- Equipes pouco diversas: times com experiências semelhantes tendem a não perceber certos problemas.
Na mesma linha, Tanara Lauschner, diretora do Instituto de Computação da UFAM e conselheira do CGI.br, tratou do equilíbrio de gênero na tecnologia e de programas como Cunhantã Digital e Meninas Digitais, observando que a maior parte das soluções tecnológicas é desenvolvida por homens.
Que outros temas a Web.br 2017 discutiu?
| Palestrante | Tema |
|---|---|
| Lucimara Desiderá (CERT.br) | Segurança em internet das coisas: a proteção precisa ser pensada desde o início; citou dispositivos comprometidos como babás eletrônicas, brinquedos, carros e marca-passos |
| Jamila Venturini (CGI.br) | Metadados são fáceis de processar, combinar e manipular; novas tecnologias podem coletar dados como movimento dos olhos, temperatura corporal e batimentos |
| Bruno Bioni (NIC.br) | Realidade virtual e aumentada podem remodelar a interação social e ampliar riscos de manipulação |
| Reinaldo Ferraz (Ceweb.br e W3C Brasil) | Interfaces imersivas também precisam ser acessíveis |
| IBM Brasil | Oficina de blockchain com construção de aplicação |
Na divulgação da programação, em maio, Vagner Diniz, gerente do Ceweb.br, defendeu discutir a web que "transcende os limites das telas de um computador ou de um celular", lembrando que experiências imersivas levantam questões sobre como as pessoas manterão controle real sobre os acontecimentos.
Por que o tema importava para empresas?
Para empresas que já usavam ou planejavam usar aprendizado de máquina em decisões que afetam clientes, os alertas da Web.br apontavam riscos concretos:
- Decisões injustas: modelos treinados com histórico enviesado podem reproduzir discriminação.
- Risco jurídico e de reputação: decisões automatizadas mal explicadas expõem a empresa.
- Coleta excessiva de dados: novas interfaces ampliam o volume de dados pessoais coletados.
- Segurança desde o projeto: dispositivos e sistemas conectados precisam de proteção desde a concepção.
O que isso significa hoje para quem contrata projetos de IA?
Ao contratar uma consultoria ou software house para um projeto de IA, vale perguntar de onde vêm os dados de treinamento, como o fornecedor testa vieses, quem revisa as decisões automatizadas e como o sistema explica seus resultados. Também vale exigir diversidade de cenários nos testes e um processo para corrigir o modelo quando problemas forem identificados. Essas perguntas, levantadas no debate de 2017, continuam centrais em qualquer projeto de IA.
Fontes
Compare nota, avaliações verificadas e score, e fale direto com a empresa pela Citeo.
Perguntas frequentes
O que foi discutido sobre IA na Web.br 2017?
A engenheira do Google Onome Ofoman tratou de viés em aprendizado de máquina, mostrando como dados históricos podem favorecer determinados grupos, e apontou três causas: valores morais não refletidos na IA, bases de dados pouco diversas e equipes pouco diversas.
Quando e onde foi a Web.br 2017?
A 9ª Conferência Web.br foi realizada em 24 e 25 de outubro de 2017, em São Paulo, organizada pelo Ceweb.br, do NIC.br, com apoio do W3C Brasil, com o tema "Imersão e Transcendência" e mais de 300 participantes.
Por que dados podem gerar viés em IA?
Porque modelos de aprendizado de máquina aprendem padrões a partir de dados existentes. Se o histórico reflete desigualdades, o modelo tende a reproduzi-las. Por isso, na Web.br 2017, Onome Ofoman afirmou que nenhum dado é completamente imparcial.