.svg){kind=logo}
A inteligência artificial (“IA”) faz parte do cotidiano social de forma muito mais significativa do que se pode perceber. A tecnologia está presente nas assistentes virtuais dos dispositivos móveis, nos aplicativos de redes sociais que mostram conteúdo personalizado, no monitoramento de câmeras de trânsito, e até em algoritmos que influenciam importantes decisões com grande impacto na vida dos indivíduos, como aqueles relacionados à crédito.
Considerando tamanha relevância e presença da tecnologia em nossas vidas é imprescindível que questões éticas sejam consideradas em sua utilização e desenvolvimento, tanto num contexto de justiça social, quanto de mitigação de riscos legais e real efetividade em sua utilização.
Nesse sentido, a IA demonstra um inegável potencial para aprimorar consideravelmente a eficiência em vários setores, incluindo o mercado imobiliário, trazendo vantagens tanto para empresas do setor, quanto para os clientes. A automação de tarefas repetitivas, como o envio de cobranças, e a análise de grandes conjuntos de dados por meio da inteligência artificial para perfilamento do cliente, são exemplos que podem mitigar a inadimplência. Dessa forma, a IA pode otimizar o processo, agilizando aprovações de financiamentos e locações, resultando em negociações mais assertivas e conclusão mais ágil dos negócios.
Ainda neste contexto, vale destacar a criação de chatbots e assistentes virtuais, que possibilitam um atendimento mais rápido e preciso e os serviços de recomendação de imóveis, que por meio de perfilamento e análise das preferências e necessidades dos clientes sugere opções com maior assertividade em relação às suas expectativas. Esse processo aprimora a experiência do cliente na busca e seleção de imóveis com uma abordagem mais personalidade e eficiente, que resulta em maior celeridade e incremento de vendas e locações.
Por outro lado, a Inteligência Artificial tem sido utilizada de forma massiva para decisões de concessão de crédito e financiamento de imóveis, por exemplo, muitas vezes baseadas em geo-tags, estabelecendo correlação entre o local de moradia, riqueza e raça, o que favorece o surgimento da figura do viés algorítmico como instrumento de perpetuação de processos discriminatórios através da tecnologia. Sendo que, vale trazer entendimento mais aprofundado em relação aos conceitos e possíveis causas dos vieses nesse contexto.
De acordo com o dicionário Michaelis, viés significa “tendência associada ou determinada por fatores externos”1. Embora comumente se intencione explicar os vieses por meio de conjuntos de dados enviesados, é crucial destacar que o desenvolvimento de modelos de aprendizagem de máquina é incremental, com feedback indicando erros nas previsões para permitir que os modelos aprendam com seus próprios erros e melhorem continuamente. Contudo, os vieses podem surgir em várias etapas desse processo, como na coleta dos dados, no pré-processamento, na criação e na avaliação do modelo, bem como no pós-processamento2.
Para ilustrar o ponto, citamos quatro tipos de viesses que podem estar presentes em todas as etapas de um modelo: (i) viés histórico: questão estrutural fundamental na primeira etapa do processo de geração de dados e pode existir mesmo com uma boa amostragem estatística; (ii) viés de representação: pode ocorrer durante a coleta de dados, quando a amostra coletada não representa a população a ser modelada. Isso resulta em dados de treinamento não representativos e um modelo que erra mais ao tentar prever rótulos para grupos sub-representados; (iii) vieses de avaliação: podem surgir ao avaliar o desempenho do modelo, uma vez que ele aprende com os dados de treinamento, mas sua qualidade é avaliada usando dados de teste. A classificação de métricas de avaliação de desempenho, como a acurácia geral, pode ocultar disparidades entre diferentes subgrupos e ocultar a presença de vieses; (iv) viés de interpretação humana: Podem ser inseridos na etapa de pós-processamento, durante a integração dos sistemas. A saída do modelo - por exemplo a identificação de um suspeito nos sistemas de reconhecimento facial - deve ser sempre interpretada por seres humanos de forma a evitar consequências injustas2.
É inegável que a problemática dos vieses gira em torno do risco que associações automatizadas trazem para a perpetração de processos discriminatórios que impactam nas desigualdades entre as pessoas. Outrossim, outro desafio importante na utilização de algoritmos é a questão da opacidade algorítmica. Esse conceito se refere à dificuldade de compreender como um algoritmo toma decisões ou chega a conclusões, especialmente quando se trata de algoritmos de aprendizado de máquina que utilizam técnicas complexas como redes neurais.
A opacidade algorítmica pode ter implicações significativas, especialmente quando se trata de decisões que afetam a vida das pessoas, como a concessão de empréstimos ou crédito imobiliário. Assim, um algoritmo opaco dificulta a compreensão do processo que levou a uma determinada decisão e o impossibilita a avaliar a imparcialidade e justiça na tomada da decisão, incorrendo em racismo algorítmico, que se trata da intensificação da opacidade e da ignorância para a reprodução das desigualdades e estruturas de poder contemporâneas3.
Buscando enfrentar esses desafios, o mundo está se mobilizando para discutir e regulamentar o uso e o desenvolvimento da Inteligência Artificial. À título de exemplo, no Brasil tramita o PL nº 2338/234, na China, recentemente, o principal órgão fiscalizador da internet no país divulgou um conjunto de diretrizes para inteligência artificial generativa5, a cidade de Nova York publicou a NYC Local Law nº 1446 que permite a fiscalização de contratações e promoções feitas com o uso de IA, e o Parlamento Europeu aprovou em junho a versão final de um projeto de lei, o AI Act7, que atualmente está em discussão pelos países membros. Contudo, não é novidade que a evolução legislativa global não acompanha o ritmo acelerado do desenvolvimento tecnológico.
Em um contexto mais específico, vele citar o Fair Housing Act8, Lei Federal dos Estados Unidos da América, que proíbe a discriminação por parte de fornecedores diretos de habitação, como proprietários e empresas imobiliárias, bem como outras entidades, como municípios, bancos ou outras instituições de crédito e companhias de seguros residenciais, cujas práticas discriminatórias tornem a habitação indisponível para pessoas devido à: raça ou cor, religião, sexo, origem nacional, situação familiar ou incapacidade, que aplicado ao contexto dos algoritmos de Inteligência Artificial, já gerou condenações e aplicação de multas à grandes empresas.
Dessa forma, o documento "Ethics By Design and Ethics of Use Approaches for Artificial Intelligence"9 publicado pela União Europeia em 2021, apresenta um framework abrangente e bem detalhado que pode ser usado como base no fomento da discussão de como orientar o desenvolvimento ético da IA.
O citado documento propõe um framework de Ethics By Design que tem como foco as fases iniciais de desenvolvimento da IA, e busca orientar o desenvolvimento e utilização da tecnologia de maneira ética e responsável, e se baseia em três principais abordagens interconectadas:
(i) Princípios e requisitos: define os princípios éticos aos quais os sistemas de IA devem aderir além de propor requisitos para o seu desenvolvimento;
(ii) Etapas práticas para aplicação do framework no desenvolvimento de IA: define ações a serem tomadas em diferentes estágios do desenvolvimento de IA para aderir aos princípios éticos e requisitos propostos; e
(iii) Implantação e uso ético: apresenta diretrizes para implementar ou utilizar a IA de maneira ética.
Resumidamente, a abordagem de Ethics By Design requer a consideração cuidadosa das implicações éticas em todas as etapas do desenvolvimento de IA, desde a coleta de dados até o treinamento de algoritmos e a implementação do sistema. O objetivo é garantir que as preocupações éticas sejam consideradas durante todo o processo de desenvolvimento.
Vale destaque, entre as diretrizes citadas, da necessidade de desenvolvimentos dos sistemas de forma a garantir a possibilidade de supervisão humana e a responsabilidade ao usar esses sistemas. Em outras palavras, as organizações que implementam sistemas de IA devem garantir que existem mecanismos de controle, auditoria e responsabilização em vigor.
Em conclusão, a importância de uma abordagem "Ethics By Design" no desenvolvimento da IA pode ser justificada pelo oferecimento de um roteiro extenso para garantir que a ética seja uma consideração central em todas as fases do ciclo de vida da IA, desde a concepção até a implementação. Evitando assim, problemas éticos que podem surgir quando os sistemas de IA são desenvolvidos sem considerações adequadas, bem como, mitigar riscos legais de penalidades e condenações pelo desenvolvimento e utilização de tecnologias com viés algorítmico discriminatório, especialmente àqueles referentes a análises de crédito hoje muito utilizados no setor imobiliário.
O desafio nessa realidade se propõe, principalmente, em promover nas organizações e na sociedade de forma ampla, uma cultura de inovação responsável no desenvolvimento da IA, que leve em consideração as implicações éticas e sociais no seu desenvolvimento. Em um cenário em que a IA desempenha um papel cada vez mais central em nossa sociedade, adotar uma abordagem ética desde o seu desenvolvimento não é apenas uma escolha moral, mas também uma medida legal e uma estratégia de gerenciamento de riscos.
É necessário fomentar um espaço aberto para a inovação, sem que sejam impostos impedimentos inexequíveis para o seu desenvolvimento. No entanto, é imprescindível buscar um desenvolvimento ético e seguro da tecnologia, como forma de proteção e garantia de uma sociedade funcional e justa, evitando assim, que uma tecnologia com potencial infinito de melhoria da eficiência da sociedade, se torne mais um divisor social, reproduzindo e ampliando desigualdades sociais existentes.
___________________________________________________________________________________
1 MICHAELIS. Dicionário Brasileiro da Língua Portuguesa. Viés. Disponível em: https://michaelis.uol.com.br/moderno-portugues/busca/portugues-brasileiro/vies/. Acesso em: 20 mar. 2023.
2 RUBACK, Lívia; AVILA, Sandra; CANTERO, Lucia. Vieses no Aprendizado de Máquina e suas Implicações Sociais: Um Estudo de Caso no Reconhecimento Facial. In: WORKSHOP SOBRE AS IMPLICAÇÕES DA COMPUTAÇÃO NA SOCIEDADE (WICS), 2. , 2021, Evento Online. Anais [...]. Porto Alegre: Sociedade Brasileira de Computação, 2021 . p. 90-101.
3 SILVA, Tarcizio. Racismo algorítmico: entre a (des)inteligência artificial e a epistemologia da ignorância. Revista Select, nov. 2020. Disponível em: https://select.art.br/racismo-algoritmico/. Acesso em: 10 abr. 2023.
4 Projeto de Lei n° 2338, de 2023. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em: 11/11/2023.
5 Medidas Provisórias para a Gestão de Serviços Gerativos de Inteligência Artificial. Disponível em: http://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm. Acesso em 11/11/2023.
6 Automated Employment Decision Tools (Updated). Disponível em: https://rules.cityofnewyork.us/rule/automated-employment-decision-tools-updated/. Aceso em 11/11/2023.
7 EU AI Act: first regulation on artificial intelligence. Disponível em: https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence. Acesso em 11/11/2023.
8 The Fair Housing Act. Disponível em: https://www.justice.gov/crt/fair-housing-act-1. Acesso em: 11/11/2023.
9 Ethics By Design and Ethics of Use Approaches for Artificial Intelligence, Version 1.0, 25 November 2021. Disponível em: https://ec.europa.eu/info/funding-tenders/opportunities/docs/2021-2027/horizon/guidance/ethics-by-design-and-ethics-of-use-approaches-for-artificial-intelligence_he_en.pdf. Acesso em 11/11/2023
Autores:
