A inteligência artificial (IA) tornou-se uma parte cada vez mais onipresente na vida dos indivíduos e nas operações de empresas na atualidade. De assistentes pessoais virtuais a carros autônomos, as tecnologias de IA estão mudando a maneira como as pessoas interagem com o mundo. No entanto, à medida que a IA se torna mais avançada, ela levanta importantes questões éticas e de privacidade.
Decisões algorítmicas baseadas em dados pessoais estão cada vez mais sendo utilizadas em vários setores, incluindo seguros, saúde, crédito, emprego e segurança. Uma das maiores preocupações é que os sistemas de IA – capacitados para analisar e traçar perfis de indivíduos com base em seus dados pessoais – possam perpetuar preconceitos e discriminações existentes. Softwares de reconhecimento facial, por exemplo, demonstraram ter desempenho pior em pessoas afrodescendentes[i], de modo que algoritmos de policiamento preditivo podem perpetuar preconceitos raciais no sistema de justiça criminal.
Se dados históricos mostram que determinados grupos sociais têm mais probabilidade de se envolver em atividades criminosas, os algoritmos podem perpetuar essa desigualdade ao alocar recursos policiais e justiça criminal de forma desproporcional. Além disso, se dados coletados mostram que mulheres são menos propensas a serem contratadas para certas posições de trabalho, sistemas algorítmicos tendem a perpetuar esse desequilíbrio ao sugerir candidatos homens para vagas de trabalho[ii].
É importante destacar que as desigualdades sociais e a discriminação não são apenas resultados de atitudes individuais, mas foram perpetuadas por sistemas sociais e políticos ao longo do tempo, que as reforçaram. Quando essas desigualdades são incorporadas em algoritmos que tomam decisões importantes sobre a vida das pessoas, elas podem ter impactos significativos e duradouros na sociedade.
Esses preconceitos podem ter sérias consequências, incluindo o aumento do risco de privações indevidas de liberdade e também a negação de acesso a bens, serviços e oportunidades estratégicas para a vida em sociedade, como a alocação de oportunidades de acesso a emprego, programas habitacionais, negócios, entre outros[iii].
Outra preocupação é o potencial da IA invadir a privacidade dos indivíduos. Como os sistemas de IA coletam e processam grandes quantidades de dados pessoais, existe o risco de que essas informações sejam mal utilizadas ou caiam em mãos erradas[iv].
Para abordar essas preocupações, é importante que os desenvolvedores e usuários de IA considerem as implicações éticas de suas ações. Isso inclui garantir que os sistemas de IA sejam projetados de maneira a respeitar a privacidade e minimizar o risco de danos, em obediência ao princípio da transparência e de maneira alinhada com valores e princípios éticos, assegurando sua confiabilidade e respeito com os direitos e liberdades individuais. Também é fundamental o respeito ao direito de informação, para que os usuários possam entender como as decisões são tomadas. Os indivíduos devem ter condições reais de exercer o direito à autodeterminação informativa (direito de controlar quando e com quem querem compartilhar seus dados pessoais e os limites desse compartilhamento) em qualquer sistema algorítmico.
Atualmente, muitas decisões automatizadas são tomadas por sistemas de IA sem que as pessoas saibam exatamente como elas foram tomadas ou por quem. A regulamentação legal pode ajudar a avalizar que as decisões algorítmicas sejam explicadas e que haja responsabilidade por elas.
Embora a IA tenha o potencial de melhorar a vida humana de muitas maneiras, é crucial que haja regulamentações fortes, medidas de segurança robustas e supervisão independente (revisão periódica de algoritmos para identificar e corrigir viéses) de modo a monitorar o funcionamento em conformidade com esses parâmetros.
É importante, ainda, que ações sejam promovidas para conscientizar e capacitar a sociedade (inclusive as crianças) sobre as questões éticas e legais relacionadas à inteligência artificial e seus impactos na privacidade e direitos civis.
Paola Roos
30.01.23
[i] “Algorithmic Bias in AI: An Overview” (2019) – Estudo que revisou a literatura sobre viés algorítmico na IA e destacou como isso pode levar a discriminação em aplicações como emprego, crédito e seguros.
[ii] https://www.reuters.com/article/us-amazon-com-jobs-automation-insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G
[iii] “Discrimination in Algorithmic Decision Making” (2018) – Estudo que avaliou como as decisões algorítmicas podem perpetuar ou amplificar a discriminação em diversas aplicações, incluindo a alocação de recursos, como emprego e habitação.
“AI and Employment: What’s Next for the Future of Work?” (2019) – Pesquisa examinou como a IA pode impactar a força de trabalho e destacou como os algoritmos de recrutamento e seleção podem perpetuar a discriminação.
[iv] “The Dark Side of AI: Risks and Threats to Privacy and Security” (2021) – Estudo avaliou os riscos e ameaças à privacidade e segurança associados ao uso da IA, incluindo vazamentos de dados, uso impróprio de informações pessoais e ataques cibernéticos.
