O uso de inteligência artificial em soluções tecnológicas está cada dia mais comum, tanto que nem estranhamos tanto quando um aplicativo de celular ou serviço online diz que sua solução é baseada em IA. A utilização dessas informações deve ser orientada por alguns parâmetros e a adesão dos agentes de tratamento de dados a tais parâmetros é o chamado compliance. Sobre o tema que inspira esse episódio, tive a oportunidade de escrever um artigo, em co-autoria com o querido Rodrigo Dias de Pinho Gomes, que foi publicado no livro “Compliance e Políticas de Proteção de Dados”, organizado pela professora Ana Frazão e o ministro do STJ, Ricardo Cueva.
Como foi muito bem apontado pela professora Caitlin Mulholland no artigo, o compliance pode ser compreendido como a adesão dos agentes de tratamentos de dados a padrões, normas (quer sejam leis ou normas do mercado ou mesmo das organizações) aos princípios de boa governança e aos padrões éticos e sociais comumente aceitos. Na perspectiva do uso de sistemas de inteligência artificial para o tratamento dos dados pessoais, o compliance é essencial para a garantia de que os princípios da LGPD e as garantias constitucionais fundamentais não sejam violadas.
Afinal de contas, de quais riscos estamos falando? Quando nos referimos ao tratamento de dados realizado por sistema de inteligência artificial, existe um conjunto de programas e técnicas utilizadas e uma das mais frequentes é o aprendizado por máquina, também conhecido como machine learning. Nessa modalidade, o programa recebe um universo de dados, faz correlações e alcança determinados resultados através de processos dedutivos e análises estatísticas.
Um dos problemas, nesse caso, é a falta de transparência sobre o padrão de correlações que o sistema vai fazer a partir dos dados ou a segurança das informações utilizadas como base do programa. Em um mundo em que as soluções tecnológicas estão tomando cada vez mais espaço, as decisões que são tomadas utilizando como referência as informações de IA podem ser o vetor determinante para a negação de direitos, a condenação em processos ou a modulação da realidade humana a partir das nossas escolhas. Plataformas como Amazon, Google e Facebook trazem sugestões de compra e de conteúdo geradas a partir da análise dos nossos perfis e alinhadas a seus interesses econômicos e políticos.
Nesse contexto, a adesão desses agentes a programas de governança de dados e adequação dos sistemas aos parâmetros traçados na LGPD são essenciais. Além do princípio da transparência, os princípios da finalidade, necessidade e qualidade dos dados são determinantes para a construção de modelos transparentes na tomada de decisão de IA.
Nesse episódio vamos aprofundar o debate sobre as melhores práticas para a utilização de dados pessoais por sistemas de inteligência artificial. Vem com a gente.

Ficha Técnica:
Apresentação: Ana Frazão e Caitlin Mulholland
Produção e trabalhos técnicos: José Jance Marques

Ver todos los episodios