ANPD sugere que legítimo interesse poderá ser usado em treinamento de modelos de IA

Qual a viabilidade de mobilização da hipótese legal do legítimo interesse para o treinamento de modelos de inteligência artificial? A pergunta foi endereçada a Iagê Miola, diretor do Conselho Diretor da ANPD , durante a segunda edição do Diálogos Atlânticos sobre Tecnologia e Regulação , na FGV Direito Rio, nesta quarta-feira, 29. E, como resposta, o representante da autoridade antecipou que a agência não tem posição definitiva sobre como encarar a viabilidade de aplicação da hipótese legal no tratamento de dados pessoais para a finalidade de treinamento de IA. Vale lembrar que legítimo interesse é uma das bases legais da LGPD (Lei Geral de Proteção de Dados) que permite a uma empresa ou organização tratar dados pessoais sem precisar pedir consentimento ao titular, desde que haja um motivo justo, concreto e equilibrado. “Mas há um acúmulo de reflexões no curso de processos de fiscalização e no curso de iniciativa de regulamentação e que nos apresentam caminhos possíveis. E acredito que num futuro muito próximo dará uma resposta mais contundente ou direta, tendo em vista a necessidade de segurança jurídica que se espera para que os modelos e os sistemas de inteligência artificial possam, de fato, serem implementados”, disse. Um dos pontos apresentados por Miola é que, independentemente da existência ou não de um marco regulatório de inteligência artificial no Brasil, a competência da ANPD é “atraída” para lidar com temas de IA na medida em que dados pessoais são tratados pela tecnologia. “Sendo uma legislação neutra do ponto de vista tecnológico, a ANPD não tem nem escolha e tem que lidar com os desafios da inteligência artificial quando há dados sendo tratados”, resumiu. Miola lembrou que a ANPD inseriu há dois anos na lista de suas prioridades encarar a inteligência artificial quando o assunto foi tratamento de dados pessoais por meio de um guia orientativo. “É uma primeira aproximação para orientar os agentes regulados sobre o que se espera, sob o ponto de vista da LGPD em relação à modelos de IA”, resumiu. O guia foca nos seguintes aspectos: transparência, princípios da LGPD e em relação a hipóteses legais. “Este é um item que ainda está sendo debatido na ANPD. E a gente espera que, passada a onda do ECA Digital, a gente consiga retomar itens da agenda regulatória com mais vigor”, complementou. Houve ainda, no ano passado, uma tomada de subsídios, na qual, foram detectados alguns pontos de convergência e divergência entre os participantes – como empresas, sociedade civil, setor privado e academia. Convergência entre diferentes atores Iagê Miola (com microfone), durante evento da FGV Direito Rio. Crédito: Isabel Butcher/Mobile Time Entre os pontos em comum sobre a aplicabilidade do legítimo interesse, está o consenso de que a utilização da hipótese legal do consentimento coloca imensos desafios para o treinamento de modelos de inteligência artificial para o treinamento de modelos IA que evitem vieses, que tenham acurácia e não incorram na violação de outros princípios da própria LGPD, como a não discriminação. “Para isso, precisamos de dados que sejam representativos e isso significa um volume de dados possivelmente muito grande. Viabilizar um tratamento volumoso de dados pessoais por meio do consentimento coloca uma dificuldade óbvia. Então, temos o primeiro consenso que é reconhecer o problema”, explicou o diretor da agência. O segundo consenso detectado na consulta pública foi o fato de que não existe a ideia de que existe uma inviabilidade da mobilização da hipótese do legítimo interesse como uma hipótese legal válida para o treinamento de modelos de IA. “Com isso, temos algumas pistas de que há um caminho de construção de um consenso regulatório possível entre diferentes atores. Os desacordos vistos pela ANPD O ponto de divergência entre os participantes da consulta pública é a preocupação em relação à raspagem de dados, em especial quando se mobiliza a hipótese legal do legítimo interesse com o risco de coleta incidental de dados sensíveis. “A preocupação é em que medida essa coleta de dados pessoais que é absolutamente central para os modelos, não vai nos levar para situações de difícil resolução na hipótese legal. Então, algumas posições sugerem que a raspagem de dados poderia acontecer com base nessa hipótese legal, desde que se evitasse a coleta de dados sensíveis ou o tratamento de dados de determinados grupos vulneráveis”. Há também outros argumentos que acreditam que a raspagem de dados por meio da hipótese do legítimo interesse seria viável sem maiores preocupações. Os processos fiscalizatórios também serviram para que a ANPD visse outras preocupações sobre o tema. Com relação à mobilização da hipótese legal do legítimo interesse quando há dados sensíveis, a principal preocupação é a ausência de legislação brasileira para esta possibilidade. A segunda preocupação identificada pela ANPD foi com relação ao teste de balanceamento, uma vez que é difícil delimitar onde está a legítima expectativa dos titulares de dados, sobretudo sabendo que esta raspagem vai muitas vezes lidar com dados que foram disponibilizados ou compartilhados para fins diferentes para aquela do treinamento do modelo de IA; “Faz muito tempo que boa parte dessas bases de dados estão por aí e que como é que a gente casa essa realidade com a legítima expectativa do titular de dados e que esses dados serão tratados para esta finalidade”, questiona Miola. E um terceiro elemento destacado pelo diretor da agência está relacionado à transparência no uso desta hipótese legal. Em alguns casos a transparência é superficial em informar aos titulares o que aconteceu com seus dados, quais dados e para qual finalidade eles eram usados. Entre as conclusões tiradas pela ANPD dessa avaliação é que não há uma oposição da mobilização da hipótese legal. Ela é legítima para a finalidade de treinamento de modelos de IA. “O que converge com a experiência da Comunidade Europeia, francesa, sul-coreana”, resume Miola. No entanto, se a hipótese legal for “mobilizada”, ela vem com um pacote de preocupações e demandas, como os testes de balanceamento, que precisarão ser mais consistentes e robustos e a transparência significativa. “Temos alternativas do ponto de vista de hipótese legal, seja qual for a hipótese legal e, sendo uma hipótese legal de legítimo interesse, o que a agência espera e indica é que aquilo que é requisito para aplicação dessa hipótese legal seja de fato encarado com seriedade e com robustez”, resume Miola.