Inteligência artificial demanda lei própria
Marco legal tramita em regime de urgência na Câmara dos Deputados
O Marco Legal do Desenvolvimento e Uso da Inteligência Artificial, que irá disciplinar a adoção dessa tecnologia no Brasil, está tramitando em regime de urgência na Câmara dos Deputados. Ele é assunto do Projeto de Lei 21/20, ainda sem data prevista para votação, de autoria do deputado Eduardo Bismarck (PDT-CE). Em abril, o governo publicou a Estratégia Brasileira para Inteligência Artificial (EBIA), que visa incentivar a disseminação dessa tecnologia e promover o seu uso de forma consciente e ética.
O marco estabelece princípios, direitos, deveres e instrumentos de governança para a inteligência artificial (IA) e disciplina seu uso por parte de órgãos públicos, empresas e pessoas físicas. A adoção da tecnologia deverá ser fundamentada no respeito aos direitos humanos, na não discriminação, na pluralidade, nos valores democráticos, na livre iniciativa e na privacidade de dados. “Com o avanço da tecnologia 5G e da internet das coisas, em que os objetos passam a contar com um sistema de inteligência artificial, a regulação do assunto se mostra necessária”, afirma Thomas Magalhães, sócio do escritório Magalhães & Zettel.
A IA também está em discussão no Parlamento Europeu, após o assunto ter sido debatido por três anos com especialistas e a sociedade. Em abril deste ano, foi publicada uma proposta de lei (The Artificial Intelligence Act) para regulá-la. Alguns consideram que, no Brasil, a discussão ainda não está suficientemente robusta para embasar a legislação. “Tendo em vista o crescimento exponencial da utilização de inteligência artificial, a urgência se justifica. Entretanto, o assunto não está devidamente amadurecido”, considera Magalhães.
Na ausência de legislação federal, o estado do Ceará aprovou uma lei sobre o assunto. Camila Borba Lefèvre e Flavia Meleras Bekerman, respectivamente sócia e associada do Vieira Rezende Advogados, explicam que é possível que os estados legislem sobre relações de consumo em geral, e que, se a proteção de dados for considerada como um direito fundamental e se a União se mantiver em silêncio a esse respeito, os estados também podem regular a matéria. No entanto, elas consideram que, no caso da lei cearense, não há caráter relativo à proteção do consumidor e haveria inconstitucionalidade formal. Para elas, há necessidade de uma discussão ampla e profunda sobre as implicações da IA antes de a legislação ir adiante.
A seguir, Magalhães, Lefèvre e Bekerman abordam alguns pontos importantes relacionados à criação de um marco legal para inteligência artificial.
É necessária a criação de um marco legal específico para inteligência artificial no Brasil?
Thomas Magalhães: Acredito que sim. A inteligência artificial vai além da proteção de dados, seguindo princípios e finalidades próprios. Com o avanço da tecnologia 5G e da internet das coisas, em que os objetos passam a ter conexão com a internet e a contar com um sistema de inteligência artificial, a regulação do assunto se mostra necessária. Por isso, é importante que haja legislação específica a respeito.
Camila Borba Lefèvre e Flavia Meleras Bekerman: A LGPD é norma principiológica que traz regras aplicáveis ao tratamento de dados pessoais no Brasil, cujo escopo há de ser devidamente regulamentado pela Autoridade Nacional de Proteção de Dados (ANPD). Fato é que, embora a questão atinente à dados pessoais esteja intimamente ligado à Inteligência Artificial (IA), estes não se confundem. A IA é campo da ciência da computação que utiliza softwares que agrupam tecnologias e algoritmos simulando capacidades humanas ligadas à inteligência, como o raciocínio e a comparação de objetos.
Eventual regulamentação deve estar em consonância com a LGPD, mas esta, por si só, não é capaz de regulamentar de forma satisfatória a IA. Esta tem sido a experiência em outros países e hoje vemos, por exemplo, a União Europeia (bloco econômico que adotou legislação de proteção de dados tida como referência global) também discutindo a futura criação de uma legislação específica sobre a IA.
Isso não quer dizer que a LGPD não deva ser considerada em questão de IA. Pelo contrário, em seu artigo 20, a norma traz importante dispositivo que visa atingir o objeto da IA, exigindo que os titulares de dados tenham direito à revisão das decisões tomadas com base no tratamento automatizado de seus dados pessoais quando estas afetarem seu interesse, inclusive na criação do chamado profiling, técnica de marketing que visa a abordagem personalizada de consumidores ou potenciais consumidores.
De forma geral, é possível dizer que regulamentação da matéria atuará de forma complementar à LGPD, devendo atender aos princípios elencados em seu artigo 6°, principalmente sobre finalidade (artigo 6º, I), transparência (6º, VI), segurança (6º, VII) e prevenção (6º, VIII). A partir da LGPD, o titular de dados pessoais poderá solicitar a revisão ao tratamento automatizado de dados pessoais que afetem seus interesses, principalmente em situações de profiling, realizar relatórios de impacto à proteção de dados (RIPD) como ferramenta para que sejam identificados e analisados os riscos que essas novas tecnologias possam gerar, assim como relatórios de legítimo interesse quando o tratamento se baseie nessa hipótese. Com efeito, uma das maiores preocupações está na forma como os dados serão utilizados para fins de automatização e IA: se há atendimento aos princípios especificados na LGPD, especialmente os relativos à minimização de dados e à não discriminação.
Recentemente, controvérsias foram suscitadas em relação à suposta discriminação racial praticada pelo algoritmo do Twitter, que, aparentemente, possuía um recurso com inclinação para dar enfoque a imagens de pessoas brancas em detrimento de pessoas negras. Em caso semelhante, uma jovem negra acusou de racismo a administração de uma pista de skate, que barrou a sua entrada com base na coleta biométrica de dados fotográficos que teriam indicado que ela já teria estado no local e se envolvido em brigas – apesar de a skatista insistir que aquela era a sua primeira vez no parque. Como evitar que máquinas programadas por seres humanos e que não possuem senso crítico às ordens que lhe são dadas ajam de forma discriminatória?
A necessidade de um marco legal específico para a IA é latente. A respeito, pesquisa realizada pela KPMG International, denominada “The shape of AI governance to come”, concluiu que 87% dos tomadores de decisão de tecnologia da informação acreditam que as ferramentas movidas por IA devem estar sujeitas à regulação estatal pura, enquanto 32% defendem que tal norma deva ser fruto de uma decisão entre governo e indústria.
Importante notar, porém, que eventual regulação da IA não pode ter como objetivo frear o avanço da tecnologia. Este ponto, inclusive, foi ressaltado pela European Data Protection Board (EDPB) ao desaconselhar, em julho deste ano, o uso da IA para coleta de dados nos espaços públicos sem notícia e nem consentimento do titular.
Na sua opinião, o debate sobre o assunto está devidamente amadurecido e a urgência para votação se justifica?
Thomas Magalhães: Tendo em vista o crescimento exponencial da utilização de inteligência artificial, a urgência se justifica. Entretanto, o assunto não está devidamente amadurecido. Os princípios que regem o tema devem, acima de tudo, ser muito bem definidos. A partir disso, as regulações em relação ao assunto devem surgir aos poucos e com o devido cuidado, para que não inviabilizem o avanço da tecnologia. Ao mesmo tempo, é importante que elas protejam a sociedade de uma má utilização da inteligência artificial.
Camila Borba Lefèvre e Flavia Meleras Bekerman: No caso específico da LGPD, o Brasil estava atrasado em relação a outros países, de forma que as discussões parlamentares foram apressadas para adequar o ordenamento jurídico brasileiro a uma realidade que já era vista em outros países. Dessa forma, justificou-se uma tramitação de urgência, embora haja ressalvas, para garantir uma norma própria de proteção de dados. No caso da IA, os países mais desenvolvidos na área de proteção de dados ainda fomentam debates sobre o assunto, até porque se trata de campo que se modifica constantemente.
O Brasil está em conformidade com o panorama internacional no que tange à IA – já foi publicada, em abril deste ano, a Estratégia Brasileira de Inteligência Artificial (EBIA), que tem como objeto nortear as ações tomadas pelo Poder Executivo sobre a matéria.
Assim, torna-se coerente, até por não haver parâmetro internacional realmente desenvolvido sobre a matéria, fomentar debates com a sociedade civil e a indústria – a União Europeia, por exemplo, pretende discutir o assunto pelos próximos dois ou três anos. A controvérsia envolve dilemas éticos (como a substituição de mão de obra humana por equipamentos de software e hardware), suplanta o âmbito da proteção de dados pessoais (ao dispor, a título explicativo, sobre a interpretação de dados biométricos) e cinge questões cíveis e penais, como é o caso da distribuição de ônus decorrentes do dano e a identificação de acusados, respectivamente. De forma geral, não há uma maturidade da discussão parlamentar que permita a aprovação do Projeto de Lei em regime de urgência.
Pelo contrário, os próprios congressistas, em julho deste ano, alertaram para a necessidade de um debate mais aprofundado antes da aprovação, tendo sido, inclusive, apontado pelo coordenador do Comitê Jurídico da Câmara Brasileira da Economia Digital, Igor Ferreira Luna Louro. Novamente, no último dia 30 de agosto, em audiência na Câmara dos Deputados, estudiosos, pesquisadores e magistrados foram unânimes em apoiar a retirada do projeto do regime de urgência de tramitação. Na ocasião, Edson Prestes, representante do grupo de estudos sobre Ética da Inteligência Artificial da Organização das Nações Unidas para a Educação, a Ciência e a Cultura (UNESCO), ressaltou que há discussão internacional e nacional sobre as implicações do uso de IA nos Direitos Humanos, mas que os debates não foram refletidos no projeto de lei.
A lei aprovada no Ceará sobre o assunto, em nossa opinião, regula de forma apressada o tema e pode deixar de conceituar questões importantes ou, pior, frear o desenvolvimento tecnológico caso não seja devidamente estudada e discutida pela sociedade.
Na ausência de um marco federal, o Estado do Ceará aprovou uma lei sobre inteligência artificial (17.611/21). A matéria pode ser tratada em âmbito estadual ou deveria ser competência do legislativo federal?
Thomas Magalhães: Em termos técnicos, é possível que a lei seja aprovada em âmbito estadual, tendo em vista o disposto no inciso V do artigo 23 da Constituição Federal:
“Art. 23. É competência comum da União, dos Estados, do Distrito Federal e dos Municípios:
…
V – proporcionar os meios de acesso à cultura, à educação, à ciência, à tecnologia, à pesquisa e à inovação; “
Ou seja, União, estados, Distrito Federal e municípios têm competência comum para legislar sobre tecnologia. Entretanto, do ponto de vista prático, é importante que as normas estejam alinhadas em todo território nacional para que possibilitem uma aplicação uniforme e viabilizem a utilização dos sistemas de inteligência artificial.
Camila Borba Lefèvre e Flavia Meleras Bekerman: Muito embora seja competência privativa da União legislar sobre questões de Direito Civil e informática (no que se inclui a proteção de dados pessoais), essa competência pode ser estendida aos estados por meio de lei complementar. Essa possiblidade também existe caso a controvérsia verse sobre relações consumeristas. Isso porque os estados e o Distrito Federal possuem competência concorrente à União para legislar sobre relações de consumo em geral, embora ressalvada a possibilidade de a norma federal garantir homogeneidade regulatória, conforme decidido pelo Supremo Tribunal Federal (STF) na Ação Direta de Inconstitucionalidade 6.097. Ademais, se considerarmos a proteção de dados como direito fundamental, o objeto da Proposta de Emenda à Constituição 17/19, que pretende incluir a matéria no rol expresso do artigo 5º de nossa Carta Magna, sua regulação específica pode ser realizada pelos estados caso a União permaneça silente e desde que não haja norma geral federal destoante.
No caso concreto, analisando-se o teor da norma aprovada pela Assembleia Legislativa do Ceará, não há caráter manifestamente relativo à proteção do consumidor. Pelo contrário, o dispositivo legal traz apenas quatro artigos que versam sobre preceitos gerais para o uso da IA. Por isso, a nosso ver, não havendo lei complementar que delegue tal competência aos estados, haveria inconstitucionalidade formal – ressalvando-se que o assunto ainda não foi discutido nas instâncias superiores. Baseamos essas conclusões em interpretação sistemática decorrente de pesquisas de julgados do STF, do texto constitucional e da norma do Ceará.
Como tem sido a experiência de outros países no que diz respeito à regulamentação da inteligência artificial?
Thomas Magalhães: A regulação está mais avançada nos Estados Unidos e na China, países que têm maior aplicação dessa tecnologia. Entretanto, tendo em vista que o assunto ainda não está suficientemente desenvolvido, a discussão inicial se dá em relação aos princípios que regem a utilização de inteligência artificial.
Camila Borba Lefèvre e Flavia Meleras Bekerman: Em 21 de abril deste ano, a Comissão Europeia apresentou proposta sobre regulamentação das tecnologias de IA, denominada “Artificial Intelligence Act”. O texto original foi resultado de cerca de três anos de estudos, debates e sugestões sobre o tema com a participação da sociedade civil por meio de consultas públicas. Trata-se de debate bem mais desenvolvido do que o que ocorre no Ceará, Brasil, consolidando a intenção da União Europeia (UE) de se tornar uma das pioneiras no tratamento legislativo da matéria, de forma semelhante ao que ocorreu com o Regulamento Geral de Proteção de Dados da UE (GDPR).
A proposta de UE tenta balancear as oportunidades e os riscos, que são duas circunstâncias aparentemente antagônicas da IA. Há o interesse em fomentar o desenvolvimento de tecnologias encabeçadas por IA sem se esquecer do elemento humano inerentemente presente. Nesse sentido, a UE traz uma visão regulatória voltada para os riscos, de forma que as restrições impostas são diretamente proporcionais àqueles.
Apesar da ubiquidade dos procedimentos de IA, não há, no Estados Unidos, lei federal sobre a matéria. Por outro lado, em 19 de abril deste ano, a Federal Trade Commission (órgão responsável pela proteção de consumidores e da concorrência no país) emitiu diretrizes gerais para o uso ético da IA por empresas norte-americanas.
Leia também
[…] substitutivo aos projetos de lei que tratam do uso da inteligência artificial (IA), entregue ao Senado Federal em dezembro, é visto como um avanço nas discussões sobre a […]