Senado deve votar hoje o marco legal da Inteligência Artificial: entenda o projeto

Por Fabiana Holtz, do Broadcast

São Paulo, 10/12/2024 - O plenário do Senado deve votar nesta terça-feira o marco legal da Inteligência Artificial (IA), projeto de lei 2.338/2023, de autoria do presidente da Casa, Rodrigo Pacheco (PSD-MG).

A nova versão do projeto foi aprovada na semana passada pela Comissão Temporária Interna sobre Inteligência Artificial (CTIA) do Senado. Segundo o senador Carlos Viana (Podemos-MG), presidente da CTIA, o texto recebeu mais de 40 emendas.

Alguns especialistas avaliam que a versão que será votada hoje pode ser considerada mais branda do que o projeto inicial - com a suavização de diversos tópicos que tratam da responsabilidade das empresas e da classificação de risco das IAs.

O PL vai ao plenário após mais de 500 dias e 80 sessões públicas de análise e elaboração do conteúdo da lei. Depois do Senado, o projeto vai para votação na Câmara dos Deputados e, só depois, segue para sanção presidencial.

O que é o marco legal da IA?

O pilar central do marco legal da IA é a classificação de risco dos produtos construídos com a tecnologia. Segundo o texto, fica proibido o desenvolvimento de IAs que possam "comprometer a segurança, direitos fundamentais ou a integridade física e moral das pessoas de forma significativa e irreparável", que são chamadas de "risco excessivo".

As "deepfakes", materiais audiovisuais falsos criados por IA, e ferramentas que podem manipular o sistema eleitoral entram nessa categoria.

Entre os principais temas abordados no projeto estão a definição de princípios éticos para IA, a criação de uma Política Nacional de Inteligência Artificial, a regulação do uso de IA em áreas como publicidade e justiça, além de mecanismos de governança e responsabilização.

Em termos gerais, a mudança mais expressiva do novo texto em relação ao anterior é a classificação de risco das IAs. A lista de setores da tecnologia que podem entrar na categoria de "alto risco", que podem ter impacto nos direitos fundamentais dos indivíduos, foi reduzida.

Também ficam excluídas da classificação de alto risco os sistemas de avaliação de crédito privados, ficando sujeitos à lei apenas os sistemas públicos do tipo.

O projeto prevê ainda que o Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA) será responsável por regulamentar a classificação da lista dos sistemas de IA de "alto risco", bem como identificar novas hipóteses de aplicação dessa classificação.

Ajustes necessários

Para Luã Cruz, coordenador do programa de Telecomunicações e Direitos Digitais do Instituto de Defesa de Consumidores (Idec), a mudança na classificação de risco pode levar o projeto a falhar "em estabelecer uma estrutura regulatória robusta e equilibrada, que proteja os direitos dos cidadãos e promova o desenvolvimento tecnológico responsável".

Segundo ele, a regulação da inteligência artificial deveria priorizar a segurança, a privacidade e a dignidade da população, e não servir como "uma carta branca para o lucro irrestrito das grandes empresas de tecnologia".

Já a Federação do Comércio de Bens, Serviços e Turismo do Estado de São Paulo (Fecomercio-SP) avalia que, embora o relatório traga melhorias consideráveis, ainda necessita de ajustes para que a regulação não trave o avanço tecnológico e esbarre na insegurança jurídica.

A entidade considera que o texto apresentado pelo relator do projeto, senador Eduardo Gomes (PL-TO), avançou em diversos aspectos e trouxe melhorias importantes, como a abordagem focada nas aplicações de IA de alto risco e redução do perigo de judicialização em massa.