No dia 23 de novembro, foi sancionada pelo Prefeito de Porto Alegre uma lei criada a partir de orientação dada ao ChatGPT.

O projeto de Lei é do Vereador Ramiro Rosário (PSDB) e a revelação sobre a forma de sua criação só veio à tona após sua sanção. A informação foi dada pelo próprio autor da norma, que afirmou que o sistema de IA, após receber um único comando (com 289 caracteres), levou poucos segundos para redigir o projeto, cuja aprovação pela Câmara foi unânime.

A lei isenta a população de pagar por um novo medidor de consumo de água, caso o objeto seja furtado. Para o ChatGPT, foi solicitado o seguinte: "Criar projeto de Lei municipal para a cidade de Porto Alegre, com origem legislativa e não do Executivo, que verse sobre a proibição de cobrança do proprietário do imóvel o pagamento de novo relógio de medição de água pelo Departamento Municipal de Água e Esgoto quando este for furtado".

Esse acontecimento está dividindo bastante as opiniões no mundo jurídico.

De um lado, há os entusiastas da tecnologia, que defendem que a IA pode gerar textos mais seguros, quando são fornecidos os comandos corretos e a partir de dados criteriosamente fornecidos. Saber usar corretamente a ferramenta é considerado fundamental para que seu uso seja, de fato, eficiente. Além disso, a conferência posterior, por um especialista, deve ser considerada obrigatória. Para esse grupo de profissionais, o autor da lei não foi o ChatGPT, mas o próprio Vereador, que foi a pessoa que instruiu a máquina.

Do outro lado, estão aqueles que alertam para os riscos de deixar à cargo da tecnologia uma responsabilidade que deveria ser do Vereador. A ferramenta facilitadora, segundo alguns, pode levar a irresponsabilidades como a redação de projetos de lei que serão apresentados para votação sem sequer ter passado por uma revisão mínima antes, já que muitos políticos se elegem alardeando a quantidade de projetos redigidos. Um exemplo recente do mau uso do ChatGPT foi uma sentença judicial contendo jurisprudência (precedentes judiciais) inexistente, ou seja, inventada pela IA. Isso ocorreu, evidentemente, por falta de conferência das informações e do texto, antes de ele ser publicado; o que demonstra total irresponsabilidade do usuário.

No entanto, antes de escolher um lado, quero destacar um fato importantíssimo que não foi levado em consideração pelo autor do projeto: o respeito ao princípio da transparência. Esse princípio rege toda ação dos agentes públicos e é um dos principais pilares da Lei da Transparência (Lei nº 12.527/2011) Lei Geral de Proteção de Dados (Lei nº 13.709/2018) e do Projeto de Lei que prevê a regulação do uso da IA no Brasil (PL nº 2.338/2023).

Se o Vereador tivesse respeitado esse pilar básico, nunca poderia deixar para revelar que a redação da norma foi dada pelo ChatGPT após a sua sanção. Tal postura fere o princípio da transparência e torna a lei passível de revogação.

Não por outro motivo, a Lei da Transparência define que "Os procedimentos previstos nesta Lei se destinam a assegurar o direito fundamental de acesso à informação e devem ser executados em conformidade com os princípios básicos da administração pública e com as seguintes diretrizes: (...) IV - fomento ao desenvolvimento da cultura de transparência na administração pública." (artigo 3º, inciso IV).

Não bastasse, tanto no Projeto de Lei nº 2.338/2023, quanto no seu substitutivo, apresentado no Senado no dia 27/11/2023, há expressa determinação de observância à transparência, seguindo a direção das legislações mais avançadas no mundo sobre o tema. Em ambos os projetos, a transparência aparece como um dos princípios obrigatórios para o desenvolvimento, a implementação e o uso de sistemas de IA.

No Senado, há a Comissão Temporária sobre Inteligência Artificial (CTIA). Segundo os debatedores dessa comissão, a transparência é uma questão central na discussão sobre IA. Segundo eles, "O acesso dos usuários às informações sobre os conteúdos criados por inteligência artificial é um dos pontos centrais no combate ao uso dessa tecnologia a serviço de objetivos e interesses escusos." Além disso, os debatedores, na audiência pública do dia 31/10/2023, na esteira das preocupações já apontadas em diversos países, demonstraram grande apreensão com o uso da IA nas eleições de 2024 e na disseminação de informações.

Eu, particularmente, não sou contra o uso de IA para facilitar e agilizar tarefas que podem ser aceleradas pela tecnologia. Todavia, há que se ter muita responsabilidade e conhecimento sobre as ferramentas, pois elas não podem ser um subterfúgio para acomodação e ilegalidades.

O cumprimento das leis já existentes no nosso país é uma regra básica e, no caso concreto, não houve essa preocupação. Então, como validar uma norma que sequer foi gerada em cumprimento às demais determinações legislativas do nosso ordenamento jurídico?

O tema é polêmico, extremamente técnico e exige muito estudo. Até porque, a preocupação com o uso da IA não se limita à geração de textos legislativos. Ela reside nos mais diversos setores.

Essa semana, no dia 27/11/2023, o Poder Judiciário Gaúcho informou que possui um projeto piloto em fase experimental, justificando que: "acompanhando a tendência global de otimização e modernização das atividades, aposta em uma nova solução de IA generativa (capaz de produzir dados) com o objetivo de aumentar a eficiência, a precisão e a celeridade da tramitação judicial.". Segundo o Tribunal de Justiça do Estado, a ferramenta será utilizada para analisar os processos, sugerindo redação automática de relatórios em sentenças e decisões interlocutórias, bem como revisando as minutas de decisões dos juízes e desembargadores.

Esse é outro assunto que está causando bastante discussão. 

Isso porque, vivemos um momento em que as críticas ao Poder Judiciário só aumentam. As decisões são imprevisíveis, muitas vezes contrárias às leis e confeccionadas em bloco, sem uma análise cuidadosa de cada caso concreto. A sociedade não possui mais a mesma confiança no poder, como existia anos atrás. A perda da confiança é um fator que deve ser levado em consideração, pois é de conhecimento geral que muito do trabalho do magistrado vem sendo feito por estagiários e assessores. A justificativa é o acúmulo de trabalho.

É certo que essa combinação de ingredientes, somada a uma eventual falta de controles rígidos no uso da IA, pode levar a uma avalanche de decisões desconectadas com os fatos processuais, desumanas, em massa e até mesmo discriminatórias.

Diante disso, um dos requisitos obrigatórios que os estudiosos verificam, nos casos de decisões judiciais geradas a partir de inteligência artificial, é a existência de uma marca d'água no documento, que possibilite a identificação do uso. Aqui, novamente, vemos a importância do respeito ao princípio da transparência, como pilar para qualquer movimento no campo da IA. Isso sem falar na boa-fé, na ética, na participação humana durante todo o ciclo da IA, especialmente na supervisão, na justiça, na equidade e na inclusão.

Os riscos,  portanto, de utilizarmos alguma ferramenta de IA para a confecção de leis (ou decisões judiciais) são das mais diversas ordens e, não à toa, esse tema vem sendo constantemente debatido no mundo todo.

É impossível, no momento, prevermos todos os problemas que surgirão. Entretanto, é certo que podemos mitigar imensamente se o ponto de partida para seu uso estiver sempre baseado na transparência, em conformidade com as demais leis brasileiras, com a ética, a boa-fé e a supervisão e conferência humanas.