|
|
A IA do escritório dividida em faixas de risco
O Senado aprovou o PL 2338 em dezembro de 2024 com classificação por nível de risco e dever de explicação para quem usa sistema automatizado.
|
A triagem automática sob a régua do risco
|
| ▼ |
| |
|
Um escritório de contencioso de massa liga um modelo de linguagem na porta de entrada dos documentos. A ferramenta lê petição inicial, sentença e intimação, separa por tese, sugere a peça e devolve uma fila ordenada por urgência para o time da manhã.
O ganho aparece na primeira semana. Quatro pessoas paravam três horas por dia para classificar arquivo, e agora conferem uma lista pronta em quarenta minutos.
A pergunta que ninguém fez na reunião de implantação é outra. Que obrigação nasce para o escritório no dia em que essa triagem passa a ter regra própria de transparência, registro e explicação.
O Senado aprovou em dezembro de 2024 o texto do PL 2338 de 2023, o projeto que organiza o uso de inteligência artificial no país por nível de risco. A lógica central não é proibir ferramenta, é perguntar o que a ferramenta decide e quem sente o efeito da decisão.
Sistema que só ordena arquivo por assunto vive numa faixa. Sistema que influencia acesso a serviço, crédito, emprego ou direito de alguém vive em outra, com deveres bem mais pesados nas costas de quem opera.
A diferença entre as duas faixas não é filosófica. Ela define se o escritório precisa manter documentação técnica, registro de funcionamento, avaliação de impacto e um canal capaz de explicar em linguagem comum como a máquina chegou naquele resultado.
Define também quem responde quando o resultado sai errado. A regra distribui obrigação entre quem desenvolve, quem fornece e quem aplica o sistema, e o escritório que apenas contratou uma licença não sai automaticamente dessa conta.
Para o time que já usa triagem automática todo dia, o trabalho começa por um inventário honesto do que a ferramenta faz de verdade. Não o que o material de venda promete, e sim qual decisão real ela toma sozinha dentro do fluxo.
O texto aprovado dá o critério para separar as faixas e diz o que cada uma cobra de quem aplica.
Continue lendo ↓
|
|
|
|
I A DECISÃO
O que o texto aprovado separa em faixas
|
|
Três faixas, três pacotes de dever. Veja onde a triagem do escritório cai.
O projeto organiza os sistemas por nível de risco e liga cada faixa a um pacote próprio de obrigações, em vez de tratar toda inteligência artificial com a mesma régua.
No topo da escala fica o risco excessivo, a faixa do que o texto veda. Entram aí usos como sistemas de armas autônomas fora de controle humano significativo e classificação social generalizada de pessoas por comportamento, com efeito de acesso a bens e serviços.
Abaixo dela vem o alto risco, a faixa que concentra o peso regulatório. São usos ligados a decisões com efeito relevante sobre a vida das pessoas, e a lista alcança expressamente aplicações no âmbito da administração da justiça.
O restante fica na faixa geral, com deveres de transparência bem mais leves. Informar que o usuário fala com uma máquina, permitir identificação de conteúdo sintético e manter governança mínima proporcional ao uso.
A régua de classificação não olha o rótulo do produto, olha a finalidade concreta do uso. O mesmo modelo de linguagem pode ser ferramenta de faixa geral num escritório e aplicação de alto risco em outro, dependendo do que ele decide na ponta.
O outro eixo do texto é o direito de explicação. Quem sofre efeito de uma decisão automatizada pode pedir informação sobre o funcionamento do sistema, contestar o resultado e, nas hipóteses de alto risco, exigir revisão humana.
|
"O titular dos dados tem direito a solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses." Lei 13.709, de 14 de agosto de 2018, artigo 20, caput.
|
A base já existia na proteção de dados e agora ganha desenho próprio e mais denso. O dever deixa de se resumir a revisar o resultado e passa a incluir explicar o critério em linguagem que a pessoa afetada entenda.
Vale fixar o mapa antes de discutir qualquer ferramenta:
| Projeto que organiza o tema | PL 2338 de 2023 |
| Aprovação no plenário do Senado | dezembro de 2024 |
| Casa onde o texto seguiu a tramitação | Câmara dos Deputados |
| Faixas de risco previstas | excessivo, alto e geral |
| Base do direito de revisão já vigente | artigo 20 da Lei 13.709 |
| Faixa que concentra as obrigações pesadas | alto risco |
O que o texto aprovado no Senado não é também precisa ficar claro. Ele ainda tramita, o conteúdo pode mudar na outra casa, e nenhuma obrigação nova se tornou exigível pela simples aprovação em uma das casas.
Isso não torna o assunto teórico. O desenho por faixas já orienta contrato de fornecimento, cláusula de responsabilidade e exigência de documentação técnica em negociação de software jurídico feita agora.
Escritório que só for olhar o tema quando a regra virar lei vai descobrir que assinou licença sem direito nenhum de auditoria sobre a ferramenta que usa todo dia.
|
|
|
|
|
II NA PRÁTICA
A triagem em três perguntas antes da fila
|
|
A conversa útil no escritório não começa em faixa de risco. Começa em descrever, sem adjetivo, o que a ferramenta faz sozinha entre a chegada do documento e a fila que o time abre de manhã.
|
Ferramenta que sugere e espera confirmação humana ocupa um lugar. Ferramenta que arquiva, prioriza ou descarta sem ninguém olhar ocupa outro, e a diferença aparece na primeira reclamação de cliente.
|
O erro comum é classificar pelo nome do produto. Contratos de software jurídico descrevem funcionalidade em linguagem comercial, e a mesma frase cobre desde sugestão de etiqueta até decisão automática de prioridade de atendimento.
O segundo erro é olhar só a ferramenta e esquecer o fluxo. Uma sugestão inofensiva vira decisão de fato quando o time passa a aceitar a fila sem conferência, e a prática do escritório é o que a regra enxerga.
1. Descreva a decisão real, não o recurso vendido: escreva em uma frase o que a ferramenta faz sem intervenção humana. Se a frase tiver a palavra sugere, confira se alguém de fato confirma antes do efeito.
2. Identifique quem sente o efeito: cliente, parte contrária, candidato a vaga, consumidor. Efeito interno de organização pesa diferente de efeito sobre direito de terceiro, e é o terceiro que puxa a faixa para cima.
3. Registre a cadeia de fornecimento por escrito: quem desenvolveu o modelo, quem fornece a interface, quem opera dentro do escritório. Sem esses três nomes no papel, discussão de responsabilidade começa perdida.
4. Guarde a versão e a data de cada mudança do sistema: modelo atualizado muda comportamento sem aviso. Sem registro de qual versão rodou naquele mês, não existe forma de explicar um resultado antigo.
5. Monte a resposta explicativa antes de precisar dela: um texto curto que diga quais dados o sistema usa, o que ele decide e como pedir revisão humana. Escrever com calma agora custa uma hora, escrever sob reclamação custa muito mais.
Feito o inventário, a maioria dos usos de escritório cai na faixa geral. Separar documento por tese, extrair prazo de intimação e ordenar fila por data são tarefas de organização interna, sem efeito direto sobre direito de terceiro.
A borda perigosa aparece em outro ponto do fluxo. Ferramenta que decide quem recebe atendimento primeiro, que recusa caso na triagem de entrada ou que estima chance de êxito para dispensar cliente toca direito de acesso e sobe de faixa.
Escritório que atende consumidor em volume tem uma exposição adicional. Decisão automatizada de recusa ou de proposta de acordo entra no debate de efeito relevante, e a defesa dessa escolha vai depender de registro contemporâneo, não de memória.
Para quem contrata software agora, a cláusula mais barata de negociar é a de informação. Direito de receber documentação técnica, log de funcionamento e comunicação prévia de mudança de modelo custa pouco no contrato novo e é quase impossível de conseguir depois.
|
|
|
|
|
III LEGAL TECH & IA
O registro que prova como a máquina decidiu
|
|
Explicar decisão automatizada é problema de arquivo, não de eloquência. A pergunta que chega meses depois é sempre a mesma: por que este caso foi para o fim da fila, e o escritório precisa de um registro capaz de responder.
|
Sem log da versão, dos dados de entrada e do critério aplicado, a explicação vira reconstrução de memória. Reconstrução de memória não sustenta resposta a cliente nem a autoridade.
|
O primeiro passo é técnico e barato. A camada de triagem precisa gravar, para cada documento processado, a data, a versão do modelo, a classificação atribuída e o grau de confiança devolvido pela ferramenta.
O segundo passo é de amostragem. Uma revisão humana semanal de uma fatia pequena da fila cria série histórica de acerto, e essa série é o que transforma confiança em número defensável.
O terceiro é de fronteira. Casos que a ferramenta classifica com confiança baixa devem sair da automação e cair numa fila humana, com o motivo do desvio registrado junto.
O limite dos modelos atuais precisa ficar claro para o time antes de qualquer confiança. Sistema de linguagem erra com naturalidade em documento digitalizado ruim, confunde parte e terceiro interessado, e apresenta o erro com a mesma segurança do acerto.
A conferência humana da amostra continua obrigatória. A automação serve para reduzir mil documentos diários a uma fila revisável, não para decidir sozinha que um caso não merece atenção.
Sobra a camada que quase todo escritório perde: o registro da reunião em que o sócio e o fornecedor combinaram o que a ferramenta pode decidir sozinha. Escopo acordado, limite aceito, responsabilidade dividida, tudo vira lembrança de duas pessoas.
O Granola resolve a parte chata desse registro: roda no Mac, escuta a call, transcreve e devolve um resumo limpo com a transcrição completa embaixo, sem participante robô entrando na sala. Modelo freemium, feito para quem faz três calls antes do almoço.
Onde falha: transcrição de reunião não substitui documentação técnica nem log de sistema. Ela guarda o combinado e a data do combinado, e o registro do que a máquina fez continua sendo o que responde à pergunta do cliente.
Junte as três frentes e a rotina cabe numa linha. Gravar versão e classificação de cada documento processado, revisar uma amostra por semana, e manter por escrito o escopo do que a ferramenta decide sem ninguém olhando.
"Se um cliente perguntar hoje por que o caso dele ficou em último lugar na fila, o escritório consegue responder com registro?"
|
|
|
|
|
Quiz da edição
|
|
Segundo a edição, em que mês e ano o Senado aprovou o texto do PL 2338?
Resultado da última edição: 0% acertaram.
| | |