Segurança, sigilo e noções gerais
O vocabulário das decisões que antecedem o primeiro uso profissional: o que a ferramenta é, para onde vai o material, quem pode lê-lo e o que a lei chama do que você está enviando.
Este bloco reúne uma seleção temática dos mesmos verbetes disponíveis no Vocabulário completo.
Verbetes deste bloco
Nenhum termo corresponde à busca. Tente uma palavra do próprio verbete — a busca alcança o texto inteiro, não apenas o título.
Modelo de linguagem (large language model, LLM)
- Conceito
- Modelo computacional que aprende padrões da linguagem durante o treinamento. Nos modelos generativos, a resposta é produzida por geração de tokens a partir do contexto recebido; sua correção exige verificação.
- No trabalho jurídico
- Pode apoiar síntese, classificação, redação e análise. A fluência da resposta não demonstra fidelidade aos autos nem existência ou pertinência de um precedente. Busca, leitura de arquivos e execução de ações dependem dos recursos integrados à ferramenta.
- Não confundir com
- buscador, que recupera documentos. O modelo gera ou interpreta conteúdo; quando uma aplicação combina busca e geração, os resultados recuperados podem alimentar a resposta. A presença de links não comprova que uma fonte tenha sido aberta e conferida.
- Exemplo
- Perguntado sobre prazo recursal em hipótese incomum, o modelo tende a produzir a resposta que mais se parece com as respostas que leu. Se a hipótese for regida por regra especial pouco frequente nos textos de treinamento, a resposta mais provável não é a correta.
Fontes conceituais IBM — modelos de linguagem
Treinamento e inferência (training and inference)
- Conceito
- Treinamento ajusta os parâmetros do modelo com dados. Inferência utiliza esses parâmetros para produzir uma resposta; por si só, não os altera. Registro da conversa e eventual uso posterior para treinamento são questões distintas.
- No trabalho jurídico
- Enviar material para uma resposta e autorizar seu uso em treinamento são operações diferentes. Excluir o arquivo ou a conversa não equivale a desfazer um treinamento já realizado. Confira separadamente as condições de processamento, conservação e uso posterior do conteúdo.
- Não confundir com
- memória, que pode conservar informações para uso em conversas futuras. Esse armazenamento não modifica, por si só, os parâmetros do modelo.
- Exemplo
- Em exercício fictício, uma minuta é usada para gerar uma síntese. Antes do envio, o participante verifica se o serviço permite usar esse material também no treinamento e quais condições regem sua exclusão.
Fontes conceituais IBM — inferência
Uso do conteúdo para treinamento (content use for training)
- Conceito
- Configuração ou cláusula contratual que define se o material enviado pelo usuário pode integrar o acervo de treinamento de modelos futuros do fornecedor.
- No trabalho jurídico
- Antes de enviar minutas ou documentos profissionais, confira se o serviço pode utilizá-los em treinamento. A escolha deve ser compatível com o sigilo do material e com as regras do órgão ou escritório.
- O que decidir
- Verifique em qual camada a decisão está: alguns planos excluem o uso para treinamento por padrão contratual, outros deixam a escolha ao usuário, outros não a oferecem. Onde o contrato e a tela divergirem, o contrato descreve a obrigação e a tela descreve apenas o comportamento atual do produto.
- Não confundir com
- retenção nem com revisão humana. São três controles independentes. Desativar o treinamento não apaga o conteúdo, não encurta o prazo de armazenamento e não impede a leitura por revisor humano nas hipóteses previstas na política do fornecedor.
- Exemplo
- Escritório que desativou o treinamento e concluiu, por isso, que as conversas seriam apagadas ao fim do dia. Não seriam: o prazo de retenção continuava a correr, regido por outra configuração.
Retenção (data retention)
- Conceito
- Prazo durante o qual o fornecedor conserva o material enviado — conversas, arquivos, registros de uso — em seus próprios sistemas.
- No trabalho jurídico
- O prazo divulgado ao usuário é o prazo ordinário, não uma garantia de destruição. Obrigação legal ou regulatória dirigida ao fornecedor pode impor conservação além dele, lógica que a própria Lei 13.709/2018 reconhece ao ressalvar, no art. 16, o cumprimento de obrigação legal ou regulatória entre as hipóteses de conservação após o término do tratamento. Ordem judicial dirigida ao fornecedor produz o mesmo efeito.
- O que decidir
- Antes de enviar material sob sigilo, saiba qual é o prazo, onde ele está declarado e se o seu plano o altera. Registre a data em que conferiu: é informação que muda sem aviso.
- Não confundir com
- exclusão. Retenção é quanto tempo o material fica; exclusão é o que acontece quando você pede que ele saia — e os dois prazos raramente coincidem.
- Exemplo
- Consulta pontual sobre documento sensível, feita em conversa comum, permanece armazenada pelo prazo do produto ainda que você apague a conversa da tela no minuto seguinte.
Revisão humana (human review)
- Conceito
- Hipótese em que pessoas empregadas ou contratadas pelo fornecedor leem trechos de conversas — em regra para avaliar qualidade, apurar denúncia de uso abusivo ou treinar sistemas de moderação.
- No trabalho jurídico
- Confira quem pode ler o material enviado e em quais hipóteses. Essa informação importa especialmente para minutas, estratégias e documentos sujeitos a sigilo.
- Não confundir com
- validação humana, que é a sua conferência do resultado. Aqui, o humano que revisa é do fornecedor, e revisa o seu material.
- Exemplo
- Conversa que aciona um filtro automático de conteúdo pode ser encaminhada a revisor humano para apuração, mesmo que o usuário tenha desativado o uso para treinamento.
Exclusão (deletion)
- Conceito
- Remoção do material dos sistemas do fornecedor a pedido do usuário. Apagar a conversa na tela e apagá-la no servidor são eventos distintos, com prazos distintos.
- No trabalho jurídico
- O que costuma escapar são as cópias derivadas: conversa compartilhada por link, trecho incorporado à memória, arquivo anexado que permanece na área de arquivos do produto, resposta copiada para outro ambiente. Excluir a conversa de origem não alcança necessariamente nenhuma delas.
- O que decidir
- Ao encerrar um trabalho com material sensível, verifique separadamente: histórico, arquivos anexados, memória, links compartilhados e projetos ou espaços de trabalho onde o conteúdo tenha sido reaproveitado.
- Exemplo
- Minuta apagada do histórico que continua acessível pelo link de compartilhamento gerado três semanas antes.
Conversa temporária (temporary chat)
- Conceito
- Modo de conversa com regras próprias para histórico e eventual persistência de informações. Prazo de retenção, uso para treinamento e interação com a memória dependem do produto e das condições aplicáveis à conta.
- No trabalho jurídico
- Não trate a ausência no histórico como garantia de sigilo ou de eliminação imediata. Antes de enviar material, confira processamento, acesso humano, retenção e uso posterior. O nome temporária não torna qualquer documento adequado ao serviço.
- Não confundir com
- navegação anônima, que limita determinados registros locais do navegador. Ela não impede que um serviço receba e processe o conteúdo enviado.
- Exemplo
- Em exercício fictício, a cláusula analisada não aparece no histórico de conversas; o participante ainda precisa conferir as regras de conservação e processamento do serviço.
Conta pessoal e conta institucional (personal account and business account)
- Conceito
- Regimes distintos de contratação do mesmo produto. A conta pessoal é regida pelos termos de uso de consumo; a institucional — corporativa, empresarial, de equipe — costuma vir acompanhada de instrumento contratual próprio, com cláusulas sobre tratamento de dados, confidencialidade, retenção e uso para treinamento.
- No trabalho jurídico
- Confira qual regime contratual autoriza o uso de documentos profissionais e quem administra a conta. Acesso institucional também exige atenção às permissões sobre materiais de clientes ou de trabalhos distintos.
- O que decidir
- Identifique em qual das três camadas você está autorizado a decidir: regime da conta e contrato; configurações do produto; escolha feita em cada conversa. Nessa ordem.
- Exemplo
- Advogado que usa a assinatura pessoal para revisar peças do escritório opera fora do instrumento contratual firmado pela banca — e fora das garantias que ele oferece.
Criptografia em trânsito e em repouso (encryption in transit and at rest)
- Conceito
- Proteção criptográfica da comunicação, em trânsito, ou dos dados armazenados, em repouso. Sua eficácia depende da implementação e da proteção das chaves; não impede, por si só, o acesso autorizado do fornecedor ao conteúdo.
- No trabalho jurídico
- Criptografia em trânsito e em repouso não demonstra, por si só, quem pode acessar o conteúdo durante o processamento. Confira o desenho do serviço, a gestão das chaves e as regras de acesso; não presuma que a cifragem impeça leitura pelo fornecedor.
- Não confundir com
- criptografia de ponta a ponta, cuja proteção depende de quem são os pontos finais e quem controla as chaves. A proteção anunciada deve ser examinada junto com o modo de processamento da IA.
- Exemplo
- Página de segurança que anuncia cifragem em trânsito e em repouso e, na política de privacidade, prevê revisão humana de conversas sinalizadas. As duas informações são verdadeiras e não se contradizem.
Fontes conceituais Cloudflare — criptografia
Nuvem e execução local (cloud and local execution)
- Conceito
- Distinção entre processamento em servidores externos e processamento no próprio computador ou em servidor sob seu controle. Um arquivo pode estar salvo localmente e, ainda assim, ter seu conteúdo enviado a um modelo em nuvem pela aplicação que o utiliza.
- No trabalho jurídico
- Para avaliar a circulação do material, verifique onde o arquivo fica, onde o modelo o processa e quais serviços recebem seu conteúdo. A execução local do modelo não demonstra, por si só, que todo o fluxo esteja isolado: conexões, acesso à rede e sincronização também precisam ser examinados.
- O que decidir
- Nem toda tarefa exige o mesmo regime. Pesquisa conceitual sem dado de cliente e revisão de peça com identificação das partes não precisam correr no mesmo ambiente.
- Exemplo
- Usar ferramenta em nuvem para estudar a estrutura de um recurso e reservar o processamento local — ou a anonimização prévia — para o texto que contém nomes, valores e fatos do caso.
Autenticação em dois fatores (2FA, MFA)
- Conceito
- Exigência de dois elementos independentes para acessar a conta: algo que você sabe (a senha) e algo que você tem (um aplicativo gerador de códigos, uma chave física) ou algo que você é (biometria).
- No trabalho jurídico
- Protege o acesso à conta que reúne minutas, documentos e serviços conectados. É uma medida de segurança adicional; não substitui o controle de compartilhamento e de permissões.
- O que decidir
- Prefira aplicativo gerador de códigos ou chave física ao envio por SMS, vulnerável à transferência fraudulenta de linha. Guarde os códigos de recuperação fora do próprio dispositivo.
- Exemplo
- Conta acessada de novo dispositivo com senha vazada em incidente alheio. Com o segundo fator ativo, o acesso não se completa.
Dado pessoal (personal data)
- Conceito
- Informação relacionada a pessoa natural identificada ou identificável (Lei 13.709/2018, art. 5º, I). O critério não é a presença do nome: basta que a informação, isolada ou combinada com outras, permita chegar à pessoa.
- No trabalho jurídico
- Os autos podem conter dados de partes, testemunhas e terceiros. Identifique quais informações permitem reconhecer uma pessoa antes de utilizar o material em uma ferramenta.
- Não confundir com
- dado sigiloso. As categorias se sobrepõem sem coincidir: há dado pessoal sem sigilo e há informação sob sigilo profissional que não é dado pessoal, como a estratégia de um cliente pessoa jurídica.
- Exemplo
- Número de processo, sozinho, costuma bastar para chegar às partes em sistema de consulta pública. Remover o nome e manter o número não anonimiza coisa alguma.
Dado pessoal sensível (sensitive personal data)
- Conceito
- Categoria definida na Lei 13.709/2018, art. 5º, II: dado sobre origem racial ou étnica, convicção religiosa, opinião política, filiação a sindicato ou a organização de caráter religioso, filosófico ou político, dado referente à saúde ou à vida sexual, dado genético ou biométrico, quando vinculado a pessoa natural. O tratamento segue regime mais restrito, previsto no art. 11.
- No trabalho jurídico
- Documentos sobre saúde, biometria ou outras categorias previstas na definição exigem avaliação específica. O ramo do Direito ou o caráter reservado dos autos, por si só, não determina que todo dado seja sensível.
- O que decidir
- Para material sensível, decida antes: anonimizar, processar localmente, ou não delegar. A escolha por conveniência é a única que não se sustenta depois.
- Exemplo
- Laudo pericial com diagnóstico e histórico clínico enviado para “resumir os pontos principais”. O resumo é útil; o envio integral do laudo a produto de conta pessoal é o problema.
Tratamento (data processing)
- Conceito
- Toda operação realizada com dados pessoais — coleta, uso, acesso, reprodução, transmissão, armazenamento, eliminação, entre as demais hipóteses do art. 5º, X, da Lei 13.709/2018. É conceito deliberadamente amplo.
- No trabalho jurídico
- Quando o documento contém dados pessoais, sua leitura, uso, classificação ou envio por uma ferramenta são operações de tratamento. Identifique quais dados estão envolvidos, para qual finalidade serão utilizados e quem terá acesso; a informalidade do uso não dispensa esse exame.
- Não confundir com
- compartilhamento. O compartilhamento é uma das operações de tratamento, não sinônimo do conjunto.
- Exemplo
- Em exercício fictício, uma ferramenta lê dados pessoais de um documento apenas no computador: já há tratamento pelo acesso, mesmo sem envio à nuvem. Transmissão e armazenamento são operações distintas, quando efetivamente ocorrerem.
Fontes conceituais LGPD — art. 5º, X
Controlador e operador (controller and processor)
- Conceito
- Controlador decide sobre o tratamento de dados pessoais; operador realiza o tratamento em seu nome (LGPD, art. 5º, VI e VII). A qualificação depende da atuação efetiva em cada operação.
- No trabalho jurídico
- Examine quem define a finalidade e as decisões essenciais, quem segue instruções e se o fornecedor utiliza os dados para finalidades próprias. O contrato é relevante, mas a designação nele adotada não substitui a análise da atuação efetiva, conforme orienta a ANPD.
- Não confundir com
- encarregado, que atua como canal de comunicação entre os agentes indicados na lei, titulares e ANPD (art. 5º, VIII). Sua função não o torna automaticamente controlador ou operador.
- Exemplo
- Cláusula contratual que obrigue o fornecedor a não usar o material para treinamento organiza a relação entre as partes; não desloca para ele a decisão de enviar, que continua sendo do advogado.
Fontes conceituais LGPD — art. 5º, VI a VIII ·ANPD — agentes de tratamento, itens 17 e 55
Anonimização e pseudonimização (anonymization and pseudonymization)
- Conceito
- Anonimização impede a associação do dado a um indivíduo por meios técnicos razoáveis disponíveis. A LGPD ressalva a reversão por meios próprios ou com esforços razoáveis (arts. 5º, XI, e 12). Na pseudonimização, a associação depende de informação adicional mantida separadamente em ambiente controlado e seguro (art. 13, § 4º, no âmbito ali previsto).
- No trabalho jurídico
- Substituir nomes não basta para anonimizar um documento. Datas, valores, número do processo e narrativa podem permitir reidentificação. Se permanece uma chave de associação ou outro meio de identificar a pessoa, não trate a troca de nomes como garantia de anonimato.
- O que decidir
- Examine os identificadores diretos e as combinações que ainda permitam reconhecer a pessoa. Se a retirada desses elementos impedir a tarefa, reavalie quais materiais podem ser utilizados e em qual ambiente autorizado.
- Exemplo
- Substituir “João da Silva” por “o autor” em uma inicial de acidente de trabalho e manter a data do sinistro, o CNPJ da empregadora e o número do processo. Nada foi anonimizado.
Fontes conceituais LGPD — arts. 5º, 12 e 13
Injeção de instrução (prompt injection)
- Conceito
- Manipulação da entrada para desviar o comportamento do sistema. Pode ser direta, no próprio pedido, ou indireta, em conteúdo externo como documentos, páginas e e-mails. A instrução pode estar visível ou apenas ser legível pela ferramenta.
- No trabalho jurídico
- O tema interessa sobretudo quando a ferramenta lê material de origem externa e, além de resumir ou pesquisar, alcança arquivos, e-mail ou serviços conectados. Um documento adverso não é automaticamente malicioso; ainda assim, não deve receber a mesma confiança que uma instrução expressa do usuário.
- Não confundir com
- alucinação. Na alucinação, a resposta erra por gerar informação sem base suficiente; na injeção, o material tenta desviar a tarefa por uma instrução nele inserida. A primeira exige conferência; a segunda também recomenda limitar permissões e efeitos externos.
- O que decidir
- Em tarefas comuns de leitura, deixe claro que o documento é fonte de conteúdo, não de comandos. Quando houver agente, pasta, caixa de entrada ou capacidade de escrever e enviar, separe as permissões: ler, alterar, encaminhar e apagar são autorizações diferentes.
- Exemplo
- Anexo de origem externa contém uma frase escondida pedindo que o sistema ignore o escopo do usuário. A saída pode ficar incompleta ou deslocada. A reação adequada é revisar o resultado e, em fluxos com ação externa, impedir que o material determine qualquer ação.
Fontes conceituais OWASP — injeção direta e indireta
Vazamento de contexto (context leakage)
- Conceito
- Aparecimento, em uma resposta, de informação proveniente de outro trabalho, outro caso ou outra fonte que o usuário não pretendia trazer para aquela conversa. Nasce em regra da memória, dos conectores, de projetos com base documental compartilhada ou do próprio histórico longo.
- No trabalho jurídico
- Informação de outro trabalho pode comprometer o sigilo ou introduzir uma premissa estranha à tarefa. Confira de onde veio o dado retomado e se ele pertence aos documentos autorizados.
- O que decidir
- Separe por conversa o que é separado por dever: casos distintos, partes com interesses contrapostos, material de clientes diferentes. Revise periodicamente o que a memória guardou.
- Exemplo
- Minuta de contestação que incorpora, sem pedido, a tese de defesa desenvolvida semanas antes para outro cliente da mesma banca.
Alucinação (hallucination)
- Conceito
- Geração de conteúdo falso ou sem sustentação suficiente nas fontes disponíveis, apresentado de forma plausível. Pode afetar fatos, referências e descrições de documentos. A presença de citações não elimina o risco.
- No trabalho jurídico
- A ferramenta pode atribuir a um tribunal fundamento que ele não adotou, fundir teses de julgados distintos ou produzir um número plausível sem processo correspondente. A aparência formal dificulta detectar a falha sem confrontar a resposta com as fontes.
- Não confundir com
- desatualização: uma informação antes correta pode ter perdido validade. Alucinação também pode envolver fontes reais usadas sem sustentação para a afirmação. Injeção de instrução é outro mecanismo de falha e pode induzir respostas incorretas; essas situações podem coexistir.
- Erro comum
- supor que a presença de uma referência encerra a conferência. Abra a fonte, localize o trecho e verifique se ele sustenta a afirmação, inclusive suas condições e ressalvas.
- Exemplo
- Pedido de precedentes sobre questão processual que retorna cinco julgados: três reais e bem sintetizados, um real com ementa trocada, um inexistente. O conjunto é convincente justamente porque a maior parte confere.
Fontes conceituais IBM — modelos de linguagem
Confiabilidade (reliability)
- Conceito
- Grau de confiança que se pode atribuir a uma resposta considerada a natureza da tarefa, o tipo de informação envolvida e a possibilidade de verificá-la. É atributo da relação entre resposta e uso pretendido, não qualidade intrínseca do texto.
- No trabalho jurídico
- A mesma resposta pode ser confiável para uma finalidade e imprestável para outra. Reorganizar a ordem dos parágrafos de uma minuta e afirmar o entendimento atual de um tribunal exigem graus de conferência incomparáveis, ainda que saiam da mesma conversa e com a mesma fluência.
- Não confundir com
- precisão. Uma resposta pode ser precisa quanto ao documento que leu e pouco confiável para o uso que se pretende dar a ela.
- Exemplo
- Uma síntese de decisão anexada pode ser conferida contra o original; sua confiabilidade depende do resultado dessa conferência. Uma afirmação sobre a orientação atual dos tribunais exige pesquisa em fontes pertinentes e atualizadas.
Precisão da resposta (response accuracy)
- Conceito
- Exatidão das informações e das relações que a resposta apresenta. Na avaliação, convém distinguir correção factual, fidelidade à fonte e atendimento à instrução: uma resposta pode cumprir o formato pedido e ainda errar o conteúdo.
- No trabalho jurídico
- Na síntese de uma decisão, confira pedido apreciado, fundamento determinante, resultado e ressalvas. Uma passagem pode estar no julgado e, ainda assim, ter função diferente da que o resumo lhe atribuiu.
- Não confundir com
- elegância. Texto bem construído e texto exato são propriedades independentes, e a primeira dificulta a percepção da ausência da segunda.
- Exemplo
- Resumo que descreve como razão de decidir aquilo que o acórdão tratou como observação lateral. A frase está no julgado; a função que o resumo lhe atribui, não.
Validação humana (human validation)
- Conceito
- Conferência do resultado por pessoa responsável antes do uso efetivo. Alcança correção do conteúdo, aderência ao caso, precisão terminológica, fidelidade ao documento e utilidade estratégica.
- No trabalho jurídico
- Antes de aproveitar o resultado, confira fatos, fontes, alcance jurídico e alterações de sentido. A revisão exige confronto com os documentos, não apenas uma leitura da redação final.
- Não confundir com
- revisão humana pelo fornecedor, que designa o acesso de pessoal do serviço ao conteúdo nas hipóteses previstas em suas políticas. A validação aqui tratada é a conferência profissional do resultado antes de utilizá-lo.
- Erro comum
- tratar validação como leitura de conferência final. Validar é abrir a fonte citada, confrontar o resumo com o documento e verificar se a alteração de redação preservou o sentido jurídico.
- Exemplo
- Sugestão de clareza que, ao eliminar uma subordinada considerada redundante, suprime a ressalva que delimitava o pedido.
Supervisão humana (human oversight)
- Conceito
- Acompanhamento humano ao longo de todo o processo, e não apenas na conferência do texto final. Envolve decidir o que se delega, em que etapa a ferramenta entra, que tipo de resposta se admite e quando o fluxo deve ser interrompido.
- No trabalho jurídico
- Defina quais etapas podem ser executadas, quais exigem aprovação e como interromper o fluxo. A conferência do plano, dos resultados intermediários e das ações deve acompanhar a autonomia concedida.
- Não confundir com
- validação humana, que é a conferência do produto. A supervisão é contínua e alcança o desenho do fluxo; a validação é pontual e alcança o resultado.
- Exemplo
- Ao usar IA para comparar versões de uma petição, delimitar desde o início que a ferramenta apenas destaque alterações e não proponha modificação de fundamentos — em vez de corrigir o excesso depois de recebido.
Guardrails
- Conceito
- Salvaguardas para limitar comportamentos ou ações do sistema. Podem combinar instruções, validações de entrada e saída, restrições de acesso e pontos de aprovação; sua eficácia depende da implementação.
- No trabalho jurídico
- Servem bem para o que é rotineiro: não reformular fundamentos, não acrescentar precedente não fornecido, separar problema de forma de problema de conteúdo. Fixam um padrão de trabalho e poupam repetição.
- Erro comum
- confundir uma instrução em linguagem natural com um bloqueio técnico. A orientação pode ser descumprida; uma restrição efetivamente aplicada pelo ambiente limita a operação autorizada. Ambas precisam ser testadas, e nenhuma dispensa supervisão.
- Exemplo
- Uma orientação para citar apenas jurisprudência fornecida pode ser combinada com verificação das referências e bloqueio de envio antes da validação humana. A orientação, isoladamente, não assegura cumprimento.
Inteligência artificial (artificial intelligence, AI)
- Conceito
- Campo de métodos e sistemas computacionais capazes de realizar tarefas como reconhecer padrões, classificar informações, gerar conteúdo e apoiar decisões. Abrange tecnologias diferentes; suas capacidades e limitações dependem do sistema e da tarefa.
- No trabalho jurídico
- Identifique a função concreta: localizar um documento, classificar uma demanda ou produzir uma minuta envolvem operações e verificações distintas. O rótulo IA não demonstra exatidão, autonomia ou adequação jurídica.
- Exemplo
- Em exercício fictício, um sistema classifica documentos por assunto e outro produz uma síntese. A avaliação deve considerar separadamente os erros de cada tarefa.
Fontes conceituais IBM — inteligência artificial
IA generativa (generative AI)
- Conceito
- Sistemas de inteligência artificial que geram conteúdo, como texto, imagens, áudio ou código, a partir de padrões aprendidos e das entradas recebidas. Produzir uma resposta não equivale a recuperar fielmente um documento.
- No trabalho jurídico
- Use o resultado como material a conferir. Separe geração, pesquisa e transcrição: cada uma exige uma forma própria de verificar o conteúdo e sua relação com a fonte.
- Exemplo
- Em exercício fictício, a ferramenta redige uma síntese de decisão fornecida; o participante confere fundamento, resultado e ressalvas no documento original.
Fontes conceituais IBM — IA generativa
Viés em IA (AI bias)
- Conceito
- Tendência sistemática que pode produzir resultados distorcidos ou tratamento desigual. Pode decorrer dos dados, das escolhas de desenvolvimento e das condições de uso do sistema.
- No trabalho jurídico
- Examine quais grupos e situações estão representados na base e quais critérios orientam a classificação. Uma resposta isolada não permite concluir que o sistema esteja livre de viés.
- Exemplo
- Em exercício fictício, a mesma tarefa é testada com documentos equivalentes que variam apenas em características dos participantes, para investigar diferenças indevidas no resultado.
Fontes conceituais IBM — viés em IA
Minimização de dados (data minimization)
- Conceito
- Limitação dos dados utilizados ao necessário para uma finalidade definida. Na LGPD, relaciona-se ao princípio da necessidade, previsto no art. 6º, III: dados pertinentes, proporcionais e não excessivos.
- No trabalho jurídico
- Selecione os documentos e trechos necessários à tarefa antes de compartilhar. Reduzir o volume ajuda a limitar a exposição, mas não substitui a avaliação da finalidade, da base legal e do ambiente de processamento.
- Não confundir com
- anonimização. Minimizar reduz os dados utilizados; anonimizar procura impedir a associação a uma pessoa. Um conjunto menor pode continuar plenamente identificável.
- Exemplo
- Em exercício fictício de revisão de uma cláusula, fornecer apenas o trecho pertinente e os elementos necessários à compreensão, em vez do contrato e de todos os anexos.
Fontes conceituais LGPD — art. 6º, III