Como melhorar a experiência técnica para juízes em litígios relacionados à IA

Introdução

Inteligência artificial (IA) refere-se à capacidade das máquinas de realizar tarefas normalmente associadas à tomada de decisão humana. Os sistemas de computador de IA usam uma variedade de conjuntos de dados e entradas sensoriais para tomar decisões em tempo real e modificar decisões futuras com dados adicionais e experiência com mínima intervenção humana ou programação adicional. Juntamente com o aprendizado de máquina, a IA aborda quase todos os aspectos da vida moderna. Como as tecnologias digitais ocupam o lugar de certas atividades humanas, as disputas legais em torno da IA ​​são inevitáveis.

Essas questões já chegaram aos tribunais federais e estaduais. Os juízes estão lidando com questões emergentes de IA e criando jurisprudência que afetará o curso futuro da inovação tecnológica. Por exemplo:

  • Os processos de responsabilidade civil tratam de quem é o responsável quando um veículo semiautônomo ou autônomo prejudica um pedestre ou passageiro. Acidentes com implicações legais incluem um carro do Google que atingiu a lateral de um ônibus público em 2016, a morte de um motorista da Tesla em um acidente com piloto automático, um motociclista que colidiu com um veículo elétrico Chevy Bolt autônomo em 2017 e um pedestre atropelado e morto por um veículo de teste autônomo Uber em 2018. Em alguns casos, será difícil identificar a causa exata da má tomada de decisão de IA em uma instância particular porque, por design, os algoritmos de decisão usam vários conjuntos de dados e entradas sensoriais que evoluem ao longo do tempo. Pode ser ainda mais difícil identificar a parte ou partes responsáveis ​​entre o proprietário da máquina real que causou o dano, os desenvolvedores de software, o fabricante da máquina ou os vários contribuintes que forneceram dados inseridos no sistema de tomada de decisão.
  • Os algoritmos de medicina de precisão AI prevêem os riscos do paciente, auxiliam no diagnóstico e na seleção do tratamento e priorizam o atendimento ao paciente onde os recursos são limitados.1As tecnologias de IA voltadas para a saúde provavelmente criarão dilemas de negligência médica, por exemplo, sobre quem é o responsável quando a IA que um radiologista usa para ler as imagens não detecta um câncer. Da mesma forma, onde a IA monitora os sinais vitais para prever o risco de ataque cardíaco, quem é responsável pelos danos de um evento perdido ou pelo custo de responder a um alerta falso? Esses aplicativos também levantam várias questões jurídicas e éticas que se cruzam, incluindo como proteger os dados do paciente quando a IA prevê os problemas médicos que uma pessoa provavelmente enfrentará e como se proteger contra a discriminação enquanto ainda planeja os cuidados preventivos.
  • O uso de IA em contextos de direito penal levanta questões éticas e legais críticas. Por exemplo, quais são as implicações constitucionais do uso de sensores acústicos em toda a cidade para detectar a localização de tiros? Um sinal de um sensor constitui uma base válida para buscas policiais de porta em porta ou de quintal em quintal quando um sensor que usa tecnologia de IA indica latitude, longitude e endereço de um suposto tiro disparado? Além disso, muito foi escrito sobre como os conjuntos de dados de treinamento para sistemas de reconhecimento facial podem introduzir viés no reconhecimento de uma maneira que identifica erroneamente ou corresponde falsamente as minorias como possíveis perpetradores. Finalmente, há sérias implicações para o uso de ferramentas de avaliação de risco de IA para liberação pré-julgamento, sentença e para prever reincidência. O uso de conjuntos de dados e algoritmos construídos sobre práticas discriminatórias anteriores - por exemplo, com base indevida em raça ou fatores socioeconômicos - pode ter o efeito de amplificar esses preconceitos, criando mais danos e levando a previsões imprecisas sobre aqueles que têm maior probabilidade de faltar ao tribunal ou cometer ofensas reincidentes.

Nesses e em outros casos, os juízes devem entender o papel que a IA e o aprendizado de máquina desempenham no próprio sistema jurídico. Os advogados, bem como os juízes e sua equipe, usam o aprendizado de máquina para melhorar as pesquisas de jurisprudência por autoridade legal relevante para citar em resumos e decisões. A produção de documentos e as revisões assistidas por tecnologia usam IA para pesquisar documentos relevantes para produzir e minerar esses documentos em busca das informações mais importantes para as reivindicações de uma parte, sem que os advogados tenham que revisar todos os documentos. Alguns estudiosos e profissionais já estão usando IA para prever o resultado de casos com base em algoritmos baseados em dezenas de milhares de casos anteriores. Pesquisas recentes sugerem que essas previsões de resultados podem ter uma taxa de precisão de cerca de 70%. A IA está inaugurando uma nova era de previsão quantitativa de decisões jurídicas.dois



A IA está inaugurando uma nova era de previsão quantitativa de decisões jurídicas.

Em suma, os tribunais enfrentam uma grande tarefa em: identificar as questões legais e éticas em jogo, incluindo preocupações com transparência, devido processo e privacidade de dados; compreender a tecnologia de IA em questão, a fim de tomar decisões legais sólidas; e apreciando as implicações potenciais de decisões legais sobre futuros avanços tecnológicos e direitos individuais.

Com isso em mente, é vital melhorar a capacidade dos juízes de entender as questões técnicas em litígios relacionados à IA. Existem várias coisas que os sistemas judiciais e as organizações profissionais devem fazer para aprimorar as capacidades técnicas dos juízes:

  • Educar o judiciário sobre as estratégias atualmente disponíveis para informar os juízes sobre as principais inovações tecnológicas em questão em um litígio.
  • Incentive a pesquisa e programas-piloto sobre inovações adicionais para fornecer aos juízes a experiência técnica que pode ajudar a garantir a tomada de decisões jurídicas sólidas.
  • Trabalhe com bares estaduais e outras organizações profissionais jurídicas para familiarizar advogados com a tecnologia impulsionada por IA, as implicações mais amplas de casos jurídicos relacionados à IA e os métodos que eles podem propor aos juízes para fornecer informações neutras sobre IA relevante ao tribunal.
  • Reúna os principais profissionais com experiência em IA para trabalhar em conjunto para educar os membros do judiciário sobre IA.
  • Envolva todas as partes interessadas relevantes para informar e recomendar a política e a legislação que aborda a IA de forma sistemática - por exemplo, em questões de privacidade, direitos constitucionais ou se certos tipos de IA constituem produtos ou serviços para fins de responsabilidade - antes que os juízes e júris façam IA individual- determinações de casos relacionados, especialmente aqueles que podem ter implicações de longo prazo para a inovação tecnológica e direitos individuais.

Eduque o tribunal sobre as ferramentas disponíveis para entender melhor a IA

Uma variedade de estratégias está disponível para educar os juízes sobre a tecnologia relacionada à IA em questão em um litígio. Isso inclui o uso de tutoriais de ciência ou tecnologia, consultores técnicos nomeados pelo tribunal ou mestres especiais e especialistas nomeados pelo tribunal.

Eu tenho escrito anteriormente sobre o uso de tutoriais de tecnologia para permitir que os juízes solicitem às partes, especialistas ou consultores técnicos que identifiquem e instruam um juiz sobre questões científicas e tecnológicas fundamentais para um litígio. O objetivo de um tutorial de tecnologia é transformar a sala do tribunal em uma sala de aula. Os tutoriais podem incluir uma demonstração de como um determinado método, software ou produto funciona, uma visão geral da terminologia técnica principal ou uma apresentação de como uma determinada inovação se desenvolveu ao longo do tempo. Os juízes podem solicitar, ou as partes podem recomendar, apresentações ao vivo por um ou mais especialistas ou pelas partes, sessões de perguntas e respostas ou tutoriais ou demonstrações em vídeo. Os tutoriais fornecem um fórum para os juízes fazerem perguntas sobre a tecnologia de IA fora do contexto das partes que defendem em nome de uma determinada moção ou no julgamento.

[S] salvaguardas devem ser adicionadas para garantir que haja oportunidades limitadas para os consultores técnicos introduzirem parcialidade no processo de tomada de decisão judicial.

são millennials a maior geração

Além disso, os juízes federais têm autoridade para nomear conselheiros técnicos, usar funcionários especialmente treinados ou solicitar mestres especiais que lhes forneçam os conhecimentos técnicos de que precisam. Esses conselheiros geralmente não testemunham no julgamento; seu papel é educar o juiz sobre as questões técnicas envolvidas em um caso. Para evitar qualquer influência indevida e para garantir que os pontos de vista das partes sobre ciência e tecnologia tenham o peso adequado, salvaguardas devem ser adicionadas para garantir que haja oportunidade limitada para consultores técnicos introduzirem parcialidade no processo de tomada de decisão judicial. Essas salvaguardas incluem limitar o escopo de materiais específicos do caso que um consultor técnico revisa ou analisa e definir o conteúdo e a natureza de qualquer ajuda científica ou técnica a ser fornecida ao juiz. As nomeações de conselheiros técnicos são mencionadas na jurisprudência federal já em 1950 e seu uso está se tornando cada vez mais comum.

Finalmente, os juízes podem nomear especialistas para circunstâncias excepcionais e questões particularmente complexas de IA em um litígio. Os juízes podem nomear esses especialistas por moção de uma das partes ou por iniciativa própria do juiz. Um perito nomeado pelo tribunal deve aconselhar todas as partes sobre quaisquer conclusões, pode ser deposto por qualquer uma das partes, pode ser chamado para testemunhar no julgamento e pode ser sujeito a interrogatório por qualquer das partes.3Embora ainda sejam bastante novos, especialistas nomeados por tribunais têm sido usados ​​em diversos litígios, e seu uso está se tornando mais comum.

Independentemente da estratégia usada, é crucial que o processo forneça informações técnicas e conhecimentos para os juízes da forma mais neutra possível. A tomada de decisão judicial subseqüente e sólida é mais bem servida por uma entrega educacional e neutra de informações sobre IA por meio de um tutorial, consultor técnico ou especialista nomeado pelo tribunal. Embora possa parecer contrário aos fundamentos de nosso sistema adversarial, o juiz deve exigir que as partes trabalhem juntas para fornecer ao tribunal recomendações mutuamente acordadas sobre o formato, tópicos e apresentadores ideais para tutoriais, ou uma lista conjunta de potenciais consultores técnicos ou especialistas nomeados pelo tribunal (caso seja necessário).

Esses métodos, entretanto, não devem ser interpretados como impedindo as partes de apresentarem seus próprios peritos separados no julgamento. Além disso, é importante que, independentemente da estratégia usada, esses métodos estejam em conformidade com a expectativa básica subjacente ao sistema adversário de que, com exceções limitadas, os juízes não devem receber conselho e orientação sem que as partes na disputa tenham a oportunidade de contestar esse conselho. e orientação.

Incentive a pesquisa e programas-piloto de tribunal sobre estratégias adicionais para educar os juízes sobre a tecnologia relacionada à IA

Além das práticas descritas acima, os sistemas judiciais e as organizações profissionais devem realizar pesquisas e programas-piloto para o judiciário explorar outras estratégias que podem ser úteis para auxiliar os juízes no desenvolvimento do conhecimento técnico necessário para ações judiciais relacionadas à IA. Um exemplo seria um programa piloto para conduzir tutoriais de tecnologia em nível de apelação. Até o momento, os juízes de primeira instância têm sido os principais usuários dos tutoriais. Estudiosos e juízes têm questionado a confiabilidade das informações técnicas obtidas por juízes informalmente fora do registro factual existente, incluindo informações que apareceram em decisões de apelação e da Suprema Corte. Fornecer tutoriais sobre as principais questões relacionadas à IA para os juízes de apelação pode reduzir a dependência de recursos não validados, como amicus briefs, que não foram submetidos à verificação de fatos de terceiros ou materiais que não foram submetidos a interrogatório pelas partes no julgamento. Os tutoriais podem ajudar a limitar a necessidade percebida de pesquisas independentes dos próprios juízes e secretários para fornecer fatos adicionais nas decisões de apelação.

[Dada] a necessidade de conhecimento técnico em litígios relacionados à IA, tribunais técnicos especializados podem fornecer uma solução viável em alguns casos.

Outra proposta que ressurgiu recentemente é a criação de painéis de especialistas ou tribunais de ciências com jurisdição especial para julgar disputas científicas ou tecnológicas complexas.4Alguns juízes, legisladores e juristas argumentaram que juízes ou painéis com formação técnica devem decidir questões científicas em vez de juízes generalistas ou júris leigos para garantir que os componentes científicos ou tecnológicos do litígio sejam decididos corretamente por aqueles com os conhecimentos relevantes. Embora esse conceito permaneça controverso, a ideia de tribunais de ciência ou tecnologia ganhou interesse renovado em nosso mundo cada vez mais complexo. Pesquisas adicionais são necessárias para explorar se esses painéis atendem às expectativas da sociedade em relação à justiça e ao processo judicial. Também não está claro se questões científicas complexas podem ser separadas das questões políticas e jurídicas que surgem, bem como qual tribunal deve decidir essas questões onde elas se sobrepõem. À medida que a IA entra em todos os aspectos de nossas vidas diárias, pode ser visto como irracional retirar o papel dos tribunais gerais (e dos júris) nas decisões legais em torno da IA. No entanto, dada a necessidade de conhecimento técnico em litígios relacionados à IA, tribunais técnicos especializados podem fornecer uma solução viável em alguns casos.

Trabalhar com organizações de advogados estaduais para treinar profissionais do direito e incentivar os juízes a desenvolver conhecimentos técnicos

As iniciativas para fornecer aos juízes o conhecimento técnico necessário para litígios relacionados à IA provavelmente não terão sucesso sem o apoio das partes envolvidas na disputa e de seus advogados. É importante que os bares estaduais e outras organizações profissionais jurídicas familiarizem os advogados com as implicações mais amplas dos casos jurídicos relacionados à IA e os métodos que eles podem sugerir aos juízes para fornecer-lhes informações neutras sobre a IA.

Os advogados podem hesitar compreensivelmente em recomendar a seu cliente ou juiz o uso de tutoriais, consultores técnicos ou outras estratégias com as quais não estão familiarizados. No entanto, a educação não apenas do judiciário, mas de outros profissionais jurídicos pode ajudar a garantir a adesão necessária para implementar as estratégias existentes, participar de programas-piloto de novas abordagens e auxiliar os juízes a receberem o conhecimento tecnológico necessário para uma tomada de decisão judicial sólida.

Aproveite a experiência dos profissionais de IA para educar os tribunais e o público

As organizações profissionais da AI e seus membros devem trabalhar juntos para fornecer oportunidades e recursos educacionais adicionais aos tribunais federais e estaduais. Existem vários modelos que as organizações profissionais podem seguir para fornecer assistência valiosa e especialização técnica aos juízes em geral. O Federal Judicial Center, a agência de pesquisa e educação do judiciário federal, fornece informações e educa juízes em áreas de ciência e tecnologia emergentes por meio de guias de bolso escritos, tutoriais e módulos online e workshops presenciais. A comunidade jurídica muitas vezes depende do Manual de Referência em Evidências Científicas do centro para melhor compreender e avaliar a relevância e confiabilidade das evidências científicas e técnicas apresentadas por especialistas em litígios.5O centro é novo Tecnologia e a bancada A iniciativa ajudará a fornecer aos juízes federais informações críticas sobre as áreas em que a tecnologia e as questões jurídicas se sobrepõem. Além disso, a National Academies of Sciences oferece oportunidades valiosas para membros do judiciário (e da comunidade de tecnologia) para discutir áreas de tecnologia emergente que provavelmente aparecerão em ações judiciais.

A natureza generalizada da IA ​​exigirá coordenação entre uma variedade de profissionais de tecnologia para educar o público sobre IA e aprendizado de máquina.

É essencial que as organizações profissionais de IA e as partes interessadas relevantes se juntem a esses esforços e trabalhem juntos para desenvolver conteúdo educacional neutro adicional para os tribunais. Fornecer aos juízes silos de treinamento específico para o assunto provavelmente não será eficaz, pois a IA abrange todos os aspectos da privacidade de dados da vida, transações financeiras, transporte, saúde e segurança humana e entrega de bens e serviços. A natureza generalizada da IA ​​exigirá coordenação entre uma variedade de profissionais de tecnologia para educar o público sobre IA e aprendizado de máquina.

Os profissionais de IA também devem considerar o desenvolvimento de um glossário universal dos principais termos técnicos ou um conjunto básico de materiais de referência geral projetados especificamente para fornecer ao judiciário uma formação geral sobre IA que seria amplamente aplicável, independentemente de qualquer atribuição de caso particular. Manuais de referência sobre outros tópicos relacionados à ciência e tecnologia têm se mostrado altamente eficazes na entrega de conteúdo útil aos juízes.6

Além disso, as organizações profissionais de IA devem considerar a formação de um sistema ou painel de referência de consultor técnico que esteja disponível para auxiliar os juízes ou árbitros em casos com questões específicas de IA. Esse painel ou sistema de referência, quando solicitado, pode fornecer aos juízes os nomes de potenciais especialistas independentes em IA, incluindo cientistas da computação, engenheiros, analistas de dados e programadores de software. A Associação Americana para o Avanço da Ciência auxilia a profissão jurídica, fornecendo um sistema de referência de especialista independente para questões relacionadas à ciência. Este tipo de sistema pode ser adaptado para atender às necessidades de perícia técnica dos juízes relacionadas à IA. No entanto, pesquisas adicionais são necessárias para avaliar se os juízes estão cientes desse recurso, com que frequência os juízes têm usado esse recurso e quaisquer alterações que possam melhorar sua utilidade para eles.

Finalmente, indivíduos qualificados com conhecimentos técnicos devem ser capazes de transmitir de forma eficaz, para juízes e júris, conceitos-chave relevantes em seus respectivos campos. Isso significa que cientistas de dados, programadores e desenvolvedores de software precisarão de treinamento para se comunicar com públicos leigos sobre os principais aspectos da tecnologia que provavelmente estarão em questão em processos judiciais relacionados à IA. Isso é especialmente verdadeiro devido às descobertas recentes de baixo nível de alfabetização do público em tópicos relacionados à tecnologia em geral e aos conceitos de IA em particular.

Abordar IA sistematicamente por meio de políticas, não por meio de ações judiciais individuais

Outros escreveram extensivamente sobre os custos e benefícios da formulação de políticas judiciais, e esse não é o foco deste resumo de política. No entanto, vale a pena repetir que, quando legisladores, formuladores de políticas e reguladores não conseguem prever e agir em questões de tecnologia emergente, os juízes ficam na infeliz posição de ser o primeiro ramo do governo a avaliar novas questões relacionadas à IA.

[Quando] legisladores, formuladores de políticas e reguladores deixam de prever e agir em questões de tecnologia emergente, os juízes ficam na infeliz posição de ser o primeiro ramo do governo a avaliar novas questões relacionadas à IA.

A legislação orientada por considerações políticas sólidas estabeleceria meios para fornecer aos tribunais a orientação de que precisam para evitar o estabelecimento de precedentes legais que sufoquem involuntariamente o avanço tecnológico, por um lado, ou interfiram indevidamente com as liberdades, segurança, privacidade ou direito a uma compensação justa dos indivíduos dano do outro. Como as leis estaduais e federais impactam os litígios relacionados à IA, os atores nos níveis estadual e federal devem trabalhar juntos para tentar garantir que as políticas e legislações federais e estaduais estejam alinhadas. Isso ajudaria a resolver os problemas de IA e, ao mesmo tempo, elevaria o nível de especialização disponível para os tomadores de decisão.