Fortalecimento da cooperação internacional em IA

Sumário executivo


Cooperação internacional em inteligência artificial - por que, o quê e como

Desde 2017, quando o Canadá se tornou o primeiro país a adotar uma estratégia nacional de IA, pelo menos 60 países adotaram alguma forma de política de inteligência artificial (IA). A perspectiva de um aumento estimado de 16%, ou US $ 13 trilhões, na produção global até 2030 levou a uma corrida sem precedentes para promover a adoção da IA ​​em toda a indústria, mercados de consumo e serviços governamentais. O investimento corporativo global em IA supostamente atingiu US $ 60 bilhões em 2020 e está projetado para mais do que dobrar até 2025.

Ao mesmo tempo, o trabalho de desenvolvimento de padrões globais para IA levou a desenvolvimentos significativos em vários organismos internacionais. Estes englobam os aspectos técnicos da IA ​​(em organizações de desenvolvimento de padrões (SDOs), como a Organização Internacional para Padronização (ISO), a Comissão Eletrotécnica Internacional (IEC) e o Instituto de Engenheiros Elétricos e Eletrônicos (IEEE), entre outros) e o dimensões éticas e políticas da IA ​​responsável. Além disso, em 2018, o G-7 concordou em estabelecer a Parceria Global sobre IA, uma iniciativa de múltiplas partes interessadas trabalhando em projetos para explorar questões regulatórias e oportunidades para o desenvolvimento de IA. A Organização para Cooperação e Desenvolvimento Econômico (OCDE) lançou o Observatório de Políticas de AI para apoiar e informar o desenvolvimento de políticas de AI. Várias outras organizações internacionais tornaram-se ativas no desenvolvimento de estruturas propostas para o desenvolvimento de IA responsável.

Além disso, tem havido uma proliferação de declarações e estruturas de organizações públicas e privadas destinadas a orientar o desenvolvimento de IA responsável. Embora muitos deles se concentrem em princípios gerais, nos últimos dois anos houve esforços para colocar os princípios em operação por meio de estruturas políticas totalmente desenvolvidas. A diretiva do Canadá sobre o uso de IA no governo, o Modelo de Governança de IA de Cingapura, os Princípios Sociais da IA ​​Humano-Centrada do Japão e a orientação do Reino Unido sobre a compreensão da ética e segurança da IA ​​foram pioneiros neste sentido; eles foram seguidos pela orientação dos EUA às agências federais sobre a regulamentação da IA ​​e uma ordem executiva sobre como essas agências deveriam usar IA. Mais recentemente, a proposta da UE para a adoção de regulamentação sobre IA marcou a primeira tentativa de introduzir um esquema legislativo abrangente que rege a IA.



O investimento corporativo global em IA supostamente atingiu US $ 60 bilhões em 2020 e está projetado para mais do que dobrar até 2025.

Ao explorar como alinhar esses vários esforços de formulação de políticas, nos concentramos nas razões mais convincentes para intensificar a cooperação internacional (o porquê); os problemas e domínios de política que parecem mais prontos para colaboração aprimorada (o quê); e os instrumentos e fóruns que podem ser aproveitados para alcançar resultados significativos no avanço dos padrões internacionais de IA, cooperação regulatória e projetos conjuntos de P&D para enfrentar os desafios globais (o como). No final deste relatório, listamos os tópicos que nos propomos explorar em nossas próximas discussões em grupo.

Por que a cooperação internacional em IA é importante

Ainda mais do que muitos domínios da ciência e da engenharia no século 21, o cenário internacional de IA é profundamente colaborativo, especialmente quando se trata de pesquisa, inovação e padronização. Existem várias razões para sustentar e melhorar a cooperação internacional.

  1. A pesquisa e o desenvolvimento de IA são um empreendimento cada vez mais complexo e com uso intensivo de recursos, no qual a escala é uma vantagem importante. A cooperação entre governos e pesquisadores e desenvolvedores de IA através das fronteiras nacionais pode maximizar a vantagem de escala e explorar vantagens comparativas para benefício mútuo. A ausência de cooperação internacional levaria a investimentos competitivos e duplicados na capacidade de IA, criando custos desnecessários e deixando cada governo em pior situação nos resultados de IA. Diversas entradas essenciais usadas no desenvolvimento de IA, incluindo acesso a dados de alta qualidade (especialmente para aprendizado de máquina supervisionado) e capacidade de computação em grande escala, conhecimento e talento, se beneficiam da escala.
  2. A cooperação internacional baseada em princípios democráticos comumente aceitos para IA responsável pode ajudar a focar no desenvolvimento de IA responsável e construir confiança. Embora muito progresso tenha sido feito no alinhamento da IA ​​responsável, ainda existem diferenças - mesmo entre os participantes do Fórum para Cooperação em IA (FCAI). As próximas etapas na governança da IA ​​envolvem traduzir os princípios da IA ​​em políticas, estruturas regulatórias e padrões. Isso exigirá uma compreensão mais profunda de como a IA funciona na prática e como funciona por meio da operação de princípios em contextos específicos e em face de compensações inevitáveis, como as que podem surgir ao buscar IA que seja precisa e explicável. A cooperação eficaz exigirá medidas concretas em áreas específicas, que as recomendações deste relatório pretendem sugerir.
  3. Quando se trata de regulamentação, abordagens divergentes podem criar barreiras à inovação e difusão. Os esforços dos governos para impulsionar o desenvolvimento doméstico de IA em torno de conceitos de soberania digital podem ter repercussões negativas, como restrições ao acesso a dados, localização de dados, investimento discriminatório e outros requisitos. Da mesma forma, regimes de classificação de risco e requisitos regulatórios divergentes podem aumentar os custos para empresas que buscam atender ao mercado global de IA. Regulamentações governamentais variáveis ​​de IA podem exigir a construção de variações de modelos de IA que podem aumentar o trabalho necessário para construir um sistema de IA, levando a custos de conformidade mais altos que afetam desproporcionalmente as empresas menores. Regulamentações divergentes também podem forçar a variação em como os conjuntos de dados são coletados e armazenados, criando complexidade adicional em sistemas de dados e reduzindo a utilidade geral de downstream dos dados para IA. Esses custos adicionais podem ser aplicados à IA como um serviço, bem como a sistemas de hardware-software que incorporam soluções de IA, como veículos autônomos, robôs ou dispositivos médicos digitais. A cooperação reforçada é a chave para criar um mercado maior no qual diferentes países podem tentar alavancar suas próprias vantagens competitivas. Por exemplo, a UE busca obter uma vantagem competitiva na IA industrial: as empresas da UE poderiam explorar essa IA sem a perspectiva de ter que se envolver em uma reengenharia substancial para atender aos requisitos de outra jurisdição.
  4. Alinhar os principais aspectos da regulamentação de IA pode permitir que empresas especializadas no desenvolvimento de IA prosperem. Essas empresas geram negócios desenvolvendo conhecimentos em um sistema de IA especializado e, em seguida, licenciando-os para outras empresas como parte de uma ferramenta mais ampla. Conforme a IA se torna mais onipresente, pilhas complexas de sistemas especializados de IA podem surgir em muitos setores. Um mercado global mais aberto permitiria a uma empresa tirar vantagem das cadeias de suprimentos digitais, usando um único produto com um modelo de linguagem natural construído no Canadá, um algoritmo de análise de vídeo treinado no Japão e análise de rede desenvolvida na França. Permitir a competição global por essas empresas especializadas encorajará mercados mais saudáveis ​​e mais inovação em IA.
  5. A cooperação reforçada no comércio é essencial para evitar restrições injustificadas ao fluxo de mercadorias e dados, o que reduziria substancialmente os benefícios potenciais da difusão da IA. Embora a importância estratégica dos dados e da soberania em muitos países tenha dado origem a iniciativas legítimas de política industrial destinadas a mapear e reduzir as dependências do resto do mundo, as medidas protecionistas podem comprometer a cooperação global, interferir nas cadeias de valor globais e afetar negativamente a escolha do consumidor , reduzindo assim o tamanho do mercado e os incentivos gerais para investir em soluções significativas de IA.
  6. A cooperação reforçada é necessária para explorar o potencial das soluções de IA para enfrentar os desafios globais. Nenhum país pode seguir sozinho em IA, especialmente quando se trata de compartilhar dados e aplicar IA para enfrentar os desafios globais, como mudanças climáticas ou preparação para uma pandemia. Os governos envolvidos na FCAI compartilham interesses na implantação de IA para benefício social, humanitário e ambiental global. Por exemplo, a UE está propondo o emprego de IA para apoiar seu Acordo Verde, e o G-7 e o GPAI pediram o aproveitamento de IA para os Objetivos de Desenvolvimento Sustentável da ONU. Moonshots colaborativos podem reunir recursos para alavancar o potencial da IA ​​e tecnologias relacionadas para abordar os principais problemas globais em domínios como saúde, ciência do clima ou agricultura, ao mesmo tempo que fornecem uma maneira de testar abordagens para IA responsável em conjunto.
  7. A cooperação entre países com ideias semelhantes é importante para reafirmar os princípios-chave de abertura e proteção da democracia, liberdade de expressão e outros direitos humanos. Os riscos associados ao uso irrestrito de soluções de IA por regimes tecno-autoritários - como o da China - expõem os cidadãos a potenciais violações dos direitos humanos e ameaçam dividir o ciberespaço em pilhas de tecnologia incompatíveis e fragmentar o processo global de P&D de IA.

O fato de que a cooperação internacional é um elemento das estratégias de IA da maioria dos governos indica que os governos apreciam a conexão entre o desenvolvimento de IA e a colaboração além-fronteiras. Este relatório trata de maneiras concretas de realizar essa conexão.

Japão é parte da China

Ao mesmo tempo, a cooperação internacional não deve ser interpretada como uma harmonização global completa: os países diferem legitimamente em prioridades estratégicas nacionais, tradições jurídicas, estruturas econômicas, demografia e geografia. A colaboração internacional pode, no entanto, criar condições equitativas que permitiriam aos países se engajarem em uma coopetição frutífera em IA: concordar com os princípios básicos e, quando possível, buscar resultados conjuntos, mas também competir pelas melhores soluções a serem ampliadas em nível global. A cooperação robusta baseada em princípios e valores comuns é a base para o desenvolvimento nacional de IA.

Regras, padrões e projetos de P&D: áreas-chave para colaboração

Nossa exploração da governança internacional da IA ​​por meio de mesas redondas, outras discussões e pesquisas nos levou a identificar três áreas principais nas quais a colaboração aprimorada seria proveitosa: políticas regulatórias, definição de padrões e projetos conjuntos de pesquisa e desenvolvimento (P&D). A seguir, resumimos as maneiras pelas quais a cooperação pode se desenvolver em cada uma dessas áreas, bem como a extensão da colaboração concebível a curto e longo prazo.

Cooperação em política regulatória

O desenvolvimento de políticas de IA está em estágios relativamente iniciais em todos os países e, portanto, a cooperação internacional oportuna e focada pode ajudar a alinhar as políticas e regulamentações de IA.

A cooperação regulatória internacional tem o potencial de reduzir encargos regulatórios e barreiras ao comércio, incentivar o desenvolvimento e uso de IA e aumentar a competição de mercado em nível global. Dito isso, os países diferem em tradição legal, estrutura econômica, vantagem comparativa em IA, ponderação dos direitos civis e fundamentais e equilíbrio entre a regulamentação ex ante e a fiscalização ex post e os sistemas de litígio. Essas diferenças dificultarão a convergência regulamentar completa. Na verdade, as estratégias e políticas nacionais de IA refletem as diferenças na disposição dos países de avançar em direção a uma estrutura regulatória abrangente para IA. Apesar dessas diferenças, o desenvolvimento de políticas de IA está em estágios relativamente iniciais em todos os países e, portanto, a cooperação internacional oportuna e focada pode ajudar a alinhar as políticas e regulamentações de IA.

Contra esse pano de fundo, é razoável supor que o desenvolvimento de políticas de IA esteja menos incorporado em estruturas ou tradições jurídicas preexistentes neste estágio e, portanto, que a cooperação internacional neste campo pode alcançar níveis mais elevados de integração. As seguintes áreas de cooperação emergiram dos diálogos da FCAI e de nossas outras explorações.

  • Construindo a cooperação internacional nas políticas de IA. Os governos da FCAI devem reconhecer a necessidade de envolvimento internacional na IA, comprometendo-se a buscar a coordenação entre si e com outros parceiros internacionais antes de adotar iniciativas domésticas de IA.
  • Uma definição comum de IA de tecnologia neutra para fins regulatórios. Com base nas definições entre os participantes da FCAI e no trabalho do grupo de especialistas da OCDE, convergir para uma definição comum de IA e trabalhar em conjunto para atualizar gradualmente a descrição de um sistema de IA, e suas possíveis configurações e técnicas, parece viável e já está parcialmente em andamento. Uma definição comum é importante para orientar a cooperação futura em IA e determina o nível de ambição que pode ser alcançado por tal processo.
  • Construindo em uma abordagem baseada em risco para regulamentação de IA. Uma variedade de governos e outros órgãos endossaram uma abordagem baseada em risco para IA em estratégias nacionais e em contextos bilaterais ou multilaterais. Mais notavelmente, uma abordagem baseada em risco é central para as estruturas políticas dos dois exemplos mais proeminentes de desenvolvimento de políticas de IA - os EUA e a UE. Esses desenvolvimentos recentes e amplamente paralelos abriram a porta para o desenvolvimento da cooperação internacional sobre maneiras de abordar os riscos e, ao mesmo tempo, maximizar os benefícios. No entanto, ainda existem desafios para a convergência em uma abordagem baseada no risco. Diálogo sobre identificação e classificação claras de riscos, abordagens para análise de benefício-risco, possível convergência em casos em que os riscos são muito altos para serem mitigados e o tipo de avaliação de risco a ser realizada e quem deve realizá-la, beneficiariam muito a cooperação em uma abordagem baseada no risco.
  • Compartilhar experiências e desenvolver critérios e padrões comuns para a auditoria de sistemas de IA. O campo da responsabilidade em IA e algoritmos tem sido objeto de um amplo e valioso trabalho de organizações da sociedade civil e também de governos. A troca de boas práticas e, em última análise, uma estrutura comum, ou pelo menos compatível, para auditoria de IA eliminaria barreiras significativas para o desenvolvimento de um mercado verdadeiramente internacional para soluções de IA. Também facilitaria o surgimento de padrões de auditoria de terceiros e um mercado internacional para auditoria de IA, com benefícios potenciais em termos de qualidade, preço e acesso para serviços de auditoria para implantadores de IA. Além disso, o intercâmbio de práticas e padrões internacionais para auditoria, monitoramento e supervisão de IA ajudaria significativamente a comunidade política a se manter atualizada no monitoramento do mercado.
  • Uma plataforma conjunta para sandboxes regulatórios. Mesmo sem convergência nas avaliações de risco ou medidas regulatórias, uma plataforma internacional para aprendizado regulatório envolvendo todos os governos que participam da FCAI e possivelmente outros é um caminho promissor para aprofundar a cooperação internacional em IA. Essa plataforma poderia hospedar um repositório internacional de experimentos em andamento sobre inovações habilitadas para IA, incluindo caixas de proteção regulatórias. À medida que o uso de sandboxes se torna uma forma mais comum para os governos testarem a viabilidade e conformidade de novas soluções de IA de acordo com os requisitos legislativos e regulatórios, a atualização de informações sobre iniciativas governamentais em andamento pode economizar recursos e informar os desenvolvedores e formuladores de políticas de IA. Alinhar os critérios e o design geral de sandboxes de IA em diferentes administrações também pode aumentar os benefícios e o impacto potenciais desses processos, já que os desenvolvedores que desejam entrar no mercado global podem passar pelo processo de sandbox em um único país participante.
  • Cooperação no uso de IA no governo: compras e prestação de contas. Um candidato natural para maior intercâmbio e cooperação na FCAI é a adoção de soluções de IA no governo, incluindo soluções de back office e mais aplicativos voltados ao público. O compartilhamento de boas práticas e lições gerais sobre o que funciona ao implantar IA no governo também seria uma conquista importante. As áreas importantes a esse respeito são as aquisições e a supervisão eficaz da implantação.
  • Cooperação setorial em casos de uso de IA. Uma abordagem específica do setor pode garantir níveis mais elevados de certeza regulatória. Em setores como o financeiro, os principais critérios, como justiça, discriminação e transparência, há muito tempo estão sujeitos a ampla intervenção regulatória, e a regulação setorial deve garantir a continuidade ao mesmo tempo em que leva em consideração o uso crescente de IA. Em saúde e produtos farmacêuticos, o uso de IA como solução independente e incorporada em dispositivos médicos gerou uma discussão técnica muito específica sobre a abordagem baseada em risco a ser adotada e já permitiu iniciativas setoriais valiosas. A adoção de diferentes padrões e critérios na regulamentação setorial pode aumentar os custos regulamentares para desenvolvedores que desejam atender a mais de um setor e país com suas soluções de IA. Em tal estrutura transversal, exemplos de áreas maduras de regulamentação, como finanças e saúde, também podem se tornar uma forma de área restrita regulamentar para modelar regulamentação para outros setores no futuro.

Cooperação no compartilhamento de dados através das fronteiras

A governança de dados é uma área focal para a cooperação internacional em IA devido à importância dos dados como uma entrada para P&D de IA e devido à complexidade adicional de regimes regulatórios já em vigor que restringem certos fluxos de informações, incluindo proteção de dados e leis de propriedade intelectual. A cooperação internacional eficaz em IA precisa de uma estrutura robusta e coerente para proteção e compartilhamento de dados. Há uma variedade de canais que tratam dessas questões, incluindo o grupo de Cooperação Econômica da Ásia-Pacífico, o grupo de trabalho sobre governança de dados da Parceria Global sobre IA e discussões bilaterais entre a UE e os EUA. No entanto, o impacto potencial de tais leis sobre os dados disponíveis para pesquisas médicas e científicas baseadas em IA, é necessário um enfoque específico, já que a UE revisa seu Regulamento Geral de Proteção de Dados e considera a nova legislação sobre o compartilhamento de dados nos setores público e privado.

Existem outras questões significativas de governança de dados que podem se beneficiar de esforços conjuntos através das fronteiras que, em geral, são objeto de cooperação internacional. As principais áreas a esse respeito incluem a abertura de dados governamentais, incluindo compartilhamento internacional de dados, melhoria da interoperabilidade de dados e promoção de tecnologias para compartilhamento confiável de dados.

À medida que os países passam de estruturas e políticas em desenvolvimento para esforços mais concretos para regulamentar a IA, a demanda por padrões de IA aumentará. Isso inclui padrões para gerenciamento de risco, governança de dados e documentação técnica que podem estabelecer conformidade com requisitos legais emergentes. Os padrões internacionais de IA também serão necessários para desenvolver práticas de rotulagem comumente aceitas que possam facilitar a contratação business-to-business (B2B) e demonstrar conformidade com os regulamentos de IA; abordar a ética dos sistemas de IA (transparência, neutralidade / ausência de preconceito, etc.); e maximizar a harmonização e interoperabilidade para sistemas de IA globalmente. Os padrões internacionais de organizações de desenvolvimento de padrões como o ISO / IEC e IEEE podem ajudar a garantir que os sistemas globais de IA sejam eticamente sólidos, robustos e confiáveis, que as oportunidades de IA sejam amplamente distribuídas e que os padrões sejam tecnicamente sólidos e orientados para a pesquisa, independentemente do setor ou aplicativo.

Os padrões internacionais de organizações de desenvolvimento de padrões como o ISO / IEC e IEEE podem ajudar a garantir que os sistemas globais de IA sejam eticamente sólidos, robustos e confiáveis, que as oportunidades de IA sejam amplamente distribuídas e que os padrões sejam tecnicamente sólidos e orientados para a pesquisa, independentemente do setor ou aplicativo.

Os governos participantes da FCAI reconhecem e apóiam o estabelecimento de padrões liderados pela indústria. Embora existam diferenças na forma como os participantes da FCAI se relacionam com os organismos de normalização liderados pela indústria, um elemento comum é o apoio ao papel central do setor privado na condução dos padrões. Dito isso, há uma série de etapas que os participantes da FCAI podem realizar para fortalecer a cooperação internacional nos padrões de IA. A abordagem dos participantes da FCAI que enfatiza uma abordagem liderada pela indústria para desenvolver padrões internacionais de IA contrasta com a abordagem geral de outros países, como a China, onde o estado está no centro das atividades de elaboração de padrões. O envolvimento mais direto do governo chinês na definição de padrões, conduzindo a agenda de padrões e alinhando-os com as prioridades mais amplas do governo chinês requer atenção de todos os participantes da FCAI com o objetivo de encorajar o envolvimento chinês na definição de padrões internacionais de IA consistentes com resultados que são tecnicamente robusto e orientado para a indústria.

Padrões sólidos de IA também podem apoiar o comércio internacional e o investimento em IA, expandindo as oportunidades de IA globalmente e aumentando os retornos do investimento em P&D de IA. A relevância do Acordo de Barreiras Técnicas ao Comércio (TBT) da Organização Mundial do Comércio (OMC) para os padrões de IA é limitada por sua aplicação apenas a bens, enquanto muitos padrões de IA se aplicam a serviços. Acordos comerciais recentes começaram a tratar de questões de IA, incluindo suporte para padrões de IA, mas é necessário mais. Um processo de desenvolvimento de padrões internacionais de IA eficaz também é necessário para evitar padrões de IA bifurcados - centrados na China, por um lado, e no Ocidente, por outro. O resultado que prevalece dependerá, em certa medida, do progresso no desenvolvimento de padrões internacionais de IA eficazes.

Cooperação em P&D: Seleção de projetos internacionais de IA

A discussão produtiva da ética, regulamentação, riscos e benefícios da IA ​​requer casos de uso porque os problemas são altamente contextuais. Como resultado, o desenvolvimento de políticas de IA tende a mudar de princípios amplos para setores ou casos de uso específicos. Considerando essa necessidade, sugerimos que o desenvolvimento da cooperação internacional em IA se beneficiaria ao colocar a cooperação em operação com casos de uso específicos. Para este fim, propomos que os participantes da FCAI expandam os esforços para implantar a IA em problemas globais importantes coletivamente, trabalhando para chegar a um acordo sobre pesquisas conjuntas destinadas a um projeto (ou projetos) de desenvolvimento específico. Tal esforço poderia estimular o desenvolvimento de IA para benefício social e também fornecer uma função de força para superar as diferenças nas abordagens da política e regulamentação de IA.

questões políticas nos EUA

Os critérios para os tipos de metas ou projetos a serem considerados incluem o seguinte:

  1. Significado global. O projeto deve ser voltado para questões globais importantes que exigem soluções transnacionais. A importância compartilhada das questões deve dar a todos os participantes um interesse comum e, se tiver êxito, pode contribuir para o bem-estar global.
  2. Escala global. O problema e o escopo do projeto devem exigir recursos em uma escala grande o suficiente para que o apoio conjunto dos principais governos e instituições agregue valor significativo.
  3. Um bem público. Dada a sua importância e escala, o projeto equivaleria a um bem público. Por sua vez, a saída do projeto também deve ser um bem público e tanto o projeto quanto a saída devem estar disponíveis para todos os participantes e países menos desenvolvidos.
  4. Uma cama de teste colaborativa. A governança do projeto provavelmente exigirá a abordagem das questões regulatórias, éticas e de risco em um contexto que seja concreto e no qual os participantes tenham incentivos para alcançar resultados. Isso equivaleria a uma área restrita regulatória muito grande e compartilhada.
  5. Impacto avaliável. O projeto precisará ser monitorado proporcionalmente à sua escala, visibilidade pública e natureza experimental. Os participantes precisarão avaliar o progresso em relação às metas definidas do projeto e ao impacto mais amplo.
  6. Um esforço de múltiplas partes interessadas. Considerando sua importância pública e os recursos que deve mobilizar, o projeto precisará ser iniciado pelo governo. Mas a arquitetura e a governança devem estar abertas à participação não governamental em uma base compartilhada.

Esta proposta poderia ser modelada em várias colaborações científicas internacionais de grande escala: CERN, o Projeto Genoma Humano ou a Estação Espacial Internacional. Também se basearia em várias iniciativas de pesquisa e desenvolvimento colaborativos em IA. Uma colaboração global semelhante será mais difícil em um mundo de maior competição geopolítica e econômica, nacionalismo, nativismo e protecionismo entre os governos que têm sido os principais atores nesses esforços.

Recomendações

A seguir, apresentamos recomendações para o desenvolvimento da cooperação internacional em IA com base em nossas discussões e trabalho até o momento.

R1. Comprometa-se a considerar a cooperação internacional na elaboração e implementação de políticas nacionais de IA.

Essa recomendação poderia ser implementada em um prazo relativamente curto e, inicialmente, assumiria a forma de declarações firmes de países individuais. Em última análise, isso poderia levar a uma declaração conjunta com compromissos claros por parte dos governos envolvidos.

Este tipo de recomendação requer cooperação aprimorada entre os governos da FCAI, que podem então fornecer uma boa base para formas incrementais de cooperação.

Os governos da FCAI devem trabalhar em uma definição comum de IA que seja ampla e neutra em termos de tecnologia. Esta recomendação pode ser implementada em um prazo relativamente curto e requer ação conjunta dos governos da FCAI. O tempo para agir é curto, uma vez que a definição bastante ampla dada na Lei da IA ​​da UE ainda está em processo legislativo na UE e muitos outros países ainda estão moldando suas estruturas políticas de IA.

O alinhamento com esse elemento-chave da política de IA seria um passo importante em direção a um sistema interoperável de IA responsável. Também facilitaria a cooperação entre os governos da FCAI, a indústria e a sociedade civil que trabalham nos padrões de IA em SDOs internacionais. Um acordo geral sobre uma abordagem baseada no risco pode ser alcançado a curto prazo; desenvolver os contornos de um sistema de classificação baseado em risco provavelmente levaria mais tempo e exigiria uma cooperação mais profunda entre os governos da FCAI, bem como as partes interessadas.

Isso pode envolver um processo iterativo. Os governos da FCAI poderiam concordar com uma lista inicial limitada de linhas vermelhas, como certos usos de IA para pontuação social generalizada pelos governos; e, em seguida, expandir gradualmente a lista ao longo do tempo para incluir usos de IA emergentes nos quais há um acordo substancial sobre a necessidade de proibir o uso.

A cooperação setorial pode ser organizada em prazos relativamente curtos, começando em setores que têm sistemas regulatórios bem desenvolvidos e apresentam riscos mais elevados, como saúde, transporte e finanças, nos quais a regulamentação setorial já existe e sua adaptação à IA poderia ser alcançada com relativa rapidez .

Um repositório conjunto pode estimular o diálogo sobre como projetar e implementar sandboxes e garantir uma boa governança, transparência e reprodutibilidade dos resultados, além de ajudar na sua transferência entre jurisdições e categorias de usuários. Esta ação recomendada é independente de outras e é viável a curto prazo. Requer uma cooperação suave, na forma de um intercâmbio estruturado de boas práticas. Com o tempo, o repositório deve se tornar mais rico em termos de conteúdo e, portanto, mais útil.

Os governos da FCAI poderiam estabelecer, como uma iniciativa autônoma ou no contexto de uma estrutura mais ampla de cooperação, um intercâmbio estruturado sobre o uso de IA pelo governo. O diálogo pode envolver aplicações de IA para melhorar o funcionamento da administração pública, como a administração de benefícios públicos ou cuidados de saúde; Regulamentação habilitada para IA e práticas de governança regulatória; ou outra tomada de decisão e padrões e procedimentos para aquisição de IA. Esta ação recomendada pode ser implementada a curto prazo, embora a coleta de todas as experiências e a preparação do cenário para uma cooperação futura requeiram mais tempo.

Os governos da FCAI poderiam lucrar com a cooperação reforçada em responsabilidade, seja por meio de supervisão e fiscalização do mercado, requisitos de auditoria ou outros. Isso poderia se combinar com a cooperação setorial e, possivelmente, também com o desenvolvimento de padrões para a auditoria de sistemas de IA.

É necessário um entendimento comum de como as regras de governança de dados afetam a P&D de IA em áreas como pesquisa em saúde e outras pesquisas científicas, e se elas inibem a exploração que é uma parte essencial da descoberta científica e do aprendizado de máquina. Também é necessário um olhar crítico sobre os métodos de P&D para desenvolver uma compreensão mais profunda dos limites apropriados sobre o uso de dados pessoais ou outras informações protegidas. Por sua vez, também há uma necessidade de expandir P&D e compreensão em tecnologias de proteção de privacidade que podem permitir a exploração e descoberta enquanto protegem informações pessoais.

o talibã é bom ou mau?

Uma abordagem gradual para o desenvolvimento de padrões é necessária para permitir tempo para o desenvolvimento e experimentação de tecnologia e para reunir os dados e casos de uso para oferecer suporte a padrões robustos. Também asseguraria que as discussões em nível internacional acontecessem quando a tecnologia atingir um certo nível de maturidade ou quando um ambiente regulatório for adotado. Para apoiar tal abordagem, seria útil estabelecer um banco de dados abrangente de padrões de IA em desenvolvimento em nível nacional e internacional.

Atualmente, há um risco de desconexão entre a preocupação crescente entre governos e oficiais de segurança nacional alarmados com o envolvimento chinês no processo de padrões, por um lado, e as percepções dos participantes da indústria sobre o impacto da participação chinesa em SDOs, por outro. Para encorajar o envolvimento construtivo e desencorajar os padrões de autoatendimento, os participantes da FCAI (e países com ideias semelhantes) devem encorajar o envolvimento chinês na definição de padrões internacionais, ao mesmo tempo que concordam com os custos das ações que usam SDOs estrategicamente para desacelerar ou impedir a criação de padrões. Isso pode ser realizado por meio de comércio e outras medidas, mas exigirá cooperação entre os participantes da FCAI para ser eficaz.

As regras que regem o uso de padrões internacionais no Acordo TBT da OMC e nos acordos de livre comércio são limitadas apenas a bens, enquanto os padrões de IA se aplicam principalmente a serviços. São necessárias novas regras comerciais que estendam as regras de padrões internacionais aos serviços. Como ponto de partida, tais regras devem ser desenvolvidas no contexto de acordos bilaterais de livre comércio ou acordos plurilaterais, com o objetivo de torná-los multilaterais na OMC. As regras comerciais também são necessárias para apoiar o fluxo livre de dados com confiança e para reduzir as barreiras e os custos da infraestrutura de IA. Deve-se considerar também a vinculação da participação no desenvolvimento de padrões de IA em órgãos como a ISO / IEC, com objetivos de política comercial mais amplos e conformidade com os compromissos fundamentais da OMC.

O financiamento deve ser destinado à participação acadêmica e da indústria em SDOs, bem como para reuniões de SDO em países da FCAI e, de forma mais ampla, em países menos desenvolvidos. A participação ampliada é importante para democratizar o processo de elaboração de padrões e fortalecer a legitimidade e adoção dos padrões resultantes. Organizar reuniões de órgãos de padronização em diversos países pode ampliar a exposição aos processos de definição de padrões em torno de IA e tecnologia crítica.

Pesquisa e desenvolvimento conjuntos aplicados a problemas globais de grande escala, como mudança climática ou prevenção e tratamento de doenças, podem ter dois efeitos valiosos: Pode trazer recursos adicionais para a solução de desafios globais urgentes, e a colaboração pode ajudar a encontrar um terreno comum para abordar diferenças nas abordagens de IA. A FCAI buscará incubar um roteiro concreto de P&D para adoção pelos participantes da FCAI, bem como por outros governos e organizações internacionais. Usar a colaboração em P&D como um mecanismo para lidar com questões que afetam a cooperação internacional na política de IA significa que essa recomendação deve ser aplicada em curto prazo.

Tópicos futuros propostos para diálogos FCAI

- Ampliação da cooperação de P&D em projetos de IA.
- China e IA: quais são os riscos, oportunidades e caminhos a seguir?
- Uso governamental de IA: desenvolvimento de abordagens comuns.
- Cooperação e harmonização regulatória: questões e mecanismos.
- Uma estrutura internacional adequada para a governança de dados.
- Desenvolvimento de padrões.
- Um acordo comercial de IA: parceiros, conteúdo e estratégia.

Baixe o relatório completo