Cinco maneiras pelas quais o software de código aberto molda a política de IA

O software de código-fonte aberto (OSS), de acesso, uso e alteração gratuito sem restrições, desempenha um papel central no desenvolvimento e uso da inteligência artificial (IA). Um algoritmo de IA pode ser pensado como um conjunto de instruções - isto é, quais cálculos devem ser feitos e em que ordem; os desenvolvedores então escrevem software que contém essas instruções conceituais como código real. Se esse software for subsequentemente publicado de forma de código aberto - onde o código subjacente está disponível publicamente para qualquer pessoa usar e modificar - qualquer cientista de dados pode usar esse algoritmo rapidamente com pouco esforço. Há milhares de implementações de algoritmos de IA que tornam o uso de IA mais fácil dessa forma, bem como uma família crítica de ferramentas emergentes que permitem IA mais ética. Simultaneamente, há um número cada vez menor de ferramentas OSS no subcampo especialmente importante de aprendizado profundo - levando a uma maior influência de mercado das empresas que desenvolvem esse OSS, Facebook e Google. Poucos documentos de governança de IA focam suficientemente no papel do OSS, o que é uma omissão infeliz, apesar de afetar discretamente quase todas as questões da política de IA. Da pesquisa à ética e da competição à inovação, o código-fonte aberto está desempenhando um papel central na IA e merece mais atenção dos formuladores de políticas.

1. OSS acelera a adoção de IA

O OSS permite e aumenta a adoção de IA, reduzindo o nível de conhecimento matemático e técnico necessário para usar IA. Escrever a matemática complexa de algoritmos em código é difícil e demorado, o que significa que qualquer alternativa de código aberto existente pode ser um grande benefício para cientistas de dados. O OSS se beneficia de um ambiente colaborativo e competitivo em que os desenvolvedores trabalham juntos para encontrar bugs com a mesma frequência que competem para escrever a melhor versão de um algoritmo. Isso frequentemente resulta em um código mais acessível, robusto e de alta qualidade em relação ao que um cientista de dados médio - geralmente mais um explorador de dados e solucionador de problemas pragmático do que um matemático puro - pode desenvolver. Isso significa que o código de IA de código aberto bem escrito expande significativamente a capacidade do cientista de dados médio, permitindo que ele use algoritmos e funcionalidades de aprendizado de máquina mais modernos. Assim, embora muita atenção tenha sido dada a treinar e reter talentos de IA , tornar a IA mais fácil de usar - como o código OSS faz - pode ter um impacto significativo semelhante ao permitir o crescimento econômico da IA.

2. OSS ajuda a combater o viés da IA

As ferramentas de IA de código aberto também podem permitir o uso mais amplo e melhor da IA ​​ética. Ferramentas de código aberto como o AI Fairness 360 da IBM, o Fairlearn da Microsoft e o Aequitas da Universidade de Chicago diminuem as barreiras técnicas para combater o preconceito da IA. Também existe um software OSS que torna mais fácil para os cientistas de dados interrogarem seus modelos, como o AI Explainability 360 da IBM ou o aprendizado de máquina interpretável de Chris Molnar ferramenta e livro . Essas ferramentas podem ajudar cientistas de dados com restrições de tempo que desejam construir sistemas de IA mais responsáveis, mas estão sob pressão para concluir projetos e entregar aos clientes. Embora mais supervisão governamental da IA ​​seja certamente necessária, os formuladores de políticas também devem considerar com mais frequência o investimento em software de IA ética de código aberto como uma alavanca alternativa para melhorar o papel da IA ​​na sociedade. A National Science Foundation já está financiando pesquisas na justiça da IA , mas as agências e fundações que fazem doações devem considerar o OSS como um componente integral da IA ​​ética e financiar ainda mais seu desenvolvimento e adoção.



o que acontece se a eleição presidencial terminar em empate

3. As ferramentas OSS AI avançam a ciência

Em 2007, um grupo de pesquisadores argumentou que a falta de implementações algorítmicas abertamente disponíveis é um grande obstáculo ao progresso científico em um papel intitulado The Need for Open Source Software in Machine Learning. É difícil imaginar esse problema hoje, pois agora há uma infinidade de ferramentas OSS AI para descobertas científicas. Como apenas um exemplo, o software de IA de código aberto Keras está sendo usava para identificar subcomponentes de moléculas de mRNA e construir interfaces neurais para melhor ajudar os cegos a enxergar. O software OSS também torna a pesquisa mais fácil de reproduzir, permitindo que os cientistas verifiquem e confirmem os resultados uns dos outros. Mesmo pequenas mudanças em como um algoritmo de IA foi implementado podem levar a resultados muito diferentes; o uso de OSS compartilhado pode mitigar essa fonte de incerteza. Isso torna mais fácil para os cientistas avaliarem criticamente os resultados da pesquisa de seus colegas, um desafio comum em muitas disciplinas que enfrentam um crise de replicação em curso .

Embora o código OSS seja muito mais comum hoje, ainda há esforços para aumentar a porcentagem de artigos acadêmicos que divulgam publicamente seu código - atualmente em torno de 50 a 70% nas principais conferências de aprendizado de máquina. Os formuladores de políticas também têm um papel no apoio ao código OSS nas ciências, como encorajando projetos de pesquisa de IA financiados pelo governo federal a liberar publicamente o código resultante. As agências que fazem doações também podem considerar o financiamento da manutenção contínua das ferramentas OSS AI, o que costuma ser um desafio para softwares críticos. A Chan Zuckerberg Initiative, que financia projetos OSS críticos, escreve que o OSS é crucial para a pesquisa científica moderna ... ainda assim, mesmo o software de pesquisa mais amplamente utilizado carece de financiamento dedicado.

4. OSS pode ajudar ou atrapalhar a competição do setor de tecnologia

OSS tem ramificações significativas para a política de concorrência. Por um lado, o lançamento público do código de aprendizado de máquina amplia e habilita melhor seu uso. Em muitos setores, isso permitirá mais adoção de IA com menos talentos de IA - provavelmente uma boa rede para a concorrência. No entanto, para o Google e o Facebook, o código aberto de suas ferramentas de aprendizado profundo (Tensorflow e PyTorch, respectivamente) pode fortalecê-los ainda mais em suas posições já fortalecidas. Quase todos os desenvolvedores do Tensorflow e do PyTorch são empregados do Google e do Facebook, sugerindo que as empresas não estão abrindo mão de muito controle. Embora essas ferramentas sejam certamente mais acessíveis ao público, o objetivo frequentemente declarado de 'democratizar' a tecnologia por meio do OSS é, neste caso, eufemístico.

quantos apoiantes as lixadeiras bernie têm

Tensorflow e PyTorch se tornaram as ferramentas de aprendizado profundo mais comuns na indústria e na academia, trazendo grandes benefícios para suas empresas controladoras. O Google e o Facebook se beneficiam mais imediatamente da pesquisa realizada com suas ferramentas, porque não há necessidade de traduzir as descobertas acadêmicas para uma linguagem ou estrutura diferente. Além disso, seu domínio manifesta um pipeline de cientistas de dados e engenheiros de aprendizado de máquina treinados em seus sistemas e ajuda a posicioná-los como empresas de ponta para se trabalhar. Ao todo, os benefícios para o Google e o Facebook no controle do aprendizado profundo de OSS são significativos e podem persistir no futuro. Isso deve ser levado em consideração em quaisquer discussões sobre concorrência no setor de tecnologia.

5. OSS cria padrões de IA padrão

OSS AI também tem implicações importantes para os organismos de normalização, como IEEE , ISO / JTC , e CEN-CENELEC , que buscam influenciar a indústria e a política da IA. Em outros setores, os órgãos de padronização costumam agregar valor ao disseminar as melhores práticas e permitir a interoperabilidade de tecnologia. No entanto, em IA, o uso diversificado de sistemas operacionais, linguagens de programação e ferramentas significa que os desafios de interoperabilidade já receberam atenção substancial. Além disso, a comunidade de praticantes de IA é um tanto informal, com muitas práticas e padrões disseminados por meio do Twitter, postagens em blogs e documentação OSS. O domínio do Tensorflow e do PyTorch no subcampo de aprendizado profundo significa que o Google e o Facebook têm uma influência descomunal, que podem relutar em ceder aos órgãos de padronização orientados por consenso. Até agora, os desenvolvedores de software de fonte aberta não estiveram muito envolvidos no trabalho dos organismos de padrões internacionais, e isso pode inibir significativamente sua influência no campo da IA.

A política de IA está ligada ao software de código aberto

Da pesquisa à ética e da competição à inovação, o código-fonte aberto está desempenhando um papel central no desenvolvimento do uso da inteligência artificial. Isso torna a ausência consistente de desenvolvedores de código aberto nas discussões sobre políticas bastante notável, uma vez que eles exercem uma influência significativa e um conhecimento altamente específico sobre a direção da IA. Envolver mais desenvolvedores de OSS AI pode ajudar os formuladores de políticas de IA a considerar mais rotineiramente a influência do OSS na busca pelo desenvolvimento justo e equitativo da IA.

como as lixadeiras bernie podem vencer as primárias