A corrida da inteligência artificial e o primeiro tratado internacional sobre o tema

O Brasil conseguiu encampar com sucesso, ao longo da presidência atual do G20, temas da economia digital. É a primeira vez, por exemplo, que é feita menção à luta contra desinformação - e, ainda, com sinalização de sua importância para processos democráticos - na declaração interministerial final do grupo de trabalho de economia digital. Uma rápida análise do documento aponta um forte alinhamento com o que o restante do ecossistema do G20 - especialmente o policy brief final do grupo de Digitalização e Tecnologia do C20 (sociedade civil) e T20 (think tanks) - discutiu nos eixos de integridade de informação, conectividade significativa, infraestruturas públicas digitais  inteligência artificial. 1

Uma lista não-exaustiva de documentos do ecossistema do G20 sobre o assunto inclui: 

1. Grupo de Trabalho de Economia Digital (Declaração Interministerial de Maceió);

2. C20 (Civil Society 20);

3. T20 (Think Tanks); 

4. S20 (Science 20);

5. W20 (Women 20);

6. L20 (Labour 20);

7. B20 (Business 20);

8. Y20 (Youth 20).

9. Em declarações envolvendo mais de um grupo, vale a menção ao Diálogo de Convergência C20/T20 e à Declaração de São Luís sobre Inteligência Artificial.

A inclusão desses temas na agenda comum reconhecida pelo grupo das vinte maiores economias do mundo é positiva, ainda que a declaração final que culmina os processos não tenha efeitos vinculantes. No entanto, há pouco tempo, a primeira convenção internacional sobre inteligência artificial foi aderida pelos seus primeiros signatários. Liderada pela União Europeia, o tratado constitui um passo significativo nas discussões internacionais envolvendo a governança da inteligência artificial. Assim, ao menos, é o que parece.  

Em maio de 2024, foi anunciado um feito histórico no campo das discussões sobre Inteligência Artificial: após dois anos de tratativas, o primeiro tratado internacional sobre inteligência artificial foi adotado pelo Conselho da Europa. Em setembro, a União Europeia, os Estados Unidos da América e o Reino Unido assinaram a Convenção-quadro do Conselho da Europa sobre Inteligência Artificial e Direitos Humanos, Democracia e o Estado de Direito. Negociado por 57 países, trata-se do primeiro tratado internacional a estabelecer um quadro de obrigações que visa a conciliar a mitigação de riscos associados à tecnologia, a proteção de direitos humanos e a promoção da inovação responsável. 

A convenção importa muitos dos conceitos da Regulação para Inteligência Artificial da União Europeia - como as definições de inteligência artificial2 e ciclo de vida da IA - e apresenta sete princípios que devem informar as partes signatárias na adoção e manutenção de medidas relacionadas ao ciclo de vida de IA, sempre em acordo com o direito doméstico e as obrigações internacionais aplicáveis. A convenção também indica a necessidade de medidas que possibilitem a reparação por violações de direitos humanos causadas por sistemas de IA e a instalação de salvaguardas procedimentais, além de mecanismos de avaliação e mitigação de riscos e impactos adversos. 

A Conferência das partes signatárias deverá ser a instância responsável por acompanhar a implementação do tratado, inclusive por meio de relatórios obrigatórios fornecidos pelas partes signatárias durante os dois primeiros anos de assinatura do compromisso. O último destaque vai para a indicação de que é necessário que haja cooperação internacional quanto à IA, havendo troca de informações relevantes sobre a tecnologia que podem ter efeitos positivos e negativos consideráveis no gozo dos direitos humanos. É notória a convergência entre o tratado e o que tem sido discutido em outros espaços internacionais, como o Pacto Digital Global e o ecossistema do G20. Apesar do marco de ser uma primeira convenção internacional sobre o tema, circulam críticas sobre o acordo ter uma natureza eminentemente declaratória. 

A negociação do acordo foi atravessada por um processo de enfraquecimento. Após pressão dos EUA, que participava das discussões como observador, uma das versões mais avançadas do tratado considerava a aplicação de uma isenção automática de suas provisões às empresas privadas, deixando a aplicação do tratado a esse setor a critério dos países signatários. Em uma carta aberta publicada em janeiro, mais de uma centena de organizações da sociedade civil manifestaram preocupação sobre a exclusão do setor privado e a isenção de aplicação da convenção quanto aos campos de segurança e defesa nacionais. Já em março, a Autoridade Europeia para Proteção de Dados (EDPS) emitiu pronunciamento indicando estado de atenção com o rumo das negociações. A autoridade chegou a colocar que o acordo poderia acabar sendo uma “oportunidade perdida” para assentar um quadro normativo efetivo para o desenvolvimento de uma inteligência artificial confiável. Além de também indicar discordância quanto à exclusão do setor privado, apontou que a natureza eminentemente declaratória e generalista da convenção poderia levar a uma aplicação inconsistente das obrigações acordadas. 

Em maio, a adoção da versão final do tratado pelo Conselho Europeu foi seguida de críticas. A exclusão do setor privado não foi mantida na versão final, mas a exclusão da aplicação do acordo a sistemas de IA desenvolvidos nos contextos de segurança e defesa nacionais permaneceu. O Centro Europeu de Direito Sem Fins Lucrativos (CNEL) manteve suas críticas quanto a esse ponto também ecoando o que a autoridade máxima de proteção de dados na União Europeia já havia indicado: a linguagem imprecisa empregada nas obrigações poderia colocar em xeque a segurança jurídica sobre a aplicação e efetividade da convenção.  

Conhecida pelo seu sistema protetivo de direitos, a União Europeia colocou-se na vanguarda em 2021 ao iniciar as tratativas para aprovar o primeiro instrumento internacional com efeitos legais envolvendo IA, democracia, direitos humanos e o estado de direito. O processo multilateral também contou com participação observadora do setor privado, acadêmico e da sociedade civil. 

Diante do ritmo intenso de desenvolvimento de sistemas de IA e num cenário em que os esforços regulatórios a nível nacional vêm, aos poucos, tomando forma, a convenção-quadro da União Europeia surge com a pretensão de ser um instrumento que garanta que o desenvolvimento e aplicação da tecnologia não prejudique a proteção de direitos e do interesse público. É notório o paralelo com a convenção 108, o primeiro instrumento internacional com efeitos jurídicos na área de proteção de dados pessoais. Aberta para assinaturas em 1981, a convenção tornou-se paradigmática no campo da proteção de dados pessoais, auxiliando no estabelecimento de um padrão produtivo básico em normas sobre o tema de diferentes países. A convenção-quadro sobre IA, no entanto, incorre nos problemas já mencionados. Há acerto na previsão de um mecanismo para acompanhamento de sua implementação (a Conferência), contudo, sua redação generalista com colocação imprecisa das obrigações impostas aos países signatários ameaça a real efetividade da convenção.

A atual aceleração do desenvolvimento de sistemas tecnológicos tão disruptivos para o poderio mundial tem sido descrita como uma corrida semelhante à da energia nuclear. Décadas depois da corrida nuclear, o cenário é mais complexo, com vários países e atores interessados ocupando o mesmo tabuleiro. Outras esferas de discussão - como o G20 e o Pacto Global Digital - podem até indicar alinhamento quanto a governança, regulação e desenvolvimento de sistemas de IA, mas o tratado é o único documento com efeitos legais sobre seus signatários. Emendas à convenção-quadro poderiam ser úteis para garantir uma aplicação bem-sucedida do acordo. A convenção 108, por exemplo, chegou a ser emendada para refletir atualizações na área de proteção de dados em 1999 e 2018. O problema é que não temos tanto tempo assim.