OpenAI e Anthropic assinam carta para impedir que IA seja usada no desenvolvimento de armas biológicas

A iniciativa representa um passo significativo da indústria de tecnologia no reconhecimento de que o poder das ferramentas de IA, se mal utilizado, pode representar ameaças concretas à segurança global — e que as próprias empresas do setor precisam ser parte ativa da solução.

O que diz a carta?

A carta enviada aos parlamentares americanos solicita que o Congresso dos Estados Unidos aprimore os mecanismos de monitoramento e controle sobre sequências de DNA sintético. A preocupação central é que modelos avançados de inteligência artificial possam ser utilizados por atores mal-intencionados — sejam indivíduos, grupos terroristas ou até mesmo estados — para projetar agentes biológicos altamente perigosos, como vírus ou bactérias modificadas geneticamente para causar pandemias ou ataques direcionados.

Os signatários argumentam que a combinação entre a capacidade de síntese de DNA, que se tornou cada vez mais acessível e barata nos últimos anos, e o poder de modelos de linguagem e IA generativa para processar e interpretar informações científicas complexas cria um cenário de risco sem precedentes. Em outras palavras, o que antes exigia laboratórios sofisticados e equipes de especialistas altamente qualificados pode, em teoria, ser facilitado por sistemas de IA disponíveis comercialmente.

Por que isso importa para o Brasil?

Embora a carta tenha sido endereçada ao Congresso americano, o debate é absolutamente relevante para o Brasil e para o mundo. O país é um dos maiores usuários de ferramentas de inteligência artificial da América Latina e, ao mesmo tempo, ainda carece de uma legislação robusta sobre o uso responsável dessas tecnologias em setores críticos como saúde, segurança e biotecnologia.

A pandemia de COVID-19 mostrou ao mundo inteiro, de forma dolorosa, como agentes biológicos podem colapsar sistemas de saúde, economias e sociedades inteiras. Imagine agora um cenário em que um agente patogênico seja projetado artificialmente com a ajuda de IA para ser ainda mais transmissível, letal ou resistente a tratamentos. Esse não é um roteiro de ficção científica — é uma possibilidade técnica que especialistas levam cada vez mais a sério.

No Brasil, o debate sobre biossegurança e inteligência artificial ainda engatinha. A Lei Geral de Proteção de Dados (LGPD) trouxe avanços importantes na proteção de dados pessoais, e o país discute atualmente um marco regulatório para a IA, mas as intersecções entre biotecnologia e inteligência artificial ainda não recebem a atenção que merecem por parte dos legisladores brasileiros.

O papel das empresas de IA na autorregulação

A postura de OpenAI e Anthropic de ir ativamente ao Congresso pedir regulação pode parecer contraintuitiva — afinal, empresas de tecnologia historicamente resistem à regulamentação governamental. Mas o movimento faz sentido dentro de um contexto mais amplo.

Nos últimos dois anos, líderes do setor de IA, incluindo o próprio Sam Altman, CEO da OpenAI, têm comparecido ao Congresso americano e a parlamentos ao redor do mundo para defender algum nível de supervisão governamental sobre o desenvolvimento de sistemas de inteligência artificial avançados. A Anthropic, fundada por ex-funcionários da OpenAI, também tem se posicionado como uma empresa com foco em segurança de IA desde sua criação.

Essa postura não é puramente altruísta — existe também uma lógica de mercado. Empresas que ajudam a moldar a regulação tendem a ter mais influência sobre como as regras serão escritas, além de se posicionarem como atores responsáveis diante de um público cada vez mais preocupado com os riscos da tecnologia.

Ainda assim, o fato de que líderes da indústria estão reconhecendo publicamente que suas ferramentas podem ser usadas para fins tão destrutivos quanto o desenvolvimento de armas biológicas é, por si só, um sinal importante de que a conversa sobre segurança em IA evoluiu muito além dos debates teóricos.

O problema do DNA sintético e da IA

Para entender melhor o risco, é preciso compreender o que é o DNA sintético e como a IA se encaixa nessa equação. DNA sintético refere-se a sequências genéticas criadas artificialmente em laboratório, que podem ser usadas para construir ou modificar organismos vivos. Nos últimos anos, o custo para sintetizar essas sequências caiu drasticamente, tornando a tecnologia acessível a um número crescente de pesquisadores, empresas e, potencialmente, indivíduos mal-intencionados.

O problema é que, para criar um agente biológico perigoso, não basta ter acesso à tecnologia de síntese — é preciso também saber quais sequências genéticas usar. É aqui que a inteligência artificial entra como um facilitador potencialmente perigoso. Modelos treinados em enormes bancos de dados científicos podem, em teoria, ajudar alguém sem formação especializada a identificar, combinar e otimizar sequências genéticas para fins maliciosos.

A carta pede que provedores de DNA sintético sejam obrigados a realizar verificações mais rigorosas das sequências que produzem, identificando padrões que possam estar associados a agentes de risco biológico. Hoje, nos Estados Unidos, essas verificações existem, mas de forma voluntária e fragmentada — o que a carta argumenta ser insuficiente diante do ritmo acelerado do desenvolvimento tecnológico.

Reações e próximos passos

A iniciativa foi recebida com cautela, mas também com otimismo por parte de especialistas em biossegurança e em política de IA. Organizações como o Nuclear Threat Initiative (NTI) e o Johns Hopkins Center for Health Security têm defendido há anos medidas mais rígidas de controle sobre biotecnologia de duplo uso — aquela que pode ser utilizada tanto para fins benéficos quanto para fins destrutivos.

Para o Brasil, o recado é claro: o país não pode ficar alheio a esse debate. Com um ecossistema de startups de biotecnologia em crescimento, universidades com pesquisas de ponta em genômica e uma adoção acelerada de ferramentas de IA em diversas áreas, o Brasil precisa de uma agenda proativa que una especialistas em tecnologia, saúde, segurança e legislação para enfrentar esses desafios antes que se tornem crises.

A carta de OpenAI e Anthropic é um lembrete de que a inteligência artificial não é apenas uma ferramenta de produtividade ou criatividade — é uma tecnologia de propósito geral com implicações profundas para a segurança global. E que, diante disso, tanto a indústria quanto os governos têm responsabilidades que não podem ser ignoradas.

O futuro da IA será, em grande medida, definido pelas escolhas que fazemos hoje. E quando se trata de armas biológicas, errar não é uma opção.