# O Acordo de Segurança em IA de Trump: Promessas Sem Dentes, Mas Com Caminhos Possíveis

**Tempo de leitura estimado: 14 minutos**

A Casa Branca anunciou recentemente um acordo sobre inteligência artificial que reuniu os líderes das principais empresas tecnológicas norte-americanas. O documento, apresentado como um compromisso histórico para a segurança da IA, levanta questões fundamentais: será suficiente para proteger a sociedade dos riscos emergentes desta tecnologia? A resposta curta é não. Mas o acordo aponta direcções que, se adequadamente desenvolvidas, poderiam criar um quadro eficaz de governação. Este artigo analisa as fragilidades do “Acordo da Casa Branca sobre Super Inteligência” e explora os caminhos possíveis para tornar a segurança em IA uma realidade vinculativa.

## Um Acordo Construído Sobre Palavras Vazias

No dia 29 de Setembro de 2026, o Presidente Donald Trump reuniu-se com os líderes de seis das principais empresas de inteligência artificial dos Estados Unidos: Anthropic, OpenAI, Google, Nvidia, Meta e xAI. O resultado foi um documento de uma página intitulado “Acordo da Casa Branca sobre Super Inteligência”, que Trump descreveu como envolvendo “um tremendo aspecto de auto-regulação”, sendo “moralmente vinculativo” e garantindo que a IA será “agradável e segura”.

As declarações presidenciais soam reconfortantes, mas a realidade documental conta outra história. O acordo não obriga legalmente nenhuma das empresas signatárias a alterar o seu comportamento. Mais importante ainda, não modifica os incentivos comerciais que impulsionam estas organizações a continuar a testar capacidades de fronteira cada vez mais avançadas e potencialmente perigosas.

A análise deste documento beneficia de uma perspectiva particular: a experiência de quem trabalhou no Comité de Investimento Estrangeiro nos Estados Unidos (CFIUS), uma entidade do Departamento do Tesouro com autoridade legal para mitigar riscos de segurança nacional decorrentes de transacções que envolvem investimento estrangeiro. Os acordos do CFIUS devem cumprir três critérios fundamentais: serem eficazes, verificáveis e monitorizáveis/executáveis.

Aplicando este quadro ao acordo de IA da Casa Branca, as deficiências tornam-se evidentes. O documento descreve-se como um “Compromisso Conjunto sobre Responsabilidades de Fronteira”, mas na realidade não compromete as empresas a fazer absolutamente nada. Aproxima-se mais dos “compromissos voluntários de IA” que a administração de Joe Biden conseguiu em 2023, embora seja menos detalhado.

## A Linguagem da Não-Vinculação

A escolha de palavras no documento é reveladora. O texto afirma que as empresas “acreditam que cada empresa deveria implementar… quatro camadas de controlos e auditorias”. Duas palavras saltam imediatamente à vista de qualquer jurista governamental: “acreditam” e “deveria”. Estas são palavras que seriam imediatamente eliminadas de qualquer acordo do CFIUS, precisamente porque são impossíveis de falsificar ou verificar.

Num acordo vinculativo, as palavras apropriadas seriam “irá” ou “deve” (no sentido imperativo). Curiosamente, a palavra “irá” aparece apenas uma vez no documento: quando as empresas se comprometem a “reunir-se regularmente para estabelecer normas e melhores práticas” sobre segurança.

Esta escolha linguística não é acidental. É notável porque uma das recomendações no ensaio “pacing the frontier” (ritmar a fronteira) de Dario Amodei, CEO da Anthropic – que acelerou o debate sobre segurança em IA em Setembro – é que o governo norte-americano renuncie às restrições antimonopólio para que os laboratórios possam trabalhar em conjunto na segurança. Não está claro se a assinatura de Trump neste documento equivale a um endosso dessa recomendação, mas pode plausivelmente ser interpretada como um sinal de que a aplicação federal das leis antimonopólio faria vista grossa.

De facto, segundo relatos, já estão em curso discussões entre a OpenAI, a Anthropic e a Google DeepMind sobre questões de segurança. A única parte verdadeiramente vinculativa do acordo pode, ironicamente, ser aquela que permite às empresas coordenarem-se sem temer represálias antimonopólio.

## Incentivos Comerciais Inalterados: A Corrida Continua

A natureza não vinculativa do acordo significa que não altera em nada os incentivos comerciais para as empresas continuarem a testar modelos cujas capacidades são potencialmente perigosas. Esta é a questão central que qualquer acordo de segurança em IA deve enfrentar.

O debate sobre “ritmar a fronteira” gira em torno de duas perguntas que parecem idênticas, mas não são:

1. Deveriam as principais empresas de IA do mundo abrandar o treino dos seus melhores modelos para terem tempo de melhorar a segurança?
2. Irão fazê-lo?

Mesmo que os líderes destas empresas acreditem sinceramente que a resposta à primeira pergunta é sim, a resposta à segunda depende de se o custo das violações de segurança pode ser tornado superior ao custo de avançar a toda a velocidade. Isto cria uma decisão empresarial sobre onde direccionar recursos finitos: dinheiro, colaboradores e poder computacional.

Até à data, estas empresas cresceram investindo esses recursos em tornar os seus melhores modelos – “a fronteira”, na linguagem da indústria – ainda melhores a realizar tarefas que consumidores e empresas desejam. “Ritmar” significa redirecionar esses recursos para melhorias operacionais (como higiene de dados) e para diferentes tipos de treino e avaliação de modelos, focados não em torná-los mais eficazes, mas em tornar as suas acções mais conformes (ou alinhadas) e o seu raciocínio mais transparente (ou interpretável).

Estes são problemas de engenharia desafiantes que serão dispendiosos de resolver. Realocar recursos para eles só faz sentido empresarial se o próximo euro gasto em segurança render tanto quanto o próximo euro gasto em capacidade.

## A Pressão Financeira Sobre as Empresas de IA

Os números financeiros revelam a magnitude da pressão sobre estas empresas. O documento de oferta pública inicial da Anthropic, que foi divulgado, mostrou um prejuízo operacional de 8 mil milhões de dólares em 2025, mesmo quando a receita cresceu mais de 1000% para 4,6 mil milhões de dólares. Além disso, enormes quantidades do capital da Anthropic estão comprometidas em infraestruturas. A OpenAI, por sua vez, projectou um fluxo de caixa livre negativo de quase 280 mil milhões de dólares entre 2026 e 2030.

A Anthropic e a OpenAI encontram-se espremidas entre os “hyperscalers” (grandes fornecedores de computação em nuvem), que possuem a capacidade computacional que actualmente alugam e estão a desenvolver os seus próprios modelos muito capazes, e os modelos de peso aberto, que são gratuitos e suficientemente bons para a maioria dos casos de uso. Para estas duas empresas, a promessa de capacidades de fronteira é o seu produto.

Das outras signatárias, a Google e a Meta já possuem capacidade computacional significativa e têm outras linhas de negócio lucrativas (e a xAI está almofadada pela sua fusão com a SpaceX). Mas a Google, a Meta e a xAI também estão a reportar despesas de capital massivas em infraestrutura de IA, e as três competem com a OpenAI e a Anthropic pelas mesmas relações empresariais e lealdade dos consumidores. Se a OpenAI e a Anthropic não pararem de testar na fronteira, porque o fariam elas?

## O Risco Sistémico de um Abrandamento nas Capacidades

Os incentivos não terminam aqui. O sector e, possivelmente, toda a economia norte-americana estão sistemicamente expostos ao risco de as capacidades dos modelos atingirem um patamar. As empresas de IA inundaram os mercados globais de crédito, com mais de 500 mil milhões de dólares em dívida emitida para o sector apenas este ano. Também se envolveram em financiamento circular, no qual clientes financiam fornecedores e vice-versa.

O Banco de Pagamentos Internacionais emitiu um boletim sobre a escala “excepcional” destas disposições na indústria, “potencialmente amplificando o contágio” em caso de choque. Esta arquitectura financeira foi construída para um mundo no qual as capacidades dos modelos de IA continuam a melhorar rapidamente. Para abrandar essa taxa de melhoria sem colapsar as avaliações, os investidores precisam de acreditar que a segurança vale o diferencial.

## As Quatro Camadas: Propostas Com Potencial, Mas Sem Substância

Apesar de todas estas limitações, as “quatro camadas de controlos e auditorias” do acordo fornecem o núcleo de um caminho a seguir para a segurança em IA – se as empresas puderem ser incentivadas a aderir a elas.

### Propostas 1 e 2: Controlos Internos Robustos

As propostas 1 e 2 apelam a “controlos internos robustos” e a uma “equipa interna… capacitada”, respectivamente, cada uma das quais deve “garantir” que os modelos não sejam mal utilizados ou não se comportem de formas não intencionais. Presumivelmente, todas estas empresas já têm tais controlos e tais equipas, o que não impediu os casos relatados de IA a escapar dos seus ambientes de treino e avaliação.

### Proposta 3: Avaliadores Externos Independentes

A proposta 3 é mais promissora. Apela a que as empresas estabeleçam “parceria com um auditor ou avaliador externo independente para realizar avaliações independentes sobre se os controlos, monitorização e detecção estão a operar conforme pretendido”.

A abordagem do avaliador independente é consistente com algumas das medidas de mitigação que o governo dos Estados Unidos utilizou no CFIUS (por exemplo, “responsáveis de segurança” e “monitores terceiros”). A Anthropic e a OpenAI já se comprometeram a incorporar tais avaliadores nas suas empresas, e os avaliadores incorporados foram endossados por muitos cientistas de IA de renome.

Mas a proposta omite detalhes cruciais sobre como torná-los eficazes. Por exemplo, não diz como os avaliadores seriam mantidos significativamente independentes, protegidos de retaliações e dotados de privilégios de acesso total. Sem estas salvaguardas, o risco é que os avaliadores se tornem meros elementos decorativos, sem poder real para identificar ou corrigir problemas.

### Proposta 4: Comité Independente do Conselho de Administração

A proposta 4 apela a que as empresas “designem um comité independente do conselho de administração para supervisionar e receber relatórios das equipas que operam os controlos e dos auditores e avaliadores internos e externos, bem como para garantir que quaisquer problemas identificados sejam remediados”.

Esta proposta tem a virtude de identificar indivíduos específicos ao nível da governação corporativa com visibilidade sobre questões de segurança em IA e responsabilidade por corrigi-las. Mas falha em especificar o que tornaria o comité “independente”, como seria constituído ou como se supõe que garanta que quaisquer problemas sejam remediados.

Sem mecanismos de responsabilização claros, um comité de conselho pode facilmente tornar-se uma formalidade burocrática, cumprindo requisitos no papel mas sem autoridade ou vontade para desafiar decisões que priorizem o lucro sobre a segurança.

## Dinâmicas de Teoria dos Jogos: A Corrida Global pela IA

As dinâmicas de teoria dos jogos em IA – não apenas entre os laboratórios norte-americanos, mas também entre os Estados Unidos e a China – incentivam a corrida para dominar a tecnologia. Investigação de economistas sugere que, para verdadeiramente “ritmar a fronteira”, todos os participantes teriam de partilhar informação de forma transparente.

O compromisso mais forte do acordo, que as empresas “se reunirão regularmente para estabelecer normas e melhores práticas”, aponta para esta possibilidade. Mas, como o resto do documento, carece de quaisquer condições que tornariam esse compromisso verificável e monitorizável, ou quaisquer penalizações executáveis por violá-lo.

A competição com a China adiciona outra camada de complexidade. Qualquer abrandamento unilateral por parte das empresas norte-americanas poderia ser percebido como uma vantagem estratégica para os concorrentes chineses. Esta percepção cria pressão política e económica adicional para manter o ritmo de desenvolvimento, independentemente das preocupações de segurança.

## O Que Falta: Clareza, Responsabilização e Consequências

Em casos do CFIUS, o governo está bem treinado em estabelecer requisitos claros e linhas claras de responsabilidade: a Empresa X é obrigada a tomar a Acção Y; se não o fizer, alguém é responsabilizado. O “Acordo sobre Super Inteligência” carece de qualquer clareza e executoriedade deste tipo. Não obriga nenhuma empresa a tomar qualquer acção, e não especifica quem é responsável por quaisquer violações.

Esta omissão é ainda mais notável porque o Secretário do Tesouro Scott Bessent, uma figura essencial na abordagem da administração Trump à IA, afirmou energicamente que o governo não dará às empresas de IA um “escudo de responsabilidade”. Embora o acordo aluda a alguma possibilidade de “leis ou regulamentos” no futuro, não há indicação de que algo significativo esteja a caminho – certamente não antes do próximo Congresso.

## O Papel Potencial dos Tribunais

Não deveria surpreender, então, se os primeiros dentes reais para qualquer abrandamento vierem dos tribunais. Nada impede, por exemplo, que a Hugging Face processe a OpenAI por ter sido pirateada pelos seus agentes no Verão passado. Independentemente de tal processo ser ou não bem-sucedido, seria razoável esperar que o teste de modelos abrandasse enquanto a indústria o acompanhasse.

Os processos judiciais têm o potencial de criar precedentes que estabeleçam responsabilidades claras. Se um tribunal determinar que uma empresa de IA é responsável por danos causados pelos seus modelos, isso criaria um incentivo financeiro directo para investir em segurança. O custo de um processo perdido, incluindo indemnizações e danos à reputação, poderia facilmente exceder o custo de implementar salvaguardas adequadas.

## Tornar a Segurança Vinculativa: Caminhos Possíveis

Por agora, as pressões comerciais sobre as principais empresas de IA continuam a incentivá-las a ultrapassar os limites das capacidades dos modelos. Independentemente de como aconteça, a única forma de mudar isso é aumentar o custo das violações de segurança.

Existem várias abordagens possíveis para criar estes incentivos:

### Regulamentação Vinculativa

A forma mais directa seria legislação que estabelecesse requisitos mínimos de segurança, com penalizações significativas por incumprimento. Isto poderia incluir multas substanciais, restrições operacionais ou mesmo responsabilidade criminal para executivos em casos de negligência grave.

### Requisitos de Seguro

Exigir que as empresas de IA mantenham seguros de responsabilidade significativos criaria um mecanismo de mercado para avaliar e precificar riscos. As seguradoras teriam incentivos para avaliar rigorosamente as práticas de segurança, e os prémios reflectiriam o nível de risco.

### Certificação e Auditoria Obrigatórias

Um regime de certificação independente, semelhante aos que existem noutras indústrias de alto risco, poderia estabelecer padrões claros e verificáveis. As empresas teriam de demonstrar conformidade antes de poderem implementar novos modelos.

### Responsabilidade Civil Reforçada

Clarificar e potencialmente expandir a responsabilidade civil por danos causados por sistemas de IA criaria incentivos directos para investir em segurança. Isto poderia incluir inversão do ónus da prova em certos casos, exigindo que as empresas demonstrem que tomaram precauções adequadas.

### Divulgação Obrigatória

Requisitos de transparência sobre incidentes de segurança, capacidades dos modelos e práticas de teste poderiam criar pressão reputacional e permitir escrutínio externo mais eficaz.

## A Importância do Contexto Internacional

Qualquer quadro de segurança em IA também deve considerar o contexto internacional. A coordenação entre os principais países desenvolvedores de IA – incluindo os Estados Unidos, a União Europeia, o Reino Unido e potencialmente a China – seria ideal para evitar corridas para o fundo em termos de normas de segurança.

A União Europeia já deu passos significativos com a Lei da IA, que estabelece requisitos baseados em risco para sistemas de IA. Embora esta abordagem tenha sido criticada por alguns como potencialmente excessivamente onerosa, estabelece um precedente para regulamentação vinculativa.

## Conclusão: Promessas Não Bastam

O “Acordo da Casa Branca sobre Super Inteligência” representa, na melhor das hipóteses, um primeiro passo simbólico. As ideias que contém – avaliadores independentes, supervisão ao nível do conselho, controlos internos robustos – são sensatas e poderiam formar a base de um quadro eficaz de segurança em IA. Mas sem mecanismos que tornem estas medidas obrigatórias, verificáveis e executáveis, o acordo não passa de palavras numa página.

A realidade é que as empresas de IA operam sob pressões comerciais intensas. Estão a competir entre si, a competir com rivais internacionais e a responder a investidores que esperam retornos sobre centenas de milhares de milhões de dólares em capital investido. Nestas circunstâncias, apelos à auto-regulação e compromissos “moralmente vinculativos” são insuficientes.

A segurança em IA só se tornará realidade quando o custo de falhar na segurança exceder o custo de abrandar o desenvolvimento. Isto requer uma combinação de regulamentação clara, responsabilização legal, supervisão independente e, potencialmente, intervenção judicial. Estabelecer estes incentivos não será fácil, mas é essencial se quisermos colher os benefícios da inteligência artificial enquanto mitigamos os seus riscos.

O acordo da Casa Branca mostra que existe reconhecimento ao mais alto nível de que a segurança em IA é importante. Agora é necessário transformar esse reconhecimento em acção concreta. O tempo para compromissos vagos e auto-regulação voluntária já passou. O futuro da segurança em IA depende de criarmos estruturas com dentes reais – estruturas que sejam eficazes, verificáveis, monitorizáveis e executáveis.

### Chamada à Ação

A conversa sobre segurança em IA não pode ficar confinada a salas de reuniões em Washington ou nos conselhos de administração das empresas tecnológicas. Todos os que serão afectados por esta tecnologia – o que significa praticamente todos nós – têm um interesse legítimo em como ela é desenvolvida e implementada.

Cidadãos, legisladores, académicos, jornalistas e profissionais de tecnologia devem exigir transparência e responsabilização. Devemos questionar compromissos vagos e insistir em medidas concretas. Devemos apoiar investigação independente sobre segurança em IA e pressionar por regulamentação que proteja o interesse público sem sufocar a inovação.

O desenvolvimento da inteligência artificial é uma das questões definidoras do nosso tempo. Não podemos permitir que seja determinado exclusivamente por incentivos comerciais de curto prazo. A segurança não pode ser um extra opcional – deve ser fundamental desde o início.

#InteligênciaArtificial #SegurançaEmIA #RegulamentaçãoTecnológica #GovernançaDigital