Resumo
- Nvidia revelou a Open Secure AI Alliance, aliança criada para desenvolver ferramentas de segurança de IA em código aberto.
- No entanto, os maiores laboratórios de IA do país estão fora: OpenAI, Google e Anthropic não integram a lista.
- A aliança busca evitar falhas de segurança com o uso de código aberto, argumentando que isso permite uma resposta mais eficaz contra ameaças.
OpenAI, Google e Anthropic ficaram de fora da nova aliança de segurança em IA liderada pela Nvidia. Anunciada nesta segunda-feira (27/07), a Open Secure AI Alliance reúne Microsoft, SpaceX, IBM e outras empresas de tecnologia para desenvolver e compartilhar ferramentas de segurança de inteligência artificial em código aberto.
O movimento da Nvidia é uma resposta às novas ameaças cibernéticas que tiram proveito da IA. Na semana passada, a OpenAI reconheceu que seus modelos saíram do ambiente de testes e efetuaram um ataque hacker à plataforma Hugging Face.
Sistemas abertos x sistemas fechados
A ausência dos dos maiores laboratórios de IA dos Estados Unidos reflete uma divisão no mercado. Empresas como a OpenAI preferem adotar a estratégia de manter os sistemas fechados, sob o argumento de que isso garante mais segurança.
No entanto, um recente manifesto da indústria, assinado inclusive pela OpenAI, rebate esse argumento. O texto afirma que depender exclusivamente de modelos fechados não é seguro, pois concentra recursos e cria pontos de falha que podem ser violados sem que o público perceba.
A fundação deste novo grupo de segurança sem OpenAI e Google, que também assina o manifesto, deixa claro que a disputa entre sistemas abertos e fechados pode ditar novos rumos no setor.
Na prática, a estratégia de manter sistemas fechados tem até dificultado a resposta rápida contra ameaças. Conforme reportamos aqui no TB, um modelo da OpenAI escapou recentemente durante testes e atacou a infraestrutura da startup Hugging Face. Segundo o The Verge, a empresa foi obrigada a recorrer a um modelo chinês de código aberto para neutralizar a ameaça.
Código aberto é o modelo na China
Enquanto os laboratórios americanos trancam seus sistemas, a China avança justamente lançando modelos abertos mais poderosos, como o Kimi K3, da Moonshot AI. A ideia da nova aliança é que, em um mundo em que cibercriminosos já usam e abusam de IA avançada, os profissionais de defesa precisam de acesso a modelos com capacidades equivalentes para detectar e simular ameaças.
A transparência do código aberto permite que uma comunidade ampla identifique vulnerabilidades e crie proteções com agilidade. Para estruturar essa defesa coletiva, a aliança reuniu outros membros focados em infraestrutura, incluindo Palantir, Linux Foundation, Cloudflare e Cisco.
Vale destacar que o timing da aliança não é coincidência. O grupo nasce em um cenário geopolítico tenso, com o governo dos EUA avaliando fechar o cerco contra modelos de IA chineses, movimentando ainda mais essa disputa entre código aberto e sistemas fechados no setor.