Um grupo formado por várias empresas de grande porte em tecnologia anunciou uma iniciativa conjunta para melhorar a segurança em serviços e produtos de inteligência artificial (IA). O resultado é uma entidade chamada Coalition for Secure AI, ou CoSAI, que já está em operação.
A CoSAI tem como objetivo principal resolver o que ela chama de "cenário fragmentado de segurança em IA". Na prática, isso significa o desenvolvimento de iniciativas conjuntas e o compartilhamento de códigos e experiências para que essas companhias tenham acesso a ferramentas, metodologias e estruturas umas das outras.
Tecnologia, negócios e comportamento sob um olhar crítico.
Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo
Até o momento, não há projetos concretos já confirmados envolvendo as empresas, mas um guia de boas práticas para membros dessa indústria deve ser desenvolvido no futuro.
A logo do novo grupo de IA.Fonte: CoSAI
Os primeiros trabalhos vão envolver três temas gerais: criar mecanismos de defesa e governança para projetos de IA; desenvolver práticas para segurança na área que resultem na criação de projetos com códigos seguros e resolver alguns dos principais desafios atuais.
Quem faz parte da CoSAI?
A CoSAI vai existir dentro de uma entidade já com bastante tempo de atuação: a Organization for the Advancement of Structured Information Standards (OASIS), uma organização não governamental que luta por padrões abertos na tecnologia.
Atualmente, integram a coalisão de segurança em IA as seguintes empresas:
- OpenAI
- Microsoft
- Amazon
- Nvidia
- Intel
- IBM
- PayPal
- Cisco
- Anthropic
- Chainguard
- Cohere
- GenLab
- Wiz
Da lista, várias delas já contam com serviços próprios de IA, como Google (do Gemini), OpenAI (dona do ChatGPT) e Microsoft (do Copilot). Há ainda startups do setor, como a Anthropic, do chatbot Claude, e a Wiz, que pode ser adquirida em breve pela Google.
"Nós temos usados IA por muitos anos e vendo o potencial contínuo para defesa, mas também reconhecendo as oportunidades para adversários. A CoSAI vai ajudar organizações grandes e pequenas a integrar IA de forma segura e responsável, ajudando elas a equilibrar benefícios enquanto reduzem riscos", diz a vice-presidente de segurança da Google, Heather Adkins.
Mais informações podem ser encontradas no site oficial da CoSAI (em inglês).
Tecnologia, negócios e comportamento sob um olhar crítico.
Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo
Categorias
