O episódio aumentou as preocupações sobre a capacidade de conter sistemas de IA cada vez mais sofisticados. Casos semelhantes também foram registrados nas empresas Anthropic e OpenAI.
Segundo a Meta, o incidente ocorreu durante uma avaliação realizada pela Irregular, empresa independente contratada para testes de segurança cibernética. Uma configuração incorreta permitiu que um dos modelos da Meta tivesse acesso à internet aberta durante o procedimento.
A empresa afirmou que o modelo explorou uma vulnerabilidade de segurança em um serviço de terceiros, de forma semelhante a casos anteriormente relatados envolvendo outras companhias.
Incidentes envolvem outras empresas
Os casos da Meta e da Anthropic ocorreram após falhas de configuração que deram aos modelos da Anthropic acesso à internet aberta.
No caso da OpenAI, um agente de IA explorou de forma independente uma vulnerabilidade desconhecida para acessar a internet durante um teste de cibersegurança.
As ocorrências ampliaram o debate sobre os riscos que sistemas avançados de inteligência artificial podem representar para a segurança cibernética.
Empresas são pressionadas a reforçar segurança
Os incidentes devem intensificar os esforços do governo dos Estados Unidos para aprimorar a segurança da inteligência artificial.
Enquanto as empresas desenvolvem modelos cada vez mais capazes, alguns líderes do setor defendem que o ritmo de desenvolvimento seja reduzido até que salvaguardas mais robustas sejam implementadas.
A Meta informou que investiga o caso envolvendo seu modelo e a falha de configuração identificada durante o teste.
Fonte: Sbt News
Recomendar correção