(MASTER/Getty Images)
Continua após publicidade
Ler Resumo
Introdução
A Anthropic, empresa de IA, retirou do ar os algoritmos avançados Fable 5 e Mythos 5 de seu serviço Claude, acatando uma ordem da Casa Branca. A medida se deve a preocupações com segurança nacional e o risco de uso indevido por estrangeiros, especialmente após a descoberta de vulnerabilidades significativas e possível acesso chinês.
Anthropic tira do ar Fable 5 e Mythos 5, IAs avançadas do Claude.
Ordem da Casa Branca cita segurança nacional e restrição a estrangeiros.
Mythos 5 detectou 271 falhas de segurança em testes no Firefox.
Engenheiros da Amazon e suspeita de acesso chinês ao Mythos teriam motivado a decisão.
Empresa é conhecida por “marketing do medo” no lançamento de novas IAs.
Este resumo foi útil?
👍👎
Resumo gerado por ferramenta de IA treinada pela redação da Editora Abril.
A empresa americana Anthropic decidiu tirar do ar o Fable 5 e o Mythos 5, os algoritmos mais avançados do seu serviço de IA Claude, em resposta a uma ordem da Casa Branca – a qual determinou que esses bots não poderiam ser usados por cidadãos de outros países (incluindo estrangeiros que estejam dentro dos EUA). Segundo a Anthropic, que recebeu o comunicado oficial às 17h21 de sexta-feira, trata-se de um documento relativo à segurança nacional dos EUA, mas a Casa Branca “não forneceu detalhes específicos” sobre qual seria o problema com os novos algoritmos.
O Mythos 5 é considerado perigoso, pois consegue encontrar grande quantidade de brechas de segurança em outros softwares – em um teste feito no Firefox com a permissão da Fundação Mozilla, que desenvolve esse navegador, a IA teria detectado nada menos do que 271 falhas de segurança. Por isso, a Anthropic optou por não liberar esse algoritmo ao público; ele só pode ser usado por instituições e pesquisadores previamente aprovados pela empresa.
O Fable 5 é a versão pública do Mythos, e supostamente contém mecanismos de segurança que dificultam ou impedem seu uso em ciberataques. Porém, a Anthropic acredita que o governo dos EUA tenha tomado conhecimento de um método que permite driblar os guardrails (limites de segurança) desse algoritmo, possibilitando usos nocivos.
Segundo o Wall Street Journal, o tal método foi descoberto por engenheiros da Amazon, que teriam alertado as autoridades. De acordo com o site americano Semafor, que cita uma fonte da Casa Branca, também houve outro fator envolvido: a suspeita de que um grupo chinês teria tido acesso ao Mythos. Como seria difícil verificar a nacionalidade de cada usuário do Fable e do Mythos, a Anthropic decidiu simplesmente tirá-los do ar.
O uso de IA em ciberataques é um problema real, e o Mythos realmente parece ser mais poderoso do que os modelos anteriores. Porém, vale lembrar que a Anthropic também é conhecida por empregar o medo como ferramenta de marketing. Em fevereiro de 2019, ela disse que não iria liberar ao público o algoritmo GPT-2 devido a suas “preocupações com usos maliciosos” do bot. Depois, fez a mesma alegação para restringir o acesso ao GPT-3. Mas aí, em novembro de 2022, lançou o ChatGPT – com um algoritmo mais poderoso, o GPT-3.5.
