No final da semana passada, a Anthropic lançou seu novo Claude Fábula 5 e Mito 5 Modelos de IA off-line seguindo uma diretiva de controle de exportação do governo dos Estados Unidos que proíbe “qualquer cidadão estrangeiro” de usar os serviços. A empresa esteve em conversa com a Casa Branca desde sexta-feira, mas ainda não conseguiu um acordo que lhe permita restabelecer as ofertas.
Desde Mythos estreou em abrilA Anthropic afirmou – e alertou – que o modelo possui recursos avançados não apenas para encontrar vulnerabilidades de software para ajudar os defensores a corrigi-las, mas também para descobrir maneiras de explorá-las que poderiam ser usadas por malfeitores. A própria Anthropic observou essa faca de dois gumes no lançamento de Mythos 5 e Claude Fable 5. “Grande parte do uso avançado de modelos de IA é de uso duplo: as mesmas consultas que são benéficas nas mãos de profissionais de segurança cibernética e pesquisadores de biologia podem ser perigosas se estiverem disponíveis para atores mal-intencionados”, a empresa escreveu em uma postagem no blog semana passada.
Com isso em mente, a empresa lançou inicialmente uma versão chamada Mythos Preview para um consórcio seleto como parte de um grupo de trabalho conhecido como Projeto Glasswing. Mythos 5 também foi lançado de forma privada para este grupo na semana passada, enquanto Claude Fable 5, que é um modelo de nível Mythos, foi lançado ao público em geral com blocos específicos sobre sua capacidade de dar respostas a perguntas sobre biologia e segurança cibernética.
Leia o artigo completo
Comentários
