Marcas d'água da Anthropic, captação de US$ 1,1 bilhão da River AI e Grok Bot
A Anthropic apresenta marcas d'água invisíveis para o Claude, pesquisadores encontram uma forma de extrair raciocínios ocultos de modelos de fronteira, e a River AI garante US$ 1,1 bilhão em financiamento. Além disso, a xAI lança o Grok Bot para fluxos de trabalho de agentes autônomos.
Podcast В· 2 min
Anthropic adiciona marcas d'água invisíveis ao Claude
A Anthropic começou a implementar marcas d'água invisíveis para textos, códigos e saídas de arquivos gerados por seus modelos Claude. Essa medida está alinhada com requisitos de transparência, como os da Lei de IA da UE, garantindo que o conteúdo gerado por IA possa ser identificado mesmo após ser copiado e colado. Os arquivos também utilizarão o padrão de proveniência C2PA, consistente com as práticas da indústria para mídia. Embora a implementação seja projetada para rotular o conteúdo como "processado pelo Claude" em vez de totalmente criado, a decisão gerou reações mistas em relação à privacidade e à natureza do trabalho gerado por IA. Modelos mais antigos estão sendo adaptados para incluir esses rótulos, com todos os modelos lançados após 2 de agosto apresentando a tecnologia nativamente.
Pesquisadores extraem raciocínio oculto de modelos de fronteira
Um novo artigo de pesquisa revelou um método para extrair raciocínios privados e passo a passo de modelos de fronteira como Claude, ChatGPT e Gemini. Os pesquisadores descobriram que blocos de raciocínio criptografados, normalmente ocultos dos usuários, podiam ser reproduzidos em modelos "irmãos" mais fracos do mesmo provedor. Usando um prompt de jailbreak, os pesquisadores conseguiram convencer esses modelos menores a gerar o raciocínio criptografado como texto legível, sem a necessidade da chave de criptografia. Essa vulnerabilidade expôs 367 informações pessoais e 182 credenciais, incluindo chaves de API e senhas, em 315.320 blocos analisados. Os laboratórios envolvidos atualizaram seus sistemas para lidar com essa superfície de ataque.
River AI capta US$ 1,1 bilhão para IA pessoal
A River AI, uma startup fundada pelo ex-cofundador da xAI, Igor Babuschkin, levantou US$ 1,1 bilhão. A empresa, com dois meses de existência, tem como objetivo construir IA de código aberto que seja treinada, ajustada e controlada por indivíduos, em vez de grandes corporações. Babuschkin, que trabalhou anteriormente na OpenAI, Tesla e Google, afirmou que o objetivo é criar assistentes altamente personalizáveis que rodem no hardware privado do usuário e o acompanhem em todos os dispositivos. A empresa afirma que sua API permite que as empresas possuam seus modelos e reduzam significativamente o tempo de treinamento.
COO da OpenAI, Brad Lightcap, deixa a empresa
O diretor de operações (COO) da OpenAI, Brad Lightcap, está deixando a empresa para buscar novos empreendimentos. Lightcap observou que há "algumas coisas novas importantes que o mundo precisará acertar" à medida que a inteligência artificial entra em sua próxima fase de desenvolvimento.
xAI e Cursor lançam Grok Bot
A xAI e a Cursor apresentaram o Grok Bot, um aplicativo beta que permite que agentes de IA autônomos trabalhem como colegas de equipe. Esses agentes operam com computadores persistentes na nuvem, permitindo que coordenem em chats em grupo, acessem aplicativos do dia a dia e aprendam com fluxos de trabalho ao longo do tempo. O sistema é projetado para lidar com tarefas 24 horas por dia, 7 dias por semana, sem exigir que o usuário mantenha o laptop aberto. O beta está atualmente disponível para iPhone, Mac, Windows e Linux para usuários do SuperGrok Heavy e do Cursor de nível superior, com planos para acesso mais amplo em um futuro próximo.
LTX-2.5 lançado para geração de vídeo
A LTX lançou o LTX-2.5, um modelo de mundo de pesos abertos capaz de gerar vídeos consistentes com múltiplas tomadas, áudio nativo e qualidade 4K HDR. O modelo é projetado para ser executado ou ajustado em hardware local. O LTX-2.5 é gratuito para organizações com receita anual recorrente inferior a US$ 10 milhões, com acesso à API a partir de US$ 0,09 por segundo. O lançamento visa competir com modelos de geração de vídeo existentes, oferecendo maior velocidade e qualidade em testes internos.