Cenários de Segurança de IA de Sam Altman, Estreia de US$ 1,5 Bilhão da Arda e Receita de IA da SpaceX
Este resumo aborda os três cenários finais de segurança de IA de Sam Altman, o lançamento de US$ 1,5 bilhão da Arda, de Bob McGrew, a receita significativa de IA da SpaceX e a proposta de legislação de segurança de IA da Anthropic.
Podcast В· 4 min
Sam Altman delineia três cenários finais de segurança de IA
O CEO da OpenAI, Sam Altman, compartilhou recentemente com a equipe três cenários potenciais para o futuro da segurança de IA. Eles incluem o estabelecimento de um órgão de vigilância global semelhante à Agência Internacional de Energia Atômica, um 'plano Demis' (em homenagem a Demis Hassabis, da DeepMind) que funde os principais laboratórios em uma única entidade, ou um resultado 'terrível' onde um laboratório avança para dominar o poder computacional. Altman enfatizou que a OpenAI deve escolher seu caminho no próximo ano, um processo que ele chamou de 'ritmo 2.0', que deve incluir limites de velocidade definidos para a IA autoaprimorante.
Ex-chefe de pesquisa da OpenAI, Bob McGrew, lança Arda com avaliação de US$ 1,5 bilhão
O ex-diretor de pesquisa da OpenAI, Bob McGrew, saiu do modo furtivo com a Arda, uma startup focada em automatizar a configuração de linhas de montagem em fábricas. A empresa foi lançada com uma avaliação de US$ 1,5 bilhão após uma rodada de financiamento Série A de US$ 160 milhões. A Arda visa fazer pelos engenheiros de manufatura o que os assistentes de codificação fazem pelos programadores, usando IA para planejar construções a partir de arquivos de design. A empresa de defesa Anduril, primeiro cliente da Arda, relatou que as instruções de montagem agora levam 15 minutos, em comparação com as 10 horas anteriores.
SpaceX relata US$ 7,5 bilhões em receita relacionada a IA
A SpaceX revelou que sua nova divisão 'Super Inteligência' gerou US$ 7,5 bilhões em receita durante o terceiro trimestre, representando cerca de metade da receita total de US$ 14,6 bilhões da empresa. Esta divisão abrange o Grok, a ferramenta de codificação de IA Cursor e um negócio de 'neocloud' que fornece poder computacional para data centers. A empresa relatou despesas de capital de US$ 19,6 bilhões neste trimestre, impulsionadas em grande parte por investimentos em data centers e foguetes Starship.
OpenAI adquire Orchestra Bio
A OpenAI adquiriu a Orchestra Bio, uma startup especializada em agentes de IA que rastreiam e monitoram estudos de desenvolvimento de medicamentos. A tecnologia será integrada às ferramentas de ciências da vida Rosalind da OpenAI para ajudar a sinalizar atrasos e efeitos em cascata em programas complexos de medicamentos.
Otter.ai garante financiamento de US$ 320 milhões
A Otter.ai levantou US$ 320 milhões do Fundo de Valor do Cliente da General Catalyst. O financiamento é estruturado em torno de retornos sobre gastos de marketing, em vez de vendas tradicionais de ações, apoiando o crescimento contínuo de sua plataforma de inteligência de reuniões.
Anthropic propõe projeto de lei de segurança de IA
A Anthropic redigiu um projeto de lei federal de segurança de IA que capacitaria o Departamento de Comércio a solicitar um bloqueio judicial de lançamentos de modelos se eles representarem um risco iminente de causar 50 ou mais mortes ou US$ 1 bilhão em danos. Esta proposta reflete os esforços contínuos da empresa para estabelecer estruturas regulatórias para modelos de IA de fronteira.
Claude, da Anthropic, projeta proteínas antiveneno de escorpião
A Anthropic publicou uma pesquisa realizada com a Citrini Research, na qual o Claude projetou proteínas para se ligar e desarmar toxinas do veneno de escorpião. De 318.484 designs candidatos gerados pela IA, 211 foram testados em laboratórios, com 17 se ligando com sucesso aos seus alvos. Embora o projeto não tenha resultado em um antiveneno universal, ele demonstra o potencial da IA para acelerar a descoberta de medicamentos.
Vulnerabilidade no aplicativo Muse da Meta expôs chats compartilhados
A empresa de segurança Claroc descobriu que chats compartilhados do aplicativo Muse da Meta podiam ser encontrados por meio de registros públicos da web sem o link original. O problema decorria da estrutura de URL do aplicativo, que incluía títulos de chat, permitindo que serviços DNS passivos os indexassem. A Meta supostamente pausou o recurso de compartilhamento enquanto investiga a vulnerabilidade.
ChatGPT introduz chats bloqueados por PIN
A OpenAI lançou um novo recurso para o ChatGPT que permite aos usuários proteger conversas confidenciais com um PIN ou Face ID. Esses chats bloqueados mantêm uma memória separada das interações padrão, melhorando a privacidade para fluxos de trabalho específicos.
DeepSeek lança código do DeepInfer
A DeepSeek lançou o código do DeepInfer, o mecanismo que alimenta sua IA V4.1-Flash. O lançamento inclui suporte para chips Huawei, permitindo que empresas implantem o modelo sem depender de hardware Nvidia.
Skyfall AI revela SKY-001
A Skyfall AI apresentou o SKY-001, um modelo projetado para criar designs 3D de peças e edifícios. A empresa afirma que o sistema é significativamente mais rápido e mais barato do que os modelos de fronteira existentes.
Zoom adiciona detecção de deepfake
A Zoom anunciou um novo recurso de detecção de risco de deepfake programado para dezembro. A ferramenta analisa vídeo e áudio ao vivo em busca de sinais de alteração e fornece um indicador de confiança aos usuários.
Spotify remove mais de 50 milhões de faixas 'lixo'
O Spotify removeu mais de 50 milhões de faixas identificadas como 'lixo' ou spam de suas recomendações este ano. A plataforma também está restringindo artistas de IA-persona de seus algoritmos de recomendação por padrão para priorizar a arte humana.
Radical Numerics relata aprovação da FDA para vírus projetado por IA
A Radical Numerics afirma um marco significativo na medicina projetada por IA, afirmando que a FDA aprovou um vírus projetado por sua IA Omnii-1 para um paciente com uma infecção resistente ao tratamento.
Thore Graepel estreia Metis Reasoning
O ex-pesquisador da DeepMind, Thore Graepel, lançou a Metis Reasoning, uma startup de IA que aplica técnicas do estilo AlphaGo a chatbots para permitir que eles verifiquem suas saídas em relação a evidências.