Líderes de IA pedem moderação; Apple lança Siri AI
Líderes do setor defendem uma desaceleração no desenvolvimento da IA, enquanto a Apple lança o iOS 27 com a Siri AI integrada. A Anthropic relata o uso indevido da IA e surgem novos desenvolvimentos geopolíticos em relação à infraestrutura de IA.
Podcast В· 3 min
Líderes do setor pedem moderação no desenvolvimento da IA
O CEO da Anthropic, Dario Amodei, publicou um ensaio defendendo uma desaceleração deliberada no desenvolvimento da IA, citando preocupações com o autoaperfeiçoamento recursivo e potenciais riscos de segurança. Em uma rara demonstração de alinhamento do setor, o CEO da OpenAI, Sam Altman, Elon Musk, da xAI, e o CEO da Microsoft, Satya Nadella, expressaram apoio a essa direção. A conversa está ganhando força, com o Rei Charles supostamente organizando uma cúpula na Escócia para líderes da Nvidia, Google DeepMind, OpenAI e Anthropic para discutir princípios de segurança compartilhados. No entanto, o consenso não é universal. O ex-presidente Trump descartou esses apelos como 'forças negativas', argumentando que os EUA devem manter sua liderança na corrida da IA. Enquanto isso, a OpenAI teria abordado o Congresso para determinar se uma desaceleração em todo o setor poderia violar as leis antitruste, destacando a tensão entre a coordenação de segurança e as práticas competitivas de mercado. Essa mudança reflete uma crescente percepção de que a superinteligência — sistemas de IA capazes de superar os humanos na maioria dos domínios — apresenta desafios de controle que exigem mais do que apenas soluções técnicas. Enquanto o setor debate a necessidade de freios, a pressão geopolítica para permanecer à frente continua sendo um obstáculo significativo para qualquer pausa global coordenada.
Anthropic detalha operações de uso indevido de IA
A Anthropic divulgou um novo relatório de inteligência de ameaças detalhando vários casos de uso indevido de IA que a empresa interrompeu. O relatório destaca um grupo de espionagem ligado à Rússia que automatizou partes de sua cadeia de ataque e reconstruiu malware para evadir ferramentas de segurança. Além disso, a Anthropic identificou uma célula de armas baseada no Iêmen usando Claude Code para auxiliar no projeto de sistemas de orientação de foguetes e mísseis, bem como uma rede de aplicativos de namoro baseada na China operando mais de 4.700 personas de IA para contatar pelo menos 25.000 indivíduos. Em outro caso, um consultor usou Claude para desenvolver software de vigilância para a inteligência do Mali, visando aproximadamente 25 milhões de cartões SIM. A Anthropic afirmou que baniu as contas envolvidas e, em alguns casos, coordenou com outros provedores de IA para interromper essas operações. Essas descobertas ressaltam a natureza de uso duplo dos modelos avançados de IA e o desafio contínuo de impedir que atores maliciosos utilizem essas ferramentas para ameaças cibernéticas e físicas sofisticadas.
Apple lança iOS 27 com Siri AI
A Apple lançou oficialmente o iOS 27, apresentando a tão esperada 'Siri AI'. A atualização inclui uma reformulação abrangente de aplicativos, consciência na tela e um modelo de linguagem desenvolvido com a ajuda do Google Gemini. Este lançamento marca um passo significativo para a integração da IA generativa pela Apple em seu ecossistema móvel. A nova experiência Siri AI é restrita ao iPhone 15 Pro e modelos mais recentes, deixando dispositivos mais antigos com a atualização padrão, mas sem os recursos avançados de IA. Este lançamento segue um período de atrasos no desenvolvimento, já que a Apple teria retirado versões anteriores do assistente mais inteligente devido a preocupações com a confiabilidade.
Microsoft Copilot permite troca de modelos
A Microsoft introduziu discretamente um recurso que permite aos usuários do Microsoft 365 Copilot trocar o modelo padrão da OpenAI pelo Claude da Anthropic em tarefas específicas. A mudança é mais proeminente no agente 'Pesquisador', que analisa e-mails, arquivos e dados da web. Os usuários agora podem selecionar diferentes modelos com base em suas necessidades específicas de raciocínio, com Claude sendo frequentemente preferido para análises longas, enquanto o modelo padrão permanece otimizado para velocidade. Essa flexibilidade atende ao feedback dos usuários sobre o desempenho variável dos modelos em consultas complexas. As organizações podem gerenciar esse recurso através do centro de administração do Microsoft 365, embora a opção esteja desabilitada por padrão na UE e no Reino Unido.
IA melhora detecção de defeitos cerebrais fetais
Um ensaio clínico randomizado realizado em cinco hospitais na China demonstrou que a assistência de IA pode melhorar significativamente a detecção de malformações cerebrais fetais durante ultrassonografias pré-natais. O estudo utilizou o PAICS, um modelo de aprendizado profundo treinado para sinalizar 10 malformações específicas em tempo real. Os resultados mostraram que a sensibilidade de detecção dos sonografistas aumentou de 78,6% para 87,3% ao usar a IA, sem um aumento correspondente em alarmes falsos. O ensaio destaca o potencial da IA para servir como um 'segundo par de olhos' em ambientes clínicos. Notavelmente, o envolvimento humano permaneceu crítico, pois os sonografistas corrigiram corretamente aproximadamente 60% dos erros da IA. Embora as varreduras tenham levado cerca de 40 segundos a mais em média, a melhoria na precisão diagnóstica sugere um caminho promissor para a integração da IA no cuidado de gestações de alto risco.
Pentágono considera empréstimo de US$ 5 bilhões para infraestrutura de IA
O Pentágono estaria em negociações para fornecer um empréstimo de US$ 5 bilhões para a startup de nuvem de IA Fluidstack. A iniciativa visa fortalecer a manufatura e as cadeias de suprimentos dos EUA para componentes de data centers, refletindo a crescente importância estratégica da infraestrutura de IA na segurança nacional. Enquanto isso, na Cúpula do BRICS em Nova Délhi, a China propôs a criação de uma comunidade de IA de código aberto para promover o desenvolvimento compartilhado e o uso industrial entre os países membros, sinalizando uma abordagem divergente para a governança global da IA.