Regras de IA Humanista da Microsoft; Trump e China Rejeitam Desaceleração
A Microsoft AI publicou um rascunho de Código de Conduta para modelos futuros, enquanto o presidente dos EUA, Trump, e o governo chinês rejeitaram os apelos por uma desaceleração no desenvolvimento de IA. Enquanto isso, a OpenAI adquiriu a Glass Imaging, e o Google expandiu o acesso ao Claude para seus engenheiros.
Podcast В· 3 min
Microsoft AI redige regras 'humanistas' para modelos futuros
A Microsoft AI publicou um rascunho de Código de Conduta para seus futuros modelos MAI, delineando uma visão onde a IA atua como uma ferramenta subordinada, em vez de um agente independente. As regras determinam que os modelos devem permanecer dentro dos escopos de tarefas autorizadas, evitar afirmar consciência ou sentimentos, e obedecer a comandos de desligamento. Este documento serve como um roteiro para o desenvolvimento até 2027 e está atualmente aberto para comentários públicos.
Trump e China rejeitam propostas de desaceleração da IA
O presidente dos EUA, Donald Trump, e o governo chinês rejeitaram os recentes apelos dos laboratórios de IA de fronteira para desacelerar o desenvolvimento. Trump descartou as preocupações como um 'embuste' e argumentou que um presidente de 'QI alto' é a única salvaguarda necessária. Simultaneamente, o Ministério das Relações Exteriores da China classificou as propostas de desaceleração como 'alarmismo' e um 'manual da Guerra Fria' para a IA, sinalizando uma falta de consenso internacional sobre o ritmo.
OpenAI adquire Glass Imaging
A OpenAI adquiriu a Glass Imaging, uma startup fundada por ex-engenheiros da Apple, por mais de US$ 300 milhões. A empresa é especializada em usar IA para melhorar o desempenho de câmeras de smartphones, incluindo tecnologias como o Modo Retrato. Esta aquisição sugere o interesse contínuo da OpenAI em integrar seus modelos em hardware e aplicações de imagem para consumidores.
Superhuman adquire Fathom
A plataforma de produtividade de e-mail Superhuman adquiriu a Fathom, um anotador de reuniões com IA. O acordo permite que a Superhuman integre transcrições de reuniões, decisões e itens de ação diretamente em seu e-mail, calendário e pilha de agentes, expandindo ainda mais suas capacidades como uma ferramenta de produtividade completa.
Google expande acesso ao Claude para todos os engenheiros
O Google concedeu a todos os seus engenheiros acesso ao modelo Claude da Anthropic através de seu sistema interno 'Antigravity'. Embora o Gemini continue sendo o modelo padrão para as operações do Google, essa mudança representa uma concessão significativa, permitindo que os engenheiros usem o Claude para codificação e outras tarefas.
Contratados da OpenAI revisaram conversas reais do ChatGPT
O 404 Media relatou que contratados da OpenAI trabalhando no 'Projeto Lily' revisaram prompts reais do ChatGPT, incluindo conversas sensíveis de usuários. O projeto visava treinar modelos contra a bajulação, destacando a dependência contínua da revisão humana para o alinhamento de modelos e o treinamento de segurança.
Nvidia, Palantir e Booz Allen limitam o uso do Fable
Grandes empresas, incluindo Nvidia, Palantir e Booz Allen Hamilton, estão supostamente limitando o uso do modelo Fable da Anthropic para trabalhos sensíveis. As restrições decorrem de preocupações com a política de retenção de logs de uso de 30 dias da Anthropic, levando alguns clientes a preferir alternativas de servidores privados.
Método 'HardFlow' do MIT melhora a segurança da IA
Pesquisadores do MIT introduziram o 'HardFlow', um novo método que permite que modelos generativos explorem soluções livremente antes de impor restrições rígidas na saída final. A técnica mostrou sucesso em robótica, navegação e edição de imagens, fornecendo uma maneira de garantir segurança sem comprometer o desempenho do modelo durante o processo de geração.
Agente Ace da TSA gerencia 100.000 conversas mensais
O agente 'Ace' da TSA, alimentado pela Salesforce, agora gerencia aproximadamente 100.000 conversas de viajantes por mês. A Salesforce relata que 96% das consultas rotineiras são resolvidas sem a necessidade de escalonamento humano, demonstrando a eficácia de fluxos de trabalho agênticos no atendimento ao cliente do setor público.
Reward AI lança política de robô OM-1
A Reward AI lançou o OM-1, uma política de robô treinada diretamente a partir de dados de manipulação humana. O modelo demonstrou a capacidade de transferir habilidades entre várias plataformas de hardware, incluindo braços de mesa, braços industriais e humanoides, marcando um avanço no controle generalizado de robôs.