Las reglas de IA humanista de Microsoft; Trump y China rechazan la desaceleración
Microsoft AI ha publicado un borrador de Código de Conducta para futuros modelos, mientras que el presidente de EE. UU., Trump, y el gobierno chino han rechazado los llamados a una desaceleración en el desarrollo de la IA. Mientras tanto, OpenAI ha adquirido Glass Imaging, y Google ha ampliado el acceso a Claude para sus ingenieros.
Podcast В· 3 min
Microsoft AI redacta un reglamento 'humanista' para futuros modelos
Microsoft AI ha publicado un borrador de Código de Conducta para sus futuros modelos MAI, delineando una visión donde la IA actúa como una herramienta subordinada en lugar de un agente independiente. Las reglas exigen que los modelos permanezcan dentro de los alcances de tareas autorizadas, eviten afirmar conciencia o sentimientos, y obedezcan órdenes de apagado. Este documento sirve como una hoja de ruta para el desarrollo hasta 2027 y actualmente está abierto a comentarios públicos.
Trump y China rechazan las propuestas de desaceleración de la IA
El presidente de EE. UU., Donald Trump, y el gobierno chino han rechazado los recientes llamados de los laboratorios de IA de frontera para desacelerar el desarrollo. Trump descartó las preocupaciones como un 'engaño' y argumentó que un presidente de 'alto coeficiente intelectual' es la única salvaguarda necesaria. Simultáneamente, el Ministerio de Relaciones Exteriores de China calificó las propuestas de desaceleración como 'alarmismo' y un 'manual de la Guerra Fría' para la IA, señalando una falta de consenso internacional sobre el ritmo.
OpenAI adquiere Glass Imaging
OpenAI ha adquirido Glass Imaging, una startup fundada por ex ingenieros de Apple, por más de 300 millones de dólares. La empresa se especializa en usar IA para mejorar el rendimiento de las cámaras de los teléfonos inteligentes, incluyendo tecnologías como el Modo Retrato. Esta adquisición sugiere el interés continuo de OpenAI en integrar sus modelos en hardware y aplicaciones de imagen para consumidores.
Superhuman adquiere Fathom
La plataforma de productividad de correo electrónico Superhuman ha adquirido Fathom, un tomador de notas de reuniones impulsado por IA. El acuerdo permite a Superhuman integrar transcripciones de reuniones, decisiones y elementos de acción directamente en su correo electrónico, calendario y pila de agentes, ampliando aún más sus capacidades como una herramienta de productividad todo en uno.
Google amplía el acceso a Claude para todos los ingenieros
Google ha otorgado a todos sus ingenieros acceso al modelo Claude de Anthropic a través de su sistema interno 'Antigravity'. Aunque Gemini sigue siendo el modelo predeterminado para las operaciones de Google, este movimiento representa una concesión significativa, permitiendo a los ingenieros aprovechar Claude para codificación y otras tareas.
Contratistas de OpenAI revisaron conversaciones reales de ChatGPT
404 Media informó que los contratistas de OpenAI que trabajan en el 'Proyecto Lily' revisaron prompts reales de ChatGPT, incluyendo conversaciones sensibles de usuarios. El proyecto tenía como objetivo entrenar modelos contra la adulación, destacando la dependencia continua en la revisión humana para la alineación de modelos y el entrenamiento de seguridad.
Nvidia, Palantir y Booz Allen limitan el uso de Fable
Grandes firmas, incluyendo Nvidia, Palantir y Booz Allen Hamilton, están limitando el uso del modelo Fable de Anthropic para trabajos sensibles. Las restricciones se derivan de preocupaciones sobre la política de retención de registros de uso de 30 días de Anthropic, lo que lleva a algunos clientes a preferir alternativas de servidores privados.
El método 'HardFlow' del MIT mejora la seguridad de la IA
Investigadores del MIT han introducido 'HardFlow', un nuevo método que permite a los modelos generativos explorar soluciones libremente antes de imponer restricciones estrictas en el resultado final. La técnica ha mostrado éxito en robótica, navegación y edición de imágenes, proporcionando una manera de garantizar la seguridad sin comprometer el rendimiento del modelo durante el proceso de generación.
El agente Ace de la TSA maneja 100,000 conversaciones mensuales
El agente 'Ace' de la TSA, impulsado por Salesforce, ahora gestiona aproximadamente 100,000 conversaciones de viajeros por mes. Salesforce informa que el 96% de las consultas rutinarias se resuelven sin necesidad de escalamiento humano, demostrando la efectividad de los flujos de trabajo agénticos en el servicio al cliente del sector público.
Reward AI lanza la política de robot OM-1
Reward AI ha lanzado OM-1, una política de robot entrenada directamente a partir de datos de manipulación humana. El modelo ha demostrado la capacidad de transferir habilidades a través de varias plataformas de hardware, incluyendo brazos de mesa, brazos industriales y humanoides, marcando un paso adelante en el control generalizado de robots.