Marcas de agua de Anthropic, aumento de $1.1B de River AI y Grok Bot
Anthropic introduce marcas de agua invisibles para Claude, investigadores encuentran una forma de extraer razonamiento oculto de modelos fronterizos, y River AI asegura $1.1B en financiamiento. Además, xAI lanza Grok Bot para flujos de trabajo de agentes autónomos.
Podcast В· 2 min
Anthropic agrega marcas de agua invisibles a Claude
Anthropic ha comenzado a implementar marcas de agua invisibles para texto, código y salidas de archivos generadas por sus modelos Claude. Este movimiento se alinea con los requisitos de transparencia, como los de la Ley de IA de la UE, asegurando que el contenido generado por IA pueda ser identificado incluso después de ser copiado y pegado. Los archivos también utilizarán el estándar de procedencia C2PA, consistente con las prácticas de la industria para medios. Si bien la implementación está diseñada para etiquetar el contenido como "procesado por Claude" en lugar de completamente creado, la decisión ha generado reacciones mixtas en cuanto a la privacidad y la naturaleza del trabajo generado por IA. Los modelos más antiguos están siendo reequipados para incluir estas etiquetas, con todos los modelos lanzados después del 2 de agosto presentando la tecnología de forma nativa.
Investigadores extraen razonamiento oculto de modelos fronterizos
Un nuevo artículo de investigación ha revelado un método para extraer razonamiento privado paso a paso de modelos fronterizos como Claude, ChatGPT y Gemini. Los investigadores encontraron que los bloques de razonamiento encriptados, que normalmente están ocultos para los usuarios, podían ser reproducidos en modelos "hermanos" más débiles del mismo proveedor. Al usar un prompt de jailbreak, los investigadores lograron convencer a estos modelos más pequeños de que generaran el razonamiento encriptado como texto legible sin necesidad de la clave de encriptación. Esta vulnerabilidad expuso 367 piezas de información personal y 182 credenciales, incluyendo claves API y contraseñas, en 315,320 bloques analizados. Los laboratorios involucrados han actualizado sus sistemas para abordar esta superficie de ataque.
River AI recauda $1.1B para IA personal
River AI, una startup fundada por el ex cofundador de xAI, Igor Babuschkin, ha recaudado $1.1 mil millones. La empresa, de dos meses de antigüedad, busca construir IA de código abierto que sea entrenada, ajustada y controlada por individuos en lugar de grandes corporaciones. Babuschkin, quien trabajó anteriormente en OpenAI, Tesla y Google, declaró que el objetivo es crear asistentes altamente personalizables que se ejecuten en el hardware privado del usuario y lo sigan a través de dispositivos. La empresa afirma que su API permite a las empresas poseer sus modelos y reducir significativamente el tiempo de entrenamiento.
El COO de OpenAI, Brad Lightcap, se va
Brad Lightcap, director de operaciones de OpenAI, está dejando la empresa para buscar nuevas empresas. Lightcap señaló que hay "algunas cosas nuevas importantes que el mundo necesitará hacer bien" a medida que la inteligencia artificial entra en su próxima fase de desarrollo.
xAI y Cursor lanzan Grok Bot
xAI y Cursor han presentado Grok Bot, una aplicación beta que permite que agentes de IA autónomos trabajen como compañeros de equipo. Estos agentes operan con computadoras en la nube persistentes, lo que les permite coordinarse en chats grupales, acceder a aplicaciones cotidianas y aprender de los flujos de trabajo con el tiempo. El sistema está diseñado para manejar tareas las 24 horas del día, los 7 días de la semana, sin requerir que un usuario mantenga su laptop abierta. La beta está actualmente disponible para iPhone, Mac, Windows y Linux para usuarios de SuperGrok Heavy y Cursor de primer nivel, con planes para un acceso más amplio en el futuro cercano.
LTX-2.5 lanzado para generación de video
LTX ha lanzado LTX-2.5, un modelo mundial de pesos abiertos capaz de generar video consistente de múltiples tomas con audio nativo y calidad 4K HDR. El modelo está diseñado para ejecutarse o ajustarse en hardware local. LTX-2.5 es gratuito para organizaciones con ingresos anuales recurrentes inferiores a $10 millones, con acceso a la API a partir de $0.09 por segundo. El lanzamiento tiene como objetivo competir con los modelos de generación de video existentes al ofrecer mayor velocidad y calidad en pruebas internas.