Escenarios de seguridad de IA de Sam Altman, el debut de Arda con $1.5B, y los ingresos de IA de SpaceX
Este resumen cubre los tres finales de seguridad de IA de Sam Altman, el lanzamiento de $1.5 mil millones de Arda de Bob McGrew, los significativos ingresos de IA de SpaceX, y la propuesta de legislación de seguridad de IA de Anthropic.
Podcast В· 4 min
Sam Altman describe tres finales para la seguridad de la IA
El CEO de OpenAI, Sam Altman, compartió recientemente con su personal tres escenarios potenciales para el futuro de la seguridad de la IA. Estos incluyen el establecimiento de un organismo de control global similar al Organismo Internacional de Energía Atómica, un 'plan Demis' (llamado así por Demis Hassabis de DeepMind) que fusiona los principales laboratorios en una sola entidad, o un resultado 'terrible' donde un laboratorio se adelanta para dominar la potencia informática. Altman enfatizó que OpenAI debe elegir su camino dentro del próximo año, un proceso que denominó 'pacing 2.0', que debe incluir límites de velocidad definidos para la IA que se auto-mejora.
El exdirector de investigación de OpenAI, Bob McGrew, lanza Arda con una valoración de $1.5B
El exdirector de investigación de OpenAI, Bob McGrew, ha salido del sigilo con Arda, una startup centrada en automatizar la configuración de líneas de montaje en fábricas. La empresa se lanzó con una valoración de $1.5 mil millones tras una ronda de financiación Serie A de $160 millones. Arda pretende hacer por los ingenieros de fabricación lo que los asistentes de codificación hacen por los programadores, utilizando IA para planificar construcciones a partir de archivos de diseño. La empresa de defensa Anduril, el primer cliente de Arda, informó que las instrucciones de montaje ahora toman 15 minutos en comparación con las 10 horas anteriores.
SpaceX reporta $7.5B en ingresos relacionados con IA
SpaceX ha revelado que su nueva división 'Super Intelligence' generó $7.5 mil millones en ingresos durante el tercer trimestre, representando aproximadamente la mitad de los $14.6 mil millones de ingresos totales de la empresa. Esta división abarca Grok, la herramienta de codificación de IA Cursor, y un negocio de 'neocloud' que proporciona potencia de cálculo para centros de datos. La empresa reportó gastos de capital de $19.6 mil millones este trimestre, impulsados en gran medida por inversiones en centros de datos y cohetes Starship.
OpenAI adquiere Orchestra Bio
OpenAI ha adquirido Orchestra Bio, una startup especializada en agentes de IA que rastrean y monitorean estudios de desarrollo de fármacos. La tecnología se integrará en las herramientas de ciencias de la vida Rosalind de OpenAI para ayudar a detectar retrasos y efectos en cadena en programas farmacéuticos complejos.
Otter.ai consigue financiación de $320M
Otter.ai ha recaudado $320 millones del Fondo de Valor del Cliente de General Catalyst. La financiación está estructurada en torno a rendimientos del gasto en marketing en lugar de ventas de capital tradicionales, apoyando el crecimiento continuo de su plataforma de inteligencia de reuniones.
Anthropic propone un proyecto de ley de seguridad de IA
Anthropic ha redactado un proyecto de ley federal de seguridad de IA que facultaría al Departamento de Comercio para solicitar un bloqueo judicial de los lanzamientos de modelos si representan un riesgo inminente de causar 50 o más muertes o $1 mil millones en daños. Esta propuesta refleja los esfuerzos continuos de la empresa para establecer marcos regulatorios para los modelos de IA de frontera.
Claude de Anthropic diseña proteínas antiveneno de escorpión
Anthropic publicó una investigación realizada con Citrini Research, en la que Claude diseñó proteínas para unirse y desarmar las toxinas del veneno de escorpión. De 318,484 diseños candidatos generados por la IA, 211 fueron probados en laboratorios, y 17 se unieron con éxito a sus objetivos. Aunque el proyecto no resultó en un antiveneno universal, demuestra el potencial de la IA para acelerar el descubrimiento de fármacos.
Vulnerabilidad en la aplicación Muse de Meta expuso chats compartidos
La empresa de seguridad Claroc descubrió que los chats compartidos de la aplicación Muse de Meta se podían encontrar a través de registros web públicos sin el enlace original. El problema se debía a la estructura de URL de la aplicación, que incluía títulos de chat, lo que permitía que los servicios DNS pasivos los indexaran. Meta ha pausado la función de compartir mientras investiga la vulnerabilidad.
ChatGPT introduce chats bloqueados con PIN
OpenAI ha lanzado una nueva función para ChatGPT que permite a los usuarios proteger conversaciones sensibles detrás de un PIN o Face ID. Estos chats bloqueados mantienen una memoria separada de las interacciones estándar, mejorando la privacidad para flujos de trabajo específicos.
DeepSeek publica el código de DeepInfer
DeepSeek ha publicado el código de DeepInfer, el motor que impulsa su IA V4.1-Flash. El lanzamiento incluye soporte para chips Huawei, lo que permite a las empresas implementar el modelo sin depender del hardware de Nvidia.
Skyfall AI presenta SKY-001
Skyfall AI ha presentado SKY-001, un modelo diseñado para redactar diseños 3D de piezas y edificios. La empresa afirma que el sistema es significativamente más rápido y más barato que los modelos de frontera existentes.
Zoom añade detección de deepfakes
Zoom anunció una nueva función de detección de riesgo de deepfakes programada para diciembre. La herramienta analiza video y audio en vivo en busca de signos de alteración y proporciona un indicador de confianza a los usuarios.
Spotify elimina más de 50 millones de pistas 'basura'
Spotify ha eliminado más de 50 millones de pistas identificadas como 'basura' o spam de sus recomendaciones este año. La plataforma también está restringiendo a los artistas de IA-persona de sus algoritmos de recomendación por defecto para priorizar el arte humano.
Radical Numerics reporta aprobación de la FDA para un virus diseñado por IA
Radical Numerics afirma un hito significativo en la medicina diseñada por IA, declarando que la FDA ha aprobado un virus diseñado por su IA Omnii-1 para un paciente con una infección resistente al tratamiento.
Thore Graepel presenta Metis Reasoning
El exinvestigador de DeepMind, Thore Graepel, ha lanzado Metis Reasoning, una startup de IA que aplica técnicas al estilo de AlphaGo a chatbots para permitirles verificar sus resultados contra evidencia.