Líderes de IA piden moderación; Apple lanza Siri AI
Líderes de la industria abogan por ralentizar el desarrollo de la IA, mientras Apple lanza iOS 27 con Siri AI integrado. Anthropic informa sobre el uso indebido de la IA y surgen nuevos acontecimientos geopolíticos en torno a la infraestructura de IA.
Podcast В· 3 min
Líderes de la industria piden una moderación en el desarrollo de la IA
El CEO de Anthropic, Dario Amodei, ha publicado un ensayo en el que aboga por una ralentización deliberada del desarrollo de la IA, citando preocupaciones sobre la automelioración recursiva y los posibles riesgos de seguridad. En una inusual muestra de alineación en la industria, el CEO de OpenAI, Sam Altman, Elon Musk de xAI y el CEO de Microsoft, Satya Nadella, han expresado su apoyo a esta dirección. La conversación está ganando impulso, y se informa de que el Rey Carlos organiza una cumbre en Escocia para líderes de Nvidia, Google DeepMind, OpenAI y Anthropic con el fin de debatir principios de seguridad compartidos. Sin embargo, el consenso no es universal. El expresidente Trump ha calificado estos llamamientos de "fuerzas negativas", argumentando que Estados Unidos debe mantener su liderazgo en la carrera de la IA. Mientras tanto, se informa de que OpenAI se ha dirigido al Congreso para determinar si una ralentización en toda la industria podría violar las leyes antimonopolio, lo que pone de relieve la tensión entre la coordinación de la seguridad y las prácticas competitivas del mercado. Este cambio refleja una creciente constatación de que la superinteligencia (sistemas de IA capaces de superar a los humanos en la mayoría de los ámbitos) plantea retos de control que requieren algo más que soluciones técnicas. Mientras la industria debate la necesidad de frenos, la presión geopolítica por mantenerse a la cabeza sigue siendo un obstáculo importante para cualquier pausa mundial coordinada.
Anthropic detalla operaciones de uso indebido de la IA
Anthropic ha publicado un nuevo informe de inteligencia de amenazas que detalla varios casos de uso indebido de la IA que la empresa ha desbaratado. El informe destaca un grupo de espionaje vinculado a Rusia que automatizó partes de su cadena de ataque y reconstruyó malware para eludir las herramientas de seguridad. Además, Anthropic identificó una célula armada con base en Yemen que utiliza Claude Code para ayudar en el diseño de sistemas de guiado de cohetes y misiles, así como una red de aplicaciones de citas con base en China que opera con más de 4.700 personajes de IA para contactar al menos a 25.000 personas. En otro caso, un consultor utilizó Claude para desarrollar software de vigilancia para los servicios de inteligencia de Malí, dirigido a unos 25 millones de tarjetas SIM. Anthropic declaró que ha prohibido las cuentas implicadas y, en algunos casos, ha coordinado con otros proveedores de IA para desbaratar estas operaciones. Estos hallazgos subrayan la naturaleza de doble uso de los modelos avanzados de IA y el desafío constante de impedir que actores malintencionados utilicen estas herramientas para sofisticadas amenazas cibernéticas y físicas.
Apple lanza iOS 27 con Siri AI
Apple ha lanzado oficialmente iOS 27, que incluye la tan esperada 'Siri AI'. La actualización incluye una renovación completa de la aplicación, conciencia en pantalla y un modelo de lenguaje desarrollado con la ayuda de Gemini de Google. Este lanzamiento marca un paso significativo en la integración de la IA generativa por parte de Apple en su ecosistema móvil. La nueva experiencia Siri AI está restringida al iPhone 15 Pro y modelos más nuevos, dejando a los dispositivos más antiguos con la actualización estándar pero sin las capacidades avanzadas de IA. Este despliegue sigue a un período de retrasos en el desarrollo, ya que Apple supuestamente retiró versiones anteriores del asistente más inteligente debido a problemas de fiabilidad.
Microsoft Copilot permite el intercambio de modelos
Microsoft ha introducido discretamente una función que permite a los usuarios de Microsoft 365 Copilot intercambiar el modelo predeterminado de OpenAI por el de Anthropic, Claude, para tareas específicas. El cambio es más prominente en el agente 'Investigador', que analiza correos electrónicos, archivos y datos web. Los usuarios ahora pueden seleccionar diferentes modelos según sus necesidades de razonamiento específicas, prefiriéndose a menudo Claude para análisis de formato largo, mientras que el modelo predeterminado permanece optimizado para la velocidad. Esta flexibilidad responde a los comentarios de los usuarios sobre el rendimiento variable de los modelos en consultas complejas. Las organizaciones pueden gestionar esta capacidad a través del centro de administración de Microsoft 365, aunque la opción está desactivada por defecto en la UE y el Reino Unido.
La IA mejora la detección de defectos cerebrales fetales
Un ensayo aleatorizado realizado en cinco hospitales de China ha demostrado que la asistencia de la IA puede mejorar significativamente la detección de malformaciones cerebrales fetales durante las ecografías prenatales. El estudio utilizó PAICS, un modelo de aprendizaje profundo entrenado para señalar 10 malformaciones específicas en tiempo real. Los resultados mostraron que la sensibilidad de detección de los ecografistas aumentó del 78,6% al 87,3% cuando usaban la IA, sin un aumento correspondiente en las falsas alarmas. El ensayo destaca el potencial de la IA para servir como un "segundo par de ojos" en entornos clínicos. Cabe destacar que la intervención humana siguió siendo fundamental, ya que los ecografistas anularon correctamente aproximadamente el 60% de los errores de la IA. Si bien las exploraciones tomaron alrededor de 40 segundos más en promedio, la mejora en la precisión del diagnóstico sugiere un camino prometedor para la integración de la IA en la atención de embarazos de alto riesgo.
El Pentágono considera un préstamo de $5 mil millones para infraestructura de IA
Según informes, el Pentágono está negociando la concesión de un préstamo de 5.000 millones de dólares a la startup de computación en la nube Fluidstack. La iniciativa tiene como objetivo fortalecer la fabricación y las cadenas de suministro estadounidenses de componentes para centros de datos, lo que refleja la creciente importancia estratégica de la infraestructura de IA para la seguridad nacional. Mientras tanto, en la Cumbre de los BRICS en Nueva Delhi, China ha propuesto la creación de una comunidad de IA de código abierto para fomentar el desarrollo compartido y el uso industrial entre los países miembros, lo que indica un enfoque divergente para la gobernanza mundial de la IA.