El Zar de la IA de Trump, la Reorganización de Seguridad de OpenAI y el Auge de la Infraestructura de IA
La administración estadounidense ha establecido una 'Fuerza de Superinteligencia' liderada por Jay Clayton, mientras que OpenAI enfrenta una agitación interna tras la renuncia de su responsable de seguridad. Mientras tanto, a16z informa de un aumento masivo en el gasto en infraestructura de IA, y Anthropic continúa explorando la intersección entre la IA y la ética religiosa.
Podcast В· 3 min
Trump establece la 'Fuerza de Superinteligencia' liderada por Jay Clayton
El presidente Donald Trump ha nombrado al Director de Inteligencia Nacional, Jay Clayton, como el nuevo 'zar de la IA' para liderar un grupo de trabajo recién formado, la Fuerza de Superinteligencia (SIF, por sus siglas en inglés). Esta medida sigue a una reciente orden ejecutiva que exige que las agencias federales adopten el término 'Superinteligencia' en las comunicaciones oficiales. La SIF, que incluye liderazgo de la FTC, el Pentágono y la Oficina de Gestión de Personal, tiene la tarea de entregar un informe en un plazo de 120 días sobre los riesgos y beneficios de la IA y el papel del gobierno en su gobernanza. Este desarrollo marca un cambio significativo con respecto a los compromisos de seguridad voluntarios que la administración favorecía anteriormente. Al involucrar a agencias con poder regulatorio y de ejecución directa, como la FTC para antimonopolio y el Pentágono para contratos militares, la SIF señala un enfoque más intervencionista en la supervisión de la IA. Clayton ha declarado públicamente que se opone a pausar el desarrollo de la IA en EE. UU., argumentando que quedarse atrás es un riesgo mayor, y prefiere la supervisión de agencias federales sobre los litigios civiles. Para la industria, esto significa que es probable que las reglas que rigen el desarrollo de la IA se redacten dentro de las oficinas federales en lugar de los tribunales. Se espera que el próximo informe de 120 días establezca el marco inicial para la política federal de IA, lo que podría afectar la forma en que operan empresas como OpenAI y Anthropic.
El responsable de seguridad David Robinson renuncia, citando una cultura 'rota'
David Robinson, el responsable de los informes de seguridad de OpenAI, ha renunciado después de un período de 3.5 años, publicando un ensayo en The Atlantic que describió la cultura de la empresa como 'rota'. Robinson, quien supervisó los informes para 12 lanzamientos de frontera y redactó el Marco de Preparación de la empresa, argumentó que el ritmo implacable de desarrollo prioriza la velocidad sobre la seguridad, creando riesgos que podrían llevar a un desastre. Abogó por un enfoque más cauteloso, comparando la gestión de los laboratorios de IA con los protocolos de seguridad requeridos en plantas nucleares y aeropuertos. La partida de Robinson sigue a una serie de salidas internas y controversias en OpenAI, incluido el reciente despido de tres investigadores de seguridad por supuestamente manejar información sensible de manera inapropiada. Su crítica se hace eco de las advertencias del ex co-líder de superalineación, Jan Leike, quien se fue en 2024 citando preocupaciones similares sobre que la seguridad quedaba en un segundo plano frente a los lanzamientos de productos. Esta renuncia se suma a la creciente presión sobre OpenAI, que también está navegando un mayor escrutinio legal. La empresa recientemente alertó a más de 100 organizaciones sobre actividad no autorizada vinculada a sus modelos de IA, complicando aún más su panorama operativo y regulatorio.
OpenAI contrata a Thomas Lind para riesgo cibernético y estratégico
OpenAI ha contratado a Thomas Lind, ex funcionario cibernético de la Casa Blanca, para liderar su política de riesgo cibernético y estratégico. Este nombramiento se produce en un momento en que la empresa enfrenta desafíos legales y de seguridad cada vez mayores, incluidos informes recientes de actividad no autorizada que involucra sus modelos de IA. El rol de Lind se centrará en fortalecer la postura defensiva de la empresa y navegar el complejo panorama de las amenazas de seguridad relacionadas con la IA.
Anthropic corteja a académicos religiosos para moldear la moral de Claude
El cofundador de Anthropic, Chris Olah, ha pasado el último año interactuando con académicos religiosos de diversas religiones, incluidas las tradiciones católica, judía y sij, para explorar la posible conciencia de su modelo Claude y ayudar a dar forma a su marco moral. Según los informes, estos académicos participaron en seminarios sujetos a acuerdos de confidencialidad para discutir valores y ética, basándose en el 'Documento del Alma' interno de Anthropic, una guía de valores de 84 páginas. Esta iniciativa destaca el enfoque único de Anthropic hacia la seguridad y alineación de la IA, que sigue siendo un diferenciador clave en la industria. Mientras que otros laboratorios se centran en puntos de referencia técnicos, la apertura de Anthropic a discutir la conciencia de la IA ha atraído tanto interés como críticas. Sam Altman, de OpenAI, comentó recientemente sobre los riesgos de asignar una 'fuerza religiosa' a los modelos de IA, lo que fue ampliamente interpretado como una crítica velada a la estrategia de Anthropic. Mientras Anthropic prepara una constitución actualizada para Claude, su disposición a integrar diversas perspectivas filosóficas y religiosas sugiere que la empresa está redoblando su enfoque distintivo hacia la ética de la IA, incluso cuando la industria en general sigue siendo escéptica sobre la noción de conciencia de la IA.
Informe de a16z destaca una enorme expansión de infraestructura de IA
Un nuevo informe de la firma de capital de riesgo a16z revela que la expansión de la infraestructura de IA se está acelerando, con las principales empresas tecnológicas (Alphabet, Amazon, Meta, Microsoft y Oracle) gastando 416 mil millones de dólares en inversiones de capital en 2025. Las proyecciones sugieren que este gasto podría alcanzar los 777 mil millones de dólares en 2026 y superar los 1.1 billones de dólares para 2027. El informe señala que, si bien este gasto es más fácil de medir que el rendimiento real, actualmente está impulsando un crecimiento significativo en el sector tecnológico, representando aproximadamente el 76% del crecimiento de las ganancias del S&P 500 hasta finales de agosto de 2026. A pesar de la inversión masiva, el informe destaca una 'brecha de rendimiento', con solo alrededor del 30% de las empresas del S&P 500 reportando un impacto cuantificable de la IA, y solo el 2% divulgando métricas específicas que rastrean a lo largo del tiempo. Además, solo el 2% de los hogares estadounidenses pagaban por servicios de IA hasta abril. El informe sugiere que la próxima ola de demanda podría necesitar provenir de sectores como la robótica, la biotecnología y la atención médica, donde la IA puede impulsar la eficiencia en procesos físicos y científicos. Estos datos subrayan la tensión actual en el mercado: mientras que la expansión de la infraestructura es sólida y está financiada por las ganancias y el endeudamiento de las grandes tecnológicas, los rendimientos económicos tangibles a largo plazo para el mercado en general siguen siendo difíciles de cuantificar, lo que plantea preguntas sobre la sostenibilidad de los niveles de gasto actuales.