El nuevo modelo Astra de OpenAI utilizará una técnica de razonamiento llamada "recurrent depth", también conocida como "recurrencia opaca", que le permite operar fuera del pensamiento secuencial típico de la mayoría de los modelos de razonamiento, según un informe de The Information. Esta técnica hace más difícil monitorear la cadena de pensamiento del modelo, lo que genera preocupaciones entre los expertos en seguridad de IA.

El CEO de Redwood, Buck Shlegeris, expresó un extrema preocupación, advirtiendo que si OpenAI impulsa la técnica más allá, podría "aumentar masivamente la recurrencia y destruir completamente la monitorabilidad de Co T". El defensor de la seguridad de IA Zvi Mowshowitz llamó a la técnica "jugar con fuego" e insinuó que podrían ser necesarias leyes para prevenir una "carrera hacia abajo" entre los laboratorios de IA.

En circunstancias normales, la cadena de pensamiento de un modelo de razonamiento proporciona pasos secuenciales para monitorear un comportamiento inapropiado. En la recurrencia opaca, el modelo procesa consultas en un bucle, dejando menos rastros legibles. Sin embargo, el uso de la técnica por parte de Astra parece limitado, y OpenAI se ha mantenido firme contra sugerencias de que cambiaría a "neuralese", enfatizando su compromiso con cadenas de pensamiento legibles a través del chief scientist Jakub Pachocki.

The Information informó posteriormente que tanto Anthropic como Google Deep Mind ya están discutiendo la técnica. El chief scientist de Redwood Research, Ryan Greenblatt, advirtió que el razonamiento opaco podría escalar más rápido que los métodos convencionales, potencialmente eliminando toda la razonación de los canales visibles.