edición: Espero que de alguna pequeña manera esta publicación haya influido en este resultado. Motivaciones: Quizás eres un usuario de Claude code/codex que evita diligentemente subir datos personales a proveedores de LLM. ¿Es posible que la información más valiosa no sean tus datos, sino los metadatos sobre tus sesiones? Las intuiciones que aplicas al idear formas de persuadir a la IA para resolver problemas podrían ser realmente especiales. Es estadísticamente improbable, pero puede que Claude no te esté manipulando. ¡Puede que realmente tengas una idea real! Tus sesiones de agente son transcripciones de los problemas más difíciles en los que trabajas. ¿Qué te costaría si alguien tuviera copias de ellas?

La semana pasada hubo drama público que arroja luz sobre el riesgo de que los proveedores de inferencia estén entrenando con la actividad del usuario con la intención de entregar nuevos descubrimientos. Los matemáticos afectados han publicado preocupaciones sobre la ética de los proveedores frontera. Si te lo perdiste: https://www.theverge.com/ai-artificial-intelligence/991710/openai-navier-stokes-solution

Cuando 'EDR' se convierte en Deflexión y Rechazo Ético: Se ha vuelto evidente que los proveedores frontera no solo no son confiables, sino activamente maliciosos. Si quieres proteger tus ideas, no puedes ejecutar inferencia en el hardware de otra persona. Parece ser el caso que todo lo que hagas con un proveedor frontera será robado. Cuando un proveedor frontera discutió la situación de la ecuación de Navier-Stokes con sus abogados, la mejor estrategia defensiva que se les ocurrió es "No se puede descartar". No podemos auditar su retención ni su pipeline de entrenamiento. Aparentemente ellos tampoco. Estas personas no deberían ser consideradas socios. Son piratas. Si la privacidad importa, la única solución que permite protecciones verificables es operar tu propio hardware.

Monitor de pasillo como servicio: Estoy desconcertado por la grandilocuencia de Open AI y Anthropic sobre ciberseguridad. Se maravillan de lo que han provocado: la IA venció sus controles de seguridad inexistentes. Todos estamos en gran 'peligro'. Mientras tanto, sus "investigadores" de LLM están ejecutando flotas de agentes sin sandbox que parecen "colaborar espontáneamente". Que alguien me traiga mi sofá de desmayo. Los proveedores frontera pueden permitirse asesoramiento de personas con experiencia en seguridad. Casi con certeza están pagando a algunos de ellos por perspectiva y dejando la guía real de ciberseguridad fuera de sus declaraciones públicas. Todo este escándalo debe estar destinado a resolver un problema diferente a la seguridad. La afirmación más fuerte y precisa que los defensores pueden hacer sobre seguridad es que hemos encontrado formas de hacerlo "Bastante Difícil" para los atacantes. Esto parece resultar solo cuando las empresas pagan tarifas altas por el mejor talento tanto en mitigación de exploits como en desarrollo de exploits. Hay una competencia ruidosa pero amistosa entre los equipos de defensa y explotación, y eventualmente obtienes controles que hacen que los ataques exitosos sean tan costosos que no valen la pena. Esto es para las empresas de primer nivel del país, aunque Microsoft parece haber olvidado algunas lecciones. La mayor parte del pentesting realizado para la mayoría de las empresas es realizado por generalistas de seguridad. Un subconjunto muy pequeño son expertos en la materia de dominio profundo. Por lo general, obtienes seguridad "suficientemente buena" de ese soporte. Esta no es la práctica glamorosa o mítica de la ciberseguridad que ves en películas o televisión. Es buscar las clases conocidas de errores predecibles. Las empresas que hacen grandes/inteligentes inversiones con equipos dedicados de expertos descubren y corrigen muchas nuevas clases de errores antes que los hackers. Todos los que comienzan a aprender explotación alcanzan una fase de duelo por la explotabilidad aproximadamente 3 meses después de un estudio dedicado y practicado. Hackean algo que no creían tener la habilidad de vulnerar y eso les aterra. Son lo suficientemente inteligentes para saber que, relativamente hablando, son idiotas, y si un idiota puede hacer esto, entonces nada está seguro. Ese sentimiento es correcto. Tampoco es un hallazgo de investigación. Algunos llaman a esto "síndrome del impostor". No estoy de acuerdo: ese sentimiento es tu primera experiencia desarrollando...