ред.: Надеюсь, каким-то малым образом этот пост повлиял на этот результат. Мотивации: Возможно, вы пользователь Claude code/codex, старательно избегающий загрузки личных данных провайдерам LLM. Возможно ли, что самая ценная информация — это не ваши данные, а метаданные о ваших сессиях? Интуиции, которые вы применяете, придумывая способы уговорить ИИ решать проблемы, могут на самом деле быть особенными. Статистически маловероятно, но Claude может и не газлайтить вас. Может быть, у вас действительно есть настоящая идея! Ваши сессии агента — это расшифровки самых сложных проблем, над которыми вы работаете. Чего бы вам стоило, если бы у кого-то были их копии?

На прошлой неделе была публичная драма, проливающая свет на риск того, что провайдеры инференса обучаются на активности пользователей с намерением предоставить новые открытия. Затронутые математики опубликовали опасения по поводу этики пограничных провайдеров. Если вы пропустили: https://www.theverge.com/ai-artificial-intelligence/991710/openai-navier-stokes-solution

Когда «EDR» становится этическим уклонением и отказом: Стало очевидно, что пограничные провайдеры не только ненадёжны, но и активно коварны. Если вы хотите защитить свои идеи, вы не можете запускать инференс на чужом оборудовании. Похоже, всё, что вы делаете с пограничным провайдером, будет украдено. Когда пограничный провайдер обсуждал ситуацию с уравнением Навье-Стокса со своими юристами, лучшая защитная стратегия, которую они придумали, — «Нельзя исключать». Мы не можем проверить их хранение или их конвейер обучения. По-видимому, они тоже не могут. Этих людей не следует считать партнёрами. Они пираты. Если конфиденциальность важна, единственное решение, обеспечивающее проверяемую защиту, — это эксплуатация собственного оборудования.

Наблюдатель за коридором как услуга: Я озадачен громкими заявлениями Open AI и Anthropic о кибербезопасности. Они изумляются тому, что натворили: ИИ победил их несуществующие средства контроля безопасности. Мы все в большой «опасности». Тем временем их «исследователи» LLM запускают непесочные флоты агентов, которые, похоже, «спонтанно сотрудничают». Пусть кто-нибудь принесёт мне мою кушетку для обмороков. Пограничные провайдеры могут позволить себе консультации опытных специалистов по безопасности. Они почти наверняка платят некоторым из них за перспективу и оставляют реальное руководство по кибербезопасности вне своих публичных заявлений. Вся эта паника, должно быть, предназначена для решения другой проблемы, а не безопасности. Самое сильное и точное утверждение, которое защитники могут сделать о безопасности, — это то, что мы нашли способы сделать её «довольно сложной» для атакующих. Это, похоже, происходит только тогда, когда компании платят большие деньги за лучшие таланты как в смягчении эксплойтов, так и в разработке эксплойтов. Между командами защиты и эксплуатации идёт шумное, но дружеское соперничество, и в конце концов вы получаете средства контроля, которые делают успешные атаки настолько дорогими, что они того не стоят. Это для компаний высшего уровня в стране — хотя Microsoft, похоже, забыла некоторые уроки. Львиная доля пентестов, проводимых для большинства предприятий, выполняется специалистами по безопасности общего профиля. Очень небольшая часть — это глубокие предметные эксперты. Обычно вы получаете «достаточно хорошую» безопасность от такой поддержки. Это не гламурная или мифическая практика кибербезопасности, которую вы видите в фильмах или по телевизору. Это поиск известных классов предсказуемых ошибок. Компании, которые делают большие/умные инвестиции с выделенными командами экспертов, обнаруживают и исправляют многие новые классы ошибок раньше хакеров. Каждый, кто начинает изучать эксплуатацию, достигает фазы горя по эксплуатируемости примерно через 3 месяца целенаправленного, практикуемого изучения. Они взламывают что-то, что, как им казалось, они не имеют навыка взломать, и это их ужасает. Они достаточно умны, чтобы знать, что относительно говоря они идиоты, и если идиот может это сделать, то ничто не безопасно. Это чувство правильное. Это также не результат исследования. Некоторые называют это «синдромом самозванца». Я не согласен — это чувство — ваш первый опыт разработки...