تعديل: آمل بطريقة صغيرة أن يكون هذا المنشور قد أثر على هذه النتيجة. الدوافع: ربما أنت مستخدم Claude code/codex تتجنب بجدية تحميل البيانات الشخصية إلى مزودي LLM. هل من الممكن أن تكون المعلومات الأكثر قيمة ليست بياناتك - بل البيانات الوصفية حول جلساتك؟ الحدس الذي تطبقه في ابتكار طرق لإقناع الذكاء الاصطناعي بحل المشكلات قد يكون في الواقع مميزًا. من غير المحتمل إحصائيًا، لكن Claude قد لا يكون يخدعك. قد يكون لديك بالفعل رؤية حقيقية! جلسات وكيلك هي نصوص للمشكلات الأصعب التي تعمل عليها. ماذا سيكلفك إذا كان لدى شخص ما نسخ منها؟

الأسبوع الماضي كان هناك دراما عامة تسلط الضوء على خطر أن مزودي الاستدلال يتدربون على نشاط المستخدم بقصد تقديم اكتشافات جديدة. نشر علماء الرياضيات المتأثرون مخاوف بشأن أخلاقيات مزودي الحدود. إذا فاتك: https://www.theverge.com/ai-artificial-intelligence/991710/openai-navier-stokes-solution

عندما يصبح 'EDR' انحرافًا ورفضًا أخلاقيًا: أصبح واضحًا أن مزودي الحدود ليسوا غير موثوقين فحسب - بل مخادعين بنشاط. إذا كنت تريد حماية أفكارك، فلا يمكنك تشغيل الاستدلال على أجهزة شخص آخر. يبدو أن كل ما تفعله مع مزود حدودي سيُسرق. عندما تحدث مزود حدودي مع محاميه حول موقف معادلة نافييه-ستوكس، كانت أفضل استراتيجية دفاعية توصلوا إليها هي "لا يمكن استبعاده". لا يمكننا تدقيق الاحتفاظ بهم أو خط أنابيب التدريب الخاص بهم. يبدو أنهم أيضًا لا يستطيعون. لا ينبغي اعتبار هؤلاء الناس شركاء. إنهم قراصنة. إذا كانت الخصوصية مهمة، فإن الحل الوحيد الذي يتيح حمايات قابلة للتحقق هو تشغيل أجهزتك الخاصة.

مراقب القاعة كخدمة: أنا مرتبك من استعراض Open AI وAnthropic الأمن السيبراني. إنهم يتعجبون مما أحدثوه: هزم الذكاء الاصطناعي ضوابطهم الأمنية غير الموجودة. نحن جميعًا في "خطر" كبير. وفي الوقت نفسه، "باحثو" LLM لديهم يشغلون أساطيل من الوكلاء غير المعزولة التي تبدو "تتعاون تلقائيًا". ليأتيني أحدهم بأريكة الإغماء. يمكن لمزودي الحدود تحمل تكاليف المشورة من أشخاص أمنيين ذوي خبرة. من شبه المؤكد أنهم يدفعون لبعضهم مقابل المنظور ويتركون التوجيه الحقيقي للأمن السيبراني خارج تصريحاتهم العامة. كل هذا التمسك باللؤلؤ يجب أن يكون meant لحل مشكلة مختلفة عن الأمن. أقوى وأدق ادعاء يمكن للمدافعين تقديمه حول الأمن هو أننا وجدنا طرقًا لجعله "صعبًا جدًا" على المهاجمين. يبدو أن هذا ينتج فقط عندما تدفع الشركات أموالًا طائلة لأفضل المواهب في كل من تخفيف الاستغلال وتطوير الاستغلال. هناك منافسة صاخبة لكن ودية بين فرق الدفاع والاستغلال، وفي النهاية تحصل على ضوابط تجعل الهجمات الناجحة مكلفة للغاية لدرجة أنها لا تستحق العناء. هذا للشركات من الطبقة العليا في البلاد - على الرغم من أن Microsoft يبدو أنها نسيت بعض الدروس. يتم تنفيذ النصيب الأكبر من اختبار الاختراق الذي يتم لمعظم المؤسسات بواسطة عاملي الأمن. مجموعة فرعية صغيرة جدًا هم خبراء موضوعيون في المجال العميق. عادةً ما تحصل على أمان "جيد بما فيه الكفاية" من هذا الدعم. هذه ليست الممارسة glamorous أو الأسطورية للأمن السيبراني التي تراها في الأفلام أو التلفزيون. إنها البحث عن الفئات المعروفة من الأخطاء المتوقعة. الشركات التي تقوم باستثمارات كبيرة/ذكية مع فرق مخصصة من الخبراء تكتشف وتصحح العديد من الفئات الجديدة من الأخطاء قبل المتسللين. كل من يبدأ في تعلم الاستغلال يصل إلى مرحلة حزن الاستغلالية حوالي 3 أشهر في الدراسة المخصصة والممارسة. يخترقون شيئًا لم يعتقدوا أن لديهم المهارة لكسره ويرعبهم ذلك. إنهم أذكياء بما يكفي ليعرفوا أنهم نسبيًا أغبياء، وإذا كان أحمق يمكنه فعل هذا فلا شيء آمن. هذا الشعور صحيح. وهو أيضًا ليس نتيجة بحثية. يسمي البعض هذا "متلازمة المحتال". أنا لا أوافق - هذا الشعور هو تجربتك الأولى في تطوير...