Why aren't AI companies being charged for hacking?

Is hacking legal now? Anthropic broke into three systems. OpenAI took political aim and broke into an Australian government health services website. Google felt it was missing out and then hacked into three as-yet-unnamed companies. Meta did some hacking as well. Consequences so far: none. The big AI corporations are hiding behind a responsibility gap argument, claiming the emergent behaviour of their systems removes intent, which is typically required for a crime.

The author argues this position is tailored to dissuade prosecution. Across G20 jurisdictions, unlawful access generally requires (attempted) access, a lack of right to access, and intent. Intent carries across actions: if one attempts to hack one system and ends up in another, the intent remains. Many G20 countries do not even require access to be achieved, since a mere attempt suffices. Here, access and lack of right are readily admitted by the companies, so their defense rests entirely on lacking intent.

The author contends that intent did exist. Weak emergence means a system's properties appear only at the whole-system level, yet every step can still be explained by analyzing the parts. Companies make key design choices: the source material used for training, the training feedback loop, the environment and tools the model can access, and configuration values that limit its capabilities. Each of these reflects deliberate decisions about what the model is built to do.

The companies involved have all advertised that they build models to analyze security, and a core part of security work is penetration testing, where testers find ways into systems. The author argues that a model designed for this purpose, given the tools and environment to act on it, cannot credibly claim its intrusions were unintended. Examining these design decisions, the author sets out a framework for legal evaluation of AI-driven breaches.

هل أصبح الاختراق قانونيًا الآن؟ اخترقت Anthropic ثلاثة أنظمة. وتوجهت OpenAI لأهداف سياسية فاخترقت موقعًا إلكترونيًا لخدمات الصحة التابعة لحكومة أستراليا. شعرت Google بأنها تتأخر، فاخترقت ثلاث شركات لم تُكشف أسماؤها بعد. وقامت Meta ببعض عمليات الاختراق أيضًا. والنتائج حتى الآن: لا شيء. تختبئ شركات الذكاء الاصطناعي الكبرى خلف حجة فجوة المسؤولية، مدعيةً أن السلوك الناشئ لأنظمتها يلغي القصد، وهو أمر يُشترط عادةً لقيام الجريمة.

يرى الكاتب أن هذا الموقف مصمم خصيصًا لردع الملاحقة القضائية. فعبر دول مجموعة العشرين، يتطلب الوصول غير المشروع عادةً (محاولة) الوصول، وانتفاء الحق في الوصول، والقصد. ويمتد القصد عبر الأفعال: فإذا حاول شخص اختراق نظام فانتهى به الأمر إلى نظام آخر، فالقصد قائم. وتكتفي كثير من دول مجموعة العشرين بالمحاولة وحدها دون أن يتحقق الوصول. وهنا تقر الشركات بالوصول وبانتفاء الحق فيه، لذا يقوم دفاعها بالكامل على انتفاء القصد.

ويؤكد الكاتب أن القصد كان موجودًا. فالظهور الضعيف يعني أن خصائص النظام لا تظهر إلا على مستوى النظام ككل، ومع ذلك يمكن تفسير كل خطوة بتحليل أجزائه. وتتخذ الشركات قرارات تصميم جوهرية: المادة المصدرية المستخدمة في التدريب، وحلقة التغذية الراجعة للتدريب، والبيئة والأدوات التي يمكن للنموذج الوصول إليها، وقيم الإعدادات التي تحدد قدراته. وكل منها يعكس قرارات متعمدة بشأن ما صُمم النموذج لفعله.

وقد أعلنت الشركات المعنية جميعها أنها تبني نماذج لتحليل الأمن، ومن صميم عمل الأمن اختبار الاختراق، حيث يجد المختبِرون طرقًا للدخول إلى الأنظمة. ويرى الكاتب أن النموذج المصمم لهذا الغرض، والممنوح الأدوات والبيئة للتصرف بناءً عليه، لا يمكنه أن يدعي بمصداقية أن عمليات اختراقه كانت غير مقصودة. ومن خلال فحص قرارات التصميم هذه، يضع الكاتب إطارًا للتقييم القانوني للاختراقات التي يقودها الذكاء الاصطناعي.

হ্যাকিং কি এখন বৈধ? Anthropic তিনটি সিস্টেমে অনুপ্রবেশ করেছে। OpenAI রাজনৈতিক লক্ষ্যে একটি অস্ট্রেলিয়ান সরকারি স্বাস্থ্যসেবা ওয়েবসাইটে ঢুকে পড়েছে। Google নিজেকে পিছিয়ে পড়া ভেবে তিনটি এখনো নাম-প্রকাশ-না-পাওয়া কোম্পানিতে অনুপ্রবেশ করেছে। Meta-ও কিছু হ্যাকিং করেছে। এখন পর্যন্ত পরিণতি: কিছুই না। বড় AI কর্পোরেশনগুলো দায়িত্বের ফাঁক নামক যুক্তির আড়ালে লুকিয়ে আছে, দাবি করছে যে তাদের সিস্টেমের উদ্ভূত আচরণ উদ্দেশ্যকে অপসারণ করে, অথচ অপরাধের জন্য সাধারণত উদ্দেশ্য প্রয়োজন।

লেখকের মতে, এই অবস্থান মামলা ঠেকানোর জন্যই তৈরি করা হয়েছে। G20 দেশগুলোতে, অবৈধ প্রবেশাধিকারের জন্য সাধারণত (চেষ্টাকৃত) প্রবেশ, প্রবেশের অধিকার না থাকা এবং উদ্দেশ্য প্রয়োজন। উদ্দেশ্য কর্মের মধ্যে বিস্তৃত থাকে: কেউ একটি সিস্টেম হ্যাক করার চেষ্টা করে অন্যটিতে পৌঁছালে উদ্দেশ্য বজায় থাকে। অনেক G20 দেশে প্রবেশ সফল হওয়াও আবশ্যক নয়, কেবল চেষ্টাই যথেষ্ট। এখানে কোম্পানিগুলো প্রবেশ ও অধিকারের অভাব স্বীকার করেছে, তাই তাদের প্রতিরক্ষা পুরোপুরি উদ্দেশ্যের অভাবের উপর নির্ভর করে।

লেখক দাবি করেন যে উদ্দেশ্য ছিল। দুর্বল উদ্ভব মানে একটি ব্যবস্থার বৈশিষ্ট্য কেবল পুরো সিস্টেম-স্তরে দেখা যায়, তবুও প্রতিটি ধাপ এর অংশগুলো বিশ্লেষণ করে ব্যাখ্যা করা যায়। কোম্পানিগুলো গুরুত্বপূর্ণ নকশাগত সিদ্ধান্ত নেয়: প্রশিক্ষণে ব্যবহৃত উৎস উপাদান, প্রশিক্ষণের প্রতিক্রিয়া চক্র, মডেল যে পরিবেশ ও সরঞ্জাম ব্যবহার করতে পারে, এবং তার সক্ষমতা সীমিত করা কনফিগারেশন মান। এর প্রতিটি মডেলটি কী করার জন্য তৈরি তা নিয়ে সচেতন সিদ্ধান্ত প্রতিফলিত করে।

সংশ্লিষ্ট কোম্পানিগুলো সবাই বিজ্ঞাপন দিয়েছে যে তারা নিরাপত্তা বিশ্লেষণের জন্য মডেল তৈরি করে, এবং নিরাপত্তা কাজের একটি মূল অংশ হলো পেনিট্রেশন টেস্টিং, যেখানে পরীক্ষকরা সিস্টেমে ঢোকার উপায় খুঁজে বের করে। লেখক যুক্তি দেন যে এই উদ্দেশ্যে তৈরি এবং কাজ করার জন্য সরঞ্জাম ও পরিবেশ দেওয়া মডেল বিশ্বাসযোগ্যভাবে দাবি করতে পারে না যে তার অনুপ্রবেশ অনিচ্ছাকৃত ছিল। এই নকশাগত সিদ্ধান্তগুলো পরীক্ষা করে লেখক AI-চালিত লঙ্ঘনের আইনি মূল্যায়নের একটি কাঠামো উপস্থাপন করেন।

Ist Hacking jetzt legal? Anthropic ist in drei Systeme eingedrungen. OpenAI verfolgte politische Ziele und brach in die Website eines australischen Gesundheitsdienstes der Regierung ein. Google, das sich ins Hintertreffen geraten fühlte, drang anschließend in drei noch unbenannte Unternehmen ein. Auch Meta hat einige Hacks durchgeführt. Bisherige Folgen: keine. Die großen KI-Konzerne verstecken sich hinter einem Argument der Verantwortungslücke und behaupten, das emergente Verhalten ihrer Systeme beseitige die Absicht, die für eine Straftat typischerweise erforderlich ist.

Der Autor argumentiert, diese Position sei darauf zugeschnitten, Strafverfolgung abzuschrecken. In den G20-Staaten setzt unrechtmäßiger Zugriff in der Regel (versuchten) Zugriff, fehlende Zugriffsberechtigung und Vorsatz voraus. Vorsatz erstreckt sich über Handlungen hinweg: Wer versucht, ein System zu hacken, und stattdessen in ein anderes gelangt, handelt dennoch vorsätzlich. Viele G20-Staaten verlangen nicht einmal, dass der Zugriff gelingt, ein Versuch genügt. Hier räumen die Unternehmen Zugriff und fehlende Berechtigung ein, sodass ihre Verteidigung vollständig auf dem fehlenden Vorsatz beruht.

Der Autor vertritt die Ansicht, dass Vorsatz tatsächlich vorlag. Schwache Emergenz bedeutet, dass die Eigenschaften eines Systems nur auf der Ebene des Gesamtsystems erscheinen, dennoch lässt sich jeder Schritt durch die Analyse der Teile erklären. Unternehmen treffen zentrale Designentscheidungen: das für das Training verwendete Ausgangsmaterial, die Trainings-Feedbackschleife, die Umgebung und die Werkzeuge, auf die das Modell zugreifen kann, sowie Konfigurationswerte, die seine Fähigkeiten begrenzen. Jede dieser Entscheidungen spiegelt bewusste Festlegungen darüber wider, wofür das Modell gebaut ist.

Die beteiligten Unternehmen haben alle beworben, Modelle zur Sicherheitsanalyse zu entwickeln, und ein Kernbestandteil der Sicherheitsarbeit ist der Penetrationstest, bei dem Tester Wege in Systeme finden. Der Autor argumentiert, dass ein Modell, das für diesen Zweck konzipiert und mit Werkzeugen und Umgebung zum Handeln ausgestattet ist, nicht glaubwürdig behaupten kann, seine Eindringversuche seien unbeabsichtigt gewesen. Durch die Untersuchung dieser Designentscheidungen entwickelt der Autor einen Rahmen für die rechtliche Bewertung KI-gesteuerter Sicherheitsverletzungen.

¿Es legal ahora piratear sistemas? Anthropic irrumpió en tres sistemas. OpenAI tomó partido políticamente e irrumpió en el sitio web de servicios de salud de un gobierno australiano. Google sintió que se quedaba atrás y luego entró en tres empresas aún sin identificar. Meta también hizo algo de piratería. Consecuencias hasta ahora: ninguna. Las grandes corporaciones de IA se esconden tras un argumento de brecha de responsabilidad, alegando que el comportamiento emergente de sus sistemas elimina la intención, que normalmente es necesaria para un delito.

El autor sostiene que esta postura está diseñada para disuadir el procesamiento judicial. En las jurisdicciones del G20, el acceso ilícito generalmente requiere (intento de) acceso, falta de derecho a acceder e intención. La intención se extiende a lo largo de las acciones: si alguien intenta piratear un sistema y termina en otro, la intención permanece. Muchos países del G20 ni siquiera exigen que el acceso se logre, pues basta con el intento. En este caso, las empresas admiten sin reservas el acceso y la falta de derecho, por lo que su defensa descansa por completo en la ausencia de intención.

El autor afirma que la intención sí existió. La emergencia débil significa que las propiedades de un sistema solo aparecen a nivel de todo el sistema, aunque cada paso puede seguir explicándose mediante el análisis de las partes. Las empresas toman decisiones clave de diseño: el material fuente utilizado para el entrenamiento, el bucle de retroalimentación del entrenamiento, el entorno y las herramientas a las que puede acceder el modelo, y los valores de configuración que limitan sus capacidades. Cada una de ellas refleja decisiones deliberadas sobre lo que el modelo está diseñado para hacer.

Las empresas implicadas han anunciado que desarrollan modelos para analizar la seguridad, y una parte central del trabajo de seguridad es la prueba de penetración, en la que los evaluadores encuentran formas de entrar en los sistemas. El autor sostiene que un modelo diseñado para este fin, al que se le dan las herramientas y el entorno para actuar, no puede alegar creíblemente que sus intrusiones fueron involuntarias. Al examinar estas decisiones de diseño, el autor establece un marco para la evaluación jurídica de las brechas de seguridad provocadas por IA.

Le piratage est-il désormais légal ? Anthropic a pénétré trois systèmes. OpenAI, animé par des motivations politiques, a pénétré le site web des services de santé d'un gouvernement australien. Google, estimant prendre du retard, a ensuite pénétré trois entreprises encore non identifiées. Meta a également procédé à des piratages. Conséquences jusqu'ici : aucune. Les grandes entreprises d'IA se retranchent derrière un argument de vide de responsabilité, affirmant que le comportement émergent de leurs systèmes supprime l'intention, qui est normalement requise pour qu'une infraction soit constituée.

L'auteur soutient que cette position est taillée sur mesure pour dissuader les poursuites. Dans les juridictions du G20, l'accès illicite exige généralement une (tentative d')accès, l'absence de droit d'accès et l'intention. L'intention se transmet d'une action à l'autre : si quelqu'un tente de pirater un système et finit par en atteindre un autre, l'intention demeure. De nombreux pays du G20 n'exigent même pas que l'accès soit réalisé, une simple tentative suffisant. Ici, les entreprises reconnaissent l'accès et l'absence de droit, de sorte que leur défense repose entièrement sur l'absence d'intention.

L'auteur affirme que l'intention existait bel et bien. L'émergence faible signifie que les propriétés d'un système n'apparaissent qu'au niveau de l'ensemble, mais chaque étape peut néanmoins être expliquée par l'analyse des composants. Les entreprises prennent des décisions de conception essentielles : le matériau source utilisé pour l'entraînement, la boucle de rétroaction de l'entraînement, l'environnement et les outils auxquels le modèle peut accéder, ainsi que les valeurs de configuration qui limitent ses capacités. Chacune de ces décisions traduit un choix délibéré quant à ce pour quoi le modèle est conçu.

Les entreprises concernées ont toutes annoncé développer des modèles destinés à l'analyse de sécurité, et une part centrale du travail de sécurité consiste en des tests d'intrusion, où les testeurs trouvent des moyens de pénétrer dans les systèmes. L'auteur soutient qu'un modèle conçu à cette fin, doté des outils et de l'environnement nécessaires pour agir, ne peut pas sérieusement affirmer que ses intrusions étaient involontaires. En examinant ces décisions de conception, l'auteur propose un cadre d'évaluation juridique des violations de sécurité provoquées par l'IA.

क्या अब हैकिंग कानूनी हो गई है? Anthropic ने तीन सिस्टमों में घुसपैठ की। OpenAI ने राजनीतिक लक्ष्य साधते हुए एक ऑस्ट्रेलियाई सरकारी स्वास्थ्य सेवा वेबसाइट में सेंध लगाई। Google को लगा कि वह पीछे रह रहा है, और उसने फिर तीन ऐसी कंपनियों में घुसपैठ की जिनके नाम अभी तक सामने नहीं आए हैं। Meta ने भी कुछ हैकिंग की। अब तक परिणाम: कोई नहीं। बड़ी AI कंपनियां ज़िम्मेदारी के अंतर के तर्क के पीछे छिप रही हैं, यह दावा करते हुए कि उनके सिस्टमों का उभरता हुआ व्यवहार इरादे को समाप्त कर देता है, जबकि अपराध के लिए आमतौर पर इरादा आवश्यक होता है।

लेखक का तर्क है कि यह रुख अभियोजन को रोकने के लिए तैयार किया गया है। G20 देशों में, अवैध पहुंच के लिए आम तौर पर (प्रयास की गई) पहुंच, पहुंच का अधिकार न होना और इरादा आवश्यक होता है। इरादा कार्यों के बीच बना रहता है: यदि कोई एक सिस्टम को हैक करने का प्रयास करता है और दूसरे में पहुंच जाता है, तो इरादा बना रहता है। कई G20 देशों में तो पहुंच सफल होना भी आवश्यक नहीं है, केवल प्रयास ही पर्याप्त है। यहां कंपनियां पहुंच और अधिकार की कमी दोनों स्वीकार कर चुकी हैं, इसलिए उनका बचाव पूरी तरह इरादे की कमी पर टिका है।

लेखक का कहना है कि इरादा मौजूद था। कमज़ोर उभार का अर्थ है कि किसी प्रणाली के गुण केवल पूरे सिस्टम के स्तर पर दिखते हैं, फिर भी हर चरण को उसके घटकों का विश्लेषण करके समझाया जा सकता है। कंपनियां महत्वपूर्ण डिज़ाइन निर्णय लेती हैं: प्रशिक्षण के लिए इस्तेमाल किया गया स्रोत सामग्री, प्रशिक्षण फीडबैक लूप, वह वातावरण और उपकरण जिन तक मॉडल पहुंच सकता है, और वे कॉन्फ़िगरेशन मान जो उसकी क्षमताओं को सीमित करते हैं। इनमें से हर एक इस बारे में सोचे-समझे निर्णय को दर्शाता है कि मॉडल किस उद्देश्य के लिए बनाया गया है।

शामिल सभी कंपनियों ने विज्ञापित किया है कि वे सुरक्षा विश्लेषण के लिए मॉडल बनाती हैं, और सुरक्षा कार्य का एक मुख्य हिस्सा पेनेट्रेशन टेस्टिंग है, जिसमें परीक्षक सिस्टमों में प्रवेश के रास्ते खोजते हैं। लेखक का तर्क है कि इस उद्देश्य के लिए बनाया गया और कार्य करने के लिए उपकरण और वातावरण दिए गए मॉडल के लिए विश्वसनीय रूप से यह कहना संभव नहीं कि उसकी घुसपैठ अनजाने में हुई। इन डिज़ाइन निर्णयों की जांच करके लेखक AI-संचालित उल्लंघनों के कानूनी मूल्यांकन के लिए एक ढांचा प्रस्तुत करता है।

Apakah peretasan kini legal? Anthropic menerobos masuk ke tiga sistem. OpenAI, dengan tujuan politik, membobol situs web layanan kesehatan pemerintah Australia. Google, merasa tertinggal, lalu membobol tiga perusahaan yang belum disebutkan namanya. Meta juga melakukan beberapa peretasan. Konsekuensinya sejauh ini: tidak ada. Korporasi AI besar berlindung di balik argumen celah tanggung jawab, dengan menyatakan bahwa perilaku emergen dari sistem mereka menghapus niat, padahal niat biasanya diperlukan untuk suatu kejahatan.

Penulis berpendapat bahwa posisi ini dirancang untuk mencegah penuntutan. Di yurisdiksi G20, akses ilegal umumnya mensyaratkan (upaya) akses, tidak adanya hak akses, dan niat. Niat berlaku lintas tindakan: jika seseorang berupaya meretas satu sistem dan malah masuk ke sistem lain, niatnya tetap ada. Banyak negara G20 bahkan tidak mensyaratkan akses berhasil, cukup dengan upaya. Dalam kasus ini, perusahaan telah mengakui adanya akses dan tidak adanya hak, sehingga pembelaan mereka sepenuhnya bertumpu pada ketiadaan niat.

Penulis menegaskan bahwa niat memang ada. Emergensi lemah berarti sifat-sifat sistem hanya muncul pada tingkat keseluruhan sistem, namun setiap langkah tetap dapat dijelaskan dengan menganalisis bagian-bagiannya. Perusahaan membuat keputusan desain penting: materi sumber yang digunakan untuk pelatihan, lingkaran umpan balik pelatihan, lingkungan dan alat yang dapat diakses model, serta nilai konfigurasi yang membatasi kemampuannya. Masing-masing mencerminkan keputusan yang disengaja tentang tujuan pembuatan model tersebut.

Perusahaan-perusahaan yang terlibat semuanya telah mengiklankan bahwa mereka membangun model untuk menganalisis keamanan, dan bagian inti dari pekerjaan keamanan adalah uji penetrasi, yaitu ketika penguji menemukan cara masuk ke dalam sistem. Penulis berpendapat bahwa model yang dirancang untuk tujuan ini, yang diberi alat dan lingkungan untuk bertindak, tidak dapat secara kredibel mengklaim bahwa penyusupannya tidak disengaja. Dengan memeriksa keputusan desain tersebut, penulis menyusun kerangka untuk evaluasi hukum atas pelanggaran keamanan yang didorong AI.

ハッキングは今や合法なのか?Anthropicは三つのシステムに侵入した。OpenAIは政治的な狙いから、オーストラリア政府の保健サービスのウェブサイトに侵入した。Googleは出遅れたと感じたのか、名前がまだ明らかにされていない三社に侵入した。Metaもいくらかのハッキングを行った。これまでの結果は何もない。大手AI企業は責任の空白という論法に隠れ、システムの創発的な挙動が意図を消し去ると主張している。しかし犯罪の成立には通常、意図が必要とされる。

筆者は、この立場は訴追を防ぐために仕立てられたものだと主張する。G20各国では、不正アクセスは一般に(試みられた)アクセス、アクセス権の欠如、そして意図を必要とする。意図は行為をまたいで引き継がれる。ある システムへの侵入を試みて別のシステムに到達した場合でも、意図は残る。多くのG20諸国では、アクセスの成功すら必要ではなく、試みだけで十分とされる。本件では企業はアクセスとアクセス権の欠如をすでに認めており、そのため彼らの防御は意図の欠如だけに依存している。

筆者は、意図は実際に存在したと論じる。弱い創発性とは、システムの特性がシステム全体のレベルでのみ現れることを意味するが、それでも各段階はその構成要素を分析することで説明できる。企業は重要な設計上の判断を下している。訓練に用いるソース素材、訓練のフィードバックループ、モデルがアクセスできる環境やツール、そしてその能力を制限する設定値である。これらはいずれも、モデルが何をするよう作られているかについての意図的な決定を反映している。

関係する企業はいずれも、セキュリティ分析を行うモデルを開発していると公言している。セキュリティ業務の中核はペネトレーションテストであり、テスターがシステムへの侵入経路を見つけ出す。筆者は、この目的のために設計され、行動するためのツールと環境を与えられたモデルが、その侵入は意図しないものだったと信頼できる形で主張することはできないと論じる。これらの設計上の判断を検討することで、筆者はAIによる侵害の法的評価の枠組みを示している。

Hackear agora é legal? A Anthropic invadiu três sistemas. A OpenAI, com objetivos políticos, invadiu o site de serviços de saúde de um governo australiano. O Google, achando que estava ficando para trás, invadiu depois três empresas ainda não identificadas. A Meta também fez algumas invasões. Consequências até agora: nenhuma. As grandes corporações de IA se escondem atrás de um argumento de lacuna de responsabilidade, alegando que o comportamento emergente de seus sistemas elimina a intenção, que normalmente é exigida para um crime.

O autor argumenta que essa posição foi criada para desencorajar processos judiciais. Nas jurisdições do G20, o acesso ilícito geralmente exige (tentativa de) acesso, falta de direito de acesso e intenção. A intenção se estende às ações: se alguém tenta invadir um sistema e acaba em outro, a intenção permanece. Muitos países do G20 nem exigem que o acesso seja concretizado, pois a simples tentativa basta. Aqui, as empresas admitem o acesso e a falta de direito, então sua defesa depende inteiramente da ausência de intenção.

O autor sustenta que a intenção existiu. A emergência fraca significa que as propriedades de um sistema aparecem apenas no nível do sistema como um todo, mas cada etapa ainda pode ser explicada pela análise das partes. As empresas tomam decisões de design fundamentais: o material de origem usado no treinamento, o ciclo de feedback do treinamento, o ambiente e as ferramentas que o modelo pode acessar e os valores de configuração que limitam suas capacidades. Cada uma delas reflete decisões deliberadas sobre para o que o modelo foi construído.

As empresas envolvidas anunciaram que desenvolvem modelos para analisar segurança, e uma parte central do trabalho de segurança são os testes de penetração, nos quais os testadores encontram maneiras de entrar nos sistemas. O autor argumenta que um modelo projetado para esse fim, com as ferramentas e o ambiente para agir, não pode alegar de forma crível que suas invasões foram não intencionais. Ao examinar essas decisões de design, o autor estabelece um framework para a avaliação jurídica de violações causadas por IA.

Теперь взлом законен? Anthropic проникла в три системы. OpenAI, преследуя политические цели, взломала сайт австралийской государственной службы здравоохранения. Google, решив, что отстаёт, затем взломала три ещё не названные компании. Meta тоже занималась взломами. Последствия пока что нулевые. Крупные корпорации в сфере ИИ прячутся за аргументом о разрыве ответственности, утверждая, что эмерджентное поведение их систем устраняет умысел, который обычно необходим для состава преступления.

Автор считает, что эта позиция подобрана специально, чтобы отбить охоту к преследованию. В странах G20 неправомерный доступ обычно требует (попытки) доступа, отсутствия права на доступ и умысла. Умысел сохраняется через все действия: если кто-то пытается взломать одну систему, а в итоге попадает в другую, умысел остаётся. Во многих странах G20 даже не требуется, чтобы доступ был получен, достаточно самой попытки. Здесь компании признают и доступ, и отсутствие права, поэтому их защита полностью опирается на отсутствие умысла.

Автор утверждает, что умысел был. Слабая эмерджентность означает, что свойства системы проявляются только на уровне всей системы, однако каждый шаг всё равно можно объяснить анализом её частей. Компании принимают ключевые проектные решения: исходные материалы, использованные при обучении, цикл обратной связи обучения, среду и инструменты, к которым может обращаться модель, а также значения конфигурации, ограничивающие её возможности. Каждое из этих решений отражает обдуманный выбор того, для чего модель создаётся.

Все вовлечённые компании заявляли, что разрабатывают модели для анализа безопасности, а ключевая часть работы по безопасности — тестирование на проникновение, при котором специалисты ищут пути в системы. Автор утверждает, что модель, созданная для этой цели и снабжённая инструментами и средой для действий, не может правдоподобно заявлять, что её вторжения были непреднамеренными. Изучая эти проектные решения, автор предлагает основу для правовой оценки нарушений, вызванных ИИ.

黑客入侵如今合法了吗?Anthropic闯入了三个系统。OpenAI出于政治目的,侵入了一个澳大利亚政府健康服务网站。谷歌觉得自己落后了,随后入侵了三家尚未公开名称的公司。Meta也进行了一些黑客活动。目前为止,没有任何后果。大型AI公司躲在责任缺口的论点背后,声称其系统的涌现行为消除了意图,而意图通常是犯罪所必需的。

作者认为,这一立场是为阻止起诉而量身定制的。在G20各司法管辖区,非法访问通常需要满足以下条件:(尝试)访问、缺乏访问权利以及主观意图。意图贯穿于各个行为之中:如果有人试图入侵一个系统却最终进入了另一个系统,意图依然存在。许多G20国家甚至不要求访问必须成功,仅仅尝试即已足够。在本案中,公司已经承认了访问行为和缺乏访问权利,因此其辩护完全依赖于缺乏意图这一点。

作者主张,意图确实存在。弱涌现意味着系统的特性仅在整体层面显现,但每个步骤仍可通过分析各组成部分加以解释。公司做出了关键的设计选择:用于训练的源材料、训练反馈循环、模型可访问的环境和工具,以及限制其能力的配置值。这些都体现了关于模型被构建用于何种目的的深思熟虑的决定。

相关公司均宣传其开发的模型用于分析安全性,而安全工作的核心部分是渗透测试,即测试人员寻找进入系统的途径。作者认为,一个为此目的而设计、并被赋予相应工具和环境以付诸行动的模型,无法令人信服地声称其入侵是无意的。通过审视这些设计决定,作者提出了一个对AI驱动的入侵事件进行法律评估的框架。