OpenAI, the Partition Principle, and Mathematics

By the time I got out of bed yesterday, three people had asked me if I'd seen the OpenAI announcement that the Partition Principle does not imply the Axiom of Choice. The number kept increasing throughout the day, and I can see why. I am well known for my interest in this problem. Indeed, at least two people asked whether I plan to send Sam Altman a bottle of whisky, as promised on my Problems page. The answer is no, and I want to explain why you should be very angry at OpenAI.

First, let me clarify. I am not entirely against the use of AI. I understand it is a tool, and many people find it useful. I think we need to better understand how this technology changes our field and how we want to use it before we rush to commit to it. This is why I generally avoid using AI for mathematics, though I am happy to use LLMs to consolidate information, generate an infographic, or proofread an email. The framework for using it in research is still missing. arXiv has introduced rate limiting in response to these tools, and almost all papers should now include an AI statement. We also need to decide how to judge an author's contribution. Should chat logs be made public, or at least available to reviewers and editors?

But back to the Partition Principle. I took a brief look at the preprint released by OpenAI, though not the Lean code, since that was enormous and I know little about Lean. The preprint was unclear, muddled, and oddly structured. The terminology was "a bit off," and it contained theorems I would not expect to be proved, stated in a strange manner. Lemma 7.4 and Lemma 8.1 are not something you would expect in a paper like this.

The references were also problematic. A paper of mine on the Bristol model is cited for a basic introduction to symmetric extensions, which is not the reference I would have chosen. Three unpublished, unrefereed lecture notes that are not on arXiv are also used, including one of mine that refers to a proposition I am certain appears in published work. That is not what you would expect from a serious preprint claiming to solve a problem.

A competent set theory paper outside my specialty can usually be skimmed to grasp its strategy. In my own area of expertise, the Axiom of Choice, I can quickly work out what the authors intended. With OpenAI's paper, this was impossible. If it were submitted to a journal, it should be desk rejected for quality. The onus is on the author to meet the standards of clear communication, and OpenAI has dropped hundreds of "solutions" that are incomprehensibly written.

عندما نهضتُ من فراشي أمس، كان ثلاثة أشخاص قد سألوني إن كنت قد اطلعت على إعلان OpenAI بأن مبدأ التجزئة لا يستلزم مسلمة الاختيار. وازداد هذا العدد طوال اليوم، ويمكنني أن أفهم السبب. فأنا معروف باهتمامي بهذه المسألة. بل إن شخصين على الأقل سألاني إن كنت أنوي إرسال زجاجة ويسكي إلى Sam Altman، كما وعدتُ في صفحة "المسائل" الخاصة بي. والجواب هو لا، وأريد أن أشرح لماذا يجب أن تغضبوا كثيرًا من OpenAI.

أولًا، دعوني أوضح أمرًا. لستُ معارضًا تمامًا لاستخدام الذكاء الاصطناعي. فأنا أدرك أنه أداة، وأن كثيرين يجدونه مفيدًا. وأرى أننا بحاجة إلى فهم أفضل لكيفية تغيير هذه التقنية لمجالنا، وكيف نريد استخدامها، قبل أن نسارع إلى الالتزام بها. ولهذا أتجنب عمومًا استخدام الذكاء الاصطناعي في الرياضيات، وإن كنتُ أستعين بنماذج اللغة الكبيرة لتجميع المعلومات أو إنشاء رسم معلوماتي أو تدقيق رسالة إلكترونية. لا يزال الإطار الخاص باستخدامها في البحث العلمي مفقودًا. فقد فرض arXiv حدودًا على معدل الإرسال استجابةً لهذه الأدوات، ويجب أن تتضمن معظم الأوراق البحثية الآن بيانًا حول الذكاء الاصطناعي. كما علينا أن نقرر كيف نقيّم مساهمة المؤلف. فهل يجب إتاحة سجلات المحادثات للعامة، أو على الأقل للمحكّمين والمحررين؟

لكن لنعد إلى مبدأ التجزئة. ألقيتُ نظرة سريعة على المسودة الأولية التي نشرتها OpenAI، لكن ليس على شيفرة Lean، إذ كانت ضخمة وأنا ملم بقدر ضئيل بهذه اللغة. كانت المسودة غامضة ومرتبكة ذات بنية غريبة. فالمصطلحات كانت "غير دقيقة إلى حد ما"، وتضمنت نظريات لا أتوقع إثباتها، وصيغت بطريقة غريبة. كما أن الدليل 7.4 والدليل 8.1 ليسا مما يُتوقع رؤيته في ورقة كهذه.

وكانت المراجع إشكالية أيضًا. فقد استُشهد بورقة لي عن نموذج Bristol من أجل مقدمة أساسية للامتدادات المتماثلة، وهو ليس المرجع الذي كنت لأختاره. واستُخدمت ثلاث مذكرات محاضرات غير منشورة وغير محكّمة وغير مرفوعة على arXiv، من بينها مذكرة لي تشير إلى قضية أنا متأكد من ظهورها في أعمال منشورة. وهذا ليس ما يُتوقع من مسودة جادة تزعم حل مشكلة.

يمكن عادةً تصفح ورقة متمكنة في نظرية المجموعات خارج تخصصي لإدراك استراتيجيتها. أما في مجال خبرتي، أي مسلمة الاختيار، فأستطيع سريعًا معرفة ما قصده المؤلفون. لكن مع ورقة OpenAI كان ذلك مستحيلًا. فلو قُدمت إلى مجلة لوجب رفضها فورًا بسبب جودتها. فالمسؤولية تقع على عاتق المؤلف في الالتزام بمعايير التواصل الواضح، وقد أصدرت OpenAI مئات "الحلول" المكتوبة بصورة يتعذر فهمها.

গতকাল ঘুম থেকে উঠতেই তিনজন মানুষ আমাকে জিজ্ঞেস করেছিলেন, আমি কি OpenAI-র সেই ঘোষণা দেখেছি যে পার্টিশন নীতি পছন্দের স্বতঃসিদ্ধ বোঝায় না। দিনভর এই সংখ্যা বাড়তেই থাকে, এবং আমি বুঝতে পারি কেন। এই সমস্যায় আমার আগ্রহ সুপরিচিত। এমনকি অন্তত দুজন জিজ্ঞেস করেছেন, আমার Problems পাতায় যেমন প্রতিশ্রুতি দিয়েছিলাম, সেভাবে Sam Altman-কে এক বোতল হুইস্কি পাঠাব কি না। উত্তর হল না, এবং আমি ব্যাখ্যা করতে চাই কেন আপনাদের OpenAI-র ওপর খুব রাগ করা উচিত।

প্রথমে একটি কথা পরিষ্কার করি। আমি এআই ব্যবহারের পুরোপুরি বিরোধী নই। আমি বুঝি এটি একটি হাতিয়ার, এবং অনেকেই এটিকে উপযোগী মনে করেন। আমার মনে হয়, এই প্রযুক্তি আমাদের ক্ষেত্রকে কীভাবে বদলে দিচ্ছে এবং আমরা একে কীভাবে ব্যবহার করতে চাই, তা আরও ভালোভাবে বুঝে নেওয়া দরকার, তারপর এর সঙ্গে নিজেদের জড়ানোর জন্য ছুটে যাওয়া উচিত। এ কারণেই আমি সাধারণত গণিতের জন্য এআই ব্যবহার এড়িয়ে চলি, যদিও তথ্য সংক্ষেপ করা, একটি ইনফোগ্রাফিক তৈরি বা ইমেইল প্রুফরিড করার জন্য LLM ব্যবহার করতে আমার আপত্তি নেই। গবেষণায় এর ব্যবহারের কাঠামো এখনও অনুপস্থিত। এই হাতিয়ারগুলোর প্রতিক্রিয়ায় arXiv রেট লিমিটিং চালু করেছে, এবং এখন প্রায় সব গবেষণাপত্রে একটি এআই-বিষয়ক বিবৃতি থাকা উচিত। আমাদের এটিও ঠিক করতে হবে যে লেখকের অবদান কীভাবে মূল্যায়ন করা হবে। চ্যাট লগ কি প্রকাশ করতে হবে, অথবা অন্তত রিভিউয়ার ও সম্পাদকদের জন্য সহজলভ্য রাখতে হবে?

কিন্তু পার্টিশন নীতিতে ফিরে আসি। OpenAI-র প্রকাশিত প্রিপ্রিন্টের একটি সংক্ষিপ্ত দৃষ্টিপাত আমি করেছি, তবে Lean কোডে নয়, কারণ সেটি বিশাল ছিল এবং Lean সম্পর্কে আমার জ্ঞান সীমিত। প্রিপ্রিন্টটি অস্পষ্ট, জটিল এবং অদ্ভুত কাঠামোর ছিল। পরিভাষাগুলো "একটু বেখাপ্পা" ছিল, এবং এতে এমন উপপাদ্য ছিল যা আমি প্রমাণিত হতে দেখব বলে আশা করিনি, আর সেগুলো অদ্ভুতভাবে উপস্থাপিত ছিল। Lemma 7.4 ও Lemma 8.1 এমন বিষয় যা এমন একটি গবেষণাপত্রে আশা করা যায় না।

উদ্ধৃতিগুলোও সমস্যাজনক ছিল। আমার Bristol মডেল-সম্পর্কিত একটি গবেষণাপত্র সাম্মিতিক এক্সটেনশনের মৌলিক পরিচিতির জন্য উদ্ধৃত হয়েছে, যা আমি বেছে নিতাম না। তিনটি অপ্রকাশিত, অপর্যালোচিত এবং arXiv-তে না থাকা লেকচার নোটও ব্যবহার করা হয়েছে, যার মধ্যে আমারও একটি রয়েছে, যা এমন একটি প্রস্তাবের উল্লেখ করে যা আমি নিশ্চিত প্রকাশিত কাজে আছে। একটি সমস্যা সমাধানের দাবিদার গুরুতর প্রিপ্রিন্টের কাছে এটি প্রত্যাশিত নয়।

আমার বিশেষজ্ঞতার বাইরে একটি দক্ষ সেট তত্ত্বের গবেষণাপত্র সাধারণত দ্রুত দেখে তার কৌশল বোঝা যায়। নিজের বিশেষ ক্ষেত্র, পছন্দের স্বতঃসিদ্ধে, আমি দ্রুত বুঝতে পারি লেখকরা কী করতে চেয়েছিলেন। কিন্তু OpenAI-র এই গবেষণাপত্রের ক্ষেত্রে তা অসম্ভব ছিল। এটি যদি কোনো জার্নালে জমা দেওয়া হতো, তবে মানের কারণে সরাসরি প্রত্যাখ্যান হওয়া উচিত ছিল। স্পষ্ট যোগাযোগের মান মেনে চলার দায়িত্ব লেখকের, আর OpenAI বোঝা কঠিন এমন শত শত "সমাধান" প্রকাশ করেছে।

Als ich gestern aus dem Bett stieg, hatten mich bereits drei Leute gefragt, ob ich die Ankündigung von OpenAI gesehen hätte, wonach das Partitionsprinzip das Auswahlaxiom nicht impliziert. Die Zahl stieg im Laufe des Tages weiter an, und ich kann verstehen, warum. Ich bin bekanntermaßen an diesem Problem interessiert. Tatsächlich fragten mindestens zwei Personen, ob ich Sam Altman eine Flasche Whisky schicken werde, wie auf meiner Problemseite versprochen. Die Antwort lautet nein, und ich möchte erklären, warum Sie auf OpenAI sehr wütend sein sollten.

Zunächst eine Klarstellung. Ich bin nicht grundsätzlich gegen den Einsatz von KI. Ich verstehe, dass es sich um ein Werkzeug handelt, das vielen Menschen nützlich erscheint. Ich denke, wir müssen besser verstehen, wie diese Technologie unser Fachgebiet verändert und wie wir sie nutzen wollen, bevor wir uns vorschnell festlegen. Deshalb verzichte ich in der Mathematik meist auf KI, auch wenn ich LLMs gern bitte, Informationen zusammenzufassen, eine Infografik zu erstellen oder eine E-Mail Korrektur zu lesen. Der Rahmen für den Einsatz in der Forschung fehlt noch. arXiv hat als Reaktion auf diese Werkzeuge eine Ratenbegrenzung eingeführt, und fast alle Arbeiten sollten inzwischen eine KI-Erklärung enthalten. Wir müssen außerdem entscheiden, wie der Beitrag einer Autorin oder eines Autors zu beurteilen ist. Sollten Chatprotokolle öffentlich gemacht werden oder zumindest Gutachtern und Herausgebern zugänglich sein?

Aber zurück zum Partitionsprinzip. Ich habe einen kurzen Blick auf das von OpenAI veröffentlichte Preprint geworfen, nicht aber auf den Lean-Code, da dieser enorm war und ich mich mit Lean kaum auskenne. Das Preprint war unklar, verworren und seltsam aufgebaut. Die Terminologie war "ein bisschen daneben", und es enthielt Sätze, von denen ich nicht erwartet hätte, dass sie bewiesen werden, und die in einer merkwürdigen Form formuliert waren. Lemma 7.4 und Lemma 8.1 sind nicht das, was man in einer solchen Arbeit erwartet.

Auch die Literaturangaben waren problematisch. Eine meiner Arbeiten zum Bristol-Modell wird für eine grundlegende Einführung in symmetrische Erweiterungen zitiert, was nicht die Referenz ist, die ich gewählt hätte. Außerdem werden drei unveröffentlichte, nicht begutachtete und nicht auf arXiv hinterlegte Vorlesungsskripte verwendet, darunter eines von mir, das auf eine Proposition verweist, von der ich sicher bin, dass sie in veröffentlichten Arbeiten vorkommt. Das ist nicht das, was man von einem seriösen Preprint erwartet, das ein Problem zu lösen beansprucht.

Eine kompetente Arbeit zur Mengenlehre außerhalb meines Spezialgebiets kann man in der Regel überfliegen und die Strategie erfassen. In meinem eigenen Bereich, dem Auswahlaxiom, kann ich schnell nachvollziehen, was die Autoren beabsichtigt haben. Bei der Arbeit von OpenAI war das unmöglich. Wäre sie bei einer Fachzeitschrift eingereicht worden, hätte sie wegen ihrer Qualität umgehend abgelehnt werden müssen. Die Verantwortung liegt bei den Autoren, klare Kommunikationsstandards einzuhalten, und OpenAI hat Hunderte unverständlich formulierte "Lösungen" veröffentlicht.

Ayer, al levantarme, tres personas ya me habían preguntado si había visto el anuncio de OpenAI según el cual el principio de partición no implica el axioma de elección. El número no dejó de crecer a lo largo del día, y entiendo por qué. Soy muy conocido por mi interés en este problema. De hecho, al menos dos personas me preguntaron si pienso enviarle a Sam Altman una botella de whisky, como prometí en mi página de Problemas. La respuesta es no, y quiero explicar por qué deberían estar muy enfadados con OpenAI.

Para empezar, quiero aclarar algo. No estoy totalmente en contra del uso de la IA. Entiendo que es una herramienta y que mucha gente la encuentra útil. Creo que necesitamos comprender mejor cómo esta tecnología cambia nuestro campo y cómo queremos usarla antes de apresurarnos a comprometernos con ella. Por eso generalmente evito usar la IA para las matemáticas, aunque me gusta usar LLM para consolidar información, generar una infografía o revisar un correo electrónico. Todavía falta un marco para usarla en la investigación. arXiv ha introducido limitaciones de frecuencia en respuesta a estas herramientas, y hoy casi todos los artículos deberían incluir una declaración sobre IA. También debemos decidir cómo juzgar la contribución de un autor. ¿Deberían hacerse públicos los registros de chat, o al menos estar disponibles para los revisores y los editores?

Pero volvamos al principio de partición. Eché un vistazo rápido al preprint publicado por OpenAI, aunque no al código en Lean, porque era enorme y sé poco de Lean. El preprint era confuso, desordenado y de estructura extraña. La terminología estaba "un poco desviada", y contenía teoremas que no esperaría que se demostraran, enunciados de una forma rara. El Lema 7.4 y el Lema 8.1 no son algo que uno esperaría encontrar en un artículo así.

Las referencias también eran problemáticas. Se cita un artículo mío sobre el modelo de Bristol para una introducción básica a las extensiones simétricas, que no es la referencia que yo habría elegido. Se usan además tres apuntes de clase inéditos, no revisados por pares y no publicados en arXiv, incluido uno mío que se refiere a una proposición que estoy seguro de que aparece en trabajos publicados. Eso no es lo que uno esperaría de un preprint serio que pretende resolver un problema.

Un artículo competente de teoría de conjuntos fuera de mi especialidad normalmente puede hojearse para captar su estrategia. En mi propio campo, el axioma de elección, puedo deducir rápidamente lo que los autores pretendían. Con el artículo de OpenAI, esto fue imposible. Si se hubiera enviado a una revista, debería haber sido rechazado de inmediato por su calidad. La responsabilidad recae en el autor para cumplir con los estándares de comunicación clara, y OpenAI ha publicado cientos de "soluciones" incomprensiblemente escritas.

En me levant hier, trois personnes m'avaient déjà demandé si j'avais vu l'annonce d'OpenAI selon laquelle le principe de partition n'implique pas l'axiome du choix. Ce nombre n'a cessé d'augmenter au cours de la journée, et je comprends pourquoi. Je suis connu pour mon intérêt pour ce problème. D'ailleurs, au moins deux personnes m'ont demandé si je comptais envoyer à Sam Altman une bouteille de whisky, comme promis sur ma page Problèmes. La réponse est non, et je voudrais expliquer pourquoi vous devriez être très en colère contre OpenAI.

Tout d'abord, précisons. Je ne suis pas totalement opposé à l'utilisation de l'IA. Je comprends que c'est un outil, et beaucoup de gens le trouvent utile. Je pense qu'il faut mieux comprendre comment cette technologie transforme notre domaine et comment nous voulons l'utiliser, avant de nous précipiter pour nous y engager. C'est pourquoi j'évite généralement d'utiliser l'IA pour les mathématiques, même si je suis heureux de demander à des LLM de synthétiser des informations, de générer une infographie ou de relire un courriel. Le cadre d'utilisation dans la recherche fait encore défaut. arXiv a instauré une limitation du débit en réponse à ces outils, et presque tous les articles devraient désormais inclure une déclaration sur l'IA. Nous devons aussi décider comment évaluer la contribution d'un auteur. Faut-il rendre publics les journaux de conversation, ou au moins les mettre à la disposition des relecteurs et des éditeurs ?

Mais revenons au principe de partition. J'ai jeté un rapide coup d'œil au preprint publié par OpenAI, mais pas au code Lean, car il était énorme et je connais peu Lean. Le preprint était confus, embrouillé et de structure étrange. La terminologie était « un peu décalée », et il contenait des théorèmes que je ne m'attendais pas à voir démontrés, énoncés de façon bizarre. Le lemme 7.4 et le lemme 8.1 ne sont pas le genre de choses que l'on attend dans un article de ce type.

Les références posaient également problème. Un de mes articles sur le modèle de Bristol est cité pour une introduction élémentaire aux extensions symétriques, ce qui n'est pas la référence que j'aurais choisie. Trois notes de cours non publiées, non évaluées par des pairs et absentes d'arXiv sont aussi utilisées, dont une des miennes qui renvoie à une proposition que je suis certain de trouver dans des articles publiés. Ce n'est pas ce que l'on attend d'un preprint sérieux prétendant résoudre un problème.

Un article compétent de théorie des ensembles hors de ma spécialité peut généralement être parcouru pour en saisir la stratégie. Dans mon propre domaine, l'axiome du choix, je peux rapidement comprendre ce que les auteurs voulaient faire. Avec l'article d'OpenAI, c'était impossible. S'il avait été soumis à une revue, il aurait dû être rejeté d'emblée pour sa qualité. Il incombe à l'auteur de respecter les normes d'une communication claire, et OpenAI a publié des centaines de « solutions » incompréhensiblement rédigées.

कल बिस्तर से उठते ही तीन लोगों ने मुझसे पूछा कि क्या मैंने OpenAI की वह घोषणा देखी है कि विभाजन सिद्धांत चयन स्वयंसिद्ध को नहीं दर्शाता। यह संख्या पूरे दिन बढ़ती रही, और मैं समझ सकता हूँ कि ऐसा क्यों हुआ। इस समस्या में मेरी रुचि जगजाहिर है। सचमुच, कम से कम दो लोगों ने पूछा कि क्या मैं Sam Altman को व्हिस्की की बोतल भेजने वाला हूँ, जैसा मैंने अपने Problems पेज पर वादा किया था। इसका उत्तर नहीं है, और मैं समझाना चाहता हूँ कि आपको OpenAI से बेहद नाराज़ क्यों होना चाहिए।

पहले मैं एक बात स्पष्ट कर दूँ। मैं AI के उपयोग के पूरी तरह विरुद्ध नहीं हूँ। मैं समझता हूँ कि यह एक उपकरण है और कई लोगों को यह उपयोगी लगता है। मेरा मानना है कि इस तकनीक से हमारे क्षेत्र में क्या बदलता है और हम इसका उपयोग कैसे करना चाहते हैं, यह बेहतर ढंग से समझने की ज़रूरत है, उससे पहले कि हम इसे अपनाने में जल्दबाज़ी करें। इसीलिए मैं आम तौर पर गणित के लिए AI का उपयोग करने से बचता हूँ, हालाँकि जानकारी को संक्षिप्त करने, इन्फोग्राफिक बनाने या ईमेल की प्रूफरीडिंग के लिए LLM का उपयोग करने में मुझे खुशी होती है। शोध में इसके उपयोग का ढाँचा अभी भी गायब है। arXiv ने इन उपकरणों के जवाब में रेट लिमिटिंग लागू की है, और अब लगभग सभी शोधपत्रों में AI संबंधी वक्तव्य शामिल होना चाहिए। हमें यह भी तय करना होगा कि लेखक के योगदान का आकलन कैसे किया जाए। क्या चैट लॉग सार्वजनिक किए जाने चाहिए, या कम से कम समीक्षकों और संपादकों को उपलब्ध होने चाहिए?

लेकिन विभाजन सिद्धांत पर लौटें। मैंने OpenAI द्वारा जारी प्रीप्रिंट पर एक संक्षिप्त नज़र डाली, Lean कोड पर नहीं, क्योंकि वह बहुत विशाल था और मुझे Lean की ज़्यादा जानकारी नहीं है। प्रीप्रिंट अस्पष्ट, उलझा हुआ और अजीब संरचना वाला था। शब्दावली "थोड़ी गड़बड़" थी, और उसमें ऐसे प्रमेय थे जिनके सिद्ध होने की मुझे उम्मीद नहीं होती, और उन्हें अजीब ढंग से प्रस्तुत किया गया था। Lemma 7.4 और Lemma 8.1 ऐसी चीज़ें नहीं हैं जिनकी आप ऐसे शोधपत्र में अपेक्षा करेंगे।

संदर्भ भी समस्यात्मक थे। मेरे Bristol मॉडल पर एक शोधपत्र को सममित विस्तारों के मूल परिचय के लिए उद्धृत किया गया है, जो वह संदर्भ नहीं है जिसे मैं चुनता। तीन अप्रकाशित, अ-समीक्षित और arXiv पर न डाले गए लेक्चर नोट्स भी उपयोग किए गए हैं, जिनमें मेरे अपने नोट्स शामिल हैं, जो एक ऐसे प्रस्ताव का संदर्भ देते हैं जिसके बारे में मुझे पूरा विश्वास है कि वह प्रकाशित कार्यों में मौजूद है। किसी गंभीर प्रीप्रिंट से, जो किसी समस्या को हल करने का दावा करता हो, यह अपेक्षित नहीं है।

मेरी विशेषज्ञता से बाहर के एक सक्षम समुच्चय सिद्धांत शोधपत्र को आम तौर पर सरसरी तौर पर देखकर उसकी रणनीति समझी जा सकती है। अपने विशेष क्षेत्र, चयन स्वयंसिद्ध, में मैं जल्दी समझ लेता हूँ कि लेखकों का इरादा क्या था। लेकिन OpenAI के इस शोधपत्र के साथ यह असंभव था। यदि इसे किसी पत्रिका में भेजा जाता, तो गुणवत्ता के आधार पर इसे तुरंत अस्वीकार कर देना चाहिए था। स्पष्ट संप्रेषण के मानकों पर खरा उतरने की जिम्मेदारी लेखक की है, और OpenAI ने सैकड़ों ऐसे "समाधान" जारी किए हैं जो समझ से परे लिखे गए हैं।

昨日ベッドから出るまでに、三人が私にOpenAIの発表を見たかと尋ねてきていました。その発表とは、分割原理が選択公理を含意しないというものです。この数は一日中増え続け、その理由はよくわかります。私はこの問題への関心で知られています。実際、少なくとも二人が、私の「問題」ページで約束したとおりSam Altmanにウイスキーのボトルを送るつもりかと尋ねてきました。答えはノーです。そして、なぜあなたがOpenAIに強く怒るべきなのかを説明したいと思います。

まず明確にしておきます。私はAIの利用に完全に反対しているわけではありません。それが道具であり、多くの人にとって有用であることは理解しています。ただ、この技術が私たちの分野をどう変えるのか、そして私たちがそれをどう使いたいのかを、飛びつく前によく理解する必要があると考えています。だから私は数学ではAIを避けるのが一般的ですが、情報の整理、インフォグラフィックの作成、メールの校正などにLLMを使うことには抵抗がありません。研究での利用の枠組みはまだ欠けています。arXivはこれらのツールへの対応として利用頻度制限を導入し、今ではほぼすべての論文にAIに関する声明が必要になるべきでしょう。また、著者の貢献をどう評価するかも決めなければなりません。チャットログは公開すべきか、少なくとも査読者や編集者が閲覧できるようにすべきか。

しかし分割原理の話に戻りましょう。OpenAIが公開したプレプリントに簡単に目を通しましたが、Leanのコードは見ていません。非常に大きく、私はLeanにあまり詳しくないからです。そのプレプリントは不明瞭で、混乱しており、構成も奇妙でした。用語は「少しずれている」ようで、証明されるとは思えない定理が含まれ、非常に奇妙な形で述べられていました。補題7.4や補題8.1も、このような論文に期待するものではありません。

参考文献にも問題がありました。私のBristolモデルに関する論文が、対称拡大の基本的な紹介のために引用されていますが、それは私なら選ばない文献です。さらに、未発表で査読もなく、arXivにも載っていない講義ノートが三つ使われており、その中には私のものも含まれています。その一つは、私の論文の中にも他の人の論文の中にも存在すると確信している命題を指しています。問題の解決を主張する真剣なプレプリントに期待されるものではありません。

私の専門外の、まともな集合論の論文であれば、通常は流し読みしても戦略を把握できます。選択公理という自分の専門分野であれば、著者が何を意図したかを素早く理解できます。しかしOpenAIのこの論文では、それが不可能でした。もしこれが学術誌に投稿されていたなら、その質の低さから即座に不採録とされるべきでした。明確に伝えるという基準を満たす責任は著者にあり、OpenAIは理解不能な形で書かれた「解決」を数百も投下しているのです。

Ao sair da cama ontem, três pessoas já tinham me perguntado se eu tinha visto o anúncio da OpenAI de que o princípio da partição não implica o axioma da escolha. O número não parou de crescer ao longo do dia, e entendo por quê. Sou conhecido pelo meu interesse por esse problema. Aliás, pelo menos duas pessoas perguntaram se eu pretendo enviar a Sam Altman uma garrafa de uísque, como prometi na minha página de Problemas. A resposta é não, e quero explicar por que você deveria estar muito irritado com a OpenAI.

Antes de tudo, deixe-me esclarecer. Não sou totalmente contra o uso de IA. Entendo que ela é uma ferramenta, e muitas pessoas a acham útil. Acredito que precisamos entender melhor como essa tecnologia muda nossa área e como queremos usá-la antes de nos comprometermos com ela às pressas. Por isso, geralmente evito usar IA para matemática, embora eu fique feliz em usar LLMs para consolidar informações, gerar um infográfico ou revisar um e-mail. Ainda falta uma estrutura para seu uso na pesquisa. O arXiv introduziu limites de taxa em resposta a essas ferramentas, e quase todos os artigos agora deveriam incluir uma declaração sobre IA. Também precisamos decidir como avaliar a contribuição do autor. Os registros de conversa devem ser tornados públicos, ou pelo menos disponibilizados aos revisores e editores?

Mas voltemos ao princípio da partição. Dei uma olhada rápida no preprint publicado pela OpenAI, mas não no código em Lean, que era enorme e sobre o qual sei pouco. O preprint era confuso, desorganizado e de estrutura estranha. A terminologia estava "um pouco errada", e havia teoremas que eu não esperaria ver provados, enunciados de forma esquisita. O Lema 7.4 e o Lema 8.1 não são o tipo de coisa que se espera num artigo assim.

As referências também eram problemáticas. Um dos meus artigos sobre o modelo de Bristol é citado para uma introdução básica às extensões simétricas, o que não é a referência que eu escolheria. Três notas de aula inéditas, não revisadas por pares e não publicadas no arXiv também são usadas, incluindo uma minha que se refere a uma proposição que tenho certeza de que aparece em trabalhos publicados. Isso não é o que se espera de um preprint sério que afirma resolver um problema.

Um artigo competente de teoria dos conjuntos fora da minha especialidade geralmente pode ser folheado para entender sua estratégia. Na minha própria área, o axioma da escolha, consigo rapidamente perceber o que os autores pretendiam. Com o artigo da OpenAI, isso foi impossível. Se tivesse sido submetido a uma revista, deveria ter sido rejeitado de imediato pela qualidade. A responsabilidade cabe ao autor de atender aos padrões de comunicação clara, e a OpenAI publicou centenas de "soluções" escritas de forma incompreensível.

Когда я встал с постели вчера, трое человек уже спросили меня, видел ли я объявление OpenAI о том, что принцип разбиения не влечёт аксиому выбора. Число таких вопросов росло в течение всего дня, и я понимаю почему. Я известен своим интересом к этой проблеме. Более того, как минимум два человека спросили, собираюсь ли я послать Сэму Альтману бутылку виски, как было обещано на моей странице «Задачи». Ответ — нет, и я хочу объяснить, почему вам стоит очень сердиться на OpenAI.

Сначала уточню. Я не полностью против использования ИИ. Я понимаю, что это инструмент, и многим он полезен. Я считаю, что нам нужно лучше понять, как эта технология меняет нашу область и как мы хотим её использовать, прежде чем поспешно привязывать себя к ней. Поэтому в математике я обычно избегаю ИИ, хотя охотно прошу LLM свести воедино информацию, создать инфографику или вычитать письмо. Пока что не хватает рамок для его использования в исследованиях. arXiv ввёл ограничения частоты загрузок в ответ на эти инструменты, и почти все статьи теперь должны содержать заявление об использовании ИИ. Нам также нужно решить, как оценивать вклад автора. Должны ли журналы переписки быть открытыми или хотя бы доступными рецензентам и редакторам?

Но вернёмся к принципу разбиения. Я бегло просмотрел препринт, опубликованный OpenAI, но не код на Lean, поскольку он был огромен, а я мало знаком с Lean. Препринт был невнятным, запутанным и со странной структурой. Терминология была «немного неправильной», а там были теоремы, которые я не ожидал бы увидеть доказанными, сформулированные очень странно. Лемма 7.4 и лемма 8.1 — это не то, что ожидаешь увидеть в такой работе.

Ссылки тоже вызывали вопросы. На мою работу о модели Бристоля сослались для базового введения в симметричные расширения, хотя я выбрал бы другую ссылку. Использованы также три неопубликованных, не рецензированных и не выложенных на arXiv конспекта лекций, включая мой, который ссылается на предложение, которое, я уверен, есть в опубликованных работах. Этого не ждёшь от серьёзного препринта, претендующего на решение задачи.

Компетентную статью по теории множеств вне моей специализации обычно можно просмотреть и понять стратегию. В своей области, аксиоме выбора, я быстро понимаю, что хотели авторы. Но с препринтом OpenAI это было невозможно. Если бы его подали в журнал, его следовало бы сразу отклонить из-за качества. Ответственность за соответствие стандартам ясного изложения лежит на авторе, а OpenAI выложил сотни «решений», написанных так, что их невозможно понять.

昨天我一起床，就有三个人问我是否看到了OpenAI的公告，称划分原理并不蕴含选择公理。这个数字一整天都在增加，我能理解原因。我对这个问题一直非常感兴趣。事实上，至少有两个人问我是否打算像我在“问题”页面上承诺的那样，送给Sam Altman一瓶威士忌。答案是否定的，我想解释一下为什么你们应该对OpenAI非常愤怒。

首先让我说明一下。我并非完全反对使用AI。我明白它是一种工具，许多人觉得它很有用。我认为，在我们匆忙投入使用之前，需要更好地理解这项技术将如何改变我们的领域，以及我们希望如何使用它。这就是为什么我通常避免在数学中使用AI，不过我乐于使用大语言模型来整理信息、生成信息图或校对电子邮件。在研究中如何使用它的框架仍然缺失。arXiv已因这些工具而引入了速率限制，而现在几乎所有论文都应包含一份AI声明。我们还需要决定如何评判作者的贡献。聊天记录是否应当公开，或至少供审稿人和编辑查阅？

但回到划分原理。我简单浏览了OpenAI发布的预印本，但没有看Lean代码，因为代码非常庞大，而我对Lean了解甚少。这份预印本不清晰、杂乱，结构也很奇怪。术语“有些不妥”，其中包含一些我不会期望被证明的定理，而且表述方式很奇怪。引理7.4和引理8.1也不是你在这类论文中会期望看到的内容。

参考文献也存在问题。我的一篇关于Bristol模型的论文被引用来做对称扩张的基础介绍，但那并不是我会选择的参考文献。另外还使用了三份未发表、未经审稿、也未发布在arXiv上的讲义，其中包括我的一份讲义，它提到一个命题，我确信该命题出现在已发表的论文中。这不是你对一份声称解决了某个问题的严肃预印本所期望的水平。

对于我专业领域之外的集合论论文，通常可以快速浏览把握其思路。而在我自己的专长领域——选择公理上，我也能很快弄清作者的意图。但对于OpenAI的这篇论文，这却无法做到。如果它投给期刊，理应因质量问题被直接退稿。作者有责任达到清晰表达的标准，而OpenAI却抛出了数百个难以理解的“解答”。