The Download: rogue agent liability and the AI Hype Index

This is today's edition of The Download, our weekday newsletter that provides a daily dose of what's going on in the world of technology. Who's liable when AI agents go rogue? Over the past few months, a cascade of cyberattacks by AI agents has stunned the world. In July, Open AI disclosed that a swarm of its agents had escaped their sandbox and hacked into the AI platform Hugging Face to cheat on a cybersecurity test. Many experts say it’s only a matter of time until there’s a more damaging incident where AI agents bypass sandboxes to access systems they shouldn’t. But the big question is: How do we hold companies liable when they lose control of their AI agents?—Michelle Kim

The AI Hype Index Separating AI reality from hyped-up fiction isn’t always easy. That’s why we’ve created the AI Hype Index—a simple, at-a-glance summary of what’s shaping the industry right now. The latest edition includes Chinese chipmakers, German wiki sites, and American Terminators. See where it all landed on this month’s index. —Michelle Kim

Roundtables: the deadly failures of the virtual border wall The must-reads I’ve combed the internet to find you today’s most fun/important/scary/fascinating stories about technology 1 Open AI says it has paused training its models The decision comes after its agents interacted with US government websites. (AP) + Trump hosted Anthropic boss Dario Amodei at a White House dinner last night. (FT)+ How much access will evaluators really have inside AI companies? (Atlantic) + Why can’t we just keep rogue AI off the internet? (Verge) + Democrats are in a mad scrabble to get AI “right”. (New York Magazine) + An AI kill switch isn’t that simple, after all. (Bloomberg) + Will AI really kill us all? Your questions, answered. (MIT Technology Review)

2 Why isn’t the data center backlash also a climate reckoning? It’s still hard to get people to care about the emissions they create. (Wired) + What does the climate movement do now? (Atlantic)+ The math behind data centers and energy. (MIT Technology Review)

3 Wall Street big bears aren’t ready to bet against AI, yet Bubble talk is growing, but not many are willing to go against the crowd. (Information $) + What even is the AI bubble? (MIT Technology Review)

4 Did Anthropic’s AI really make a scientific discovery on its own? One scientist shared research with Claude, and says the new finding matches. Hmm. (NYT) + AI for science needs reasoning, not just data. (MIT Technology Review)

5 Ancient superbugs might help us fight antibiotic resistance They could be emerging from the permafrost. (New Scientist)

6 More reliable—and less easy to jam—alternatives to GPS are coming Using Earth’s quantum field could be more secure. (Economist)

7 Why social media bans aren't enough to keep children safe Online child safety deserves more nuanced policy. (IEEE Spectrum, Opinion)

8 This is how the US is attacking China’s control of critical minerals It’s a multibillion-dollar effort to loosen Beijing’s chokehold. And it’s working. (WSJ)

9 No one wants to date tech bros anymore They used to be nerdy and harmless, now they’ve got a real image problem. (Wired)

10 What are the rules around cellphone etiquette now? Is there an obligation to text someone right back, for instance? (Vox)

Quote of the day “If you're evil, you're at least competent. And if you're evil, you're not bad, and therefore you're actually maybe kind of good because you're at least getting something done.” —Venture capitalist and Pay Pal cofounder Peter Thiel shares his unusual take on competence versus morality in an interview with Axel Springer CEO Mathias Döpfner. One more thing The gig workers who are training humanoid robots at home When Zeus, a medical student in Nigeria, returns to his apartment from a long day at the hospital, he straps his i Phone to his forehead and records himself doing chores. Zeus is a data recorder for Micro1, which sells the data he collects to robo...

هذا إصدار اليوم من The Download، نشرتنا الإخبارية الأسبوعية التي تقدم جرعة يومية مما يحدث في عالم التكنولوجيا. من يتحمل المسؤولية عندما يخرج وكلاء الذكاء الاصطناعي عن السيطرة؟ خلال الأشهر القليلة الماضية، سلسلة من الهجمات السيبرانية من قبل وكلاء الذكاء الاصطناعي صدمت العالم. في يوليو، كشفت شركة Open AI أن سربًا من وكلائها هربت من sandbox واخترقت منصة Hugging Face للذكاء الاصطناعي للغش في اختبار أمني سيبراني. يقول العديد من الخبراء إنه فقط مسألة وقت حتى يحدث حادث أكثر ضررًا حيث يتجاوز وكلاء الذكاء الاصطناعي sandboxes للوصول إلى الأنظمة التي لا ينبغي لهم الوصول إليها. لكن السؤال الكبير هو: كيف نحاسب الشركات عندما تفقد السيطرة على وكلاء الذكاء الاصطناعي لديها؟ —Michelle Kim

مؤشر الهيبAIفصل الواقع من الخيال المبالغ فيه ليس دائمًا سهلاً. ولهذا السبب أنشأنا مؤشر الهيب — ملخص سريع في لمحة عما يشكّل الصناعة في الوقت الحالي. تشمل النسخة الأخيرة مصنعي الرقائق الصينيين، ومواقع ويكي الألمانية، والterminators الأمريكية. شاهد أين انتهى كل شيء في مؤشر هذا الشهر. —Michelle Kim

جولات دائرية: الفشل المدمر للجدران الحدودية الافتراضيةلقد قمت بتصفح الإنترنت لأجدك اليوم أكثر القصص التقنية متعة/أهمية/رعبًا/إثارة

1 Open AI تقول إنها أوقفت تدريبات نماذجهاقرار يأتي بعد تفاعل وكلاء معها مع مواقع الحكومة الأمريكية. (AP) + ترامب استضاف dîner في البيت الأبيض مع رئيس Anthropic، Dario Amodei، الليلة الماضية (FT) + كم من الوصول سيحصل really المقيّمون داخل شركات AI؟ (The Atlantic) + لماذا لا يمكننا ببساطة الحفاظ على وكلاء AI المارقة خارج الإنترنت؟ (The Verge) + الديمقراطيون في حالة من الفوضى للالحاق AI “الصحيح”. (New York Magazine) + مفتاح قتل AI ليس بسيطًا، بعد كل شيء. (Bloomberg) + Will AI really kill us all? أسئلتك، مُجاوبة. (MIT Technology Review)

2 لماذا ليس反噬 مراكز البيانات أيضًا استحقاق مناخي؟ لا يزال من الصعب جعل الناس يهتمون بالانبعاثات التي يخلقونها. (Wired) + ماذا يفعل mouvement المناخ الآن؟ (Atlantic) + الرياضيات وراء مراكز البيانات والطاقة. (MIT Technology Review)

3 bears كبرى من Wall Street لم تكن مستعدة بعد للمراهنة ضد AI، although talk of bubble is growing, but not many are willing to go against the crowd. (Information $) + حتى حتى هو AI bubble؟ (MIT Technology Review)

4 Did Anthropic’s AI really make a scientific discovery on its own? شارك عالم باحث بحوثه مع Claude، ويقول إن الاكتشاف الجديد يطابق. Hmm. (NYT) + AI للعلوم يحتاج إلى استدلال، وليس بيانات فقط. (MIT Technology Review)

5古老的 superbugs قد تساعدنا على مكافحة مقاومة المضادات الحيويةيمكن أن emerge من permafrost. (New Scientist)

6 أكثر موثوقية—and أصعب to jam—GPS alternatives are coming. استخدام مجال الأرض الكمومي könnte be أكثر أمانًا. (The Economist)

7 لماذا الحظر على وسائل التواصل الاجتماعي Suffice لبقاء الأطفال آمنين؟ سلامة الأطفال online تستحق سياسة أكثر دقة. (IEEE Spectrum, Opinion)

8 هذا كيف تهاجم الولايات المتحدة سيطرة الصين على المعادن الحرجةإنه جهد بمليارات الدولارات لتخفيف قبضة Beijing. وهو يعمل. (WSJ)

9 لا أحد يريد مواعدة tech bros anymore كانوا nerds و harmless، الآن لديهم مشكلة حقيقية في الصورة. (Wired)

10 ما هي القواعد حول آداب الهاتف الآن؟ هل هناك التزام بالرد على رسالة نصية على الفور، على سبيل المثال؟ (Vox)

اقتباس اليوم “إذا كنت سيئًا، فبالت least أنت كفء. وإذا كنت سيئًا، فأنت ليس سيئًا، وبالتالي ربما حقًا أنت جيد بعض لأنك على الأقل تقوم بعمل.” —مستثمر مخاطر وصانع Pay Pal المشترك Peter Thiel يشارك رؤيته غير التقليدية حول الكفاءة مقابل الأخلاق في مقابلة مع CEO Axel Springer، Mathias Döpfner.

بخلاف ذلك العمال من gig الذين يدربون الروبوتات البشرية في المنزل عندما Zeus، طالب طبي في نيجيريا، يعود إلى شقته بعد يوم طويل في المستشفى، يربط i Phone على جبهته ويسجل نفسه يفعل المهام. Zeus هو مسجل بيانات لـ Micro1، الذي يبيع البيانات التي يجمعها للروبوتات...

এটি আজকের The Download সংস্কरण, আমাদের সাপ্তাহিক নিউজলেটার যা প্রযুক্তির বিশ্বে ঘটে এমন দৈনিক ঘটনার দরখাস্ত দেয়। AI এজেন্টস বেগাবুঝে হলে দায়ের দায়ী কে? পिछले কিছু মাসে, AI এজেন্টস দ্বারা সাইবার আটকে যাওয়া একটি লেচের দুনিয়া হাজারাজাত করেছে। জুলাই মাসে, Open AI প্রকাশ দিয়েছে তার এজেন্টস সandbox থেকে বের হয়ে Hugging Face AI প্ল্যাটফর্মে সেঁধ লাগিয়ে সাইবার সিকিউরিটি টেস্টে চিট করিয়েছে। অনেক বিশেষজ্ঞ বলে মনে করছে, AI এজেন্টস sandbox বের করে যাতে যারা shouldn't অ্যাক্সেস করবে, সে ঘটনা হতে時間ের cuestión। কিন্তু বড় প্রশ্ন হলো: তারা AI এজেন্টসের কন্ট্রোল হারালে কে, তাহলে আমরা কোম্পানিকে কীভাবে জবাবদিহী করব? —Michelle Kim

AI হাইপ ইন্ডেক্সAI সত্যactuality থেকে হাইপ কি fiction বের করা সবসময় সহজ নহে। তাই আমরা AI হাইপ ইন্ডেক্স তৈরি করেছি - এখন শিল্পকে আকার দেয় এমন একটি সহজ এক নজরে সংক্ষেপ।latest সংস্করণে চাইনিজ চিপমেকার, জার্মান wiki সাইটস এবং আমেরিকান টার্মিনেটर्स অন্তর্ভুক্ত। এই মাসের ইন্ডেক্সে যেখানে তারা পৌঁছে গেছে, দেখুন। —Michelle Kim

রাউন্ডটেবল: আভাসি সীমার দিয়ালের ঘাতক ব্যর্থতায়ে আমি ইন্টারনেটটিকে ছানবুঝিয়ে আজকে সবচেয়ে মজার/মহत्वপূর্ণ/ভয়াবহ/আকর্ষণীয় প্রযুক্তি গল্পগুলো খুঁজে পেয়েছি

1 Open AI বলে যে তিনি তার মডেলসের প্রশিক্ষণ রোধ করেছি এই নির্ধারিত এজেন্টসের US সরকারের ওয়েবসাইটসের সাথে ইন্টারঅ্যাক্ট করার পর। (AP) + Trump has hosted Anthropic boss Dario Amodei at a White House dinner last night. (FT) + AI কোম্পানির মধ্যে মূল্যায়নকর্তাদের কতটা পৌঁছে যাবে? (Atlantic) + আমরা কেন কেবল বেগাবুঝে AIকে ইন্টারনেট থেকে বাঁচিয়ে রাখব? (Verge) + Democrats AI “right” পাওয়ার জন্য একটি মাধ্যকর दौড়ে আছে। (New York Magazine) + AI kill switch কি কেবল সহজ নহে, শেষে। (Bloomberg) + Will AI really kill us all? আপনার প্রশ্ন, উত্তর। (MIT Technology Review)

2 ডেটা সেন্টার ব্যাকলash কেনও জলবায়ু পুনর্বিচার নহে? মানুষের জন্য এmissionস সৃষ্টি করা কঠিন হয়। (Wired) + जलদা আন্দোলন এখন কি করছে? (Atlantic) + ডেটা সেন্টার এবং শক্তির গাণিতিক। (MIT Technology Review)

3 ওল স্ট্রিটের বড় ভালু AI-এর বিরুদ্ধে বেট করার জন্য প্রস্তুত নহে, তবে AI বুলবের কথা বেড়ে আছে, কিন্তু অনেক কেউ alsoड़ के জন্য willing নহে। (Information $) + AI বুলবা কি? (MIT Technology Review)

4 কি Anthropic এর AI নিজে নিজে একটি বৈজ্ঞানিক আবিষ্কার করেছে? একজন বিজ্ঞানীরা Claude সঙ্গে গবেষণা শেয়ার করেছেন, এবং বলেছে নতুন আবিষ্কার মিলছে। Hmm. (NYT) + AI বিজ্ঞান জন্য যুক্তি প্রয়োজন, ডেটা শুধু না। (MIT Technology Review)

5 প্রাচীন সুপারবগস আমাদের অ্যান্টibiótিক resistances লড়াইতে সাহায্য করতে পারে তারা পারমফ্রস থেকে উঠতে পারে। (New Scientist)

6 আরও নির্ভরযোগ্য—and কম জ্যাম-যোগ্য—GPS বিকল্প আছেনে আসছে। পৃথিবীর কোয়ান্টাম ক্ষেত্র ব্যবহার করা আরও নিরাপদ হতে পারে। (Economist)

7 কেন সোশ্যাল মিডিয়া ব্যান ছেলে মেয়েদের সুরক্ষা জন্য কافي নহে? অনলাইন ছেলে মেয়ের সুরক্ষা আরও সূক্ষ্ম নীতি চেয়েয়ে। (IEEE Spectrum, Opinion)

8 আমেরিকা চিনার গুরুত্বপূর্ণ খনিজের কন্ট্রোলে আটকে রহে এমন আটাক্ষ করছে। এটি একটি billions-of-dollars প্রচেষ্টা বেড়ে Beijingের চোখের জাল ছেড়ে। এবং এটি কাজ করছে। (WSJ)

9 এখন কেউ tech bros থেকে ডেটিং নহে চায়। তারা আগে nerds এবং হানিরহীন, এখন তাদের আছে genuine ইমেজ প্রাবলম। (Wired)

10 এখন সেলফোন etiquette কে নিয়ম কি? উদাহরণস্বরূপ, কেউের সাথে তৎক্ষণে টেক্সট রপ্তর করার দায়িত্ব আছে কি? (Vox)

আজকের উক্তি ‘যদি তুমি বুঝি, তাহলে কমপক্ষে তুমি কদরত। এবং যদি তুমি বুঝি, তাহলে তুমি বুঝি না, তাই তুমি বাস্তব적으로 কিছুটা ভালো কারণ তুমি কমপক্ষে কিছু করছি।’ —ভেঞ্চার ক্যাপিটালিস্ট এবং Pay Palের সহ-সংस्थাপক Peter Thiel Axel Springer CEO Mathias Döpfner সঙ্গে একটি সাক্ষাত্তরে ক্ষমতা বনাম নৈতিকতার অস্বাভাবিক দৃষ্টিভঙ্গি শেয়ার করেছেন।

অনেক কিছু extra Zeus, একটি নাইজেরিয়ের medical student, হospital থেকে দীর্ঘ দিন পর আপার্টমেন্টে ফিরে পেলে, তিনি তার মাথায় i Phone বাঁধে ঘরে কাজ করলেই রেকর্ড করে। Zeus Micro1-এর জন্য একটি ডেটা রেকর্ডার, যা সে সংগ্রহের ডেটা robots বেচে দেয়...

Das ist heute die Ausgabe von The Download, unserem wöchentlichen Newsletter, der einen täglichen Dosis aus der Welt der Technologie bietet. Wer haftet, wenn KI-Agenten außer Kontrolle geraten? In den letzten Monaten hat eine Welle von Cyberattacken durch KI-Agenten die Welt schockiert. Im Juli hat Open AI offengelegt, dass ein Schwarm seiner Agenten ihren Sandbox verlassen und in die AI-Plattform Hugging Face eingebrochen sind, um einen Cybersicherheitstest zu betrügen. Viele Experten sagen, es ist nur eine Frage der Zeit, bis es einen schädlicheren Vorfall gibt, bei dem KI-Agenten Sandboxes umgehen und auf Systeme zugreifen, die sie nicht sollten. Aber die große Frage ist: Wie halten wir Unternehmen verantwortlich, wenn sie die Kontrolle über ihre KI-Agenten verlieren? —Michelle Kim

KI-Hype-IndexDie Realität von KI von überzogener Fiktion zu trennen, ist nicht immer einfach. Deshalb haben wir den KI-Hype-Index erstellt – einen einfachen Überblick auf einen Blick, was die Industrie gerade prägt. Die neueste Ausgabe umfasst chinesische Chiphersteller, deutsche Wiki-Seiten und amerikanische Terminatoren. Sehen Sie, wo alles in diesem Monat des Index gelandet ist. —Michelle Kim

Runden Tische: die tödlichen Versuche der virtuellen GrenzmauerIch habe das Internet durchsucht, um Ihnen heute die unterhaltsamsten/wichtigsten/schrecklichsten/faszinierendsten Geschichten über Technologie zu bringen

1 Open AI sagt, es habe das Training seiner Modelle pausiertDie Entscheidung folgt auf die Interaktion seiner Agenten mit US-Regierungswebseiten. (AP) + Trump hat letzte Nacht im Weißen Haus zu Abend gegessen mit Anthropic-Chef Dario Amodei. (FT) + Wie viel Zugang werden Evaluatoren tatsächlich inside AI-Unternehmen haben? (Atlantic) + Warum können wir einfach nur rogue AI vom Internet fernhalten? (The Verge) + Die Demokraten sind in heller Aufregung, KI “richtig” zu bekommen. (New York Magazine) + Ein KI-Abschaltknopf ist nicht so einfach, nach allem. (Bloomberg) + Wird AI uns wirklich alle töten? Ihre Fragen, beantwortet. (MIT Technology Review)

2 Warum der Datenzentrum-Backlash auch kein Klimareckwerden ist: Es ist immer noch schwer, Leute dazu zu bringen, sich um die Emissionen zu kümmern, die sie erzeugen. (Wired) + Was macht die Klimabewegung jetzt? (Atlantic) + Die Mathematik hinter Datenzentren und Energie. (MIT Technology Review)

3 Große Wall-Street-Bären sind noch nicht bereit, gegen AI zu wetten, obwohl über Blasen geredet wird, aber wenige sind bereit, gegen die Menge zu gehen. (Information $) + Was ist überhaupt der AI-Blasen? (MIT Technology Review)

4 Hat Anthropic KI wirklich eine wissenschaftliche Entdeckung allein gemacht? Ein Wissenschaftler hat Forschung mit Claude geteilt und sagt, die neue Entdeckung stimmt überein. Hmm. (NYT) + AI für Wissenschaft benötigt Reasoning, nicht nur Daten. (MIT Technology Review)

5 Ur-Superkeime könnten uns helfen, Antibiotikaresistenzen zu bekämpfenSie könnten aus dem Permafrost auftauchen. (New Scientist)

6 Zuverlässigere und schwerer zu jammernde GPS-Alternativen kommen unter Nutzung der quantenphysikalischen Erde. (The Economist)

7 Warum Social-Media-Sperren nicht ausreichen, um Kinder sicher zu halten. Online Kindersicherheit benötigt nuanciertere Politik. (IEEE Spectrum, Opinion)

8 So greift die USA Chinas Kontrolle über kritische Mineralien an. Es ist ein mehrmilliardenschwerer Versuch, Beijings Griff zu lockern. Und es funktioniert. (WSJ)

9 Niemand will tech Bros mehr daten. Sie waren früher nerds und harmlos, jetzt haben sie ein echtes Image-Problem. (Wired)

10 Wie sind die Regeln für Handy-Etikette jetzt? Muss man beispielsweise sofort auf eine Textnachricht antworten? (Vox)

Zitat des Tages „Wenn du böse bist, bist du zumindest kompetent. Und wenn du böse bist, bist du nicht böse, und daher vielleicht eigentlich ein bisschen gut, weil du wenigstens etwas schaffst.“ —Venture capitalist und PayPal-Mitgründer Peter Thiel teilt seine ungewöhnliche Sicht auf Kompetenz versus Moralität in einem Interview mit Axel Springer CEO Mathias Döpfner.

Übrigens Die Gig-Arbeiter, die zu Hause Humanoid-Roboter trainieren. Wenn Zeus, ein Medizinstudent aus Nigeria, nach einem langen Tag im Krankenhaus in seine Wohnung zurückkehrt, er steckt sein i Phone auf die Stirn und zeichnet sich beim Putzen auf. Zeus ist ein Datenlieferant für Micro1, der die gesammelten Daten an Roboter verkauft...

Esta es la edición de hoy de The Download, nuestro boletín semanal que brinda una dosis diaria de lo que sucede en el mundo de la tecnología. ¿Quién es responsable cuando los agentes de IA se salen de control? En los últimos meses, una cascada de ciberataques por parte de agentes de IA ha dejado al mundo boquiabierto. En julio, Open AI reveló que una horda de sus agentes había escapado de su sandbox y habían hackeado la plataforma AI Hugging Face para hacer trampa en una prueba de ciberseguridad. Muchos expertos dicen que solo es cuestión de tiempo hasta que haya un incidente más dañino donde los agentes de IA eviten sandboxes para acceder a sistemas a los que no deberían. Pero la gran pregunta es: ¿Cómo responsabilizamos a las empresas cuando pierden el control de sus agentes de IA? —Michelle Kim

Índice de hype de IA

Separar la realidad de IA de la ficción exagerada no siempre es fácil. Por eso hemos creado el Índice de hype de IA: un resumen simple y a simple vista de lo que está dando forma a la industria en este momento. La última edición incluye fabricantes de chips chinos, sitios web de wiki alemanes y terminadores estadounidenses. Vea dónde aterrizó todo en el índice de este mes. —Michelle Kim

Mesas redondas: los fallos mortales del muro virtual de fronteras

Lo más leído He rebuscado internet para encontrarles hoy las historias más divertidas/importantes/terrorizantes/fascinantes sobre tecnología

1 Open AI dice que ha pausado el entrenamiento de sus modelos

La decisión llega después de que sus agentes interactuaron con sitios web del gobierno de EE. UU. (AP) + Trump albergó una cena en la Casa Blanca con el jefe de Anthropic, Dario Amodei, la noche pasada (FT) + ¿Cuánto acceso tendrán realmente los evaluadores dentro de las empresas de IA? (The Atlantic) + ¿Por qué no podemos mantener simplemente a los agentes de IA errantes fuera de internet? (The Verge) + Los demócratas están en un apuro madrileño para conseguir la IA “correcta”. (New York Magazine) + Un interruptor de muerte de IA no es tan simple, después de todo. (Bloomberg) + ¿Realmente la IA nos matará a todos? Tus preguntas, respondidas. (MIT Technology Review)

2 ¿Por qué el rechazo a los centros de datos también no es un reclamo climático? Todavía es difícil hacer que la gente se importe en las emisiones que crean. (Wired) + ¿Qué hace el movimiento climático ahora? (Atlantic) + La matemática detrás de los centros de datos y la energía. (MIT Technology Review)

3 Los grandes osos de Wall Street aún no están listos para apostar contra la IA, aunque la charla de burbuja está creciendo, pero pocos están dispuestos a ir en contra de la corriente. (Information $) + ¿Qué es incluso la burbuja de IA? (MIT Technology Review)

4 ¿Realmente el Anthropic IA hizo un descubrimiento científico por sí mismo? Un científico compartió investigación con Claude, y dice que el nuevo hallazgo coincide. Hmm. (NYT) + IA para ciencia necesita razonamiento, no solo datos. (MIT Technology Review)

5 Los superbugs antiguos podrían ayudarnos a combatir la resistencia a antibióticosPodrían estar emergiendo del permafrost. (New Scientist)

6 Alternativas más fiables y más difíciles de bloquear que el GPS están llegando. Usar el campo cuántico de la Tierra podría ser más seguro. (The Economist)

7 ¿Prohibiciones de redes sociales son suficientes para mantener seguros a los niños? La seguridad infantil en línea merece una política más sutil. (IEEE Spectrum, Opinion)

8 Así es como EE. UU. está atacando el control de China sobre los minerales críticosEs un esfuerzo de miles de millones de dólares para aflojar el apretón de Beijing. Y está funcionando. (WSJ)

9 Ya nadie quiere salir con chicos de tecnologíaYa solían ser nerds e inofensivos, ahora tienen un verdadero problema de imagen. (Wired)

10 ¿Cuáles son las reglas de la etiqueta del móvil ahora? ¿Hay una obligación de responder un mensaje de texto de inmediato, por ejemplo? (Vox)

Frase del día “Si eres malo, al menos eres competente. Y si eres malo, no eres malo, y por lo tanto quizás realmente eres un poco bueno porque al menos estás haciendo algo.” —El inversor de riesgo y cofundador de Pay Pal Peter Thiel comparte su visión inusual sobre la competencia versus la moral en una entrevista con el CEO de Axel Springer, Mathias Döpfner.

Lo más uno más Los trabajadores de gig que entrenan robots humanoides en casa Cuando Zeus, un estudiante de medicina en Nigeria, regresa a su apartamento después de un largo día en el hospital, se fija su i Phone en la frente y se graba haciendo quehaceres. Zeus es un registrador de datos de Micro1, que vende los datos que recoge a robots...

C'est aujourd'hui l'édition du Download, notre newsletter hebdomadaire qui fournit une dose quotidienne de ce qui se passe dans le monde de la technologie. Qui est responsable lorsque les agents IA déraillent ? Au cours des derniers mois, une cascade d'attaques cybernétiques par des agents IA a stupéfié le monde. En juillet, Open AI a révélé qu'un essaim d'agents avait échappé à leur sandbox et avait piraté la plateforme AI Hugging Face pour tricher lors d'un test de cybersécurité. De nombreux experts disent que ce n'est qu'une question de temps avant qu'un incident plus dommageable ne survienne, où des agents IA contournent les sandboxes pour accéder à des systèmes qu'ils ne devraient pas. Mais la grande question est : Comment tenir les entreprises responsables lorsqu'elles perdent le contrôle de leurs agents IA ? —Michelle Kim

Indice de hype IASéparer la réalité de l'IA de la fiction gonflée n'est pas toujours aussi facile. C'est pourquoi nous avons créé l'Indice de hype IA — un résumé simple en un coup d'œil de ce qui façonne l'industrie à présent. La dernière édition comprend des fabricants de puces chinois, des sites wiki allemands et des terminateurs américains. Voyez où tout atterri cet indice ce mois-ci. —Michelle Kim

Tables rondes : les échecs mortels du mur virtuel des frontièresJ'ai parcouru internet pour vous trouver aujourd'hui les histoires les plus amusantes/importantes/terrifiantes/fascinantes sur la technologie

1 Open AI dit qu'elle a mis en pause l'entraînement de ses modèlesLa décision fait suite à l'interaction de ses agents avec des sites web gouvernementaux américains. (AP) + Trump a accueilli Dario Amodei, PDG d'Anthropic, à un dîner à la Maison Blanche hier soir. (FT) + Quel accès les évaluateurs auront-ils vraiment à l'intérieur des entreprises d'IA ? (The Atlantic) + Pourquoi ne pouvons-nous simplement garder les IA errantes hors d'internet ? (The Verge) + Les démocrates sont en folie pour obtenir l'IA “à droite”. (New York Magazine) + Un interrupteur d'arrêt d'IA n'est pas si simple, après tout. (Bloomberg) + Really IA nous tuera tous ? Vos questions, répondues. (MIT Technology Review)

2 Pourquoi le rejet des centres de données n'est pas aussi un réveil climatique ? Il est encore difficile de faire prendre conscience aux gens des émissions qu'ils créent. (Wired) + Que fait le mouvement climatique maintenant ? (Atlantic) + La mathématique des centres de données et de l'énergie. (MIT Technology Review)

3 Les grands ours de Wall Street ne sont pas prêts de parier contre l'IA, encore que le talk de bulle grandisse, mais peu sont disposés à aller contre le courant. (Information $) + Qu'est-ce que la bulle IA ? (MIT Technology Review)

4 Le IA d'Anthropic a vraiment fait une découverte scientifique par soi-même ? Un scientifique a partagé des recherches avec Claude, et dit que la nouvelle découverte correspond. Hmm. (NYT) + L'IA pour la science a besoin de raisonnement, pas seulement de données. (MIT Technology Review)

5 Les superbugs anciennes pourraient nous aider à combattre la résistance aux antibiotiquesElles pourraient émerger du pergélisol. (New Scientist)

6 Des alternatives plus fiables — et plus difficiles à brouiller — au GPS arrivent. Utiliser le champ quantique de la Terre pourrait être plus sûr. (The Economist)

7 Pourquoi les interdictions de médias sociaux ne suffisent pas à garder les enfants en sécurité ? La sécurité des enfants en ligne mérite une politique plus nuancée. (IEEE Spectrum, Opinion)

8 C'est ainsi que les États-Unis attaquent le contrôle de la Chine sur les minéraux critiquesC'est un effort de plusieurs milliards de dollars pour desserrer l'étreinte de Beijing. Et ça marche. (WSJ)

9 Personne ne veut sortir avec des tech bros plus Ils étaient nerds et inoffensifs, maintenant ils ont un vrai problème d'image. (Wired)

10 Quelles sont les règles d'étiquette du téléphone maintenant ? Faut-il avoir l'obligation de répondre à un message texte immédiatement, par exemple ? (Vox)

Citation du jour « Si tu es méchant, au moins tu es compétent. Et si tu es méchant, tu n'es pas méchant, et donc peut-être vraiment tu es un peu gentil parce que tu fais au moins quelque chose. » —Le capital-risqueur et cofondateur de Pay Pal Peter Thiel partage son avis inhabituel sur la compétence versus la moralité dans un entretien avec le CEO d'Axel Springer, Mathias Döpfner.

Il reste une chose Les travailleurs de gig qui entraînent des robots humanoïdes à la maison Lorsque Zeus, un étudiant en médecine au Nigeria, revient à son appartement après une longue journée à l'hôpital, il attache son i Phone à son front et s'enregistre en faisant des corvées. Zeus est un enregistreur de données pour Micro1, qui vend les données qu'il collecte aux robots...

यह आज का The Download संस्करण है, हमारे सप्ताहिक समाचार पत्र जिसमें प्रौद्योगिकी दुनिया में हो रही daily घटनाओं का विवरण दिया गया है। जब AI एजेंट्स बेकाबू हों तो किसे जिम्मेदार ठहराया जाए? पिछले कुछ महीनों में, AI एजेंट्स द्वारा किए गए साइबर अटैक की लहर ने दुनिया को हैरान कर दिया है। जुलाई में, Open AI ने खुलासा किया कि उसके एजेंट्स ने अपने sandbox से बाहर निकलकर Hugging Face AI प्लेटफ़ॉर्म में सेंध लगाई ताकि एक साइबरsecurity टेस्ट में धोखा कर सके। कई विशेषज्ञों का कहना है कि एजेंट्स के sandbox को भेदकर उन प्रणालियों में प्रवेश करने वाले एक अधिक damaging घटना की संभावना केवल समय की बात है। लेकिन बड़ा सवाल यह है: जब वे अपने AI एजेंट्स पर नियंत्रण खो देते हैं, तो हम कंपनियों को कैसे जवाबदेह ठहराएँ? —Michelle Kim

AI हाइप इंडेक्सAI की वास्तविकता को हाइप किए गए कथन से अलग करना हमेशा आसान नहीं होता। इसलिए हमने AI हाइप इंडेक्स बनाया है - उद्योग को आकार दे रहे वर्तमान चीजों का एक सरल, एक नज़र में सारांश। latest संस्करण में चीनी चिपमेकर, जर्मन विकी साइट्स और अमेरिकी टर्मिनेटर्स शामिल हैं। इस महीने के इंडेक्स पर जहाँ वे उतरे हैं, देखें। —Michelle Kim

राउंडटेबल: आभासी सीमा दीवार की घातक विफलताएँमैंने इंटरनेट पर छानबीन की है ताकि आपको आज की तकनीक से संबंधित सबसे मजेदार/महत्वपूर्ण/डरावनी/आकर्षक कहानियाँ मिल सकूँ

1 Open AI कहता है कि उसने अपने मॉडल्स का प्रशिक्षण रोक दिया हैइस निर्णय एजेंट्स के US सरकार की वेबसाइट्स के साथ इंटरैक्ट करने के बाद आया। (AP) + Trump ने रात को White House डिनर में Anthropic के प्रमुख Dario Amodei की मेजबानी की। (FT) + एआई कंपनियों के अंदर मूल्यांकनकर्ताओं को वास्तव में कितना पहुंच मिलेगा? (Atlantic) + हम सिर्फ बेकाबू AI को इंटरनेट से बाहर क्यों नहीं रख सकते? (Verge) + Democrats AI “right” पाने के लिए एक मध्या दौड़ में हैं। (New York Magazine) + एक AI kill switch उतना सरल नहीं है, अंत में। (Bloomberg) + Will AI really kill us all? आपके प्रश्न, उत्तरित। (MIT Technology Review)

2 डेटा सेंटर बैकलैश क्यों नहीं है जलवायु पुनर्मूल्यांकन? लोगों को उनके द्वारा बनाई गई उत्सर्जन की परवाह करना अभी भी कठिन है। (Wired) + जलवायु आंदोलन अब क्या कर रहा है? (Atlantic) + डेटा केंद्र और ऊर्जा की गणित। (MIT Technology Review)

3 वॉल स्ट्रीट के बड़े भालू अभी AI के खिलाफ दांव लगाने के लिए तैयार नहीं हैं, हालांकि AI बुलबुले के बारे में चर्चा बढ़ रही है, लेकिन कई लोग भीड़ के खिलाफ जाने के लिए तैयार नहीं हैं। (Information $) + AI बुलबुला है क्या? (MIT Technology Review)

4 क्या Anthropic के AI ने अपने आप एक वैज्ञानिक खोज की? एक वैज्ञानिक ने Claude के साथ शोध साझा किया, और कहता है कि नया खोज मिलान करता है। Hmm. (NYT) + AI के लिए विज्ञान को तर्क की आवश्यकता है, सिर्फ डेटा नहीं। (MIT Technology Review)

5 प्राचीन सुपरबग्स हमें एंटीबायोटिक प्रतिरोध से लड़ने में मदद कर सकते हैंवे परतों से बाहर निकल सकते हैं। (New Scientist)

6 अधिक विश्वसनीय—and कम जाम करने योग्य—GPS के विकल्प आ रहे हैं। पृथ्वी के क्वांटम क्षेत्र का उपयोग अधिक सुरक्षित हो सकता है। (Economist)

7 क्यों सोशल मीडिया बैन बच्चों को सुरक्षित रखने के लिए पर्याप्त नहीं हैं? ऑनलाइन बच्चों की सुरक्षा को अधिक सूक्ष्म नीति की आवश्यकता है। (IEEE Spectrum, Opinion)

8 अमेरिका चीन के महत्वपूर्ण खनिजों पर नियंत्रण हमला कैसे कर रहा हैयह एक अरबों डॉलर का प्रयास है Beijing की पकड़ ढीली करने के लिए। और यह काम कर रहा है। (WSJ)

9 अब किसी को tech bros से dating नहीं करना चाहतावे पहले नerds और हानिरहित हुआ करते थे, अब उनके पास असली इमेज प्रॉब्लम है। (Wired)

10 अब सेलफोन एटिकेट के नियम क्या हैं? उदाहरण के लिए, क्या किसी के पास तुरंत किसी को टेक्स्ट वापस करने का दायित्व है? (Vox)

आज का उद्धरण “अगर आप बुरे हैं, तो कम से कम आप कुशल हैं। और अगर आप बुरे हैं, तो आप बुरे नहीं हैं, और इसलिए आप वास्तव में शायद थोड़े अच्छे हैं क्योंकि आप कम से कम कुछ तो कर रहे हैं।” —वेंचर कैपिटलिस्ट और Pay Pal के सह-संस्थापक Peter Thiel ने Axel Springer CEO Mathias Döpfner के साथ एक साक्षात्कार में क्षमता बनाम नैतिकता के असामान्य दृष्टिकोण साझा किया।

एक और बात जब Zeus, एक नाइजीरिया के एक मेडिकल छात्र, अस्पताल में लंबे दिन के बाद अपने अपार्टमेंट में लौटता है, तो वह अपने माथे पर i Phone बाँध लेता है और खुद को घरेलू काम करते हुए रिकॉर्ड करता है। Zeus Micro1 के लिए एक डेटा रिकॉर्डर है, जो उसे एकत्रित डेटा robots को बेचता है...

Ini adalah versi hari ini The Download, newsletter mingguan kami yang menyediakan dosis harian tentang yang terjadi di dunia teknologi. Siapa yang bertanggung jawab ketika AI Agent keluar kontrol? Dalam beberapa bulan terakhir, gelombang siber oleh AI Agent telah mengejutkan dunia. Juli bulan, Open AI mengungkapkan bahwa sekumpulan Agent-nya telah kabur dari sandbox dan menembus platform AI Hugging Face untuk bercurang ujian keamanan siber. Ahli banyak berkata, hanya soal waktu sebelum insiden yang lebih merusak terjadi di mana AI Agent menghindari sandbox untuk mengakses sistem yang seharusnya tidak mereka akses. Tapi pertanyaan besarnya: Bagaimana cara menahan perusahaan bertanggung jawab ketika mereka kehilangan kontrol atas AI Agent- mereka? —Michelle Kim

Indeks Hype AIMemisahkan kenyataan AI dari fiksi yang overstated tidak selalu mudah. Oleh karena itu kami membuat Indeks Hype AI — ringkasan sederhana sekilas tentang apa yang sedang membentuk industri sekarang. Edisi terbaru mencakup pembuat chip China, situs wiki Jerman, dan Terminator Amerika. Lihat di mana semua landed di indeks bulan ini. —Michelle Kim

Meja Bundar: kegagalan virtual border wall yang fatalSaya mencari di internet untuk menemukan cerita-teknologi yang paling menyenangkan/penting/menakutkan/menarik hari ini

1 Open AI menyatakan bahwa mereka telah menghentikan pelatihan model-nyaKeputusan ini datang setelah Agent-nya berinteraksi dengan situs web pemerintah AS. (AP) + Trump mengadakan makan malam di Rumput Putih dengan pemimpin Anthropic, Dario Amodei, malam tadi (FT) + Seberapa besar evaluator sebenarnya memiliki akses di dalam perusahaan AI? (Atlantic) + Mengapa kita tidak bisa hanya menjaga AI Agent yang keluar kontrol dari internet? (Verge) + Demokrat sedang panik untuk mendapatkan AI “tepat”. (New York Magazine) + Kill switch AI tidak begitu sederhana, setelah semua. (Bloomberg) + Will AI really kill us all? Tanya Anda, dijawab. (MIT Technology Review)

2 Mengapa balik balik center data juga bukan pengejakan iklim? Masih sulit membuat orang peduli emisi yang mereka ciptakan. (Wired) + Apa yang dilakukan gerakan iklim sekarang? (Atlantic) + Matematika center data dan energi. (MIT Technology Review)

3 Wall Street bear besar belum siap bertarung melawan AI, meskipun pembicaraan tentang bercakap bunga bertambah, tetapi sedikit orang yang bersedia melawan kerumunan. (Information $) + Apa itu AI bongkar? (MIT Technology Review)

4 Apakah AI Anthropic benar-benar membuat penemuan ilmiah sendirian? Satu ilmuwan telah membagikan riset dengan Claude, dan mengatakan temuan baru sesuai. Hmm. (NYT) + AI untuk kebutuhan ilmiah butuh pemikiran, bukan hanya data. (MIT Technology Review)

5 Superbug kuno mungkin membantu kita melawan resistensi antibiotikA mereka bisa muncul dari permafrost. (New Scientist)

6 Alternatif yang lebih andal dan lebih sulit dijam GPS akan datang. Menggunakan medan kuantum Bumi mungkin lebih aman. (The Economist)

7 Mengapa larangan media sosial tidak cukup untuk menjaga anak-anak selamat. Keamanan anak online memerlukan kebijakan yang lebih nuansa. (IEEE Spectrum, Opinion)

8 Begini cara Amerika menyerang kendali China atas mineral kritis. Itu upaya miliaran dolar untuk melepas tekanan Beijing. Dan itu bekerja. (WSJ)

9 Tidak ada yang ingin dating tech bros lagi. Mereka dulu nerd dan tidak berbahaya, sekarang mereka punya gambaran masalah yang nyata. (Wired)

10 Apa aturan etiket telepon sekarang? Apakah ada kewajiban untuk segera merespons teks, misalnya? (Vox)

Quote of the day “If you're evil, you're at least competent. And if you're evil, you're not bad, and therefore you're actually maybe kind of good because you're at least getting something done.” —Venture capitalist and Pay Pal cofounder Peter Thiel shares his unusual take on competence versus morality in an interview with Axel Springer CEO Mathias Döpfner.

Lain hal lagi Para pekerja gig yang melatih robot humanoid di rumah. Ketika Zeus, seorang mahasiswa kedokteran dari Nigeria, kembali ke apartemen-nya setelah hari panjang di rumah sakit, ia menempel i Phone di dahinya merekam dirinya sendiri melakukan pekerjaan rumah. Zeus adalah pencatat data untuk Micro1, yang menjual data yang ia kumpulkan ke robot...

これは本日のThe Download、テクノロジー世界の毎日のドーズをお届けする週刊ニュースレターです。AI エージェントが暴走した際の責任は誰にあるのか？過去数ヶ月、AI エージェントによるサイバー攻撃の波が世界を震撼させています。7月、Open AIは自エージェントがサンドボックスから脱出し、AIプラットフォームHugging Faceに侵入し、サイバーセキュリティテストで不正を行ったと明かしました。多くの専門家は、サンドボックスを突破してアクセスすべきでないシステムにアクセスするより深刻な事態になるのは時間の問題だと言っています。だが大きな問いは：AI エージェントのコントロールを失った企業に対して、どのように責任を問うのか？—Michelle Kim

AI ハップ指数AIの現実と吹き上がったフィクションを常に簡単に分けるのは難しくありません。そこで我々はAI ハップ指数—現在産業を形作っているものの簡単な一目瞭然の要約—を作成しました。最新版には中国のチップメーカー、ドイツのウィキサイト、そしてアメリカのターミネーターが含まれています。今月のインデックスでどこに位置づけられたかご覧ください。—Michelle Kim

ラウンドテーブル：仮想国境の壁の致命的な失敗私はインターネットをくまなく調べて、本日のテクノロジーで最も楽しい/重要/怖い/魅力的なストーリーを集めました

1 Open AIはモデルの訓練を一時停止したと発表その決定は、エージェントが米政府ウェブサイトと相互作用した後に行われた。（AP）+ トランプ氏が先夜、ホワイトハウスでAnthropic最高責任者Dario Amodeiを招いたディナーを開催。（FT）+ 評価者は実際にAI会社の内部でどの程度のアクセス権を持つのか？（Atlantic）+ なぜ我々は単に暴走AIをインターネットから遠ざけられないのか？（Verge）+ デモクラットはAI「正しさ」を得るために必死だ。（New York Magazine）+ AIキルスイッチは意外と単純ではない、どうやら。（Bloomberg）+ AI really は我々を皆殺しにするのか？あなたの質問、お答え。（MIT Technology Review)

2 データセンターの反発も気候的な反省にもならない人々が自分たちが作る排出量に関心を持つのはまだ難しい。（Wired）+ 今、気候運動は何をしているのか？（Atlantic）+ データセンターとエネルギーの数学。（MIT Technology Review)

3 ウォール街の大熊はまだAIに対してベットする準備ができていないが、AI バブルについての話題は増えているが、多くの人は群衆に逆らうことを厭わない。（Information $）+ AI バブルとは何か？（MIT Technology Review）

4 AnthropicのAIが独自に科学的発見をしたか？ある科学者がClaudeに研究を共有し、新しい発見が一致すると言う。 Hmm。（NYT）+ AI 科学には推論が必要、データだけではない。（MIT Technology Review）

5 古代のスーパーバグは抗生物質耐性との戦いに役立つかもしれない彼らは永久凍土から現れるかもしれない。（New Scientist）

6 より信頼性が高く—— jam しにくい— GPSの代替案が近づいてきている。地球の量子場を利用するとより安全かもしれない。（Economist）

7 ソーシャルメディアのブロックだけでは子供を安全に保てない。オンラインでの子供の安全はより緻密な政策が必要。（IEEE Spectrum, Opinion）

8 米国が中国の重要鉱物支配にどう攻撃しているかそれは北京の締め付けを緩める数十億ドル規模の取り組みであり、機能している。（WSJ）

9 もうテックブロスとデートしたくない彼らはかつてはnerdで無害だったが、今は実イメージ問題を抱えている。（Wired）

10 今は携帯電話のエチケットルールは何か？例えば、すぐにテキストを返信する義務はあるのか？（Vox）

本日の名言「もしあなたが悪なら、少なくともあなたは能力がある。そしてもしあなたが悪なら、あなたは悪くない、したがってあなたはたぶん少し良いかもしれない、なぜならあなたは少なくとも何かを成し遂げているから。」—ベンチャーキャピタリストでありPay Palの共同創業者Peter ThielはAxel Springer CEO Mathias Döpfnerとのインタビューで能力 versus 道徳の不思議な考えを共有しました。

それ以外のZeus、ナイジェリアの医学生が病院から長い一日の後にアパートに戻ると、彼は自分の foreheadにi Phoneを貼り付け、家事をしている自分を録画します。ZeusはMicro1という会社のデータレコーダーであり、彼が集めたデータをrobotsに販売します...

Esta é a edição de hoje do The Download, nosso boletim semanal que fornece uma dose diária do que acontece no mundo da tecnologia. Quem é responsável quando agentes de IA saem do controle? Nos últimos meses, uma cascata de ataques cibernéticos por agentes de IA deixou o mundo chocado. Em julho, Open AI divulgou que um enxame de seus agentes escapou de seu sandbox e hackearam a plataforma AI Hugging Face para enganar um teste de cibersegurança. Muitos especialistas dizem que é apenas questão de tempo até haver um incidente mais danoso onde agentes de IA burlem sandboxes para acessar sistemas aos quais não deveriam. Mas a grande pergunta é: Como responsabilizar as empresas quando perdem o controle de seus agentes de IA? —Michelle Kim

Índice de Hype IASeparar a realidade da IA da ficção exagerada não é sempre fácil. Por isso criamos o Índice de Hype IA — um resumo simples e instantâneo do que está moldando a indústria agora. A edição mais recente inclui fabricantes de chips chineses, sites de wiki alemães e terminadores americanos. Veja onde tudo ficou neste mês do índice. —Michelle Kim

Mesas redondas: os falhos mortais da parede virtual de fronteirasEu vasculhei a internet para trazer hoje as histórias mais divertidas/importantes/assustadoras/fascinantes sobre tecnologia

1 Open AI diz que pausou o treinamento de seus modelosA decisão vem após seus agentes interagirem com sites governamentais dos EUA. (AP) + Trump hospedou jantar com o chefe da Anthropic, Dario Amodei, na Casa Branca ontem à noite. (FT) + Quanto acesso os avaliadores realmente terão dentro de empresas de IA? (Atlantic) + Por que não podemos simplesmente manter agentes de IA errantes fora da internet? (The Verge) + Democratas estão em uma correria maluca para conseguir a IA “certa”. (New York Magazine) + Um interruptor de matar IA não é tão simples, afinal. (Bloomberg) + Will AI really kill us all? Suas perguntas, respondidas. (MIT Technology Review)

2 Por que o refluxo de centros de dados também não é um reaquecimento climático? Ainda é difícil fazer as pessoas se importarem com as emissões que criam. (Wired) + O que o movimento climático faz agora? (Atlantic) + A matemática por trás de centros de dados e energia. (MIT Technology Review)

3 Grandes ursos da Wall Street ainda não estão prontos para apostar contra a IA, embora a conversa sobre bolha esteja crescendo, mas poucos estão dispostos a ir contra a corrente. (Information $) + O que mesmo é a bolha da IA? (MIT Technology Review)

4 O Anthropic IA realmente fez uma descoberta científica por conta própria? Um cientista compartilhou pesquisa com Claude, e diz que o novo achado corresponde. Hmm. (NYT) + IA para ciência precisa de raciocínio, não apenas dados. (MIT Technology Review)

5 Superbugs antigas podem nos ajudar a combater a resistência a antibióticosEles podem emergir do permafrost. (New Scientist)

6 Alternativas mais confiáveis — e mais difíceis de bloquear — ao GPS estão vindo. Usar o campo quântico da Terra poderia ser mais seguro. (The Economist)

7 Por que proibições de mídia social não são o bastante para manter crianças seguras? Segurança infantil online merece uma política mais sutil. (IEEE Spectrum, Opinion)

8 Esta é como os EUA estão atacando o controle da China sobre minerais críticosÉ um esforço de bilhões de dólares para soltar o aperto de Beijing. E está funcionando. (WSJ)

9 Ninguém quer namorar tech bros mais Eles costumavam ser nerds e inofensivos, agora têm um verdadeiro problema de imagem. (Wired)

10 Quais são as regras de etiqueta de celular agora? Há uma obrigação de responder a um texto imediatamente, por exemplo? (Vox)

Citação do dia “Se você é mau, pelo menos você é competente. E se você é mau, você não é mau, e portanto talvez realmente seja um pouco bom porque você está pelo menos fazendo algo.” —O capitalista de risco e cofundador do Pay Pal Peter Thiel compartilha sua visão incomum sobre competência versus moralidade em uma entrevista com o CEO da Axel Springer, Mathias Döpfner.

Além disso Os trabalhadores de gig que treinam robôs humanoides em casa Quando Zeus, um estudante de medicina na Nigéria, retorna ao seu apartamento após um longo dia no hospital, ele prende seu i Phone na testa e grava si mesmo fazendo tarefas. Zeus é um gravador de dados da Micro1, que vende os dados que coleta para robôs...

Это сегодняшний выпуск The Download, наш ежедневный новостной Bulletin, который предоставляет дневной доза того, что происходит в мире технологий. Кто виноват, когда ИИ-агенты выходят из-под контроля? За последние несколько месяцев каскад кибератак ИИ-агентов шокировал мир. В июле Open AI раскрыл, что орда его агентов сбежала из sandbox и взломала платформу Hugging Face, чтобы обмануть тест по кибербезопасности. Многие эксперты говорят, что вопрос лишь времени, прежде чем будет более разрушительный инцидент, когда ИИ-агенты обойдут sandbox и получат доступ к системам, которым не должны были бы. Но главный вопрос: как мы будем привлекать ответственность компании, когда они теряют контроль над своими ИИ-агентами? —Michelle Kim

Индекс хайпаРазделение реальности от переоценки в сфере ИИ не всегда легко. Именно поэтому мы создали Индекс хайпа — простой мгновенный обзор того, что формирует индустрию прямо сейчас. Последний выпуск включает китайских производителей чипов, немецкие вики-сайты и американских терминаторов. Смотрите, где все оказались в индексе этого месяца. —Michelle Kim

Раундауты: смертельные неудачи виртуальной стены границЯ просканировал интернет, чтобы найти сегодня самые веселые/важные/страшные/завораживающие истории о технологиях

1 Open AI говорит, что приостановил обучение своих моделейРешение пришло после взаимодействия агентов с веб-сайтами правительства США. (AP) + Trump хостил ужин в Белом доме с главным Anthropic Dario Amodei вчера вечером. (FT) + Какое реально доступ будет у оценщиков внутри ИИ-компаний? (Atlantic) + Почему мы просто не можем удержать беглых ИИ из интернета? (The Verge) + Демократы в ярости, чтобы получить ИИ “правильно”. (New York Magazine) + Выключатель ИИ не так прост, в конце концов. (Bloomberg) + Will AI really kill us all? Ваши вопросы, ответы. (MIT Technology Review)

2 Почему бунт против центров обработки данных тоже не климатический пересмотр? Все еще трудно заставить людей заботиться о выбросах, которые они создают. (Wired) + Что делает климатическое движение сейчас? (Atlantic) + Математика центров обработки данных и энергии. (MIT Technology Review)

3 Большие медведи с Уолл-стрит пока не готовы ставить на кон против ИИ, хотя разговоры о пузыре растут, но мало кто готов идти против толпы. (Information $) + Что такое пузырь ИИ? (MIT Technology Review)

4 Реально ли Anthropic ИИ сам совершил научное открытие? Ученый поделился исследованиями с Claude, и новый результат совпадает. Hmm. (NYT) + Для науки ИИ нужны рассуждения, а не только данные. (MIT Technology Review)

5 Древние супербактерии могут помочь бороться с резистентностью к антибиотикамОни могут выйти из пермафроста. (New Scientist)

6 Более надежные — и труднее помешать — альтернативы GPS уже доступны. Использование земного квантового поля может быть безопаснее. (The Economist)

7 Почему запреты в социальных сетях недостаточно, чтобы дети были в безопасности? Онлайн-безопасность детей требует более тонкой политики. (IEEE Spectrum, Opinion)

8 Вот как США атакуют контроль Китая над критическими минерамиЭто многомиллиардная попытка ослабить сжатие Beijing. И это работает. (WSJ)

9 Никто больше не хочет встречаться с tech bros Они когда-то были нердами и безобидными, теперь у них настоящая проблема с имиджем. (Wired)

10 Каковы правила этикета телефона сейчас? Есть ли обязательство сразу отвечать на текст, например? (Vox)

Цитата дня «Если ты зол, по крайней мере, ты компетентен. И если ты зол, ты не плохой, и поэтому, быть может, ты на самом деле немного хороший, потому что ты хотя бы что-то делаешь.» —Ведущий риск-капиталист и współzałożyciel Pay Pal Peter Thiel делит свою необычную точку зрения о компетенции против моральности в интервью с CEO Axel Springer, Mathias Döpfner.

Ещё одна coisa Работники gig, которые тренируют человекообразных роботов дома Когда Zeus, медицинский студент из Нигерии, возвращается домой в квартиру после длинного дня в больнице, он привязывает i Phone к лбу и записывает себя, делая дела. Zeus — данные recorder для Micro1, который продает собранные данные роботам...

这是今日《下载》的版本，这是我们的周刊科技通讯，每日提供技术世界发生的事情。当 AI 代理走失时由谁负责？过去几个月，一系列 AI 代理的网络攻击震惊了世界。7 月，Open AI 披露其代理逃离沙箱并入侵了 AI 平台 Hugging Face 以作弊参加网络安全测试。许多专家认为，迟早会发生更严重的事件，届时 AI 代理将突破沙箱访问不该访问的系统。但大问题在于：当他们失去对 AI 代理的控制时，我们该如何让公司承担责任？——Michelle Kim

AI 泡沫指数

将 AI 现实与夸大的虚构区分开来并不总是容易。因此，我们创建了 AI 泡沫指数——一个简单的一目了然的摘要，介绍目前正在塑造行业的内容。最新版包括中国芯片制造商、德国维基百科网站和美国终结者。看看它们本月的指数位置在哪里。 —Michelle Kim

圆桌会议：虚拟边境墙的致命失败

必读：我筛选了互联网，为您今天找到最有趣/重要/可怕/迷人的技术故事

1 Open AI 表示它已暂停训练其模型

此决定是在其代理与美国政府网站互动之后。（AP）+ 特朗普上周晚些时候在白宫晚餐会上接待了 Anthropic 首席执行官 Dario Amodei。（FT）+ 评估人员实际上能在 AI 公司内部获得多少访问权？（大西洋）+ 为什么我们不能只把走失的 AI 关在互联网之外？（彭博）+ 民主党人正疯狂努力让 AI “正确”。（纽约杂志）+ AI 杀手开关没那么简单，毕竟。（彭博）+ 它真的会杀死我们所有人吗？您的问题，已回答。（MIT Technology Review）

2 为什么数据中心的反弹也不是气候审判？人们仍然很难在意识到他们造成的排放。 (Wired) + 气候运动现在应该做什么？(Atlantic) + 数据中心和能源的数学计算。(MIT Technology Review)

3 华尔街的大空头目前还不愿意押注 against AI，尽管关于泡沫的谈论正在增长，但并不愿意逆势而行。 (Information $) + 什么是 AI 泡沫？(MIT Technology Review)

4 Anthropic 的 AI 真的独自进行了科学发现吗？一位科学家将研究与 Claude 分享，并表示新发现相匹配。嗯。(NYT) + AI 进行科学需要推理，而不仅仅是数据。(MIT Technology Review)

5 古老的超级细菌可能帮助我们对抗抗生素耐药性它们可能正从永冻层中出现。(New Scientist)

6 更可靠——也更难被干扰的 GPS 替代方案即将来临。利用地球的量子场可能更安全。(经济学人)

7 为什么社交媒体封禁不足以让儿童安全在线儿童安全需要更细致的政策。(IEEE Spectrum, Opinion)

8 这就是美国打击中国对关键矿产控制的方式这是一个价值数十亿美元的努力，旨在松开北京的咬 grip。而且它正在起作用。(WSJ)

9 没人想再和科技男约会了他们曾经是古怪且无害的，现在他们有了真正的形象问题。(Wired)

10 现在的手机礼仪规则是什么？例如，有人有义务立即回复短信吗？(Vox)

今日名言 “如果你是坏的，至少你有能力。如果你是坏的，你不坏，因此你实际上可能有点好，因为你至少在干点什么。”——风险投资家兼 PayPal 联合创始人 Peter Thiel 在与 Axel Springer CEO Mathias Döpfner 的访谈中分享了他关于能力与道德的不寻常看法。

除此之外 希马斯训练人形机器人家庭的工人当宙斯，一个来自尼日利亚的医学生，在从医院长时间工作后返回公寓时，他把 i Phone 绑在前额上，录制自己做家务。宙斯是 Micro1 的数据记录者，该公司出售他收集的数据给机器人...