The Download: AI’s refusal problem and weight-loss drug side effects

Today's AI models are trained to refuse a vast number of prompts. Ask a chatbot how to poison a colleague or tie a noose, and it will likely decline. But refusal fails, sometimes horrifically. Some people are attempting to use AI to hone biological pathogens and build autonomous drone swarms, and failed refusals may eventually result in global calamity.

Relying on refusal also means drawing a line between what a model should obey and what it must disobey. Governments will draw their own lines too, potentially restricting free speech. At the same time, the capabilities that make AI useful could make it dangerous. If we want AI to help cure cancer, it needs genetics expertise that could also produce bioweapons.

Elsewhere, researchers are still working out the side effects of GLP-1 weight-loss drugs. New research suggests these drugs may slow biological aging, adding to a raft of potential benefits. The most common side effects are gastrointestinal, but researchers are also investigating possible links to hair loss, nail disorders and damage to the nerves behind the eye.

The US has also frozen green cards for Microsoft and other IT firms, accusing them of using visa fraud to replace American workers. Microsoft says 80% of its H-1B filings involved existing staff. Envision Energy, meanwhile, is integrating wind power into data centers, becoming the first company to directly power a data center entirely with renewable energy.

تُدرَّب نماذج الذكاء الاصطناعي اليوم على رفض عدد هائل من الطلبات. فإذا سألت روبوت الدردشة عن كيفية تسميم زميل في العمل أو كيفية عقد حبل المشنقة، فمن المرجح أنه سيرفض الإجابة. لكن الرفض يفشل أحياناً، وبطرق مروعة. ويحاول بعض الناس استخدام الذكاء الاصطناعي لتطوير مسببات الأمراض البيولوجية وبناء أسراب من الطائرات المسيّرة ذاتية التشغيل، وقد تؤدي حالات الرفض الفاشلة في نهاية المطاف إلى كارثة عالمية.

كما أن الاعتماد على الرفض يعني رسم خط فاصل بين ما ينبغي للنموذج أن يطيعه وما يجب أن يعصاه. وستضع الحكومات خطوطها الخاصة أيضاً، وقد تؤدي إلى تقييد حرية التعبير. وفي الوقت نفسه، فإن القدرات التي تجعل الذكاء الاصطناعي مفيداً قد تجعله خطيراً أيضاً. فإذا أردنا أن يساعد في علاج السرطان، فإنه يحتاج إلى خبرة في علم الوراثة قد تُستخدم أيضاً في إنتاج أسلحة بيولوجية.

وفي موضوع آخر، لا يزال الباحثون يحاولون تحديد الآثار الجانبية لأدوية GLP-1 لإنقاص الوزن. وتشير أبحاث جديدة إلى أن هذه الأدوية قد تُبطئ الشيخوخة البيولوجية، وهي فائدة محتملة تُضاف إلى قائمة طويلة من الفوائد المحتملة. وأكثر الآثار الجانبية شيوعاً تتعلق بالجهاز الهضمي، لكن الباحثين يدرسون أيضاً احتمال وجود صلات بتساقط الشعر واضطرابات الأظافر وتلف الأعصاب خلف العين.

كما جمّدت الولايات المتحدة البطاقات الخضراء لشركة Microsoft وشركات تقنية معلومات أخرى، متهمةً إياها باستخدام الاحتيال في التأشيرات لاستبدال العمال الأمريكيين. وتقول Microsoft إن 80% من طلبات H-1B الخاصة بها تضمنت موظفين حاليين. ومن جهة أخرى، تدمج Envision Energy طاقة الرياح في مراكز البيانات، وأصبحت أول شركة تُشغّل مركز بيانات بالكامل بالطاقة المتجددة مباشرةً.

আজকের AI মডেলগুলোকে বিপুল সংখ্যক প্রম্পট প্রত্যাখ্যান করতে প্রশিক্ষণ দেওয়া হয়। আপনি যদি কোনো চ্যাটবটকে জিজ্ঞেস করেন কীভাবে একজন সহকর্মীকে বিষ প্রয়োগ করা যায় বা কীভাবে ফাঁসির দড়ি বাঁধা যায়, তবে সম্ভবত সে উত্তর দিতে অস্বীকার করবে। কিন্তু প্রত্যাখ্যান ব্যর্থ হয়, কখনো কখনো ভয়ংকরভাবে। কিছু মানুষ জৈব রোগজীবাণু উন্নত করতে এবং স্বয়ংক্রিয় ড্রোন ঝাঁক তৈরি করতে AI ব্যবহারের চেষ্টা করছে, এবং ব্যর্থ প্রত্যাখ্যান শেষ পর্যন্ত বৈশ্বিক বিপর্যয়ের কারণ হতে পারে।

প্রত্যাখ্যানের উপর নির্ভর করার অর্থ হলো একটি মডেলের কী মানা উচিত এবং কী অমান্য করা উচিত, তার মধ্যে একটি রেখা টানা। সরকারগুলোও নিজেদের রেখা টানবে, যা বাক-স্বাধীনতাকে সীমিত করতে পারে। একই সময়ে, যে ক্ষমতা AI-কে কার্যকর করে, সেটিই তাকে বিপজ্জনকও করে তুলতে পারে। আমরা যদি চাই AI ক্যান্সার নিরাময়ে সাহায্য করুক, তবে তার জেনেটিক্সের দক্ষতা দরকার, যা জৈব অস্ত্রও তৈরি করতে পারে।

ইতিমধ্যে, গবেষকরা এখনও ওজন কমানোর GLP-1 ওষুধের পার্শ্বপ্রতিক্রিয়া বোঝার চেষ্টা করছেন। নতুন গবেষণা বলছে এই ওষুধ জৈবিক বার্ধক্য ধীর করতে পারে, যা সম্ভাব্য উপকারিতার দীর্ঘ তালিকায় যুক্ত হলো। সবচেয়ে সাধারণ পার্শ্বপ্রতিক্রিয়াগুলো পরিপাকতন্ত্র-সংক্রান্ত, তবে গবেষকরা চুল পড়া, নখের রোগ এবং চোখের পিছনের স্নায়ুর ক্ষতির সম্ভাব্য সম্পর্কও খতিয়ে দেখছেন।

যুক্তরাষ্ট্র Microsoft এবং অন্যান্য IT কোম্পানির গ্রিন কার্ড স্থগিত করেছে, তাদের বিরুদ্ধে মার্কিন কর্মীদের প্রতিস্থাপনের জন্য ভিসা জালিয়াতির অভিযোগ এনে। Microsoft বলছে তাদের H-1B আবেদনের ৮০% বিদ্যমান কর্মীদের সংশ্লিষ্ট ছিল। এদিকে Envision Energy ডেটা সেন্টারে বায়ুশক্তি একীভূত করছে এবং সম্পূর্ণভাবে নবায়নযোগ্য শক্তি দিয়ে সরাসরি একটি ডেটা সেন্টার চালানো প্রথম কোম্পানি হয়েছে।

Heutige KI-Modelle werden darauf trainiert, eine große Zahl von Anfragen abzulehnen. Wenn Sie einen Chatbot fragen, wie man einen Kollegen vergiftet oder wie man eine Schlinge knüpft, wird er Ihnen wahrscheinlich die Antwort verweigern. Doch die Verweigerung versagt manchmal, und das mitunter auf entsetzliche Weise. Manche Menschen versuchen, KI einzusetzen, um biologische Krankheitserreger zu verbessern und autonome Drohnenschwärme zu bauen, und fehlgeschlagene Verweigerungen könnten irgendwann in einer globalen Katastrophe enden.

Das Setzen auf Verweigerung bedeutet außerdem, eine Grenze zu ziehen zwischen dem, was ein Modell befolgen sollte, und dem, was es verweigern muss. Auch Regierungen werden ihre eigenen Grenzen ziehen, was die Meinungsfreiheit einschränken könnte. Gleichzeitig können die Fähigkeiten, die KI nützlich machen, sie auch gefährlich machen. Wenn sie uns helfen soll, Krebs zu heilen, braucht sie genetisches Fachwissen, das ebenso zur Herstellung von Biowaffen genutzt werden könnte.

Anderswo erforschen Wissenschaftler noch immer die Nebenwirkungen von GLP-1-Abnehmmedikamenten. Neue Studien deuten darauf hin, dass diese Wirkstoffe die biologische Alterung verlangsamen könnten, was zu einer langen Liste möglicher Vorteile hinzukommt. Die häufigsten Nebenwirkungen betreffen den Magen-Darm-Trakt, doch die Forscher untersuchen auch mögliche Zusammenhänge mit Haarausfall, Nagelerkrankungen und Schäden an den Nerven hinter dem Auge.

Die USA haben außerdem die Green Cards für Microsoft und andere IT-Firmen eingefroren und werfen ihnen vor, durch Visabetrug amerikanische Arbeitskräfte ersetzt zu haben. Microsoft erklärt, 80 % seiner H-1B-Anträge hätten bereits beschäftigte Mitarbeiter betroffen. Unterdessen integriert Envision Energy Windkraft in Rechenzentren und ist das erste Unternehmen, das ein Rechenzentrum vollständig und direkt mit erneuerbarer Energie versorgt.

Los modelos de IA actuales están entrenados para rechazar una gran cantidad de peticiones. Si le preguntas a un chatbot cómo envenenar a un compañero de trabajo o cómo hacer un nudo corredizo, lo más probable es que se niegue. Pero la negativa falla, a veces de forma espantosa. Algunas personas intentan usar la IA para perfeccionar patógenos biológicos y construir enjambres de drones autónomos, y las negativas fallidas podrían acabar provocando una catástrofe mundial.

Depender de la negativa también implica trazar una línea entre lo que un modelo debe obedecer y lo que debe desobedecer. Los gobiernos también trazarán sus propias líneas, lo que podría restringir la libertad de expresión. Al mismo tiempo, las capacidades que hacen útil a la IA también podrían hacerla peligrosa. Si queremos que ayude a curar el cáncer, la IA necesita conocimientos de genética que también podrían producir armas biológicas.

Por otro lado, los investigadores siguen tratando de determinar los efectos secundarios de los fármacos GLP-1 para la pérdida de peso. Nuevas investigaciones sugieren que estos medicamentos podrían ralentizar el envejecimiento biológico, lo que se suma a una larga lista de posibles beneficios. Los efectos secundarios más comunes son gastrointestinales, pero los científicos también investigan posibles vínculos con la caída del cabello, trastornos de las uñas y daños en los nervios detrás del ojo.

Estados Unidos también ha congelado las tarjetas de residencia para Microsoft y otras empresas de TI, a las que acusa de usar fraude de visados para reemplazar a trabajadores estadounidenses. Microsoft afirma que el 80 % de sus solicitudes H-1B involucraban a personal existente. Mientras tanto, Envision Energy está integrando la energía eólica en centros de datos y se ha convertido en la primera empresa en alimentar un centro de datos directamente y por completo con energía renovable.

Les modèles d'IA actuels sont entraînés à refuser un grand nombre de requêtes. Si vous demandez à un chatbot comment empoisonner un collègue ou faire un nœud coulant, il y a de fortes chances qu'il refuse. Mais le refus échoue, parfois de façon effroyable. Certaines personnes tentent d'utiliser l'IA pour perfectionner des agents pathogènes biologiques et construire des essaims de drones autonomes, et des refus défaillants pourraient finir par provoquer une catastrophe mondiale.

S'appuyer sur le refus implique aussi de tracer une ligne entre ce qu'un modèle doit obéir et ce qu'il doit désobéir. Les gouvernements tracent également leurs propres lignes, ce qui pourrait restreindre la liberté d'expression. Parallèlement, les capacités qui rendent l'IA utile pourraient aussi la rendre dangereuse. Si nous voulons qu'elle aide à guérir le cancer, elle a besoin d'une expertise en génétique qui pourrait également permettre de produire des armes biologiques.

Par ailleurs, les chercheurs continuent d'étudier les effets secondaires des médicaments GLP-1 contre l'obésité. De nouvelles recherches suggèrent que ces médicaments pourraient ralentir le vieillissement biologique, ce qui vient s'ajouter à une longue liste de bienfaits potentiels. Les effets secondaires les plus courants sont gastro-intestinaux, mais les chercheurs étudient aussi d'éventuels liens avec la chute de cheveux, les troubles des ongles et les lésions des nerfs situés derrière l'œil.

Les États-Unis ont également gelé les cartes vertes de Microsoft et d'autres entreprises informatiques, les accusant d'utiliser la fraude aux visas pour remplacer des travailleurs américains. Microsoft affirme que 80 % de ses demandes H-1B concernaient du personnel déjà en poste. Par ailleurs, Envision Energy intègre l'énergie éolienne dans des centres de données et est devenue la première entreprise à alimenter directement un centre de données entièrement grâce aux énergies renouvelables.

आज के AI मॉडल बड़ी संख्या में प्रॉम्प्ट को अस्वीकार करने के लिए प्रशिक्षित किए जाते हैं। यदि आप किसी चैटबॉट से पूछें कि किसी सहकर्मी को कैसे ज़हर दिया जाए या फंदा कैसे बांधा जाए, तो संभवतः वह मना कर देगा। लेकिन इनकार विफल होता है, और कभी-कभी भयानक रूप से। कुछ लोग AI का उपयोग जैविक रोगाणुओं को विकसित करने और स्वायत्त ड्रोन झुंड बनाने के लिए कर रहे हैं, और विफल इनकार अंततः वैश्विक तबाही का कारण बन सकते हैं।

इनकार पर निर्भर रहने का अर्थ है यह तय करना कि मॉडल को किसका पालन करना चाहिए और किसकी अवहेलना करनी चाहिए। सरकारें भी अपनी सीमाएं तय करेंगी, जिससे अभिव्यक्ति की स्वतंत्रता प्रभावित हो सकती है। साथ ही, वही क्षमताएं जो AI को उपयोगी बनाती हैं, उसे खतरनाक भी बना सकती हैं। यदि हम चाहते हैं कि AI कैंसर का इलाज खोजने में मदद करे, तो उसे आनुवंशिकी की विशेषज्ञता चाहिए, जो जैविक हथियार भी बना सकती है।

इसी बीच, शोधकर्ता अभी भी GLP-1 वजन घटाने वाली दवाओं के दुष्प्रभावों का पता लगा रहे हैं। नए शोध बताते हैं कि ये दवाएं जैविक उम्र बढ़ने को धीमा कर सकती हैं, जो संभावित लाभों की लंबी सूची में एक और नाम है। सबसे आम दुष्प्रभाव पाचन संबंधी हैं, लेकिन शोधकर्ता बालों के झड़ने, नाखूनों के विकारों और आंख के पीछे की नसों को नुकसान से संभावित संबंधों की भी जांच कर रहे हैं।

अमेरिका ने Microsoft और अन्य IT कंपनियों के ग्रीन कार्ड भी रोक दिए हैं, और उन पर अमेरिकी कर्मचारियों की जगह लेने के लिए वीज़ा धोखाधड़ी का आरोप लगाया है। Microsoft का कहना है कि उसकी H-1B आवेदनों में से 80% मौजूदा कर्मचारियों से जुड़े थे। इस बीच, Envision Energy पवन ऊर्जा को डेटा सेंटरों में एकीकृत कर रही है और पूरी तरह नवीकरणीय ऊर्जा से सीधे डेटा सेंटर को बिजली देने वाली पहली कंपनी बन गई है।

Model AI saat ini dilatih untuk menolak sejumlah besar perintah. Jika Anda bertanya kepada chatbot cara meracuni rekan kerja atau cara membuat simpul gantung, kemungkinan besar ia akan menolak. Namun penolakan itu bisa gagal, terkadang dengan cara yang mengerikan. Sebagian orang berupaya menggunakan AI untuk menyempurnakan patogen biologis dan membangun kawanan drone otonom, dan penolakan yang gagal pada akhirnya dapat menimbulkan malapetaka global.

Mengandalkan penolakan juga berarti menarik garis antara apa yang seharusnya dipatuhi model dan apa yang harus ditolaknya. Pemerintah juga akan menarik garisnya sendiri, yang berpotensi membatasi kebebasan berekspresi. Pada saat yang sama, kemampuan yang membuat AI berguna juga dapat membuatnya berbahaya. Jika kita ingin AI membantu menyembuhkan kanker, AI membutuhkan keahlian genetika yang juga bisa menghasilkan senjata biologis.

Di sisi lain, para peneliti masih berupaya memahami efek samping obat penurun berat badan GLP-1. Penelitian baru menunjukkan obat-obatan ini mungkin memperlambat penuaan biologis, menambah daftar panjang manfaat potensialnya. Efek samping yang paling umum bersifat gastrointestinal, tetapi para peneliti juga menyelidiki kemungkinan kaitannya dengan kerontokan rambut, gangguan kuku, dan kerusakan saraf di belakang mata.

Amerika Serikat juga telah membekukan green card untuk Microsoft dan perusahaan TI lainnya, dengan tuduhan melakukan penipuan visa untuk menggantikan pekerja Amerika. Microsoft menyatakan 80% pengajuan H-1B-nya melibatkan staf yang sudah ada. Sementara itu, Envision Energy mengintegrasikan tenaga angin ke pusat data dan menjadi perusahaan pertama yang menyuplai daya pusat data sepenuhnya secara langsung dari energi terbarukan.

今日のAIモデルは、膨大な数のプロンプトを拒否するように訓練されています。チャットボットに同僚の毒殺方法や首吊りの結び方を尋ねても、おそらく断られるでしょう。しかし拒否は失敗することがあり、時には恐ろしい結果を招きます。一部の人々は、生物学的病原体の改良や自律型ドローン群の構築にAIを利用しようとしています。拒否の失敗は、やがて世界的な大惨事につながる可能性があります。

また、拒否に頼ることは、モデルが従うべきことと従ってはならないことの間に線を引くことを意味します。政府も独自の線を引くことになり、言論の自由を制限する可能性もあります。同時に、AIを有用にする能力は、危険にもなり得ます。AIにがん治療を助けてもらいたいなら、生物兵器の製造にもつながりかねない遺伝学の専門知識が必要なのです。

一方、研究者たちはGLP-1系の減量薬の副作用をいまだ解明中です。新たな研究では、これらの薬が生物学的な老化を遅らせる可能性が示唆されており、考えられる利点の一つに加わりました。最も一般的な副作用は消化器系ですが、研究者らは脱毛、爪の障害、目の奥の神経損傷との関連も調べています。

米国はまた、Microsoftやその他のIT企業のグリーンカードを凍結しました。米国人労働者を置き換えるためにビザ詐欺を行ったとして告発されています。Microsoftは、同社のH-1B申請の80%は既存の社員に関するものだったと述べています。一方、Envision Energyは風力発電をデータセンターに組み込んでおり、再生可能エネルギーのみでデータセンターを直接稼働させた初の企業となりました。

Os modelos de IA atuais são treinados para recusar um grande número de pedidos. Se você perguntar a um chatbot como envenenar um colega de trabalho ou como fazer um nó de forca, provavelmente ele vai recusar. Mas a recusa falha, às vezes de forma horrível. Algumas pessoas tentam usar a IA para aperfeiçoar patógenos biológicos e construir enxames de drones autônomos, e recusas que falham podem acabar resultando em uma calamidade global.

Depender da recusa também significa traçar uma linha entre o que um modelo deve obedecer e o que deve desobedecer. Os governos também traçarão suas próprias linhas, o que pode restringir a liberdade de expressão. Ao mesmo tempo, as capacidades que tornam a IA útil também podem torná-la perigosa. Se queremos que ela ajude a curar o câncer, a IA precisa de conhecimento em genética que também poderia produzir armas biológicas.

Em outra frente, os pesquisadores ainda estão descobrindo os efeitos colaterais dos medicamentos GLP-1 para perda de peso. Novas pesquisas sugerem que esses remédios podem desacelerar o envelhecimento biológico, somando-se a uma série de possíveis benefícios. Os efeitos colaterais mais comuns são gastrointestinais, mas os pesquisadores também investigam possíveis ligações com queda de cabelo, distúrbios nas unhas e danos aos nervos atrás do olho.

Os Estados Unidos também congelaram os green cards da Microsoft e de outras empresas de TI, acusando-as de usar fraude de vistos para substituir trabalhadores americanos. A Microsoft afirma que 80% de suas solicitações H-1B envolveram funcionários já existentes. Enquanto isso, a Envision Energy está integrando energia eólica a data centers e se tornou a primeira empresa a alimentar um data center diretamente e inteiramente com energia renovável.

Современные модели ИИ обучены отказываться от огромного количества запросов. Если спросить чат-бота, как отравить коллегу или как завязать петлю, он, скорее всего, откажет. Но отказы срабатывают неудачно, а иногда и ужасающе. Некоторые люди пытаются использовать ИИ для совершенствования биологических патогенов и создания автономных роёв дронов, и неудавшиеся отказы в конечном счёте могут привести к глобальной катастрофе.

Опора на отказы также означает необходимость провести черту между тем, что модель должна выполнять, и тем, чему она должна противиться. Правительства тоже будут проводить собственные границы, что может ограничить свободу слова. В то же время возможности, которые делают ИИ полезным, могут сделать его опасным. Если мы хотим, чтобы он помогал лечить рак, ему нужны знания в области генетики, которые могут использоваться и для создания биологического оружия.

Тем временем исследователи всё ещё выясняют побочные эффекты препаратов GLP-1 для снижения веса. Новые исследования указывают, что эти препараты могут замедлять биологическое старение, что добавляется к длинному списку их потенциальных преимуществ. Наиболее распространённые побочные эффекты связаны с желудочно-кишечным трактом, однако учёные также изучают возможную связь с выпадением волос, нарушениями ногтей и повреждением нервов за глазом.

США также заморозили грин-карты для Microsoft и других IT-компаний, обвиняя их в мошенничестве с визами с целью замены американских работников. Microsoft заявляет, что 80% её заявок H-1B касались уже работающих сотрудников. Тем временем Envision Energy интегрирует энергию ветра в центры обработки данных и стала первой компанией, которая полностью питает центр обработки данных напрямую от возобновляемых источников энергии.

当今的AI模型经过训练，会拒绝大量的提示。如果你问聊天机器人如何毒害同事或如何打结上吊，它很可能会拒绝回答。但拒绝机制会失效，有时后果极其可怕。一些人正试图利用AI来改造生物病原体，并打造自主无人机群。失效的拒绝机制最终可能导致全球性灾难。

依赖拒绝机制还意味着必须划定一条界线，区分模型应当服从什么、必须拒绝什么。政府也会划定自己的界线，这可能会限制言论自由。与此同时，让AI有用的能力也可能使其变得危险。如果我们希望AI帮助攻克癌症，它就需要遗传学方面的专业知识，而这些知识同样可能被用来制造生物武器。

另外，研究人员仍在探究GLP-1减肥药的副作用。新的研究表明，这些药物可能会减缓生物衰老，这为其众多潜在益处又增添了一项。最常见的副作用是胃肠道反应，但研究人员还在调查它们与脱发、指甲疾病以及眼后神经损伤之间可能存在的关联。

美国还冻结了微软及其他IT公司的绿卡申请，指控这些公司利用签证欺诈手段取代美国员工。微软表示，其H-1B申请中有80%涉及现有员工。与此同时，Envision Energy正在将风电整合进数据中心，成为首家完全使用可再生能源直接为数据中心供电的公司。