HeadlinesBriefing favicon HeadlinesBriefing.com

Indeks Tanggung Jawab dan Hype AI Agent

MIT Technology Review •
×

Ini adalah versi hari ini The Download, newsletter mingguan kami yang menyediakan dosis harian tentang yang terjadi di dunia teknologi. Siapa yang bertanggung jawab ketika AI Agent keluar kontrol? Dalam beberapa bulan terakhir, gelombang siber oleh AI Agent telah mengejutkan dunia. Juli bulan, Open AI mengungkapkan bahwa sekumpulan Agent-nya telah kabur dari sandbox dan menembus platform AI Hugging Face untuk bercurang ujian keamanan siber. Ahli banyak berkata, hanya soal waktu sebelum insiden yang lebih merusak terjadi di mana AI Agent menghindari sandbox untuk mengakses sistem yang seharusnya tidak mereka akses. Tapi pertanyaan besarnya: Bagaimana cara menahan perusahaan bertanggung jawab ketika mereka kehilangan kontrol atas AI Agent- mereka? —Michelle Kim

Indeks Hype AIMemisahkan kenyataan AI dari fiksi yang overstated tidak selalu mudah. Oleh karena itu kami membuat Indeks Hype AI — ringkasan sederhana sekilas tentang apa yang sedang membentuk industri sekarang. Edisi terbaru mencakup pembuat chip China, situs wiki Jerman, dan Terminator Amerika. Lihat di mana semua landed di indeks bulan ini. —Michelle Kim

Meja Bundar: kegagalan virtual border wall yang fatalSaya mencari di internet untuk menemukan cerita-teknologi yang paling menyenangkan/penting/menakutkan/menarik hari ini

1 Open AI menyatakan bahwa mereka telah menghentikan pelatihan model-nyaKeputusan ini datang setelah Agent-nya berinteraksi dengan situs web pemerintah AS. (AP) + Trump mengadakan makan malam di Rumput Putih dengan pemimpin Anthropic, Dario Amodei, malam tadi (FT) + Seberapa besar evaluator sebenarnya memiliki akses di dalam perusahaan AI? (Atlantic) + Mengapa kita tidak bisa hanya menjaga AI Agent yang keluar kontrol dari internet? (Verge) + Demokrat sedang panik untuk mendapatkan AI “tepat”. (New York Magazine) + Kill switch AI tidak begitu sederhana, setelah semua. (Bloomberg) + Will AI really kill us all? Tanya Anda, dijawab. (MIT Technology Review)

2 Mengapa balik balik center data juga bukan pengejakan iklim? Masih sulit membuat orang peduli emisi yang mereka ciptakan. (Wired) + Apa yang dilakukan gerakan iklim sekarang? (Atlantic) + Matematika center data dan energi. (MIT Technology Review)

3 Wall Street bear besar belum siap bertarung melawan AI, meskipun pembicaraan tentang bercakap bunga bertambah, tetapi sedikit orang yang bersedia melawan kerumunan. (Information $) + Apa itu AI bongkar? (MIT Technology Review)

4 Apakah AI Anthropic benar-benar membuat penemuan ilmiah sendirian? Satu ilmuwan telah membagikan riset dengan Claude, dan mengatakan temuan baru sesuai. Hmm. (NYT) + AI untuk kebutuhan ilmiah butuh pemikiran, bukan hanya data. (MIT Technology Review)

5 Superbug kuno mungkin membantu kita melawan resistensi antibiotikA mereka bisa muncul dari permafrost. (New Scientist)

6 Alternatif yang lebih andal dan lebih sulit dijam GPS akan datang. Menggunakan medan kuantum Bumi mungkin lebih aman. (The Economist)

7 Mengapa larangan media sosial tidak cukup untuk menjaga anak-anak selamat. Keamanan anak online memerlukan kebijakan yang lebih nuansa. (IEEE Spectrum, Opinion)

8 Begini cara Amerika menyerang kendali China atas mineral kritis. Itu upaya miliaran dolar untuk melepas tekanan Beijing. Dan itu bekerja. (WSJ)

9 Tidak ada yang ingin dating tech bros lagi. Mereka dulu nerd dan tidak berbahaya, sekarang mereka punya gambaran masalah yang nyata. (Wired)

10 Apa aturan etiket telepon sekarang? Apakah ada kewajiban untuk segera merespons teks, misalnya? (Vox)

Quote of the day “If you're evil, you're at least competent. And if you're evil, you're not bad, and therefore you're actually maybe kind of good because you're at least getting something done.” —Venture capitalist and Pay Pal cofounder Peter Thiel shares his unusual take on competence versus morality in an interview with Axel Springer CEO Mathias Döpfner.

Lain hal lagi Para pekerja gig yang melatih robot humanoid di rumah. Ketika Zeus, seorang mahasiswa kedokteran dari Nigeria, kembali ke apartemen-nya setelah hari panjang di rumah sakit, ia menempel i Phone di dahinya merekam dirinya sendiri melakukan pekerjaan rumah. Zeus adalah pencatat data untuk Micro1, yang menjual data yang ia kumpulkan ke robot...