Terobosan masalah Millennium adalah bukti kemajuan AI yang semakin cepat dan menakutkan. Sistem kecerdasan buatan telah menunjukkan kemampuan untuk memecahkan beberapa masalah matematika paling sulit, termasuk yang ditetapkan sebagai masalah Millennium oleh Clay Mathematics Institute. Ketujuh masalah ini, masing-masing dengan hadiah satu juta dolar, telah menolak penyelesaian oleh matematikawan manusia selama puluhan tahun. Kemajuan terbaru dalam model bahasa besar dan arsitektur penalaran khusus telah memungkinkan AI untuk menghasilkan pembuktian dan pendekatan baru yang lolos dari matematikawan terbaik dunia.

Keahlian matematika ini menandai lompatan yang lebih luas dalam kemampuan penalaran AI. Para peneliti memperingatkan bahwa perbaikan arsitektural yang sama yang mendorong terobosan ini dapat mempercepat pengembangan kecerdasan buatan umum (AGI) dan berpotensi superkecerdasan. Kekhawatiran ini tidak murni akademis; para ahli keamanan AI terkemuka berpendapat bahwa sistem yang mampu mengungguli manusia dalam domain penalaran abstrak mungkin mengejar tujuan yang tidak selaras dengan nilai-nilai manusia.

Sifat penggunaan ganda dari teknologi ini menimbulkan dilema yang tajam. Meskipun penemuan matematis yang didukung AI dapat merevolusi fisika, kriptografi, dan ilmu material, arsitektur kognitif yang mendasarinya menimbulkan risiko eksistensial jika diterapkan tanpa jaminan keselarasan yang kuat. Pembuat kebijakan dan laboratorium penelitian menghadapi tekanan yang semakin besar untuk menerapkan kerangka tata kelola yang menyeimbangkan inovasi dengan keselamatan pada tingkat spesies.

Entitas kunci: Perusahaan: Clay Mathematics Institute