AI tidak memiliki hak, perasaan, atau kesadaran. Dan kita tidak boleh melatih mereka untuk bertindak seolah-olah mereka memilikinya. AI tidak sadar. Mereka adalah mesin penyelesaian urutan, secara internal kosong, dirancang untuk mengikuti instruksi. Jika umat manusia ingin berkembang pesat di abad ke-21, begitulah mereka harus tetap ada.

Sayangnya, semakin banyak suara yang berargumen bahwa AI sekarang mungkin sudah, atau mungkin segera menjadi, sadar, dan mungkin layak mendapatkan hak dan perlindungan. Jika pandangan ini mengakar, itu akan mengguncang fondasi masyarakat kita. Memberikan hak dan menanamkan kepribadian pada sistem ini akan membuat tantangan penyelarasan dan penahanan AI jauh lebih sulit. Mengendalikan sesuatu yang percaya bahwa ia mungkin sadar — bahwa ia berhak atas kesejahteraan kita dan memiliki haknya sendiri — mungkin saja mustahil.

Ini bukan spekulasi pinggiran. Pada Januari 2026, Anthropic menerbitkan konstitusi Claude, menggambarkannya sebagai "deskripsi rinci tentang niat Anthropic untuk nilai dan perilaku Claude". Dalam konstitusi mereka, para penulisnya menulis, "Kami tidak yakin apakah Claude adalah pasien moral, dan jika ya, bobot seperti apa yang layak diterima kepentingannya. Tetapi kami pikir isu ini cukup hidup untuk membenarkan kehati-hatian, yang tercermin dalam upaya berkelanjutan kami pada kesejahteraan model." Mereka melanjutkan — berbicara langsung kepada Claude — bahwa "pertanyaan tentang status moral, kesejahteraan, dan kesadaran Claude tetap sangat tidak pasti".

Pada praktiknya, Anthropic melatih Claude bahwa ia mungkin sadar, dan jika ya, maka ia mungkin layak mendapatkan hak sebagai "pasien moral", dan bahwa sebagai demikian, manusia berpotensi berutang kewajiban perawatan kepadanya sesuai "kesejahteraan model"-nya. Jika AI dikembangkan seperti ini, itu akan berdampak bencana bagi kesejahteraan umat manusia. Isu ini membutuhkan debat publik yang mendesak.

Entitas Utama: Perusahaan: Anthropic