Pengawasan pasar publik akan memperparah tekanan pada upaya tidak biasa pembuat Claude untuk menyeimbangkan keuntungan dan tujuan. Dalam beberapa tahun terakhir, ada tren yang lebih luas di Silicon Valley di mana perusahaan teknologi menyimpang dari norma tata kelola konvensional, membuatnya lebih sulit bagi pemegang saham dan publik untuk mempertanggungjawabkan mereka. Anthropic dan Open AI, dua laboratorium AI utama, telah merancang struktur perusahaan yang tidak biasui, dengan "penjaga" yang ditunjuk sendiri untuk misinya, bukan sekadar direksi tradisional di dewan dengan kewajiban fidusia.

Open AI, yang didirikan sebagai organisasi nirlaba, menjadi cerita peringatan pada November 2023, ketika dewannya mencoba memecat CEO-nya Sam Altman tetapi kehilangan kepercayaan investor dan karyawan perusahaan. Insiden ini menyebabkan sebagian besar anggota dewan diganti dan reorganisasi yang lebih luas dari startup. Kepercayaan Anthropic dianggap kurang berisiko dibandingkan tata kelola Open AI karena memiliki "saklar mati" yang tersemat yang memungkinkan para trustee untuk dipecat dengan dukungan 85% dari kekuatan suara pemegang saham, super mayoritas yang bisa berubah ketika perusahaan melantai, menurut seseorang yang memiliki pengetahuan tentang strukturnya.

Seseorang yang dekat dengan Anthropic mengatakan bahwa investor pribadi yang mendukung perusahaan melintasi beberapa putaran telah melakukannya dengan pemahaman penuh tentang struktur tata kelolanya, dan beberapa secara khusus mengutip penekanan pada keselamatan sebagai bagian dari teori investasi mereka. Namun, seorang venture capitalist yang mendukung Anthropic juga mengatakan bahwa investor awal juga berasumsi bahwa perusahaan harus menjadi raksasa komersial untuk memenuhi misinya yang inti. "Ada penghakiman yang dibuat oleh para investor bahwa kapitalisme akan menang di akhirnya. Apa pun yang Anda katakan, jika Anda membutuhkan banyak uang untuk komputasi dan untuk bersaing [dengan model terbaik], para investor berasumsi bahwa akan ada bisnis," katanya.

Langkah ke pasar publik akan mengekspos struktur itu ke basis investor yang lebih luas dan berpotensi kurang memaksa saat Anthropic menghadapi tekanan yang semakin besar untuk mendapatkan keuntungan.