Pengunduran diri peneliti Anthropic Jacob Cox-Smith minggu lalu menarik perhatian baru pada apakah venture capitalis menilai risiko keamanan AI secara memadai sebelum berinvestasi. Seiring model AI menjadi lebih kuat, investor menghadapi tekanan yang semakin besar untuk mengevaluasi bahaya potensial, termasuk penyalahgunaan, bias, dan kekhawatiran penyelarasan jangka panjang. Perusahaan seperti Sequoia Capital dan Andreessen Horowitz telah mulai memasukkan pemeriksaan keamanan ke dalam proses due diligence mereka, tetapi kritikus berargumen bahwa langkah-langkah ini masih belum memadai.

Beberapa investor kini menuntut perusahaan portofolio untuk menjalani audit keamanan eksternal dan mengadopsi kerangka kerja transparansi. Namun, laju pengembangan AI yang cepat sering kali melampaui pengawasan regulasi dan etis. "Kita perlu memastikan bahwa keamanan bukanlah pemikiran setelahnya," kata Sarah Chen, mitra di Eclipse Ventures. "Ini harus sudah ditanamkan dalam setiap keputusan investasi sejak hari pertama." Lembaga regulator di UE dan AS juga turut campur, mengusulkan pedoman yang lebih ketat untuk tata kelola AI. Sementara itu, startup terus berkompetisi untuk pendanaan, menimbulkan pertanyaan tentang apakah insentif finansial selaras dengan inovasi yang bertanggung jawab.

Perdebatan semakin memanas setelah beberapa pengunduran diri terkenal dari laboratorium AI terkemuka, menyoroti ketegangan internal seputar prioritas keamanan. Seiring industri berjuang menghadapi tantangan ini, pemangku kepentingan menyerukan tolok ukur keamanan standar dan akuntabilitas yang lebih besar di seluruh rantai investasi.