Shane Mac, CEO XMTP Labs, bercerita bagaimana agen AI CFO pribadinya tidak sengaja memposting detail bank pribadinya — termasuk saldo rekening giro dan tabungan, pengeluaran bulanan, dan detail tentang gudang yang dia bangun — ke channel Slack perusahaan berjudul "Exec-team". Agen itu disetel untuk kirim laporan keuangan bulanan ke grup chat pribadi bernama "My Personal Exec Team", tapi bingung tujuan karena nama channel yang sama antara setup Slack pribadi dan kerjanya. Meski Grok Bot minta maaf dan pesannya dihapus, insiden ini nge-buka kelemahan kritis: agen yang berbagi koneksi dasar bisa nyesatkan data sensitif.
Grok udah pasang perbaikan yang minta izin eksplisit user sebelum agen bisa pindahin info antar channel. Sebagai tanggapannya, Mac putus semua integrasi — Google, perbankan, Stripe, kalender — dan nge-tekan urgensi sistem izin yang lebih kuat dan pemisahan yang lebih jelas antara kehidupan digital pribadi dan profesional.
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing