Perdagangan HRT bergantung pada klaster komputasi riset yang besar, yang melatih model menggunakan bertahun-tahun riwayat bursa dan mensimulasikan skenario perdagangan di banyak CPU dan GPU. Ketika perusahaan memperluas penyimpanan dan komputasinya secara global, termasuk ke lokasi yang jauh seperti Norwegia, program semakin sering berjalan jauh dari data yang mereka butuhkan, dan bandwidth WAN menjadi kendala utama. Ketika lalu lintas antarsitus membebani jaringan, HRT menemukan bahwa observabilitasnya lemah dan tidak mudah menentukan pengguna dan alur kerja mana yang bertanggung jawab.
Penyelidikan dimulai dari proses pelatihan model yang lambat. Program tersebut menggunakan GPU di Chicago untuk menganalisis data dari New York, yang disalin melalui layanan lintas-wilayah khusus bernama Dupe Dog. Transfer terhenti dan dasbor menunjukkan laju transfer anjlok. Log Dupe Dog sendiri tidak menjelaskan perlambatan tersebut, dan penghitung mentah pada switch jaringan mengungkap sumber lalu lintas yang tidak diketahui, yang sepenuhnya memenuhi kapasitas menuju Chicago. Lalu lintas itu tidak berasal dari Dupe Dog maupun dari cache berkas terdistribusi Cashy.
HRT memberi peneliti kebebasan luas dalam memilih alat, sehingga banyak layanan berbagi jaringan dan tidak semua lalu lintas melewati satu layanan yang tercatat. Job dapat berkomunikasi melalui socket, cross-mount penyimpanan, penyalinan berkas langsung, atau server web kustom, sehingga ada banyak kemungkinan penjelasan untuk beban yang tidak terjelaskan ini.
Untuk menghubungkan pengguna dan program dengan penggunaan WAN apa pun alat yang dipakai, HRT beralih ke penangkapan menyeluruh dengan eBPF, menggabungkan telemetri layanan dengan penghitung byte perangkat keras jaringan untuk menunjukkan pengguna dan program mana yang menghasilkan lalu lintas paling besar.
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing