PyTorch и TensorFlow могут тихо вызывать серьезные ошибки в ML-моделях, стоимость тысяч в вычислительных ресурсах. Когда размерности тензоров не совпадают точно, фреймворки тихо 'бROADCAST', растягивая размерности размером 1, создавая нежелательные матричные операции вместо векторных операций. Например, сложение столбца (N, 1) к вектору (N,) производит матрицу (N, N) вместо элемент-wise операций. Это заставляет модели регрессии оптимизировать среднее по батчу вместо обучения реальных вход-выход отношений, с кривыми потерь, seeming normal while training toward garbage. Автор оценивает потерянные 4 000 долларов в вычислительных ресурсах из-за этой ошибки. Предотвращение требует тщательной проверки размерностей тензоров и понимания правил бROADCAST, чтобы гарантировать, что размерности совпадают как следует.