与在 8 核 CPU 笔记本电脑上进行训练相比，在启用 AWS GPU 的实例上进行训练要快多少？

Question

我正在微调一个 BERT 模型，每个 epoch 大约需要 1 小时 20 分钟。我很好奇在迁移到 g3s.xlarge 后我可以期望这个模型运行多快。寻找节省时间的百分比/运行时间的非常粗略的估计。

Answer 1

如果您的工作量合适并且设置得当，那么速度会快 4 到 5 倍

见https://ieeexplore.ieee.org/document/8751930