TensorFlow object_detection..builders.model_builder.build() съедает память GPU

Доброго времени суток!
Я пытаюсь воспроизвести код из официального tutorial'а tensorflow object detection api (https://github.com/tensorflow/models/blob/master/research/object_detection/colab_tutorials/eager_few_shot_od_training_tf2_colab.ipynb) на своем локальном компьютере В jupyter-notebook.
Я длошел до строк:
'''

detection_model = model_builder.build(
      model_config=model_config, is_training=True)

'''

После исполнения этих строк память GPU прктически полностью поглащается и ее становится недостаточно для обучения модели. Вот что выводит команда '!nvidia-smi' до выполнения этих строк:

+-----------------------------------------------------------------------------+
| NVIDIA-SMI 465.19.01    Driver Version: 465.19.01    CUDA Version: 11.3     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  NVIDIA Quadro P400  On   | 00000000:01:00.0  On |                  N/A |
| 34%   36C    P8    N/A /  N/A |    320MiB /  1997MiB |     39%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
                                                                               
+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
|=============================================================================|
|    0   N/A  N/A      1070      G   /usr/lib/xorg/Xorg                 39MiB |
|    0   N/A  N/A      1633      G   /usr/lib/xorg/Xorg                162MiB |
|    0   N/A  N/A      1769      G   /usr/bin/gnome-shell               54MiB |
|    0   N/A  N/A      1796      G   ...mviewer/tv_bin/TeamViewer       14MiB |
|    0   N/A  N/A     97769      G   ...AAAAAAAAA= --shared-files       28MiB |
|    0   N/A  N/A    245661      G   /usr/lib/firefox/firefox            0MiB |
|    0   N/A  N/A    245701      G   /usr/lib/firefox/firefox            0MiB |
|    0   N/A  N/A    247837      G   /usr/lib/firefox/firefox            1MiB |
|    0   N/A  N/A    248657      G   /usr/lib/firefox/firefox            0MiB |
|    0   N/A  N/A    248712      G   /usr/lib/firefox/firefox            0MiB |
|    0   N/A  N/A    249314      G   /usr/lib/firefox/firefox            0MiB |
+-----------------------------------------------------------------------------+  

А вто вывод той же команды сразу после них:

+-----------------------------------------------------------------------------+
| NVIDIA-SMI 465.19.01    Driver Version: 465.19.01    CUDA Version: 11.3     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  NVIDIA Quadro P400  On   | 00000000:01:00.0  On |                  N/A |
| 34%   37C    P0    N/A /  N/A |   1773MiB /  1997MiB |      5%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
                                                                               
+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
|=============================================================================|
|    0   N/A  N/A      1070      G   /usr/lib/xorg/Xorg                 39MiB |
|    0   N/A  N/A      1633      G   /usr/lib/xorg/Xorg                162MiB |
|    0   N/A  N/A      1769      G   /usr/bin/gnome-shell               54MiB |
|    0   N/A  N/A      1796      G   ...mviewer/tv_bin/TeamViewer       14MiB |
|    0   N/A  N/A     97769      G   ...AAAAAAAAA= --shared-files       28MiB |
|    0   N/A  N/A    245661      G   /usr/lib/firefox/firefox            0MiB |
|    0   N/A  N/A    245701      G   /usr/lib/firefox/firefox            0MiB |
|    0   N/A  N/A    247837      G   /usr/lib/firefox/firefox            1MiB |
|    0   N/A  N/A    248657      G   /usr/lib/firefox/firefox            0MiB |
|    0   N/A  N/A    248712      G   /usr/lib/firefox/firefox            0MiB |
|    0   N/A  N/A    249314      G   /usr/lib/firefox/firefox            0MiB |
|    0   N/A  N/A    254881      C   ...nvs/tensorflow/bin/python     1451MiB |
+-----------------------------------------------------------------------------+

При этом, я только создал модель, еще не загрузил Checkpoint'ы и не начал обучение модели. Примечально, что если выполнять этот же код в google colaboratory, то подобной утечки памяти не происходит.
Кто знает из-за чего такое может происходить и как с этим бороться?
Спасибо!


Ответы (0 шт):