Wypożyczanie prywatnych kart GPU (oraz w chmurze) do obliczeń

Wypożyczanie prywatnych kart GPU (oraz w chmurze) do obliczeń. Szczególnie popularne są pierwsze dwa serwisy:

[ Vast.ai | Console ]
--> cloud.vast.ai/

[ RunPod - The Cloud Built for AI ]
--> www.runpod.io/

[ Rent GPUs Online | H100 & A100 GPUs from $0.39/hr | Jarvis Labs ]
--> jarvislabs.ai/

[ GPU Instances | Scaleway ]
--> www.scaleway.com/en/gpu-instances-signup/

[ Rent GPUs, Build and Train AI/ML models | Simplepod ]
--> simplepod.ai

[ GPU for Machine Learning & AI in 2025: On-Premises vs Cloud ]
--> mobidev.biz/blog/gpu-machine-learning-on-premises-vs-cloud

Oczywiście, po to są te usługi. Wrzucasz pliki z skryptem z pytorcha, TF czy innego frameworka, wrzucasz dataset i odpalasz zdalnie. Czytałem opinie użytkowników i ogólnie opłaca się wybierać droższe karty z wyższej półki. Szybciej liczą i finalnie zwykle mniej kosztują :) To jest gratka by skorzytstać z kart, do których przeciętny zjadacz chleba z Biedronki nie ma dostępu! Płacisz głównie za czas wykorzystania karty + trochę (niemal pomijalne!) za przestrzeń dyskową na daatset.

Przy czym na VAST i podobnych pożyczasz od osób prywatnych, które wypożyczają swoje prywatne karty "domowe" w okresie kiedy z nich nie korzystają, a na stronach usługodawców jak OVH czy dużych kolosów AWS, Azure, GCP korzystasz z kart GPU udostępnianych przez gigantów, a więc też za spore ("gigantyczne") pieniądze! Różnica w kosztach jest spora, rzuć okiem na OVH dla przykładu:

www.ovhcloud.com/pl/public-cloud/gpu/

Jakość usług też może się nieco różnić, ale generalnie nie można na VAST narzekać.

Dostajesz dostęp albo do Jupyter-a i korzystasz niemal jak z Google Colab, albo łączysz się przez SSH (Ubuntu Linux) i działasz jak na każdym serwerze, są jeszcze opcje REST API, ale to chyba jak się korzysta z większych dostawców (też współpracujących z VAST, ale większych firm, a nie drobnych użytkowników dysponujących jedną czy kilkoma kartami).
Generalnie tego typu serwisy zwykle oferują CLI, Jupytera lub czasem własne appki do zarządzania.