Polskie forum Pythona
search
  • chevron_right Tematy
  • label Sztuczna Inteligencja

PyBuda do uruchamiania modeli TF, PyTorch, JAX, ONNX na sprzęcie od Tenstorrent

CC_PL
30 lipca 2024
chat_bubble_outline 1
  • link
    CC_PL
    Członkowie 62 posty
    30 lipca 2024 17:47 30 lipca 2024 17:47
    link

    Warto rzucić okiem:

    [ Tenstorrent ]
    --> tenstorrent.com/software/tt-buda

    [ Index | Tenstorrent ]
    --> docs.tenstorrent.com/tenstorrent/v/tt-buda

    Tenstorrent ma maszynki głównie na prockach RISC-V (procesory do obliczeń Tensix). Chwalą się dużo lepszą efektywnością, stosunek cena / wydajność ponoć sporo lepszy niż w przypadku GPU od NVIDIA.

    Sprzęt wydaje się być niedrogi.... Skrzynka (czy buda) na AMD Epyc 16-core z 4-procesorami Tensix (kartami obliczeniowymi) to coś koło 10-15k dolarów.

    Sam moduł obliczeniowy e150 oferujący power na poziomie 332 TeraFLOPs (FP8), czyli prawie 4x tyle co w Nvidia GeForce RTX 4090 (!!!) kosztuje tylko 800$.

  • link
    CC_PL
    Członkowie 62 posty
    4 września 2024 21:33 4 września 2024 21:33
    link

    Warto zajrzeć:

    www.anandtech.com/show/21482/tenstorrent-launches-wormhole-ai-processors-466-fp8-tflops-at-300w

arrow_upward Idź do góry
powered by misago