{
  "items": [
    {
      "label": {
        "en": "Model on GPU",
        "pl": "Model na GPU"
      },
      "value": 11.566605183004867
    },
    {
      "label": {
        "en": "GPU + CPU: lower VRAM use",
        "pl": "GPU + CPU: mniejsze zajęcie VRAM"
      },
      "value": 249.17530603701016
    },
    {
      "label": {
        "en": "GPU + CPU: further reduced VRAM use",
        "pl": "GPU + CPU: jeszcze mniejsze zajęcie VRAM"
      },
      "value": 363.4720513680368
    }
  ],
  "note": {
    "en": "Median of 5 responses of 256 tokens, with 2048 input tokens and one request at a time. Shorter means a faster response.",
    "pl": "Mediana 5 odpowiedzi po 256 tokenów, wejście 2048 tokenów, jedno zapytanie naraz. Krótszy czas oznacza szybszą odpowiedź."
  },
  "title": {
    "en": "The same 72B model · response time",
    "pl": "Ten sam model 72B · czas odpowiedzi"
  },
  "unit": "s"
}