Tiny Corp bietet AMD- und NVIDIA-basierte KI-Systeme ab 15.000 US-Dollar an und sagt, wenn Sie möchten, dass „es einfach funktioniert“, kaufen Sie umweltfreundlich

Das KI-Startup Tiny Corp hat angekündigt, KI-Systeme in den Varianten AMD und NVIDIA zu Preisen ab 15.000 US-Dollar anzubieten.

Tiny Corp arbeitet mit AMD an der Lösung von KI-Softwareoptimierungen und bietet jetzt NVIDIA-Systeme für 25.000 US-Dollar und AMD-Systeme ab 15.000 US-Dollar an

Wir haben kürzlich über das Fiasko zwischen AMD und Tiny Corp berichtet, bei dem das KI-Unternehmen von AMD verlangte, einige seiner GPU-Firmware-Bibliotheken als Open-Source-Lösung bereitzustellen, um ihre Entwicklung fortzusetzen. Ihr Antrag wurde jedoch abgelehnt.

Damit hatte TinyCorp zuvor seine Absicht angekündigt, mit anderen GPU-Herstellern zusammenzuarbeiten, und präsentiert nun endlich eine neue Alternative, bei der sechs GeForce RTX 4090-GPUs von NVIDIA das gesamte Setup antreiben. Allerdings führte die Nutzung der Produkte von Team Green zu einem massiven Preisanstieg, da die NVIDIA Tiny Box-Lösung Berichten zufolge 25.000 US-Dollar kostete, was einer satten Steigerung von 10.000 US-Dollar gegenüber dem AMD-Pendant entspricht. Allerdings ist das AMD-System auch mit Radeon RX 7900 XTX-GPUs erhältlich und kostet ab 15.000 US-Dollar.

Ein schwer zu findendes „umr“-Repo hat die Machbarkeit der AMD Tinybox auf den Kopf gestellt. Es wird eine Reise sein, aber es gibt uns die Möglichkeit, Fehler zu beheben.

Wir werden beide verkaufen, Rot für 15.000 $ und Grün für 25.000 $. Wenn Sie Ihre Vorbestellung erhalten, wählen Sie Ihre Farbe aus. Die Website wurde…

– das kleine Unternehmen (@__tinygrad__) 25. März 2024

Die Entscheidung von Tiny Corp, NVIDIA-basierte KI-Systeme anzubieten, scheint für den Ruf von AMD bei KI-Startups unglücklich zu sein, da die Weiterentwicklung der Abteilung „Softwareressourcen“ für den Fortschritt auf den Märkten von entscheidender Bedeutung ist und NVIDIA keine große Lücke für die Konkurrenz gelassen hat auszufüllen, im Gegensatz zu AMD. Tiny Corp hat zum Ausdruck gebracht, dass ihr Unternehmen weiterhin mit AMD zusammenarbeiten wird, um einen Durchbruch zu erzielen, der Treiber stürzt jedoch nach Angaben des Unternehmens in bestimmten Fällen immer wieder ab oder funktioniert überhaupt nicht mehr.

Tiny Corp erklärt lediglich, dass Sie sich für die NVIDIA GeForce-basierte Lösung entscheiden sollten, wenn Sie etwas wollen, das sofort funktioniert. Sie verwenden auch das berühmte Zitat von NVIDIAs CEO Jensen Huang „It Just Works“, um die Stabilität der KI-Treiber von NVIDIA darzustellen.

Im Folgenden sind einige der Funktionen der Tinybox von Tiny Corp aufgeführt:

• 738 FP16 TFLOPs (AMD) / 991 FP16 TFLOPs (NVIDIA)
• 144 GB GPU-RAM
• 5,76 TB/s (AMD) / 6,05 TB/s (NVIDIA) RAM-Bandbreite
• 28,7 GB/s Festplatten-Lesebandbreite
• AMD EPYC-CPU, 32 Kerne
• 2x 1500 W (zwei 120-V-Steckdosen, kann die Leistung zu einem günstigeren Preis begrenzen)
• Läuft 70B FP16 LLaMA-2 sofort mit Tinygrad
• 15.000 $ (AMD) / 25.000 $ (NVIDIA)

Für diejenigen, die es nicht wissen: Die KI-Lösung von Tiny Corp ermöglicht es Verbrauchern, niedrige bis mittlere KI-fokussierte Arbeitslasten auf dedizierten Maschinen auszuführen, ohne moderne KI-Beschleuniger zu verwenden, die viel kosten. Als Lösung entschied sich das Unternehmen dafür, Consumer-GPUs in seine Hardware zu integrieren, da diese vergleichsweise einfacher verfügbar, kostengünstiger und auch ein gutes Preis-Leistungs-Verhältnis bieten. Das Unternehmen stieß auf großes Interesse seitens der Märkte und erhielt bereits 583 Vorbestellungen für das System, dessen Auslieferung voraussichtlich im April beginnen sollte.

Tinybox mit 6x Intel Arc A770 ist bunt! pic.twitter.com/sM1GwIqnMn

– das kleine Unternehmen (@__tinygrad__) 19. März 2024

Interessanterweise hat Tiny Corp auch eine Intel-basierte Lösung entwickelt und sechs Arc A770 von Intel montiert, das Unternehmen plant jedoch nicht, diese in absehbarer Zeit zu verkaufen.