Groq und HUMAIN präsentieren ab sofort neue offene Modelle von OpenAI

Weltweit verfügbar mit Echtzeitleistung, kostengünstig und lokalem Support in Saudi-Arabien

Groq, ein Vorreiter im Bereich der schnellen Inferenztechnologie, hat zusammen mit HUMAIN, einem führenden KI-Dienstleister in Saudi-Arabien und PIF-Unternehmen, die sofortige Verfügbarkeit zweier offener Modelle von OpenAI auf GroqCloud bekannt gegeben. Ab sofort sind gpt-oss-120B und gpt-oss-20B mit vollem 128K-Kontext sowie Echtzeitantworten und integrierten serverseitigen Tools auf der optimierten Inferenzplattform von Groq verfügbar.

Bereits seit längerem unterstützt Groq die Open-Source-Initiativen von OpenAI, einschließlich des umfangreichen Einsatzes von Whisper. Diese neue Markteinführung baut darauf auf und bringt die neuesten Modelle mit globaler Erreichbarkeit sowie lokaler Unterstützung durch HUMAIN in den Markt.

„OpenAI setzt einen neuen Maßstab für Hochleistungsmodelle im Open Source-Bereich“, erklärte Jonathan Ross, CEO von Groq. „Unsere Plattform wurde entwickelt, um diese Modelle schnell und kosteneffizient zu betreiben, sodass Entwickler sie ab dem ersten Tag nutzen können. Die Partnerschaft mit HUMAIN verbessert den lokalen Zugang und Support im Königreich Saudi-Arabien erheblich und ermöglicht es Entwicklern in der Region schneller innovativ zu sein.“

Tareq Amin, CEO von HUMAIN fügte hinzu: „Groqs unübertroffene Geschwindigkeit bei der Inferenz sowie Skalierbarkeit machen es möglich, modernste KI-Technologien nach Saudi-Arabien zu bringen. Gemeinsam schaffen wir eine neue Welle saudischer Innovationen – unterstützt durch erstklassige Open Source-Modelle sowie die Infrastruktur zur weltweiten Skalierung dieser Technologien. Wir sind stolz darauf, die Führungsrolle von OpenAI im Bereich der offenen KI-Lösungen zu unterstützen.“

Optimiert für volle Modellfähigkeit

Um das Potenzial der neuen Modelle von OpenAI voll auszuschöpfen bietet Groq erweiterten Kontext sowie integrierte Werkzeuge wie Codeausführung und Websuche an. Die Websuche liefert relevante Informationen in Echtzeit während die Codeausführung logisches Denken fördert und komplexe Arbeitsabläufe ermöglicht. Diese Funktionen stehen bereits ab dem ersten Tag zur Verfügung – unterstützt durch eine vollständige 128k Token-Kontextlänge.

Kosteneffizienz ohne Kompromisse

Dank eines speziell entwickelten Stacks bietet Groq die niedrigsten Kosten pro Token für diese neuen Modelle aus dem Hause OpenAI bei gleichzeitig hoher Geschwindigkeit und Genauigkeit.

gpt-oss-120B erreicht derzeit über 500 t/s und gpt-oss-20B über 1000 t/s während sie auf GroqCloud betrieben werden.

• gpt-oss-120B: 0,15 USD / M Eingabe-Tokens; 0,75 USD / M Ausgabe-Tokens
• gpt-oss-20B: 0,10 USD / M Eingabe-Tokens; 0,50 USD / M Ausgabe-Tokens

Achtung: Für eine begrenzte Zeit werden Tool-Aufrufe für offene Modelle nicht berechnet! Weitere Informationen finden Sie unter groq.com/pricing.

Echtzeitglobalität vom ersten Tag an

Dank seiner globalen Präsenz mit Rechenzentren in Nordamerika , Europa sowie dem Nahen Osten garantiert Groqs Infrastruktur zuverlässige Leistung bei KI-Inferenzen überall dort wo Entwickler tätig sind.
Durch den Einsatz von GroqCloud sind jetzt alle offenen Modelldaten weltweit verfügbar – dies geschieht dabei nahezu latenzfrei!