Heute hat Myrtle.ai, ein führendes Unternehmen im Bereich der Beschleunigung von maschinellen Lernprozessen, die Integration seines VOLLO®-Inferenzbeschleunigers mit der NT400D1x-Serie von SmartNICs des Unternehmens Napatech bekannt gegeben.
Der VOLLO-Beschleuniger bietet branchenführende Latenzzeiten für ML-Inferenzberechnungen, die unter einer Mikrosekunde liegen können. Diese neueste Version ermöglicht es Nutzern, die auf extrem niedrige Latenzen angewiesen sind, Inferenzen direkt am Netzwerkrand über eine SmartNIC durchzuführen. Eine Vielzahl von Modellen kann auf dem VOLLO ausgeführt werden, darunter LSTM-, CNN-, MLP-Modelle sowie Random Forests und Gradient Boosting-Entscheidungsbäume.
Das System wurde entwickelt, um den Anforderungen diverser Anwendungen gerecht zu werden. Dazu zählen Bereiche wie Finanzhandel, Mobilfunknetze, Cybersicherheit und Netzwerkmanagement – überall dort ist es entscheidend, dass ML-Inferenzen mit minimalen Verzögerungen durchgeführt werden. Dies führt zu Vorteilen in Bezug auf Sicherheit sowie Effizienz und senkt gleichzeitig Kosten.
„Wir freuen uns sehr über unsere Partnerschaft mit dem weltweit führenden Anbieter von SmartNIC-Technologie zur Realisierung unvergleichlich niedriger Latenzen bei ML-Inferenzen“, erklärt Peter Baldwin, CEO von Myrtle.ai. „Unsere Kunden suchen aktiv nach Möglichkeiten zur Reduzierung der Latenzzeiten; diese neue Version wird ihnen helfen, das volle Potenzial der herausragenden Leistungsfähigkeit des VOLLO auszuschöpfen.“
Jarrod J.S. Siket, Chief Product & Marketing Officer bei Napatech zeigt sich ebenfalls begeistert: „Wir haben festgestellt, dass die besten Latenzzeiten in den STAC® ML-Benchmarks unseren Kunden im Finanzsektor erheblichen Mehrwert bieten können – insbesondere da sie maschinelles Lernen zunehmend für automatisierten Handel einsetzen“, sagt er weiter. „Der VOLLO-Compiler wurde so konzipiert, dass er es Entwicklern erleichtert wird unsere SmartNICs zu nutzen und stärkt somit unser Produktangebot.“
Nutzer können ab sofort den ML-orientierten VOLLO-Compiler unter vollo.myrtle.ai herunterladen und herausfinden welche latenztechnischen Möglichkeiten ihre Modelle auf den NT400D1x-SmartNICs von Napatech bieten.
Über Myrtle.ai
Myrtle.ai ist ein innovatives Softwareunternehmen im Bereich KI/ML und liefert erstklassige Inferenzbeschleuniger basierend auf FPGA-Plattformen aller bedeutenden FPGA-Anbieter. Das Unternehmen verfügt über umfassendes Fachwissen in neuronalen Netzen für alle Arten von ML-Netzen und hat spezielle Beschleunigerlösungen für FinTech-Anwendungen sowie Sprachverarbeitungssysteme entwickelt.
„STAC“ sowie alle damit verbundenen Namen sind Marken oder eingetragene Marken des Securities Technology Analysis Center LLC.
Ursprünglichen Inhalt ansehen: https://www.prnewswire.com/news-releases/myrtleai-ermoglicht-ml-inferenz-latenzen-im-mikrosekundenbereich-mit-vollo-auf-napatech-smartnics-302523075.html p >
Pressekontakt: p >
Giles Peckham,
+44 7785 278478,
giles@myrtle.ai p >