Dienstag, 10. Dez. 2024 17:18 - [ar] - Quelle:Pressemitteilung
UL Solutions hat den neuesten Procyon AI Text Generation Benchmark vorgestellt. Dieser neue Benchmark richtet sich an Unternehmen, welcher die Leistung und Fähigkeiten lokaler Sprachmodelle (LLMs) messen möchten.
Die Bewertung der Leistung von KI-Sprachmodellen kann sehr komplex und zeitaufwendig sein. Viele Variablen wie Quantisierung, Konvertierung und Variationen bei den Eingabetokens können die Zuverlässigkeit eines Tests beeinträchtigen, wenn sie nicht korrekt konfiguriert sind.
Der Procyon AI Text Generation Benchmark von UL Solutions bietet eine kompakte und einfachere Möglichkeit, die KI-Leistung mit verschiedenen LLM-Modellen wiederholt und konsistent zu testen. Das Unternehmen hat eng mit führenden Software- und Hardwareunternehmen zusammengearbeitet, um sicherzustellen, dass die verwendeten Benchmark-Tests die lokalen KI-Beschleuniger-Hardware in den getesteten Systemen optimal nutzen.
Dieser neue Benchmark unterstützt Hardware von einer Vielzahl von Anbietern, darunter diskrete GPUs von AMD, Intel und NVIDIA mit DirectML sowie Intel mit OpenVINO. Durch Tests mit allen unterstützten KI-Modellen – Phi-3.5-mini, Mistral-7B, Llama-3.1-8B und Llama-2-13B – kann die Leistung in einem breiten Spektrum von LLM-Anwendungsfällen gemessen werden.
Der Procyon AI Text Generation Benchmark ist jetzt für Besitzer von Procyon AI Benchmarks verfügbar und ergänzt die Benchmarks für KI-Bilderzeugung und KI-Computer Vision. Mit einer wachsenden Palette lokaler KI-Benchmarks möchte UL Solutions Procyon zur ersten Wahl für Unternehmen, Fachmedien und Anbieter machen, um die lokale KI-Leistung der neuesten PCs zu messen.