TFLite LiteRT TensorFlow Test
Inferenz-Latenz: Neural Engine
1,99 € · Entwickelt für iPad. Nicht für macOS überprüft.
Benchmarke jedes .tflite- oder LiteRT-Modell auf CPU, GPU (Metal) oder Neural Engine. Ohne Mac, ohne Xcode, ohne Bazel. Latenz, QPS und Tensor-Shapes auf dem Gerät.
Wie schnell läuft dein .tflite-Modell wirklich auf diesem iPhone?
Wähle CPU, GPU oder Neural Engine. Miss echte Latenz und QPS.
Kein Mac, kein Xcode-Projekt, kein Bazel-Build, keine Cloud, kein Account.
Öffne eine .tflite-Datei aus der Dateien-App, wähle einen Beschleuniger, starte den Lauf. Eine echte Messung auf genau dem Gerät, das dich interessiert – in etwa einer Minute, ohne Bazel-Workspace und ohne selbst gebautes Benchmark-Tool.
BESCHLEUNIGER WÄHLEN
- Neural Engine – bindet den Core ML Delegate ein, damit unterstützte Operatoren auf der Apple Neural Engine laufen
- GPU – bindet den GPU Delegate ein, auf Basis von Metal
- CPU – der reine Interpreter, mit frei wählbarer Thread-Anzahl: 1, 2, 4, 6 oder 8
Eine Konfiguration pro Lauf: ausführen, Delegate oder Thread-Anzahl ändern, Modell erneut laden, Zahlen selbst vergleichen.
DAS BEKOMMST DU
- Latenz: Mittelwert, Minimum und Maximum in Millisekunden
- Queries pro Sekunde (QPS)
- Anzahl abgeschlossener Queries und Gesamtdauer des Laufs
- Frei wählbare Query-Anzahl pro Lauf: 50 bis 5.000 Aufrufe
Mittelwert, Minimum und Maximum messen ausschließlich den Inferenzaufruf – kein Pre-Processing, kein Post-Processing. Die Gesamtdauer umfasst die komplette Schleife. Das Display bleibt während eines Laufs an.
DAS SIEHST DU ÜBER DAS MODELL
- Jeden Eingabe- und Ausgabe-Tensor: Index, Name, Shape und Datentyp (uInt8, int32, float16, float32 und weitere)
- Dateigröße und Framework des Modells
- Live-Speicherverbrauch der App im Verhältnis zum verfügbaren Speicher, aktualisiert während der Messung
- Einen Geräte-Tab mit Modellkennung, Systemversion, freiem Speicher und der exakten TensorFlow-Lite-Laufzeitversion, gegen die dieser Build linkt
Ein MobileNet-Modell ist in der App enthalten und wird beim Start geladen – du siehst also eine echte Messung, bevor du ein eigenes Modell importierst.
LIES DAS, BEVOR DU EINER ZAHL VERTRAUST
Die Inferenz läuft mit genullten Dummy-Eingaben. Die App füllt jeden Eingabe-Tensor mit Nullen und ruft das Modell auf. Gemessen wird damit der Rechenaufwand des Graphen auf dem gewählten Beschleuniger – Latenz und Durchsatz, sonst nichts. Es ist kein Genauigkeitstest. Die App sagt dir nicht, ob dein Modell das richtige Ergebnis liefert, und sie zeigt keine Werte der Ausgabe-Tensoren. Frag sie „wie schnell“, nicht „wie korrekt“.
Was sie nicht kann, gleich vorweg: kein Vergleich mehrerer Beschleuniger in einem Lauf, kein Profiling pro Layer oder pro Operator, kein Export der Ergebnisse, keine Bild- oder Echtdaten-Eingabe. Sie öffnet ausschließlich .tflite-Dateien.
DATENSCHUTZ
Dein Modell verlässt das Gerät nicht. Laden, Inspizieren, Inferenz und Zeitmessung passieren lokal auf deinem iPhone oder iPad. Kein Account, keine Anmeldung – deine Modelle und deine Ergebnisse werden nie hochgeladen.
TensorFlow Lite heißt inzwischen LiteRT; das Format und die Dateiendung .tflite bleiben unverändert.
TensorFlow, das TensorFlow-Logo und alle zugehörigen Marken sind Marken von Google Inc.
Nicht mit Google verbunden, nicht von Google unterstützt.
Bewertungen & Rezensionen
- Diese App hat noch nicht genügend Bewertungen oder Rezensionen erhalten, um eine Übersicht anzuzeigen.
Die App ist ab sofort auf Deutsch, Japanisch, Koreanisch und Chinesisch (vereinfacht) verfügbar.
LiteRT v2 steht jetzt als zweite Inferenz-Runtime neben TensorFlow Lite bereit. Die Engine wird im Tab „Modellbeschreibung“ über die Auswahl „Runtime“ gewählt; dieselbe .tflite-Datei lässt sich so mit beiden Runtimes vermessen. LiteRT läuft auf CPU und GPU; die Neural Engine bleibt vorerst TFLite vorbehalten.
Alle drei Tabs wurden überarbeitet: Latenz und Durchsatz stehen jetzt an erster Stelle, Tensor-Details sind besser lesbar, Arbeitsspeicher und Speicherplatz erscheinen als Live-Balken.
Modelle und Messergebnisse verlassen das Gerät weiterhin nicht.
Das Entwicklungsteam, Anh Nguyen, hat darauf hingewiesen, dass die Datenschutzrichtlinien der App den unten stehenden Umgang mit Daten einschließen können. Weitere Informationen findest du in den Datenschutzrichtlinien des Entwicklungsteams .
Nicht mit dir verknüpfte Daten
Die folgenden Daten werden zwar möglicherweise erfasst, aber nicht mit deiner Identität verknüpft:
- Gekaufte Artikel
- Diagnose
Bedienungshilfen
Der Entwickler hat noch nicht angegeben, welche Bedienungshilfen diese App unterstützt. Weitere Infos
Informationen
- Größe
- 28,1 MB
- Kategorie
- Entwickler-Tools
- Kompatibilität
Erfordert iOS 16.0 oder neuer.
- iPhone
Erfordert iOS 16.0 oder neuer. - iPad
Erfordert iPadOS 16.0 oder neuer. - Mac
Erfordert macOS 13.0 (oder neuer) und einen Mac mit Apple M1-Chip (oder neuer).
- iPhone
- Sprachen
Deutsch und 4 weitere
- Deutsch, Englisch, Japanisch, Koreanisch, Vereinf. Chinesisch
- Altersfreigabe
4+
- 4+
- Anbieter
Anh Nguyen
- Anh Nguyen hat sich nicht als Händler für diese App ausgewiesen. Falls du Verbraucher:in im Europäischen Wirtschaftsraum bist, gelten die Verbraucherrechte nicht für Verträge zwischen dir und dem Anbieter.
- Copyright
- © 2026 Anh
