mirror of
https://github.com/xxnuo/MTranServer.git
synced 2026-09-03 06:35:20 +08:00
Update README.md
docs: sync multi-language docs with README.md changes (v4 optimization notes) ci: add warning for dev tags in release notes
This commit is contained in:
xxnuo
8
.github/workflows/build.yml
vendored
8
.github/workflows/build.yml
vendored
@@ -52,9 +52,17 @@ jobs:
|
||||
sha256sum * > SHA256SUMS
|
||||
cat SHA256SUMS
|
||||
|
||||
- name: Prepare Release Notes
|
||||
id: release_notes
|
||||
run: |
|
||||
if [[ "${{ github.ref_name }}" == *"dev"* ]]; then
|
||||
echo "notes=⚠️ **THIS IS A DEVELOPMENT RELEASE. NOT RECOMMENDED FOR PRODUCTION USE.** ⚠️" >> $GITHUB_OUTPUT
|
||||
fi
|
||||
|
||||
- name: Create Release
|
||||
uses: softprops/action-gh-release@v2
|
||||
with:
|
||||
files: |
|
||||
release-assets/*
|
||||
body: ${{ steps.release_notes.outputs.notes }}
|
||||
generate_release_notes: true
|
||||
|
||||
@@ -6,9 +6,9 @@
|
||||
|
||||
一个超低资源消耗速度超快的离线翻译模型服务器，无需显卡。单个请求平均响应时间 50 毫秒。支持全世界主要语言的翻译。
|
||||
|
||||
注意本模型服务器专注于`离线翻译`、`响应速度`、`跨平台部署`、`本地运行` 达到 `无限免费翻译` 的设计目标，受限于模型大小和优化程度，所以翻译质量肯定是不如大模型翻译的效果。
|
||||
注意本模型服务器专注于`离线翻译`、`响应速度`、`跨平台部署`、`本地运行` 达到 `无限免费翻译` 的设计目标，受限于模型大小和优化程度，所以翻译质量肯定是不如大模型翻译的效果。需要高质量的翻译建议使用在线大模型 API。
|
||||
|
||||
> 需要高质量的翻译建议使用在线大模型 API。
|
||||
> v4 优化了内存占用，速度进一步提升，增强了稳定性，等待正式版发布！dev 版不推荐升级使用！
|
||||
|
||||
<img src="./images/preview.png" width="auto" height="460">
|
||||
|
||||
@@ -128,7 +128,7 @@ docker compose up -d
|
||||
| [LibreTranslate](https://github.com/LibreTranslate/LibreTranslate) | 很高 | 一般 | 一般 | 中等 | 中端 CPU 每秒处理 3 句，高端 CPU 每秒处理 15-20 句，[详情](https://community.libretranslate.com/t/performance-benchmark-data/486) |
|
||||
| [OPUS-MT](https://github.com/OpenNMT/CTranslate2#benchmarks) | 高 | 一般 | 略差 | 快 | [性能测试](https://github.com/OpenNMT/CTranslate2#benchmarks) |
|
||||
| 其他大模型 | 超高 | 动态 | 非常好 | 很慢 | 对硬件要求很高，如果需要高并发翻译建议使用 vllm 框架，通过内存占用和显存占用来控制翻译并发量 |
|
||||
| 本项目 | 中等 | 高 | 一般 | 极快 | 单个请求平均响应时间 50ms，新版模型提升了翻译质量，导致内存占用升高，有时间会着手优化 |
|
||||
| 本项目 | 低 | 高 | 一般 | 极快 | 单个请求平均响应时间 50ms，v4 优化了内存占用，等待正式版发布！ |
|
||||
|
||||
> 表中为 CPU、英译中场景下的简单测试，非严格测试，非量化版本对比，仅供参考。
|
||||
|
||||
|
||||
@@ -6,9 +6,9 @@
|
||||
|
||||
Ein ultraschneller Offline-Übersetzungsmodell-Server mit minimalem Ressourcenverbrauch. Keine Grafikkarte erforderlich. Durchschnittliche Antwortzeit von 50 ms pro Anfrage. Unterstützt die Übersetzung der weltweit wichtigsten Sprachen.
|
||||
|
||||
Beachten Sie, dass dieser Modellserver auf die Designziele `Offline-Übersetzung`, `Reaktionsgeschwindigkeit`, `plattformübergreifende Bereitstellung` und `lokale Ausführung` fokussiert ist, um `unbegrenzte kostenlose Übersetzungen` zu erreichen. Aufgrund von Einschränkungen bei der Modellgröße und Optimierung wird die Übersetzungsqualität sicherlich nicht so gut sein wie die von großen Sprachmodellen.
|
||||
Beachten Sie, dass dieser Modellserver auf die Designziele `Offline-Übersetzung`, `Reaktionsgeschwindigkeit`, `plattformübergreifende Bereitstellung` und `lokale Ausführung` fokussiert ist, um `unbegrenzte kostenlose Übersetzungen` zu erreichen. Aufgrund von Einschränkungen bei der Modellgröße und Optimierung wird die Übersetzungsqualität sicherlich nicht so gut sein wie die von großen Sprachmodellen. Für qualitativ hochwertige Übersetzungen wird die Verwendung von Online-APIs für große Sprachmodelle empfohlen.
|
||||
|
||||
> Für qualitativ hochwertige Übersetzungen wird die Verwendung von Online-APIs für große Sprachmodelle empfohlen.
|
||||
> v4 hat den Speicherverbrauch optimiert, die Geschwindigkeit weiter erhöht und die Stabilität verbessert. Warten auf die offizielle Veröffentlichung! Die Dev-Version wird nicht für ein Upgrade empfohlen!
|
||||
|
||||
<img src="../images/preview.png" width="auto" height="460">
|
||||
|
||||
@@ -128,7 +128,7 @@ Hier sind einige Projekte mit ähnlichen Funktionen. Wenn Sie andere Bedürfniss
|
||||
| [LibreTranslate](https://github.com/LibreTranslate/LibreTranslate) | Sehr hoch | Durchschnittlich | Durchschnittlich | Mittel | Mittelklasse-CPU verarbeitet 3 Sätze/s, High-End-CPU 15-20 Sätze/s. [Details](https://community.libretranslate.com/t/performance-benchmark-data/486) |
|
||||
| [OPUS-MT](https://github.com/OpenNMT/CTranslate2#benchmarks) | Hoch | Durchschnittlich | Eher schlecht | Schnell | [Leistungstests](https://github.com/OpenNMT/CTranslate2#benchmarks) |
|
||||
| Andere große Modelle | Extrem hoch | Dynamisch | Sehr gut | Sehr langsam | Hohe Hardwareanforderungen. Wenn Sie eine Übersetzung mit hoher Nebenläufigkeit benötigen, wird empfohlen, das vllm-Framework zu verwenden, um die Nebenläufigkeit über den Speicher- und VRAM-Verbrauch zu steuern |
|
||||
| Dieses Projekt | Mittel | Hoch | Durchschnittlich | Extrem schnell | Durchschnittliche Antwortzeit von 50 ms pro Anfrage. Das neue Modell hat die Übersetzungsqualität verbessert, was zu einem erhöhten Speicherverbrauch führte. Optimierung wird priorisiert, wenn Zeit verfügbar ist |
|
||||
| Dieses Projekt | Niedrig | Hoch | Durchschnittlich | Extrem schnell | Durchschnittliche Antwortzeit von 50 ms pro Anfrage. v4 hat den Speicherverbrauch optimiert. Warten auf die offizielle Veröffentlichung! |
|
||||
|
||||
> Die Daten in der Tabelle beziehen sich auf einfache Tests mit CPU, Englisch-Chinesisch-Szenarien, keine strengen Tests, Vergleich von nicht quantisierten Versionen, nur als Referenz.
|
||||
|
||||
|
||||
@@ -6,9 +6,9 @@
|
||||
|
||||
A high-performance offline translation model server with minimal resource requirements - no GPU needed. Average response time of 50ms per request. Supports translation of major languages worldwide.
|
||||
|
||||
Note: This model server focuses on `offline translation`, `response speed`, `cross-platform deployment`, and `local execution` to achieve `unlimited free translation`. Due to model size and optimization constraints, the translation quality will not match that of large language models.
|
||||
Note: This model server focuses on `offline translation`, `response speed`, `cross-platform deployment`, and `local execution` to achieve `unlimited free translation`. Due to model size and optimization constraints, the translation quality will not match that of large language models. For high-quality translation, consider using online large language model APIs.
|
||||
|
||||
> For high-quality translation, consider using online large language model APIs.
|
||||
> v4 has optimized memory usage, further improved speed, and enhanced stability. Waiting for the official release! The dev version is not recommended for upgrade!
|
||||
|
||||
<img src="../images/preview.png" width="auto" height="460">
|
||||
|
||||
@@ -128,7 +128,7 @@ Here are some similar projects, you can try them if you have other needs:
|
||||
| [LibreTranslate](https://github.com/LibreTranslate/LibreTranslate) | Very High | Average | Average | Medium | Mid-range CPU processes 3 sentences/s, high-end CPU processes 15-20 sentences/s. [Details](https://community.libretranslate.com/t/performance-benchmark-data/486) |
|
||||
| [OPUS-MT](https://github.com/OpenNMT/CTranslate2#benchmarks) | High | Average | Below Average | Fast | [Performance Tests](https://github.com/OpenNMT/CTranslate2#benchmarks) |
|
||||
| Any LLM | Extremely High | Dynamic | Very Good | Very Slow | High hardware requirements. If you need high concurrency translation, it is recommended to use vllm framework to control translation concurrency through memory and VRAM usage. |
|
||||
| MTranServer (This Project) | Medium | High | Average | Ultra Fast | 50ms average response time per request. The new model improves translation quality, leading to increased memory usage. Optimization will be prioritized when time permits. |
|
||||
| MTranServer (This Project) | Low | High | Average | Ultra Fast | 50ms average response time per request. v4 has optimized memory usage. Waiting for the official release! |
|
||||
|
||||
> Table data is for CPU, English to Chinese scenarios simple testing, not strict testing, non-quantized version comparison, for reference only.
|
||||
|
||||
|
||||
@@ -6,9 +6,9 @@
|
||||
|
||||
Un serveur de modèle de traduction hors ligne ultra-rapide avec une consommation de ressources minimale. Aucune carte graphique requise. Temps de réponse moyen de 50 ms par requête. Prend en charge la traduction des principales langues du monde.
|
||||
|
||||
Notez que ce serveur de modèle se concentre sur la `traduction hors ligne`, la `vitesse de réponse`, le `déploiement multiplateforme` et l'`exécution locale` pour atteindre l'objectif de `traduction gratuite illimitée`. En raison des contraintes de taille et d'optimisation du modèle, la qualité de la traduction ne sera certainement pas aussi bonne que celle des grands modèles de traduction.
|
||||
Notez que ce serveur de modèle se concentre sur la `traduction hors ligne`, la `vitesse de réponse`, le `déploiement multiplateforme` et l'`exécution locale` pour atteindre l'objectif de `traduction gratuite illimitée`. En raison des contraintes de taille et d'optimisation du modèle, la qualité de la traduction ne sera certainement pas aussi bonne que celle des grands modèles de traduction. Pour une traduction de haute qualité, il est recommandé d'utiliser les API de grands modèles en ligne.
|
||||
|
||||
> Pour une traduction de haute qualité, il est recommandé d'utiliser les API de grands modèles en ligne.
|
||||
> v4 a optimisé l'utilisation de la mémoire, amélioré encore la vitesse et renforcé la stabilité. En attente de la version officielle ! La version dev n'est pas recommandée pour la mise à niveau !
|
||||
|
||||
<img src="../images/preview.png" width="auto" height="460">
|
||||
|
||||
@@ -128,7 +128,7 @@ Voici quelques projets avec des fonctionnalités similaires. Si vous avez d'autr
|
||||
| [LibreTranslate](https://github.com/LibreTranslate/LibreTranslate) | Très élevée | Moyenne | Moyenne | Moyenne | Un CPU milieu de gamme traite 3 phrases/s, un CPU haut de gamme 15-20 phrases/s. [Détails](https://community.libretranslate.com/t/performance-benchmark-data/486) |
|
||||
| [OPUS-MT](https://github.com/OpenNMT/CTranslate2#benchmarks) | Élevée | Moyenne | Assez mauvaise | Rapide | [Tests de performance](https://github.com/OpenNMT/CTranslate2#benchmarks) |
|
||||
| Autres grands modèles | Ultra élevée | Dynamique | Très bonne | Très lente | Exigences matérielles élevées. Si vous avez besoin d'une traduction à haute concurrence, il est recommandé d'utiliser le framework vllm pour contrôler la concurrence via l'utilisation de la mémoire et de la VRAM |
|
||||
| Ce projet | Moyenne | Élevée | Moyenne | Ultra rapide | Temps de réponse moyen de 50 ms par requête. Le nouveau modèle a amélioré la qualité de la traduction, entraînant une augmentation de l'utilisation de la mémoire. L'optimisation sera priorisée quand le temps le permettra |
|
||||
| Ce projet | Faible | Élevée | Moyenne | Ultra rapide | Temps de réponse moyen de 50 ms par requête. v4 a optimisé l'utilisation de la mémoire. En attente de la version officielle ! |
|
||||
|
||||
> Les données du tableau sont pour des tests simples CPU, scénarios anglais vers chinois, pas des tests stricts, comparaison de versions non quantifiées, pour référence seulement.
|
||||
|
||||
|
||||
@@ -6,9 +6,9 @@
|
||||
|
||||
超低リソース消費、超高速なオフライン翻訳モデルサーバーです。グラフィックカードは不要です。リクエストあたりの平均応答時間は50ミリ秒です。世界の主要言語の翻訳をサポートしています。
|
||||
|
||||
注意：このモデルサーバーは、`オフライン翻訳`、`応答速度`、`クロスプラットフォーム展開`、`ローカル実行`による`無制限の無料翻訳`という設計目標に焦点を当てており、モデルサイズと最適化の制限により、翻訳品質は大モデル翻訳の効果には及びません。
|
||||
注意：このモデルサーバーは、`オフライン翻訳`、`応答速度`、`クロスプラットフォーム展開`、`ローカル実行`による`無制限の無料翻訳`という設計目標に焦点を当てており、モデルサイズと最適化の制限により、翻訳品質は大モデル翻訳の効果には及びません。高品質な翻訳が必要な場合は、オンラインの大規模言語モデルAPIの使用をお勧めします。
|
||||
|
||||
> 高品質な翻訳が必要な場合は、オンラインの大規模言語モデルAPIの使用をお勧めします。
|
||||
> v4ではメモリ使用量が最適化され、速度がさらに向上し、安定性が強化されました。正式リリースをお待ちください！dev版へのアップグレードは推奨されません！
|
||||
|
||||
<img src="../images/preview.png" width="auto" height="460">
|
||||
|
||||
@@ -128,7 +128,7 @@ docker compose up -d
|
||||
| [LibreTranslate](https://github.com/LibreTranslate/LibreTranslate) | 非常に高い | 普通 | 普通 | 中程度 | ミドルレンジCPUで毎秒3文、ハイエンドCPUで毎秒15-20文処理。[詳細](https://community.libretranslate.com/t/performance-benchmark-data/486) |
|
||||
| [OPUS-MT](https://github.com/OpenNMT/CTranslate2#benchmarks) | 高い | 普通 | やや悪い | 速い | [性能テスト](https://github.com/OpenNMT/CTranslate2#benchmarks) |
|
||||
| その他大規模モデル | 超高い | 動的 | 非常に良い | 非常に遅い | ハードウェア要件が高い。高同時実行翻訳が必要な場合は、vllmフレームワークの使用をお勧めします。メモリとVRAM使用量で翻訳同時実行数を制御できます。 |
|
||||
| 本プロジェクト | 中程度 | 高い | 普通 | 極めて速い | リクエストあたり平均応答時間50ms。新モデルは翻訳品質を向上させましたが、メモリ使用量が増加しました。時間があれば最適化に着手します。 |
|
||||
| 本プロジェクト | 低 | 高い | 普通 | 極めて速い | リクエストあたり平均応答時間50ms。v4ではメモリ使用量が最適化されました。正式リリースをお待ちください！ |
|
||||
|
||||
> 表のデータはCPU、英中翻訳シナリオでの簡易テストであり、厳密なテストではなく、非量子化バージョンの比較です。参考程度にしてください。
|
||||
|
||||
|
||||
Reference in New Issue
Block a user