日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

多言語翻訳/量子化/FPGAarXiv:2510.10676

Bhasha-Rupantarika: 多言語ニューラル機械翻訳のためのアルゴリズム・ハードウェア協調設計

Bhasha-Rupantarika: Algorithm-Hardware Co-design approach for Multilingual Neural Machine Translation

シェア:XThreadsFacebookLINEはてブBluesky

FP8/INT8/INT4/FP4の超低精度量子化とFPGAアクセラレータを組み合わせ、多言語翻訳モデルを小型・高速化する協調設計手法を提案。

詳しい要約

1. どんなもの?

- 多言語翻訳システム「Bhasha-Rupantarika」の提案 - リソース制約環境向けの軽量・高効率な多言語翻訳 - algorithm-hardware co-design を採用 - 対象は Indian languages と国際言語の双方向翻訳 - FPGA accelerator 上での実装を想定 - コードとデータセットを公開し再現性を確保

2. 先行研究と比べてどこがすごい?

- 先行研究との具体的比較は要旨からは不明 - ただし OPU や HPTA との比較結果を報告 - OPU 比で throughput 2.2x 向上 - HPTA 比で throughput 4.6x 向上 - sub-octet precision (FP8, INT8, INT4, FP4) を体系的に検討 - FP4 で model size 4.1x 削減 - inference speed 4.2x 高速化 - throughput 66 tokens/s (4.8x 向上)

3. 技術・手法の肝は?

- algorithm-hardware co-design が肝 - 超低精度量子化を適用 - FP8, INT8, INT4, FP4 の各精度を検討 - quantization-aware translation を採用 - FPGA accelerator 上に展開 - LUTs 1.96x 削減 - FFs 1.65x 削減 - IoT デバイスでのリアルタイム展開を狙う設計

4. どうやって有効だと検証した?

- 多言語翻訳の評価を実施 - Indian languages と国際言語の双方向翻訳 - 精度別の性能評価 - FP4 で model size 4.1x 削減 - inference speed 4.2x 高速化 - throughput 66 tokens/s (4.8x 向上) - FPGA リソース効率の評価 - LUTs 1.96x 削減、FFs 1.65x 削減 - OPU 比 2.2x、HPTA 比 4.6x の throughput 向上を確認

5. 議論はある?

- 超低精度量子化の重要性を強調 - IoT デバイスでのリアルタイム展開に有効 - 低リソース言語文脈への適応性を主張 - 性能は期待通りと報告 - 具体的な翻訳品質(BLEU 等)の議論は要旨からは不明 - 限界や課題についての詳細は要旨からは不明

6. 次に読むべき論文は?

- OPU(比較対象として言及) - HPTA(比較対象として言及) - quantization-aware training 関連の定番研究 - FPGA accelerator 上の Transformer 推論に関する研究 - 多言語 Neural Machine Translation の低精度量子化研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Mukul Lokhande, Tanushree Dewangan, Mohd Sharik Mansoori, Tejas Chaudhari, Akarsh J., Damayanti Lokhande, Adam Teman, Santosh Kumar Vishvakarma

分類: cs.AR, cs.CL, cs.RO, eess.AS

原文アブストラクト

This paper introduces Bhasha-Rupantarika, a light and efficient multilingual translation system tailored through algorithm-hardware codesign for resource-limited settings. The method investigates model deployment at sub-octet precision levels (FP8, INT8, INT4, and FP4), with experimental results indicating a 4.1x reduction in model size (FP4) and a 4.2x speedup in inference speed, which correlates with an increased throughput of 66 tokens/s (improvement by 4.8x). This underscores the importance of ultra-low precision quantization for real-time deployment in IoT devices using FPGA accelerators, achieving performance on par with expectations. Our evaluation covers bidirectional translation between Indian and international languages, showcasing its adaptability in low-resource linguistic contexts. The FPGA deployment demonstrated a 1.96x reduction in LUTs and a 1.65x decrease in FFs, resulting in a 2.2x enhancement in throughput compared to OPU and a 4.6x enhancement compared to HPTA. Overall, the evaluation provides a viable solution based on quantisation-aware translation along with hardware efficiency suitable for deployable multilingual AI systems. The entire codes [https://github.com/mukullokhande99/Bhasha-Rupantarika/] and dataset for reproducibility are publicly available, facilitating rapid integration and further development by researchers.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  4. 4GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  5. 5Google DeepMind、ロボット向けAIを発表新製品・発表

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI