ChatRTX

#### 產品特色
* 支援多種AI模型（如Llama 3.1、RIVA Parakeet、CLIP、Whisper等）
* 透過RAG技術提升語意理解與生成精度
* 支援RTX 6000 Ada及RTX 30/40系列GPU加速
* 提供語音輸入與文件格式（PDF/DOC/XML/IMG等）支援
* 整合TensorRT-LLM與LlamaIndex進行高效推論

#### 主要功能、特點
本地化部署的語意理解系統，結合TensorRT-LLM與NVIDIA NIM，支援多模態資料處理與RAG技術。可直接讀取文件資料，透過語音輸入進行語意解析，並提供多種AI模型推論功能，支持RTX 6000 Ada及RTX 30/40系列GPU運算，實現快速穩定的語意理解與生成。

#### 指令
“`bash
# 無常用指令 (自動生成)
“`

#### 軟體截圖