NVIDIA Chat with RTX

Chat With RTX 是一款演示应用，允许你将GPT大型语言模型(LLM)个性化连接到你的内容——文档、笔记、视频或其他数据。

NVIDIA Chat with RTX是一款专为Windows RTX PC或工作站设计的个性化AI聊天机器人演示应用。它允许用户将基于GPT的大型语言模型（LLM）连接到自己的内容上，如文档、笔记、图片和视频，从而实现快速且上下文相关的响应。借助NVIDIA的TensorRT-LLM、NIM微服务和RTX加速技术，该应用确保了快速、私密且高效的性能。它支持多种文件格式，并具备用于语音交互的自动语音识别功能。通过访问NVIDIA NIM微服务，用户可以优化AI模型并构建自定义工作流程。对于开发者和专业人士来说，Chat with RTX结合了隐私、速度和先进的AI能力，是打造个性化、设备端AI解决方案的强大工具。