Jetson Orin安装riva以及llamaspeak,使用 Riva ASR/TTS 与 Llama 进行实时交谈,大语言模型成功运行笔记
在Jetson Orin上安装Riva ASR/TTS和Llama Speak,并使用它们进行实时交流,你需要按照以下步骤操作:
- 确保Jetson Orin已经更新到最新的系统版本。
- 安装Docker,因为Riva和Llama Speak都是作为Docker容器运行的。
sudo apt update
sudo apt install docker.io
- 运行Riva ASR/TTS容器。
docker run -d --name riva_asr_tts \
--device /dev/snd \
--volume "$(pwd)/riva_asr_tts_config.yml":/riva/config.yml:ro \
riva-asr-tts-server
- 运行Llama Speak容器。
docker run -d --name llama_speak --device /dev/snd --volume "$(pwd)/llama_speak_config.yml":/llama/config.yml:ro llama-speak-server
- 配置Riva ASR/TTS和Llama Speak的配置文件。你需要创建
riva_asr_tts_config.yml
和llama_speak_config.yml
文件,并根据需要配置它们。 - 确保你的Jetson Orin设备具有麦克风和扬声器,并根据需要进行相应的音频设备配置。
以上步骤提供了一个基本的框架,你需要根据具体的配置文件格式和内容调整配置文件的内容。
请注意,这只是一个示例流程,具体的配置文件内容和Docker镜像版本可能会随着时间而变化。因此,请参考最新的Riva和Llama Speak文档以获取准确的安装和配置指南。
评论已关闭