Text-generation-webui는 Gradio UI를 통해 GPT-J 6B, OPT, GALACTICA 12, LLaMA, Pygmalion 및 GPT-Neo와 같은 대규모 언어 모델을 실행하기 위한 웹 기반 사용자 인터페이스를 제공하는 GitHub의 오픈 소스 프로젝트입니다. 사용자 인터페이스를 통해 사용자는 텍스트 프롬프트를 입력하고 언어 모델에서 텍스트 출력을 생성할 수 있습니다. 이 도구는 Windows, Linux 또는 Google Colab에서 실행할 수 있으며 RTX 3090 3에서 GPTQ-for-LLaMa를 통해 LLaMA-30b 4비트 모드와 같은 모델에서도 사용하기 쉽습니다.
무료Similar apps
이 페이지에서 text-generation-webui에 대한 잘못된 정보를 발견하시면, 이 링크를 사용하여 신고 부탁 드립니다.