runwebui.sh

#!/bin/bash

##source /home/suntzuping/miniconda3/bin/activate  textgen2
python3 server.py --api \
    --api-streaming-port=3012 \
    --listen-port=36012 \
    --chat \
    --api-blocking-port=3566 \
    --listen-host=0.0.0.0 \
    --listen \
    --share \
    --model=liulock-gpt-neo-2.7b-merged-84321 \
    --character=amazon-vs-synthethics \
    --gpu-memory=7