只需解压文件,进入您创建的文件夹即可。
HuggingFace现在,在HuggingFace上,我们直接转到由eachadea提供的Vicuna存储库下载超过8GB的rev1文件。
Hugging Face – The AI community building the future.huggingface.co/eachadea/ggml-vicuna-13b-4bit/tree/main)。下载超过8GB的rev1文件。
这需要等待。去拿杯咖啡或者看会书吧。
准备开始让我们把文件ggml-vicuna-13b-4bit-rev1.bin放在下载的其他羊驼文件所在的同一个文件夹中。
现在,我们创建一个新文件。创建一个文本文件并将其重命名为您想要的任何名称,例如start.bat。请注意,在创建批处理文件时,我们需要将.txt替换为.bat。
在文件中插入以下代码:
title llama.cpp:startmain -i --interactive-first -r "> Principal:" --temp 0 -c 2048 -n -1 --ignore-eos --repeat_penalty 1.2 --instruct -m ggml-vicuna-13b-4bit-rev1.binpausegoto start
非常重要的是第三行,您必须包括ggml-vicuna-13b-4bit-rev1.bin。 这是我们的应用程序用来更像GPT-3.5的文件。
完成了吗? 好,点击批处理文件。 命令提示符应该打开,您可以在屏幕上看到一些行,然后才能开始使用它。
然后你可以使用它。在我们尝试之前先打个招呼。让它写一个短小而血腥的僵尸恐怖故事。
可以正常工作。优秀。你不能在openAI的GPT上做到这一点。但是有一个问题:该应用程序需要至少10GB RAM,并且与chatGPT一样,它无法获取实时数据。如果您不知道如何将数据传输到模型中,则无法使用它来分析股票数据。
请注意,使用这些模型来作弊或制造和传播虚假言论是不道德的。它还可能损害AI的声誉,并减缓更先进的人工智能的进展。为了人类共同的利益,请善用它。
相关文章
猜你喜欢