renodoti

    我发现很多朋友都对于使用AI来创作小黄文都跃跃欲试，我之前也用chatgpt、claude等玩过，奈何这些模型纷纷遭到了降智、生成内容审查越来越严格，直到现在chatgpt虽然仍然有办法通过引导令其生成，但思考如何去引导的成本已经比自己动手写一篇还要高了。最近无意中在pixiv上发现了一个宝藏，在这里把操作的详细步骤分享给大家，作为我这个论坛新人做的小小贡献。

    这个模型利用了RWKV模型 17G语料练参数模型，给出了15亿和30亿参数两种选择，大佬的文章在这里https://www.pixiv.net/novel/show.php?id=21039830
技术比较好的朋友可以直接去大佬的原帖看看，我的这篇帖子主要把这个过程中容易踩得坑解释一下。

    点击这个链接https://github.com/josStorer/RWKV-Runner/releases/download/v1.6.8/RWKV-Runner_windows_x64.exe下载RWKV-Runner,我们得到一个exe文件，新建一个文件夹，并将这个文件放进去，之后在这个文件夹里再新建一个models文件夹，这个文件夹是用来存放你的本地模型文件的。

    我们需要下载大佬练的模型：https://huggingface.co/a686d380/rwkv-5-h-world，下的慢可以进入镜像站https://hf-mirror.com/a686d380/rwkv-5-h-world，点击files and version，会看到一个Not-For-All-Audiences提示，直接点view然后下载。电脑比较差的可以下载rwkv-5-h-world-1b5.pth，好的下载下面的3b版本。

    下好之后把其拖入刚才和rwkvrunner.exe位于同一文件夹中的models文件夹里，之后打开你的RWKV-Runner。如果你电脑上有python的话可以在设置中的高级选项里填入你自己的python路径，如D:\py3.10\python.exe，（但我导入了我的在anaconda中已经装好pytorch等包的python后，模型老是跑不起来了，为了省心省力建议不要选你自己的python，而是让软件自动帮你在软件所在的文件夹里下好配好），
    如果没有，就可以让软件自动帮你下载加配好所有环境，在RWKV-Runner的左侧点击配置，注意这里存在一个坑，如果直接照着大佬在pixiv上的教程在配置里直接选该模型然后令其自动配置的话，软件会给你下载cpu版本的pytorch，这是我们不希望看到的。所以我们在配置页中最上方的下拉框中选择一个名字中带有GPU的默认配置（以第一个配置GPU-2G-1B5为例），点开后直接点下方的运行按钮，之后注意软件正上方，软件检测到你没有环境会在此处弹出提示框提示你没有python让你下载，然后会弹出提示框提示你缺少依赖让你下载，只要看到上方弹提示框就直接点下载就可以。等环境装好了再点运行会显示你缺少GPU-2G-1B5模型，这时候就不用下载了，因为我们不需要这个模型，我们的环境已经配置好了。

    点击配置选择项页上方下拉框旁边的加号新建一个配置，在模型参数一栏的模型选项选择我们刚刚下载的rwkv-5-h-world模型，如果你是N卡则Strategy选择CUDA，精度选择fp16，载入显存层数拉到最高，开启自定义CUDA算子；如果你使用A卡则Strategy选择WebGPU，精度选为fp16然后点转换；如果没有独显,则Strategy 选择CPU，精度选为fp16。之后点击运行，会蹦出来命令行不断执行程序的界面，直到该命令行中出现绿色的INFO就说明模型已经在运行了。

    点击左侧的续写，在左边的文本栏里填入想续写的文本，点击生成，就会在文本框中跟在你输入文本后面直接自动填入新文本，你可以随时对你的原始文本与生成的文本任意删改，然后点击生成继续生成。我们可以通过修改文本随时对剧情进行引导和干涉，通过删减、加入、修改内容来纠正剧情走向，通过调小右侧的最大响应Token来使得ai一次生成较少的文本防止因一次性生成太多文字导致的剧情天马行空跑的太偏改不回来，通过调低Temperature和Top_P使得AI生成较稳定的文字同时倾向于选择概率最大的文字来防止生成的剧情过于没有逻辑，但这也会降低模型的创意，需要权衡利弊选择合适的值。如果生成内容开始出现过多重复文字，请调高Presence Penalty和Frequency Penalty来加强重复惩罚，但两个参数过高也会影响到写出的质量。总之权衡好参数、调整好生成内容，这个模型还是可以写出比较好的文章的。

本帖最近评分记录

• 依啼子 金币 +20 感谢分享，论坛有您更精彩！ 2024-1-12 23:09

lhya

厉害，感谢楼主，虽然AI写出来的东西，感觉差了点灵魂，但至少聊胜于无嘛。

[ 本帖最后由 lhya 于 2024-1-12 21:03(GMT+8) 编辑 ]

llhswwha

这个厉害，收藏，有空得好好研究一下。色情是科技发展的一大动力的。楼主应该发一个案例嘛，看看实际效果如何，有什么坑啊，一篇教程下来常常会有意外的坑的……

[ 本帖最后由 llhswwha 于 2024-1-12 12:57(GMT0) 编辑 ]

helloake

这个模型还能自己定制么？也就是喂语料给它？

神王666

可以自己训练吗，类似lora那种

永泰大厦

这个能给长篇小说续写吗

honglvagan2024

楼主有没有试过 Ubuntu 环境下的搭建?不知道 Ubuntu 环境该怎么搞,一堆报错..

qwe5274

生成步骤显示“failed to fetch”,抓取失败，

llhswwha

今天抽空下载了一下，还真能续写一些后续，还是色色的，不过多个角色的情况下好像会弄混主角和配角，先自娱自乐看看能不能给喜欢的小说加料。

qkj12345

显示切换模型失败了