ai写文的一些思路探讨最近频繁使用大模型工作,深感大模型目前进展确实厉害,抛砖引玉一些感受,期望可以给论坛一些用ai写文的朋友一些思路。我自己平时没有模型创作的经验,主要是有一些想法,想和大家探讨一下。1. 大模型的本质
大模型的本质就是概率,输入上文,大模型根据所有上文,作为输入,经过一段训练好以后的黑盒逻辑,计算出下一个字最大概率应该是哪个字,直到推测出停止字符,就停止输出。所有大模型的本质都是这样,没啥区别。2.大模型的记忆
从上面的本质可以看出来,无论再怎么鼓吹,当你的输入超过一定长度的时候,下文产出概率的准确率一定会下降。3.现有技术手段的优化
基于12,现有的技术优化,主要就是不断增加一些外置的工具,让大模型能更理解用户诉求比如,当做计算时,调用特定的工具,进行复杂工作时,生成一段脚本,然后用脚本执行等,这都是模型应用层面的优化。综上,可以有几个结论1,模型参数上,一定是越大越厉害,推理型的模型一定优于非推理型的模型2,受限于本地资源,绝大部分本地部署的模型,一定比不上公开的商业模型。3,破甲,这方面我没有研究过,但如果是同过提示词扰乱大模型的输出,那破甲后大模型一定会有一定程度的衰减,这个好像没办法。如果grok可以做到无需要破甲,那我觉得可能grok的效果,会比需要破甲的模型强一些,当然这是推测,我自己没验证过。一些想我自己想和大家讨论的技巧1,不要试图让模型一次做非常多的事情,做的事情越多,效果越差,比如你一轮对话中,就期望他自己生成大纲,然后自己开始创作,大概率他会生成非常平庸的内容2,对任务进行拆解的思路,比如以创作为例,我觉得可以先分成如下几个任务第一个任务,生成大纲,可以让大模型只生成大纲,然后你针对大纲和模型单独交流,直到大纲满足你的要求。然后把大纲存成一个文件第二个任务,大纲拆解,输入大纲,把大纲拆解成具体的故事线,输出每个故事线的关键情节。第三个任务,分章节创作,每次只创作1-2万字,每次创作前,输入前情提要,以及大纲,和当前故事的主要情节第四个任务,章节总结,输入已完成的章节,让模型总结主要情节和主线完成度,作为创作任务的一个输入创作时按照243的顺序循环创作。3,创作风格,是否可以让模型根据历史章节,总结创作风格,然后只把创作风格提供给后续的创作中,避免前文的干扰。4,埋线,还没想好应该怎么搞,但我感觉应该是一个比较独立的任务,应该是需要单独处理下埋线。5,人物设计,人物行为,动机等等,我觉得应该可以在大纲中设计出人物的核心特点,然后在情节设计中根据核心特点产生情节,最后根据情节完成故事设计。文章打分
我觉得大模型是有能力评估文章的好坏的,只不过评估也应该是个独立的任务,且我觉得可能这个评估的任务可能甚至不需要破甲,可能单纯只做评估任务的话,一些商业模型也可以做评价。有了评价以后,就可以让模型自己卷自己了,笑以上基本就是我自己的一些想法,打出来和大家切磋一下。
请标记您是否认为本帖内容由AI生成?
喜欢sd1045118朋友的这个帖子的话,👍 请点这里投票,"赞" 助支持!
内容由网友自行发布分享,如果违规或侵权,请与我们联系,核实后会第一时间删除。
User-generated content only. If any content violates your rights, please contact us for removal.
楼主本月热帖推荐:
>>>查看更多帖主社区动态...