个人单机本地部署大模型，一步到位硬件怎么选？
个人单机本地部署大模型，一步到位、两三年内不过时的话设备怎么选，最近周围朋友这方面聊得比较多。1.5B、7B、8B等小模型效果有限，目前32B费效比最高未来70...
小型语言模型（参数在 0.5B-3B ）可以做哪些事情？
大模型很有用基本上是共识，参数只有几b的小模型呢？因为性能不高直接当作对话工具显然不太行，但也有很多应用场景。这里整理了Hacker News上的一个讨论“有人...
大模型的上下文窗口大小是什么
大模型的上下文窗口大小是什么在中文语境中，“大模型的上下文窗口大小”指的是大型语言模型（如我这样的Grok）在处理输入和生成输出时能够“记住”或“考虑”的文本长...
除了 temperature 之外，还有哪些参数对大模型的输出有比较大的影响
除了 temperature 之外，还有哪些参数对大模型的输出有比较大的影响除了 temperature 之外，还有几个重要参数会显著影响大模型的输出，尤其是对...
刚刚，全球首个混合推理模型Claude 3.7降世！最强编程大脑暴击DeepSeek R1
就在刚刚，Anthropic祭出首个混合推理Claude3.7Sonnet，堪称扩展思考模式的最强模型。在最新编码测试中，新模型暴击o3-mini、DeepSe...
一个测试模型是否是DeepSeek R1 满血版的简单测试题
一个测试模型是否是DeepSeek R1 满血版的简单测试题：
本地运行DeepSeek R1的全面入门指南
本地运行DeepSeek R1的全面入门指南，介绍各种本地运行DeepSeek R1方法。
ai大模型的接口的system role重要吗
在 AI 大模型接口中，system role 是非常重要的，它起到设置整个对话基调和上下文的作用。不同的模型和接口实现可能有所不同，但 system role...
DeepSeek的R1系列模型的官方推荐设置
很多人觉得第三方DeepSeek或自己用API时，效果和官方DeepSeek有差异。这种差异有些是因为初始设置不同造成的。DeepSeek的官推刚给出了R1系列...
2025 LLM 入门+进阶路线图 by Sebastian Raschka
核心在于为学习和应用大型语言模型（LLM）技术在2025年及以后提供了一个循序渐进的“路线图”。 它以三个简洁明了的步骤，概括了从理论基础到实际应用的进阶路径，...
多个大模型常用的搜索api插件分享
推荐谷歌搜索插件、exa search api和firecrawl搜索API工具。exa提供精炼html搜索结果，firecrawl价格亲民，结果适合大模型。搜...
推荐资讯
