meng shao @shao__meng Twitter profile

Pinned Tweet

meng shao

2 months

大模型顶尖团队的绝佳审美：Cohere Design 最近被 Cohere Command R 系列模型、Cohere Toolkit 深深震撼，在感叹这个团队强大的企业模型能力的同时，也被它产品设计的优雅深深吸引，深深的好奇，Cohere 的审美怎么会这么好这么优雅，让我们接着往下看 👇 Cohere Design 由 Pentagram

13

73

442

Last Seen Profiles

@koeda_pan

@jandakembangstw

@kazumitico

@nogachannel

@kodiveerankilma

@max_albrecht1

@unlucle

@LeslieTrp73213

@piercexinq

@sayedyeshowr

@selezus

@obnna

@universsj

@ThatsTVScotland

@_CXHVAQ6

@pengen_stw

@stw_pdg

@El_Chaos_

@baerbieDRC

@TimesWorth

@joetidy

@newkartik103

@sora_koukan

@jandakembangstw

@roowesza

@stw_pdg

@jonnyalgo

@ryokawasaki1117

@rehan_idriss

@honelyss

@lelo_red87

@lena_popina

@nuruwota_25bar

@rrinasoo

@bokeptobrut

@itslilny

meng shao

@shao__meng

3 months

@not_2b_or_2b 这位前男友不是输给了富二代，是输给了"自我感动"啊😂 不管最终是不是嫁给了富二代，离开他都很正确啊。

10

3

599

meng shao

@shao__meng

1 month

AI 开源项目推荐 WeChatFerry - by Changhua 微信机器人底层框架，可以实现微信信息自动收发。结合大语言模型、多模态大模型和图像、音乐、视频生成模型，就可以实现对多模态信息的理解和输出，十分有想象力！可接入 Gemini、ChatGPT、Claude、Groq、Llama-3、Yi-01

14

160

548

meng shao

@shao__meng

1 month

AI 开源项目推荐 Screenshot-to-code : 截屏 -> 代码 by Abi Raja @_abi_ Screenshot-to-code 是一个简单的工具，可使用 AI 将屏幕截图、模型和 Figma 设计转换为干净、实用的代码。现在支持 GPT-4o！支持技术栈: · HTML + Tailwind · React + Tailwind · Vue + Tailwind · Bootstrap · Ionic +

10

105

373

meng shao

@shao__meng

19 days

书籍推荐: 从零开始构建大语言模型作者: Sebastian Raschka @rasbt , LLM research engineer @LightningAI 作者在本书中讲解了从零开始构建自己的大语言模型的过程，从最初的设计和创建到在通用语料库上进行预训练，再到针对特定任务进行微调。对应开源代码在 Github 已获得 17.4k ⭐️

3

123

352

meng shao

@shao__meng

2 months

开源项目推荐 tiny-gpu - 作者 @MajmudarAdam 如果你想学习 GPU 编程，想了解 GPU 在硬件层级的工作原理，这个开源项目墙裂推荐！ tiny-gpu 是一个最小化的 GPU 实现，经过优化，可以从头开始学习 GPU 的工作原理，随着通用 GPU (GPGPU) 和 ML 加速器（如 Google 的 TPU）的发展趋势，tiny-gpu

6

80

293

meng shao

@shao__meng

1 month

AI 开源项目推荐 Chatgpt-on-wechat by Link·AI Chatgpt-on-wechat (简称 CoW) 是基于大语言模型的智能对话机器人，支持微信公众号、企业微信应用、微信、飞书、钉钉接入。可选择

6

89

261

meng shao

@shao__meng

2 months

开源项目分享 ServiceLogos - @sawaratsuki1004 Github Trending 第二名，今日 Star 最多的项目，重新绘制的各种常用服务的 Logo，很漫画很可爱，CC BY-NC-SA 4.0 license。 Github Repo:

2

56

256

meng shao

@shao__meng

1 month

AI 开源爬虫项目推荐 Crawl4AI 🕷️🤖 - 开源的对大语言模型友好的网页爬虫和抓取器 by UncleCode @unclecode Crawl4AI 是一个强大且免费的网页爬取服务，旨在从网页中提取有用信息，并使其能够被 LLMs 和 AI 应用所访问。🆓🌐 特点 ✨ 🕷️ 高效的网页爬取，从网站提取有价值数据 🤖

1

53

179

meng shao

@shao__meng

1 month

AI 开源项目推荐 Marker : 快速、高精度 PDF => Markdown by @VikParuchuri Marker 能够快速且准确地将 PDF 转换为 Markdown 格式。主要特点： · 支持广泛的文档类型（针对书籍和科学论文进行了优化） · 支持所有语言 · 去除页眉/页脚/其他无效内容 · 格式化表格和代码块 · 提取并保存图片以及

3

55

180

meng shao

@shao__meng

2 months

Llama 3 发布 3 天后，已经有 6 个中文微调模型出现在 @huggingface 感谢 @Xianbao_QIAN 分享！ 6 个模型分别是： 1. 联通 AI：Unichat-llama3-Chinese-8B 2. shareAI：llama3-Chinese-chat-8b 3. Azure99：Blossom-Llama-3-8B

Tiezhen WANG

@Xianbao_QIAN

2 months

Only 3 days after LLAMA 3 is release, we've seen 3 Chinese fine-tune models available on @huggingface China Unicom: ShareAI: Blossom: Great work everyone! Which model do you like most?

1

7

24

8

66

180

meng shao

@shao__meng

1 month

AI 开源项目推荐 Verba - 黄金 RAG 检索者 🪙 by @weaviate_io Verba 是一个完全可定制的个人助理，由 Weaviate 开发并开源，用于查询和与数据进行交互，无论是本地还是通过云端部署��解答有关文档的问题，交叉引用多个数据点，或从现有知识库中获得洞见。Verba 结合了最先进的 RAG 技术与 Weaviate

4

54

165

meng shao

@shao__meng

1 month

AI 大模型开源项目推荐 RAGFlow - 基于深度文档理解的 RAG 引擎 by @infiniflowai RAGFlow - 基于深度文档理解的 RAG 引擎，可以为各种规模的企业及个人提供一套精简的 RAG 工作流程，结合大语言模型针对用户各类不同的复杂格式数据提供可靠的问答以及有理有据的引用。主要功能亮点： 🍭 "Quality

9

45

162

meng shao

@shao__meng

3 months

@Rakukan_shugi 老了该怎么办？这确实是一个很悲伤的问题呢，老了不用养孩子，不用为他的学业和婚姻发愁，不用给他（她）带孩子，不用想着自己的养老金要帮他（她）买房子，真是挺悲伤的。

1

155

meng shao

@shao__meng

1 month

开源动画库墙裂推荐 Lottie - by @Airbnb Lottie 是一个适用于 Android、iOS、Web 和 Windows 的动画库，它可以解析使用 Bodymovin 导出为 JSON 的 AE 动画，并在端侧完成本地渲染。非常适合做加载动画、动态图标、动画元素等，前公司的动画工具，动画素材就是 Lottie

3

31

143

meng shao

@shao__meng

2 months

RAGCache: 用于 RAG 的高效知识缓存来自北京大学、字节跳动，作者 Chao Jin、Zili Zhang、Xuanlin Jiang、Fangyue Liu、Xin Liu、Xuanzhe Liu、Xin Jin，感谢 @_reachsumit 分享 RAG 系统通过将外部知识库中的上下文相关信息与 LLM

Sumit

@_reachsumit

2 months

RAGCache: Efficient Knowledge Caching for Retrieval-Augmented Generation Presents a novel multilevel dynamic caching system that efficiently caches and shares intermediate states of retrieved documents in RAG for LLMs. 📝

0

37

152

3

22

143

meng shao

@shao__meng

1 month

AI 开源项目推荐 MaxKB : 基于 LLM 大语言模型的知识库问答系统 - by 1Panel-dev MaxKB 是一款基于 LLM 大语言模型的知识库问答系统。MaxKB = Max Knowledge Base，旨在成为企业的最强大脑。主要特点： ·

1

30

129

meng shao

@shao__meng

2 months

AI 课程推荐 HuggingFace 社区计算机视觉课程 via @huggingface 本课程涵盖计算机视觉从基础知识到最新进展的所有内容，共十三个单元：第 1 单元 - 计算机视觉基础知识第 2 单元 - 卷积神经网络 (CNN) 第 3 单元 - 视觉 Transformer 第 4 单元 - 多模态模型第 5 单元 - 生成模型第 6 单元 -

Hugging Face

@huggingface

2 months

Our awesome community has built a course on computer vision 📖🤍 Start learning at 👩‍🎓👨‍🎓 Make a submission to get certified 🤗📝

4

22

145

1

45

120

meng shao

@shao__meng

2 months

@xbanboo 前面里面也经历过类似的过程。随着财务投资进入的资本，往往是“精通”行业研究和企业经营的居高临下的视角。他们会让企业引入更多更职业的经理人，优秀背景的员工，设计更职业的制度，这些固然是很“科学”的发现路径，但很容易让初创团队失去了原来的凝聚力和温度，变成一个“优秀的”普通团队。

1

20

118

meng shao

@shao__meng

1 month

AI 开源项目推荐 🕷️ ScrapeGraphAI: You Only Scrape Once by @scrapegraphai ScrapeGraphAI 是一个用于网络爬虫的开源 Python 库，使用大型语言模型（LLM）、Langchain 和 RAG 使网络爬虫变得更容易。它使用 LLM 和直接图形逻辑来为网站、文档和 XML

0

27

111

meng shao

@shao__meng

2 months

开源项目推荐 Excalidraw: 用于绘制手绘图的白板产品在很多技术文章和视频里，经常能看到手绘风格的架构图、脑图等，很优美很有格调，相比规整的图案更有吸引力（个人以前做手绘视频，对手绘有偏爱）这些手绘图是用什么制作的呢？推荐一个产品： Excalidraw @excalidraw 以下亮点： 💯

2

29

111

meng shao

@shao__meng

19 days

Github - ⚡ LitGPT 7k ⭐️ @LightningAI LitGPT 是一个命令行工具，能对 20 多种 LLM 进行微调、预训练、评估和部署，使用自己的数据。如果有针对自己的数据进行模型微调或预训练等的朋友可以试试。 Lightning AI 出于四个原因重新实现了所有模型架构和训练配方： 1.

2

33

110

meng shao

@shao__meng

4 months

@waylybaye 租金比月供还高，租出去就是别人替我还贷款这句话是最大的坑就是“租出去”😂

2

0

105

meng shao

@shao__meng

2 months

AI 开源项目推荐为大语言模型增加记忆、知识和工具 - by @phidatahq AI 助手 == LLM + 记忆 + 知识 + 工具 == LLM + Phidata Phidata 为大模型增加记忆、知识和工具，记忆和知识使大模型更加聪明，而工具使它们具有自主性，Phidata 结合大模型就能打造 AI 助手！

7

29

108

meng shao

@shao__meng

2 months

最大的提示词工程平台 - PromptLayer 来自 @promptlayer 创办人 @imjaredz @pranav_kanchi 帮助构建真正的 AI 应用程序，包括强大的监控、提示词版本控制、成本分析以及评估提示词有效性的方法。使用一行代码即可码开始记录、组织和评估您的提示词。特色功能： 1. 提示词登记 -

2

26

107

meng shao

@shao__meng

1 month

AI 免费 GPU 推荐 Hugging Face - ZeroGPU 千万美元免费计划 ZeroGPU 是 @huggingface Spaces 的一种新型硬件，底层使用Nvidia A100 GPU 设备（每个工作负载可使用 40GB vRAM）它有两个目标： · 为 Spaces提供免费的 GPU 访问 · 允许 Spaces 在多个 GPU上运行看看这些 ZeroGPU Spaces:

Adina Yakup

@AdeenaY8

1 month

Hugging Face - ZeroGPU千万美元免费计划🆓 ✨ 目的：让每个人都能使用人工智能💡 帮助社区开发者，尤其是研究人员、创业公司和独立开发者，使他们在GPU资源日益集中化的当下，也能使用最先进的人工智能技术。 ✨ 项目如何运作？我们将通过Hugging

2

26

4

29

106

meng shao

@shao__meng

2 months

Mistral AI 发布了开源 Tokenization 🎉 文章可以说是非常详细，非常推荐大家阅读原文！它从文本分词定义，分词过程，开源分词器使用，控制tokens 来指示工具解析和结构化对话的解析等，词汇表构建，词汇表大小，在 Python 中运行分词器，计费依据等方面做了讲解。 #tokenization #LLM #mistral

Mistral AI Labs

@MistralAILabs

2 months

Alongside our Mixtral 8x22B release, we are releasing our tokenizers, which go beyond the usual text <-> tokens, adding parsing of tools and structured conversation. Repo: Guide:

7

122

711

2

29

103

meng shao

@shao__meng

2 months

RAG 2.0 - @ContextualAI 主推端到端优化和企业级性能，使用 RAG 2.0 创建了Contextual Language Models (CLMs) ，CLM 的性能远远优于基于 GPT-4 和最佳开源模型的 RAG 基准。 RAG 2.0 方法将所有组件预训练、微调和对齐为一个集成系统，通过语言模型和检索器进行反向传播，以最大限度地提高性能。

4

26

104

meng shao

@shao__meng

26 days

搜索引擎推荐 SearXNG @searxng SearXNG 是一个免费的互联网搜索引擎，它汇总了来自各种搜索服务和数据库的结果。既不会跟踪用户，也不会对用户进行分析。推荐理由: llm RAG 方案中必备的互联网搜索环节，9.3K ✨

GitHub - searxng/searxng: SearXNG is a free internet metasearch engine which aggregates results...

SearXNG is a free internet metasearch engine which aggregates results from various search services and databases. Users are neither tracked nor profiled. - searxng/searxng

github.com

0

25

98

meng shao

@shao__meng

29 days

AI 开源项目推荐 Large Language Model Course - by @maximelabonne LLM课程 (30.2K 🌟🌟🌟) 分为三个部分： 🧩 LLM Fundamentals 涵盖了有关数学、Python 和神经网络的基本知识 🧑‍🔬 LLM 科学家专注于使用最新技术构建最佳的 LLM 👷 LLM 工程师专注于创建基于 LLM 的应用程序并部署它们

0

28

96

meng shao

@shao__meng

2 months

AI 开源项目推荐 MemGPT：创建具有长期记忆和自定义工具的 LLM Agent by @MemGPT @charlespacker 📚🦙 MemGPT (Github 9.5K 🌟) 可以轻松构建和部署有状态的 LLM Agent，并支持： - 长期记忆/状态管理 - 连接到 RAG 的外部数据源（例如 PDF 等格式文件） - 定义和调用自定义工具（例如 google 搜索）

2

23

94

meng shao

@shao__meng

2 months

本篇论文是关于 RAG 在 LLMs 中应用的综述来自 @omarsar0 分享，作者来自约克大学 Yizheng Huang，Jimmy X. Huang 可以更系统的了解 RAG 技术产生的背景、RAG 具体是什么、怎么用和以后会往什么方向发展。文章的核心内容： 1. RAG 技术的提出：为了解决 LLMs

elvis

@omarsar0

2 months

A Survey on Retrieval-Augmented Text Generation for LLMs Presents a comprehensive overview of the RAG domain, its evolution, and challenges. It includes a detailed discussion of four important aspects of RAG systems: pre-retrieval, retrieval, post-retrieval, and generation. If

5

159

573

4

32

93

meng shao

@shao__meng

2 months

AI 开源项目推荐 Perplexica - 来自 ItzCrazyKns 受 Perplexity 启发的 AI 搜索问答引擎 +1 基于 SearxNG 的 AI 搜索引擎，不仅仅是搜索，还能更好的理解用户的问题，结合 @LangChainAI 框架 LLM RAG 给用户提供更完善的结果，并提供明确的答案和引用来源。几个亮点： 1. 支持 @ollama

5

23

94

meng shao

@shao__meng

1 month

AI 开源项目推荐 Jan - 将 AI 带入您的桌面 by @janframework Jan 是一个开源 ChatGPT 替代品，可以在您的计算机上 100% 离线运行，多引擎支持（llama.cpp、TensorRT-LLM）, 并支持与 OpenAI 完全兼容的 API。 18.6K 🌟, AGPL-3.0 license. 在任意硬件运行，支持系统架构： · Nvidia GPUs (fast) ·

0

33

91

meng shao

@shao__meng

2 months

AI 开源项目推荐 Secret Llama - by Abi Raja @_abi_ Secret Llama 是完全私有的 LLM 聊天机器人，完全通过浏览器运行，无需服务器，支持 Mistral 和 LLama 3 等大模型。 🔒完全私密：没有任何对话数据会离开您的计算机 🔒在浏览器中运行：不需要服务器，也无需安装！ 🔒支持离线工作

2

28

88

meng shao

@shao__meng

16 days

Github - 🔮 Awesome AI Agents @e2b_dev Github Awesome 系列，今天来到 AI Agents，来自 E2B AI Agents 列表分为开源和闭源两个类型。类别方向会分为： Coding、Research、Data Analysis、Productivity、Build my own、Multi-agent、General purpose 方向。 AI Agents 全景图 👇

1

34

89

meng shao

@shao__meng

2 months

AI 开源项目推荐 🤯 Lobe Chat - by LobeHub @lobehub Lobe Chat 相信大家都不陌生： · 开源、现代设计的 ChatGPT / LLM UI /框架 · 支持语音合成、多模态和可扩展（函数调用）插件系统 · 一键免费部署私人 OpenAI / ChatGPT / Claude / Gemini / Groq / Mistral / Llama / Phi-3/ Ollama 等聊天应用

2

27

87

meng shao

@shao__meng

1 month

AI 开源项目强烈推荐从零开始实现 Llama 3 - by @naklecha 从零开始实现 Llama 3 项目在发布后一天内得到 1.8K 🌟 作者 @naklecha 关于项目的推文更得到了 @karpathy 的认同，项目中包括跨多个头的注意力矩阵乘法、位置编码和每层在内都有非常详细的说明解读。项目主要内容： 1.

1

36

88

meng shao

@shao__meng

1 month

AI 开源项目推荐 Farfalle : AI 搜索引擎 by @rashadphz Farfalle 是一个类 Perplexity 的 AI 搜索引擎，支持两种大模型模式： 1. 在线模型 API：Groq/Llama3, OpenAI/gpt4-o gpt-3.5 2. 本地模型：Ollama 加载 llama3, gemma, mistral 等模型技术栈： · Frontend: Next.js · Backend: FastAPI ·

0

20

87

meng shao

@shao__meng

2 months

最近关注的一个 AI Agent 产品：MultiOn 官方介绍：可以使用自然语言自动执行网络任务的下一代 AI Agent Agent API 地址： Github 地址：官方和创始团队信息： @DivGarg9 @omarshaya @MultiOn_AI 更多产品和 API 信息继续在下面更新 👇👇

GitHub - MULTI-ON/api: MultiOn API

MultiOn API . Contribute to MULTI-ON/api development by creating an account on GitHub.

github.com

4

21

85

meng shao

@shao__meng

1 month

AI 开源项目推荐哔哩哔哩聊天机器人 - by @linyiLYi 林亦LYi 由哔哩哔哩 (B站) 用户评论微调训练而成的本地聊天机器人。支持文字聊天，也可以通过 questions.txt 生成针对给定问题的语音对话。项目文字生成使用的基础模型为 Qwen1.5-32B-Chat，借助苹果 mlx-lm LORA

1

19

82

meng shao

@shao__meng

2 months

AI 开源项目推荐 FlashRank - by PrithivirajDamodaran @prithivida 重新排名 (Rerank) 模型作为 RAG 中一个重要环节，对于检索和匹配后，哪些更有效信息能传回给大模型，有很关键的作用。 FlashRank 是为搜索和检索管道提供精简且超快速的重新排名功能的 Python 库，支持基于 LLM 和交叉编码器等的

2

25

81

meng shao

@shao__meng

1 month

AI 开源项目推荐 Awesome Chinese LLM - by HqWu Github 著名的 Awesome 系列，来到了中文大模型 11.2K 🌟🌟🌟 Awesome Chinese LLM 旨在收集和梳理中文 LLM 相关的开源模型、应用、数据集及教程等资料，目前收录的资源已达100+个！ Github Repo:

GitHub - HqWu-HITCS/Awesome-Chinese-LLM: 整理开源的中文大语言模型，以规模较小、可私有化部署、训练成本较低的模型为主，包括底座模型，垂直领域微调及应用，数...

整理开源的中文��语言模型，以规模较小、可私有化部署、训练成本较低的模型为主，包括底座模型，垂直领域微调及应用，数据集与教程等。 - HqWu-HITCS/Awesome-Chinese-LLM

github.com

3

20

80

meng shao

@shao__meng

25 days

AI 论文&开源项目推荐 🦛 HippoRAG 来自 @osunlp @stanfordnlp 作者 @bernaaaljg @YihengShu @yugu_nlp @michiyasunaga @ysu_nlp HippoRAG 一种新颖的检索框架，受到人类长期记忆的海马索引理论的启发，以实现对新经验的更深入和更高效的知识整合。HippoRAG

Bernal Jiménez

@bernaaaljg

25 days

📣📣 Super proud to present the most exciting project of my PhD so far: “HippoRAG: Neurobiologically Inspired Long-Term Memory for Large Language Models”. HippoRAG, as the title suggests, is a brain-inspired RAG framework that enables LLMs to effectively and efficiently

29

154

855

2

24

81

meng shao

@shao__meng

3 months

@knowledgefxg 😂 画面过于真实差点忘了国内还有这么多“自研”大模型另外，既然如此，weibo是不是也可以有自己的大模型了？

1

0

77

meng shao

@shao__meng

2 months

AI 开源宝藏项目推荐 Best-of Machine Learning with Python - by @mltooling Python 机器学习的宝藏项目，涵盖了 34 个大类的超过 920 开源项目，Star 总数超 440 万 🌟🌟🌟 每个项目在同类开源项目中都是最优质排名最高之列的。 Github Repo: #Python #opensource

GitHub - ml-tooling/best-of-ml-python: 🏆 A ranked list of awesome machine learning Python librar...

🏆 A ranked list of awesome machine learning Python libraries. Updated weekly. - ml-tooling/best-of-ml-python

github.com

1

27

74

meng shao

@shao__meng

2 months

ToDoList 产品推荐 Superlist - Home to all your ✅ lists Superlist @Superlist 可能是我用过颜值最高、交互最舒服的 ToDoList 产品了（可以开着声音用，不同的交互还有不同的音效）创始团队是著名的 Wunderlist 核心团队，Wunderlist 被微软收购后，数据合并到 Microsoft To Do 中。创始人

1

15

76

meng shao

@shao__meng

23 days

AI 开源搜索引擎分享 Perplexity-Inspired LLM Answer Engine @dev__digest 受 Perplexity 启发的 LLM 搜索引擎开源项目，使用到的主要 API 包括： - LLM API: Groq, Mixtral - Embeddings: OpenAI Embeddings - LLM 框架: Langchain.JS - 搜索服务: Brave Search, Serper API 关于搜索服务： ·

1

21

73

meng shao

@shao__meng

2 months

AI LLM API 墙裂推荐 Groq LLM API - 超快！免费！- by @GroqInc 既要用 Llama 3 8b/70b API，又要更快的模型推理应答速度，还要便宜甚至免费！那 Groq 就是最佳选择了，LLama 3 8b 超 800 T/s，Llama 3 70b 超 300 T/s 超快推理速度，且 GroqCloud 提供免费计划，30 requests/M，用到就是赚到！

3

17

74

meng shao

@shao__meng

20 days

Github - ChatTTS Github 趋势榜已被 ChatTTS 彻底霸榜 👍👍👍 今天咱们看看 ChatTTS 的 UI 开源项目：ChatTTS-ui 作者 jianchang512 这是一个用于 ChatTTS 的 Web UI 界面项目，提供网页中使用 ChatTTS 合成语音的功能，并支持 api 接口调用。 Github repo:

4

29

72

meng shao

@shao__meng

28 days

AI 开源项目推荐 fabric: 可以让你的生活自动化的开源 AI 框架 - @DanielMiessler fabric 是一个利用 AI 增强人类能力的开源框架。它提供了一个模块化框架，可以使用一组可在任何地方使用的众包AI Prompts 来解决特定问题。 fabric 出发点： 1. 将问题分解成单个部分，然后逐个应用 AI 2.

0

15

68

meng shao

@shao__meng

2 months

首个 16K Llama 3 🦙🦙🦙 @HyperWriteAI CEO @mattshumer_ 基于 Llama-3-8B 训练把 Max Tokens 提升到了 16K，牛！训练过程 5 小时（8x A6000 GPU），使用 Yukang/LongAlpaca-16k-length 数据库。模型文件 16GB 左右，大家去下载体验吧！ @huggingface :

mattshumer/Llama-3-8B-16K · Hugging Face

huggingface.co

Matt Shumer

@mattshumer_

2 months

I've doubled LLaMA 3's context window to 16K tokens. Fully open-source. Link in thread:

78

278

2K

1

13

67

meng shao

@shao__meng

28 days

AI 论文和开源项目分享 xRAG：用于 RAG 的极限上下文压缩，只需一个 Token 论文介绍了一种名为 xRAG 的创新上下文压缩方法，该方法专为 RAG 任务设计。xRAG

1

10

67

meng shao

@shao__meng

3 months

@xiaopeng163 😅😅😅 既要求候选人有博客和开源项目，又要求候选人工作饱和没有副业。那只有一种解： TMD 的博客和开源项目都是花钱刷的，这样你们满意了吧！

1

64

meng shao

@shao__meng

3 months

@Rakukan_shugi 看是否真的喜欢吧。如果不喜欢，刚好也很贵，就不看了。如果喜欢，就买下来，不过要换一个店员买单。

1

0

64

meng shao

@shao__meng

4 months

So cute sticker. My wife and son are so much like it. So happy I can make it using GenAI. #PromptShare

2

62

meng shao

@shao__meng

2 months

PDF 操作程序推荐 Stirling-PDF: #1 本地托管的 PDF 文件全能操作 Web 应用程序推荐 Stirling-PDF 的理由，不仅仅是它对 PDF 的处理能力，更是因为和 LLM Agent 的结合场景，能更完整的完成文件类处理 Agent 能力。现在不管是 @LangChainAI @llama_index

0

21

65

meng shao

@shao__meng

29 days

AI 文章推荐 Firecrawl Blog - by @mendableai Firecrawl 推出了博客，主要会分享： - 从网络提取数据🌐 - Agent 实验🧪 - 智能抓取、爬取、提取🕸️ - AI 网络搜索🔎 - LLM 数据预处理📊 以最新一篇： Build a 'Chat with website' using Groq Llama 3

Build a 'Chat with website' using Groq Llama 3

Learn how to use Firecrawl, Groq Llama 3, and Langchain to build a 'Chat with your website' bot.

www.firecrawl.dev

Mendable

@mendableai

29 days

Launching our Firecrawl🔥 blog today! Join us as we share tutorials and announcements on: - Extracting data from the web 🌐 - Agent experiments 🧪 - Smart scraping, crawling, extraction 🕸️ - RAG optimization 🦜 - Web search for AI 🔎 - Data pre-processing for LLMs 📊

3

10

77

0

18

59

meng shao

@shao__meng

15 days

Browserbase 可随时随地运行的无头浏览器主要特点: - 与常见工具配合使用，包括 Playwright, Puppeteer, Selenium, Langchain, LlamaIndex, CrewAI, Haystack, Vercel AI - 可编程网络的浏览器基础设施 - 为 AI Agent 构建的浏览器

Browserbase: Headless browsers for AI agents & applications

Open to developers everywhere. We can't wait to see what you build.

www.browserbase.com

Paul Klein IV

@pk_iv

15 days

Happy to share Browserbase with the world today. We help AI applications browse the web. And we just raised $6.5 million to do it. Now, we're opening signups to developers everywhere. I can't wait to see what you 🅱️uild.

123

64

569

0

15

62

meng shao

@shao__meng

2 months

开源推荐 Cohere 发布并开源了 Cohere Toolkit，加速 AI 应用开发 👏 可用于生产的应用程序的开源存储库，可以跨云提供商进行部署，这些应用程序可以跨 AWS、Azure 和 Cohere 平台访问 Cohere 的 Command、Embed 和 Rerank 模型。只需三步就可以快速完成开发部署： 1. 选择模型提供方 2.

2

11

61

meng shao

@shao__meng

26 days

AI 开源项目推荐 RAGapp 在任何企业中使用 Agentic RAG 的最简单方法，与 OpenAI 的自定义 GPT 一样简单配置，但可以使用 Docker 部署在用户自己的云基础设施中，使用 LlamaIndex 构建。 Github repo:

0

16

60

meng shao

@shao__meng

9 days

提示词报告：提示技术的系统性调查本文是关于提示词技术（Prompting Techniques）的系统性研究综述，文章首先指出，随着 GenAI 系统在工业和研究领域的广泛应用，提示词工程（prompt engineering）成为了与这些系统交互的关键手段。

AK

@_akhaliq

9 days

The Prompt Report A Systematic Survey of Prompting Techniques Generative Artificial Intelligence (GenAI) systems are being increasingly deployed across all parts of industry and research settings. Developers and end users interact with these systems through the use of

1

78

280

0

14

60

meng shao

@shao__meng

2 months

AI SOTA开源模型推荐 DeepSeek-V2：强大、经济且高效的 MoE LLM 来自 @deepseek_ai DeepSeek-V2：开源可商用 SOTA MoE LLM ✨👇 · GPT-4 级表现，Claude 3 Haiku 级价格！ · MoE 模型，总参数 236B，激活参数 21B，160位专家组成，更省更快更强！ · Pre-training + SFT + RL，Pre-training 基于 8T

5

10

58

meng shao

@shao__meng

25 days

AI 开源项目推荐 🔎 GPT Researcher - 11.8K ⭐️ 作者 @assaf_elovic GPT Researcher 是一个 autonomous agent，专为各种任务的综合在线研究而设计。可以生成详细、正式且客观的研究报告，并提供自定义选项，专注于相关资源、结构框架和经验报告。主要特性： 📝 生成研究问题、大纲、资源和课题报告

1

14

59

meng shao

@shao__meng

3 months

@FreiheitYu 我刚工作时甚至都不是小白，是零😅，Hello World 的 C 程序都不能一次写对的那种。第一份工作是对日外包开发，证券交易所的 Cobol 程序；校招时通过做数学题、逻辑题和面试，莫名其妙就进入了软件开发行业。

3

1

57

meng shao

@shao__meng

1 month

AI 开源项目推荐 Chat with your data - Solution accelerator by @Azure 本开源项目是在 Azure 中运行的 RAG 模式的解决方案加速器，使用 Azure AI 搜索进行检索，并使用 Azure OpenAI 大语言模型来支持 ChatGPT 风格和问答体验。这包括最常见的要求和最佳实践。项目主要亮点： · 私有 LLM

0

11

58

meng shao

@shao__meng

21 days

Github - TurboSeek TurboSeek 是由 Together AI @togethercompute 开发的免费开源的 AI 搜索引擎，主推更快速更智能的搜索。主要技术栈： · Next.js app router with Tailwind · Together AI for LLM inference · Mixtral 8x7B & Llama-3 for the LLMs · Bing for the search API · Helicone for

Hassan

@nutlope

21 days

Announcing TurboSeek – an AI search engine that's 100% free and open source!

60

77

615

1

12

58

meng shao

@shao__meng

1 month

AI 开源推荐 🚅 LiteLLM - 使用 OpenAI 格式调用所有 LLM API by LiteLLM (YC W23) @LiteLLM LiteLLM 管理方式： · 将输入转换为 API Provider 的 completion, embedding, and image_generation 端点 · 一致的输出，文本响应始终将在 ['choices'][0]['message']['content'] 返回 · 跨多个部署 (如

1

14

57

meng shao

@shao__meng

16 days

树莓派 AI Kit @RaspberryPi_org @Hailo_ai 树莓派 AI Kit 与 Hailo 合作开发，提供了一种将本地、高性能、节能推理集成到各种应用程序中的便捷方式，价格为 70 美元。 AI Kit 包括 M.2 HAT+，它预装有一个 Hailo-8L AI 加速模块。安装在树莓派5 上，AI Kit 允许你快速构建复杂的 AI

1

13

57

meng shao

@shao__meng

24 days

AI 搜索产品分享 Openperplex by @KhazzanYassine Llama3-8b + Groq => Openperplex 👏 作者 Yassine 利用 Groq 的 Llama3-8b API 超快推理速度，构建了类似 Perplexity 的产品 -- Openperplex。产品最近更新： · RAG 功能，采用先进的检索算法提高回答的准确性（可以添加最多 10MB 的 PDF

khazzan yassine

@KhazzanYassine

25 days

excited to announce the release of the new version of . Key updates include: - Introduction of the RAG feature, employing advanced retrieval algorithms to improve response accuracy (you can add pdf file up to 10 MB, website content and texts) - PRO

5

19

150

0

14

55

meng shao

@shao__meng

1 month

AI 开源项目推荐 AgentOps 🖇️ - by @AgentOpsAI AI Agent 很糟糕，我们正在解决这个问题。用于 AI Agent 监控、LLM 成本跟踪、基准测试等的开源 Python SDK。 📊回放分析和调试 - 分步代理执行图 💸LLM 成本管理 - 跟踪 LLM 基础模型提供商的支出 🧪Agent 基准测试 - 针对 1,000 多次评估测试

1

12

54

meng shao

@shao__meng

2 months

AI 开源模型推荐 Llama3-ChatQA-1.5 by #Nvidia Nvidia Llama3-ChatQA-1.5 集合针对问答 (QA) 和增强检索 (RAG) 有突出表现，这个集合非常完整，包括： 1. Llama3-ChatQA-1.5-8B - 基于 Llama-3-8B，在 ChatQA-Training-Data 数据上训练 2. Llama3-ChatQA-1.5-70B - 基于 Llama-3-70B，在

0

16

55

meng shao

@shao__meng

27 days

AI 开源项目推荐 Jina - 使用云原生技术构建多模式 AI 应用程序 20.2K 🌟 Apache-2.0 license - @JinaAI_ Jina 可让用户构建通过 gRPC、HTTP 和 WebSockets 进行通信的多模式 AI 服务和管道，然后对其进行扩展并部署到生产环境中。用户可以专注于逻辑和算法，而不必担心基础设施的复杂性。

1

11

54

meng shao

@shao__meng

3 months

@amehochan 天生的衣架！！！

0

54

meng shao

@shao__meng

9 days

Github - 🤗 Transformers.js 作者 @xenovacom 8.9k 🌟 Transformers.js - 最新的网页机器学习技术。无需服务器，直接在浏览器中运行🤗Transformers 使用 ONNX Runtime 运行模型，可以使用🤗Optimum 轻松地将您的预训练 PyTorch、TensorFlow 或 JAX 模型转换为 ONNX。旨在与 Hugging Face 的

2

9

54

meng shao

@shao__meng

12 days

Andrej Karpathy 音视频推荐！让我们重现 GPT-2 (124M) 4 小时 Youtube 视频，强烈推荐，主要内容: 从空文件开始，最终得到一个 GPT-2 (124M) 模型： - 首先构建 GPT-2 网络 - 然后对其进行优化以非常快速地进行训练 - 然后通过参考 GPT-2 和 GPT-3

Let's reproduce GPT-2 (124M)

We reproduce the GPT-2 (124M) from scratch. This video covers the whole process: First we build the GPT-2 network, then we optimize its training to be really...

www.youtube.com

Andrej Karpathy

@karpathy

12 days

📽️ New 4 hour (lol) video lecture on YouTube: "Let’s reproduce GPT-2 (124M)" The video ended up so long because it is... comprehensive: we start with empty file and end up with a GPT-2 (124M) model: - first we build the GPT-2 network - then we optimize

433

2K

16K

0

18

53

meng shao

@shao__meng

2 months

创业避坑 - 融资莫造假，造假必被抓 TL;DR 不要因为迎合资本或急于拿到高估值高额投资而对数据造假注水，造假必被抓，不要存在侥幸心理。某前东家 (不敢点名 😂) 18 年时做 B 轮融资，当时还是在线设计、在线视频制作剪辑领域比较热火，国内资本（尤其是美元基金）还活跃的时候，FA

15

5

53

meng shao

@shao__meng

2 months

AI 开源项目推荐 KAN 的高效 PyTorch 实现 - by Blealtan 前两天发布的论文和开源项目 KAN ( @ZimingLiu11 )对 MLP 的替代引发了广泛的讨论 ()，本项目是它的高效 PyTorch 实现 👇 Github Repo:

GitHub - Blealtan/efficient-kan: An efficient pure-PyTorch implementation of Kolmogorov-Arnold...

An efficient pure-PyTorch implementation of Kolmogorov-Arnold Network (KAN). - Blealtan/efficient-kan

github.com

0

9

52

meng shao

@shao__meng

1 month

AI 平台推荐 Gitee AI - by @oschina Gitee AI 汇聚最新最热 AI 模型，提供模型体验、推理、训练、部署和应用的一站式服务，提供充沛算力。社区主要特点： · 全面覆盖 AI 核心能力 · · 最丰富的开源模型 · · 一站式服务轻松上手 · · 无缝对接多种算力资源 · · 专业社区共同成长 ·

1

22

51

meng shao

@shao__meng

1 month

AI ��源模型推荐 gemma-2B-10M : 10M 上下文的 Gemma-2B 作者 @maxaljadery @AkshGarg03 @siddrrsh 10M 上下文长度 Gemma-2B，太震撼了： • 基于 Gemma，1250x 上下文长度暴增！ • 推理系统显存要求 <32GB • 无限注意力 + 压缩激活期待 Groq LLM API 接入和 Ollama 本地模型！ @GroqInc @ollama

Siddharth Sharma

@siddrrsh

1 month

Introducing Gemma with a 10M context window We feature: • 1250x context length of base Gemma • Requires less than 32GB of memory • Infini-attention + activation compression Check us out on: • 🤗: • GitHub: • Technical

44

150

1K

0

9

51

meng shao

@shao__meng

1 month

AI 大模型应用推荐万知：问答、阅读、创作的一站式AI工作平台 by 零一万物 @01AI_Yi 万知是一款由零一万物开发的智能助手，不仅能够理解和回应用户的问题，还能够协助处理文档分析、可视化展示文件、快捷截图问答、制作PPT 等任务，极大地提高了工作效率。应用地址：

2

12

50

meng shao

@shao__meng

1 month

AI 开源项目推荐 AutoGroq : Agent 助手集和工作流程 - by jgravelle AutoGroq 能够即时创建与 AutoGen 兼容的 Agent 助手集和工作流程，只需输入请求即可！ AutoGroq 是一款 AI 驱动的会话助手，旨在彻底改变用户与 AI

2

13

51

meng shao

@shao__meng

29 days

AI 开源模型推荐 MiniCPM-Llama3-V 2.5 - by @OpenBMB MiniCPM-Llama3-V 2.5 今天冲到了 HuggingFace 趋势榜榜首，恭喜恭喜！咱们再来回顾一下它的主要特点： 🔥 领先的性能 💪 强大的 OCR 功能 🏆 值得信赖的行为 🌏 多语言支持 🚀 高效部署 cc @AdeenaY8 @Xianbao_QIAN 👏👍 HF 模型趋势榜：

1

14

50

meng shao

@shao__meng

3 months

@lidangzzz 这几个竞争对手，确实会在不同的角度给 OpenAI 造成更大压力。 1. Groq -- 依靠 LPU 的快速推理能力，对追求更快速更实时的场景，通过更小的模型推理（Groq 现在已经接入了 Llama2、Mistral 和 Gemma），造成 ChatGPT 和 GPT API 的冲击； 2. Llama 系列 -- 开源 LLM 的标杆模型（也是我国 LLM

0

16

48

meng shao

@shao__meng

3 months

@yihong0618 这是受了哪位 SEO 鬼才的点拨了吗 😅 这样做内容农场，搜索比重确实能提高，不过用户点击进来后，跳出率会更高，信任度（内容站）会急剧下降，感觉上是饮鸩止渴啊。

2

1

48

meng shao

@shao__meng

3 months

@dearemon 说一句不治愈的：我确实破碎，但我真的想被捡起来吗？

2

48

meng shao

@shao__meng

2 months

这篇文章是一位创业者分享了在使用OpenAI的GPT-4和GPT-3.5模型处理超过5亿个令牌后的经验和教训。文章地址：文章要点总结： 1. 简化提示：在使用GPT时，简化提示往往能得到更好的结果。GPT能够理解常识，过度指定反而会造成困惑。 2.

Lessons after a half-billion GPT tokens - Ken Kantzer's Blog

My startup Truss (gettruss.io) released a few LLM-heavy features in the last six months, and the narrative around LLMs that I read on Hacker News is now starting to diverge from my reality, so I...

kenkantzer.com

Vinh Nguyen

@vinhnx

2 months

Lessons after a half-billion GPT tokens

0

1

5

1

21

48

meng shao

@shao__meng

27 days

白板和画布类开源项目推荐 <tldraw/> - @tldraw tldraw - 不容错过的 Web 白板和画布体验的 SDK Github 33.2K 🌟 (不可商用 license) 如果你在做绘画类、会议白板类、图像类、流程图类、思维导图类等等方向的 Web 产品，tldraw 是绝佳的学习目标。 Github repo:

GitHub - tldraw/tldraw: SDK for creating whiteboards and canvas experiences on the web.

SDK for creating whiteboards and canvas experiences on the web. - tldraw/tldraw

github.com

0

10

46

meng shao

@shao__meng

26 days

AI 开源项目推荐 Dataherald Dataherald 是一种自然语言转 SQL 引擎，使用 LLM 与 SQL 数据库进行自然语言到 SQL 的交互。 Github repo:

GitHub - Dataherald/dataherald: Interact with your SQL database, Natural Language to SQL using LLMs

Interact with your SQL database, Natural Language to SQL using LLMs - Dataherald/dataherald

github.com

0

15

44

meng shao

@shao__meng

9 days

Github - 翻译 Agent 使用反射工作流的 Agent 翻译吴恩达老师的开源项目，是用于机器翻译的反射 Agent 工作流的 Python 演示。主要步骤： - 设计 LLM 提示词翻译文本； - 让 LLM 对翻译进行反思，以提出改进的建设性建议; - 使用建议来改进翻译。扩展方向: - 尝试其他 LLM (代替 gpt-4-turbo) -

Andrew Ng

@AndrewYNg

10 days

I think AI agentic machine translation has huge potential for improving over traditional neural machine translation, and am releasing as open-source a demonstration I'd been playing with as a fun weekend project. Using an agentic workflow, this demonstration (i) Prompts an LLM

55

354

2K

1

21

44

meng shao

@shao__meng

2 months

Together AI 正式推出 Together Python SDK v1 🎉 核心功能： - 兼容 OpenAI API - 对聊天、语言、代码、审核和图像模型进行推理 - 使用您自己的数据微调模型（支持 Llama 3，期待支持 Phi-3 和 OpenELM） - 从 RAG 应用程序的文本生成嵌入 @togethercompute Blog:

Announcing v1 of our Python SDK

www.together.ai

Together AI

@togethercompute

2 months

Announcing v1 of the Together Python SDK! ◆ More intuitive OpenAPI compatible API ◆ Async support for batching requests ◆ More robust with better error handling

4

15

105

3

10

44

meng shao

@shao__meng

24 days

AI 开源项目推荐 Firegraph 🔥 @mendableai 📈 几秒钟内创建美丽的图表绘制 GitHub ⭐️ 或自己导入的 CSV 文件开发来自 Firecrawl 🔥 灵感来自 Github repo: Demo website:

Mendable

@mendableai

24 days

Introducing Firegraph 📈 Create beautiful graphs in seconds. Plot your GitHub star history or CSV data 🔥 Try our new tool today👇

6

7

60

1

11

42

meng shao

@shao__meng

2 months

Top tech giants of the whole world: Microsoft, Apple, Nvidia, Google. #PromptShare The plush-style [Company name] logo, illustration

3

6

42

meng shao

@shao__meng

2 months

@lidangzzz 工作人员：不好意思，也是缺少实践机会😂 好容易碰上，我还能让你跑喽？

0

38

meng shao

@shao__meng

2 months

AI 产品&团队推荐 Unsloth - Easily finetune & train LLMs Get faster with unsloth @UnslothAI LLM 微调和训练平台，更快地训练和推理速度、更少的显存占用、算力托管更新、开源。平台 UI & UX 极其可爱，两兄弟 Daniel Han & Michael Han 创建！ @danielhanchen

2

8

40

meng shao

@shao__meng

18 days

Github - gmail-extractor @llama_index @seldo 使用 LLM “训练” Python 代码项目目的：作者希望 LLM 能浏览邮件 -> 分类航班行程邮件 -> 提取目的地信息 -> 告诉作者他旅行过的地方！项目步骤： 1. 连接到 Gmail - 使用 LlamaHub GMail tool 进行授权 () 2. 分类邮件

Laurie Voss

@seldo

19 days

My Sunday project: "training" Python code with an LLM: The problem: I thought it would be neat if an LLM could go through all my emails and tell me all the places I've traveled to in the world by extracting the destinations from the flight itineraries.

0

7

52

0

8

39

meng shao

@shao__meng

3 months

@iamshaynez cloudss 😂 btw... 你这是 gfw 的钓鱼帖吗😎

1

38

meng shao

@shao__meng

2 months

AI 开源项目推荐 llm-answer-engine via @Dev__Digest 受 #perplexity 启发的 AI 问答引擎，使用 Next.js, Groq, Mixtral, Langchain, OpenAI, Brave & Serper 开源实现涉及技术： @nextjs @GroqInc @MistralAI @LangChainAI @OpenAI @brave @serperapi Github repo:

0

13

37

meng shao

@shao__meng

2 months

说好的创业经历分享，第一篇先说说一个小的掉进坑里的经历，也帮大家避坑参考：不要高估投资人的投资意向。转给我印象中在创业的朋友们，如有打扰，见谅哈 ❤️❤️ @nextify2024 @AgileQuery @yayv @VKoooooon @xbanboo @AlvinWeb3 @huangyun_122 @Tumeng05 @iamshaynez @glow1n @leeoxiang @Jiaxi_Cui

meng shao

@shao__meng

2 months

2

10

20

15

7

37

meng shao

@shao__meng

2 months

AI 开源模型推荐 Llama-3-8B-Instruct-Gradient-1048k by @Gradient_AI_ 该模型基于 LLama-3 8B 微调，并将模型上下文长度从 8k 扩展到 > 1040K (1M)，由 Gradient 开发。 hf gradientai: 大海捞针实验 👇👇👇

Gradient

@Gradient_AI_

2 months

We've been in the kitchen cooking 🔥 Excited to release the first @AIatMeta LLama-3 8B with a context length of over 1M on @huggingface - coming off of the 160K context length model we released on Friday! A huge thank you to @CrusoeEnergy for sponsoring the compute. Let us know

67

260

1K

0

10

36