星尘Stardust

写软件的人。做大模型应用，也做让它们稳定运行的基础设施。

1024 粒星尘，最初排成 32 × 32 的网格。把指针移上去（手机上用手指划过），附近的星尘会回到网格里。

关于

我是 Stardust，一名开发者。这几年大部分时间花在大模型应用上：怎样把检索、流式输出和实时语音做稳，怎样让延迟和成本都说得过去，以及怎样判断它到底好不好用。

在做

大模型应用
把模型接进真实业务：检索、流式输出、实时语音，以及用评测判断每次改动是变好还是变坏。
基础设施
自己的几台服务器、模型网关和内网穿透。目标是部署一次以后就不用再惦记。
小工具
给自己写的桌面应用和命令行工具，解决每天都会碰到的小麻烦。