Jyu'Log

Jun Yu

我是一名 researcher/builder，目前对提高人与 AI 之间的协作带宽感兴趣。我认为随着模型越来越强，我们表达意图、共享上下文和判断结果的效率正成为瓶颈。 我在做 Nodex：供人和 agent 共同工作的空间。如果方便想象，也可以把它看成开源的 Notion+Codex 替代方案。

此前，我在新加坡国立大学的 CuriOSity Research Group 担任研究助理，师从 Prof. Zhenkai Liang（2024–2025），研究多步 LLM 与 agent 工作流中的安全问题。我也参与了 Stable Signer 的框架设计和实验。这是一项关于生成图像溯源的模型水印研究，设计时需要同时考虑模型提供方、第三方和用户的不同需求。

我于 2024 年从浙江大学计算机科学与技术专业本科毕业。在浙大期间，我负责求是潮移动端产品与工程团队，为学生开发绩点、成绩和课表功能。我也关心技术选择最终如何影响人们使用产品的方式。

精选文章

  1. Weak-to-Strong Exploitation: Weak LLMs Orchestrating Aligned Models Toward Harmful Goals

    弱 LLM 作为恶意编排者：威胁模型、三类机制、因果评测与 RL 后续研究。

  2. Stable Signer: 平衡三方利益的图像溯源协议

    一串消息如何改变生成模型的参数，让图像携带可提取的标识？更重要的是，谁决定如何嵌入、谁有权提取、谁负责判断？