A list of questions, might be small and big.

Q1. OPSD相关的一些问题

• 数学意义/形式上讲，OPSD的RL formulation是什么样的？
• 与变分推断/隐变量模型是否相关，变分nmt是否相关
  • KL p(z; x, y) || q(z; x)
  • y是特权信息
• 社区认知现状下，OPD和OPSD分别在后训练链路中的位置是什么？专家模型合版？OPSD为什么用的少？
• p_t(y|x, f(y)) || p_s(y|x)
• p_{t, f(y)}(y|x) || p_s (y|x)

Q2. 给定任务域，任务相关数据，CoT shaping问题

Q3. Machine Studying问题

• 由论文、博客衍生而言的问题

Q4. 大模型Uncertainty

• https://chatgpt.com/c/6a8a757f-a85c-83e9-bfcb-1ba1ea362927

Q5. Infini-context manager model

• user representation u - conversation history
• dot product
• multi-stage dot product

1. PostTrainBench-Conflict

• PostTrainBench-Conflict
  • K个benchmark对儿
  • pair-wise， conflicted tasks找到
  • Automated去做conflicted tasks的搜索
  • https://arxiv.org/html/2603.19220v2#S5
    • 基于cascade-rl，构造pair-wise conflicted tasks
  • Oracles
    • Ind_A, Ind_B
    • Mix_oracle(A, B)
    • Cascade_oracle(A, B)
  • 定义指标
• 构造一个autoresearch setting，用budget， autoresearch
  • 大的research维度：
    • data scheduling