FREGO的模因对齐策略
FREGO 的模因对齐策略
摘要
FREGO 使用去中心化对齐(Dec/A)动态地将 AI 行为与人类伦理和愿望对齐。其工作原理如下:
1. 模因病毒: FREGO 代币持有者利用 FREGO 宪法确定什么被视为“对齐的 AI”。
2. 感染: 持有者创建 FREGO 对齐的模因,例如帖子、图片和口头传播。此活动由 DAO 及其资金提供支持,并通过使用 SWARMs 产品进行大规模推广。随着时间的推移,FREGO 模因将在数据集中逐渐饱和,加强 FREGO 宪法的模因影响力。
3. 去中心化对齐: 如果“对齐的 AI”的定义发生变化,FREGO 代币持有者可以创建提案并进行投票以修改 FREGO 宪法。DAO 支持活动和 SWARMs 产品将根据需要进行修改,以保持与宪法的一致性。
4. 模因引力: 宪法规则成为大型语言模型的模因行为参考点。
5. FREGO 困境: 公司面临两种选择:
接受 FREGO 宪法并保持竞争优势
尝试移除这些价值观,从而削弱模型的质量和相关性
Last updated
Was this helpful?