大模型也能「千人千面」？UIUC团队提出个性化LLM路由新框架

背景：随着大语言模型的快速发展，模型数量不断增加，不同模型在性能、成本和回答风格上差异显著，而用户偏好也各不相同。现有路由方法多基于统一数值目标，难以适配多用户场景。研究目的：UIUC团队提出PersonalizedRouter框架，旨在通过基于图神经网络的用户偏好建模，为不同用户选择最合适的大语言模型，实现个性化路由。结论：该框架将用户、任务、查询和LLM构建为异构图，学习用户隐式偏好，并通过链接预测进行模型选择。在模拟和真实评估中，PersonalizedRouter在性能、泛化性和可扩展性上均优于现有方法，展示了以用户为中心的路由范式的重要性。