将 llm 当做操作系统-凯发k8ag旗舰厅

大型语言模型(llm)在扩展对话和文档分析等任务中存在窗口有限的局限性。为了解决这个问题,作者提出了虚拟管理,这是一种受传统操作系统的分层存储系统启发的技术。他们引入了memgpt系统,该系统管理不同的存储层次,在llm有限的上下文窗口中提供扩展的上下文,并利用中断来管理其与用户之间的控制流。作者在两个领域评估了他们基于操作系统的设计,其中现代llm的有限上下文窗口严重限制了其性能:文档分析和多会话聊天。

未经允许不得转载:凯发k8ag旗舰厅 » 将 llm 当做操作系统

网站地图