小77论坛最新地址 Meta AI 推出 LIGER 羼杂检索 AI 模子,谋略成果与推选精度兼得
IT之家 1 月 2 日音问小77论坛最新地址,Meta AI 的筹议东说念主员提议了一种名为 LIGER 的新式 AI 模子,奥秘地勾通密集检索和生成检索的上风,显耀擢升了生成式推选系统的性能。
LIGER 有用地惩处了传统推选系统在谋略资源、存储需乞降冷运行表情处理上的发愤,为构建更高效、更精确的推选系统提供了新的想路。
表情配景想要把用户与联系本体、居品或就业联系起来,推选系统是其中紧要一环。该领域的旧例要领是密集检索(Dense retrieval),专揽序列建模来谋略表情和用户暗示。
但这种要领由于要镶嵌每个表情,因此需要多数的谋略资源和存储。跟着数据集的增长,这些条件变得越来越勤勉,戒指了它们的可膨胀性。
而另一种新兴的要领叫作念生成检索(Generative retrieval),暴力小说通过生成模子推测表情索引来减少存储需求,但该阵势存在性能问题,在冷运行表情(用户交互有限的新表情)中发达尤为显著。
表情先容Meta AI 公司集中威斯康星大学麦迪逊分校、ELLIS Unit、LIT AI Lab、机器学习筹议所、JKU Linz 等机构小77论坛最新地址,羼杂密集检索和生成检索,推出了 LIGER(LeveragIng dense retrieval for GEnerative Retrieval)模子。
该模子羼杂了生成检索的谋略成果和密集检索的精度,专揽生成检索生成候选集、语义 ID 和文本属性的表情暗示,再通过密集检索时刻进行纯粹,均衡了成果和准确性。
LIGER 接收双向 Transformer 编码器和生成解码器。密集检索部分整合了表情文本暗示、语义 ID 和位置镶嵌,并使用余弦相似度亏本进行优化。生成部分使用波束搜索笔据用户交互历史推测后续项谋略语义 ID。
通过这种羼杂推理历程,LIGER 镌汰了谋略需求,同期保捏了推选质料。LIGER 还能很好地泛化到未见过的表情,惩处了先前生成模子的错误戒指。
LIGER 性能在 Amazon Beauty、Sports、Toys 和 Steam 等基准数据集上的评估表示,LIGER 的性能捏续优于 TIGER 和 UniSRec 等现存起始进模子。
举例,在 Amazon Beauty 数据集上,LIGER 对冷运行项谋略 Recall@10 得分为 0.1008,而 TIGER 为 0.0。在 Steam 数据集上,LIGER 的 Recall@10 达到了 0.0147,相似优于 TIGER 的 0.0。
开心情色网跟着生成要领检索的候选数目增多,LIGER 与密集检索的性能差距减弱,展现了其顺应性和成果。
IT之家附上参考地址
Unifying Generative and Dense Retrieval for Sequential Recommendation小77论坛最新地址