优惠 新型神经网络模型HGRN2：一种在序列建模任务中表现出色的线性递归神经网络（RNN）的改进版本

上海人工智能实验室推出新型神经网络模型HGRN2（Hierarchically Gated Linear RNNs with State Expansion），它是一种在序列建模任务中表现出色的线性递归神经网络（RNN）的改进版本。HGRN2的设计灵感来自于线性注意力机制，通过一种称为外积（outer product）... 阅读全文