WaveletLM – wavelet-based, attention-free model with O(n log n) scaling

  • Hacker News

WaveletLM 是一种基于小波、无注意力机制的架构,它用学习提升小波分解、快速沃尔什-哈达玛变换、带SwiGLU激活的逐尺度门控谱混合、逆FWHT和小波重构取代了自注意力机制。

  • 发布时间: 2026年4月26日
  • 首次出现: 2026年4月26日

人工智能 摘要

WaveletLM 是一种基于小波、无注意力机制的架构,它用学习提升小波分解、快速沃尔什-哈达玛变换、带SwiGLU激活的逐尺度门控谱混合、逆FWHT和小波重构取代了自注意力机制。

适合谁

评估AI产品工作流的团队 / 比较新兴工具的构建者 / 追踪早期类别变化的运营者

为什么值得看

主要发现来源是Hacker News。

核心功能

  • 主要公开产品URL是 https://github.com/ramongougis/WaveletLM。
  • 描述:WaveletLM是一种基于小波、无注意力机制的架构,它用学习提升小波分解、快速沃尔什-哈达玛变换、带SwiGLU激活的逐尺度门控谱混合、逆FWHT和小波重构取代了自注意力机制。
  • GitHub仓库链接为 ramongougis/waveletlm。
  • 在Hacker News上被列为“WaveletLM – wavelet-based, attention-free model with O(n log n) scaling”。
  • 来源描述:WaveletLM是一种基于小波、无注意力机制的架构,它用学习提升小波分解、快速沃尔什-哈达玛变换、带SwiGLU激活的逐尺度门控谱混合、逆FWHT和小波重构取代了自注意力机制。

使用场景

  • 主要发现来源是Hacker News。
  • 有一个公开的GitHub仓库可供直接技术审查。
  • Hacker News提及是近期的(2026-04-26)。
  • 主要公开产品URL是 https://github.com/ramongougis/WaveletLM。
  • 描述:WaveletLM是一种基于小波、无注意力机制的架构,它用学习提升小波分解、快速沃尔什-哈达玛变换、带SwiGLU激活的逐尺度门控谱混合、逆FWHT和小波重构取代了自注意力机制。

为什么值得关注

WaveletLM——基于小波变换、无需注意力机制、具有 O(n log n) 复杂度扩展的模型,正出现在新的发现平台上,值得在势头形成初期予以关注。当前置信度为中等(49/100),应将其视为早期信号而非既定趋势。

社区信号

Trend score

60.4

24h momentum

上升

Hacker News points

6

上升

依据 / 信号 / 推断 / 未知

依据

  • Listed on Hacker News as "WaveletLM – wavelet-based, attention-free model with O(n log n) scaling".
  • Source description: WaveletLM is a wavelet-based, attention-free architecture that replaces self-attention with learned lifting wavelet decomposition, a Fast Walsh-Hadamard Transform, per-scale gated spectral mixing with SwiGLU activatio....
  • Source publish date is 2026-04-26.
  • Description: WaveletLM is a wavelet-based, attention-free architecture that replaces self-attention with learned lifting wavelet decomposition, a Fast Walsh-Hadamard Transform, per-scale gated spectral mixing with SwiGLU activatio....
  • GitHub repository is linked as ramongougis/waveletlm.
  • Primary public product URL is https://github.com/ramongougis/WaveletLM.

信号

  • Hacker News mention is recent (2026-04-26).
  • A public GitHub repo is available for direct technical review.
  • Primary discovery source is Hacker News.

推断

  • Public code access can lower evaluation friction for developer audiences.

未知

  • Documentation is not explicitly linked in the current allowed evidence set.
  • No tagline is stored on the current product record.
  • Pricing details are not explicitly linked in the current allowed evidence set.
  • Recent changelog or release history is not explicitly linked in the current allowed evidence set.
  • Release cadence cannot be confirmed unless a changelog or release link is explicitly provided.

证据快照

WaveletLM – wavelet-based, attention-free model with O(n log n) scaling

Listed on Hacker News as "WaveletLM – wavelet-based, attention-free model with O(n log n) scaling".

Source page snapshot抓取时间: 2026年4月26日
打开来源

WaveletLM – wavelet-based, attention-free model with O(n log n) scaling GitHub repository

GitHub repository is linked as ramongougis/waveletlm.

WaveletLM – wavelet-based, attention-free model with O(n log n) scaling official profile

Primary public product URL is https://github.com/ramongougis/WaveletLM.

替代方案 / 相关产品

原始来源