ychnh
2020-02-12 08:34:39
欢迎使用pytorch。:)我真的很高兴你决定从Keras切换到PyTorch。对我来说，这是重要的一步，它可以更详细地了解NN的工作原理。如果你对代码有任何特定的疑问，或者如果它不起作用，请告诉我。
import torch.nn as nn
a0 = nn.Conv1D(n_timesteps, 64, 3)
a1 = nn.Relu()
b0 = nn.Conv1D(64, 64, 3)
b1 = nn.Relu()
c0 = torch.nn.Dropout(p=0.5)
d0 = nn.MaxPool1d(2)
e0 = nn.Flatten()
e1 = nn.Linear(32*n_timesteps,100)
e2 = nn.Relu()
e3 = nn.Linear(n_outputs)
f0 = nn.Softmax(dim=1)
model = nn.Sequential(a0,a1,b0,b1,c0,d0,e0,e1,e2,e3,f0)
热门github
1
2
3
5
6
7
8
11
13
14
15
Mamba is a new state space model architecture showing promising performance on information-dense data such as language modeling, where previous subquadratic models fall short of Transformers. It is based on the line of progress on structured state space models, with an efficient hardware-aware design and implementation in the spirit of FlashAttention.
(翻译：Mamba 是一种新的状态空间模型架构，在信息密集型数据（例如语言建模）上显示出良好的性能，而之前的二次模型在 Transformers 方面存在不足。它基于结构化状态空间模型的进展，并本着FlashAttention的精神进行高效的硬件感知设计和实现。)
感谢您的回答，这很有帮助。
我是否需要将其定义为一个类，其中包括init，forward？
Pytorch支持这两种类型，这是一种已发布答案的功能性编程风格。还有一种面向对象的样式，需要您扩展torch.nn.Module并声明init和forward。