머신러닝 연구

1. 세로로 긴 2차원 행렬 positions_list = torch.arange(0, max_len, dtype=torch.float).view(-1, 1) # 0, 1, 2, 3, 4, 5 tensor([[0.],            [1.],            [2.],            [3.],            [4.],            [5.]]) 2. step 간격의 배열import torchdim_model = 6positions_list =  torch.arange(0, dim_model, 2)print(positions_list) resulttensor([0, 2, 4])

https://dukeyang.tistory.com/14

import torchx = torch.rand(1, 1, 2, 3)x = x.squeeze() # [1, 1, 2, 3] -> [2, 3]print(x) tensor([[0.7293, 0.5819, 0.9878],         [0.6379, 0.6204, 0.8290]]) y = torch.rand(1, 1, 4)z = y.squeeze()[2] # [1, 1, 4] -> [4]print(z)tensor(0.9240)

pytorch와 tensorflow/keras 사이의 경쟁은 끝난 듯 보인다. 나름대로 생각한 이유는 디버깅 난이도와 명예욕 이다. 머신러닝 연구자들은 자신이 네이밍한 새로운 모델을 만들고 싶어한다. '내가 어쩌구저쩌구Net의 모델러야' 모 이런식으로 자신의 레코드를 만들고 싶어하는 것이다. tensorflow, keras, pytorch 모두에서 이것은 가능하지만 이를 가장 적은 노력으로 이루어 줄 수 있는 모델이 pytorch다. tensorflow는 너무 고되며, keras는 쉽지만 서브클래싱으로 들어가면 난이도가 상승할 뿐더러 디버깅이 어려워진다. pytorch에 비해 tensorflow/keras는 디버깅 측면에서 좋지 않다. 특히 keras는 서브클래싱을 했을 때 최악이 된다. 자신의 이름을 ..