파이토치 모델을 텐서보드에 시각화하기 : How to use Tensorboard with PyTorch (in Jupyter Lab)

우선, pytorch를 사용하는 환경과 동일한 위치에서 텐서보드를 설치해준다.

# 필자는 pytorch를 구동하기 위해 따로 가상환경을 만들어서 해당 위치에 설치
conda activate virtual_environment

# pip을 활용하여 tensorboard를 설치
pip install tensorboard

  (Ref Link : https://pytorch.org/tutorials/recipes/recipes/tensorboard_with_pytorch.html)

How to use TensorBoard with PyTorch — PyTorch Tutorials 1.12.1+cu102 documentation

 

이후, Jupyter Lab을 실행시키고, 아래의 코드가 정상적으로 돌아가면 설치가 잘 된 것이다.

from torch.utils.tensorboard import SummaryWriter

# model이 학습되는 log들을 writer변수에 담을 예정
writer = SummaryWriter()

PyTorch Tutorial에 따르면, 스칼라(Scalar)값을 로그로 남기기 위해서는 writer에 내장되어 있는 `add_scalar`함수를 사용하면 된다. 적용된 코드는 아래와 같다.

x = torch.arange(-5, 5, 0.1).view(-1, 1)
y = -5 * x + 0.1 * torch.randn(x.size())

model = torch.nn.Linear(1, 1)
criterion = torch.nn.MSELoss()
optimizer = torch.optim.SGD(model.parameters(), lr = 0.1)

def train_model(iter):
    for epoch in range(iter):
        y1 = model(x)
        loss = criterion(y1, y)
        writer.add_scalar("Loss/train", loss, epoch)
        optimizer.zero_grad()
        loss.backward()
        optimizer.step()

train_model(10)
writer.flush()

- scalar값뿐만 아니라 histogram, image, figure, audio, video, text, graph, embedding, pr_curve, mesh, hparams도 가능하다.  (ref : https://pytorch.org/docs/stable/tensorboard.html#module-torch.utils.tensorboard)

torch.utils.tensorboard — PyTorch 1.13 documentation

 

그리고 해당 커맨드를 터미널에서 실행하고,  http://localhost:6006 링크로 들어가면 TensorBoard가 아래의 이미지처럼 뜬다.

tensorboard --logdir=runs

 

기타 예시들

 

https://pytorch.org/tutorials/intermediate/tensorboard_tutorial.html

Visualizing Models, Data, and Training with TensorBoard — PyTorch Tutorials 1.13.0+cu117 documentation

https://christianbernecker.medium.com/how-to-create-a-confusion-matrix-with-tensorboard-and-pytorch-3344ad5e7209

How to create a confusion matrix with TensorBoard and PyTorch

https://stackoverflow.com/questions/48951136/plot-multiple-graphs-in-one-plot-using-tensorboard

Plot multiple graphs in one plot using Tensorboard

Confusion Matrix

Training Loss와 Validation Accuracy, Recall (figure)