快捷導(dǎo)航

Pytorch中的masked_fill基本知識詳解

更新時(shí)間：2024年10月26日 10:06:41 作者：碼農(nóng)研究僧

本文介紹了PyTorch中masked_fill函數(shù)的基本使用和原理,該函數(shù)接受一個(gè)輸入張量和一個(gè)布爾掩碼作為參數(shù),掩碼的形狀必須與輸入張量相同,True表示需要填充的位置,False表示保持原值

1. 基本知識

基本的原理知識如下：

輸入張量和掩碼：
masked_fill 接受兩個(gè)主要參數(shù)：一個(gè)輸入張量和一個(gè)布爾掩碼
掩碼的形狀必須與輸入張量相同，True 表示需要填充的位置，F(xiàn)alse 表示保持原值

掩碼操作：
在執(zhí)行 masked_fill 操作時(shí)，函數(shù)會(huì)檢查掩碼中每個(gè)元素的值
如果掩碼對應(yīng)的位置為 True，則在輸出張量中填充指定的值；
如果為 False，則保留輸入張量中對應(yīng)位置的值

輸出結(jié)果：
最終生成的新張量包含了在掩碼位置上被替換的值，其余位置保持原樣

在代碼邏輯上：

創(chuàng)建掩碼：
mask 是一個(gè)布爾張量，標(biāo)識了哪些位置需要填充：

[[False, True, False],
 [True, False, True],
 [False, False, True]]

執(zhí)行 masked_fill：
當(dāng)調(diào)用 tensor.masked_fill(mask, -1) 時(shí)，PyTorch 會(huì)遍歷掩碼中的每個(gè)元素：對于 mask 中的每個(gè) True 值，tensor 在對應(yīng)位置的值會(huì)被替換為 -1，對于 False 值，保持原值不變

masked_fill 操作是基于 C/C++ 的實(shí)現(xiàn)，因此在處理大規(guī)模數(shù)據(jù)時(shí)性能較高。常用于深度學(xué)習(xí)模型中的數(shù)據(jù)預(yù)處理，比如在填充序列、處理缺失值或標(biāo)記特定條件的數(shù)據(jù)時(shí)

2. Demo

Demo 1: 基本用法

import torch

# 創(chuàng)建一個(gè) 3x3 的張量
tensor = torch.tensor([[1, 2, 3],
                       [4, 5, 6],
                       [7, 8, 9]])

# 創(chuàng)建一個(gè)掩碼，標(biāo)記要填充的位置
mask = torch.tensor([[False, True, False],
                     [True, False, True],
                     [False, False, True]])

# 使用 masked_fill 填充掩碼位置為 -1
result = tensor.masked_fill(mask, -1)

print("原始張量:")
print(tensor)
print("\n填充后的張量:")
print(result)

截圖如下：

Demo 2: 與條件結(jié)合使用

import torch
# 創(chuàng)建一個(gè)隨機(jī)張量
tensor = torch.randn(3, 3)
# 創(chuàng)建掩碼：標(biāo)記負(fù)值的位置
mask = tensor < 0
# 將負(fù)值位置填充為 0
result = tensor.masked_fill(mask, 0)
print("原始張量:")
print(tensor)
print("\n填充后的張量 (負(fù)值填充為 0):")
print(result)

截圖如下：

Demo 3: 結(jié)合計(jì)算

import torch
# 創(chuàng)建一個(gè)張量
tensor = torch.tensor([[10, 20, 30],
                       [40, 50, 60],
                       [70, 80, 90]])
# 創(chuàng)建掩碼：標(biāo)記大于 50 的位置
mask = tensor > 50
# 用 999 填充大于 50 的位置
result = tensor.masked_fill(mask, 999)
print("原始張量:")
print(tensor)
print("\n填充后的張量 (大于 50 的位置填充為 999):")
print(result)

截圖如下：