pytorch-kirjastoa<\/a>, joiden lis\u00e4ksi otamme k\u00e4ytt\u00f6\u00f6n muita kirjastoja tarpeen mukaan. Ohjelman alussa ilmoitamme mit\u00e4 kirjastoja tulemme t\u00e4ss\u00e4 k\u00e4ytt\u00e4m\u00e4\u00e4n.
<\/p>\n\n\n\nimport torch\nfrom torchvision.transforms import Normalize\nfrom torchvision.utils import save_image\n<\/pre>\n\n\n\nLuodaan sitten nuo kaksi kuvaa, satunnainen ja tavoite. Kuvan esitt\u00e4miseen k\u00e4yt\u00e4mme 3-ulotteista taulukkoa, jossa kutakin p\u00e4\u00e4v\u00e4ri\u00e4 (R, G, B eli punainen, vihre\u00e4 ja sininen) on kaksiulotteinen pikselikuva (korkeus x leveys). Pikselien esitt\u00e4miseen on parikin erilaista k\u00e4yt\u00e4nt\u00f6\u00e4: liukulukuina nollasta ykk\u00f6seen tai kokonaislukuina nollasta 255:een, pienempi aina tummempi ja suurempi kirkkaampi. T\u00e4ss\u00e4 menn\u00e4\u00e4n aluksi liukuluvuilla nollasta ykk\u00f6seen.<\/p>\n\n\n\n
<\/p>\n\n\n\n
# make a 256x256 rgb image with random pixels\n# pixel values here float in range is 0..1 \n\nimgG = torch.Tensor(3,256,256).normal_(mean=0.5, std=0.5).clamp_(0,1) \n\n# check shape, min and max\n\nprint(imgG.shape, imgG.min(), imgG.max())\n\n# make target image with green pixels\n\nimgT = torch.zeros(3,256,256)\nimgT[1,:,:] = 1<\/pre>\n\n\n\nTuossa viimeisell\u00e4 rivill\u00e4 siis luodaan se puhtaan vihre\u00e4 kuva. Kuinka? Jos j\u00e4t\u00e4mme pois koko rivin, meill\u00e4 on taulukko jonka kaikkien pikselien kaikki v\u00e4rit ovat 0, mik\u00e4 on t\u00e4ysin musta kuva. Nyt asetamme keskimm\u00e4isen v\u00e4rikanavan ykk\u00f6seksi, saamme vihre\u00e4n kuvan. V\u00e4rikanavien indeksit menev\u00e4t tuossa 0, 1, 2 jolloin 1 on se keskimm\u00e4inen. Kaksoispisteet taas kertovat, ett\u00e4 t\u00e4yt\u00e4mme pikselit laidasta laitaan; jatkossa opimme my\u00f6s kajoamaan vain osaan kuvasta.
Meill\u00e4 siis pikselien arvot nyt menev\u00e4t nollan ja ykk\u00f6sen v\u00e4lill\u00e4. Neuroverkkojen kanssa yleens\u00e4 toimii paremmin, jos arvot jakautuvat nollan molemmin puolin. Luomme sit\u00e4 varten funktion norm() ja normalisoimme arvot v\u00e4lille -1 ja 1. T\u00e4m\u00e4 ei aina ole v\u00e4ltt\u00e4m\u00e4t\u00f6nt\u00e4, mutta hyv\u00e4 oppia.<\/p>\n\n\n\n
# normalize both images into range -1 .. 1\n\nnorm = Normalize((0.5,0.5,0.5),(0.5,0.5,0.5))\nimgG = norm(imgG)\nimgT = norm(imgT)\n\nprint(imgG.shape, imgG.min(), imgG.max())\n<\/pre>\n\n\n\nSitten tarvitsemme optimoijan hoitamaan optimin hakua. Se menee n\u00e4in. M\u00e4\u00e4rittelemme oppimistahdin lr. Mietimme hetken mit\u00e4 haluamme muuttaa… seh\u00e4n on kuva imgG, kerromme ett\u00e4 se tarvitsee gradientin. Sill\u00e4 tarkoitamme haluamme tiet\u00e4\u00e4 miten paljon nimenomaan se, imgG, on pieless\u00e4 ja mihin suuntaan. Luomme viel\u00e4 itse optimoijan ja kerromme sille ett\u00e4 nyt optimoidaan juuri tuota imgG:t\u00e4 tahdilla lr.<\/p>\n\n\n\n
# We are going to optimize imgG, so we need gradients for it\n\nlr = 0.05 # you might want to change this and see what happens\n\nimgG.requires_grad = True\n\noptimizer = torch.optim.Adam([imgG], lr)<\/pre>\n\n\n\nNyt voidaankin k\u00e4yd\u00e4 optimoimaan. Se tehd\u00e4\u00e4n silmukassa jota k\u00e4yd\u00e4\u00e4n l\u00e4pi enint\u00e4\u00e4n 150 kertaa. Silmukassa ensin nollataan optimoija, ettei sill\u00e4 ole mit\u00e4\u00e4n vanhaa tietoa muistissa. Sitten lasketaan virhe. Voimme suoraan laskea erotuksen noista kahdesta kuvasta, tuloksena on 3-ulotteinen taulukko jossa on ero laskettuna jokaisen v\u00e4rikanavan jokaisen pikselin kohdalla. Otetaan n\u00e4ist\u00e4 itseisarvo (abs) eli negatiiviset arvot k\u00e4\u00e4nnet\u00e4\u00e4n positiivisiksi. Ja sitten keskiarvo n\u00e4ist\u00e4, saadan yksi luku joka mittaa kuvien v\u00e4list\u00e4 eroa.<\/p>\n\n\n\n
Nyt pit\u00e4\u00e4 jyvitt\u00e4\u00e4 virhe kullekin pikselille. Se k\u00e4y helpommin kuin uskoisikaan. Loss.backward() laskee virheest\u00e4 l\u00e4htien takaperin koko laskentaketjun, ik\u00e4\u00e4nkuin valuttaa virheen takaisin kunkin pikselin kohdalle, jossa se tallentuu imgG:n gradienttiin. T\u00e4ss\u00e4 kohtaa voisimme vaikka tutkia mist\u00e4 se koostuu, lis\u00e4\u00e4m\u00e4ll\u00e4 rivin print(imgG.grad). Se on samanmuotoinen kuin kuvakin, 3 x 256 x 256 taulukko, jossa on poikkeama kullekin pikselille. <\/p>\n\n\n\n
Voisimme itsekin alkaa muuttaa imgG:t\u00e4 sen gradientin mukaan, mutta yleens\u00e4 parempi j\u00e4tt\u00e4\u00e4 se optimoijan teht\u00e4v\u00e4ksi, kuten t\u00e4ss\u00e4.<\/p>\n\n\n\n
Lopuksi tulostamme kierroksen numeron ja senhetkisen virheen arvon, jotta voimme seurata pieneneek\u00f6 virhe eli toimiiko optimointi. Talletamme my\u00f6s t\u00e4m\u00e4nhetkisen imgG:n levylle jotta voimme seurata kuvan muuttumista.<\/p>\n\n\n\n
Ja sitten sama uudestaan, 150 kertaa.<\/p>\n\n\n\n
niter = 150\n\nfor i in range(0, niter):\n optimizer.zero_grad()\n\n # calculate loss\n loss = torch.abs(imgT - imgG).mean()\n\n # run backwards to find gradient (how to change imgG to make loss smaller) \n loss.backward()\n\n # run optimizer to actually change imgG\n optimizer.step()\n\n # print loss to show how we are doing\n print(i, loss.item())\n\n # save image\n save_image(imgG, \"imgG\"+str(i)+\".jpg\")\n <\/pre>\n\n\n\nTuosta videolta alta voi katsoa kun ajan kokeeksi tuon harjoituksen koodin.<\/p>\n\n\n
![\"\"](\"https:\/\/liipetti.net\/retkia\/wp-content\/uploads\/2021\/09\/harj1.png\")
<\/figure>\n\n\n\n