{ "nbformat": 4, "nbformat_minor": 0, "metadata": { "colab": { "provenance": [] }, "kernelspec": { "name": "python3", "display_name": "Python 3" }, "language_info": { "name": "python" } }, "cells": [ { "cell_type": "markdown", "source": [ "One small change as been done in our Value object. Please note that \\\n", "\\\n", "The __radd__() functionality has been added." ], "metadata": { "id": "VqE2CCj9HMUh" } }, { "cell_type": "code", "source": [ "from graphviz import Digraph\n", "\n", "def trace(root):\n", " #Builds a set of all nodes and edges in a graph\n", " nodes, edges = set(), set()\n", " def build(v):\n", " if v not in nodes:\n", " nodes.add(v)\n", " for child in v._prev:\n", " edges.add((child, v))\n", " build(child)\n", " build(root)\n", " return nodes, edges\n", "\n", "def draw_dot(root):\n", " dot = Digraph(format='svg', graph_attr={'rankdir': 'LR'}) #LR == Left to Right\n", "\n", " nodes, edges = trace(root)\n", " for n in nodes:\n", " uid = str(id(n))\n", " #For any value in the graph, create a rectangular ('record') node for it\n", " dot.node(name = uid, label = \"{ %s | data %.4f | grad %.4f }\" % ( n.label, n.data, n.grad), shape='record')\n", " if n._op:\n", " #If this value is a result of some operation, then create an op node for it\n", " dot.node(name = uid + n._op, label=n._op)\n", " #and connect this node to it\n", " dot.edge(uid + n._op, uid)\n", "\n", " for n1, n2 in edges:\n", " #Connect n1 to the node of n2\n", " dot.edge(str(id(n1)), str(id(n2)) + n2._op)\n", "\n", " return dot" ], "metadata": { "id": "T0rN8d146jvF" }, "execution_count": 1, "outputs": [] }, { "cell_type": "code", "source": [ "import math" ], "metadata": { "id": "JlYxBvFK0AjA" }, "execution_count": 2, "outputs": [] }, { "cell_type": "code", "source": [ "class Value:\n", "\n", " def __init__(self, data, _children=(), _op='', label=''):\n", " self.data = data\n", " self.grad = 0.0\n", " self._backward = lambda: None #Its an empty function by default. This is what will do that gradient calculation at each of the operations.\n", " self._prev = set(_children)\n", " self._op = _op\n", " self.label = label\n", "\n", "\n", " def __repr__(self):\n", " return f\"Value(data={self.data})\"\n", "\n", " def __add__(self, other):\n", " other = other if isinstance(other, Value) else Value(other)\n", " out = Value(self.data + other.data, (self, other), '+')\n", "\n", " def backward():\n", " self.grad += 1.0 * out.grad\n", " other.grad += 1.0 * out.grad\n", "\n", " out._backward = backward\n", " return out\n", "\n", " def __radd__(self, other): #here\n", " return self + other\n", "\n", " def __mul__(self, other):\n", " other = other if isinstance(other, Value) else Value(other)\n", " out = Value(self.data * other.data, (self, other), '*')\n", "\n", " def backward():\n", " self.grad += other.data * out.grad\n", " other.grad += self.data * out.grad\n", " out._backward = backward\n", " return out\n", "\n", " def __rmul__(self, other): #other * self\n", " return self * other\n", "\n", " def __truediv__(self, other): #self/other\n", " return self * other**-1\n", "\n", " def __neg__(self):\n", " return self * -1\n", "\n", " def __sub__(self, other): #self - other\n", " return self + (-other)\n", "\n", " def __pow__(self, other):\n", " assert isinstance(other, (int, float)), \"only supporting int/float powers for now\"\n", " out = Value(self.data ** other, (self, ), f\"**{other}\")\n", "\n", " def backward():\n", " self.grad += (other * (self.data ** (other - 1))) * out.grad\n", "\n", " out._backward = backward\n", " return out\n", "\n", " def tanh(self):\n", " x = self.data\n", " t = (math.exp(2*x) - 1)/(math.exp(2*x) + 1)\n", " out = Value(t, (self, ), 'tanh')\n", "\n", " def backward():\n", " self.grad += 1 - (t**2) * out.grad\n", "\n", " out._backward = backward\n", " return out\n", "\n", " def exp(self):\n", " x = self.data\n", " out = Value(math.exp(x), (self, ), 'exp') #We merged t and out, into just out\n", "\n", " def backward():\n", " self.grad += out.data * out.grad\n", "\n", " out._backward = backward\n", " return out\n", "\n", " def backward(self):\n", "\n", " topo = []\n", " visited = set()\n", " def build_topo(v):\n", " if v not in visited:\n", " visited.add(v)\n", " for child in v._prev:\n", " build_topo(child)\n", " topo.append(v)\n", "\n", " build_topo(self)\n", "\n", " self.grad = 1.0\n", " for node in reversed(topo):\n", " node._backward()" ], "metadata": { "id": "tA0zbyEwFbD5" }, "execution_count": 20, "outputs": [] }, { "cell_type": "markdown", "source": [ "---------------" ], "metadata": { "id": "m9hy05zbxhLP" } }, { "cell_type": "code", "source": [ "import random" ], "metadata": { "id": "gu3tnJu1Wti5" }, "execution_count": 4, "outputs": [] }, { "cell_type": "code", "source": [ "class Neuron:\n", "\tdef __init__(self, nin):\n", "\t\tself.w = [ Value(random.uniform(-1,1)) for _ in range(nin) ]\n", "\t\tself.b = Value(random.uniform(-1,1))\n", "\n", "\tdef __call__(self, x):\n", "\t\t# (w*x)+b\n", "\t\tact = sum( (wi*xi for wi,xi in zip(self.w, x)), self.b )\n", "\t\tout = act.tanh()\n", "\t\treturn out\n", "\n", "class Layer:\n", "\tdef __init__(self, nin, nout):\n", "\t\tself.neurons = [Neuron(nin) for _ in range(nout)]\n", "\n", "\tdef __call__(self, x):\n", "\t\touts = [n(x) for n in self.neurons]\n", "\t\treturn outs[0] if len(outs)==1 else outs #The New added line for making the output better\n", "\n", "class MLP:\n", "\tdef __init__(self, nin, nouts):\n", "\t\tsz = [nin] + nouts\n", "\t\tself.layers = [ Layer(sz[i], sz[i+1]) for i in range(len(nouts)) ]\n", "\n", "\tdef __call__(self, x):\n", "\t\tfor layer in self.layers:\n", "\t\t\tx = layer(x)\n", "\t\treturn x" ], "metadata": { "id": "aCXXYNg_W680" }, "execution_count": 21, "outputs": [] }, { "cell_type": "code", "source": [ "x = [2.0, 3.0, -1.0]\n", "n = MLP(3, [4, 4, 1])\n", "n(x)" ], "metadata": { "colab": { "base_uri": "https://localhost:8080/" }, "id": "aG9pKV_RXsO8", "outputId": "e6f183b9-896b-458f-9322-e91bc79e9da2", "collapsed": true }, "execution_count": 23, "outputs": [ { "output_type": "execute_result", "data": { "text/plain": [ "Value(data=-0.33393070997191954)" ] }, "metadata": {}, "execution_count": 23 } ] }, { "cell_type": "markdown", "source": [ "-----------" ], "metadata": { "id": "6DemdSsv_abu" } }, { "cell_type": "markdown", "source": [ "Now, we are creating a very simple dataset. Where we feed a list of values which we would like the NN to take as input.\\\n", "\\\n", "Along with the list of desired output targets. \\\n", "So whenever we give the values xs into the NN, we want the output values to be those in ys respectively. \\\n", "\n", " \n", "\n", "It's almost like a simple Binary Classification. It needs to be either 1.0 or -1.0 in our example." ], "metadata": { "id": "0VKhjeOJ_tBX" } }, { "cell_type": "code", "source": [ "xs = [\n", " [2.0, 3.0, -1.0],\n", " [3.0, -1.0, 0.5],\n", " [0.5, 1.0, 1.0],\n", " [1.0, 1.0, -1.0]\n", "]\n", "\n", "ys = [1.0, -1.0, -1.0, 1.0] #desired targets" ], "metadata": { "id": "r4RHL9XJ_bR1" }, "execution_count": 24, "outputs": [] }, { "cell_type": "markdown", "source": [ "Now, ys is what WE WANT. \\\n", "\\\n", "Lets see what our NN thinks of those inputs" ], "metadata": { "id": "FrOXcQ1dAqm-" } }, { "cell_type": "code", "source": [ "ypred = [n(x) for x in xs]\n", "ypred" ], "metadata": { "colab": { "base_uri": "https://localhost:8080/" }, "id": "_cmYUJJfAv-K", "outputId": "a398d163-6d57-4246-b88f-ada6868eba14" }, "execution_count": 25, "outputs": [ { "output_type": "execute_result", "data": { "text/plain": [ "[Value(data=-0.33393070997191954),\n", " Value(data=-0.7996605801165794),\n", " Value(data=-0.053910703703307694),\n", " Value(data=-0.5691658715750736)]" ] }, "metadata": {}, "execution_count": 25 } ] }, { "cell_type": "markdown", "source": [ "-------" ], "metadata": { "id": "2I42qlkcByTl" } }, { "cell_type": "markdown", "source": [ "So we can see how the outputs we have received are different from what we need \\\n", "\\\n", "first and fourth one needs to be increased slighly to reach our desired value. \\\n", "\\\n", "And the second, third one needs to be decreased." ], "metadata": { "id": "9efbBNZpBzKl" } }, { "cell_type": "markdown", "source": [ "-------" ], "metadata": { "id": "fesk81HFDO12" } }, { "cell_type": "markdown", "source": [ "So now how do train/tune the NN or how do tune the weights in order to get our desired output.\n", "\n", " \n", "\n", "The trick in NN is to calculate a single value that contains the sum of the total performance of your NN. **And that will be the loss value.**\n" ], "metadata": { "id": "EMRMR3XjCMH9" } }, { "cell_type": "markdown", "source": [ "----------" ], "metadata": { "id": "904P0NpRDQCG" } }, { "cell_type": "markdown", "source": [ "So this loss, will give us an intuition on how well the NN is performing. \\\n", "\\\n", "Right now in our example, it is not performing very well, as the values are way off. **Therefore the loss will be high and we need to look to minimize the loss.**" ], "metadata": { "id": "867tWreLC7Y_" } }, { "cell_type": "markdown", "source": [ "-------" ], "metadata": { "id": "O1xe4_bmDT-2" } }, { "cell_type": "markdown", "source": [ "So in this particular situation/example, we are going to do/**calculate the Mean Squared Error Loss.**" ], "metadata": { "id": "_VojDymsDUfG" } }, { "cell_type": "markdown", "source": [ "So first we take the 'y ground truth (ygt)' and then 'y output (yout)'. We will be pairing them together in the loop" ], "metadata": { "id": "7B7UTG8aDp8x" } }, { "cell_type": "code", "source": [ "for ygt, yout in zip(ys, ypred)" ], "metadata": { "id": "moXVkKr-BGqI" }, "execution_count": null, "outputs": [] }, { "cell_type": "markdown", "source": [ "And then we will be subtracting each of those values and then squaring them" ], "metadata": { "id": "UvoyS8BCEUjm" } }, { "cell_type": "markdown", "source": [ "Now that will give us the loss for each of those individual values" ], "metadata": { "id": "eBWM11c8EXAP" } }, { "cell_type": "code", "source": [ "[(yout - ygt)**2 for ygt, yout in zip(ys, ypred)]" ], "metadata": { "colab": { "base_uri": "https://localhost:8080/" }, "id": "AnpXU6bJEYfO", "outputId": "0f3c339d-ca49-4e2d-e6dc-9bc8237b2545" }, "execution_count": 11, "outputs": [ { "output_type": "execute_result", "data": { "text/plain": [ "[Value(data=0.2551293266642757),\n", " Value(data=1.5689343597801393),\n", " Value(data=1.942823557477381),\n", " Value(data=0.2264329556998548)]" ] }, "metadata": {}, "execution_count": 11 } ] }, { "cell_type": "markdown", "source": [ "So depending on how off your pred value is from the expected one, the higher th value will be \\\n", "\\\n", "That expression is written in such a way that, only when the yout and ygt are close to each other, it will become 0. Therefore no loss in that case \\\n", "\\\n", "So the aim is to make the loss as small as possible" ], "metadata": { "id": "Mgvz23RuFHpj" } }, { "cell_type": "markdown", "source": [ "Now, as mentioned before. **The final loss will just be the sum of all those numbers.**" ], "metadata": { "id": "PeERIbSWFcvl" } }, { "cell_type": "code", "source": [ "loss = sum((yout - ygt)**2 for ygt, yout in zip(ys, ypred))\n", "loss" ], "metadata": { "colab": { "base_uri": "https://localhost:8080/" }, "id": "NNfDMAtYE0yH", "outputId": "c933dfc4-e652-411b-c3c5-f6eb0f3cdb02" }, "execution_count": 26, "outputs": [ { "output_type": "execute_result", "data": { "text/plain": [ "Value(data=5.176873511248545)" ] }, "metadata": {}, "execution_count": 26 } ] }, { "cell_type": "markdown", "source": [ "*Note: There was an error here where int could not be added to a Value. So I have made the modification in the Value object to handle that :)*" ], "metadata": { "id": "GNcROiuRHaf6" } }, { "cell_type": "code", "source": [ "loss.backward()" ], "metadata": { "id": "f7idyOIkHskE" }, "execution_count": 27, "outputs": [] }, { "cell_type": "markdown", "source": [ "Something cool really happended when you ran that last cell" ], "metadata": { "id": "9FInP559Hxis" } }, { "cell_type": "code", "source": [ "n.layers[0].neurons[0].w[0]" ], "metadata": { "colab": { "base_uri": "https://localhost:8080/" }, "id": "YkgbHFOhHudX", "outputId": "2f069084-b36d-4db5-cb60-3b0b99190795" }, "execution_count": 28, "outputs": [ { "output_type": "execute_result", "data": { "text/plain": [ "Value(data=-0.22585628440403194)" ] }, "metadata": {}, "execution_count": 28 } ] }, { "cell_type": "code", "source": [ "n.layers[0].neurons[0].w[0].grad" ], "metadata": { "colab": { "base_uri": "https://localhost:8080/" }, "id": "67yRXhpfH7Q8", "outputId": "0b1dbda2-4352-4dd8-fab8-4eccd83a7a56" }, "execution_count": 29, "outputs": [ { "output_type": "execute_result", "data": { "text/plain": [ "3.080379043409595" ] }, "metadata": {}, "execution_count": 29 } ] }, { "cell_type": "markdown", "source": [ "So now we have extracted the value and its grad value for one particular neuron!" ], "metadata": { "id": "scA8Gt25INvq" } }, { "cell_type": "markdown", "source": [ "-------" ], "metadata": { "id": "olS1rGzhIT_4" } }, { "cell_type": "markdown", "source": [ "Lets look at the graph of the loss. That will give us a bigger graph, as if you would notice in the mean squared error expression that we wrote, we are passing each of the neuron to it." ], "metadata": { "id": "Add_rhPMIUv5" } }, { "cell_type": "code", "source": [ "draw_dot(loss)" ], "metadata": { "colab": { "base_uri": "https://localhost:8080/", "height": 1000 }, "id": "yrSJVJzmH-EV", "outputId": "b9e13986-3d9f-437c-d8aa-6d0902e275c2" }, "execution_count": 30, "outputs": [ { "output_type": "execute_result", "data": { "image/svg+xml": "\n\n\n\n\n\n%3\n\n\n\n133656201134240\n\n \n\ndata 3.0000\n\ngrad 0.2742\n\n\n\n133656201145952*\n\n*\n\n\n\n133656201134240->133656201145952*\n\n\n\n\n\n133655845667456\n\n \n\ndata 1.7794\n\ngrad 1.0000\n\n\n\n133655845667984+\n\n+\n\n\n\n133655845667456->133655845667984+\n\n\n\n\n\n133655845667456**2\n\n**2\n\n\n\n133655845667456**2->133655845667456\n\n\n\n\n\n133655845667792\n\n \n\ndata 0.0000\n\ngrad 1.0000\n\n\n\n133655845667792->133655845667984+\n\n\n\n\n\n133655845667888\n\n \n\ndata -1.0000\n\ngrad -2.6679\n\n\n\n133655845667936+\n\n+\n\n\n\n133655845667888->133655845667936+\n\n\n\n\n\n133655845667936\n\n \n\ndata -1.3339\n\ngrad -2.6679\n\n\n\n133655845667936->133655845667456**2\n\n\n\n\n\n133655845667936+->133655845667936\n\n\n\n\n\n133655845667984\n\n \n\ndata 1.7794\n\ngrad 1.0000\n\n\n\n133655845668608+\n\n+\n\n\n\n133655845667984->133655845668608+\n\n\n\n\n\n133655845667984+->133655845667984\n\n\n\n\n\n133655845668176\n\n \n\ndata 1.0000\n\ngrad 0.4007\n\n\n\n133655845668224+\n\n+\n\n\n\n133655845668176->133655845668224+\n\n\n\n\n\n133655845668224\n\n \n\ndata 0.2003\n\ngrad 0.4007\n\n\n\n133655845668416**2\n\n**2\n\n\n\n133655845668224->133655845668416**2\n\n\n\n\n\n133655845668224+->133655845668224\n\n\n\n\n\n133655845668416\n\n \n\ndata 0.0401\n\ngrad 1.0000\n\n\n\n133655845668416->133655845668608+\n\n\n\n\n\n133655845668416**2->133655845668416\n\n\n\n\n\n133655845668608\n\n \n\ndata 1.8195\n\ngrad 1.0000\n\n\n\n133655845669232+\n\n+\n\n\n\n133655845668608->133655845669232+\n\n\n\n\n\n133655845668608+->133655845668608\n\n\n\n\n\n133655845668800\n\n \n\ndata 1.0000\n\ngrad 1.8922\n\n\n\n133655845668848+\n\n+\n\n\n\n133655845668800->133655845668848+\n\n\n\n\n\n133655845668848\n\n \n\ndata 0.9461\n\ngrad 1.8922\n\n\n\n133655845669040**2\n\n**2\n\n\n\n133655845668848->133655845669040**2\n\n\n\n\n\n133655845668848+->133655845668848\n\n\n\n\n\n133655845669040\n\n \n\ndata 0.8951\n\ngrad 1.0000\n\n\n\n133655845669040->133655845669232+\n\n\n\n\n\n133655845669040**2->133655845669040\n\n\n\n\n\n133655845669232\n\n \n\ndata 2.7146\n\ngrad 1.0000\n\n\n\n133655845669856+\n\n+\n\n\n\n133655845669232->133655845669856+\n\n\n\n\n\n133655845669232+->133655845669232\n\n\n\n\n\n133655845669424\n\n \n\ndata -1.0000\n\ngrad -3.1383\n\n\n\n133655845669472+\n\n+\n\n\n\n133655845669424->133655845669472+\n\n\n\n\n\n133655845669472\n\n \n\ndata -1.5692\n\ngrad -3.1383\n\n\n\n133655845669664**2\n\n**2\n\n\n\n133655845669472->133655845669664**2\n\n\n\n\n\n133655845669472+->133655845669472\n\n\n\n\n\n133656201136832\n\n \n\ndata 0.7002\n\ngrad 0.4482\n\n\n\n133656201146096tanh\n\ntanh\n\n\n\n133656201136832->133656201146096tanh\n\n\n\n\n\n133656201136832+\n\n+\n\n\n\n133656201136832+->133656201136832\n\n\n\n\n\n133655845669664\n\n \n\ndata 2.4623\n\ngrad 1.0000\n\n\n\n133655845669664->133655845669856+\n\n\n\n\n\n133655845669664**2->133655845669664\n\n\n\n\n\n133656201136976\n\n \n\ndata -0.4517\n\ngrad 0.4482\n\n\n\n133656201149792+\n\n+\n\n\n\n133656201136976->133656201149792+\n\n\n\n\n\n133656201136976*\n\n*\n\n\n\n133656201136976*->133656201136976\n\n\n\n\n\n133655845669856\n\n \n\ndata 5.1769\n\ngrad 1.0000\n\n\n\n133655845669856+->133655845669856\n\n\n\n\n\n133655845535696\n\n \n\ndata 0.0022\n\ngrad 0.9945\n\n\n\n133655845585104+\n\n+\n\n\n\n133655845535696->133655845585104+\n\n\n\n\n\n133655845535696*\n\n*\n\n\n\n133655845535696*->133655845535696\n\n\n\n\n\n133656201139040\n\n \n\ndata -0.8249\n\ngrad 0.4482\n\n\n\n133656201139040->133656201136832+\n\n\n\n\n\n133656201139040*\n\n*\n\n\n\n133656201139040*->133656201139040\n\n\n\n\n\n133656201143456\n\n \n\ndata 1.5252\n\ngrad 0.4482\n\n\n\n133656201143456->133656201136832+\n\n\n\n\n\n133656201143456+\n\n+\n\n\n\n133656201143456+->133656201143456\n\n\n\n\n\n133656201143984\n\n \n\ndata -1.0000\n\ngrad 0.3698\n\n\n\n133656201143984->133656201139040*\n\n\n\n\n\n133656201145952\n\n \n\ndata 1.8353\n\ngrad 0.4482\n\n\n\n133656201145952->133656201143456+\n\n\n\n\n\n133656201145952*->133656201145952\n\n\n\n\n\n133656201146096\n\n \n\ndata 0.6045\n\ngrad 1.5098\n\n\n\n133655845455568*\n\n*\n\n\n\n133656201146096->133655845455568*\n\n\n\n\n\n133656202632144*\n\n*\n\n\n\n133656201146096->133656202632144*\n\n\n\n\n\n133656202638624*\n\n*\n\n\n\n133656201146096->133656202638624*\n\n\n\n\n\n133656202082912*\n\n*\n\n\n\n133656201146096->133656202082912*\n\n\n\n\n\n133656201146096tanh->133656201146096\n\n\n\n\n\n133656201149600\n\n \n\ndata 2.0000\n\ngrad -0.1012\n\n\n\n133656201149600->133656201136976*\n\n\n\n\n\n133656201149792\n\n \n\ndata -0.3102\n\ngrad 0.4482\n\n\n\n133656201149792->133656201143456+\n\n\n\n\n\n133656201149792+->133656201149792\n\n\n\n\n\n133655847452784\n\n \n\ndata 0.2304\n\ngrad 1.9654\n\n\n\n133655845591152*\n\n*\n\n\n\n133655847452784->133655845591152*\n\n\n\n\n\n133655845527344*\n\n*\n\n\n\n133655847452784->133655845527344*\n\n\n\n\n\n133655845463536*\n\n*\n\n\n\n133655847452784->133655845463536*\n\n\n\n\n\n133656203552336*\n\n*\n\n\n\n133655847452784->133656203552336*\n\n\n\n\n\n133655847452832\n\n \n\ndata 0.8378\n\ngrad 0.7737\n\n\n\n133655845589856+\n\n+\n\n\n\n133655847452832->133655845589856+\n\n\n\n\n\n133655845526048+\n\n+\n\n\n\n133655847452832->133655845526048+\n\n\n\n\n\n133655845462240+\n\n+\n\n\n\n133655847452832->133655845462240+\n\n\n\n\n\n133656203552720+\n\n+\n\n\n\n133655847452832->133656203552720+\n\n\n\n\n\n133656202068128\n\n \n\ndata 0.1454\n\ngrad 1.0831\n\n\n\n133656202078880+\n\n+\n\n\n\n133656202068128->133656202078880+\n\n\n\n\n\n133656202068128*\n\n*\n\n\n\n133656202068128*->133656202068128\n\n\n\n\n\n133655845454032\n\n \n\ndata -0.2104\n\ngrad 1.3102\n\n\n\n133655845454416+\n\n+\n\n\n\n133655845454032->133655845454416+\n\n\n\n\n\n133655845454032+\n\n+\n\n\n\n133655845454032+->133655845454032\n\n\n\n\n\n133655845519568\n\n \n\ndata -1.2487\n\ngrad 1.0583\n\n\n\n133655845519952+\n\n+\n\n\n\n133655845519568->133655845519952+\n\n\n\n\n\n133655845519568+\n\n+\n\n\n\n133655845519568+->133655845519568\n\n\n\n\n\n133655845585104\n\n \n\ndata -0.5647\n\ngrad 0.9945\n\n\n\n133655845585488+\n\n+\n\n\n\n133655845585104->133655845585488+\n\n\n\n\n\n133655845585104+->133655845585104\n\n\n\n\n\n133655847452976\n\n \n\ndata 0.6151\n\ngrad 0.2644\n\n\n\n133655845592016*\n\n*\n\n\n\n133655847452976->133655845592016*\n\n\n\n\n\n133655845528208*\n\n*\n\n\n\n133655847452976->133655845528208*\n\n\n\n\n\n133655845464400*\n\n*\n\n\n\n133655847452976->133655845464400*\n\n\n\n\n\n133656202640880*\n\n*\n\n\n\n133655847452976->133656202640880*\n\n\n\n\n\n133655847453072\n\n \n\ndata 0.6761\n\ngrad 0.9430\n\n\n\n133656203546336+\n\n+\n\n\n\n133655847453072->133656203546336+\n\n\n\n\n\n133655845591344+\n\n+\n\n\n\n133655847453072->133655845591344+\n\n\n\n\n\n133655845527536+\n\n+\n\n\n\n133655847453072->133655845527536+\n\n\n\n\n\n133655845463728+\n\n+\n\n\n\n133655847453072->133655845463728+\n\n\n\n\n\n133655845454224\n\n \n\ndata 0.5152\n\ngrad 1.3102\n\n\n\n133655845454224->133655845454416+\n\n\n\n\n\n133655845454224*\n\n*\n\n\n\n133655845454224*->133655845454224\n\n\n\n\n\n133656202625424\n\n \n\ndata -0.4869\n\ngrad 1.0174\n\n\n\n133656202626384+\n\n+\n\n\n\n133656202625424->133656202626384+\n\n\n\n\n\n133656202625424+\n\n+\n\n\n\n133656202625424+->133656202625424\n\n\n\n\n\n133655845519760\n\n \n\ndata 0.5476\n\ngrad 1.0583\n\n\n\n133655845519760->133655845519952+\n\n\n\n\n\n133655845519760*\n\n*\n\n\n\n133655845519760*->133655845519760\n\n\n\n\n\n133655845585296\n\n \n\ndata -0.0416\n\ngrad 0.9945\n\n\n\n133655845585296->133655845585488+\n\n\n\n\n\n133655845585296*\n\n*\n\n\n\n133655845585296*->133655845585296\n\n\n\n\n\n133655845454416\n\n \n\ndata 0.3049\n\ngrad 1.3102\n\n\n\n133655845454800+\n\n+\n\n\n\n133655845454416->133655845454800+\n\n\n\n\n\n133655845454416+->133655845454416\n\n\n\n\n\n133655845519952\n\n \n\ndata -0.7011\n\ngrad 1.0583\n\n\n\n133655845520336+\n\n+\n\n\n\n133655845519952->133655845520336+\n\n\n\n\n\n133655845519952+->133655845519952\n\n\n\n\n\n133655845585488\n\n \n\ndata -0.6063\n\ngrad 0.9945\n\n\n\n133655845585872+\n\n+\n\n\n\n133655845585488->133655845585872+\n\n\n\n\n\n133655845585488+->133655845585488\n\n\n\n\n\n133656202625760\n\n \n\ndata -0.2396\n\ngrad 1.0174\n\n\n\n133656202625760->133656202625424+\n\n\n\n\n\n133656202625760+\n\n+\n\n\n\n133656202625760+->133656202625760\n\n\n\n\n\n133655845454608\n\n \n\ndata -0.5273\n\ngrad 1.3102\n\n\n\n133655845454608->133655845454800+\n\n\n\n\n\n133655845454608*\n\n*\n\n\n\n133655845454608*->133655845454608\n\n\n\n\n\n133655845520144\n\n \n\ndata 0.5831\n\ngrad 1.0583\n\n\n\n133655845520144->133655845520336+\n\n\n\n\n\n133655845520144*\n\n*\n\n\n\n133655845520144*->133655845520144\n\n\n\n\n\n133655845585680\n\n \n\ndata 0.7681\n\ngrad 0.9945\n\n\n\n133655845585680->133655845585872+\n\n\n\n\n\n133655845585680*\n\n*\n\n\n\n133655845585680*->133655845585680\n\n\n\n\n\n133655845454800\n\n \n\ndata -0.2224\n\ngrad 1.3102\n\n\n\n133655845455184+\n\n+\n\n\n\n133655845454800->133655845455184+\n\n\n\n\n\n133655845454800+->133655845454800\n\n\n\n\n\n133655845520336\n\n \n\ndata -0.1180\n\ngrad 1.0583\n\n\n\n133655845520720+\n\n+\n\n\n\n133655845520336->133655845520720+\n\n\n\n\n\n133655845520336+->133655845520336\n\n\n\n\n\n133655845585872\n\n \n\ndata 0.1617\n\ngrad 0.9945\n\n\n\n133655845586256+\n\n+\n\n\n\n133655845585872->133655845586256+\n\n\n\n\n\n133655845585872+->133655845585872\n\n\n\n\n\n133655847453696\n\n \n\ndata 0.5624\n\ngrad 0.5846\n\n\n\n133655845592592*\n\n*\n\n\n\n133655847453696->133655845592592*\n\n\n\n\n\n133655845528784*\n\n*\n\n\n\n133655847453696->133655845528784*\n\n\n\n\n\n133655845464976*\n\n*\n\n\n\n133655847453696->133655845464976*\n\n\n\n\n\n133655847453696->133656202638624*\n\n\n\n\n\n133655847453744\n\n \n\ndata 0.9006\n\ngrad -0.3313\n\n\n\n133655845591584*\n\n*\n\n\n\n133655847453744->133655845591584*\n\n\n\n\n\n133655845527776*\n\n*\n\n\n\n133655847453744->133655845527776*\n\n\n\n\n\n133655845463968*\n\n*\n\n\n\n133655847453744->133655845463968*\n\n\n\n\n\n133656203554400*\n\n*\n\n\n\n133655847453744->133656203554400*\n\n\n\n\n\n133655847453840\n\n \n\ndata 0.2649\n\ngrad -0.2615\n\n\n\n133656202628784*\n\n*\n\n\n\n133655847453840->133656202628784*\n\n\n\n\n\n133655845593360*\n\n*\n\n\n\n133655847453840->133655845593360*\n\n\n\n\n\n133655845529552*\n\n*\n\n\n\n133655847453840->133655845529552*\n\n\n\n\n\n133655845465744*\n\n*\n\n\n\n133655847453840->133655845465744*\n\n\n\n\n\n133655845454992\n\n \n\ndata -0.3245\n\ngrad 1.3102\n\n\n\n133655845454992->133655845455184+\n\n\n\n\n\n133655845454992*\n\n*\n\n\n\n133655845454992*->133655845454992\n\n\n\n\n\n133655845520528\n\n \n\ndata 0.4481\n\ngrad 1.0583\n\n\n\n133655845520528->133655845520720+\n\n\n\n\n\n133655845520528*\n\n*\n\n\n\n133655845520528*->133655845520528\n\n\n\n\n\n133655847453888\n\n \n\ndata 0.6614\n\ngrad 3.4997\n\n\n\n133656202633248*\n\n*\n\n\n\n133655847453888->133656202633248*\n\n\n\n\n\n133655845593744*\n\n*\n\n\n\n133655847453888->133655845593744*\n\n\n\n\n\n133655845529936*\n\n*\n\n\n\n133655847453888->133655845529936*\n\n\n\n\n\n133655845466128*\n\n*\n\n\n\n133655847453888->133655845466128*\n\n\n\n\n\n133655845586064\n\n \n\ndata -0.2157\n\ngrad 0.9945\n\n\n\n133655845586064->133655845586256+\n\n\n\n\n\n133655845586064*\n\n*\n\n\n\n133655845586064*->133655845586064\n\n\n\n\n\n133655847453936\n\n \n\ndata 0.3558\n\ngrad 2.1126\n\n\n\n133656202630128*\n\n*\n\n\n\n133655847453936->133656202630128*\n\n\n\n\n\n133655845592976*\n\n*\n\n\n\n133655847453936->133655845592976*\n\n\n\n\n\n133655845529168*\n\n*\n\n\n\n133655847453936->133655845529168*\n\n\n\n\n\n133655845465360*\n\n*\n\n\n\n133655847453936->133655845465360*\n\n\n\n\n\n133655847453984\n\n \n\ndata -0.8655\n\ngrad 4.0498\n\n\n\n133655845592784+\n\n+\n\n\n\n133655847453984->133655845592784+\n\n\n\n\n\n133655845528976+\n\n+\n\n\n\n133655847453984->133655845528976+\n\n\n\n\n\n133655845465168+\n\n+\n\n\n\n133655847453984->133655845465168+\n\n\n\n\n\n133656202638288+\n\n+\n\n\n\n133655847453984->133656202638288+\n\n\n\n\n\n133656203543888\n\n \n\ndata 3.0000\n\ngrad -0.0461\n\n\n\n133656203544656*\n\n*\n\n\n\n133656203543888->133656203544656*\n\n\n\n\n\n133655845455184\n\n \n\ndata -0.5469\n\ngrad 1.3102\n\n\n\n133655845455280tanh\n\ntanh\n\n\n\n133655845455184->133655845455280tanh\n\n\n\n\n\n133655845455184+->133655845455184\n\n\n\n\n\n133656202626384\n\n \n\ndata 0.1724\n\ngrad 1.0174\n\n\n\n133656202632480tanh\n\ntanh\n\n\n\n133656202626384->133656202632480tanh\n\n\n\n\n\n133656202626384+->133656202626384\n\n\n\n\n\n133655847454080\n\n \n\ndata -0.9855\n\ngrad 0.4898\n\n\n\n133655845590096*\n\n*\n\n\n\n133655847454080->133655845590096*\n\n\n\n\n\n133655845526288*\n\n*\n\n\n\n133655847454080->133655845526288*\n\n\n\n\n\n133655845462480*\n\n*\n\n\n\n133655847454080->133655845462480*\n\n\n\n\n\n133656203557424*\n\n*\n\n\n\n133655847454080->133656203557424*\n\n\n\n\n\n133655845520720\n\n \n\ndata 0.3301\n\ngrad 1.0583\n\n\n\n133655845520816tanh\n\ntanh\n\n\n\n133655845520720->133655845520816tanh\n\n\n\n\n\n133655845520720+->133655845520720\n\n\n\n\n\n133655845586256\n\n \n\ndata -0.0540\n\ngrad 0.9945\n\n\n\n133655845586352tanh\n\ntanh\n\n\n\n133655845586256->133655845586352tanh\n\n\n\n\n\n133655845586256+->133655845586256\n\n\n\n\n\n133655847454128\n\n \n\ndata -0.4447\n\ngrad -0.1052\n\n\n\n133655845590528*\n\n*\n\n\n\n133655847454128->133655845590528*\n\n\n\n\n\n133655845526720*\n\n*\n\n\n\n133655847454128->133655845526720*\n\n\n\n\n\n133655845462912*\n\n*\n\n\n\n133655847454128->133655845462912*\n\n\n\n\n\n133656203553248*\n\n*\n\n\n\n133655847454128->133656203553248*\n\n\n\n\n\n133655845455280\n\n \n\ndata -0.4982\n\ngrad -1.2497\n\n\n\n133655845458064*\n\n*\n\n\n\n133655845455280->133655845458064*\n\n\n\n\n\n133655845455280tanh->133655845455280\n\n\n\n\n\n133655845520816\n\n \n\ndata 0.3186\n\ngrad -0.5739\n\n\n\n133655845522256*\n\n*\n\n\n\n133655845520816->133655845522256*\n\n\n\n\n\n133655845520816tanh->133655845520816\n\n\n\n\n\n133655847454176\n\n \n\ndata -0.2231\n\ngrad 0.5697\n\n\n\n133655847454176->133656202632144*\n\n\n\n\n\n133655845594320*\n\n*\n\n\n\n133655847454176->133655845594320*\n\n\n\n\n\n133655845530512*\n\n*\n\n\n\n133655847454176->133655845530512*\n\n\n\n\n\n133655845466704*\n\n*\n\n\n\n133655847454176->133655845466704*\n\n\n\n\n\n133655845586352\n\n \n\ndata -0.0539\n\ngrad 1.8922\n\n\n\n133655845586352->133655845668848+\n\n\n\n\n\n133655845586352tanh->133655845586352\n\n\n\n\n\n133655847454224\n\n \n\ndata -0.0041\n\ngrad 4.2597\n\n\n\n133655845594512+\n\n+\n\n\n\n133655847454224->133655845594512+\n\n\n\n\n\n133656202078112+\n\n+\n\n\n\n133655847454224->133656202078112+\n\n\n\n\n\n133655845530704+\n\n+\n\n\n\n133655847454224->133655845530704+\n\n\n\n\n\n133655845466896+\n\n+\n\n\n\n133655847454224->133655845466896+\n\n\n\n\n\n133655847454272\n\n \n\ndata -0.0031\n\ngrad 3.6758\n\n\n\n133656202074800*\n\n*\n\n\n\n133655847454272->133656202074800*\n\n\n\n\n\n133655845595472*\n\n*\n\n\n\n133655847454272->133655845595472*\n\n\n\n\n\n133655845531664*\n\n*\n\n\n\n133655847454272->133655845531664*\n\n\n\n\n\n133655845467856*\n\n*\n\n\n\n133655847454272->133655845467856*\n\n\n\n\n\n133655847454368\n\n \n\ndata 0.6414\n\ngrad 2.3106\n\n\n\n133655847454368->133655845454224*\n\n\n\n\n\n133655845596432*\n\n*\n\n\n\n133655847454368->133655845596432*\n\n\n\n\n\n133655845532624*\n\n*\n\n\n\n133655847454368->133655845532624*\n\n\n\n\n\n133655845468816*\n\n*\n\n\n\n133655847454368->133655845468816*\n\n\n\n\n\n133655845586640\n\n \n\ndata 1.0000\n\ngrad -0.1995\n\n\n\n133655845586688*\n\n*\n\n\n\n133655845586640->133655845586688*\n\n\n\n\n\n133655847454416\n\n \n\ndata 0.0442\n\ngrad 1.1651\n\n\n\n133655845596048*\n\n*\n\n\n\n133655847454416->133655845596048*\n\n\n\n\n\n133655845532240*\n\n*\n\n\n\n133655847454416->133655845532240*\n\n\n\n\n\n133655845468432*\n\n*\n\n\n\n133655847454416->133655845468432*\n\n\n\n\n\n133655847454416->133656202082912*\n\n\n\n\n\n133655845455568\n\n \n\ndata 0.5706\n\ngrad 1.1880\n\n\n\n133655845455760+\n\n+\n\n\n\n133655845455568->133655845455760+\n\n\n\n\n\n133655845455568*->133655845455568\n\n\n\n\n\n133655845586688\n\n \n\ndata -0.2259\n\ngrad 0.8835\n\n\n\n133655845586880+\n\n+\n\n\n\n133655845586688->133655845586880+\n\n\n\n\n\n133655845586688*->133655845586688\n\n\n\n\n\n133655845521104\n\n \n\ndata 0.0913\n\ngrad 0.7438\n\n\n\n133655845521296+\n\n+\n\n\n\n133655845521104->133655845521296+\n\n\n\n\n\n133655845521104*\n\n*\n\n\n\n133655845521104*->133655845521104\n\n\n\n\n\n133655847454512\n\n \n\ndata 0.5649\n\ngrad -0.6489\n\n\n\n133655847454512->133655845454608*\n\n\n\n\n\n133655845596816*\n\n*\n\n\n\n133655847454512->133655845596816*\n\n\n\n\n\n133655845533008*\n\n*\n\n\n\n133655847454512->133655845533008*\n\n\n\n\n\n133655845469200*\n\n*\n\n\n\n133655847454512->133655845469200*\n\n\n\n\n\n133655847454608\n\n \n\ndata -0.4611\n\ngrad -0.2182\n\n\n\n133655847454608->133655845535696*\n\n\n\n\n\n133655847454608->133655845521104*\n\n\n\n\n\n133655845457296*\n\n*\n\n\n\n133655847454608->133655845457296*\n\n\n\n\n\n133655845599504*\n\n*\n\n\n\n133655847454608->133655845599504*\n\n\n\n\n\n133655845455760\n\n \n\ndata -0.0869\n\ngrad 1.1880\n\n\n\n133655845456144+\n\n+\n\n\n\n133655845455760->133655845456144+\n\n\n\n\n\n133655845455760+->133655845455760\n\n\n\n\n\n133655845521296\n\n \n\ndata -0.4757\n\ngrad 0.7438\n\n\n\n133655845521680+\n\n+\n\n\n\n133655845521296->133655845521680+\n\n\n\n\n\n133655845521296+->133655845521296\n\n\n\n\n\n133655847454656\n\n \n\ndata 0.6899\n\ngrad 3.8115\n\n\n\n133655847454656->133655845520528*\n\n\n\n\n\n133655845456720*\n\n*\n\n\n\n133655847454656->133655845456720*\n\n\n\n\n\n133655845598928*\n\n*\n\n\n\n133655847454656->133655845598928*\n\n\n\n\n\n133655845535120*\n\n*\n\n\n\n133655847454656->133655845535120*\n\n\n\n\n\n133655845586880\n\n \n\ndata -0.0843\n\ngrad 0.8835\n\n\n\n133655845587312+\n\n+\n\n\n\n133655845586880->133655845587312+\n\n\n\n\n\n133655845586880+->133655845586880\n\n\n\n\n\n133656203544512\n\n \n\ndata -0.9333\n\ngrad 1.5943\n\n\n\n133656203544512->133656202068128*\n\n\n\n\n\n133656203544512->133655845454608*\n\n\n\n\n\n133655845456336*\n\n*\n\n\n\n133656203544512->133655845456336*\n\n\n\n\n\n133656203544512->133656202628784*\n\n\n\n\n\n133656203544512tanh\n\ntanh\n\n\n\n133656203544512tanh->133656203544512\n\n\n\n\n\n133655847454704\n\n \n\ndata 0.6341\n\ngrad -0.3931\n\n\n\n133655847454704->133655845520144*\n\n\n\n\n\n133655847454704->133655845456336*\n\n\n\n\n\n133655845598544*\n\n*\n\n\n\n133655847454704->133655845598544*\n\n\n\n\n\n133655845534736*\n\n*\n\n\n\n133655847454704->133655845534736*\n\n\n\n\n\n133655847454752\n\n \n\ndata -0.6575\n\ngrad 4.3899\n\n\n\n133655847454752->133655845519568+\n\n\n\n\n\n133655847454752->133655845455760+\n\n\n\n\n\n133655845597968+\n\n+\n\n\n\n133655847454752->133655845597968+\n\n\n\n\n\n133655845534160+\n\n+\n\n\n\n133655847454752->133655845534160+\n\n\n\n\n\n133655845455952\n\n \n\ndata 0.4550\n\ngrad 1.1880\n\n\n\n133655845455952->133655845456144+\n\n\n\n\n\n133655845455952*\n\n*\n\n\n\n133655845455952*->133655845455952\n\n\n\n\n\n133656203544656\n\n \n\ndata -0.7634\n\ngrad 0.1810\n\n\n\n133656203551136+\n\n+\n\n\n\n133656203544656->133656203551136+\n\n\n\n\n\n133656203544656*->133656203544656\n\n\n\n\n\n133655845521488\n\n \n\ndata 0.1831\n\ngrad 0.7438\n\n\n\n133655845521488->133655845521680+\n\n\n\n\n\n133655845521488*\n\n*\n\n\n\n133655845521488*->133655845521488\n\n\n\n\n\n133655845587072\n\n \n\ndata 1.0000\n\ngrad 0.5405\n\n\n\n133655845587120*\n\n*\n\n\n\n133655845587072->133655845587120*\n\n\n\n\n\n133655847454848\n\n \n\ndata 0.5665\n\ngrad 2.3146\n\n\n\n133655847454848->133655845519760*\n\n\n\n\n\n133655847454848->133655845455952*\n\n\n\n\n\n133655845598160*\n\n*\n\n\n\n133655847454848->133655845598160*\n\n\n\n\n\n133655845534352*\n\n*\n\n\n\n133655847454848->133655845534352*\n\n\n\n\n\n133655845587120\n\n \n\ndata 0.6118\n\ngrad 0.8835\n\n\n\n133655845587120->133655845587312+\n\n\n\n\n\n133655845587120*->133655845587120\n\n\n\n\n\n133656203544752\n\n \n\ndata 2.0000\n\ngrad 0.0019\n\n\n\n133656203547728*\n\n*\n\n\n\n133656203544752->133656203547728*\n\n\n\n\n\n133655847454944\n\n \n\ndata 0.9439\n\ngrad 0.6948\n\n\n\n133655847454944->133655845455568*\n\n\n\n\n\n133655845597776*\n\n*\n\n\n\n133655847454944->133655845597776*\n\n\n\n\n\n133655845533968*\n\n*\n\n\n\n133655847454944->133655845533968*\n\n\n\n\n\n133655845470160*\n\n*\n\n\n\n133655847454944->133655845470160*\n\n\n\n\n\n133655845456144\n\n \n\ndata 0.3682\n\ngrad 1.1880\n\n\n\n133655845456528+\n\n+\n\n\n\n133655845456144->133655845456528+\n\n\n\n\n\n133655845456144+->133655845456144\n\n\n\n\n\n133655845521680\n\n \n\ndata -0.2926\n\ngrad 0.7438\n\n\n\n133655845522064+\n\n+\n\n\n\n133655845521680->133655845522064+\n\n\n\n\n\n133655845521680+->133655845521680\n\n\n\n\n\n133655845587312\n\n \n\ndata 0.5275\n\ngrad 0.8835\n\n\n\n133655845587744+\n\n+\n\n\n\n133655845587312->133655845587744+\n\n\n\n\n\n133655845587312+->133655845587312\n\n\n\n\n\n133655847455088\n\n \n\ndata -0.2371\n\ngrad 5.1831\n\n\n\n133655847455088->133655845454032+\n\n\n\n\n\n133655845596240+\n\n+\n\n\n\n133655847455088->133655845596240+\n\n\n\n\n\n133655845532432+\n\n+\n\n\n\n133655847455088->133655845532432+\n\n\n\n\n\n133655845468624+\n\n+\n\n\n\n133655847455088->133655845468624+\n\n\n\n\n\n133656203544944\n\n \n\ndata -1.0000\n\ngrad -0.0938\n\n\n\n133656203549072*\n\n*\n\n\n\n133656203544944->133656203549072*\n\n\n\n\n\n133656203544992\n\n \n\ndata -2.1283\n\ngrad -0.3888\n\n\n\n133656203555168+\n\n+\n\n\n\n133656203544992->133656203555168+\n\n\n\n\n\n133656203544992+\n\n+\n\n\n\n133656203544992+->133656203544992\n\n\n\n\n\n133655847455184\n\n \n\ndata -0.3654\n\ngrad -1.5590\n\n\n\n133655847455184->133655845585296*\n\n\n\n\n\n133655847455184->133655845521488*\n\n\n\n\n\n133655845457680*\n\n*\n\n\n\n133655847455184->133655845457680*\n\n\n\n\n\n133655845599888*\n\n*\n\n\n\n133655847455184->133655845599888*\n\n\n\n\n\n133655845456336\n\n \n\ndata -0.5918\n\ngrad 1.1880\n\n\n\n133655845456336->133655845456528+\n\n\n\n\n\n133655845456336*->133655845456336\n\n\n\n\n\n133655845521872\n\n \n\ndata -0.5592\n\ngrad 0.7438\n\n\n\n133655845521872->133655845522064+\n\n\n\n\n\n133655845521872*\n\n*\n\n\n\n133655845521872*->133655845521872\n\n\n\n\n\n133655847455232\n\n \n\ndata -0.3255\n\ngrad 4.5396\n\n\n\n133655847455232->133655845454992*\n\n\n\n\n\n133655845597200*\n\n*\n\n\n\n133655847455232->133655845597200*\n\n\n\n\n\n133655845533392*\n\n*\n\n\n\n133655847455232->133655845533392*\n\n\n\n\n\n133655845469584*\n\n*\n\n\n\n133655847455232->133655845469584*\n\n\n\n\n\n133655845587504\n\n \n\ndata -1.0000\n\ngrad 0.7288\n\n\n\n133655845587552*\n\n*\n\n\n\n133655845587504->133655845587552*\n\n\n\n\n\n133655847455280\n\n \n\ndata -0.9631\n\ngrad -0.7915\n\n\n\n133655847455280->133655845585680*\n\n\n\n\n\n133655847455280->133655845521872*\n\n\n\n\n\n133655847455280->133655845458064*\n\n\n\n\n\n133655845600272*\n\n*\n\n\n\n133655847455280->133655845600272*\n\n\n\n\n\n133656203545136\n\n \n\ndata 2.0000\n\ngrad 0.1250\n\n\n\n133656203548256*\n\n*\n\n\n\n133656203545136->133656203548256*\n\n\n\n\n\n133655845587552\n\n \n\ndata -0.8249\n\ngrad 0.8835\n\n\n\n133655845587552->133655845587744+\n\n\n\n\n\n133655845587552*->133655845587552\n\n\n\n\n\n133655845456528\n\n \n\ndata -0.2236\n\ngrad 1.1880\n\n\n\n133655845456912+\n\n+\n\n\n\n133655845456528->133655845456912+\n\n\n\n\n\n133655845456528+->133655845456528\n\n\n\n\n\n133655845522064\n\n \n\ndata -0.8518\n\ngrad 0.7438\n\n\n\n133655845522448+\n\n+\n\n\n\n133655845522064->133655845522448+\n\n\n\n\n\n133655845522064+->133655845522064\n\n\n\n\n\n133656203545328\n\n \n\ndata 3.0000\n\ngrad 0.3831\n\n\n\n133656203545328->133656203557424*\n\n\n\n\n\n133655845587744\n\n \n\ndata -0.2975\n\ngrad 0.8835\n\n\n\n133655845587840tanh\n\ntanh\n\n\n\n133655845587744->133655845587840tanh\n\n\n\n\n\n133655845587744+->133655845587744\n\n\n\n\n\n133655845456720\n\n \n\ndata 0.6877\n\ngrad 1.1880\n\n\n\n133655845456720->133655845456912+\n\n\n\n\n\n133655845456720*->133655845456720\n\n\n\n\n\n133655845522256\n\n \n\ndata -0.2458\n\ngrad 0.7438\n\n\n\n133655845522256->133655845522448+\n\n\n\n\n\n133655845522256*->133655845522256\n\n\n\n\n\n133655845587840\n\n \n\ndata -0.2890\n\ngrad 1.3949\n\n\n\n133655845587840->133655845592592*\n\n\n\n\n\n133655845587840->133655845594320*\n\n\n\n\n\n133655845587840->133655845596048*\n\n\n\n\n\n133655845587840->133655845597776*\n\n\n\n\n\n133655845587840tanh->133655845587840\n\n\n\n\n\n133655845456912\n\n \n\ndata 0.4641\n\ngrad 1.1880\n\n\n\n133655845457008tanh\n\ntanh\n\n\n\n133655845456912->133655845457008tanh\n\n\n\n\n\n133655845456912+->133655845456912\n\n\n\n\n\n133655845522448\n\n \n\ndata -1.0977\n\ngrad 0.7438\n\n\n\n133655845522544tanh\n\ntanh\n\n\n\n133655845522448->133655845522544tanh\n\n\n\n\n\n133655845522448+->133655845522448\n\n\n\n\n\n133655847455856\n\n \n\ndata -0.5670\n\ngrad 5.0524\n\n\n\n133655847455856->133655845585104+\n\n\n\n\n\n133655847455856->133655845521296+\n\n\n\n\n\n133655845457488+\n\n+\n\n\n\n133655847455856->133655845457488+\n\n\n\n\n\n133655845599696+\n\n+\n\n\n\n133655847455856->133655845599696+\n\n\n\n\n\n133655845457008\n\n \n\ndata 0.4334\n\ngrad -1.0012\n\n\n\n133655845458448*\n\n*\n\n\n\n133655845457008->133655845458448*\n\n\n\n\n\n133655845457008tanh->133655845457008\n\n\n\n\n\n133655845522544\n\n \n\ndata -0.7997\n\ngrad 0.4007\n\n\n\n133655845522544->133655845668224+\n\n\n\n\n\n133655845522544tanh->133655845522544\n\n\n\n\n\n133655845588128\n\n \n\ndata 1.0000\n\ngrad 0.3185\n\n\n\n133655845588176*\n\n*\n\n\n\n133655845588128->133655845588176*\n\n\n\n\n\n133655847455952\n\n \n\ndata -0.7716\n\ngrad 1.5449\n\n\n\n133655847455952->133655845586064*\n\n\n\n\n\n133655847455952->133655845522256*\n\n\n\n\n\n133655847455952->133655845458448*\n\n\n\n\n\n133655845600656*\n\n*\n\n\n\n133655847455952->133655845600656*\n\n\n\n\n\n133655845588176\n\n \n\ndata 0.6906\n\ngrad 0.4612\n\n\n\n133655845588368+\n\n+\n\n\n\n133655845588176->133655845588368+\n\n\n\n\n\n133655845588176*->133655845588176\n\n\n\n\n\n133655845588368\n\n \n\ndata 0.6621\n\ngrad 0.4612\n\n\n\n133655845588800+\n\n+\n\n\n\n133655845588368->133655845588800+\n\n\n\n\n\n133655845588368+->133655845588368\n\n\n\n\n\n133655845457296\n\n \n\ndata -0.0787\n\ngrad 1.2975\n\n\n\n133655845457296->133655845457488+\n\n\n\n\n\n133655845457296*->133655845457296\n\n\n\n\n\n133655845522832\n\n \n\ndata 0.5000\n\ngrad 0.0313\n\n\n\n133655845522880*\n\n*\n\n\n\n133655845522832->133655845522880*\n\n\n\n\n\n133656203546048\n\n \n\ndata -1.0000\n\ngrad 0.1729\n\n\n\n133656203546048->133656203553248*\n\n\n\n\n\n133655845522880\n\n \n\ndata -0.1129\n\ngrad -0.1386\n\n\n\n133655845523072+\n\n+\n\n\n\n133655845522880->133655845523072+\n\n\n\n\n\n133655845522880*->133655845522880\n\n\n\n\n\n133655845588560\n\n \n\ndata 1.0000\n\ngrad -0.1174\n\n\n\n133655845588608*\n\n*\n\n\n\n133655845588560->133655845588608*\n\n\n\n\n\n133655845457488\n\n \n\ndata -0.6457\n\ngrad 1.2975\n\n\n\n133655845457872+\n\n+\n\n\n\n133655845457488->133655845457872+\n\n\n\n\n\n133655845457488+->133655845457488\n\n\n\n\n\n133655845588608\n\n \n\ndata -0.2545\n\ngrad 0.4612\n\n\n\n133655845588608->133655845588800+\n\n\n\n\n\n133655845588608*->133655845588608\n\n\n\n\n\n133655845523072\n\n \n\ndata 0.0286\n\ngrad -0.1386\n\n\n\n133655845523504+\n\n+\n\n\n\n133655845523072->133655845523504+\n\n\n\n\n\n133655845523072+->133655845523072\n\n\n\n\n\n133656202628784\n\n \n\ndata -0.2473\n\ngrad 1.0174\n\n\n\n133656202628784->133656202625424+\n\n\n\n\n\n133656202628784*->133656202628784\n\n\n\n\n\n133656203546336\n\n \n\ndata 1.1370\n\ngrad -0.0560\n\n\n\n133656203552960+\n\n+\n\n\n\n133656203546336->133656203552960+\n\n\n\n\n\n133656203546336+->133656203546336\n\n\n\n\n\n133655847456528\n\n \n\ndata -0.5596\n\ngrad 2.2781\n\n\n\n133655845594704*\n\n*\n\n\n\n133655847456528->133655845594704*\n\n\n\n\n\n133655845530896*\n\n*\n\n\n\n133655847456528->133655845530896*\n\n\n\n\n\n133655845467088*\n\n*\n\n\n\n133655847456528->133655845467088*\n\n\n\n\n\n133656202083152*\n\n*\n\n\n\n133655847456528->133656202083152*\n\n\n\n\n\n133655845457680\n\n \n\ndata 0.1530\n\ngrad 1.2975\n\n\n\n133655845457680->133655845457872+\n\n\n\n\n\n133655845457680*->133655845457680\n\n\n\n\n\n133655845588800\n\n \n\ndata 0.4077\n\ngrad 0.4612\n\n\n\n133655845589232+\n\n+\n\n\n\n133655845588800->133655845589232+\n\n\n\n\n\n133655845588800+->133655845588800\n\n\n\n\n\n133655847456576\n\n \n\ndata -0.1558\n\ngrad -0.2508\n\n\n\n133655847456576->133656202068128*\n\n\n\n\n\n133655845595088*\n\n*\n\n\n\n133655847456576->133655845595088*\n\n\n\n\n\n133655845531280*\n\n*\n\n\n\n133655847456576->133655845531280*\n\n\n\n\n\n133655845467472*\n\n*\n\n\n\n133655847456576->133655845467472*\n\n\n\n\n\n133655845523264\n\n \n\ndata 1.0000\n\ngrad -0.0848\n\n\n\n133655845523312*\n\n*\n\n\n\n133655845523264->133655845523312*\n\n\n\n\n\n133655845523312\n\n \n\ndata 0.6118\n\ngrad -0.1386\n\n\n\n133655845523312->133655845523504+\n\n\n\n\n\n133655845523312*->133655845523312\n\n\n\n\n\n133655845457872\n\n \n\ndata -0.4927\n\ngrad 1.2975\n\n\n\n133655845458256+\n\n+\n\n\n\n133655845457872->133655845458256+\n\n\n\n\n\n133655845457872+->133655845457872\n\n\n\n\n\n133655845588992\n\n \n\ndata -1.0000\n\ngrad -0.2391\n\n\n\n133655845589040*\n\n*\n\n\n\n133655845588992->133655845589040*\n\n\n\n\n\n133655845589040\n\n \n\ndata 0.5184\n\ngrad 0.4612\n\n\n\n133655845589040->133655845589232+\n\n\n\n\n\n133655845589040*->133655845589040\n\n\n\n\n\n133655845523504\n\n \n\ndata 0.6404\n\ngrad -0.1386\n\n\n\n133655845523936+\n\n+\n\n\n\n133655845523504->133655845523936+\n\n\n\n\n\n133655845523504+->133655845523504\n\n\n\n\n\n133655845458064\n\n \n\ndata 0.4798\n\ngrad 1.2975\n\n\n\n133655845458064->133655845458256+\n\n\n\n\n\n133655845458064*->133655845458064\n\n\n\n\n\n133655845589232\n\n \n\ndata 0.9261\n\ngrad 0.4612\n\n\n\n133655845589328tanh\n\ntanh\n\n\n\n133655845589232->133655845589328tanh\n\n\n\n\n\n133655845589232+->133655845589232\n\n\n\n\n\n133655845523696\n\n \n\ndata 1.0000\n\ngrad -0.1143\n\n\n\n133655845523744*\n\n*\n\n\n\n133655845523696->133655845523744*\n\n\n\n\n\n133655845523744\n\n \n\ndata 0.8249\n\ngrad -0.1386\n\n\n\n133655845523744->133655845523936+\n\n\n\n\n\n133655845523744*->133655845523744\n\n\n\n\n\n133655845589328\n\n \n\ndata 0.7288\n\ngrad 1.0145\n\n\n\n133655845589328->133655845592976*\n\n\n\n\n\n133655845589328->133655845594704*\n\n\n\n\n\n133655845589328->133655845596432*\n\n\n\n\n\n133655845589328->133655845598160*\n\n\n\n\n\n133655845589328tanh->133655845589328\n\n\n\n\n\n133655845458256\n\n \n\ndata -0.0128\n\ngrad 1.2975\n\n\n\n133655845458640+\n\n+\n\n\n\n133655845458256->133655845458640+\n\n\n\n\n\n133655845458256+->133655845458256\n\n\n\n\n\n133655847457152\n\n \n\ndata -0.2259\n\ngrad 3.0804\n\n\n\n133655847457152->133656201136976*\n\n\n\n\n\n133655847457152->133655845586688*\n\n\n\n\n\n133655847457152->133655845522880*\n\n\n\n\n\n133655845459072*\n\n*\n\n\n\n133655847457152->133655845459072*\n\n\n\n\n\n133655845523936\n\n \n\ndata 1.4653\n\ngrad -0.1386\n\n\n\n133655845524032tanh\n\ntanh\n\n\n\n133655845523936->133655845524032tanh\n\n\n\n\n\n133655845523936+->133655845523936\n\n\n\n\n\n133655845458448\n\n \n\ndata -0.3344\n\ngrad 1.2975\n\n\n\n133655845458448->133655845458640+\n\n\n\n\n\n133655845458448*->133655845458448\n\n\n\n\n\n133655845524032\n\n \n\ndata 0.8987\n\ngrad 1.4098\n\n\n\n133655845524032->133655845528784*\n\n\n\n\n\n133655845524032->133655845530512*\n\n\n\n\n\n133655845524032->133655845532240*\n\n\n\n\n\n133655845524032->133655845533968*\n\n\n\n\n\n133655845524032tanh->133655845524032\n\n\n\n\n\n133655845589616\n\n \n\ndata 1.0000\n\ngrad -0.0044\n\n\n\n133655845589664*\n\n*\n\n\n\n133655845589616->133655845589664*\n\n\n\n\n\n133655845589664\n\n \n\ndata -0.0049\n\ngrad 0.8899\n\n\n\n133655845589664->133655845589856+\n\n\n\n\n\n133655845589664*->133655845589664\n\n\n\n\n\n133655845458640\n\n \n\ndata -0.3472\n\ngrad 1.2975\n\n\n\n133655845458736tanh\n\ntanh\n\n\n\n133655845458640->133655845458736tanh\n\n\n\n\n\n133655845458640+->133655845458640\n\n\n\n\n\n133655845458736\n\n \n\ndata -0.3339\n\ngrad -2.6679\n\n\n\n133655845458736->133655845667936+\n\n\n\n\n\n133655845458736tanh->133655845458736\n\n\n\n\n\n133655845589856\n\n \n\ndata 0.8330\n\ngrad 0.8899\n\n\n\n133655845590288+\n\n+\n\n\n\n133655845589856->133655845590288+\n\n\n\n\n\n133655845589856+->133655845589856\n\n\n\n\n\n133655845524320\n\n \n\ndata 0.5000\n\ngrad 0.5112\n\n\n\n133655845524368*\n\n*\n\n\n\n133655845524320->133655845524368*\n\n\n\n\n\n133655845524368\n\n \n\ndata 0.3453\n\ngrad 0.7401\n\n\n\n133655845524560+\n\n+\n\n\n\n133655845524368->133655845524560+\n\n\n\n\n\n133655845524368*->133655845524368\n\n\n\n\n\n133656202630128\n\n \n\ndata 0.2858\n\ngrad 1.0174\n\n\n\n133656202630128->133656202625760+\n\n\n\n\n\n133656202630128*->133656202630128\n\n\n\n\n\n133655845590048\n\n \n\ndata 1.0000\n\ngrad -0.8770\n\n\n\n133655845590048->133655845590096*\n\n\n\n\n\n133655845590096\n\n \n\ndata -0.9855\n\ngrad 0.8899\n\n\n\n133655845590096->133655845590288+\n\n\n\n\n\n133655845590096*->133655845590096\n\n\n\n\n\n133656203547728\n\n \n\ndata -0.0098\n\ngrad -0.3888\n\n\n\n133656203547728->133656203552720+\n\n\n\n\n\n133656203547728*->133656203547728\n\n\n\n\n\n133655845459024\n\n \n\ndata 3.0000\n\ngrad -0.1031\n\n\n\n133655845459024->133655845459072*\n\n\n\n\n\n133655845459072\n\n \n\ndata -0.6776\n\ngrad 0.4566\n\n\n\n133655845459264+\n\n+\n\n\n\n133655845459072->133655845459264+\n\n\n\n\n\n133655845459072*->133655845459072\n\n\n\n\n\n133655845524560\n\n \n\ndata 0.3168\n\ngrad 0.7401\n\n\n\n133655845524992+\n\n+\n\n\n\n133655845524560->133655845524992+\n\n\n\n\n\n133655845524560+->133655845524560\n\n\n\n\n\n133655845590288\n\n \n\ndata -0.1525\n\ngrad 0.8899\n\n\n\n133655845590720+\n\n+\n\n\n\n133655845590288->133655845590720+\n\n\n\n\n\n133655845590288+->133655845590288\n\n\n\n\n\n133655845524752\n\n \n\ndata 1.0000\n\ngrad -0.1883\n\n\n\n133655845524800*\n\n*\n\n\n\n133655845524752->133655845524800*\n\n\n\n\n\n133655845459264\n\n \n\ndata -0.5360\n\ngrad 0.4566\n\n\n\n133655845459696+\n\n+\n\n\n\n133655845459264->133655845459696+\n\n\n\n\n\n133655845459264+->133655845459264\n\n\n\n\n\n133655845524800\n\n \n\ndata -0.2545\n\ngrad 0.7401\n\n\n\n133655845524800->133655845524992+\n\n\n\n\n\n133655845524800*->133655845524800\n\n\n\n\n\n133655845590480\n\n \n\ndata -1.0000\n\ngrad -0.3958\n\n\n\n133655845590480->133655845590528*\n\n\n\n\n\n133655845590528\n\n \n\ndata 0.4447\n\ngrad 0.8899\n\n\n\n133655845590528->133655845590720+\n\n\n\n\n\n133655845590528*->133655845590528\n\n\n\n\n\n133655845459456\n\n \n\ndata -1.0000\n\ngrad 0.2793\n\n\n\n133655845459504*\n\n*\n\n\n\n133655845459456->133655845459504*\n\n\n\n\n\n133655845524992\n\n \n\ndata 0.0624\n\ngrad 0.7401\n\n\n\n133655845525424+\n\n+\n\n\n\n133655845524992->133655845525424+\n\n\n\n\n\n133655845524992+->133655845524992\n\n\n\n\n\n133655845459504\n\n \n\ndata -0.6118\n\ngrad 0.4566\n\n\n\n133655845459504->133655845459696+\n\n\n\n\n\n133655845459504*->133655845459504\n\n\n\n\n\n133656203548256\n\n \n\ndata 1.3812\n\ngrad 0.1810\n\n\n\n133656203549264+\n\n+\n\n\n\n133656203548256->133656203549264+\n\n\n\n\n\n133656203548256*->133656203548256\n\n\n\n\n\n133655845590720\n\n \n\ndata 0.2922\n\ngrad 0.8899\n\n\n\n133655845590816tanh\n\ntanh\n\n\n\n133655845590720->133655845590816tanh\n\n\n\n\n\n133655845590720+->133655845590720\n\n\n\n\n\n133655845525184\n\n \n\ndata 1.0000\n\ngrad -0.3837\n\n\n\n133655845525232*\n\n*\n\n\n\n133655845525184->133655845525232*\n\n\n\n\n\n133655845459696\n\n \n\ndata -1.1478\n\ngrad 0.4566\n\n\n\n133655845460128+\n\n+\n\n\n\n133655845459696->133655845460128+\n\n\n\n\n\n133655845459696+->133655845459696\n\n\n\n\n\n133655845525232\n\n \n\ndata -0.5184\n\ngrad 0.7401\n\n\n\n133655845525232->133655845525424+\n\n\n\n\n\n133655845525232*->133655845525232\n\n\n\n\n\n133655845590816\n\n \n\ndata 0.2842\n\ngrad 1.3627\n\n\n\n133655845590816->133655845593360*\n\n\n\n\n\n133655845590816->133655845595088*\n\n\n\n\n\n133655845590816->133655845596816*\n\n\n\n\n\n133655845590816->133655845598544*\n\n\n\n\n\n133655845590816tanh->133655845590816\n\n\n\n\n\n133655845459888\n\n \n\ndata 0.5000\n\ngrad 0.3766\n\n\n\n133655845459936*\n\n*\n\n\n\n133655845459888->133655845459936*\n\n\n\n\n\n133655845525424\n\n \n\ndata -0.4561\n\ngrad 0.7401\n\n\n\n133655845525520tanh\n\ntanh\n\n\n\n133655845525424->133655845525520tanh\n\n\n\n\n\n133655845525424+->133655845525424\n\n\n\n\n\n133655845459936\n\n \n\ndata 0.4125\n\ngrad 0.4566\n\n\n\n133655845459936->133655845460128+\n\n\n\n\n\n133655845459936*->133655845459936\n\n\n\n\n\n133655845525520\n\n \n\ndata -0.4269\n\ngrad 1.4261\n\n\n\n133655845525520->133655845529168*\n\n\n\n\n\n133655845525520->133655845530896*\n\n\n\n\n\n133655845525520->133655845532624*\n\n\n\n\n\n133655845525520->133655845534352*\n\n\n\n\n\n133655845525520tanh->133655845525520\n\n\n\n\n\n133655845591104\n\n \n\ndata 1.0000\n\ngrad 0.0576\n\n\n\n133655845591104->133655845591152*\n\n\n\n\n\n133655845591152\n\n \n\ndata 0.2304\n\ngrad 0.2501\n\n\n\n133655845591152->133655845591344+\n\n\n\n\n\n133655845591152*->133655845591152\n\n\n\n\n\n133655845460128\n\n \n\ndata -0.7353\n\ngrad 0.4566\n\n\n\n133655845460224tanh\n\ntanh\n\n\n\n133655845460128->133655845460224tanh\n\n\n\n\n\n133655845460128+->133655845460128\n\n\n\n\n\n133655845460224\n\n \n\ndata -0.6263\n\ngrad 1.3854\n\n\n\n133655845460224->133655845464976*\n\n\n\n\n\n133655845460224->133655845466704*\n\n\n\n\n\n133655845460224->133655845468432*\n\n\n\n\n\n133655845460224->133655845470160*\n\n\n\n\n\n133655845460224tanh->133655845460224\n\n\n\n\n\n133655845591344\n\n \n\ndata 0.9066\n\ngrad 0.2501\n\n\n\n133655845591776+\n\n+\n\n\n\n133655845591344->133655845591776+\n\n\n\n\n\n133655845591344+->133655845591344\n\n\n\n\n\n133655845525808\n\n \n\ndata 0.5000\n\ngrad -0.0025\n\n\n\n133655845525856*\n\n*\n\n\n\n133655845525808->133655845525856*\n\n\n\n\n\n133655845525856\n\n \n\ndata -0.0024\n\ngrad 0.5194\n\n\n\n133655845525856->133655845526048+\n\n\n\n\n\n133655845525856*->133655845525856\n\n\n\n\n\n133656203549072\n\n \n\ndata 0.5184\n\ngrad 0.1810\n\n\n\n133656203556272+\n\n+\n\n\n\n133656203549072->133656203556272+\n\n\n\n\n\n133656203549072*->133656203549072\n\n\n\n\n\n133655845591536\n\n \n\ndata 1.0000\n\ngrad 0.2252\n\n\n\n133655845591536->133655845591584*\n\n\n\n\n\n133655845591584\n\n \n\ndata 0.9006\n\ngrad 0.2501\n\n\n\n133655845591584->133655845591776+\n\n\n\n\n\n133655845591584*->133655845591584\n\n\n\n\n\n133655845460512\n\n \n\ndata 3.0000\n\ngrad -0.0570\n\n\n\n133655845460560*\n\n*\n\n\n\n133655845460512->133655845460560*\n\n\n\n\n\n133655845526048\n\n \n\ndata 0.8354\n\ngrad 0.5194\n\n\n\n133655845526480+\n\n+\n\n\n\n133655845526048->133655845526480+\n\n\n\n\n\n133655845526048+->133655845526048\n\n\n\n\n\n133656203549264\n\n \n\ndata 1.3527\n\ngrad 0.1810\n\n\n\n133656203549264->133656203551136+\n\n\n\n\n\n133656203549264+->133656203549264\n\n\n\n\n\n133655845460560\n\n \n\ndata 2.0719\n\ngrad -0.0826\n\n\n\n133655845460752+\n\n+\n\n\n\n133655845460560->133655845460752+\n\n\n\n\n\n133655845460560*->133655845460560\n\n\n\n\n\n133656202074800\n\n \n\ndata -0.0030\n\ngrad 1.0831\n\n\n\n133656202082576+\n\n+\n\n\n\n133656202074800->133656202082576+\n\n\n\n\n\n133656202074800*->133656202074800\n\n\n\n\n\n133655845591776\n\n \n\ndata 1.8071\n\ngrad 0.2501\n\n\n\n133655845592208+\n\n+\n\n\n\n133655845591776->133655845592208+\n\n\n\n\n\n133655845591776+->133655845591776\n\n\n\n\n\n133655845526240\n\n \n\ndata 1.0000\n\ngrad -0.5118\n\n\n\n133655845526240->133655845526288*\n\n\n\n\n\n133655845460752\n\n \n\ndata 2.0433\n\ngrad -0.0826\n\n\n\n133655845461184+\n\n+\n\n\n\n133655845460752->133655845461184+\n\n\n\n\n\n133655845460752+->133655845460752\n\n\n\n\n\n133655845526288\n\n \n\ndata -0.9855\n\ngrad 0.5194\n\n\n\n133655845526288->133655845526480+\n\n\n\n\n\n133655845526288*->133655845526288\n\n\n\n\n\n133656203549552\n\n \n\ndata 0.8033\n\ngrad 1.2692\n\n\n\n133656203549552->133655845454224*\n\n\n\n\n\n133656203549552->133655845455952*\n\n\n\n\n\n133656203549552->133656202630128*\n\n\n\n\n\n133656203549552->133656202083152*\n\n\n\n\n\n133656203549552tanh\n\ntanh\n\n\n\n133656203549552tanh->133656203549552\n\n\n\n\n\n133655845591968\n\n \n\ndata -1.0000\n\ngrad 0.1538\n\n\n\n133655845591968->133655845592016*\n\n\n\n\n\n133655845592016\n\n \n\ndata -0.6151\n\ngrad 0.2501\n\n\n\n133655845592016->133655845592208+\n\n\n\n\n\n133655845592016*->133655845592016\n\n\n\n\n\n133656202632144\n\n \n\ndata -0.1349\n\ngrad 1.0831\n\n\n\n133656202632144->133656202078112+\n\n\n\n\n\n133656202632144*->133656202632144\n\n\n\n\n\n133655845460944\n\n \n\ndata -1.0000\n\ngrad 0.0210\n\n\n\n133655845460992*\n\n*\n\n\n\n133655845460944->133655845460992*\n\n\n\n\n\n133655845460992\n\n \n\ndata 0.2545\n\ngrad -0.0826\n\n\n\n133655845460992->133655845461184+\n\n\n\n\n\n133655845460992*->133655845460992\n\n\n\n\n\n133655845526480\n\n \n\ndata -0.1501\n\ngrad 0.5194\n\n\n\n133655845526912+\n\n+\n\n\n\n133655845526480->133655845526912+\n\n\n\n\n\n133655845526480+->133655845526480\n\n\n\n\n\n133655845592208\n\n \n\ndata 1.1920\n\ngrad 0.2501\n\n\n\n133655845592304tanh\n\ntanh\n\n\n\n133655845592208->133655845592304tanh\n\n\n\n\n\n133655845592208+->133655845592208\n\n\n\n\n\n133655845526672\n\n \n\ndata 1.0000\n\ngrad -0.2310\n\n\n\n133655845526672->133655845526720*\n\n\n\n\n\n133655845461184\n\n \n\ndata 2.2978\n\ngrad -0.0826\n\n\n\n133655845461616+\n\n+\n\n\n\n133655845461184->133655845461616+\n\n\n\n\n\n133655845461184+->133655845461184\n\n\n\n\n\n133655845526720\n\n \n\ndata -0.4447\n\ngrad 0.5194\n\n\n\n133655845526720->133655845526912+\n\n\n\n\n\n133655845526720*->133655845526720\n\n\n\n\n\n133655845592304\n\n \n\ndata 0.8312\n\ngrad 1.0854\n\n\n\n133655845592304->133655845593744*\n\n\n\n\n\n133655845592304->133655845595472*\n\n\n\n\n\n133655845592304->133655845597200*\n\n\n\n\n\n133655845592304->133655845598928*\n\n\n\n\n\n133655845592304tanh->133655845592304\n\n\n\n\n\n133656203549984\n\n \n\ndata 3.0000\n\ngrad -0.0505\n\n\n\n133656203549984->133656203554400*\n\n\n\n\n\n133656202632480\n\n \n\ndata 0.1707\n\ngrad -0.5983\n\n\n\n133656202632480->133655845457296*\n\n\n\n\n\n133656202632480tanh->133656202632480\n\n\n\n\n\n133655845461376\n\n \n\ndata 0.5000\n\ngrad 0.0428\n\n\n\n133655845461424*\n\n*\n\n\n\n133655845461376->133655845461424*\n\n\n\n\n\n133655845526912\n\n \n\ndata -0.5948\n\ngrad 0.5194\n\n\n\n133655845527008tanh\n\ntanh\n\n\n\n133655845526912->133655845527008tanh\n\n\n\n\n\n133655845526912+->133655845526912\n\n\n\n\n\n133655845461424\n\n \n\ndata -0.2592\n\ngrad -0.0826\n\n\n\n133655845461424->133655845461616+\n\n\n\n\n\n133655845461424*->133655845461424\n\n\n\n\n\n133655845527008\n\n \n\ndata -0.5333\n\ngrad 1.6896\n\n\n\n133655845527008->133655845529552*\n\n\n\n\n\n133655845527008->133655845531280*\n\n\n\n\n\n133655845527008->133655845533008*\n\n\n\n\n\n133655845527008->133655845534736*\n\n\n\n\n\n133655845527008tanh->133655845527008\n\n\n\n\n\n133655845592592\n\n \n\ndata -0.1625\n\ngrad 1.0189\n\n\n\n133655845592592->133655845592784+\n\n\n\n\n\n133655845592592*->133655845592592\n\n\n\n\n\n133655845461616\n\n \n\ndata 2.0386\n\ngrad -0.0826\n\n\n\n133655845461712tanh\n\ntanh\n\n\n\n133655845461616->133655845461712tanh\n\n\n\n\n\n133655845461616+->133655845461616\n\n\n\n\n\n133655845592784\n\n \n\ndata -1.0280\n\ngrad 1.0189\n\n\n\n133655845593168+\n\n+\n\n\n\n133655845592784->133655845593168+\n\n\n\n\n\n133655845592784+->133655845592784\n\n\n\n\n\n133655845461712\n\n \n\ndata 0.9667\n\ngrad 1.1586\n\n\n\n133655845461712->133655845519760*\n\n\n\n\n\n133655845461712->133655845465360*\n\n\n\n\n\n133655845461712->133655845467088*\n\n\n\n\n\n133655845461712->133655845468816*\n\n\n\n\n\n133655845461712tanh->133655845461712\n\n\n\n\n\n133656202632960\n\n \n\ndata 0.9968\n\ngrad 1.0628\n\n\n\n133656202632960->133655845454992*\n\n\n\n\n\n133656202632960->133655845456720*\n\n\n\n\n\n133656202632960->133656202074800*\n\n\n\n\n\n133656202632960->133656202633248*\n\n\n\n\n\n133656202632960tanh\n\ntanh\n\n\n\n133656202632960tanh->133656202632960\n\n\n\n\n\n133655845527296\n\n \n\ndata 0.5000\n\ngrad 0.0387\n\n\n\n133655845527296->133655845527344*\n\n\n\n\n\n133655845527344\n\n \n\ndata 0.1152\n\ngrad 0.1679\n\n\n\n133655845527344->133655845527536+\n\n\n\n\n\n133655845527344*->133655845527344\n\n\n\n\n\n133655845592976\n\n \n\ndata 0.2593\n\ngrad 1.0189\n\n\n\n133655845592976->133655845593168+\n\n\n\n\n\n133655845592976*->133655845592976\n\n\n\n\n\n133655845462000\n\n \n\ndata 3.0000\n\ngrad 0.0012\n\n\n\n133655845462048*\n\n*\n\n\n\n133655845462000->133655845462048*\n\n\n\n\n\n133655845527536\n\n \n\ndata 0.7913\n\ngrad 0.1679\n\n\n\n133655845527968+\n\n+\n\n\n\n133655845527536->133655845527968+\n\n\n\n\n\n133655845527536+->133655845527536\n\n\n\n\n\n133656202633248\n\n \n\ndata 0.6593\n\ngrad 1.0174\n\n\n\n133656202633248->133656202626384+\n\n\n\n\n\n133656202633248*->133656202633248\n\n\n\n\n\n133655845462048\n\n \n\ndata -0.0147\n\ngrad -0.2468\n\n\n\n133655845462048->133655845462240+\n\n\n\n\n\n133655845462048*->133655845462048\n\n\n\n\n\n133655845593168\n\n \n\ndata -0.7687\n\ngrad 1.0189\n\n\n\n133655845593552+\n\n+\n\n\n\n133655845593168->133655845593552+\n\n\n\n\n\n133655845593168+->133655845593168\n\n\n\n\n\n133655845527728\n\n \n\ndata 1.0000\n\ngrad 0.1512\n\n\n\n133655845527728->133655845527776*\n\n\n\n\n\n133655845462240\n\n \n\ndata 0.8232\n\ngrad -0.2468\n\n\n\n133655845462672+\n\n+\n\n\n\n133655845462240->133655845462672+\n\n\n\n\n\n133655845462240+->133655845462240\n\n\n\n\n\n133655845527776\n\n \n\ndata 0.9006\n\ngrad 0.1679\n\n\n\n133655845527776->133655845527968+\n\n\n\n\n\n133655845527776*->133655845527776\n\n\n\n\n\n133655845593360\n\n \n\ndata 0.0753\n\ngrad 1.0189\n\n\n\n133655845593360->133655845593552+\n\n\n\n\n\n133655845593360*->133655845593360\n\n\n\n\n\n133656203551136\n\n \n\ndata 0.5894\n\ngrad 0.1810\n\n\n\n133656203551136->133656203556272+\n\n\n\n\n\n133656203551136+->133656203551136\n\n\n\n\n\n133655845462432\n\n \n\ndata -1.0000\n\ngrad 0.2433\n\n\n\n133655845462432->133655845462480*\n\n\n\n\n\n133655845527968\n\n \n\ndata 1.6919\n\ngrad 0.1679\n\n\n\n133655845528400+\n\n+\n\n\n\n133655845527968->133655845528400+\n\n\n\n\n\n133655845527968+->133655845527968\n\n\n\n\n\n133655845593552\n\n \n\ndata -0.6934\n\ngrad 1.0189\n\n\n\n133655845593936+\n\n+\n\n\n\n133655845593552->133655845593936+\n\n\n\n\n\n133655845593552+->133655845593552\n\n\n\n\n\n133655845462480\n\n \n\ndata 0.9855\n\ngrad -0.2468\n\n\n\n133655845462480->133655845462672+\n\n\n\n\n\n133655845462480*->133655845462480\n\n\n\n\n\n133655845528160\n\n \n\ndata 1.0000\n\ngrad 0.1033\n\n\n\n133655845528160->133655845528208*\n\n\n\n\n\n133655845593744\n\n \n\ndata 0.5498\n\ngrad 1.0189\n\n\n\n133655845593744->133655845593936+\n\n\n\n\n\n133655845593744*->133655845593744\n\n\n\n\n\n133655845462672\n\n \n\ndata 1.8086\n\ngrad -0.2468\n\n\n\n133655845463104+\n\n+\n\n\n\n133655845462672->133655845463104+\n\n\n\n\n\n133655845462672+->133655845462672\n\n\n\n\n\n133655845528208\n\n \n\ndata 0.6151\n\ngrad 0.1679\n\n\n\n133655845528208->133655845528400+\n\n\n\n\n\n133655845528208*->133655845528208\n\n\n\n\n\n133655845593936\n\n \n\ndata -0.1436\n\ngrad 1.0189\n\n\n\n133655845594032tanh\n\ntanh\n\n\n\n133655845593936->133655845594032tanh\n\n\n\n\n\n133655845593936+->133655845593936\n\n\n\n\n\n133655845462864\n\n \n\ndata 0.5000\n\ngrad 0.1098\n\n\n\n133655845462864->133655845462912*\n\n\n\n\n\n133655845528400\n\n \n\ndata 2.3070\n\ngrad 0.1679\n\n\n\n133655845528496tanh\n\ntanh\n\n\n\n133655845528400->133655845528496tanh\n\n\n\n\n\n133655845528400+->133655845528400\n\n\n\n\n\n133655845462912\n\n \n\ndata -0.2224\n\ngrad -0.2468\n\n\n\n133655845462912->133655845463104+\n\n\n\n\n\n133655845462912*->133655845462912\n\n\n\n\n\n133655845594032\n\n \n\ndata -0.1427\n\ngrad -0.9300\n\n\n\n133655845594032->133655845599504*\n\n\n\n\n\n133655845594032tanh->133655845594032\n\n\n\n\n\n133655845528496\n\n \n\ndata 0.9804\n\ngrad 0.8658\n\n\n\n133655845528496->133655845529936*\n\n\n\n\n\n133655845528496->133655845531664*\n\n\n\n\n\n133655845528496->133655845533392*\n\n\n\n\n\n133655845528496->133655845535120*\n\n\n\n\n\n133655845528496tanh->133655845528496\n\n\n\n\n\n133655845463104\n\n \n\ndata 1.5863\n\ngrad -0.2468\n\n\n\n133655845463200tanh\n\ntanh\n\n\n\n133655845463104->133655845463200tanh\n\n\n\n\n\n133655845463104+->133655845463104\n\n\n\n\n\n133655845463200\n\n \n\ndata 0.9196\n\ngrad 1.4745\n\n\n\n133655845463200->133655845520144*\n\n\n\n\n\n133655845463200->133655845465744*\n\n\n\n\n\n133655845463200->133655845467472*\n\n\n\n\n\n133655845463200->133655845469200*\n\n\n\n\n\n133655845463200tanh->133655845463200\n\n\n\n\n\n133655845594320\n\n \n\ndata 0.0645\n\ngrad 1.1037\n\n\n\n133655845594320->133655845594512+\n\n\n\n\n\n133655845594320*->133655845594320\n\n\n\n\n\n133655845528784\n\n \n\ndata 0.5054\n\ngrad 1.0000\n\n\n\n133655845528784->133655845528976+\n\n\n\n\n\n133655845528784*->133655845528784\n\n\n\n\n\n133655845594512\n\n \n\ndata 0.0604\n\ngrad 1.1037\n\n\n\n133655845594896+\n\n+\n\n\n\n133655845594512->133655845594896+\n\n\n\n\n\n133655845594512+->133655845594512\n\n\n\n\n\n133655845528976\n\n \n\ndata -0.3600\n\ngrad 1.0000\n\n\n\n133655845529360+\n\n+\n\n\n\n133655845528976->133655845529360+\n\n\n\n\n\n133655845528976+->133655845528976\n\n\n\n\n\n133655845463488\n\n \n\ndata 3.0000\n\ngrad 0.1339\n\n\n\n133655845463488->133655845463536*\n\n\n\n\n\n133655845463536\n\n \n\ndata 0.6913\n\ngrad 0.5811\n\n\n\n133655845463536->133655845463728+\n\n\n\n\n\n133655845463536*->133655845463536\n\n\n\n\n\n133656202634784\n\n \n\ndata 3.2236\n\ngrad -0.0560\n\n\n\n133656202634784->133656202632960tanh\n\n\n\n\n\n133656202634784+\n\n+\n\n\n\n133656202634784+->133656202634784\n\n\n\n\n\n133655845594704\n\n \n\ndata -0.4078\n\ngrad 1.1037\n\n\n\n133655845594704->133655845594896+\n\n\n\n\n\n133655845594704*->133655845594704\n\n\n\n\n\n133656203552336\n\n \n\ndata 0.4609\n\ngrad -0.0560\n\n\n\n133656203552336->133656203546336+\n\n\n\n\n\n133656203552336*->133656203552336\n\n\n\n\n\n133655845529168\n\n \n\ndata -0.1519\n\ngrad 1.0000\n\n\n\n133655845529168->133655845529360+\n\n\n\n\n\n133655845529168*->133655845529168\n\n\n\n\n\n133655845463728\n\n \n\ndata 1.3674\n\ngrad 0.5811\n\n\n\n133655845464160+\n\n+\n\n\n\n133655845463728->133655845464160+\n\n\n\n\n\n133655845463728+->133655845463728\n\n\n\n\n\n133655845594896\n\n \n\ndata -0.3475\n\ngrad 1.1037\n\n\n\n133655845595280+\n\n+\n\n\n\n133655845594896->133655845595280+\n\n\n\n\n\n133655845594896+->133655845594896\n\n\n\n\n\n133655845529360\n\n \n\ndata -0.5119\n\ngrad 1.0000\n\n\n\n133655845529744+\n\n+\n\n\n\n133655845529360->133655845529744+\n\n\n\n\n\n133655845529360+->133655845529360\n\n\n\n\n\n133655845463920\n\n \n\ndata -1.0000\n\ngrad 0.5234\n\n\n\n133655845463920->133655845463968*\n\n\n\n\n\n133656202078112\n\n \n\ndata -0.1390\n\ngrad 1.0831\n\n\n\n133656202083008+\n\n+\n\n\n\n133656202078112->133656202083008+\n\n\n\n\n\n133656202078112+->133656202078112\n\n\n\n\n\n133655845463968\n\n \n\ndata -0.9006\n\ngrad 0.5811\n\n\n\n133655845463968->133655845464160+\n\n\n\n\n\n133655845463968*->133655845463968\n\n\n\n\n\n133655845595088\n\n \n\ndata -0.0443\n\ngrad 1.1037\n\n\n\n133655845595088->133655845595280+\n\n\n\n\n\n133655845595088*->133655845595088\n\n\n\n\n\n133656203552720\n\n \n\ndata 0.8281\n\ngrad -0.3888\n\n\n\n133656203552720->133656203544992+\n\n\n\n\n\n133656203552720+->133656203552720\n\n\n\n\n\n133656202078160\n\n \n\ndata -0.4187\n\ngrad -0.4741\n\n\n\n133656202078160->133655845457680*\n\n\n\n\n\n133656202078160tanh\n\ntanh\n\n\n\n133656202078160tanh->133656202078160\n\n\n\n\n\n133655845529552\n\n \n\ndata -0.1413\n\ngrad 1.0000\n\n\n\n133655845529552->133655845529744+\n\n\n\n\n\n133655845529552*->133655845529552\n\n\n\n\n\n133655845464160\n\n \n\ndata 0.4668\n\ngrad 0.5811\n\n\n\n133655845464592+\n\n+\n\n\n\n133655845464160->133655845464592+\n\n\n\n\n\n133655845464160+->133655845464160\n\n\n\n\n\n133655845595280\n\n \n\ndata -0.3917\n\ngrad 1.1037\n\n\n\n133655845595664+\n\n+\n\n\n\n133655845595280->133655845595664+\n\n\n\n\n\n133655845595280+->133655845595280\n\n\n\n\n\n133656203552912\n\n \n\ndata 2.0000\n\ngrad -0.0129\n\n\n\n133656203552912->133656203552336*\n\n\n\n\n\n133655845529744\n\n \n\ndata -0.6532\n\ngrad 1.0000\n\n\n\n133655845530128+\n\n+\n\n\n\n133655845529744->133655845530128+\n\n\n\n\n\n133655845529744+->133655845529744\n\n\n\n\n\n133656203552960\n\n \n\ndata 3.8387\n\ngrad -0.0560\n\n\n\n133656203552960->133656202634784+\n\n\n\n\n\n133656203552960+->133656203552960\n\n\n\n\n\n133655845464352\n\n \n\ndata 0.5000\n\ngrad 0.3575\n\n\n\n133655845464352->133655845464400*\n\n\n\n\n\n133655845595472\n\n \n\ndata -0.0025\n\ngrad 1.1037\n\n\n\n133655845595472->133655845595664+\n\n\n\n\n\n133655845595472*->133655845595472\n\n\n\n\n\n133655845464400\n\n \n\ndata 0.3076\n\ngrad 0.5811\n\n\n\n133655845464400->133655845464592+\n\n\n\n\n\n133655845464400*->133655845464400\n\n\n\n\n\n133655845529936\n\n \n\ndata 0.6484\n\ngrad 1.0000\n\n\n\n133655845529936->133655845530128+\n\n\n\n\n\n133655845529936*->133655845529936\n\n\n\n\n\n133656203553248\n\n \n\ndata 0.4447\n\ngrad -0.3888\n\n\n\n133656203553248->133656203555168+\n\n\n\n\n\n133656203553248*->133656203553248\n\n\n\n\n\n133655845595664\n\n \n\ndata -0.3943\n\ngrad 1.1037\n\n\n\n133655845595760tanh\n\ntanh\n\n\n\n133655845595664->133655845595760tanh\n\n\n\n\n\n133655845595664+->133655845595664\n\n\n\n\n\n133655845464592\n\n \n\ndata 0.7744\n\ngrad 0.5811\n\n\n\n133655845464688tanh\n\ntanh\n\n\n\n133655845464592->133655845464688tanh\n\n\n\n\n\n133655845464592+->133655845464592\n\n\n\n\n\n133655845530128\n\n \n\ndata -0.0048\n\ngrad 1.0000\n\n\n\n133655845530224tanh\n\ntanh\n\n\n\n133655845530128->133655845530224tanh\n\n\n\n\n\n133655845530128+->133655845530128\n\n\n\n\n\n133655845595760\n\n \n\ndata -0.3750\n\ngrad -0.7370\n\n\n\n133655845595760->133655845599888*\n\n\n\n\n\n133655845595760tanh->133655845595760\n\n\n\n\n\n133655845464688\n\n \n\ndata 0.6495\n\ngrad 0.9930\n\n\n\n133655845464688->133655845520528*\n\n\n\n\n\n133655845464688->133655845466128*\n\n\n\n\n\n133655845464688->133655845467856*\n\n\n\n\n\n133655845464688->133655845469584*\n\n\n\n\n\n133655845464688tanh->133655845464688\n\n\n\n\n\n133655845530224\n\n \n\ndata -0.0048\n\ngrad -0.4586\n\n\n\n133655845530224->133655845535696*\n\n\n\n\n\n133655845530224tanh->133655845530224\n\n\n\n\n\n133656202078880\n\n \n\ndata -0.4431\n\ngrad 1.0831\n\n\n\n133656202078880->133656202082576+\n\n\n\n\n\n133656202078880+->133656202078880\n\n\n\n\n\n133655845596048\n\n \n\ndata -0.0128\n\ngrad 1.0223\n\n\n\n133655845596048->133655845596240+\n\n\n\n\n\n133655845596048*->133655845596048\n\n\n\n\n\n133655845464976\n\n \n\ndata -0.3523\n\ngrad 1.0134\n\n\n\n133655845464976->133655845465168+\n\n\n\n\n\n133655845464976*->133655845464976\n\n\n\n\n\n133655845530512\n\n \n\ndata -0.2005\n\ngrad 1.0047\n\n\n\n133655845530512->133655845530704+\n\n\n\n\n\n133655845530512*->133655845530512\n\n\n\n\n\n133655845596240\n\n \n\ndata -0.2498\n\ngrad 1.0223\n\n\n\n133655845596624+\n\n+\n\n\n\n133655845596240->133655845596624+\n\n\n\n\n\n133655845596240+->133655845596240\n\n\n\n\n\n133655845465168\n\n \n\ndata -1.2177\n\ngrad 1.0134\n\n\n\n133655845465552+\n\n+\n\n\n\n133655845465168->133655845465552+\n\n\n\n\n\n133655845465168+->133655845465168\n\n\n\n\n\n133655845530704\n\n \n\ndata -0.2047\n\ngrad 1.0047\n\n\n\n133655845531088+\n\n+\n\n\n\n133655845530704->133655845531088+\n\n\n\n\n\n133655845530704+->133655845530704\n\n\n\n\n\n133655845596432\n\n \n\ndata 0.4674\n\ngrad 1.0223\n\n\n\n133655845596432->133655845596624+\n\n\n\n\n\n133655845596432*->133655845596432\n\n\n\n\n\n133655845465360\n\n \n\ndata 0.3440\n\ngrad 1.0134\n\n\n\n133655845465360->133655845465552+\n\n\n\n\n\n133655845465360*->133655845465360\n\n\n\n\n\n133655845530896\n\n \n\ndata 0.2389\n\ngrad 1.0047\n\n\n\n133655845530896->133655845531088+\n\n\n\n\n\n133655845530896*->133655845530896\n\n\n\n\n\n133655845596624\n\n \n\ndata 0.2176\n\ngrad 1.0223\n\n\n\n133655845597008+\n\n+\n\n\n\n133655845596624->133655845597008+\n\n\n\n\n\n133655845596624+->133655845596624\n\n\n\n\n\n133655845465552\n\n \n\ndata -0.8738\n\ngrad 1.0134\n\n\n\n133655845465936+\n\n+\n\n\n\n133655845465552->133655845465936+\n\n\n\n\n\n133655845465552+->133655845465552\n\n\n\n\n\n133655845531088\n\n \n\ndata 0.0342\n\ngrad 1.0047\n\n\n\n133655845531472+\n\n+\n\n\n\n133655845531088->133655845531472+\n\n\n\n\n\n133655845531088+->133655845531088\n\n\n\n\n\n133656203554352\n\n \n\ndata -1.0000\n\ngrad -0.0345\n\n\n\n133656203554352->133656202640880*\n\n\n\n\n\n133656203554400\n\n \n\ndata 2.7018\n\ngrad -0.0560\n\n\n\n133656203554400->133656203552960+\n\n\n\n\n\n133656203554400*->133656203554400\n\n\n\n\n\n133655845596816\n\n \n\ndata 0.1605\n\ngrad 1.0223\n\n\n\n133655845596816->133655845597008+\n\n\n\n\n\n133655845596816*->133655845596816\n\n\n\n\n\n133655845465744\n\n \n\ndata 0.2436\n\ngrad 1.0134\n\n\n\n133655845465744->133655845465936+\n\n\n\n\n\n133655845465744*->133655845465744\n\n\n\n\n\n133655845531280\n\n \n\ndata 0.0831\n\ngrad 1.0047\n\n\n\n133655845531280->133655845531472+\n\n\n\n\n\n133655845531280*->133655845531280\n\n\n\n\n\n133655845597008\n\n \n\ndata 0.3781\n\ngrad 1.0223\n\n\n\n133655845597392+\n\n+\n\n\n\n133655845597008->133655845597392+\n\n\n\n\n\n133655845597008+->133655845597008\n\n\n\n\n\n133655845465936\n\n \n\ndata -0.6301\n\ngrad 1.0134\n\n\n\n133655845466320+\n\n+\n\n\n\n133655845465936->133655845466320+\n\n\n\n\n\n133655845465936+->133655845465936\n\n\n\n\n\n133655845531472\n\n \n\ndata 0.1173\n\ngrad 1.0047\n\n\n\n133655845531856+\n\n+\n\n\n\n133655845531472->133655845531856+\n\n\n\n\n\n133655845531472+->133655845531472\n\n\n\n\n\n133655845597200\n\n \n\ndata -0.2706\n\ngrad 1.0223\n\n\n\n133655845597200->133655845597392+\n\n\n\n\n\n133655845597200*->133655845597200\n\n\n\n\n\n133655845466128\n\n \n\ndata 0.4296\n\ngrad 1.0134\n\n\n\n133655845466128->133655845466320+\n\n\n\n\n\n133655845466128*->133655845466128\n\n\n\n\n\n133655845531664\n\n \n\ndata -0.0030\n\ngrad 1.0047\n\n\n\n133655845531664->133655845531856+\n\n\n\n\n\n133655845531664*->133655845531664\n\n\n\n\n\n133655845597392\n\n \n\ndata 0.1076\n\ngrad 1.0223\n\n\n\n133655845597488tanh\n\ntanh\n\n\n\n133655845597392->133655845597488tanh\n\n\n\n\n\n133655845597392+->133655845597392\n\n\n\n\n\n133655845466320\n\n \n\ndata -0.2006\n\ngrad 1.0134\n\n\n\n133655845466416tanh\n\ntanh\n\n\n\n133655845466320->133655845466416tanh\n\n\n\n\n\n133655845466320+->133655845466320\n\n\n\n\n\n133655845531856\n\n \n\ndata 0.1143\n\ngrad 1.0047\n\n\n\n133655845531952tanh\n\ntanh\n\n\n\n133655845531856->133655845531952tanh\n\n\n\n\n\n133655845531856+->133655845531856\n\n\n\n\n\n133655845597488\n\n \n\ndata 0.1072\n\ngrad -1.9423\n\n\n\n133655845597488->133655845600272*\n\n\n\n\n\n133655845597488tanh->133655845597488\n\n\n\n\n\n133655845466416\n\n \n\ndata -0.1979\n\ngrad -0.3430\n\n\n\n133655845466416->133655845521104*\n\n\n\n\n\n133655845466416tanh->133655845466416\n\n\n\n\n\n133655845531952\n\n \n\ndata 0.1138\n\ngrad -0.3634\n\n\n\n133655845531952->133655845585296*\n\n\n\n\n\n133655845531952tanh->133655845531952\n\n\n\n\n\n133656203555168\n\n \n\ndata -1.6836\n\ngrad -0.3888\n\n\n\n133656203555168->133656203544512tanh\n\n\n\n\n\n133656203555168+->133656203555168\n\n\n\n\n\n133655845597776\n\n \n\ndata -0.2728\n\ngrad 1.0837\n\n\n\n133655845597776->133655845597968+\n\n\n\n\n\n133655845597776*->133655845597776\n\n\n\n\n\n133655845466704\n\n \n\ndata 0.1398\n\ngrad 1.0682\n\n\n\n133655845466704->133655845466896+\n\n\n\n\n\n133655845466704*->133655845466704\n\n\n\n\n\n133655845532240\n\n \n\ndata 0.0397\n\ngrad 1.6091\n\n\n\n133655845532240->133655845532432+\n\n\n\n\n\n133655845532240*->133655845532240\n\n\n\n\n\n133655845597968\n\n \n\ndata -0.9302\n\ngrad 1.0837\n\n\n\n133655845598352+\n\n+\n\n\n\n133655845597968->133655845598352+\n\n\n\n\n\n133655845597968+->133655845597968\n\n\n\n\n\n133655845466896\n\n \n\ndata 0.1356\n\ngrad 1.0682\n\n\n\n133655845467280+\n\n+\n\n\n\n133655845466896->133655845467280+\n\n\n\n\n\n133655845466896+->133655845466896\n\n\n\n\n\n133655845532432\n\n \n\ndata -0.1974\n\ngrad 1.6091\n\n\n\n133655845532816+\n\n+\n\n\n\n133655845532432->133655845532816+\n\n\n\n\n\n133655845532432+->133655845532432\n\n\n\n\n\n133655845598160\n\n \n\ndata 0.4128\n\ngrad 1.0837\n\n\n\n133655845598160->133655845598352+\n\n\n\n\n\n133655845598160*->133655845598160\n\n\n\n\n\n133656202638288\n\n \n\ndata -0.5255\n\ngrad 1.0174\n\n\n\n133656202638288->133656202625760+\n\n\n\n\n\n133656202638288+->133656202638288\n\n\n\n\n\n133655845467088\n\n \n\ndata -0.5409\n\ngrad 1.0682\n\n\n\n133655845467088->133655845467280+\n\n\n\n\n\n133655845467088*->133655845467088\n\n\n\n\n\n133655845532624\n\n \n\ndata -0.2738\n\ngrad 1.6091\n\n\n\n133655845532624->133655845532816+\n\n\n\n\n\n133655845532624*->133655845532624\n\n\n\n\n\n133655845598352\n\n \n\ndata -0.5174\n\ngrad 1.0837\n\n\n\n133655845598736+\n\n+\n\n\n\n133655845598352->133655845598736+\n\n\n\n\n\n133655845598352+->133655845598352\n\n\n\n\n\n133655845467280\n\n \n\ndata -0.4053\n\ngrad 1.0682\n\n\n\n133655845467664+\n\n+\n\n\n\n133655845467280->133655845467664+\n\n\n\n\n\n133655845467280+->133655845467280\n\n\n\n\n\n133655845532816\n\n \n\ndata -0.4712\n\ngrad 1.6091\n\n\n\n133655845533200+\n\n+\n\n\n\n133655845532816->133655845533200+\n\n\n\n\n\n133655845532816+->133655845532816\n\n\n\n\n\n133656202638624\n\n \n\ndata 0.3400\n\ngrad 1.0174\n\n\n\n133656202638624->133656202638288+\n\n\n\n\n\n133656202638624*->133656202638624\n\n\n\n\n\n133655845598544\n\n \n\ndata 0.1802\n\ngrad 1.0837\n\n\n\n133655845598544->133655845598736+\n\n\n\n\n\n133655845598544*->133655845598544\n\n\n\n\n\n133655845467472\n\n \n\ndata -0.1433\n\ngrad 1.0682\n\n\n\n133655845467472->133655845467664+\n\n\n\n\n\n133655845467472*->133655845467472\n\n\n\n\n\n133655845533008\n\n \n\ndata -0.3013\n\ngrad 1.6091\n\n\n\n133655845533008->133655845533200+\n\n\n\n\n\n133655845533008*->133655845533008\n\n\n\n\n\n133656203556272\n\n \n\ndata 1.1078\n\ngrad 0.1810\n\n\n\n133656203556272->133656203549552tanh\n\n\n\n\n\n133656203556272+->133656203556272\n\n\n\n\n\n133655845598736\n\n \n\ndata -0.3372\n\ngrad 1.0837\n\n\n\n133655845599120+\n\n+\n\n\n\n133655845598736->133655845599120+\n\n\n\n\n\n133655845598736+->133655845598736\n\n\n\n\n\n133655845467664\n\n \n\ndata -0.5486\n\ngrad 1.0682\n\n\n\n133655845468048+\n\n+\n\n\n\n133655845467664->133655845468048+\n\n\n\n\n\n133655845467664+->133655845467664\n\n\n\n\n\n133655845533200\n\n \n\ndata -0.7725\n\ngrad 1.6091\n\n\n\n133655845533584+\n\n+\n\n\n\n133655845533200->133655845533584+\n\n\n\n\n\n133655845533200+->133655845533200\n\n\n\n\n\n133655845598928\n\n \n\ndata 0.5734\n\ngrad 1.0837\n\n\n\n133655845598928->133655845599120+\n\n\n\n\n\n133655845598928*->133655845598928\n\n\n\n\n\n133655845467856\n\n \n\ndata -0.0020\n\ngrad 1.0682\n\n\n\n133655845467856->133655845468048+\n\n\n\n\n\n133655845467856*->133655845467856\n\n\n\n\n\n133655845533392\n\n \n\ndata -0.3191\n\ngrad 1.6091\n\n\n\n133655845533392->133655845533584+\n\n\n\n\n\n133655845533392*->133655845533392\n\n\n\n\n\n133655847466752\n\n \n\ndata -0.5184\n\ngrad 0.0566\n\n\n\n133655847466752->133655845589040*\n\n\n\n\n\n133655847466752->133655845525232*\n\n\n\n\n\n133655847466752->133656203549072*\n\n\n\n\n\n133655847466752->133655845461424*\n\n\n\n\n\n133655847466848\n\n \n\ndata -0.0285\n\ngrad 1.2998\n\n\n\n133655847466848->133655845588368+\n\n\n\n\n\n133655847466848->133655845524560+\n\n\n\n\n\n133655847466848->133656203549264+\n\n\n\n\n\n133655847466848->133655845460752+\n\n\n\n\n\n133655847466896\n\n \n\ndata -0.2545\n\ngrad 1.8270\n\n\n\n133655847466896->133656203544656*\n\n\n\n\n\n133655847466896->133655845588608*\n\n\n\n\n\n133655847466896->133655845524800*\n\n\n\n\n\n133655847466896->133655845460992*\n\n\n\n\n\n133655845599120\n\n \n\ndata 0.2362\n\ngrad 1.0837\n\n\n\n133655845599216tanh\n\ntanh\n\n\n\n133655845599120->133655845599216tanh\n\n\n\n\n\n133655845599120+->133655845599120\n\n\n\n\n\n133655845468048\n\n \n\ndata -0.5506\n\ngrad 1.0682\n\n\n\n133655845468144tanh\n\ntanh\n\n\n\n133655845468048->133655845468144tanh\n\n\n\n\n\n133655845468048+->133655845468048\n\n\n\n\n\n133655847466944\n\n \n\ndata -0.0049\n\ngrad -0.3685\n\n\n\n133655847466944->133655845589664*\n\n\n\n\n\n133655847466944->133656203547728*\n\n\n\n\n\n133655847466944->133655845525856*\n\n\n\n\n\n133655847466944->133655845462048*\n\n\n\n\n\n133655845533584\n\n \n\ndata -1.0916\n\ngrad 1.6091\n\n\n\n133655845533680tanh\n\ntanh\n\n\n\n133655845533584->133655845533680tanh\n\n\n\n\n\n133655845533584+->133655845533584\n\n\n\n\n\n133655845599216\n\n \n\ndata 0.2319\n\ngrad -1.5561\n\n\n\n133655845599216->133655845600656*\n\n\n\n\n\n133655845599216tanh->133655845599216\n\n\n\n\n\n133655845468144\n\n \n\ndata -0.5009\n\ngrad -0.2718\n\n\n\n133655845468144->133655845521488*\n\n\n\n\n\n133655845468144tanh->133655845468144\n\n\n\n\n\n133655845533680\n\n \n\ndata -0.7975\n\ngrad -0.9578\n\n\n\n133655845533680->133655845585680*\n\n\n\n\n\n133655845533680tanh->133655845533680\n\n\n\n\n\n133655845599504\n\n \n\ndata 0.0658\n\ngrad 2.0167\n\n\n\n133655845599504->133655845599696+\n\n\n\n\n\n133655845599504*->133655845599504\n\n\n\n\n\n133656202082576\n\n \n\ndata -0.4462\n\ngrad 1.0831\n\n\n\n133656202082576->133656202078160tanh\n\n\n\n\n\n133656202082576+->133656202082576\n\n\n\n\n\n133655845468432\n\n \n\ndata -0.0277\n\ngrad 1.2415\n\n\n\n133655845468432->133655845468624+\n\n\n\n\n\n133655845468432*->133655845468432\n\n\n\n\n\n133655845533968\n\n \n\ndata 0.8483\n\ngrad 1.0600\n\n\n\n133655845533968->133655845534160+\n\n\n\n\n\n133655845533968*->133655845533968\n\n\n\n\n\n133655845599696\n\n \n\ndata -0.5012\n\ngrad 2.0167\n\n\n\n133655845600080+\n\n+\n\n\n\n133655845599696->133655845600080+\n\n\n\n\n\n133655845599696+->133655845599696\n\n\n\n\n\n133655845468624\n\n \n\ndata -0.2647\n\ngrad 1.2415\n\n\n\n133655845469008+\n\n+\n\n\n\n133655845468624->133655845469008+\n\n\n\n\n\n133655845468624+->133655845468624\n\n\n\n\n\n133655845534160\n\n \n\ndata 0.1908\n\ngrad 1.0600\n\n\n\n133655845534544+\n\n+\n\n\n\n133655845534160->133655845534544+\n\n\n\n\n\n133655845534160+->133655845534160\n\n\n\n\n\n133656203557424\n\n \n\ndata -2.9564\n\ngrad -0.3888\n\n\n\n133656203557424->133656203544992+\n\n\n\n\n\n133656203557424*->133656203557424\n\n\n\n\n\n133656202082912\n\n \n\ndata 0.0267\n\ngrad 1.3102\n\n\n\n133656202082912->133655845454032+\n\n\n\n\n\n133656202082912*->133656202082912\n\n\n\n\n\n133655845599888\n\n \n\ndata 0.1370\n\ngrad 2.0167\n\n\n\n133655845599888->133655845600080+\n\n\n\n\n\n133655845599888*->133655845599888\n\n\n\n\n\n133655845468816\n\n \n\ndata 0.6200\n\ngrad 1.2415\n\n\n\n133655845468816->133655845469008+\n\n\n\n\n\n133655845468816*->133655845468816\n\n\n\n\n\n133655845534352\n\n \n\ndata -0.2418\n\ngrad 1.0600\n\n\n\n133655845534352->133655845534544+\n\n\n\n\n\n133655845534352*->133655845534352\n\n\n\n\n\n133656202083008\n\n \n\ndata -0.5885\n\ngrad 1.0831\n\n\n\n133656202083008->133656202078880+\n\n\n\n\n\n133656202083008+->133656202083008\n\n\n\n\n\n133655845600080\n\n \n\ndata -0.3641\n\ngrad 2.0167\n\n\n\n133655845600464+\n\n+\n\n\n\n133655845600080->133655845600464+\n\n\n\n\n\n133655845600080+->133655845600080\n\n\n\n\n\n133656202083152\n\n \n\ndata -0.4495\n\ngrad 1.0831\n\n\n\n133656202083152->133656202083008+\n\n\n\n\n\n133656202083152*->133656202083152\n\n\n\n\n\n133655845469008\n\n \n\ndata 0.3553\n\ngrad 1.2415\n\n\n\n133655845469392+\n\n+\n\n\n\n133655845469008->133655845469392+\n\n\n\n\n\n133655845469008+->133655845469008\n\n\n\n\n\n133655845534544\n\n \n\ndata -0.0510\n\ngrad 1.0600\n\n\n\n133655845534928+\n\n+\n\n\n\n133655845534544->133655845534928+\n\n\n\n\n\n133655845534544+->133655845534544\n\n\n\n\n\n133655845600272\n\n \n\ndata -0.1032\n\ngrad 2.0167\n\n\n\n133655845600272->133655845600464+\n\n\n\n\n\n133655845600272*->133655845600272\n\n\n\n\n\n133655845469200\n\n \n\ndata 0.5195\n\ngrad 1.2415\n\n\n\n133655845469200->133655845469392+\n\n\n\n\n\n133655845469200*->133655845469200\n\n\n\n\n\n133655845534736\n\n \n\ndata -0.3382\n\ngrad 1.0600\n\n\n\n133655845534736->133655845534928+\n\n\n\n\n\n133655845534736*->133655845534736\n\n\n\n\n\n133655847468144\n\n \n\ndata 0.6906\n\ngrad 0.9455\n\n\n\n133655847468144->133655845588176*\n\n\n\n\n\n133655847468144->133655845524368*\n\n\n\n\n\n133655847468144->133656203548256*\n\n\n\n\n\n133655847468144->133655845460560*\n\n\n\n\n\n133655845600464\n\n \n\ndata -0.4673\n\ngrad 2.0167\n\n\n\n133655845600848+\n\n+\n\n\n\n133655845600464->133655845600848+\n\n\n\n\n\n133655845600464+->133655845600464\n\n\n\n\n\n133655845469392\n\n \n\ndata 0.8748\n\ngrad 1.2415\n\n\n\n133655845469776+\n\n+\n\n\n\n133655845469392->133655845469776+\n\n\n\n\n\n133655845469392+->133655845469392\n\n\n\n\n\n133655845534928\n\n \n\ndata -0.3892\n\ngrad 1.0600\n\n\n\n133655845535312+\n\n+\n\n\n\n133655845534928->133655845535312+\n\n\n\n\n\n133655845534928+->133655845534928\n\n\n\n\n\n133655847468288\n\n \n\ndata 0.1415\n\ngrad 1.6497\n\n\n\n133655847468288->133656201149792+\n\n\n\n\n\n133655847468288->133655845586880+\n\n\n\n\n\n133655847468288->133655845523072+\n\n\n\n\n\n133655847468288->133655845459264+\n\n\n\n\n\n133655847468336\n\n \n\ndata 0.8249\n\ngrad -1.2421\n\n\n\n133655847468336->133656201139040*\n\n\n\n\n\n133655847468336->133655845587552*\n\n\n\n\n\n133655847468336->133655845523744*\n\n\n\n\n\n133655847468336->133655845459936*\n\n\n\n\n\n133655845600656\n\n \n\ndata -0.1789\n\ngrad 2.0167\n\n\n\n133655845600656->133655845600848+\n\n\n\n\n\n133655845600656*->133655845600656\n\n\n\n\n\n133655845469584\n\n \n\ndata -0.2114\n\ngrad 1.2415\n\n\n\n133655845469584->133655845469776+\n\n\n\n\n\n133655845469584*->133655845469584\n\n\n\n\n\n133655845535120\n\n \n\ndata 0.6763\n\ngrad 1.0600\n\n\n\n133655845535120->133655845535312+\n\n\n\n\n\n133655845535120*->133655845535120\n\n\n\n\n\n133656202640880\n\n \n\ndata -0.6151\n\ngrad -0.0560\n\n\n\n133656202640880->133656202634784+\n\n\n\n\n\n133656202640880*->133656202640880\n\n\n\n\n\n133655845600848\n\n \n\ndata -0.6463\n\ngrad 2.0167\n\n\n\n133655845600944tanh\n\ntanh\n\n\n\n133655845600848->133655845600944tanh\n\n\n\n\n\n133655845600848+->133655845600848\n\n\n\n\n\n133655845469776\n\n \n\ndata 0.6634\n\ngrad 1.2415\n\n\n\n133655845469872tanh\n\ntanh\n\n\n\n133655845469776->133655845469872tanh\n\n\n\n\n\n133655845469776+->133655845469776\n\n\n\n\n\n133655845535312\n\n \n\ndata 0.2872\n\ngrad 1.0600\n\n\n\n133655845535408tanh\n\ntanh\n\n\n\n133655845535312->133655845535408tanh\n\n\n\n\n\n133655845535312+->133655845535312\n\n\n\n\n\n133655845600944\n\n \n\ndata -0.5692\n\ngrad -3.1383\n\n\n\n133655845600944->133655845669472+\n\n\n\n\n\n133655845600944tanh->133655845600944\n\n\n\n\n\n133655845469872\n\n \n\ndata 0.5806\n\ngrad -0.7164\n\n\n\n133655845469872->133655845521872*\n\n\n\n\n\n133655845469872tanh->133655845469872\n\n\n\n\n\n133655845535408\n\n \n\ndata 0.2795\n\ngrad -0.7674\n\n\n\n133655845535408->133655845586064*\n\n\n\n\n\n133655845535408tanh->133655845535408\n\n\n\n\n\n133655847468960\n\n \n\ndata 0.6118\n\ngrad 1.6331\n\n\n\n133655847468960->133656201145952*\n\n\n\n\n\n133655847468960->133655845587120*\n\n\n\n\n\n133655847468960->133655845523312*\n\n\n\n\n\n133655847468960->133655845459504*\n\n\n\n\n\n133655845470160\n\n \n\ndata -0.5912\n\ngrad 1.0583\n\n\n\n133655845470160->133655845519568+\n\n\n\n\n\n133655845470160*->133655845470160\n\n\n\n\n\n", "text/plain": [ "" ] }, "metadata": {}, "execution_count": 30 } ] }, { "cell_type": "markdown", "source": [ "PHEEWWWW THAT WAS AWESOME LMAO" ], "metadata": { "id": "OFEugNaYJCHN" } }, { "cell_type": "markdown", "source": [ "We have like 4 different foward pass and finally calculating the loss \\\n", "\\\n", "Not only that, we have also backpropagated throughout the entire graph!" ], "metadata": { "id": "TNW8N6UnJNQ-" } } ] }