Dataset Viewer
Search is not available for this dataset
file
string | audio
audio | transcription
string |
|---|---|---|
0_3_6.mp3
|
好 那 我 們 就 繼 續 講 吧
|
|
0_7_8.mp3
|
我 們 就 繼 續 講 吧
|
|
0_10_12.mp3
|
好 那 我 們 接 下 來 呢
|
|
0_12_17.mp3
|
就 是 要 講 三 個 lifelong learning 的 可 能 解 法
|
|
0_17_19.mp3
|
那 第 一 個 解 法
|
|
0_19_24.mp3
|
叫 做 selective synaptic plasticity
|
|
0_24_25.mp3
|
那 從 字 面 上
|
|
0_25_28.mp3
|
你 可 能 一 下 子 沒 有 辦 法 get 到 說
|
|
0_28_30.mp3
|
這 個 方 法 到 底 想 要 做 什 麼
|
|
0_31_34.mp3
|
這 個 synaptic 是 突 觸 的 意 思
|
|
0_34_37.mp3
|
就 是 我 們 腦 神 經 中 這 個
|
|
0_37_39.mp3
|
神 經 跟 神 經 之 間 的 連 結
|
|
0_39_41.mp3
|
這 個 叫 做 突 觸
|
|
0_41_43.mp3
|
plasticity 呢
|
|
0_43_45.mp3
|
是 可 塑 性 的 意 思
|
|
0_45_46.mp3
|
所 以 簡 單 來 說
|
|
0_46_48.mp3
|
這 個 方 法 想 要 做 的 事 情 就 是
|
|
0_48_53.mp3
|
我 們 只 讓 我 們 的 這 個 類 神 經 網 路 中
|
|
0_53_55.mp3
|
某 一 些 神 經 元
|
|
0_55_58.mp3
|
或 某 一 些 神 經 元 間 的 連 結
|
|
0_58_59.mp3
|
具 有 可 塑 性
|
|
0_59_61.mp3
|
selective 的 意 思 就 是 說
|
|
0_61_64.mp3
|
只 有 部 分 的 連 結 是 有 可 塑 性 的
|
|
0_64_66.mp3
|
有 一 些 連 結 必 須 被 固 化
|
|
0_66_68.mp3
|
它 必 須 不 能 夠 再 移 動
|
|
0_68_71.mp3
|
不 能 夠 再 改 變 它 的 數 值
|
|
0_72_74.mp3
|
那 像 這 樣 的 方 法 又 叫 做
|
|
0_74_77.mp3
|
regularization based 的 方 法
|
|
0_77_79.mp3
|
那 這 個 面 向
|
|
0_79_80.mp3
|
這 個 研 究 的 面 向
|
|
0_80_82.mp3
|
在 lifelong learning 的 領 域 裡 面
|
|
0_82_85.mp3
|
我 覺 得 是 發 展 得 最 完 整 的
|
|
0_85_87.mp3
|
所 以 等 一 下 我 們 會 花 比 較 多 的 時 間
|
|
0_87_90.mp3
|
來 講 selective synaptic plasticity
|
|
0_90_91.mp3
|
那 另 外 兩 個 面 向 呢
|
|
0_91_95.mp3
|
我 們 都 只 用 一 兩 頁 投 影 片 很 快 地 帶 過
|
|
0_95_98.mp3
|
那 你 會 發 現 作 業 裡 面 主 要 的 問 題
|
|
0_98_99.mp3
|
也 都 集 中 在
|
|
0_99_102.mp3
|
跟 regularization based 有 關 的 方 法 上 面
|
|
0_103_105.mp3
|
好 那 我 們 先 來 想 一 下
|
|
0_105_108.mp3
|
為 什 麼 catastrophic forgetting 這 件 事 情
|
|
0_108_109.mp3
|
會 發 生 呢
|
|
0_110_113.mp3
|
我 們 假 設 有 任 務 一 跟 任 務 二
|
|
0_113_114.mp3
|
這 兩 個 任 務
|
|
0_114_115.mp3
|
而 這 兩 個 任 務 呢
|
|
0_115_118.mp3
|
我 們 假 設 我 們 的 模 型 只 有 兩 個 參 數
|
|
0_118_120.mp3
|
θ1 跟 θ2
|
|
0_120_122.mp3
|
那 當 然 一 個 模 型 通 常 有 上
|
|
0_122_124.mp3
|
上 百 萬 上 億 個 參 數
|
|
0_124_126.mp3
|
不 過 我 們 假 設 只 有 兩 個 參 數
|
|
0_127_130.mp3
|
好 那 這 個 投 影 片 上 這 兩 張 圖
|
|
0_130_135.mp3
|
代 表 的 是 任 務 一 跟 任 務 二 的 loss function
|
|
0_135_137.mp3
|
也 就 是 在 任 務 一 上 面
|
|
0_137_141.mp3
|
如 果 你 的 θ1 跟 θ2
|
|
0_141_142.mp3
|
設 不 一 樣 的 值
|
|
0_142_144.mp3
|
你 就 會 有 不 一 樣 的 loss
|
|
0_144_148.mp3
|
那 我 們 用 顏 色 來 代 表 loss 的 大 小
|
|
0_149_151.mp3
|
如 果 顏 色 越 偏 藍 色
|
|
0_151_153.mp3
|
就 代 表 loss 越 大
|
|
0_153_154.mp3
|
顏 色 越 偏 白 色
|
|
0_156_157.mp3
|
不 好 意 思 我 剛 才 說 反
|
|
0_157_158.mp3
|
顏 色 越 偏 藍 色
|
|
0_158_160.mp3
|
代 表 loss 越 小
|
|
0_160_162.mp3
|
顏 色 越 偏 白 色
|
|
0_162_164.mp3
|
代 表 loss 越 大
|
|
0_164_167.mp3
|
好 所 以 左 右 兩 張 圖 分 別 就 是 任 務 一
|
|
0_167_170.mp3
|
跟 任 務 二 的 loss function
|
|
0_170_172.mp3
|
也 就 是 他 們 的 error surface
|
|
0_173_176.mp3
|
好 那 我 們 現 在 先 讓 模 型 訓 練 任 務 一
|
|
0_176_178.mp3
|
那 模 型 怎 麼 訓 練 任 務 一 呢
|
|
0_178_180.mp3
|
你 要 有 一 個 隨 機 初 始 化 的 參 數
|
|
0_180_183.mp3
|
我 們 這 邊 叫 它 θ0
|
|
0_184_186.mp3
|
然 後 我 們 會 用 gradient descent 的 方 法
|
|
0_186_189.mp3
|
去 調 整 θ0 的 參 數
|
|
0_189_192.mp3
|
那 你 就 按 照 gradient 的 方 向 呢
|
|
0_192_194.mp3
|
去 update θ0 的 參 數
|
|
0_194_196.mp3
|
得 到 θb
|
|
0_196_198.mp3
|
好 那 假 設 update 夠 多 次 數
|
|
0_198_200.mp3
|
你 覺 得 loss 降 得 夠 低 了
|
|
0_200_203.mp3
|
那 你 就 等 於 是 把 任 務 一 學 完 了
|
|
0_203_205.mp3
|
那 假 設 任 務 一 學 完 後
|
|
0_205_208.mp3
|
我 們 得 到 的 參 數 是 θb
|
|
0_208_212.mp3
|
接 下 來 我 們 得 繼 續 解 任 務 二
|
|
0_212_213.mp3
|
你 就 把 θb
|
|
0_213_215.mp3
|
同 樣 的 參 數 拷 貝 過 來
|
|
0_215_219.mp3
|
拷 貝 到 任 務 二 的 這 個 error surface 上 面
|
|
0_219_220.mp3
|
注 意 一 下
|
|
0_220_223.mp3
|
雖 然 左 右 兩 邊 error surface 是 不 一 樣 的
|
|
0_223_226.mp3
|
但 是 θb 我 們 這 邊 指 的 是 同 一 組 參 數
|
|
0_226_230.mp3
|
θb 是 用 任 務 一 訓 練 出 來 的 參 數
|
|
0_230_233.mp3
|
我 們 現 在 把 它 用 在 任 務 二 上
|
|
0_233_236.mp3
|
我 們 現 在 把 θb 放 在 任 務 二 上
|
|
0_236_238.mp3
|
繼 續 去 做 訓 練
|
|
0_239_240.mp3
|
那 在 任 務 二 上
|
|
0_240_244.mp3
|
我 們 有 另 外 一 個 不 一 樣 的 error surface
|
|
0_244_246.mp3
|
根 據 這 個 任 務 二 的 error surface
|
|
0_246_248.mp3
|
去 再 update 參 數
|
|
0_248_252.mp3
|
那 我 們 可 能 會 把 θb 往 右 上 角 移
|
|
0_253_255.mp3
|
那 得 到 θ*
|
|
0_255_258.mp3
|
θ* 是 訓 練 完 任 務 一
|
End of preview. Expand
in Data Studio
- Downloads last month
- 4