Topics

Reportreport

Deep Learning Tenjin#1 参加レポ

はじめに

2022/06/25 (Sat) に行われたDeepLearningTenjin #1 の様子を振り返りながらお伝えします。

DeepLearning Tenjin とは

https://engineercafe.jp/ja/event/4184

各自が教材を動かしながらコードを書く体験していくことで、ディープラーニングの代表的な手法を学び、「みんなでAIを造れる側になろう!」という集まりです。

数年前から続くAIブームは今なお熱く、一般への訴求だけでなく技術者にとっても活用は当たり前のものとなってきました。

新規手法の開拓は日夜続いていますが、歴史的に体系化されてきた手法は厚く根幹を成していて、機械学習において先人たちがどのような実装、分析、効果検証を行ってきたかをコードを書きながら学んでいきます。

福岡市エンジニアカフェのハッカサポーターにこの春就任された 株式会社SCSK株式会社の岡部浩太郎さんの協力のもと、およそ月に一回集まる場を設けました。

今回は初回であり、岡部さんの解説講義を皮切りに、3分割での構成になっており、それぞれ振り返っていきます。

前編

まずは始めに本回のカリキュラムをご説明。

今回のMNISTデータベースのdNNでの活用を皮切りに、CNNへの流れを進め、一般的な機械学習を用いた画像処理を行い、最終的には生産ラインの出荷前製品の不良箇所をヒートマップを用いて検出するワークショップを行う予定です。


岡部さんによるディープラーニングの基礎と変遷をみんなで学んでゆきます。

一通りのディープラーニングの変遷とトレンドについて体系だって学んだ後、Google Colabolatoryを用いてコードを実行していきます。

まずは簡単に標準出力、四則演算、繰り返し、条件分岐などPythonの文法のを学びつつ、一旦休憩。


ちなみに今回のイベントはYoutubeからもアーカイブをご覧いただけます

中編

全結合を用いた手書き数字を判別するためのニューラルネットについて学びます。

Lossの動きに注目してみましょう。

クラウド実行環境における学習においてはGPUを用いるのがポイントとのことです。

無料枠内で収まる学習ならガンガン使ったほうがお得ですね。

(CPUでの演算と比べて体感10倍以上学習にかかる時間が変わります。学びがありそうなのできちんとベンチマーク取ればよかった…)

会中質問が出ていましたが、学習させたモデルは揮発してしまうので、学習から結果の出力まで一気に行うほうが良さそうですが、今後学習にかかる時間が長くなってきたら保存したいこともあるかもしれません。

以下のような記事が参考になりました。

Google Colaboratoryで学習したモデルをローカルに保存・モデルに重みをロード・実行する – Qiita https://qiita.com/yottyann1221/items/d465c033dd70b2e53598

記事中では実機への保存となっていますが、Google Driveに保存する方法もあるようです。

せっかく作った学習モデルが消えるのは初心者として悲しいですし、作ったモデルを再利用したり、クラウド環境のGPUを用いて効率的にモデルを生成することにも活用できそうですね!

後編

いよいよ実際に学習させたモデルを用いて判別を行っていきます。

さて結果は….

。。。

53.7%!!!

い、意外と正答率が低いですね…

それもそのはずで、現代からするとこの手法には改良点があり、例えばモデルを学習する際のOptimizer(最適化手法)としてSGDを用いずAdumを代用する、dNNの定義パラメータを調整する、エポック数を増やす、といった調節で飛躍的に精度を伸ばすことができるそうです。

会場では主催者の岡部さんやエンジニアカフェのスタッフ含む参加者全員で正答率の上昇コンペを行っていましたが、今回は98%もの正答率を叩き出したツワモノも…!

みんなで精度上昇から見るAIのチューニングの楽しさを学んだところで、いつかKaggleやSignateで腕試しをしたいね、と締めくくった次第です。

終わりに

文中にも記載いたしましたが、今回参加出来なかった方も、振り返り動画が公開されていますのでご覧ください。資料等はconnpassにリンクの記載がございます。

また、7/29 (金)の午後からは今回の講義に参加できなかった方と学びを深めたい方に向けた補講編が、続いて8/6(土)の夕方には第二回が予定されています。

イベント公開まで今しばらくお待ち下さい。

ツイッターハッシュタグは #DeepLearningTenjin をチェック!

SHARE ON