強化学習・コンピュータービジョン研究.

学部生時代には、強化学習とコンピュータビジョンに関する研究を数多く行いました。
その中から、コードを公開している3つのプロジェクトを集めました。

01

強化学習・グラフニューラルネットワーク

2018.09–2021.06・学部研究生

経路探索の例

強化学習を用いてTSPの経路を生成するグラフモデル

都市をグラフで表現し、経路へ追加する都市を強化学習で選ぶ探索プログラムを実装しました。

Reinforcement learningStructure2VecDeep Q-learningGraph neural networkTensorFlowNumPy

実際に行ったこと

参考文献のグラフ表現とQ学習(Q-learning)のアイデアに基づき、TSP環境、モデル、学習ループ、挿入ルールを統合する実験用コードを実装しました。

成果

都市の位置、距離、訪問状況をグラフとして入力し、モデルが選んだ都市を挿入ヒューリスティックで経路に追加する探索プログラムを作成しました。公開コードでベースラインと比較する実験を行い、学習がうまく機能しなかった原因も突き止めました。

  • ステップ2 AI都市選択+ヒューリスティックパス挿入
スタディを表示
02

コンピュータービジョン・画像分類

2021年・学部研究生

Fashion-MNIST予測の例

ResNetで服の写真を分類するモデル

K-Fashionの衣類写真をドレス・アウター・パンツ・トップスに分類するモデルを学習し、クラス別の誤りを分析しました。

TensorFlowResNet50V2Class imbalanceError analysis

実際に行ったこと

事前学習済みのResNet50V2を用いた衣類分類の学習コードと、クラスごとのサンプリング・評価フローを実装し、混同行列(コンフュージョンマトリックス)を用いて誤分類を分析しました。

成果

K-Fashionの写真をドレス・アウター・パンツ・トップスに分類する学習・分析パイプラインを作りました。その後、公開データFashion-MNISTで設定を一つずつ変え、データ拡張とショートカット接続が予測に与える影響を切り分けて確認しました。

  • 4種 ドレス・アウター・パンツ・トップスの分類
スタディを表示
03

コンピュータービジョン・バーチャル試着

2021年・学部研究生

ポーズ・人体解析の前処理の例

人物写真に服を着せて試せるバーチャル試着アプリ

Androidアプリで人物写真と着せたい衣服を選ぶと、サーバーがバーチャル試着画像を返す処理フローを実装しました。

PyTorchVirtual try-onHuman parsingFlaskAndroid

実際に行ったこと

公開されているバーチャル試着モデルに必要な入力前処理と衣類マスクを構築し、FlaskアップロードAPIとKotlin・Retrofit Androidクライアントを接続しました。

成果

人物写真と選択した衣類を受け取り、前処理、試着画像の生成、そしてアプリへの結果の返却までの一連の統合フローを構築しました。生成モデル、ポーズ推定モデル、人体パースモデルは既存のものを再利用し、入力構成、マスク処理、サーバーとアプリ間の連携部分は独自に実装しました。

  • ステップ3 前処理 → 着用イメージ生成 → アプリへ返送
スタディを表示

ここでは、形状と製造について扱います。

学部生時代に関心を持っていた「表現学習」と「エラー分析」について、
現在は3D形状データの加工フィーチャ認識やCAD/CAM自動化へと広げています。

最近の研究開発プロジェクト