001-01.手書き文字-日本語-人工知能で認識システム構築

サイトの紹介と使い方動画


created: 2021/09/24 modified: 2021/10/23

概要

  1. 1ページに複数行書かれた手書きの日本語文字を人工知能によって認識するシステムを構築したいと思います。
  2. このシステムは、完全自動の変換システムではなく、手作業との併用を想定しています。

現時点で想定される問題点

  1. 文字種とその数が把握できていません。
  2. 所有するコンピュータの性能が低いので、モデルを分割して行う必要がありますが、それを合成できるか確認が必要です。(複数モデルによる認識システム)
  3. 1行の文章の画像がある時、文字間を自動認識できるプログラムを書けるか確認が必要です。
  4. 行間の認識は、手作業でアノテーションする予定です。
  5. 1文字にどのくらいの学習用画像が必要か分かりません。
  6. 特に、漢字の場合にモデルに必要なレイヤーの種類と数が分かりません。
  7. 似た(人の目でも同じ文字と認識される)文字の扱いが問題です。

ステップ

  1. 第1ステップとして、一人の筆跡でシステムの検証を行います。
  2. 第2ステップとして、複数人の筆跡でシステムの運用検証を行います。
  3. 第3ステップとして、追加筆跡システムとその検証システムを作って、実運用の可能性を確かめます。
  4. 認識率とシステム構築の進捗を、複数回に分けて行います。(トライ&エラーによってシステムを完成させます。)

文字種と数

  1. 数字-10種類
  2. ひらがな-46種類
  3. カタカナ-46種類
  4. アルファベット(小文字)-26種類
  5. アルファベット(大文字)-26種類
  6. 記号-20種類
  7. 漢字-2136種類
  8. コンピュータに登録されているJISコードは1万を超えます。
  9. アルファベットの筆記体は、日本語とは別の難しさがあるので、今回は、除外します。

このシステムが対象とする文字種と数

  1. 上の見出し「文字種と数」の1-7を対象にします。
  2. すると、10+46+46+26+26+20+2136=2310文字種数になります。
画数別の漢字数
  1. 1画-2
  2. 2画-12
  3. 3画-31
  4. 4画-69
  5. 5画-99
  6. 6画-114
  7. 7画-153
  8. 8画-204
  9. 9画-193
  10. 10画-218
  11. 11画-215
  12. 12画-211
  13. 13画-172
  14. 14画-116
  15. 15画-121
  16. 16画-78
  17. 17画-43
  18. 18画-39
  19. 19画-24
  20. 20画-11
  21. 21画-6
  22. 22画-3
  23. 23画-1
  24. 24画-0
  25. 25画-0
  26. 26画-0
  27. 27画-0
  28. 28画-0
  29. 29画-1

学習モデルの合成(複数モデルの実装)

  1. モデルは、グループごとに作成します。
  2. 当面、数字グループ、カタカナグループ…に分類します。

文字間を自動で認識するプログラムの作成

  1. とりあえず、仮に命名した移動認識法を作ってみます。
  2. 基準となる文字の横のサイズを手動で設定します。
    単位はピクセル数で、最低値と最大値を設定します。
    この範囲で最も認識率の高い文字を採用します。
  3. 左側から、順番に認識させていきますが、行全体で考えれば改良の余地はありそうです。
  4. 認識率の合格確率を設定します。この合格確率を超えたら、移動認識を中止します。
  5. 不合格確率と再移動認識の最低値と最大値を設定します。
  6. それでも、不合格確率を超えなければ、認識不可文字と判定します。

行間認識

  1. 1行ごとに手作業で、矩形のアノテーションを付加します。
  2. 工数の把握が必要になります。

学習用画像

  1. システムの進捗により変更が必要ですが、1文字50画像を用意したいと思います。
  2. 50個は、同一の人の筆跡の場合を想定しています。
  3. サイズなどを考慮して学習用画像を用意したいと思います。
  4. 対象文字が2290文字種数あるので、x50=114,500画像が必要になります。

モデルの構築

  1. レイヤー種、レイヤー数の全てが予想できません。

unicode utf8 変換

  1. pandas でできる?

手順

モデルの実装

ステップ1

  1. 数字0~9までの手書き文字を60画像ずつ用意します。
  2. 60の画像を学習・内部評価用50枚、外部評価用10枚に分けます。
  3. 2,3のためのnumpy変換プログラムを作成します。
  4. 学習用プログラムを作成します(暫定モデルの作成)。
  5. 評価用プログラムを作成します。

ステップ2

  1. カタカナでステップ1と同じ作業を行います。

最後に

  1. このサイトのコンテンツ中、現在のところ最大のプロジェクトになります。
  2. 気長にやっていきます。
  3. もし文字認識が終わったら、音声認識と自然言語認識をやりたいと思っています。

次の記事:002-01.手書き文字-日本語-画像の準備作業

お問合せ・御要望

  • お問合せ
  • トップへ戻る
    タイトルとURLをコピーしました