WERで文字起こしの精度を測定する
一方のボックスに正しい文字起こしを、もう一方のボックスに評価したい文字起こしを貼り付けるだけで、単語誤り率(WER)が確認できます。文字誤り率(CER)、単語認識精度(Word Accuracy)に加え、すべての置換・削除・挿入をハイライトした単語ごとの差分(Diff)も表示されます。すべての処理はブラウザ上で実行されるため、どちらの文字起こしデータも外部にアップロードされることはありません。
WERは、文字起こしが正解とどれだけ一致しているかを数値化するための標準的な指標です。音声認識の学術論文で報告され、チームが文字起こしツールの性能を比較する際や、文字起こしをそのまま納品できる品質か、それとも修正が必要かを判断する基準として広く使われています。
WER
置換・削除・挿入の合計数を正解テキストの単語数で割った値。
CER
文字単位での同様の編集回数。わずかな表記揺れや分かち書きをしない言語向け。
単語認識精度
1からWERを引いた値(高いほど良い)。下限は0です。
アライメント差分
すべての置換、削除、挿入を単語単位でマーク。
単語誤り率(WER)が実際に測定するもの
WERは、評価対象の文字起こしを正解(リファレンス)にするために必要な編集回数を数え、正解の総単語数で割ったものです。
WER = (S + D + I) / N
S は置換(誤って出力された単語)、D は削除(文字起こしで抜け落ちた正解の単語)、I は挿入(文字起こしに余計に追加された単語)です。N は正解テキストの総単語数を表します。このツールは2つの単語列をアライメント(位置合わせ)し、編集距離アルゴリズム(スペルチェッカーと同じ仕組み)を用いて最小の編集セットを特定するため、単純な左から右への比較ではなく、最も公平なスコアを算出します。
WERが0なら、正解と一言一句一致していることを意味します。WERが0.10なら、正解の10単語につき1回の編集が必要だったことを示します。初めて見る人が驚くかもしれませんが、WERは1.0(100%)を超えることもあります。文字起こしに正解よりも大幅に多くの余計な単語が含まれている場合、挿入(I)の数だけで正解単語数を上回ることがあるため、WER 120%といった結果もバグではなく正常な数値です。
WERの計算方法
- 正解であることがわかっているテキスト(リファレンス)を左のボックスに貼り付けます。これがすべての基準となるため、信頼できる正しいテキストを用意してください。
- 評価したい文字起こしを右のボックスに貼り付けます。
- 大文字・小文字や句読点を無視するかどうかを選択し、下部に表示されるWER、CER、精度、およびマークアップされた差分を確認します。
差分(Diff)こそが最も確認する価値のある部分です。単一の数値は「どれくらい悪いか」を教えてくれますが、差分は「どこが、なぜ間違っているのか」を示してくれます。エラーが散発的な聞き間違いなのか、それとも1文丸ごと抜け落ちているのかが一目でわかるため、その後の対処法を判断するのに役立ちます。
WERが実際の文字起こしよりも悪く見える理由
生のWERは、本質的なエラーではない差異に対しても厳格です。大文字・小文字や句読点を残したままだと、「Hello.」と「hello」は置換としてカウントされます。「OK」と「okay」、「twenty」と「20」なども同様です。これらは意味を変えませんが、それぞれがエラー数として加算されてしまいます。
そのため、2つの切り替えオプションが重要になります。音声コンテンツを比較する場合、カンマの位置ではなく単語が正しいかどうかが重要であるため、通常は大文字・小文字と句読点を無視する設定が適しています。一方、大文字・小文字や句読点も含めて納品物となる字幕ファイルなどを評価する場合は、このオプションをオフにしてください。どちらか一方だけが絶対的な正解というわけではありません。大切なのは、1つの設定を選んだら比較するすべての文字起こしで統一し、どの設定を使用したかを明記することです。
数字、スペルアウトされた単語、短縮形もスコアを悪化させる一般的な要因です。正解が「cannot」で文字起こしが「can’t」の場合、聞き手には全く気にならなくても置換として扱われます。厳密なベンチマーク測定を行う場合は両方のテキストをあらかじめ正規化(ノーマライズ)すべきですが、手軽な確認程度であればツールの切り替え設定だけで十分です。
公平なWER測定を行うために
大文字・小文字と句読点を無視する
音声コンテンツを評価する際の標準的な設定です。
数値を正規化する
両方のテキストで「20」か「twenty」のどちらかに表記を統一します。
複数のクリップで評価する
1つのクリップの結果は単なる1回の測定値にすぎず、確定的な判定にはなりません。
WER、CER、単語認識精度
単語認識精度(Word Accuracy)は単純に 1 - WER で計算され、数値が高いほど精度が良いことを示します。同じ注意点は伴うものの、レポートなどで直感的に理解しやすい数値です。なお、余計な単語の挿入が多くなると「全単語が間違い」以上の状態になり得るため、下限は0で固定されます。
文字誤り率(CER: Character Error Rate)は、単語ではなく文字単位で同様の編集距離を算出します。単語の区切りが曖昧な場合や、英語のように単語間にスペースを入れない言語(日本語など)、あるいはほぼ合っている単語に対して部分点を考慮したい場合には、CERの方が優れた指標となります。例えば「recognize」と「recognise」は、WERでは完全な置換(1単語丸ごとのエラー)となりますが、CERでは1文字の編集で済むため、惜しいミスに対してCERの方が低く、より公平なスコアになることがよくあります。
英語の音声認識ではWERをメインの指標として使い、WERが低すぎて僅かなミスに対するペナルティが厳しすぎると感じる場合はCERを確認し、エラー率という概念に馴染みのない相手に結果を提示する場合は単語認識精度を伝えるのがおすすめです。
単語誤り率(WER)を確認する対象者
文字起こしベンダーを比較しているチームは、同じ音声を各ベンダーで処理し、手作業で文字起こししたクリップを参照データ(リファレンス)として、それに対する各ツールの出力をスコア化します。WER(単語誤り率)を用いることで、「こちらのほうが良さそうに感じた」という感覚を、根拠のある客観的な数値に変換できます。
音声認識を研究する研究者や学生は、共通の指標としてWERを報告します。モデルの変更は、評価用の独立したリファレンスセット(held-out set)でWERが低下して初めて「改善」とみなされます。
字幕作成チームやローカライズチームは、文字起こしテキストを翻訳や字幕ファイルに渡す前にWERを確認します。この段階でのエラーは下流工程で連鎖的に拡大するためです。また、文字起こしサービスに費用を支払い、対価に見合う品質が得られたかどうかを確認したい場合も、推測に頼ることなくこのツールで直接測定できます。
数値を確認した後の次のステップ
評価した文字起こしの精度が低く、より精度の高いデータから作業を始めたい場合は、文字起こし生成ツールで話者ラベル付きの文字起こしを作成できます。また、比較対象となるリファレンスがない場合は、AI 文字起こしチェッカーを使って単一の文字起こしを校正できます。満足のいく文字起こしができたら、テキストからSRTへの変換ツールを使ってタイミング調整を行い、字幕ファイルに変換できます。
現在の文字起こしモデルと測定方法もご確認ください。
ScreenAppから文字起こしを取得して評価する
このページの測定ツールはお使いのデバイス上で動作し、アカウントは不要です。録音・録画内で話された内容や表示された内容について確認したい場合は、ScreenAppにアップロードしてください。質問をクリックすると、ScreenAppが開き、すぐに質問できる状態で起動します。
ScreenAppではトランスクリプト内の瞬間をクリックすると、プレーヤーが録音のそのポイントにジャンプしますため、どのような回答でも実際の録音・録画と照らし合わせて確認できます。
各プランの機能
このページのツールは完全無料で、今後も無料で利用できます。アカウントが必要になるのは、評価の前後の作業を行う場合です。
2つの文字起こしを評価
リファレンスとテスト対象の文字起こしを貼り付けるだけで、データをアップロードすることなくWER、CER、およびアライメントされた差分を取得できます。
クリップを文字起こし
クレジットカードは不要です。同じクリップをScreenAppにアップロードして、評価用の文字起こしを100+言語で取得できます。無料プランには各最大45分の録音の文字起こし2件、月あたり10回のAIチャットが含まれます。
Proを7日間お試し
Proは年払いで月額$19で、月あたり50回の文字起こしと50回のAIチャットが利用できます。初回のお支払い前に、すべてのPro機能を7日間利用してニーズを満たしているか確認できます。トライアルの対象はannual plans onlyです。トライアル利用規約:Card required。プランと利用規約をご確認ください。