本文へスキップ

シリーズ27言語の検証記録

英語:違う箇所で間違える二つのリファレンストラック

· Zeyu Si

このページの内容

The Departed のバーでの尋問の場面で、ある人物が「I don't know what they do.」と言います。Doubao はこれを「You know what they do.」と書き起こし、意味が反転しました。AssemblyAI はその行を正しく書きました。ところが同じ場面で、AssemblyAI は決定的な否認「I am not a fucking cop!」をまるごと落としました。ここはほかの二つのトラックが埋められます。

四つの音声すべてを一行ずつ読んだ結果、この二つのエンジンが同じ箇所でつまずくことはほとんどないとわかりました。これが英語のリファレンストラックの背後にある原則です。

テスト用の音声

アメリカとイギリスの映画から四場面。それぞれが一種類の難しさを軸にしています。

  • Gosford Park(2001):上流階級のイギリス英語のアクセント、階下での使用人たちの夕食、背景雑音の中での速いやり取りと割り込み。
  • The Social Network(2010):宣誓証言でのクリアで速いアメリカ英語。法律用語と人名が密集。
  • The Departed(2006):ボストン訛り、バーの雑音、スラングと罵り言葉、低い声での威圧的な尋問。
  • August: Osage County(2013):食卓で家族全員が互いの話にかぶせて話す。

このシリーズの最初の記事 の三つの層で言えば、The Social Network は中間の層の近く、ほかの三つは最も難しい層です。基本の層はカバーしていません。

候補

ElevenLabs、AssemblyAI、Doubao、Speechmatics(二つのモデル)、Soniox、Deepgram、Gladia(二つのモデル)、Gemini、さらに Qwen の二つのモデルと FunASR。iFlytek は最初の音声だけで試しました。英語専用モードがないため、そこでやめました。

六つのレッドライン、エンジンごとに

作り出された文。 Gosford Park で、「I heard Lady Sylvia spoke out of turn」は Soniox から「My hand, ladies, don't be a stroke out at 20 minutes PC.」として出てきました。Deepgram は同じ音声に、誰も言っていない二つの名前「Sister Fredrick」と「Percy」を足しました。Qwen のモデルの一つは、The Departed に音声にない一文「buy some bananas.」を丸ごと書き込みました。

否定の反転。 英語で最も多かったレッドラインです。The Departed で、Soniox と Deepgram はどちらも「you're still not a cop」から「not」を落としました。Speechmatics は「Unless I stop them」を「as I stop them」にしました。Doubao の反転はこの記事の冒頭のものです。Qwen には否定を保つよう明示したより厳しいプロンプトを与えましたが、それでも「not」を落としました。

ループと崩壊。 August: Osage County で、ある人物が「Eat your fish」と五回叫びます。Gladia は一回だけ書き起こして途切れ、約九語を失いました。

一節の脱落。 Deepgram は Gosford Park の大きな部分を飛ばし、そこでの誤りはどのエンジンよりも多くなりました。

言語ドリフト。 この四つの音声ではありませんでした。

内容の挿入。 上で挙げた作り出された名前のほか、Speechmatics は「a 3L」(ロースクールの三年生)を「a three year old」にしました。

何を選んだか

メイントラック:ElevenLabs Scribe v2。 四つのうち三つの音声で最もきれいか二番目にきれいで、どの音声でも崩れませんでした。

リファレンストラック(優先順):

  1. AssemblyAI(universal-2):四つの音声すべてで作り出された文も反転もなく、全体の構造が最もしっかりしていました。唯一の取りこぼしは The Departed での否認で、それは脱落であって作り出しではありません。
  2. Doubao:どの音声でも作り出された文はなし。「Eat your fish」の五回の叫びをすべて拾い、その音声では AssemblyAI より正確でした。AssemblyAI とは作りが違い、違う箇所で間違えます。
  3. Gemini:2026年8月26日に追加。26 の言語にわたってテストしたとき、英語はそのまま投入できるグループに入りました。August: Osage County の怒鳴り合いではレッドラインがありませんでした。

私たちの選択に不利な証拠

  • メイントラックも Doubao とまったく同じ間違いをした。 後で音声を再実行すると、ElevenLabs も「You know what they do.」を出しました。初回は Gosford Park の一行をまるごと崩していましたが、再実行ではその誤りは消えていました。同じ入力が毎回同じ出力になるとは限らないので、私たちはたまたま数えた誤りの数ではなく、誤りの種類でエンジンを判断しています。
  • Gemini も否定を反転させる。 最初に予備のメイントラックとしてテストしたとき、The Departed の「Yes. Yes, yes.」を「No. Yes! Yes, yes!」に、「I don't know」を「I know」にしました。八月のラウンドでは、Gosford Park の Lady Sylvia の行を無関係な二つの文に書き換えました。それでも追加したのは、大規模言語モデルとして、音響エンジンとは違う形で間違えるからです。ところが The Departed のあの一行では、Doubao、Gemini、そして再実行の ElevenLabs がそろって間違えました。エンジンの誤りは常に独立しているわけではなく、それへの良い対処法はまだありません。
  • WER が最も低いエンジンは選ばれなかった。 Gosford Park で WER が最も低かったのは Speechmatics(11.4%)、August: Osage County では Soniox(4.7%)でした。どちらもほかの音声で文を作り出したり否定を反転させたりしたので、見送りました。

未解決の問いと限界

  • 四つの音声はすべて映画からで、本物のインタビューは一つもなく、基本の層のものもありません。
  • カバーしたアクセントはイギリス英語とアメリカ英語(ボストン訛りを含む)です。ほかの英語のアクセントはテストしていません。
  • Doubao の反転を見たのは一回だけですが、最も危険な種類の誤りです。再実行の後、四つのトラックの中でその行を正しく書けたのは AssemblyAI だけでした。だから否定と意味の反転については、統合のステップは多数派に従いません。文脈からの確かな証拠がなければ、その行には人が確認するよう印を付けます。

英語の文字起こしページ

執筆Zeyu Si